import{s as _t,o as Ct,n as at}from"../chunks/scheduler.cc52f4b9.js";import{S as kt,i as Rt,e as u,s as a,c as r,h as Wt,a as d,d as s,b as n,f as gt,g as o,j as y,k as Zt,l as Xt,m as l,n as m,t as c,o as f,p as M}from"../chunks/index.85964560.js";import{T as tt}from"../chunks/Tip.72f3abad.js";import{C as It,H as st,E as zt}from"../chunks/MermaidChart.svelte_svelte_type_style_lang.4cab8d21.js";import{Y as lt}from"../chunks/Youtube.2feacd03.js";import{C as w}from"../chunks/CodeBlock.b43b1e5c.js";import{C as vt}from"../chunks/CourseFloatingBanner.d24cbe55.js";import{F as Ft}from"../chunks/FrameworkSwitchCourse.17523e75.js";function Vt(b){let p,$="ควรสังเกตว่าโมเดล 🤗 Transformers มีความสามารถพิเศษที่โมเดล Keras ส่วนใหญ่ไม่มี นั่นก็คือ พวกมันสามารถเลือก loss ที่เหมาะสมได้เอง โดยมันจะใช้ค่า loss นี้เป็นค่าเริ่มต้นหากคุณไม่ได้ใส่อากิวเมนต์ loss ในเมธอด <code>compile()</code> นอกจากนี้ควรระวังว่า การจะใช้ internal loss คุณจะต้องส่ง labels ของคุณเข้าไปเป็นส่วนหนึ่งของ input ด้วย ห้ามส่งแยกกัน ซึ่งเป็นวิธีการปกติที่ใช้จัดการกับ labels กับโมเดล Keras คุณจะเป็นตัวอย่างนี้ใน Part 2 ของคอร์ส ซึ่งการจะกำหนด loss function ให้ถูกต้องนั้นจะยุ่งยากเล็กน้อย อย่างไรก็ตาม สำหรับงาน sequence classification สามารถใช้ standard Keras loss function ได้โดยไม่มีปัญหา ซึ่งเราก็จะใช้แบบนั้นในตัวอย่างนี้";return{c(){p=u("p"),p.innerHTML=$},l(i){p=d(i,"P",{"data-svelte-h":!0}),y(p)!=="svelte-8fo539"&&(p.innerHTML=$)},m(i,h){l(i,p,h)},p:at,d(i){i&&s(p)}}}function Yt(b){let p,$="ให้ระวังข้อผิดพลาดที่เกิดขึ้นบ่อยตรงนี้ - คุณ <em>สามารถ</em> แค่ใส่ชื่อของ loss เป็น string เข้าไปใน Keras แต่โดยค่าเริ่มต้นแล้ว Keras จะสันนิษฐานว่าคุณได้ใช้ softmax กับ outputs ของคุณไปแล้ว อย่างไรก็ตามมีโมเดลจำนวนมากที่ให้ผลลัพธ์เป็นค่าก่อนที่จะใช้ softmax ซึ่งเรียกว่า logits เราจะต้องบอก loss function ว่าโมเดลของเราทำอะไร และวิธีการเดียวที่จะทำได้คือการ call โดยตรง ไม่ใช่การส่งชื่อที่เป็น string เข้าไป";return{c(){p=u("p"),p.innerHTML=$},l(i){p=d(i,"P",{"data-svelte-h":!0}),y(p)!=="svelte-10zipaj"&&(p.innerHTML=$)},m(i,h){l(i,p,h)},p:at,d(i){i&&s(p)}}}function Ht(b){let p,$="ไลบรารี่ 🤗 Transformers ก็มีฟังก์ชั่น <code>create_optimizer()</code> ซึ่งจะสร้าง <code>AdamW</code> optimizer โดยใช้ learning rate decay ซึ่งเป็นทางลัดที่สะดวก และคุณจะได้เห็นรายละเอียดใน section ต่อ ๆ ไปในคอร์ส";return{c(){p=u("p"),p.innerHTML=$},l(i){p=d(i,"P",{"data-svelte-h":!0}),y(p)!=="svelte-1lsyz1g"&&(p.innerHTML=$)},m(i,h){l(i,p,h)},p:at,d(i){i&&s(p)}}}function Qt(b){let p,$='💡 ถ้าคุณต้องการจะอัพโหลดโมเดลของคุณขึ้น Hub ระหว่างที่ทำการเทรนโดยอัตโนมัติ ให้ใส่ <code>push_to_hub=True</code> เข้าไปใน <code>TrainingArguments</code> ด้วย โดยเราจะเรียนรู้เพิ่มเติมใน <a href="/course/chapter4/3">Chapter 4</a>';return{c(){p=u("p"),p.innerHTML=$},l(i){p=d(i,"P",{"data-svelte-h":!0}),y(p)!=="svelte-t794qd"&&(p.innerHTML=$)},m(i,h){l(i,p,h)},p:at,d(i){i&&s(p)}}}function Bt(b){let p,$,i,h,J,ce,g,fe,Z,Me,_,ue,C,nt='หลังจากที่คุณได้ทำการประมวลผลข้อมูลใน section ที่แล้ว ก็เหลืองานอีกไม่กี่ขั้นตอนเท่านั้นในการเทรนโมเดล ควรระวังไว้ว่าคำสั่ง <code>model.fit()</code> จะรันบน CPU ได้ช้ามาก ๆ ถ้าคุณไม่มีการติดตั้ง GPU คุณสามารถเข้าถึง free GPUs หรือ TPUs ได้บน <a href="https://colab.research.google.com/" rel="nofollow">Google Colab</a>',de,k,pt="โค้ดตัวอย่างข้างล่างนี้สันนิษฐานไว้ว่าคุณได้ทำตัวอย่างใน section ที่แล้วเรียบร้อยแล้ว นี่คือการสรุปสั้น ๆ เพื่อทบทวนสิ่งที่คุณต้องเตรียมให้พร้อม:",ye,R,$e,W,he,X,it="โมเดล TensorFlow ที่ import มาจากไลบรารี่ 🤗 Transformers นั้นเป็นโมเดล Keras อยู่แล้ว นี่คือการแนะนำสั้น ๆ ให้รู้จักกับ Keras",be,I,we,z,rt="นั่นหมายความว่า เมื่อเรามีข้อมูลแล้ว ก็เหลืองานแค่เล็กน้อยที่ต้องทำก่อนจะเริ่มเทรนโมเดลด้วยข้อมูลของเรา",Je,v,Te,F,ot='เหมือนกับใน <a href="/course/chapter2">previous chapter</a> เราจะใช้ <code>AutoModelForSequenceClassification</code> class โดยมี 2 labels:',je,V,Ue,Y,mt='คุณจะสังเกตได้ว่าคุณจะได้รับคำเตือนหลังจากที่สร้างโมเดลขึ้นมา ไม่เหมือนกับใน <a href="/course/chapter2">Chapter 2</a> ที่เป็นเช่นนี้เนื่องจาก BERT ยังไม่ได้มีการ pretrained ให้สามารถจำแนกคู่ประโยค ดังนั้น head ของโมเดลที่เทรนไว้แล้วจะถูกตัดทิ้งไป และจะใส่ head ใหม่ที่เหมาะกับการจำแนกลำดับ (sequence classification) เข้ามาแทน คำเตือนนี้เป็นการแจ้งว่า weights บางส่วนจะไม่ถูกนำมาใช้ (weights ของ head ที่ถูกตัดทิ้งไป) และ weights บางส่วน (ของ head ใหม่) จะถูกสร้างขึ้นแบบสุ่ม (randomly initialized) และจบคำเตือนโดยการส่งเสริมให้เราเทรนโมเดล ซึ่งก็เป็นสิ่งที่เรากำลังจะทำตอนนี้',Ge,H,ct=`เพื่อจะ fine-tune โมเดลด้วย dataset ของเรา เราแค่ต้องทำการ <code>compile()</code> โมเดลของเราแล้วส่งข้อมูลเข้าโดยใช้เมธอด <code>fit()</code> ซึ่งจะเป็นการเริ่ม fine-tuning (ซึ่งจะใช้เวลาไม่กี่นาทีบน GPU) และรายงาน training loss ระหว่างการเทรน รวมถึง validation loss เมื่อจบแต่ละ epoch
To fine-tune the model on our dataset, we just have to <code>compile()</code> our model and then pass our data to the <code>fit()</code> method. This will start the fine-tuning process (which should take a couple of minutes on a GPU) and report training loss as it goes, plus the validation loss at the end of each epoch.`,ge,T,Ze,Q,_e,j,Ce,B,ke,x,Re,N,ft=`ถ้าคุณลองโค้ดข้างต้น มันก็จะรันได้ แต่คุณจะพบว่า loss จะลดลงได้ช้ามาก หรือลดลงเพียงบางช่วง ซึ่งสาเหตุหลักมาจาก <em>learning rate</em>
ซึ่งก็เหมือนกับ loss ถ้าเราส่งชื่อของ optimizer เป็น string เข้าไป Keras จะ initialize ตัว optimizer นั้นด้วยค่าเริ่มต้นสำหรับทุก ๆ parameters รวมถึง learning rate ด้วย
แต่จากประสบการณ์ที่ยาวนาน เรารู้ว่าโมเดล transformer จะได้ประโยชน์จาก learning rate ที่มีค่าต่ำมากกว่าค่าเริ่มต้นของ Adam (ซึ่งมีค่าเริ่มต้นคือ 1e-3 หรือ 10 ยกกำลัง -3 หรือ 0.001.)
ค่า learning rate ที่ 5e-5 (0.00005) ซึ่งน้อยกว่าค่าเริ่มต้นของ Adam ถึง 20 เท่า เป็นค่าที่เหมาะกับการเริ่มต้นมากกว่า`,We,E,Mt=`นอกเหนือไปจากการลด learning rate เรายังมี trick อีกอย่างหนึ่งคือ เราสามารถลด learning rate ลงอย่างช้า ๆ ได้ ซึ่งในงานวิจัยคุณมักจะเห็นการทำเช่นนี้ถูกเรียกว่า
<em>decaying</em> หรือ <em>annealing</em> the learning rate ซึ่งใน Keras วิธีการที่ดีที่สุดก็คือการใช้ <em>learning rate scheduler</em> โดยตัวที่น่าใช้คือ
<code>PolynomialDecay</code> โดยมีการตั้งค่าเริ่มต้นให้ลด learning rate ลงแบบ linearly จากค่าเริ่มต้นไปจนถึงค่าสุดท้ายเมื่อจบการเทรน ซึ่งเป็นสิ่งที่เราต้องการ
เพื่อที่จะใช้งาน scheduler ได้อย่างถูกต้อง เราจะต้องระบุว่าจะเทรนนานเท่าไร เราจะคำนวณเวลาในการเทรนเป็น <code>num_train_steps</code> ดังโค้ดข้างล่างนี้`,Xe,S,Ie,U,ze,q,ut="ตอนนี้เราก็มี optimizer ตัวใหม่เอี่ยม และสามารถนำไปลองเทรนได้เลย ขั้นแรก เรามาโหลดโมเดลขึ้นมากใหม่ เพื่อ reset weights จากการเทรนก่อนหน้านี้ จากนั้นเราก็จะ compile โมเดลโดยใช้ optimizer ตัวใหม่",ve,A,Fe,L,dt="ตอนนี้เราก็ fit อีกรอบได้เลย:",Ve,P,Ye,G,He,D,Qe,K,Be,O,yt="การเทรน และการมองดู loss ค่อย ๆ ลดลงนั้นเยี่ยมไปเลย แต่ถ้าสิ่งที่เราต้องการจริง ๆ คือการเอาผลลัพธ์จากโมเดลไปประเมินผล หรือนำไปใช้งานจริงใน production ล่ะ? เพื่อจะทำอย่างนั้น เราก็แค่ใช้เมธอด <code>predict()</code> ก็จะได้ผลลัพธ์เป็น <em>logits</em> จาก output head ของโมเดล (หนึ่งตัวต่อหนึ่งคลาส)",xe,ee,Ne,te,$t="เราสามารถแปลง logits เหล่านี้เป็นการทำนาย class ได้โดยการใช้ <code>argmax</code> เพื่อหา logit ที่มีค่าสูงสุด ซึ่งจะตรงกับ class ที่มีความน่าจะเป็นมากที่สุด:",Ee,se,Se,le,qe,ae,ht="ตอนนี้เรามาใช้ <code>preds</code> เพื่อคำนวณ metrics บางอย่างกันดีกว่า! เราสามารถโหลด metrics ที่เกี่ยวข้องกับ MRPC dataset ได้อย่างง่ายดายเหมือนกับที่เราโหลดชุดข้อมูล โดยการใช้ฟังก์ชั่น <code>evaluate.load()</code> โดยจะได้ผลลัพธ์เป็นออพเจ็กต์ที่มีเมธอด <code>compute()</code> ที่เราสามารถนำไปใช้ในการคำนวณ metric ได้:",Ae,ne,Le,pe,Pe,ie,bt='ผลลัพธ์ที่ได้อาจแตกต่างไปเล็กน้อย เนื่องจากมีการกำหนดค่า weight ของ model head ขึ้นมาแบบสุ่ม และอาจเปลี่ยนผลลัพธ์ใน metrics ได้ ซึ่งตรงนี้เราจะเห็นได้ว่าโมเดลของเราได้ accuracy ที่ 85.78% เมื่อทดสอบด้วย validation set และได้ค่า F1 score ที่ 89.97 ซึ่ง metrics ทั้งสองตัวนี้เป็น metrics ที่ใช้วัดผล MRPC dataset สำหรับ GLUE benchmark โดยตารางในรายงาน <a href="https://arxiv.org/pdf/1810.04805.pdf" rel="nofollow">BERT paper</a> ได้รายงานค่า F1 score ไว้ที่ 88.9 สำหรับ base model ซึ่งเป็นโมเดล <code>uncased</code> ในขณะที่โมเดลของเราเป็นโมเดล <code>cased</code> จึงเป็นเหตุให้มีผลลัพธ์ที่ดีกว่า',De,re,wt="ก็เป็นอันเสร็จสิ้นวิธีการ fine-tune โดยใช้ <code>Trainer</code> API ซึ่งตัวอย่างการ fine-tune กับ NLP tasks ส่วนใหญ่ที่ใช้บ่อยจะอยู่ใน Chapter 7 ถ้าคุณอยากฝึกทักษะการใช้ Keras API เพิ่มเติม ให้ลอง fine-tune โมเดลโดยใช้ GLUE SST-2 dataset โดยใช้การประมวลผลข้อมูลแบบที่คุณทำไว้ใน section 2",Ke,oe,Oe,me,et;return J=new Ft({props:{fw:b[0]}}),g=new It({props:{containerStyle:"float: right; margin-left: 10px; display: inline-flex; position: relative; z-index: 10;"}}),Z=new st({props:{title:"การ Fine-tune โมเดลด้วย Keras",local:"การ-fine-tune-โมเดลดวย-keras",headingTag:"h1"}}),_=new vt({props:{chapter:3,classNames:"absolute z-10 right-0 top-0",notebooks:[{label:"Google Colab",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/th/chapter3/section3_tf.ipynb"},{label:"Aws Studio",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/th/chapter3/section3_tf.ipynb"}]}}),R=new w({props:{code:"ZnJvbSUyMGRhdGFzZXRzJTIwaW1wb3J0JTIwbG9hZF9kYXRhc2V0JTBBZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMEF1dG9Ub2tlbml6ZXIlMkMlMjBEYXRhQ29sbGF0b3JXaXRoUGFkZGluZyUwQWltcG9ydCUyMG51bXB5JTIwYXMlMjBucCUwQSUwQXJhd19kYXRhc2V0cyUyMCUzRCUyMGxvYWRfZGF0YXNldCglMjJnbHVlJTIyJTJDJTIwJTIybXJwYyUyMiklMEFjaGVja3BvaW50JTIwJTNEJTIwJTIyYmVydC1iYXNlLXVuY2FzZWQlMjIlMEF0b2tlbml6ZXIlMjAlM0QlMjBBdXRvVG9rZW5pemVyLmZyb21fcHJldHJhaW5lZChjaGVja3BvaW50KSUwQSUwQSUwQWRlZiUyMHRva2VuaXplX2Z1bmN0aW9uKGV4YW1wbGUpJTNBJTBBJTIwJTIwJTIwJTIwcmV0dXJuJTIwdG9rZW5pemVyKGV4YW1wbGUlNUIlMjJzZW50ZW5jZTElMjIlNUQlMkMlMjBleGFtcGxlJTVCJTIyc2VudGVuY2UyJTIyJTVEJTJDJTIwdHJ1bmNhdGlvbiUzRFRydWUpJTBBJTBBJTBBdG9rZW5pemVkX2RhdGFzZXRzJTIwJTNEJTIwcmF3X2RhdGFzZXRzLm1hcCh0b2tlbml6ZV9mdW5jdGlvbiUyQyUyMGJhdGNoZWQlM0RUcnVlKSUwQSUwQWRhdGFfY29sbGF0b3IlMjAlM0QlMjBEYXRhQ29sbGF0b3JXaXRoUGFkZGluZyh0b2tlbml6ZXIlM0R0b2tlbml6ZXIlMkMlMjByZXR1cm5fdGVuc29ycyUzRCUyMnRmJTIyKSUwQSUwQXRmX3RyYWluX2RhdGFzZXQlMjAlM0QlMjB0b2tlbml6ZWRfZGF0YXNldHMlNUIlMjJ0cmFpbiUyMiU1RC50b190Zl9kYXRhc2V0KCUwQSUyMCUyMCUyMCUyMGNvbHVtbnMlM0QlNUIlMjJhdHRlbnRpb25fbWFzayUyMiUyQyUyMCUyMmlucHV0X2lkcyUyMiUyQyUyMCUyMnRva2VuX3R5cGVfaWRzJTIyJTVEJTJDJTBBJTIwJTIwJTIwJTIwbGFiZWxfY29scyUzRCU1QiUyMmxhYmVscyUyMiU1RCUyQyUwQSUyMCUyMCUyMCUyMHNodWZmbGUlM0RUcnVlJTJDJTBBJTIwJTIwJTIwJTIwY29sbGF0ZV9mbiUzRGRhdGFfY29sbGF0b3IlMkMlMEElMjAlMjAlMjAlMjBiYXRjaF9zaXplJTNEOCUyQyUwQSklMEElMEF0Zl92YWxpZGF0aW9uX2RhdGFzZXQlMjAlM0QlMjB0b2tlbml6ZWRfZGF0YXNldHMlNUIlMjJ2YWxpZGF0aW9uJTIyJTVELnRvX3RmX2RhdGFzZXQoJTBBJTIwJTIwJTIwJTIwY29sdW1ucyUzRCU1QiUyMmF0dGVudGlvbl9tYXNrJTIyJTJDJTIwJTIyaW5wdXRfaWRzJTIyJTJDJTIwJTIydG9rZW5fdHlwZV9pZHMlMjIlNUQlMkMlMEElMjAlMjAlMjAlMjBsYWJlbF9jb2xzJTNEJTVCJTIybGFiZWxzJTIyJTVEJTJDJTBBJTIwJTIwJTIwJTIwc2h1ZmZsZSUzREZhbHNlJTJDJTBBJTIwJTIwJTIwJTIwY29sbGF0ZV9mbiUzRGRhdGFfY29sbGF0b3IlMkMlMEElMjAlMjAlMjAlMjBiYXRjaF9zaXplJTNEOCUyQyUwQSk=",highlighted:`<span class="hljs-keyword">from</span> datasets <span class="hljs-keyword">import</span> load_dataset
<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoTokenizer, DataCollatorWithPadding
<span class="hljs-keyword">import</span> numpy <span class="hljs-keyword">as</span> np

raw_datasets = load_dataset(<span class="hljs-string">&quot;glue&quot;</span>, <span class="hljs-string">&quot;mrpc&quot;</span>)
checkpoint = <span class="hljs-string">&quot;bert-base-uncased&quot;</span>
tokenizer = AutoTokenizer.from_pretrained(checkpoint)


<span class="hljs-keyword">def</span> <span class="hljs-title function_">tokenize_function</span>(<span class="hljs-params">example</span>):
    <span class="hljs-keyword">return</span> tokenizer(example[<span class="hljs-string">&quot;sentence1&quot;</span>], example[<span class="hljs-string">&quot;sentence2&quot;</span>], truncation=<span class="hljs-literal">True</span>)


tokenized_datasets = raw_datasets.<span class="hljs-built_in">map</span>(tokenize_function, batched=<span class="hljs-literal">True</span>)

data_collator = DataCollatorWithPadding(tokenizer=tokenizer, return_tensors=<span class="hljs-string">&quot;tf&quot;</span>)

tf_train_dataset = tokenized_datasets[<span class="hljs-string">&quot;train&quot;</span>].to_tf_dataset(
    columns=[<span class="hljs-string">&quot;attention_mask&quot;</span>, <span class="hljs-string">&quot;input_ids&quot;</span>, <span class="hljs-string">&quot;token_type_ids&quot;</span>],
    label_cols=[<span class="hljs-string">&quot;labels&quot;</span>],
    shuffle=<span class="hljs-literal">True</span>,
    collate_fn=data_collator,
    batch_size=<span class="hljs-number">8</span>,
)

tf_validation_dataset = tokenized_datasets[<span class="hljs-string">&quot;validation&quot;</span>].to_tf_dataset(
    columns=[<span class="hljs-string">&quot;attention_mask&quot;</span>, <span class="hljs-string">&quot;input_ids&quot;</span>, <span class="hljs-string">&quot;token_type_ids&quot;</span>],
    label_cols=[<span class="hljs-string">&quot;labels&quot;</span>],
    shuffle=<span class="hljs-literal">False</span>,
    collate_fn=data_collator,
    batch_size=<span class="hljs-number">8</span>,
)`,wrap:!1}}),W=new st({props:{title:"การ Train โมเดล",local:"การ-train-โมเดล",headingTag:"h3"}}),I=new lt({props:{id:"rnTGBy2ax1c"}}),v=new lt({props:{id:"AUozVp78dhk"}}),V=new w({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMFRGQXV0b01vZGVsRm9yU2VxdWVuY2VDbGFzc2lmaWNhdGlvbiUwQSUwQW1vZGVsJTIwJTNEJTIwVEZBdXRvTW9kZWxGb3JTZXF1ZW5jZUNsYXNzaWZpY2F0aW9uLmZyb21fcHJldHJhaW5lZChjaGVja3BvaW50JTJDJTIwbnVtX2xhYmVscyUzRDIp",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> TFAutoModelForSequenceClassification

model = TFAutoModelForSequenceClassification.from_pretrained(checkpoint, num_labels=<span class="hljs-number">2</span>)`,wrap:!1}}),T=new tt({props:{$$slots:{default:[Vt]},$$scope:{ctx:b}}}),Q=new w({props:{code:"ZnJvbSUyMHRlbnNvcmZsb3cua2VyYXMubG9zc2VzJTIwaW1wb3J0JTIwU3BhcnNlQ2F0ZWdvcmljYWxDcm9zc2VudHJvcHklMEElMEFtb2RlbC5jb21waWxlKCUwQSUyMCUyMCUyMCUyMG9wdGltaXplciUzRCUyMmFkYW0lMjIlMkMlMEElMjAlMjAlMjAlMjBsb3NzJTNEU3BhcnNlQ2F0ZWdvcmljYWxDcm9zc2VudHJvcHkoZnJvbV9sb2dpdHMlM0RUcnVlKSUyQyUwQSUyMCUyMCUyMCUyMG1ldHJpY3MlM0QlNUIlMjJhY2N1cmFjeSUyMiU1RCUyQyUwQSklMEFtb2RlbC5maXQoJTBBJTIwJTIwJTIwJTIwdGZfdHJhaW5fZGF0YXNldCUyQyUwQSUyMCUyMCUyMCUyMHZhbGlkYXRpb25fZGF0YSUzRHRmX3ZhbGlkYXRpb25fZGF0YXNldCUyQyUwQSk=",highlighted:`<span class="hljs-keyword">from</span> tensorflow.keras.losses <span class="hljs-keyword">import</span> SparseCategoricalCrossentropy

model.<span class="hljs-built_in">compile</span>(
    optimizer=<span class="hljs-string">&quot;adam&quot;</span>,
    loss=SparseCategoricalCrossentropy(from_logits=<span class="hljs-literal">True</span>),
    metrics=[<span class="hljs-string">&quot;accuracy&quot;</span>],
)
model.fit(
    tf_train_dataset,
    validation_data=tf_validation_dataset,
)`,wrap:!1}}),j=new tt({props:{warning:!0,$$slots:{default:[Yt]},$$scope:{ctx:b}}}),B=new st({props:{title:"การปรับปรุงประสิทธิภาพในการเทรน",local:"การปรบปรงประสทธภาพในการเทรน",headingTag:"h3"}}),x=new lt({props:{id:"cpzq6ESSM5c"}}),S=new w({props:{code:"ZnJvbSUyMHRlbnNvcmZsb3cua2VyYXMub3B0aW1pemVycy5zY2hlZHVsZXMlMjBpbXBvcnQlMjBQb2x5bm9taWFsRGVjYXklMEElMEFiYXRjaF9zaXplJTIwJTNEJTIwOCUwQW51bV9lcG9jaHMlMjAlM0QlMjAzJTBBJTIzJTIwVGhlJTIwbnVtYmVyJTIwb2YlMjB0cmFpbmluZyUyMHN0ZXBzJTIwaXMlMjB0aGUlMjBudW1iZXIlMjBvZiUyMHNhbXBsZXMlMjBpbiUyMHRoZSUyMGRhdGFzZXQlMkMlMjBkaXZpZGVkJTIwYnklMjB0aGUlMjBiYXRjaCUyMHNpemUlMjB0aGVuJTIwbXVsdGlwbGllZCUwQSUyMyUyMGJ5JTIwdGhlJTIwdG90YWwlMjBudW1iZXIlMjBvZiUyMGVwb2Nocy4lMjBOb3RlJTIwdGhhdCUyMHRoZSUyMHRmX3RyYWluX2RhdGFzZXQlMjBoZXJlJTIwaXMlMjBhJTIwYmF0Y2hlZCUyMHRmLmRhdGEuRGF0YXNldCUyQyUwQSUyMyUyMG5vdCUyMHRoZSUyMG9yaWdpbmFsJTIwSHVnZ2luZyUyMEZhY2UlMjBEYXRhc2V0JTJDJTIwc28lMjBpdHMlMjBsZW4oKSUyMGlzJTIwYWxyZWFkeSUyMG51bV9zYW1wbGVzJTIwJTJGJTJGJTIwYmF0Y2hfc2l6ZS4lMEFudW1fdHJhaW5fc3RlcHMlMjAlM0QlMjBsZW4odGZfdHJhaW5fZGF0YXNldCklMjAqJTIwbnVtX2Vwb2NocyUwQWxyX3NjaGVkdWxlciUyMCUzRCUyMFBvbHlub21pYWxEZWNheSglMEElMjAlMjAlMjAlMjBpbml0aWFsX2xlYXJuaW5nX3JhdGUlM0Q1ZS01JTJDJTIwZW5kX2xlYXJuaW5nX3JhdGUlM0QwLjAlMkMlMjBkZWNheV9zdGVwcyUzRG51bV90cmFpbl9zdGVwcyUwQSklMEFmcm9tJTIwdGVuc29yZmxvdy5rZXJhcy5vcHRpbWl6ZXJzJTIwaW1wb3J0JTIwQWRhbSUwQSUwQW9wdCUyMCUzRCUyMEFkYW0obGVhcm5pbmdfcmF0ZSUzRGxyX3NjaGVkdWxlcik=",highlighted:`<span class="hljs-keyword">from</span> tensorflow.keras.optimizers.schedules <span class="hljs-keyword">import</span> PolynomialDecay

batch_size = <span class="hljs-number">8</span>
num_epochs = <span class="hljs-number">3</span>
<span class="hljs-comment"># The number of training steps is the number of samples in the dataset, divided by the batch size then multiplied</span>
<span class="hljs-comment"># by the total number of epochs. Note that the tf_train_dataset here is a batched tf.data.Dataset,</span>
<span class="hljs-comment"># not the original Hugging Face Dataset, so its len() is already num_samples // batch_size.</span>
num_train_steps = <span class="hljs-built_in">len</span>(tf_train_dataset) * num_epochs
lr_scheduler = PolynomialDecay(
    initial_learning_rate=<span class="hljs-number">5e-5</span>, end_learning_rate=<span class="hljs-number">0.0</span>, decay_steps=num_train_steps
)
<span class="hljs-keyword">from</span> tensorflow.keras.optimizers <span class="hljs-keyword">import</span> Adam

opt = Adam(learning_rate=lr_scheduler)`,wrap:!1}}),U=new tt({props:{$$slots:{default:[Ht]},$$scope:{ctx:b}}}),A=new w({props:{code:"aW1wb3J0JTIwdGVuc29yZmxvdyUyMGFzJTIwdGYlMEElMEFtb2RlbCUyMCUzRCUyMFRGQXV0b01vZGVsRm9yU2VxdWVuY2VDbGFzc2lmaWNhdGlvbi5mcm9tX3ByZXRyYWluZWQoY2hlY2twb2ludCUyQyUyMG51bV9sYWJlbHMlM0QyKSUwQWxvc3MlMjAlM0QlMjB0Zi5rZXJhcy5sb3NzZXMuU3BhcnNlQ2F0ZWdvcmljYWxDcm9zc2VudHJvcHkoZnJvbV9sb2dpdHMlM0RUcnVlKSUwQW1vZGVsLmNvbXBpbGUob3B0aW1pemVyJTNEb3B0JTJDJTIwbG9zcyUzRGxvc3MlMkMlMjBtZXRyaWNzJTNEJTVCJTIyYWNjdXJhY3klMjIlNUQp",highlighted:`<span class="hljs-keyword">import</span> tensorflow <span class="hljs-keyword">as</span> tf

model = TFAutoModelForSequenceClassification.from_pretrained(checkpoint, num_labels=<span class="hljs-number">2</span>)
loss = tf.keras.losses.SparseCategoricalCrossentropy(from_logits=<span class="hljs-literal">True</span>)
model.<span class="hljs-built_in">compile</span>(optimizer=opt, loss=loss, metrics=[<span class="hljs-string">&quot;accuracy&quot;</span>])`,wrap:!1}}),P=new w({props:{code:"bW9kZWwuZml0KHRmX3RyYWluX2RhdGFzZXQlMkMlMjB2YWxpZGF0aW9uX2RhdGElM0R0Zl92YWxpZGF0aW9uX2RhdGFzZXQlMkMlMjBlcG9jaHMlM0QzKQ==",highlighted:'model.fit(tf_train_dataset, validation_data=tf_validation_dataset, epochs=<span class="hljs-number">3</span>)',wrap:!1}}),G=new tt({props:{$$slots:{default:[Qt]},$$scope:{ctx:b}}}),D=new st({props:{title:"การทำนายผลของโมเดล",local:"การทำนายผลของโมเดล",headingTag:"h3"}}),K=new lt({props:{id:"nx10eh4CoOs"}}),ee=new w({props:{code:"cHJlZHMlMjAlM0QlMjBtb2RlbC5wcmVkaWN0KHRmX3ZhbGlkYXRpb25fZGF0YXNldCklNUIlMjJsb2dpdHMlMjIlNUQ=",highlighted:'preds = model.predict(tf_validation_dataset)[<span class="hljs-string">&quot;logits&quot;</span>]',wrap:!1}}),se=new w({props:{code:"Y2xhc3NfcHJlZHMlMjAlM0QlMjBucC5hcmdtYXgocHJlZHMlMkMlMjBheGlzJTNEMSklMEFwcmludChwcmVkcy5zaGFwZSUyQyUyMGNsYXNzX3ByZWRzLnNoYXBlKQ==",highlighted:`class_preds = np.argmax(preds, axis=<span class="hljs-number">1</span>)
<span class="hljs-built_in">print</span>(preds.shape, class_preds.shape)`,wrap:!1}}),le=new w({props:{code:"KDQwOCUyQyUyMDIpJTIwKDQwOCUyQyk=",highlighted:'(<span class="hljs-number">408</span>, <span class="hljs-number">2</span>) (<span class="hljs-number">408</span>,)',wrap:!1}}),ne=new w({props:{code:"aW1wb3J0JTIwZXZhbHVhdGUlMEElMEFtZXRyaWMlMjAlM0QlMjBldmFsdWF0ZS5sb2FkKCUyMmdsdWUlMjIlMkMlMjAlMjJtcnBjJTIyKSUwQW1ldHJpYy5jb21wdXRlKHByZWRpY3Rpb25zJTNEY2xhc3NfcHJlZHMlMkMlMjByZWZlcmVuY2VzJTNEcmF3X2RhdGFzZXRzJTVCJTIydmFsaWRhdGlvbiUyMiU1RCU1QiUyMmxhYmVsJTIyJTVEKQ==",highlighted:`<span class="hljs-keyword">import</span> evaluate

metric = evaluate.load(<span class="hljs-string">&quot;glue&quot;</span>, <span class="hljs-string">&quot;mrpc&quot;</span>)
metric.compute(predictions=class_preds, references=raw_datasets[<span class="hljs-string">&quot;validation&quot;</span>][<span class="hljs-string">&quot;label&quot;</span>])`,wrap:!1}}),pe=new w({props:{code:"JTdCJ2FjY3VyYWN5JyUzQSUyMDAuODU3ODQzMTM3MjU0OTAxOSUyQyUyMCdmMSclM0ElMjAwLjg5OTY1Mzk3OTIzODc1NDIlN0Q=",highlighted:'{<span class="hljs-string">&#x27;accuracy&#x27;</span>: <span class="hljs-number">0.8578431372549019</span>, <span class="hljs-string">&#x27;f1&#x27;</span>: <span class="hljs-number">0.8996539792387542</span>}',wrap:!1}}),oe=new zt({props:{source:"https://github.com/huggingface/course/blob/main/chapters/th/chapter3/3_tf.mdx"}}),{c(){p=u("meta"),$=a(),i=u("p"),h=a(),r(J.$$.fragment),ce=a(),r(g.$$.fragment),fe=a(),r(Z.$$.fragment),Me=a(),r(_.$$.fragment),ue=a(),C=u("p"),C.innerHTML=nt,de=a(),k=u("p"),k.textContent=pt,ye=a(),r(R.$$.fragment),$e=a(),r(W.$$.fragment),he=a(),X=u("p"),X.textContent=it,be=a(),r(I.$$.fragment),we=a(),z=u("p"),z.textContent=rt,Je=a(),r(v.$$.fragment),Te=a(),F=u("p"),F.innerHTML=ot,je=a(),r(V.$$.fragment),Ue=a(),Y=u("p"),Y.innerHTML=mt,Ge=a(),H=u("p"),H.innerHTML=ct,ge=a(),r(T.$$.fragment),Ze=a(),r(Q.$$.fragment),_e=a(),r(j.$$.fragment),Ce=a(),r(B.$$.fragment),ke=a(),r(x.$$.fragment),Re=a(),N=u("p"),N.innerHTML=ft,We=a(),E=u("p"),E.innerHTML=Mt,Xe=a(),r(S.$$.fragment),Ie=a(),r(U.$$.fragment),ze=a(),q=u("p"),q.textContent=ut,ve=a(),r(A.$$.fragment),Fe=a(),L=u("p"),L.textContent=dt,Ve=a(),r(P.$$.fragment),Ye=a(),r(G.$$.fragment),He=a(),r(D.$$.fragment),Qe=a(),r(K.$$.fragment),Be=a(),O=u("p"),O.innerHTML=yt,xe=a(),r(ee.$$.fragment),Ne=a(),te=u("p"),te.innerHTML=$t,Ee=a(),r(se.$$.fragment),Se=a(),r(le.$$.fragment),qe=a(),ae=u("p"),ae.innerHTML=ht,Ae=a(),r(ne.$$.fragment),Le=a(),r(pe.$$.fragment),Pe=a(),ie=u("p"),ie.innerHTML=bt,De=a(),re=u("p"),re.innerHTML=wt,Ke=a(),r(oe.$$.fragment),Oe=a(),me=u("p"),this.h()},l(e){const t=Wt("svelte-u9bgzb",document.head);p=d(t,"META",{name:!0,content:!0}),t.forEach(s),$=n(e),i=d(e,"P",{}),gt(i).forEach(s),h=n(e),o(J.$$.fragment,e),ce=n(e),o(g.$$.fragment,e),fe=n(e),o(Z.$$.fragment,e),Me=n(e),o(_.$$.fragment,e),ue=n(e),C=d(e,"P",{"data-svelte-h":!0}),y(C)!=="svelte-zhbory"&&(C.innerHTML=nt),de=n(e),k=d(e,"P",{"data-svelte-h":!0}),y(k)!=="svelte-qjrd18"&&(k.textContent=pt),ye=n(e),o(R.$$.fragment,e),$e=n(e),o(W.$$.fragment,e),he=n(e),X=d(e,"P",{"data-svelte-h":!0}),y(X)!=="svelte-h0k3zp"&&(X.textContent=it),be=n(e),o(I.$$.fragment,e),we=n(e),z=d(e,"P",{"data-svelte-h":!0}),y(z)!=="svelte-2jzcg"&&(z.textContent=rt),Je=n(e),o(v.$$.fragment,e),Te=n(e),F=d(e,"P",{"data-svelte-h":!0}),y(F)!=="svelte-fz2qel"&&(F.innerHTML=ot),je=n(e),o(V.$$.fragment,e),Ue=n(e),Y=d(e,"P",{"data-svelte-h":!0}),y(Y)!=="svelte-1a4jhzb"&&(Y.innerHTML=mt),Ge=n(e),H=d(e,"P",{"data-svelte-h":!0}),y(H)!=="svelte-wrjpu3"&&(H.innerHTML=ct),ge=n(e),o(T.$$.fragment,e),Ze=n(e),o(Q.$$.fragment,e),_e=n(e),o(j.$$.fragment,e),Ce=n(e),o(B.$$.fragment,e),ke=n(e),o(x.$$.fragment,e),Re=n(e),N=d(e,"P",{"data-svelte-h":!0}),y(N)!=="svelte-nb2avx"&&(N.innerHTML=ft),We=n(e),E=d(e,"P",{"data-svelte-h":!0}),y(E)!=="svelte-ikwpbg"&&(E.innerHTML=Mt),Xe=n(e),o(S.$$.fragment,e),Ie=n(e),o(U.$$.fragment,e),ze=n(e),q=d(e,"P",{"data-svelte-h":!0}),y(q)!=="svelte-1pmes1o"&&(q.textContent=ut),ve=n(e),o(A.$$.fragment,e),Fe=n(e),L=d(e,"P",{"data-svelte-h":!0}),y(L)!=="svelte-1sd85vv"&&(L.textContent=dt),Ve=n(e),o(P.$$.fragment,e),Ye=n(e),o(G.$$.fragment,e),He=n(e),o(D.$$.fragment,e),Qe=n(e),o(K.$$.fragment,e),Be=n(e),O=d(e,"P",{"data-svelte-h":!0}),y(O)!=="svelte-1vm9fpa"&&(O.innerHTML=yt),xe=n(e),o(ee.$$.fragment,e),Ne=n(e),te=d(e,"P",{"data-svelte-h":!0}),y(te)!=="svelte-wxsa79"&&(te.innerHTML=$t),Ee=n(e),o(se.$$.fragment,e),Se=n(e),o(le.$$.fragment,e),qe=n(e),ae=d(e,"P",{"data-svelte-h":!0}),y(ae)!=="svelte-1qjo1b4"&&(ae.innerHTML=ht),Ae=n(e),o(ne.$$.fragment,e),Le=n(e),o(pe.$$.fragment,e),Pe=n(e),ie=d(e,"P",{"data-svelte-h":!0}),y(ie)!=="svelte-1vg21xz"&&(ie.innerHTML=bt),De=n(e),re=d(e,"P",{"data-svelte-h":!0}),y(re)!=="svelte-1fpdryv"&&(re.innerHTML=wt),Ke=n(e),o(oe.$$.fragment,e),Oe=n(e),me=d(e,"P",{}),gt(me).forEach(s),this.h()},h(){Zt(p,"name","hf:doc:metadata"),Zt(p,"content",xt)},m(e,t){Xt(document.head,p),l(e,$,t),l(e,i,t),l(e,h,t),m(J,e,t),l(e,ce,t),m(g,e,t),l(e,fe,t),m(Z,e,t),l(e,Me,t),m(_,e,t),l(e,ue,t),l(e,C,t),l(e,de,t),l(e,k,t),l(e,ye,t),m(R,e,t),l(e,$e,t),m(W,e,t),l(e,he,t),l(e,X,t),l(e,be,t),m(I,e,t),l(e,we,t),l(e,z,t),l(e,Je,t),m(v,e,t),l(e,Te,t),l(e,F,t),l(e,je,t),m(V,e,t),l(e,Ue,t),l(e,Y,t),l(e,Ge,t),l(e,H,t),l(e,ge,t),m(T,e,t),l(e,Ze,t),m(Q,e,t),l(e,_e,t),m(j,e,t),l(e,Ce,t),m(B,e,t),l(e,ke,t),m(x,e,t),l(e,Re,t),l(e,N,t),l(e,We,t),l(e,E,t),l(e,Xe,t),m(S,e,t),l(e,Ie,t),m(U,e,t),l(e,ze,t),l(e,q,t),l(e,ve,t),m(A,e,t),l(e,Fe,t),l(e,L,t),l(e,Ve,t),m(P,e,t),l(e,Ye,t),m(G,e,t),l(e,He,t),m(D,e,t),l(e,Qe,t),m(K,e,t),l(e,Be,t),l(e,O,t),l(e,xe,t),m(ee,e,t),l(e,Ne,t),l(e,te,t),l(e,Ee,t),m(se,e,t),l(e,Se,t),m(le,e,t),l(e,qe,t),l(e,ae,t),l(e,Ae,t),m(ne,e,t),l(e,Le,t),m(pe,e,t),l(e,Pe,t),l(e,ie,t),l(e,De,t),l(e,re,t),l(e,Ke,t),m(oe,e,t),l(e,Oe,t),l(e,me,t),et=!0},p(e,[t]){const Jt={};t&1&&(Jt.fw=e[0]),J.$set(Jt);const Tt={};t&2&&(Tt.$$scope={dirty:t,ctx:e}),T.$set(Tt);const jt={};t&2&&(jt.$$scope={dirty:t,ctx:e}),j.$set(jt);const Ut={};t&2&&(Ut.$$scope={dirty:t,ctx:e}),U.$set(Ut);const Gt={};t&2&&(Gt.$$scope={dirty:t,ctx:e}),G.$set(Gt)},i(e){et||(c(J.$$.fragment,e),c(g.$$.fragment,e),c(Z.$$.fragment,e),c(_.$$.fragment,e),c(R.$$.fragment,e),c(W.$$.fragment,e),c(I.$$.fragment,e),c(v.$$.fragment,e),c(V.$$.fragment,e),c(T.$$.fragment,e),c(Q.$$.fragment,e),c(j.$$.fragment,e),c(B.$$.fragment,e),c(x.$$.fragment,e),c(S.$$.fragment,e),c(U.$$.fragment,e),c(A.$$.fragment,e),c(P.$$.fragment,e),c(G.$$.fragment,e),c(D.$$.fragment,e),c(K.$$.fragment,e),c(ee.$$.fragment,e),c(se.$$.fragment,e),c(le.$$.fragment,e),c(ne.$$.fragment,e),c(pe.$$.fragment,e),c(oe.$$.fragment,e),et=!0)},o(e){f(J.$$.fragment,e),f(g.$$.fragment,e),f(Z.$$.fragment,e),f(_.$$.fragment,e),f(R.$$.fragment,e),f(W.$$.fragment,e),f(I.$$.fragment,e),f(v.$$.fragment,e),f(V.$$.fragment,e),f(T.$$.fragment,e),f(Q.$$.fragment,e),f(j.$$.fragment,e),f(B.$$.fragment,e),f(x.$$.fragment,e),f(S.$$.fragment,e),f(U.$$.fragment,e),f(A.$$.fragment,e),f(P.$$.fragment,e),f(G.$$.fragment,e),f(D.$$.fragment,e),f(K.$$.fragment,e),f(ee.$$.fragment,e),f(se.$$.fragment,e),f(le.$$.fragment,e),f(ne.$$.fragment,e),f(pe.$$.fragment,e),f(oe.$$.fragment,e),et=!1},d(e){e&&(s($),s(i),s(h),s(ce),s(fe),s(Me),s(ue),s(C),s(de),s(k),s(ye),s($e),s(he),s(X),s(be),s(we),s(z),s(Je),s(Te),s(F),s(je),s(Ue),s(Y),s(Ge),s(H),s(ge),s(Ze),s(_e),s(Ce),s(ke),s(Re),s(N),s(We),s(E),s(Xe),s(Ie),s(ze),s(q),s(ve),s(Fe),s(L),s(Ve),s(Ye),s(He),s(Qe),s(Be),s(O),s(xe),s(Ne),s(te),s(Ee),s(Se),s(qe),s(ae),s(Ae),s(Le),s(Pe),s(ie),s(De),s(re),s(Ke),s(Oe),s(me)),s(p),M(J,e),M(g,e),M(Z,e),M(_,e),M(R,e),M(W,e),M(I,e),M(v,e),M(V,e),M(T,e),M(Q,e),M(j,e),M(B,e),M(x,e),M(S,e),M(U,e),M(A,e),M(P,e),M(G,e),M(D,e),M(K,e),M(ee,e),M(se,e),M(le,e),M(ne,e),M(pe,e),M(oe,e)}}}const xt='{"title":"การ Fine-tune โมเดลด้วย Keras","local":"การ-fine-tune-โมเดลดวย-keras","sections":[{"title":"การ Train โมเดล","local":"การ-train-โมเดล","sections":[],"depth":3},{"title":"การปรับปรุงประสิทธิภาพในการเทรน","local":"การปรบปรงประสทธภาพในการเทรน","sections":[],"depth":3},{"title":"การทำนายผลของโมเดล","local":"การทำนายผลของโมเดล","sections":[],"depth":3}],"depth":1}';function Nt(b,p,$){let i="pt";return Ct(()=>{const h=new URLSearchParams(window.location.search);$(0,i=h.get("fw")||"pt")}),[i]}class Ot extends kt{constructor(p){super(),Rt(this,p,Nt,Bt,_t,{})}}export{Ot as component};
