import{s as Q,n as G,o as I}from"../chunks/scheduler.37c15a92.js";import{S as K,i as O,g as s,s as a,r as H,A as V,h as i,f as n,c as o,j as F,u as B,x as w,k as J,y as W,a as l,v as z,d as A,t as k,w as S}from"../chunks/index.2bf4358c.js";import{Y as X}from"../chunks/Youtube.1e50a667.js";import{C as Z}from"../chunks/CourseFloatingBanner.15ba07e6.js";import{H as tt}from"../chunks/Heading.8ada512a.js";function et(U){let r,x,$,v,m,C,f,E,p,T,c,j="โมเดล encoder ใช้เพียงส่วน encoder จากโมเดล Transformer เท่านั้น ในแต่ละชั้น attention layer สามารถเข้าถึงคำทุกคำในประโยคได้ โมเดลเหล่านี้ส่วนใหญ่จะใช้ attention แบบสองทาง (หรือเรียกว่า bi-directional attention) และถูกเรียกว่า <em>โมเดล auto-encoding</em>",b,u,q="โมเดล pretrain ในกลุ่มนี้จะเทรนโดยการให้ประโยคเริ่มต้นและประโยควิบัติ(เช่น เว้นว่างคำบางคำในประโยค) และเป้าหมายของโมเดลคือหาวิธีสร้างประโยคเริ่มต้นให้ดีดังเดิม",P,h,N="โมเดล encoder เหมาะกับงานแบบนี้ที่สุด เพราะงานเหล่านี้ต้องการความเข้าใจประโยคทั้งประโยค ตัวอย่างงานแบบนี้เช่น การแยกแยะประโยค, การระบุคำเฉพาะในประโยค (รวมถึงการแยกแยะประเภทคำ), และการสกัดคำถามคำตอบ",L,d,Y="ตัวแทนโมเดลในกลุ่มนี้ได้แก่:",M,_,D='<li><a href="https://huggingface.co/transformers/model_doc/albert.html" rel="nofollow">ALBERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/bert.html" rel="nofollow">BERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/distilbert.html" rel="nofollow">DistilBERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/electra.html" rel="nofollow">ELECTRA</a></li> <li><a href="https://huggingface.co/transformers/model_doc/roberta.html" rel="nofollow">RoBERTa</a></li>',R,g,y;return m=new tt({props:{title:"โมเดล Encoder",local:"โมเดล-encoder",headingTag:"h1"}}),f=new Z({props:{chapter:1,classNames:"absolute z-10 right-0 top-0"}}),p=new X({props:{id:"MUqNwgPjJvQ"}}),{c(){r=s("meta"),x=a(),$=s("p"),v=a(),H(m.$$.fragment),C=a(),H(f.$$.fragment),E=a(),H(p.$$.fragment),T=a(),c=s("p"),c.innerHTML=j,b=a(),u=s("p"),u.textContent=q,P=a(),h=s("p"),h.textContent=N,L=a(),d=s("p"),d.textContent=Y,M=a(),_=s("ul"),_.innerHTML=D,R=a(),g=s("p"),this.h()},l(t){const e=V("svelte-u9bgzb",document.head);r=i(e,"META",{name:!0,content:!0}),e.forEach(n),x=o(t),$=i(t,"P",{}),F($).forEach(n),v=o(t),B(m.$$.fragment,t),C=o(t),B(f.$$.fragment,t),E=o(t),B(p.$$.fragment,t),T=o(t),c=i(t,"P",{"data-svelte-h":!0}),w(c)!=="svelte-10i777"&&(c.innerHTML=j),b=o(t),u=i(t,"P",{"data-svelte-h":!0}),w(u)!=="svelte-12wkt63"&&(u.textContent=q),P=o(t),h=i(t,"P",{"data-svelte-h":!0}),w(h)!=="svelte-tcw1f9"&&(h.textContent=N),L=o(t),d=i(t,"P",{"data-svelte-h":!0}),w(d)!=="svelte-10huopx"&&(d.textContent=Y),M=o(t),_=i(t,"UL",{"data-svelte-h":!0}),w(_)!=="svelte-18kzzol"&&(_.innerHTML=D),R=o(t),g=i(t,"P",{}),F(g).forEach(n),this.h()},h(){J(r,"name","hf:doc:metadata"),J(r,"content",nt)},m(t,e){W(document.head,r),l(t,x,e),l(t,$,e),l(t,v,e),z(m,t,e),l(t,C,e),z(f,t,e),l(t,E,e),z(p,t,e),l(t,T,e),l(t,c,e),l(t,b,e),l(t,u,e),l(t,P,e),l(t,h,e),l(t,L,e),l(t,d,e),l(t,M,e),l(t,_,e),l(t,R,e),l(t,g,e),y=!0},p:G,i(t){y||(A(m.$$.fragment,t),A(f.$$.fragment,t),A(p.$$.fragment,t),y=!0)},o(t){k(m.$$.fragment,t),k(f.$$.fragment,t),k(p.$$.fragment,t),y=!1},d(t){t&&(n(x),n($),n(v),n(C),n(E),n(T),n(c),n(b),n(u),n(P),n(h),n(L),n(d),n(M),n(_),n(R),n(g)),n(r),S(m,t),S(f,t),S(p,t)}}}const nt='{"title":"โมเดล Encoder","local":"โมเดล-encoder","sections":[],"depth":1}';function lt(U){return I(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class mt extends K{constructor(r){super(),O(this,r,lt,et,Q,{})}}export{mt as component};
