import{s as Q,n as G,o as I}from"../chunks/scheduler.37c15a92.js";import{S as K,i as O,g as r,s as n,r as H,A as V,h as i,f as l,c as o,j as F,u as q,x as v,k as J,y as W,a,v as B,d as z,t as A,w as S}from"../chunks/index.7cb9c9b8.js";import{Y as X}from"../chunks/Youtube.8666c400.js";import{C as Z}from"../chunks/CourseFloatingBanner.2c4a7381.js";import{H as tt}from"../chunks/Heading.d3928e2a.js";function et(U){let s,x,d,C,m,w,f,T,p,b,u,j="エンコーダーモデルとは、Transformerモデルのエンコーダーのみを使用したモデルを指します。 処理の各段階で、attention層は最初の文の全ての単語にアクセスすることができます。 これらのモデルは “bi-directional”（双方向）のattentionを持つものとして特徴付けられ、<em>オートエンコーダーモデル</em>と呼ばれます。",P,c,k="これらのモデルの事前学習は、何らかの方法で（例えば文中の単語をランダムにマスクするなどで）文を壊し、この文の再構築をタスクとして解くことを中心に展開されます。",E,h,N="エンコーダーモデルは、文の分類 ・ 固有表現認識（より一般的には単語の分類） ・ 抽出的質問応答など、文全体の理解を必要とするタスクに最も適しています。",L,_,Y="エンコーダーモデルでは以下のものが代表的です：",M,$,D='<li><a href="https://huggingface.co/transformers/model_doc/albert.html" rel="nofollow">ALBERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/bert.html" rel="nofollow">BERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/distilbert.html" rel="nofollow">DistilBERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/electra.html" rel="nofollow">ELECTRA</a></li> <li><a href="https://huggingface.co/transformers/model_doc/roberta.html" rel="nofollow">RoBERTa</a></li>',R,g,y;return m=new tt({props:{title:"エンコーダーモデル",local:"エンコーダーモデル",headingTag:"h1"}}),f=new Z({props:{chapter:1,classNames:"absolute z-10 right-0 top-0"}}),p=new X({props:{id:"MUqNwgPjJvQ"}}),{c(){s=r("meta"),x=n(),d=r("p"),C=n(),H(m.$$.fragment),w=n(),H(f.$$.fragment),T=n(),H(p.$$.fragment),b=n(),u=r("p"),u.innerHTML=j,P=n(),c=r("p"),c.textContent=k,E=n(),h=r("p"),h.textContent=N,L=n(),_=r("p"),_.textContent=Y,M=n(),$=r("ul"),$.innerHTML=D,R=n(),g=r("p"),this.h()},l(t){const e=V("svelte-u9bgzb",document.head);s=i(e,"META",{name:!0,content:!0}),e.forEach(l),x=o(t),d=i(t,"P",{}),F(d).forEach(l),C=o(t),q(m.$$.fragment,t),w=o(t),q(f.$$.fragment,t),T=o(t),q(p.$$.fragment,t),b=o(t),u=i(t,"P",{"data-svelte-h":!0}),v(u)!=="svelte-8po7a1"&&(u.innerHTML=j),P=o(t),c=i(t,"P",{"data-svelte-h":!0}),v(c)!=="svelte-q93tvn"&&(c.textContent=k),E=o(t),h=i(t,"P",{"data-svelte-h":!0}),v(h)!=="svelte-y4qvu8"&&(h.textContent=N),L=o(t),_=i(t,"P",{"data-svelte-h":!0}),v(_)!=="svelte-62qi47"&&(_.textContent=Y),M=o(t),$=i(t,"UL",{"data-svelte-h":!0}),v($)!=="svelte-18kzzol"&&($.innerHTML=D),R=o(t),g=i(t,"P",{}),F(g).forEach(l),this.h()},h(){J(s,"name","hf:doc:metadata"),J(s,"content",lt)},m(t,e){W(document.head,s),a(t,x,e),a(t,d,e),a(t,C,e),B(m,t,e),a(t,w,e),B(f,t,e),a(t,T,e),B(p,t,e),a(t,b,e),a(t,u,e),a(t,P,e),a(t,c,e),a(t,E,e),a(t,h,e),a(t,L,e),a(t,_,e),a(t,M,e),a(t,$,e),a(t,R,e),a(t,g,e),y=!0},p:G,i(t){y||(z(m.$$.fragment,t),z(f.$$.fragment,t),z(p.$$.fragment,t),y=!0)},o(t){A(m.$$.fragment,t),A(f.$$.fragment,t),A(p.$$.fragment,t),y=!1},d(t){t&&(l(x),l(d),l(C),l(w),l(T),l(b),l(u),l(P),l(c),l(E),l(h),l(L),l(_),l(M),l($),l(R),l(g)),l(s),S(m,t),S(f,t),S(p,t)}}}const lt='{"title":"エンコーダーモデル","local":"エンコーダーモデル","sections":[],"depth":1}';function at(U){return I(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class mt extends K{constructor(s){super(),O(this,s,at,et,Q,{})}}export{mt as component};
