import{s as Q,n as I,o as K}from"../chunks/scheduler.37c15a92.js";import{S as V,i as W,g as r,s as l,r as z,A as X,h as i,f as s,c as a,j as J,u as B,x as v,k as O,y as Z,a as n,v as A,d as j,t as k,w as S}from"../chunks/index.2bf4358c.js";import{Y as ee}from"../chunks/Youtube.1e50a667.js";import{C as te}from"../chunks/CourseFloatingBanner.6add7356.js";import{H as se,E as ne}from"../chunks/index.49fc26ef.js";function le(U){let o,x,_,C,m,w,u,L,p,E,c,N="Les modèles basés sur l’encodeur utilisent uniquement l’encodeur d’un <em>transformer</em>. À chaque étape, les couches d’attention peuvent accéder à tous les mots de la phrase initiale. Ces modèles sont souvent caractérisés comme ayant une attention bidirectionnelle et sont souvent appelés <em>modèles d’auto-encodage</em>.",q,f,Y="Le pré-entraînement de ces modèles se concentre généralement sur la modification d’une phrase donnée (par exemple, en masquant des mots aléatoires dans celle-ci) et en demandant au modèle de trouver ou de reconstruire la phrase initiale.",P,d,D="Ces modèles sont les plus adaptés pour des tâches qui requièrent une compréhension complète de la phrase, telles que la classification de phrases, la reconnaissance d’entités nommées (et plus généralement la classification de mots) et les questions-réponses extractives.",T,h,F="Les modèles les plus représentatifs de cette famille sont :",y,$,G='<li><a href="https://huggingface.co/transformers/model_doc/albert.html" rel="nofollow">ALBERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/bert.html" rel="nofollow">BERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/distilbert.html" rel="nofollow">DistilBERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/electra.html" rel="nofollow">ELECTRA</a></li> <li><a href="https://huggingface.co/transformers/model_doc/roberta.html" rel="nofollow">RoBERTa</a></li>',M,g,R,b,H;return m=new se({props:{title:"Les modèles basés sur l’encodeur",local:"les-modèles-basés-sur-lencodeur",headingTag:"h1"}}),u=new te({props:{chapter:1,classNames:"absolute z-10 right-0 top-0"}}),p=new ee({props:{id:"MUqNwgPjJvQ"}}),g=new ne({props:{source:"https://github.com/huggingface/course/blob/main/chapters/fr/chapter1/5.mdx"}}),{c(){o=r("meta"),x=l(),_=r("p"),C=l(),z(m.$$.fragment),w=l(),z(u.$$.fragment),L=l(),z(p.$$.fragment),E=l(),c=r("p"),c.innerHTML=N,q=l(),f=r("p"),f.textContent=Y,P=l(),d=r("p"),d.textContent=D,T=l(),h=r("p"),h.textContent=F,y=l(),$=r("ul"),$.innerHTML=G,M=l(),z(g.$$.fragment),R=l(),b=r("p"),this.h()},l(e){const t=X("svelte-u9bgzb",document.head);o=i(t,"META",{name:!0,content:!0}),t.forEach(s),x=a(e),_=i(e,"P",{}),J(_).forEach(s),C=a(e),B(m.$$.fragment,e),w=a(e),B(u.$$.fragment,e),L=a(e),B(p.$$.fragment,e),E=a(e),c=i(e,"P",{"data-svelte-h":!0}),v(c)!=="svelte-1yao98"&&(c.innerHTML=N),q=a(e),f=i(e,"P",{"data-svelte-h":!0}),v(f)!=="svelte-1eunjqz"&&(f.textContent=Y),P=a(e),d=i(e,"P",{"data-svelte-h":!0}),v(d)!=="svelte-3qi621"&&(d.textContent=D),T=a(e),h=i(e,"P",{"data-svelte-h":!0}),v(h)!=="svelte-195kd4n"&&(h.textContent=F),y=a(e),$=i(e,"UL",{"data-svelte-h":!0}),v($)!=="svelte-18kzzol"&&($.innerHTML=G),M=a(e),B(g.$$.fragment,e),R=a(e),b=i(e,"P",{}),J(b).forEach(s),this.h()},h(){O(o,"name","hf:doc:metadata"),O(o,"content",ae)},m(e,t){Z(document.head,o),n(e,x,t),n(e,_,t),n(e,C,t),A(m,e,t),n(e,w,t),A(u,e,t),n(e,L,t),A(p,e,t),n(e,E,t),n(e,c,t),n(e,q,t),n(e,f,t),n(e,P,t),n(e,d,t),n(e,T,t),n(e,h,t),n(e,y,t),n(e,$,t),n(e,M,t),A(g,e,t),n(e,R,t),n(e,b,t),H=!0},p:I,i(e){H||(j(m.$$.fragment,e),j(u.$$.fragment,e),j(p.$$.fragment,e),j(g.$$.fragment,e),H=!0)},o(e){k(m.$$.fragment,e),k(u.$$.fragment,e),k(p.$$.fragment,e),k(g.$$.fragment,e),H=!1},d(e){e&&(s(x),s(_),s(C),s(w),s(L),s(E),s(c),s(q),s(f),s(P),s(d),s(T),s(h),s(y),s($),s(M),s(R),s(b)),s(o),S(m,e),S(u,e),S(p,e),S(g,e)}}}const ae='{"title":"Les modèles basés sur l’encodeur","local":"les-modèles-basés-sur-lencodeur","sections":[],"depth":1}';function oe(U){return K(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class ce extends V{constructor(o){super(),W(this,o,oe,le,Q,{})}}export{ce as component};
