import{s as Q,n as V,o as W}from"../chunks/scheduler.cc52f4b9.js";import{S as X,i as Z,e as s,s as l,c as x,h as ee,a as r,d as a,b as i,f as D,g as w,j as z,k as J,l as te,m as n,n as q,t as T,o as C,p as M}from"../chunks/index.d2856393.js";import{C as ae,H as ne,E as le}from"../chunks/MermaidChart.svelte_svelte_type_style_lang.8ffb7edb.js";import{Y as ie}from"../chunks/Youtube.00df107c.js";import{C as oe}from"../chunks/CourseFloatingBanner.59eb3fdc.js";function se(j){let o,y,b,L,m,P,p,E,u,H,f,A,c,F="I modelli encoder-decoder (detti anche modelli <em>sequence-to-sequence</em>) utilizzano entrambi i componenti dell’architettura Transformer. Ad ogni passaggio, gli attention layer dell’encoder hanno accesso a tutte le parole della frase iniziale, mentre gli attention layer del decoder possono solo accedere alle parole che precedono linearmente una data parola nell’input.",S,d,G='Il pre-addestramento di questi modelli può essere fatto utilizzando gli obiettivi dei modelli encoder o decoder, anche se solitamente include un livello di complessità maggiore. Ad esempio, <a href="https://huggingface.co/t5-base" rel="nofollow">T5</a> è pre-addestrato rimpiazzando porzioni random di testo (che possono contenere più di una parola) con una speciale mask word, con l’obiettivo di predirre il testo rimpiazzato dalla mask word stessa.',k,$,K="I modelli sequence-to-sequence sono più adatti ai compiti che hanno a che fare con la generazione di nuove frasi sulla base di un input preciso, come il riassunto, la traduzione, o la generazione di risposte a domande.",B,h,N="Tra i rappresentanti di questa famiglia di modelli ci sono:",I,g,O='<li><a href="https://huggingface.co/transformers/model_doc/bart.html" rel="nofollow">BART</a></li> <li><a href="https://huggingface.co/transformers/model_doc/mbart.html" rel="nofollow">mBART</a></li> <li><a href="https://huggingface.co/transformers/model_doc/marian.html" rel="nofollow">Marian</a></li> <li><a href="https://huggingface.co/transformers/model_doc/t5.html" rel="nofollow">T5</a></li>',R,_,U,v,Y;return m=new ae({props:{containerStyle:"float: right; margin-left: 10px; display: inline-flex; position: relative; z-index: 10;"}}),p=new ne({props:{title:"Modelli sequence-to-sequence",local:"modelli-sequence-to-sequence",headingTag:"h1"}}),u=new oe({props:{chapter:1,classNames:"absolute z-10 right-0 top-0"}}),f=new ie({props:{id:"0_4KEb08xrE"}}),_=new le({props:{source:"https://github.com/huggingface/course/blob/main/chapters/it/chapter1/7.mdx"}}),{c(){o=s("meta"),y=l(),b=s("p"),L=l(),x(m.$$.fragment),P=l(),x(p.$$.fragment),E=l(),x(u.$$.fragment),H=l(),x(f.$$.fragment),A=l(),c=s("p"),c.innerHTML=F,S=l(),d=s("p"),d.innerHTML=G,k=l(),$=s("p"),$.textContent=K,B=l(),h=s("p"),h.textContent=N,I=l(),g=s("ul"),g.innerHTML=O,R=l(),x(_.$$.fragment),U=l(),v=s("p"),this.h()},l(e){const t=ee("svelte-u9bgzb",document.head);o=r(t,"META",{name:!0,content:!0}),t.forEach(a),y=i(e),b=r(e,"P",{}),D(b).forEach(a),L=i(e),w(m.$$.fragment,e),P=i(e),w(p.$$.fragment,e),E=i(e),w(u.$$.fragment,e),H=i(e),w(f.$$.fragment,e),A=i(e),c=r(e,"P",{"data-svelte-h":!0}),z(c)!=="svelte-g17uha"&&(c.innerHTML=F),S=i(e),d=r(e,"P",{"data-svelte-h":!0}),z(d)!=="svelte-nga904"&&(d.innerHTML=G),k=i(e),$=r(e,"P",{"data-svelte-h":!0}),z($)!=="svelte-14dplnv"&&($.textContent=K),B=i(e),h=r(e,"P",{"data-svelte-h":!0}),z(h)!=="svelte-fo4740"&&(h.textContent=N),I=i(e),g=r(e,"UL",{"data-svelte-h":!0}),z(g)!=="svelte-1lyffe"&&(g.innerHTML=O),R=i(e),w(_.$$.fragment,e),U=i(e),v=r(e,"P",{}),D(v).forEach(a),this.h()},h(){J(o,"name","hf:doc:metadata"),J(o,"content",re)},m(e,t){te(document.head,o),n(e,y,t),n(e,b,t),n(e,L,t),q(m,e,t),n(e,P,t),q(p,e,t),n(e,E,t),q(u,e,t),n(e,H,t),q(f,e,t),n(e,A,t),n(e,c,t),n(e,S,t),n(e,d,t),n(e,k,t),n(e,$,t),n(e,B,t),n(e,h,t),n(e,I,t),n(e,g,t),n(e,R,t),q(_,e,t),n(e,U,t),n(e,v,t),Y=!0},p:V,i(e){Y||(T(m.$$.fragment,e),T(p.$$.fragment,e),T(u.$$.fragment,e),T(f.$$.fragment,e),T(_.$$.fragment,e),Y=!0)},o(e){C(m.$$.fragment,e),C(p.$$.fragment,e),C(u.$$.fragment,e),C(f.$$.fragment,e),C(_.$$.fragment,e),Y=!1},d(e){e&&(a(y),a(b),a(L),a(P),a(E),a(H),a(A),a(c),a(S),a(d),a(k),a($),a(B),a(h),a(I),a(g),a(R),a(U),a(v)),a(o),M(m,e),M(p,e),M(u,e),M(f,e),M(_,e)}}}const re='{"title":"Modelli sequence-to-sequence","local":"modelli-sequence-to-sequence","sections":[],"depth":1}';function me(j){return W(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class $e extends X{constructor(o){super(),Z(this,o,me,se,Q,{})}}export{$e as component};
