import{s as D,n as G,o as J}from"../chunks/scheduler.37c15a92.js";import{S as O,i as Q,g as s,s as o,r as L,A as V,h as r,f as a,c as l,j as K,u as A,x as v,k as N,y as W,a as n,v as E,d as k,t as B,w as I}from"../chunks/index.2bf4358c.js";import{Y as X}from"../chunks/Youtube.1e50a667.js";import{C as Z}from"../chunks/CourseFloatingBanner.06521e8b.js";import{H as ee}from"../chunks/Heading.8ada512a.js";function te(R){let i,q,_,w,m,z,c,b,p,x,d,S="I modelli encoder-decoder (detti anche modelli <em>sequence-to-sequence</em>) utilizzano entrambi i componenti dell’architettura Transformer. Ad ogni passaggio, gli attention layer dell’encoder hanno accesso a tutte le parole della frase iniziale, mentre gli attention layer del decoder possono solo accedere alle parole che precedono linearmente una data parola nell’input.",T,u,U='Il pre-addestramento di questi modelli può essere fatto utilizzando gli obiettivi dei modelli encoder o decoder, anche se solitamente include un livello di complessità maggiore. Ad esempio, <a href="https://huggingface.co/t5-base" rel="nofollow">T5</a> è pre-addestrato rimpiazzando porzioni random di testo (che possono contenere più di una parola) con una speciale mask word, con l’obiettivo di predirre il testo rimpiazzato dalla mask word stessa.',C,f,Y="I modelli sequence-to-sequence sono più adatti ai compiti che hanno a che fare con la generazione di nuove frasi sulla base di un input preciso, come il riassunto, la traduzione, o la generazione di risposte a domande.",M,h,j="Tra i rappresentanti di questa famiglia di modelli ci sono:",P,g,F='<li><a href="https://huggingface.co/transformers/model_doc/bart.html" rel="nofollow">BART</a></li> <li><a href="https://huggingface.co/transformers/model_doc/mbart.html" rel="nofollow">mBART</a></li> <li><a href="https://huggingface.co/transformers/model_doc/marian.html" rel="nofollow">Marian</a></li> <li><a href="https://huggingface.co/transformers/model_doc/t5.html" rel="nofollow">T5</a></li>',y,$,H;return m=new ee({props:{title:"Modelli sequence-to-sequence",local:"modelli-sequence-to-sequence",headingTag:"h1"}}),c=new Z({props:{chapter:1,classNames:"absolute z-10 right-0 top-0"}}),p=new X({props:{id:"0_4KEb08xrE"}}),{c(){i=s("meta"),q=o(),_=s("p"),w=o(),L(m.$$.fragment),z=o(),L(c.$$.fragment),b=o(),L(p.$$.fragment),x=o(),d=s("p"),d.innerHTML=S,T=o(),u=s("p"),u.innerHTML=U,C=o(),f=s("p"),f.textContent=Y,M=o(),h=s("p"),h.textContent=j,P=o(),g=s("ul"),g.innerHTML=F,y=o(),$=s("p"),this.h()},l(e){const t=V("svelte-u9bgzb",document.head);i=r(t,"META",{name:!0,content:!0}),t.forEach(a),q=l(e),_=r(e,"P",{}),K(_).forEach(a),w=l(e),A(m.$$.fragment,e),z=l(e),A(c.$$.fragment,e),b=l(e),A(p.$$.fragment,e),x=l(e),d=r(e,"P",{"data-svelte-h":!0}),v(d)!=="svelte-g17uha"&&(d.innerHTML=S),T=l(e),u=r(e,"P",{"data-svelte-h":!0}),v(u)!=="svelte-nga904"&&(u.innerHTML=U),C=l(e),f=r(e,"P",{"data-svelte-h":!0}),v(f)!=="svelte-14dplnv"&&(f.textContent=Y),M=l(e),h=r(e,"P",{"data-svelte-h":!0}),v(h)!=="svelte-fo4740"&&(h.textContent=j),P=l(e),g=r(e,"UL",{"data-svelte-h":!0}),v(g)!=="svelte-1lyffe"&&(g.innerHTML=F),y=l(e),$=r(e,"P",{}),K($).forEach(a),this.h()},h(){N(i,"name","hf:doc:metadata"),N(i,"content",ae)},m(e,t){W(document.head,i),n(e,q,t),n(e,_,t),n(e,w,t),E(m,e,t),n(e,z,t),E(c,e,t),n(e,b,t),E(p,e,t),n(e,x,t),n(e,d,t),n(e,T,t),n(e,u,t),n(e,C,t),n(e,f,t),n(e,M,t),n(e,h,t),n(e,P,t),n(e,g,t),n(e,y,t),n(e,$,t),H=!0},p:G,i(e){H||(k(m.$$.fragment,e),k(c.$$.fragment,e),k(p.$$.fragment,e),H=!0)},o(e){B(m.$$.fragment,e),B(c.$$.fragment,e),B(p.$$.fragment,e),H=!1},d(e){e&&(a(q),a(_),a(w),a(z),a(b),a(x),a(d),a(T),a(u),a(C),a(f),a(M),a(h),a(P),a(g),a(y),a($)),a(i),I(m,e),I(c,e),I(p,e)}}}const ae='{"title":"Modelli sequence-to-sequence","local":"modelli-sequence-to-sequence","sections":[],"depth":1}';function ne(R){return J(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class me extends O{constructor(i){super(),Q(this,i,ne,te,D,{})}}export{me as component};
