import{s as D,n as G,o as I}from"../chunks/scheduler.37c15a92.js";import{S as J,i as O,g as m,s as c,r as k,A as Q,h as l,f as n,c as h,j as K,u as q,x as d,k as N,y as W,a,v as A,d as z,t as B,w as R}from"../chunks/index.2bf4358c.js";import{Y as X}from"../chunks/Youtube.1e50a667.js";import{C as Z}from"../chunks/CourseFloatingBanner.06521e8b.js";import{H as tt}from"../chunks/Heading.8ada512a.js";function et(S){let i,v,$,y,o,x,r,C,s,w,u,U="Các mô hình mã hóa-giải mã (còn được gọi là <em>mô hình chuỗi-sang-chuỗi</em>) sử dụng cả hai phần của kiến trúc Transformer. Ở mỗi bước, các lớp attention của phần mã hóa có thể truy cập tất cả các từ trong câu ban đầu, trong khi các lớp attention của phần giải mã chỉ có thể truy cập các từ được đặt trước một từ nhất định trong đầu vào.",T,f,V='Việc huấn luyện trước các mô hình này có thể được thực hiện bằng cách sử dụng các hàm mục tiêu của mô hình mã hóa hoặc giải mã, nhưng thường liên quan đến một thứ phức tạp hơn một chút. Ví dụ: <a href="https://huggingface.co/t5-base" rel="nofollow">T5</a> được huấn luyện trước bằng cách thay thế các khoảng văn bản ngẫu nhiên (có thể chứa một số từ) bằng cách che lại bằng một từ đặc biệt và mục tiêu sau đó là dự đoán phần bị che lại bởi một từ đặc biệt đó.',M,p,Y="Mô hình chuỗi-sang-chuỗi phù hợp nhất cho các tác vụ xoay quanh việc tạo ra các câu mới tùy thuộc vào đầu vào nhất định, chẳng hạn như tóm tắt, dịch hoặc hỏi đáp chung.",P,g,j="Một số mô hình tiêu biểu của nhóm này bao gồm:",H,_,F='<li><a href="https://huggingface.co/transformers/model_doc/bart.html" rel="nofollow">BART</a></li> <li><a href="https://huggingface.co/transformers/model_doc/mbart.html" rel="nofollow">mBART</a></li> <li><a href="https://huggingface.co/transformers/model_doc/marian.html" rel="nofollow">Marian</a></li> <li><a href="https://huggingface.co/transformers/model_doc/t5.html" rel="nofollow">T5</a></li>',L,b,E;return o=new tt({props:{title:"Các mô hình mã hoá-giải mã",local:"các-mô-hình-mã-hoá-giải-mã",headingTag:"h1"}}),r=new Z({props:{chapter:1,classNames:"absolute z-10 right-0 top-0"}}),s=new X({props:{id:"0_4KEb08xrE"}}),{c(){i=m("meta"),v=c(),$=m("p"),y=c(),k(o.$$.fragment),x=c(),k(r.$$.fragment),C=c(),k(s.$$.fragment),w=c(),u=m("p"),u.innerHTML=U,T=c(),f=m("p"),f.innerHTML=V,M=c(),p=m("p"),p.textContent=Y,P=c(),g=m("p"),g.textContent=j,H=c(),_=m("ul"),_.innerHTML=F,L=c(),b=m("p"),this.h()},l(t){const e=Q("svelte-u9bgzb",document.head);i=l(e,"META",{name:!0,content:!0}),e.forEach(n),v=h(t),$=l(t,"P",{}),K($).forEach(n),y=h(t),q(o.$$.fragment,t),x=h(t),q(r.$$.fragment,t),C=h(t),q(s.$$.fragment,t),w=h(t),u=l(t,"P",{"data-svelte-h":!0}),d(u)!=="svelte-ei4o0e"&&(u.innerHTML=U),T=h(t),f=l(t,"P",{"data-svelte-h":!0}),d(f)!=="svelte-1qznt96"&&(f.innerHTML=V),M=h(t),p=l(t,"P",{"data-svelte-h":!0}),d(p)!=="svelte-rl514f"&&(p.textContent=Y),P=h(t),g=l(t,"P",{"data-svelte-h":!0}),d(g)!=="svelte-1y8v6i9"&&(g.textContent=j),H=h(t),_=l(t,"UL",{"data-svelte-h":!0}),d(_)!=="svelte-1lyffe"&&(_.innerHTML=F),L=h(t),b=l(t,"P",{}),K(b).forEach(n),this.h()},h(){N(i,"name","hf:doc:metadata"),N(i,"content",nt)},m(t,e){W(document.head,i),a(t,v,e),a(t,$,e),a(t,y,e),A(o,t,e),a(t,x,e),A(r,t,e),a(t,C,e),A(s,t,e),a(t,w,e),a(t,u,e),a(t,T,e),a(t,f,e),a(t,M,e),a(t,p,e),a(t,P,e),a(t,g,e),a(t,H,e),a(t,_,e),a(t,L,e),a(t,b,e),E=!0},p:G,i(t){E||(z(o.$$.fragment,t),z(r.$$.fragment,t),z(s.$$.fragment,t),E=!0)},o(t){B(o.$$.fragment,t),B(r.$$.fragment,t),B(s.$$.fragment,t),E=!1},d(t){t&&(n(v),n($),n(y),n(x),n(C),n(w),n(u),n(T),n(f),n(M),n(p),n(P),n(g),n(H),n(_),n(L),n(b)),n(i),R(o,t),R(r,t),R(s,t)}}}const nt='{"title":"Các mô hình mã hoá-giải mã","local":"các-mô-hình-mã-hoá-giải-mã","sections":[],"depth":1}';function at(S){return I(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class ot extends J{constructor(i){super(),O(this,i,at,et,D,{})}}export{ot as component};
