import{s as Q,n as G,o as I}from"../chunks/scheduler.37c15a92.js";import{S as K,i as O,g as r,s as n,r as y,A as V,h as i,f as l,c as o,j as F,u as B,x as w,k as J,y as W,a,v as k,d as z,t as A,w as S}from"../chunks/index.2bf4358c.js";import{Y as X}from"../chunks/Youtube.1e50a667.js";import{C as Z}from"../chunks/CourseFloatingBanner.06521e8b.js";import{H as tt}from"../chunks/Heading.8ada512a.js";function et(U){let s,v,d,b,m,x,f,C,p,T,u,j="Кодировщики используют только компонент кодировщика трансформера. На каждом этапе слой внимания может использовать все слова исходного предложения. Эти модели часто характеризуют как имеющие двунаправленное внимание (англ. bi-directional attention), и часто называют моделями <em>автокодировщиками</em>.",P,c,q="Предварительное обучение этих моделей обычно заключается в том, чтобы как-то исказить предложение (например, путем маскировки в нем случайных слов) и поставить перед моделью задачу найти или восстановить исходное предложение.",E,h,N="Кодировщики лучше всего подходят для задач, требующих <em>понимания</em> всего предложения, таких как классификация предложений, распознавание именованных сущностей (и, в более общем смысле, классификация слов) и ответы на вопросы с извлечением информации из контекста (выделительные вопросно-ответные системы).",L,_,Y="К представителям этого семейства моделей относятся:",M,$,D='<li><a href="https://huggingface.co/transformers/model_doc/albert.html" rel="nofollow">ALBERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/bert.html" rel="nofollow">BERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/distilbert.html" rel="nofollow">DistilBERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/electra.html" rel="nofollow">ELECTRA</a></li> <li><a href="https://huggingface.co/transformers/model_doc/roberta.html" rel="nofollow">RoBERTa</a></li>',H,g,R;return m=new tt({props:{title:"Модели-кодировщики",local:"модели-кодировщики",headingTag:"h1"}}),f=new Z({props:{chapter:1,classNames:"absolute z-10 right-0 top-0"}}),p=new X({props:{id:"MUqNwgPjJvQ"}}),{c(){s=r("meta"),v=n(),d=r("p"),b=n(),y(m.$$.fragment),x=n(),y(f.$$.fragment),C=n(),y(p.$$.fragment),T=n(),u=r("p"),u.innerHTML=j,P=n(),c=r("p"),c.textContent=q,E=n(),h=r("p"),h.innerHTML=N,L=n(),_=r("p"),_.textContent=Y,M=n(),$=r("ul"),$.innerHTML=D,H=n(),g=r("p"),this.h()},l(t){const e=V("svelte-u9bgzb",document.head);s=i(e,"META",{name:!0,content:!0}),e.forEach(l),v=o(t),d=i(t,"P",{}),F(d).forEach(l),b=o(t),B(m.$$.fragment,t),x=o(t),B(f.$$.fragment,t),C=o(t),B(p.$$.fragment,t),T=o(t),u=i(t,"P",{"data-svelte-h":!0}),w(u)!=="svelte-lr7kkl"&&(u.innerHTML=j),P=o(t),c=i(t,"P",{"data-svelte-h":!0}),w(c)!=="svelte-1w67d0g"&&(c.textContent=q),E=o(t),h=i(t,"P",{"data-svelte-h":!0}),w(h)!=="svelte-1cwwm6b"&&(h.innerHTML=N),L=o(t),_=i(t,"P",{"data-svelte-h":!0}),w(_)!=="svelte-bflasu"&&(_.textContent=Y),M=o(t),$=i(t,"UL",{"data-svelte-h":!0}),w($)!=="svelte-18kzzol"&&($.innerHTML=D),H=o(t),g=i(t,"P",{}),F(g).forEach(l),this.h()},h(){J(s,"name","hf:doc:metadata"),J(s,"content",lt)},m(t,e){W(document.head,s),a(t,v,e),a(t,d,e),a(t,b,e),k(m,t,e),a(t,x,e),k(f,t,e),a(t,C,e),k(p,t,e),a(t,T,e),a(t,u,e),a(t,P,e),a(t,c,e),a(t,E,e),a(t,h,e),a(t,L,e),a(t,_,e),a(t,M,e),a(t,$,e),a(t,H,e),a(t,g,e),R=!0},p:G,i(t){R||(z(m.$$.fragment,t),z(f.$$.fragment,t),z(p.$$.fragment,t),R=!0)},o(t){A(m.$$.fragment,t),A(f.$$.fragment,t),A(p.$$.fragment,t),R=!1},d(t){t&&(l(v),l(d),l(b),l(x),l(C),l(T),l(u),l(P),l(c),l(E),l(h),l(L),l(_),l(M),l($),l(H),l(g)),l(s),S(m,t),S(f,t),S(p,t)}}}const lt='{"title":"Модели-кодировщики","local":"модели-кодировщики","sections":[],"depth":1}';function at(U){return I(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class mt extends K{constructor(s){super(),O(this,s,at,et,Q,{})}}export{mt as component};
