import{s as nn,a as Jn,o as Un,n as Hl}from"../chunks/scheduler.cc52f4b9.js";import{S as pn,i as yn,e as d,s as n,c as r,h as wn,a as m,d as e,b as J,f as FM,g as T,j as C,k as ml,l as rn,m as t,n as c,o as i,u as fl,t as p,p as o,v as Vl}from"../chunks/index.9480bb2b.js";import{T as Fl}from"../chunks/Tip.f7b80743.js";import{C as Tn,H as Yl,E as cn}from"../chunks/MermaidChart.svelte_svelte_type_style_lang.e0b4ce23.js";import{Y as XM}from"../chunks/Youtube.7b12d9e8.js";import{C as h}from"../chunks/CodeBlock.d991436c.js";import{C as an}from"../chunks/CourseFloatingBanner.0ea490da.js";import{F as on}from"../chunks/FrameworkSwitchCourse.42d12053.js";function dn(I){let M,w;return M=new an({props:{chapter:7,classNames:"absolute z-10 right-0 top-0",notebooks:[{label:"Google Colab",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/en/chapter7/section3_tf.ipynb"},{label:"Aws Studio",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/en/chapter7/section3_tf.ipynb"}]}}),{c(){r(M.$$.fragment)},l(a){T(M.$$.fragment,a)},m(a,y){c(M,a,y),w=!0},i(a){w||(p(M.$$.fragment,a),w=!0)},o(a){i(M.$$.fragment,a),w=!1},d(a){o(M,a)}}}function mn(I){let M,w;return M=new an({props:{chapter:7,classNames:"absolute z-10 right-0 top-0",notebooks:[{label:"Google Colab",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/en/chapter7/section3_pt.ipynb"},{label:"Aws Studio",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/en/chapter7/section3_pt.ipynb"}]}}),{c(){r(M.$$.fragment)},l(a){T(M.$$.fragment,a)},m(a,y){c(M,a,y),w=!0},i(a){w||(p(M.$$.fragment,a),w=!0)},o(a){i(M.$$.fragment,a),w=!1},d(a){o(M,a)}}}function jn(I){let M,w='🙋 Если термины “маскированное моделирование языка (masked language modeling)” и “предварительно обученная модель (pretrained model)” кажутся вам незнакомыми, загляните в <a href="../chapter1/1">Главу 1</a>, где мы объясняем все эти основные понятия, сопровождая их видеороликами!';return{c(){M=d("p"),M.innerHTML=w},l(a){M=m(a,"P",{"data-svelte-h":!0}),C(M)!=="svelte-1s77cuc"&&(M.innerHTML=w)},m(a,y){t(a,M,y)},p:Hl,d(a){a&&e(M)}}}function Cn(I){let M,w="Давайте загрузим DistilBERT, используя класс <code>AutoModelForMaskedLM</code>:",a,y,V,j,B="Мы можем узнать, сколько параметров имеет эта модель, вызвав метод <code>summary()</code>:",k,R,Z,g,G;return y=new h({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMFRGQXV0b01vZGVsRm9yTWFza2VkTE0lMEElMEFtb2RlbF9jaGVja3BvaW50JTIwJTNEJTIwJTIyZGlzdGlsYmVydC1iYXNlLXVuY2FzZWQlMjIlMEFtb2RlbCUyMCUzRCUyMFRGQXV0b01vZGVsRm9yTWFza2VkTE0uZnJvbV9wcmV0cmFpbmVkKG1vZGVsX2NoZWNrcG9pbnQp",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> TFAutoModelForMaskedLM

model_checkpoint = <span class="hljs-string">&quot;distilbert-base-uncased&quot;</span>
model = TFAutoModelForMaskedLM.from_pretrained(model_checkpoint)`,wrap:!1}}),R=new h({props:{code:"bW9kZWwuc3VtbWFyeSgp",highlighted:"model.summary()",wrap:!1}}),g=new h({props:{code:"TW9kZWwlM0ElMjAlMjJ0Zl9kaXN0aWxfYmVydF9mb3JfbWFza2VkX2xtJTIyJTBBX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX18lMEFMYXllciUyMCh0eXBlKSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyME91dHB1dCUyMFNoYXBlJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwUGFyYW0lMjAlMjMlMjAlMjAlMjAlMEElM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlMEFkaXN0aWxiZXJ0JTIwKFRGRGlzdGlsQmVydE1haW4lMjBtdWx0aXBsZSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMDY2MzYyODgwJTIwJTIwJTBBX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX18lMEF2b2NhYl90cmFuc2Zvcm0lMjAoRGVuc2UpJTIwJTIwJTIwJTIwJTIwJTIwbXVsdGlwbGUlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjA1OTA1OTIlMjAlMjAlMjAlMjAlMEFfX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fXyUwQXZvY2FiX2xheWVyX25vcm0lMjAoTGF5ZXJOb3JtYSUyMG11bHRpcGxlJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwMTUzNiUyMCUyMCUyMCUyMCUyMCUyMCUwQV9fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fJTBBdm9jYWJfcHJvamVjdG9yJTIwKFRGRGlzdGlsQmVyJTIwbXVsdGlwbGUlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAyMzg2NjE3MCUyMCUyMCUwQSUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUwQVRvdGFsJTIwcGFyYW1zJTNBJTIwNjYlMkM5ODUlMkM1MzAlMEFUcmFpbmFibGUlMjBwYXJhbXMlM0ElMjA2NiUyQzk4NSUyQzUzMCUwQU5vbi10cmFpbmFibGUlMjBwYXJhbXMlM0ElMjAwJTBBX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX19fX18=",highlighted:`Model: <span class="hljs-string">&quot;tf_distil_bert_for_masked_lm&quot;</span>
_________________________________________________________________
Layer (<span class="hljs-built_in">type</span>)                 Output Shape              Param <span class="hljs-comment">#   </span>
=================================================================
distilbert (TFDistilBertMain multiple                  <span class="hljs-number">66362880</span>  
_________________________________________________________________
vocab_transform (Dense)      multiple                  <span class="hljs-number">590592</span>    
_________________________________________________________________
vocab_layer_norm (LayerNorma multiple                  <span class="hljs-number">1536</span>      
_________________________________________________________________
vocab_projector (TFDistilBer multiple                  <span class="hljs-number">23866170</span>  
=================================================================
Total params: <span class="hljs-number">66</span>,<span class="hljs-number">985</span>,<span class="hljs-number">530</span>
Trainable params: <span class="hljs-number">66</span>,<span class="hljs-number">985</span>,<span class="hljs-number">530</span>
Non-trainable params: <span class="hljs-number">0</span>
_________________________________________________________________`,wrap:!1}}),{c(){M=d("p"),M.innerHTML=w,a=n(),r(y.$$.fragment),V=n(),j=d("p"),j.innerHTML=B,k=n(),r(R.$$.fragment),Z=n(),r(g.$$.fragment)},l(u){M=m(u,"P",{"data-svelte-h":!0}),C(M)!=="svelte-jyixx5"&&(M.innerHTML=w),a=J(u),T(y.$$.fragment,u),V=J(u),j=m(u,"P",{"data-svelte-h":!0}),C(j)!=="svelte-7764nf"&&(j.innerHTML=B),k=J(u),T(R.$$.fragment,u),Z=J(u),T(g.$$.fragment,u)},m(u,_){t(u,M,_),t(u,a,_),c(y,u,_),t(u,V,_),t(u,j,_),t(u,k,_),c(R,u,_),t(u,Z,_),c(g,u,_),G=!0},i(u){G||(p(y.$$.fragment,u),p(R.$$.fragment,u),p(g.$$.fragment,u),G=!0)},o(u){i(y.$$.fragment,u),i(R.$$.fragment,u),i(g.$$.fragment,u),G=!1},d(u){u&&(e(M),e(a),e(V),e(j),e(k),e(Z)),o(y,u),o(R,u),o(g,u)}}}function un(I){let M,w="Давайте перейдем к загрузке DistilBERT с помощью класса <code>AutoModelForMaskedLM</code>:",a,y,V,j,B="Мы можем узнать, сколько параметров имеет эта модель, вызвав метод <code>num_parameters()</code>:",k,R,Z,g,G;return y=new h({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMEF1dG9Nb2RlbEZvck1hc2tlZExNJTBBJTBBbW9kZWxfY2hlY2twb2ludCUyMCUzRCUyMCUyMmRpc3RpbGJlcnQtYmFzZS11bmNhc2VkJTIyJTBBbW9kZWwlMjAlM0QlMjBBdXRvTW9kZWxGb3JNYXNrZWRMTS5mcm9tX3ByZXRyYWluZWQobW9kZWxfY2hlY2twb2ludCk=",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoModelForMaskedLM

model_checkpoint = <span class="hljs-string">&quot;distilbert-base-uncased&quot;</span>
model = AutoModelForMaskedLM.from_pretrained(model_checkpoint)`,wrap:!1}}),R=new h({props:{code:"ZGlzdGlsYmVydF9udW1fcGFyYW1ldGVycyUyMCUzRCUyMG1vZGVsLm51bV9wYXJhbWV0ZXJzKCklMjAlMkYlMjAxXzAwMF8wMDAlMEFwcmludChmJTIyJyUzRSUzRSUzRSUyMERpc3RpbEJFUlQlMjBudW1iZXIlMjBvZiUyMHBhcmFtZXRlcnMlM0ElMjAlN0Jyb3VuZChkaXN0aWxiZXJ0X251bV9wYXJhbWV0ZXJzKSU3RE0nJTIyKSUwQXByaW50KGYlMjInJTNFJTNFJTNFJTIwQkVSVCUyMG51bWJlciUyMG9mJTIwcGFyYW1ldGVycyUzQSUyMDExME0nJTIyKQ==",highlighted:`distilbert_num_parameters = model.num_parameters() / <span class="hljs-number">1_000_000</span>
<span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&#x27;&gt;&gt;&gt; DistilBERT number of parameters: <span class="hljs-subst">{<span class="hljs-built_in">round</span>(distilbert_num_parameters)}</span>M&#x27;&quot;</span>)
<span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&#x27;&gt;&gt;&gt; BERT number of parameters: 110M&#x27;&quot;</span>)`,wrap:!1}}),g=new h({props:{code:"JyUzRSUzRSUzRSUyMERpc3RpbEJFUlQlMjBudW1iZXIlMjBvZiUyMHBhcmFtZXRlcnMlM0ElMjA2N00nJTBBJyUzRSUzRSUzRSUyMEJFUlQlMjBudW1iZXIlMjBvZiUyMHBhcmFtZXRlcnMlM0ElMjAxMTBNJw==",highlighted:`<span class="hljs-string">&#x27;&gt;&gt;&gt; DistilBERT number of parameters: 67M&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; BERT number of parameters: 110M&#x27;</span>`,wrap:!1}}),{c(){M=d("p"),M.innerHTML=w,a=n(),r(y.$$.fragment),V=n(),j=d("p"),j.innerHTML=B,k=n(),r(R.$$.fragment),Z=n(),r(g.$$.fragment)},l(u){M=m(u,"P",{"data-svelte-h":!0}),C(M)!=="svelte-1hihosi"&&(M.innerHTML=w),a=J(u),T(y.$$.fragment,u),V=J(u),j=m(u,"P",{"data-svelte-h":!0}),C(j)!=="svelte-rpw3q8"&&(j.innerHTML=B),k=J(u),T(R.$$.fragment,u),Z=J(u),T(g.$$.fragment,u)},m(u,_){t(u,M,_),t(u,a,_),c(y,u,_),t(u,V,_),t(u,j,_),t(u,k,_),c(R,u,_),t(u,Z,_),c(g,u,_),G=!0},i(u){G||(p(y.$$.fragment,u),p(R.$$.fragment,u),p(g.$$.fragment,u),G=!0)},o(u){i(y.$$.fragment,u),i(R.$$.fragment,u),i(g.$$.fragment,u),G=!1},d(u){u&&(e(M),e(a),e(V),e(j),e(k),e(Z)),o(y,u),o(R,u),o(g,u)}}}function hn(I){let M,w;return M=new h({props:{code:"aW1wb3J0JTIwbnVtcHklMjBhcyUyMG5wJTBBaW1wb3J0JTIwdGVuc29yZmxvdyUyMGFzJTIwdGYlMEElMEFpbnB1dHMlMjAlM0QlMjB0b2tlbml6ZXIodGV4dCUyQyUyMHJldHVybl90ZW5zb3JzJTNEJTIybnAlMjIpJTBBdG9rZW5fbG9naXRzJTIwJTNEJTIwbW9kZWwoKippbnB1dHMpLmxvZ2l0cyUwQSUyMyUyMCVEMCU5RSVEMCVCRiVEMSU4MCVEMCVCNSVEMCVCNCVEMCVCNSVEMCVCQiVEMCVCNSVEMCVCRCVEMCVCOCVEMCVCQyUyMCVEMCVCQyVEMCVCNSVEMSU4MSVEMSU4MiVEMCVCRSVEMCVCRiVEMCVCRSVEMCVCQiVEMCVCRSVEMCVCNiVEMCVCNSVEMCVCRCVEMCVCOCVEMSU4RiUyMCU1Qk1BU0slNUQlMjAlRDAlQjglMjAlRDAlQjglRDAlQjclRDAlQjIlRDAlQkIlRDAlQjUlRDElODclRDAlQjUlRDAlQkMlMjAlRDAlQjUlRDAlQjMlRDAlQkUlMjAlRDAlQkIlRDAlQkUlRDAlQjMlRDAlQjglRDElODIlRDElOEIlMEFtYXNrX3Rva2VuX2luZGV4JTIwJTNEJTIwbnAuYXJnd2hlcmUoaW5wdXRzJTVCJTIyaW5wdXRfaWRzJTIyJTVEJTIwJTNEJTNEJTIwdG9rZW5pemVyLm1hc2tfdG9rZW5faWQpJTVCMCUyQyUyMDElNUQlMEFtYXNrX3Rva2VuX2xvZ2l0cyUyMCUzRCUyMHRva2VuX2xvZ2l0cyU1QjAlMkMlMjBtYXNrX3Rva2VuX2luZGV4JTJDJTIwJTNBJTVEJTBBJTIzJTIwJUQwJTkyJUQxJThCJUQwJUIxJUQwJUI1JUQxJTgwJUQwJUI1JUQwJUJDJTIwJUQwJUJBJUQwJUIwJUQwJUJEJUQwJUI0JUQwJUI4JUQwJUI0JUQwJUIwJUQxJTgyJUQwJUJFJUQwJUIyJTIwJTVCTUFTSyU1RCUyMCVEMSU4MSUyMCVEMCVCRCVEMCVCMCVEMCVCOCVEMCVCMSVEMCVCRSVEMCVCQiVEMSU4QyVEMSU4OCVEMCVCOCVEMCVCQyVEMCVCOCUyMCVEMCVCQiVEMCVCRSVEMCVCMyVEMCVCOCVEMSU4MiVEMCVCMCVEMCVCQyVEMCVCOCUwQSUyMyUyMCVEMCU5QyVEMSU4QiUyMCVEMCVCMiVEMSU4QiVEMCVCRiVEMCVCRSVEMCVCQiVEMCVCRCVEMSU4RiVEMCVCNSVEMCVCQyUyMCVEMCVCRSVEMSU4MiVEMSU4MCVEMCVCOCVEMSU4NiVEMCVCMCVEMCVCRCVEMCVCOCVEMCVCNSUyMCVEMCVCQyVEMCVCMCVEMSU4MSVEMSU4MSVEMCVCOCVEMCVCMiVEMCVCMCUyMCVEMCVCRiVEMCVCNSVEMSU4MCVEMCVCNSVEMCVCNCUyMGFyZ3NvcnQlMkMlMjAlRDElODclRDElODIlRDAlQkUlRDAlQjElRDElOEIlMjAlRDAlQkYlRDAlQkUlRDAlQkIlRDElODMlRDElODclRDAlQjglRDElODIlRDElOEMlMjAlRDElODElRDAlQjAlRDAlQkMlRDElOEIlRDAlQjUlMjAlRDAlQjElRDAlQkUlRDAlQkIlRDElOEMlRDElODglRDAlQjglRDAlQjUlMkMlMjAlRDAlQjAlMjAlRDAlQkQlRDAlQjUlMjAlRDElODElRDAlQjAlRDAlQkMlRDElOEIlRDAlQjUlMjAlRDAlQkMlRDAlQjAlRDAlQkIlRDAlQjUlRDAlQkQlRDElOEMlRDAlQkElRDAlQjglRDAlQjUlMjAlRDAlQkIlRDAlQkUlRDAlQjMlRDAlQjglRDElODIlRDElOEIlMEF0b3BfNV90b2tlbnMlMjAlM0QlMjBucC5hcmdzb3J0KC1tYXNrX3Rva2VuX2xvZ2l0cyklNUIlM0E1JTVELnRvbGlzdCgpJTBBJTBBZm9yJTIwdG9rZW4lMjBpbiUyMHRvcF81X3Rva2VucyUzQSUwQSUyMCUyMCUyMCUyMHByaW50KGYlMjIlM0UlM0UlM0UlMjAlN0J0ZXh0LnJlcGxhY2UodG9rZW5pemVyLm1hc2tfdG9rZW4lMkMlMjB0b2tlbml6ZXIuZGVjb2RlKCU1QnRva2VuJTVEKSklN0QlMjIp",highlighted:`<span class="hljs-keyword">import</span> numpy <span class="hljs-keyword">as</span> np
<span class="hljs-keyword">import</span> tensorflow <span class="hljs-keyword">as</span> tf

inputs = tokenizer(text, return_tensors=<span class="hljs-string">&quot;np&quot;</span>)
token_logits = model(**inputs).logits
<span class="hljs-comment"># Определеним местоположения [MASK] и извлечем его логиты</span>
mask_token_index = np.argwhere(inputs[<span class="hljs-string">&quot;input_ids&quot;</span>] == tokenizer.mask_token_id)[<span class="hljs-number">0</span>, <span class="hljs-number">1</span>]
mask_token_logits = token_logits[<span class="hljs-number">0</span>, mask_token_index, :]
<span class="hljs-comment"># Выберем кандидатов [MASK] с наибольшими логитами</span>
<span class="hljs-comment"># Мы выполняем отрицание массива перед argsort, чтобы получить самые большие, а не самые маленькие логиты</span>
top_5_tokens = np.argsort(-mask_token_logits)[:<span class="hljs-number">5</span>].tolist()

<span class="hljs-keyword">for</span> token <span class="hljs-keyword">in</span> top_5_tokens:
    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&gt;&gt;&gt; <span class="hljs-subst">{text.replace(tokenizer.mask_token, tokenizer.decode([token]))}</span>&quot;</span>)`,wrap:!1}}),{c(){r(M.$$.fragment)},l(a){T(M.$$.fragment,a)},m(a,y){c(M,a,y),w=!0},i(a){w||(p(M.$$.fragment,a),w=!0)},o(a){i(M.$$.fragment,a),w=!1},d(a){o(M,a)}}}function bn(I){let M,w;return M=new h({props:{code:"aW1wb3J0JTIwdG9yY2glMEElMEFpbnB1dHMlMjAlM0QlMjB0b2tlbml6ZXIodGV4dCUyQyUyMHJldHVybl90ZW5zb3JzJTNEJTIycHQlMjIpJTBBdG9rZW5fbG9naXRzJTIwJTNEJTIwbW9kZWwoKippbnB1dHMpLmxvZ2l0cyUwQSUyMyUyMCVEMCU5RSVEMCVCRiVEMSU4MCVEMCVCNSVEMCVCNCVEMCVCNSVEMCVCQiVEMCVCNSVEMCVCRCVEMCVCOCVEMCVCQyUyMCVEMCVCQyVEMCVCNSVEMSU4MSVEMSU4MiVEMCVCRSVEMCVCRiVEMCVCRSVEMCVCQiVEMCVCRSVEMCVCNiVEMCVCNSVEMCVCRCVEMCVCOCVEMSU4RiUyMCU1Qk1BU0slNUQlMjAlRDAlQjglMjAlRDAlQjglRDAlQjclRDAlQjIlRDAlQkIlRDAlQjUlRDElODclRDAlQjUlRDAlQkMlMjAlRDAlQjUlRDAlQjMlRDAlQkUlMjAlRDAlQkIlRDAlQkUlRDAlQjMlRDAlQjglRDElODIlRDElOEIlMEFtYXNrX3Rva2VuX2luZGV4JTIwJTNEJTIwdG9yY2gud2hlcmUoaW5wdXRzJTVCJTIyaW5wdXRfaWRzJTIyJTVEJTIwJTNEJTNEJTIwdG9rZW5pemVyLm1hc2tfdG9rZW5faWQpJTVCMSU1RCUwQW1hc2tfdG9rZW5fbG9naXRzJTIwJTNEJTIwdG9rZW5fbG9naXRzJTVCMCUyQyUyMG1hc2tfdG9rZW5faW5kZXglMkMlMjAlM0ElNUQlMEElMjMlMjAlRDAlOTIlRDElOEIlRDAlQjElRDAlQjUlRDElODAlRDAlQjUlRDAlQkMlMjAlRDAlQkElRDAlQjAlRDAlQkQlRDAlQjQlRDAlQjglRDAlQjQlRDAlQjAlRDElODIlRDAlQkUlRDAlQjIlMjAlNUJNQVNLJTVEJTIwJUQxJTgxJTIwJUQwJUJEJUQwJUIwJUQwJUI4JUQwJUIxJUQwJUJFJUQwJUJCJUQxJThDJUQxJTg4JUQwJUI4JUQwJUJDJUQwJUI4JTIwJUQwJUJCJUQwJUJFJUQwJUIzJUQwJUI4JUQxJTgyJUQwJUIwJUQwJUJDJUQwJUI4JTBBdG9wXzVfdG9rZW5zJTIwJTNEJTIwdG9yY2gudG9wayhtYXNrX3Rva2VuX2xvZ2l0cyUyQyUyMDUlMkMlMjBkaW0lM0QxKS5pbmRpY2VzJTVCMCU1RC50b2xpc3QoKSUwQSUwQWZvciUyMHRva2VuJTIwaW4lMjB0b3BfNV90b2tlbnMlM0ElMEElMjAlMjAlMjAlMjBwcmludChmJTIyJyUzRSUzRSUzRSUyMCU3QnRleHQucmVwbGFjZSh0b2tlbml6ZXIubWFza190b2tlbiUyQyUyMHRva2VuaXplci5kZWNvZGUoJTVCdG9rZW4lNUQpKSU3RCclMjIp",highlighted:`<span class="hljs-keyword">import</span> torch

inputs = tokenizer(text, return_tensors=<span class="hljs-string">&quot;pt&quot;</span>)
token_logits = model(**inputs).logits
<span class="hljs-comment"># Определеним местоположения [MASK] и извлечем его логиты</span>
mask_token_index = torch.where(inputs[<span class="hljs-string">&quot;input_ids&quot;</span>] == tokenizer.mask_token_id)[<span class="hljs-number">1</span>]
mask_token_logits = token_logits[<span class="hljs-number">0</span>, mask_token_index, :]
<span class="hljs-comment"># Выберем кандидатов [MASK] с наибольшими логитами</span>
top_5_tokens = torch.topk(mask_token_logits, <span class="hljs-number">5</span>, dim=<span class="hljs-number">1</span>).indices[<span class="hljs-number">0</span>].tolist()

<span class="hljs-keyword">for</span> token <span class="hljs-keyword">in</span> top_5_tokens:
    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&#x27;&gt;&gt;&gt; <span class="hljs-subst">{text.replace(tokenizer.mask_token, tokenizer.decode([token]))}</span>&#x27;&quot;</span>)`,wrap:!1}}),{c(){r(M.$$.fragment)},l(a){T(M.$$.fragment,a)},m(a,y){c(M,a,y),w=!0},i(a){w||(p(M.$$.fragment,a),w=!0)},o(a){i(M.$$.fragment,a),w=!1},d(a){o(M,a)}}}function In(I){let M,w="✏️ <strong>Попробуйте!</strong> Создайте случайную выборку из части <code>unsupervised</code> и проверьте, что метки не являются ни <code>0</code>, ни <code>1</code>. В процессе работы вы также можете проверить, что метки в частях <code>train</code> и <code>test</code> действительно равны <code>0</code> или <code>1</code> - это полезная проверка здравомыслия, которую каждый практикующий NLP должен выполнять в начале нового проекта!";return{c(){M=d("p"),M.innerHTML=w},l(a){M=m(a,"P",{"data-svelte-h":!0}),C(M)!=="svelte-6nqyqs"&&(M.innerHTML=w)},m(a,y){t(a,M,y)},p:Hl,d(a){a&&e(M)}}}function fn(I){let M,w='✏️ <strong>Попробуйте!</strong> Некоторые модели трансформеров, например <a href="https://huggingface.co/google/bigbird-roberta-base" rel="nofollow">BigBird</a> и <a href="hf.co/allenai/longformer-base-4096">Longformer</a>, имеют гораздо большую длину контекста, чем BERT и другие ранние модели трансформеров. Инстанцируйте токенизатор для одной из этих контрольных точек и проверьте, что <code>model_max_length</code> согласуется с тем, что указано в описании модели.';return{c(){M=d("p"),M.innerHTML=w},l(a){M=m(a,"P",{"data-svelte-h":!0}),C(M)!=="svelte-1czdppo"&&(M.innerHTML=w)},m(a,y){t(a,M,y)},p:Hl,d(a){a&&e(M)}}}function Vn(I){let M,w="Обратите внимание, что использование небольшого размера фрагмента может быть вредным в реальных сценариях, поэтому следует использовать размер, соответствующий сценарию использования, к которому вы будете применять вашу модель.";return{c(){M=d("p"),M.textContent=w},l(a){M=m(a,"P",{"data-svelte-h":!0}),C(M)!=="svelte-wc81wg"&&(M.textContent=w)},m(a,y){t(a,M,y)},p:Hl,d(a){a&&e(M)}}}function _n(I){let M,w="✏️ <strong>Попробуйте!</strong> Запустите приведенный выше фрагмент кода несколько раз, чтобы увидеть, как случайное маскирование происходит на ваших глазах! Также замените метод <code>tokenizer.decode()</code> на <code>tokenizer.convert_ids_to_tokens()</code>, чтобы увидеть, что иногда маскируется один токен из данного слова, а не все остальные.";return{c(){M=d("p"),M.innerHTML=w},l(a){M=m(a,"P",{"data-svelte-h":!0}),C(M)!=="svelte-10edhjm"&&(M.innerHTML=w)},m(a,y){t(a,M,y)},p:Hl,d(a){a&&e(M)}}}function en(I){let M,w="Одним из побочных эффектов случайного маскирования является то, что наши метрики оценки не будут детерминированными при использовании <code>Trainer</code>, поскольку мы используем один и тот же коллатор данных для обучающего и тестового наборов. Позже, когда мы рассмотрим дообучение с помощью 🤗 Accelerate, мы увидим, как можно использовать гибкость пользовательского цикла оценки, чтобы заморозить случайность.";return{c(){M=d("p"),M.innerHTML=w},l(a){M=m(a,"P",{"data-svelte-h":!0}),C(M)!=="svelte-w4nd80"&&(M.innerHTML=w)},m(a,y){t(a,M,y)},d(a){a&&e(M)}}}function Qn(I){let M,w;return M=new h({props:{code:"aW1wb3J0JTIwY29sbGVjdGlvbnMlMEFpbXBvcnQlMjBudW1weSUyMGFzJTIwbnAlMEElMEFmcm9tJTIwdHJhbnNmb3JtZXJzLmRhdGEuZGF0YV9jb2xsYXRvciUyMGltcG9ydCUyMHRmX2RlZmF1bHRfZGF0YV9jb2xsYXRvciUwQSUwQXd3bV9wcm9iYWJpbGl0eSUyMCUzRCUyMDAuMiUwQSUwQSUwQWRlZiUyMHdob2xlX3dvcmRfbWFza2luZ19kYXRhX2NvbGxhdG9yKGZlYXR1cmVzKSUzQSUwQSUyMCUyMCUyMCUyMGZvciUyMGZlYXR1cmUlMjBpbiUyMGZlYXR1cmVzJTNBJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwd29yZF9pZHMlMjAlM0QlMjBmZWF0dXJlLnBvcCglMjJ3b3JkX2lkcyUyMiklMEElMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjMlMjAlRDAlQTElRDAlQkUlRDAlQjclRDAlQjQlRDAlQjAlRDAlQjUlRDAlQkMlMjAlRDAlQkUlRDElODIlRDAlQkUlRDAlQjElRDElODAlRDAlQjAlRDAlQjYlRDAlQjUlRDAlQkQlRDAlQjglRDAlQjUlMjAlRDAlQkMlRDAlQjUlRDAlQjYlRDAlQjQlRDElODMlMjAlRDElODElRDAlQkIlRDAlQkUlRDAlQjIlRDAlQjAlRDAlQkMlRDAlQjglMjAlRDAlQjglMjAlRDElODElRDAlQkUlRDAlQkUlRDElODIlRDAlQjIlRDAlQjUlRDElODIlRDElODElRDElODIlRDAlQjIlRDElODMlRDElOEUlRDElODklRDAlQjglRDAlQkMlRDAlQjglMjAlRDAlQjglRDAlQkQlRDAlQjQlRDAlQjUlRDAlQkElRDElODElRDAlQjAlRDAlQkMlRDAlQjglMjAlRDElODIlRDAlQkUlRDAlQkElRDAlQjUlRDAlQkQlRDAlQkUlRDAlQjIlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBtYXBwaW5nJTIwJTNEJTIwY29sbGVjdGlvbnMuZGVmYXVsdGRpY3QobGlzdCklMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBjdXJyZW50X3dvcmRfaW5kZXglMjAlM0QlMjAtMSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGN1cnJlbnRfd29yZCUyMCUzRCUyME5vbmUlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBmb3IlMjBpZHglMkMlMjB3b3JkX2lkJTIwaW4lMjBlbnVtZXJhdGUod29yZF9pZHMpJTNBJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwaWYlMjB3b3JkX2lkJTIwaXMlMjBub3QlMjBOb25lJTNBJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwaWYlMjB3b3JkX2lkJTIwISUzRCUyMGN1cnJlbnRfd29yZCUzQSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGN1cnJlbnRfd29yZCUyMCUzRCUyMHdvcmRfaWQlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBjdXJyZW50X3dvcmRfaW5kZXglMjAlMkIlM0QlMjAxJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwbWFwcGluZyU1QmN1cnJlbnRfd29yZF9pbmRleCU1RC5hcHBlbmQoaWR4KSUwQSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMyUyMCVEMCVBMSVEMCVCQiVEMSU4MyVEMSU4NyVEMCVCMCVEMCVCOSVEMCVCRCVEMCVCRSUyMCVEMCVCQyVEMCVCMCVEMSU4MSVEMCVCQSVEMCVCOCVEMSU4MCVEMSU4MyVEMCVCNSVEMCVCQyUyMCVEMSU4MSVEMCVCQiVEMCVCRSVEMCVCMiVEMCVCMCUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG1hc2slMjAlM0QlMjBucC5yYW5kb20uYmlub21pYWwoMSUyQyUyMHd3bV9wcm9iYWJpbGl0eSUyQyUyMChsZW4obWFwcGluZyklMkMpKSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGlucHV0X2lkcyUyMCUzRCUyMGZlYXR1cmUlNUIlMjJpbnB1dF9pZHMlMjIlNUQlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBsYWJlbHMlMjAlM0QlMjBmZWF0dXJlJTVCJTIybGFiZWxzJTIyJTVEJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwbmV3X2xhYmVscyUyMCUzRCUyMCU1Qi0xMDAlNUQlMjAqJTIwbGVuKGxhYmVscyklMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBmb3IlMjB3b3JkX2lkJTIwaW4lMjBucC53aGVyZShtYXNrKSU1QjAlNUQlM0ElMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjB3b3JkX2lkJTIwJTNEJTIwd29yZF9pZC5pdGVtKCklMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBmb3IlMjBpZHglMjBpbiUyMG1hcHBpbmclNUJ3b3JkX2lkJTVEJTNBJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwbmV3X2xhYmVscyU1QmlkeCU1RCUyMCUzRCUyMGxhYmVscyU1QmlkeCU1RCUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGlucHV0X2lkcyU1QmlkeCU1RCUyMCUzRCUyMHRva2VuaXplci5tYXNrX3Rva2VuX2lkJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwZmVhdHVyZSU1QiUyMmxhYmVscyUyMiU1RCUyMCUzRCUyMG5ld19sYWJlbHMlMEElMEElMjAlMjAlMjAlMjByZXR1cm4lMjB0Zl9kZWZhdWx0X2RhdGFfY29sbGF0b3IoZmVhdHVyZXMp",highlighted:`<span class="hljs-keyword">import</span> collections
<span class="hljs-keyword">import</span> numpy <span class="hljs-keyword">as</span> np

<span class="hljs-keyword">from</span> transformers.data.data_collator <span class="hljs-keyword">import</span> tf_default_data_collator

wwm_probability = <span class="hljs-number">0.2</span>


<span class="hljs-keyword">def</span> <span class="hljs-title function_">whole_word_masking_data_collator</span>(<span class="hljs-params">features</span>):
    <span class="hljs-keyword">for</span> feature <span class="hljs-keyword">in</span> features:
        word_ids = feature.pop(<span class="hljs-string">&quot;word_ids&quot;</span>)

        <span class="hljs-comment"># Создаем отображение между словами и соответствующими индексами токенов</span>
        mapping = collections.defaultdict(<span class="hljs-built_in">list</span>)
        current_word_index = -<span class="hljs-number">1</span>
        current_word = <span class="hljs-literal">None</span>
        <span class="hljs-keyword">for</span> idx, word_id <span class="hljs-keyword">in</span> <span class="hljs-built_in">enumerate</span>(word_ids):
            <span class="hljs-keyword">if</span> word_id <span class="hljs-keyword">is</span> <span class="hljs-keyword">not</span> <span class="hljs-literal">None</span>:
                <span class="hljs-keyword">if</span> word_id != current_word:
                    current_word = word_id
                    current_word_index += <span class="hljs-number">1</span>
                mapping[current_word_index].append(idx)

        <span class="hljs-comment"># Случайно маскируем слова</span>
        mask = np.random.binomial(<span class="hljs-number">1</span>, wwm_probability, (<span class="hljs-built_in">len</span>(mapping),))
        input_ids = feature[<span class="hljs-string">&quot;input_ids&quot;</span>]
        labels = feature[<span class="hljs-string">&quot;labels&quot;</span>]
        new_labels = [-<span class="hljs-number">100</span>] * <span class="hljs-built_in">len</span>(labels)
        <span class="hljs-keyword">for</span> word_id <span class="hljs-keyword">in</span> np.where(mask)[<span class="hljs-number">0</span>]:
            word_id = word_id.item()
            <span class="hljs-keyword">for</span> idx <span class="hljs-keyword">in</span> mapping[word_id]:
                new_labels[idx] = labels[idx]
                input_ids[idx] = tokenizer.mask_token_id
        feature[<span class="hljs-string">&quot;labels&quot;</span>] = new_labels

    <span class="hljs-keyword">return</span> tf_default_data_collator(features)`,wrap:!1}}),{c(){r(M.$$.fragment)},l(a){T(M.$$.fragment,a)},m(a,y){c(M,a,y),w=!0},i(a){w||(p(M.$$.fragment,a),w=!0)},o(a){i(M.$$.fragment,a),w=!1},d(a){o(M,a)}}}function Rn(I){let M,w;return M=new h({props:{code:"aW1wb3J0JTIwY29sbGVjdGlvbnMlMEFpbXBvcnQlMjBudW1weSUyMGFzJTIwbnAlMEElMEFmcm9tJTIwdHJhbnNmb3JtZXJzJTIwaW1wb3J0JTIwZGVmYXVsdF9kYXRhX2NvbGxhdG9yJTBBJTBBd3dtX3Byb2JhYmlsaXR5JTIwJTNEJTIwMC4yJTBBJTBBJTBBZGVmJTIwd2hvbGVfd29yZF9tYXNraW5nX2RhdGFfY29sbGF0b3IoZmVhdHVyZXMpJTNBJTBBJTIwJTIwJTIwJTIwZm9yJTIwZmVhdHVyZSUyMGluJTIwZmVhdHVyZXMlM0ElMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjB3b3JkX2lkcyUyMCUzRCUyMGZlYXR1cmUucG9wKCUyMndvcmRfaWRzJTIyKSUwQSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMyUyMCVEMCVBMSVEMCVCRSVEMCVCNyVEMCVCNCVEMCVCMCVEMCVCNSVEMCVCQyUyMCVEMCVCRSVEMSU4MiVEMCVCRSVEMCVCMSVEMSU4MCVEMCVCMCVEMCVCNiVEMCVCNSVEMCVCRCVEMCVCOCVEMCVCNSUyMCVEMCVCQyVEMCVCNSVEMCVCNiVEMCVCNCVEMSU4MyUyMCVEMSU4MSVEMCVCQiVEMCVCRSVEMCVCMiVEMCVCMCVEMCVCQyVEMCVCOCUyMCVEMCVCOCUyMCVEMSU4MSVEMCVCRSVEMCVCRSVEMSU4MiVEMCVCMiVEMCVCNSVEMSU4MiVEMSU4MSVEMSU4MiVEMCVCMiVEMSU4MyVEMSU4RSVEMSU4OSVEMCVCOCVEMCVCQyVEMCVCOCUyMCVEMCVCOCVEMCVCRCVEMCVCNCVEMCVCNSVEMCVCQSVEMSU4MSVEMCVCMCVEMCVCQyVEMCVCOCUyMCVEMSU4MiVEMCVCRSVEMCVCQSVEMCVCNSVEMCVCRCVEMCVCRSVEMCVCMiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG1hcHBpbmclMjAlM0QlMjBjb2xsZWN0aW9ucy5kZWZhdWx0ZGljdChsaXN0KSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGN1cnJlbnRfd29yZF9pbmRleCUyMCUzRCUyMC0xJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwY3VycmVudF93b3JkJTIwJTNEJTIwTm9uZSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGZvciUyMGlkeCUyQyUyMHdvcmRfaWQlMjBpbiUyMGVudW1lcmF0ZSh3b3JkX2lkcyklM0ElMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBpZiUyMHdvcmRfaWQlMjBpcyUyMG5vdCUyME5vbmUlM0ElMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBpZiUyMHdvcmRfaWQlMjAhJTNEJTIwY3VycmVudF93b3JkJTNBJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwY3VycmVudF93b3JkJTIwJTNEJTIwd29yZF9pZCUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGN1cnJlbnRfd29yZF9pbmRleCUyMCUyQiUzRCUyMDElMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBtYXBwaW5nJTVCY3VycmVudF93b3JkX2luZGV4JTVELmFwcGVuZChpZHgpJTBBJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIzJTIwJUQwJUExJUQwJUJCJUQxJTgzJUQxJTg3JUQwJUIwJUQwJUI5JUQwJUJEJUQwJUJFJTIwJUQwJUJDJUQwJUIwJUQxJTgxJUQwJUJBJUQwJUI4JUQxJTgwJUQxJTgzJUQwJUI1JUQwJUJDJTIwJUQxJTgxJUQwJUJCJUQwJUJFJUQwJUIyJUQwJUIwJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwbWFzayUyMCUzRCUyMG5wLnJhbmRvbS5iaW5vbWlhbCgxJTJDJTIwd3dtX3Byb2JhYmlsaXR5JTJDJTIwKGxlbihtYXBwaW5nKSUyQykpJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwaW5wdXRfaWRzJTIwJTNEJTIwZmVhdHVyZSU1QiUyMmlucHV0X2lkcyUyMiU1RCUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGxhYmVscyUyMCUzRCUyMGZlYXR1cmUlNUIlMjJsYWJlbHMlMjIlNUQlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBuZXdfbGFiZWxzJTIwJTNEJTIwJTVCLTEwMCU1RCUyMColMjBsZW4obGFiZWxzKSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGZvciUyMHdvcmRfaWQlMjBpbiUyMG5wLndoZXJlKG1hc2spJTVCMCU1RCUzQSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMHdvcmRfaWQlMjAlM0QlMjB3b3JkX2lkLml0ZW0oKSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGZvciUyMGlkeCUyMGluJTIwbWFwcGluZyU1QndvcmRfaWQlNUQlM0ElMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBuZXdfbGFiZWxzJTVCaWR4JTVEJTIwJTNEJTIwbGFiZWxzJTVCaWR4JTVEJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwaW5wdXRfaWRzJTVCaWR4JTVEJTIwJTNEJTIwdG9rZW5pemVyLm1hc2tfdG9rZW5faWQlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBmZWF0dXJlJTVCJTIybGFiZWxzJTIyJTVEJTIwJTNEJTIwbmV3X2xhYmVscyUwQSUwQSUyMCUyMCUyMCUyMHJldHVybiUyMGRlZmF1bHRfZGF0YV9jb2xsYXRvcihmZWF0dXJlcyk=",highlighted:`<span class="hljs-keyword">import</span> collections
<span class="hljs-keyword">import</span> numpy <span class="hljs-keyword">as</span> np

<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> default_data_collator

wwm_probability = <span class="hljs-number">0.2</span>


<span class="hljs-keyword">def</span> <span class="hljs-title function_">whole_word_masking_data_collator</span>(<span class="hljs-params">features</span>):
    <span class="hljs-keyword">for</span> feature <span class="hljs-keyword">in</span> features:
        word_ids = feature.pop(<span class="hljs-string">&quot;word_ids&quot;</span>)

        <span class="hljs-comment"># Создаем отображение между словами и соответствующими индексами токенов</span>
        mapping = collections.defaultdict(<span class="hljs-built_in">list</span>)
        current_word_index = -<span class="hljs-number">1</span>
        current_word = <span class="hljs-literal">None</span>
        <span class="hljs-keyword">for</span> idx, word_id <span class="hljs-keyword">in</span> <span class="hljs-built_in">enumerate</span>(word_ids):
            <span class="hljs-keyword">if</span> word_id <span class="hljs-keyword">is</span> <span class="hljs-keyword">not</span> <span class="hljs-literal">None</span>:
                <span class="hljs-keyword">if</span> word_id != current_word:
                    current_word = word_id
                    current_word_index += <span class="hljs-number">1</span>
                mapping[current_word_index].append(idx)

        <span class="hljs-comment"># Случайно маскируем слова</span>
        mask = np.random.binomial(<span class="hljs-number">1</span>, wwm_probability, (<span class="hljs-built_in">len</span>(mapping),))
        input_ids = feature[<span class="hljs-string">&quot;input_ids&quot;</span>]
        labels = feature[<span class="hljs-string">&quot;labels&quot;</span>]
        new_labels = [-<span class="hljs-number">100</span>] * <span class="hljs-built_in">len</span>(labels)
        <span class="hljs-keyword">for</span> word_id <span class="hljs-keyword">in</span> np.where(mask)[<span class="hljs-number">0</span>]:
            word_id = word_id.item()
            <span class="hljs-keyword">for</span> idx <span class="hljs-keyword">in</span> mapping[word_id]:
                new_labels[idx] = labels[idx]
                input_ids[idx] = tokenizer.mask_token_id
        feature[<span class="hljs-string">&quot;labels&quot;</span>] = new_labels

    <span class="hljs-keyword">return</span> default_data_collator(features)`,wrap:!1}}),{c(){r(M.$$.fragment)},l(a){T(M.$$.fragment,a)},m(a,y){c(M,a,y),w=!0},i(a){w||(p(M.$$.fragment,a),w=!0)},o(a){i(M.$$.fragment,a),w=!1},d(a){o(M,a)}}}function Gn(I){let M,w="✏️ <strong>Попробуйте!</strong> Запустите приведенный выше фрагмент кода несколько раз, чтобы увидеть, как случайное маскирование происходит на ваших глазах! Также замените метод <code>tokenizer.decode()</code> на <code>tokenizer.convert_ids_to_tokens()</code>, чтобы увидеть, что токены из данного слова всегда маскируются вместе.";return{c(){M=d("p"),M.innerHTML=w},l(a){M=m(a,"P",{"data-svelte-h":!0}),C(M)!=="svelte-1hxwyak"&&(M.innerHTML=w)},m(a,y){t(a,M,y)},p:Hl,d(a){a&&e(M)}}}function gn(I){let M,w="После того как мы авторизовались, мы можем указать аргументы для <code>Trainer</code>:",a,y,V,j,B="Здесь мы изменили несколько параметров по умолчанию, включая <code>logging_steps</code>, чтобы обеспечить отслеживание потерь при обучении в каждой эпохе. Мы также использовали <code>fp16=True</code>, чтобы включить обучение со смешанной точностью, что дает нам еще большее улучшение скорости. По умолчанию <code>Trainer</code> удаляет все столбцы, которые не являются частью метода <code>forward()</code> модели. Это означает, что если вы используете коллатор для маскировки слов целиком, вам также нужно установить <code>remove_unused_columns=False</code>, чтобы не потерять колонку <code>word_ids</code> во время обучения.",k,R,Z='Обратите внимание, что с помощью аргумента <code>hub_model_id</code> можно указать имя репозитория, в который вы хотите отправить модель (в частности, этот аргумент нужно использовать, чтобы отправить модель в ырепозиторий организации). Например, когда мы отправили модель в репозиторий организации <a href="https://huggingface.co/huggingface-course" rel="nofollow"><code>huggingface-course</code></a>, мы добавили <code>hub_model_id=&quot;huggingface-course/distilbert-finetuned-imdb&quot;</code> в <code>TrainingArguments</code>. По умолчанию используемый репозиторий будет находиться в вашем пространстве имен и называться в соответствии с заданной вами выходной директорией, так что в нашем случае это будет <code>&quot;lewtun/distilbert-finetuned-imdb&quot;</code>.',g,G,u="Теперь у нас есть все компоненты для создания <code>Trainer</code>. Здесь мы просто используем стандартный <code>data_collator</code>, но вы можете попробовать коллатор для маскирования слов целиком и сравнить результаты в качестве упражнения:",_,N,A,f,E="Теперь мы готовы запустить <code>trainer.train()</code>, но перед этим давайте вкратце рассмотрим _перплексию (perplexity), которая является общей метрикой для оценки качества языковых моделей.",z;return y=new h({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMFRyYWluaW5nQXJndW1lbnRzJTBBJTBBYmF0Y2hfc2l6ZSUyMCUzRCUyMDY0JTBBJTIzJTIwJUQwJTlGJUQwJUJFJUQwJUJBJUQwJUIwJUQwJUI3JUQxJThCJUQwJUIyJUQwJUIwJUQwJUI1JUQwJUJDJTIwJUQwJUJGJUQwJUJFJUQxJTgyJUQwJUI1JUQxJTgwJUQwJUI4JTIwJUQwJUJGJUQxJTgwJUQwJUI4JTIwJUQwJUJFJUQwJUIxJUQxJTgzJUQxJTg3JUQwJUI1JUQwJUJEJUQwJUI4JUQwJUI4JTIwJUQwJUI0JUQwJUJCJUQxJThGJTIwJUQwJUJBJUQwJUIwJUQwJUI2JUQwJUI0JUQwJUJFJUQwJUI5JTIwJUQxJThEJUQwJUJGJUQwJUJFJUQxJTg1JUQwJUI4JTBBbG9nZ2luZ19zdGVwcyUyMCUzRCUyMGxlbihkb3duc2FtcGxlZF9kYXRhc2V0JTVCJTIydHJhaW4lMjIlNUQpJTIwJTJGJTJGJTIwYmF0Y2hfc2l6ZSUwQW1vZGVsX25hbWUlMjAlM0QlMjBtb2RlbF9jaGVja3BvaW50LnNwbGl0KCUyMiUyRiUyMiklNUItMSU1RCUwQSUwQXRyYWluaW5nX2FyZ3MlMjAlM0QlMjBUcmFpbmluZ0FyZ3VtZW50cyglMEElMjAlMjAlMjAlMjBvdXRwdXRfZGlyJTNEZiUyMiU3Qm1vZGVsX25hbWUlN0QtZmluZXR1bmVkLWltZGIlMjIlMkMlMEElMjAlMjAlMjAlMjBvdmVyd3JpdGVfb3V0cHV0X2RpciUzRFRydWUlMkMlMEElMjAlMjAlMjAlMjBldmFsdWF0aW9uX3N0cmF0ZWd5JTNEJTIyZXBvY2glMjIlMkMlMEElMjAlMjAlMjAlMjBsZWFybmluZ19yYXRlJTNEMmUtNSUyQyUwQSUyMCUyMCUyMCUyMHdlaWdodF9kZWNheSUzRDAuMDElMkMlMEElMjAlMjAlMjAlMjBwZXJfZGV2aWNlX3RyYWluX2JhdGNoX3NpemUlM0RiYXRjaF9zaXplJTJDJTBBJTIwJTIwJTIwJTIwcGVyX2RldmljZV9ldmFsX2JhdGNoX3NpemUlM0RiYXRjaF9zaXplJTJDJTBBJTIwJTIwJTIwJTIwcHVzaF90b19odWIlM0RUcnVlJTJDJTBBJTIwJTIwJTIwJTIwZnAxNiUzRFRydWUlMkMlMEElMjAlMjAlMjAlMjBsb2dnaW5nX3N0ZXBzJTNEbG9nZ2luZ19zdGVwcyUyQyUwQSk=",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> TrainingArguments

batch_size = <span class="hljs-number">64</span>
<span class="hljs-comment"># Показываем потери при обучении для каждой эпохи</span>
logging_steps = <span class="hljs-built_in">len</span>(downsampled_dataset[<span class="hljs-string">&quot;train&quot;</span>]) // batch_size
model_name = model_checkpoint.split(<span class="hljs-string">&quot;/&quot;</span>)[-<span class="hljs-number">1</span>]

training_args = TrainingArguments(
    output_dir=<span class="hljs-string">f&quot;<span class="hljs-subst">{model_name}</span>-finetuned-imdb&quot;</span>,
    overwrite_output_dir=<span class="hljs-literal">True</span>,
    evaluation_strategy=<span class="hljs-string">&quot;epoch&quot;</span>,
    learning_rate=<span class="hljs-number">2e-5</span>,
    weight_decay=<span class="hljs-number">0.01</span>,
    per_device_train_batch_size=batch_size,
    per_device_eval_batch_size=batch_size,
    push_to_hub=<span class="hljs-literal">True</span>,
    fp16=<span class="hljs-literal">True</span>,
    logging_steps=logging_steps,
)`,wrap:!1}}),N=new h({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMFRyYWluZXIlMEElMEF0cmFpbmVyJTIwJTNEJTIwVHJhaW5lciglMEElMjAlMjAlMjAlMjBtb2RlbCUzRG1vZGVsJTJDJTBBJTIwJTIwJTIwJTIwYXJncyUzRHRyYWluaW5nX2FyZ3MlMkMlMEElMjAlMjAlMjAlMjB0cmFpbl9kYXRhc2V0JTNEZG93bnNhbXBsZWRfZGF0YXNldCU1QiUyMnRyYWluJTIyJTVEJTJDJTBBJTIwJTIwJTIwJTIwZXZhbF9kYXRhc2V0JTNEZG93bnNhbXBsZWRfZGF0YXNldCU1QiUyMnRlc3QlMjIlNUQlMkMlMEElMjAlMjAlMjAlMjBkYXRhX2NvbGxhdG9yJTNEZGF0YV9jb2xsYXRvciUyQyUwQSUyMCUyMCUyMCUyMHRva2VuaXplciUzRHRva2VuaXplciUyQyUwQSk=",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> Trainer

trainer = Trainer(
    model=model,
    args=training_args,
    train_dataset=downsampled_dataset[<span class="hljs-string">&quot;train&quot;</span>],
    eval_dataset=downsampled_dataset[<span class="hljs-string">&quot;test&quot;</span>],
    data_collator=data_collator,
    tokenizer=tokenizer,
)`,wrap:!1}}),{c(){M=d("p"),M.innerHTML=w,a=n(),r(y.$$.fragment),V=n(),j=d("p"),j.innerHTML=B,k=n(),R=d("p"),R.innerHTML=Z,g=n(),G=d("p"),G.innerHTML=u,_=n(),r(N.$$.fragment),A=n(),f=d("p"),f.innerHTML=E},l(Q){M=m(Q,"P",{"data-svelte-h":!0}),C(M)!=="svelte-1g9hygo"&&(M.innerHTML=w),a=J(Q),T(y.$$.fragment,Q),V=J(Q),j=m(Q,"P",{"data-svelte-h":!0}),C(j)!=="svelte-p77bjo"&&(j.innerHTML=B),k=J(Q),R=m(Q,"P",{"data-svelte-h":!0}),C(R)!=="svelte-e2ifwj"&&(R.innerHTML=Z),g=J(Q),G=m(Q,"P",{"data-svelte-h":!0}),C(G)!=="svelte-1lrd89"&&(G.innerHTML=u),_=J(Q),T(N.$$.fragment,Q),A=J(Q),f=m(Q,"P",{"data-svelte-h":!0}),C(f)!=="svelte-7b3owm"&&(f.innerHTML=E)},m(Q,X){t(Q,M,X),t(Q,a,X),c(y,Q,X),t(Q,V,X),t(Q,j,X),t(Q,k,X),t(Q,R,X),t(Q,g,X),t(Q,G,X),t(Q,_,X),c(N,Q,X),t(Q,A,X),t(Q,f,X),z=!0},i(Q){z||(p(y.$$.fragment,Q),p(N.$$.fragment,Q),z=!0)},o(Q){i(y.$$.fragment,Q),i(N.$$.fragment,Q),z=!1},d(Q){Q&&(e(M),e(a),e(V),e(j),e(k),e(R),e(g),e(G),e(_),e(A),e(f)),o(y,Q),o(N,Q)}}}function Bn(I){let M,w="После того как мы авторизовались, мы можем создавать наши датасеты <code>tf.data</code>. Для этого мы воспользуемся методом <code>prepare_tf_dataset()</code>, который использует нашу модель для автоматического инференса того, какие столбцы должны войти в датасет. Если вы хотите контролировать, какие именно столбцы будут использоваться, вы можете использовать метод <code>Dataset.to_tf_dataset()</code> вместо этого. Для простоты мы будем использовать стандартный коллатор данных, но вы также можете попробовать коллатор для маскировки слов целиком и сравнить результаты в качестве упражнения:",a,y,V,j,B="Далее мы задаем гиперпараметры обучения и компилируем нашу модель. Мы используем функцию <code>create_optimizer()</code> из библиотеки 🤗 Transformers, которая возвращает нам оптимизатор <code>AdamW</code> с линейным затуханием скорости обучения. Мы также используем встроенные потери модели, которые используются по умолчанию, если в качестве аргумента <code>compile()</code> не указаны потери, и устанавливаем точность обучения на <code>&quot;mixed_float16&quot;</code>. Обратите внимание, что если вы используете Colab GPU или другой GPU, который не имеет поддержки ускорения float16, вам, вероятно, следует закомментировать эту строку.",k,R,Z='Кроме того, мы настроили <code>PushToHubCallback</code>, который будет сохранять модель в Hub после каждой эпохи. Вы можете указать имя репозитория, в который хотите отправить модель, с помощью аргумента <code>hub_model_id</code> (в частности, этот аргумент нужно использовать, чтобы отправить модель в организацию). Например, чтобы отправить модель в организацию <a href="https://huggingface.co/huggingface-course" rel="nofollow"><code>huggingface-course</code></a>, мы добавили <code>hub_model_id=&quot;huggingface-course/distilbert-finetuned-imdb&quot;</code>. По умолчанию используемый репозиторий будет находиться в вашем пространстве имен и называться в соответствии с заданным вами выходным каталогом, так что в нашем случае это будет <code>&quot;lewtun/distilbert-finetuned-imdb&quot;</code>.',g,G,u,_,N="Теперь мы готовы запустить <code>model.fit()</code>, но перед этим давайте вкратце рассмотрим <em>перплексию (perplexity)</em>, которая является общей метрикой для оценки качества работы языковых моделей.",A;return y=new h({props:{code:"dGZfdHJhaW5fZGF0YXNldCUyMCUzRCUyMG1vZGVsLnByZXBhcmVfdGZfZGF0YXNldCglMEElMjAlMjAlMjAlMjBkb3duc2FtcGxlZF9kYXRhc2V0JTVCJTIydHJhaW4lMjIlNUQlMkMlMEElMjAlMjAlMjAlMjBjb2xsYXRlX2ZuJTNEZGF0YV9jb2xsYXRvciUyQyUwQSUyMCUyMCUyMCUyMHNodWZmbGUlM0RUcnVlJTJDJTBBJTIwJTIwJTIwJTIwYmF0Y2hfc2l6ZSUzRDMyJTJDJTBBKSUwQSUwQXRmX2V2YWxfZGF0YXNldCUyMCUzRCUyMG1vZGVsLnByZXBhcmVfdGZfZGF0YXNldCglMEElMjAlMjAlMjAlMjBkb3duc2FtcGxlZF9kYXRhc2V0JTVCJTIydGVzdCUyMiU1RCUyQyUwQSUyMCUyMCUyMCUyMGNvbGxhdGVfZm4lM0RkYXRhX2NvbGxhdG9yJTJDJTBBJTIwJTIwJTIwJTIwc2h1ZmZsZSUzREZhbHNlJTJDJTBBJTIwJTIwJTIwJTIwYmF0Y2hfc2l6ZSUzRDMyJTJDJTBBKQ==",highlighted:`tf_train_dataset = model.prepare_tf_dataset(
    downsampled_dataset[<span class="hljs-string">&quot;train&quot;</span>],
    collate_fn=data_collator,
    shuffle=<span class="hljs-literal">True</span>,
    batch_size=<span class="hljs-number">32</span>,
)

tf_eval_dataset = model.prepare_tf_dataset(
    downsampled_dataset[<span class="hljs-string">&quot;test&quot;</span>],
    collate_fn=data_collator,
    shuffle=<span class="hljs-literal">False</span>,
    batch_size=<span class="hljs-number">32</span>,
)`,wrap:!1}}),G=new h({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMGNyZWF0ZV9vcHRpbWl6ZXIlMEFmcm9tJTIwdHJhbnNmb3JtZXJzLmtlcmFzX2NhbGxiYWNrcyUyMGltcG9ydCUyMFB1c2hUb0h1YkNhbGxiYWNrJTBBaW1wb3J0JTIwdGVuc29yZmxvdyUyMGFzJTIwdGYlMEElMEFudW1fdHJhaW5fc3RlcHMlMjAlM0QlMjBsZW4odGZfdHJhaW5fZGF0YXNldCklMEFvcHRpbWl6ZXIlMkMlMjBzY2hlZHVsZSUyMCUzRCUyMGNyZWF0ZV9vcHRpbWl6ZXIoJTBBJTIwJTIwJTIwJTIwaW5pdF9sciUzRDJlLTUlMkMlMEElMjAlMjAlMjAlMjBudW1fd2FybXVwX3N0ZXBzJTNEMV8wMDAlMkMlMEElMjAlMjAlMjAlMjBudW1fdHJhaW5fc3RlcHMlM0RudW1fdHJhaW5fc3RlcHMlMkMlMEElMjAlMjAlMjAlMjB3ZWlnaHRfZGVjYXlfcmF0ZSUzRDAuMDElMkMlMEEpJTBBbW9kZWwuY29tcGlsZShvcHRpbWl6ZXIlM0RvcHRpbWl6ZXIpJTBBJTBBJTIzJTIwJUQwJTlFJUQwJUIxJUQxJTgzJUQxJTg3JUQwJUI1JUQwJUJEJUQwJUI4JUQwJUI1JTIwJUQxJTgxJUQwJUJFJTIwJUQxJTgxJUQwJUJDJUQwJUI1JUQxJTg4JUQwJUIwJUQwJUJEJUQwJUJEJUQwJUJFJUQwJUI5JTIwJUQxJTgyJUQwJUJFJUQxJTg3JUQwJUJEJUQwJUJFJUQxJTgxJUQxJTgyJUQxJThDJUQxJThFJTIwZmxvYXQxNiUwQXRmLmtlcmFzLm1peGVkX3ByZWNpc2lvbi5zZXRfZ2xvYmFsX3BvbGljeSglMjJtaXhlZF9mbG9hdDE2JTIyKSUwQSUwQW1vZGVsX25hbWUlMjAlM0QlMjBtb2RlbF9jaGVja3BvaW50LnNwbGl0KCUyMiUyRiUyMiklNUItMSU1RCUwQWNhbGxiYWNrJTIwJTNEJTIwUHVzaFRvSHViQ2FsbGJhY2soJTBBJTIwJTIwJTIwJTIwb3V0cHV0X2RpciUzRGYlMjIlN0Jtb2RlbF9uYW1lJTdELWZpbmV0dW5lZC1pbWRiJTIyJTJDJTIwdG9rZW5pemVyJTNEdG9rZW5pemVyJTBBKQ==",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> create_optimizer
<span class="hljs-keyword">from</span> transformers.keras_callbacks <span class="hljs-keyword">import</span> PushToHubCallback
<span class="hljs-keyword">import</span> tensorflow <span class="hljs-keyword">as</span> tf

num_train_steps = <span class="hljs-built_in">len</span>(tf_train_dataset)
optimizer, schedule = create_optimizer(
    init_lr=<span class="hljs-number">2e-5</span>,
    num_warmup_steps=<span class="hljs-number">1_000</span>,
    num_train_steps=num_train_steps,
    weight_decay_rate=<span class="hljs-number">0.01</span>,
)
model.<span class="hljs-built_in">compile</span>(optimizer=optimizer)

<span class="hljs-comment"># Обучение со смешанной точностью float16</span>
tf.keras.mixed_precision.set_global_policy(<span class="hljs-string">&quot;mixed_float16&quot;</span>)

model_name = model_checkpoint.split(<span class="hljs-string">&quot;/&quot;</span>)[-<span class="hljs-number">1</span>]
callback = PushToHubCallback(
    output_dir=<span class="hljs-string">f&quot;<span class="hljs-subst">{model_name}</span>-finetuned-imdb&quot;</span>, tokenizer=tokenizer
)`,wrap:!1}}),{c(){M=d("p"),M.innerHTML=w,a=n(),r(y.$$.fragment),V=n(),j=d("p"),j.innerHTML=B,k=n(),R=d("p"),R.innerHTML=Z,g=n(),r(G.$$.fragment),u=n(),_=d("p"),_.innerHTML=N},l(f){M=m(f,"P",{"data-svelte-h":!0}),C(M)!=="svelte-m4xczw"&&(M.innerHTML=w),a=J(f),T(y.$$.fragment,f),V=J(f),j=m(f,"P",{"data-svelte-h":!0}),C(j)!=="svelte-1y0cs2t"&&(j.innerHTML=B),k=J(f),R=m(f,"P",{"data-svelte-h":!0}),C(R)!=="svelte-av7kt1"&&(R.innerHTML=Z),g=J(f),T(G.$$.fragment,f),u=J(f),_=m(f,"P",{"data-svelte-h":!0}),C(_)!=="svelte-qmwnep"&&(_.innerHTML=N)},m(f,E){t(f,M,E),t(f,a,E),c(y,f,E),t(f,V,E),t(f,j,E),t(f,k,E),t(f,R,E),t(f,g,E),c(G,f,E),t(f,u,E),t(f,_,E),A=!0},i(f){A||(p(y.$$.fragment,f),p(G.$$.fragment,f),A=!0)},o(f){i(y.$$.fragment,f),i(G.$$.fragment,f),A=!1},d(f){f&&(e(M),e(a),e(V),e(j),e(k),e(R),e(g),e(u),e(_)),o(y,f),o(G,f)}}}function kn(I){let M,w="Если предположить, что наш тестовый набор состоит в основном из грамматически правильных предложений, то одним из способов измерения качества нашей языковой модели является подсчет вероятностей, которые она присваивает следующему слову во всех предложениях тестового набора. Высокие вероятности указывают на то, что модель не “удивлена” или не “перплексирована” не виденными ранее примерами, и предполагают, что она выучила основные грамматические закономерности языка. Существуют различные математические определения перплексии, но то, которое мы будем использовать, определяет ее как экспоненту потери перекрестной энтропии. Таким образом, мы можем вычислить перплексию нашей предварительно обученной модели, используя метод <code>model.evaluate()</code> для вычисления потери кросс-энтропии на тестовом наборе, а затем взяв экспоненту результата:",a,y,V;return y=new h({props:{code:"aW1wb3J0JTIwbWF0aCUwQSUwQWV2YWxfbG9zcyUyMCUzRCUyMG1vZGVsLmV2YWx1YXRlKHRmX2V2YWxfZGF0YXNldCklMEFwcmludChmJTIyUGVycGxleGl0eSUzQSUyMCU3Qm1hdGguZXhwKGV2YWxfbG9zcyklM0EuMmYlN0QlMjIp",highlighted:`<span class="hljs-keyword">import</span> math

eval_loss = model.evaluate(tf_eval_dataset)
<span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;Perplexity: <span class="hljs-subst">{math.exp(eval_loss):<span class="hljs-number">.2</span>f}</span>&quot;</span>)`,wrap:!1}}),{c(){M=d("p"),M.innerHTML=w,a=n(),r(y.$$.fragment)},l(j){M=m(j,"P",{"data-svelte-h":!0}),C(M)!=="svelte-b8jsw9"&&(M.innerHTML=w),a=J(j),T(y.$$.fragment,j)},m(j,B){t(j,M,B),t(j,a,B),c(y,j,B),V=!0},i(j){V||(p(y.$$.fragment,j),V=!0)},o(j){i(y.$$.fragment,j),V=!1},d(j){j&&(e(M),e(a)),o(y,j)}}}function Zn(I){let M,w="Если предположить, что наш тестовый набор состоит в основном из грамматически правильных предложений, то одним из способов измерения качества нашей языковой модели является подсчет вероятностей, которые она присваивает следующему слову во всех предложениях тестового набора. Высокие вероятности указывают на то, что модель не “удивлена” и не “перплексирована” не виденными ранее примерами, и предполагают, что она усвоила основные грамматические закономерности языка. Существуют различные математические определения перплексии, но то, которое мы будем использовать, определяет ее как экспоненту потери перекрестной энтропии. Таким образом, мы можем вычислить перплексию нашей предварительно обученной модели, используя функцию <code>Trainer.evaluate()</code> для вычисления потерь кросс-энтропии на тестовом наборе, а затем взяв экспоненту результата:",a,y,V;return y=new h({props:{code:"aW1wb3J0JTIwbWF0aCUwQSUwQWV2YWxfcmVzdWx0cyUyMCUzRCUyMHRyYWluZXIuZXZhbHVhdGUoKSUwQXByaW50KGYlMjIlM0UlM0UlM0UlMjBQZXJwbGV4aXR5JTNBJTIwJTdCbWF0aC5leHAoZXZhbF9yZXN1bHRzJTVCJ2V2YWxfbG9zcyclNUQpJTNBLjJmJTdEJTIyKQ==",highlighted:`<span class="hljs-keyword">import</span> math

eval_results = trainer.evaluate()
<span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&gt;&gt;&gt; Perplexity: <span class="hljs-subst">{math.exp(eval_results[<span class="hljs-string">&#x27;eval_loss&#x27;</span>]):<span class="hljs-number">.2</span>f}</span>&quot;</span>)`,wrap:!1}}),{c(){M=d("p"),M.innerHTML=w,a=n(),r(y.$$.fragment)},l(j){M=m(j,"P",{"data-svelte-h":!0}),C(M)!=="svelte-916l5a"&&(M.innerHTML=w),a=J(j),T(y.$$.fragment,j)},m(j,B){t(j,M,B),t(j,a,B),c(y,j,B),V=!0},i(j){V||(p(y.$$.fragment,j),V=!0)},o(j){i(y.$$.fragment,j),V=!1},d(j){j&&(e(M),e(a)),o(y,j)}}}function En(I){let M,w;return M=new h({props:{code:"bW9kZWwuZml0KHRmX3RyYWluX2RhdGFzZXQlMkMlMjB2YWxpZGF0aW9uX2RhdGElM0R0Zl9ldmFsX2RhdGFzZXQlMkMlMjBjYWxsYmFja3MlM0QlNUJjYWxsYmFjayU1RCk=",highlighted:"model.fit(tf_train_dataset, validation_data=tf_eval_dataset, callbacks=[callback])",wrap:!1}}),{c(){r(M.$$.fragment)},l(a){T(M.$$.fragment,a)},m(a,y){c(M,a,y),w=!0},i(a){w||(p(M.$$.fragment,a),w=!0)},o(a){i(M.$$.fragment,a),w=!1},d(a){o(M,a)}}}function Xn(I){let M,w;return M=new h({props:{code:"dHJhaW5lci50cmFpbigp",highlighted:"trainer.train()",wrap:!1}}),{c(){r(M.$$.fragment)},l(a){T(M.$$.fragment,a)},m(a,y){c(M,a,y),w=!0},i(a){w||(p(M.$$.fragment,a),w=!0)},o(a){i(M.$$.fragment,a),w=!1},d(a){o(M,a)}}}function $n(I){let M,w;return M=new h({props:{code:"ZXZhbF9sb3NzJTIwJTNEJTIwbW9kZWwuZXZhbHVhdGUodGZfZXZhbF9kYXRhc2V0KSUwQXByaW50KGYlMjJQZXJwbGV4aXR5JTNBJTIwJTdCbWF0aC5leHAoZXZhbF9sb3NzKSUzQS4yZiU3RCUyMik=",highlighted:`eval_loss = model.evaluate(tf_eval_dataset)
<span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;Perplexity: <span class="hljs-subst">{math.exp(eval_loss):<span class="hljs-number">.2</span>f}</span>&quot;</span>)`,wrap:!1}}),{c(){r(M.$$.fragment)},l(a){T(M.$$.fragment,a)},m(a,y){c(M,a,y),w=!0},i(a){w||(p(M.$$.fragment,a),w=!0)},o(a){i(M.$$.fragment,a),w=!1},d(a){o(M,a)}}}function An(I){let M,w;return M=new h({props:{code:"ZXZhbF9yZXN1bHRzJTIwJTNEJTIwdHJhaW5lci5ldmFsdWF0ZSgpJTBBcHJpbnQoZiUyMiUzRSUzRSUzRSUyMFBlcnBsZXhpdHklM0ElMjAlN0JtYXRoLmV4cChldmFsX3Jlc3VsdHMlNUInZXZhbF9sb3NzJyU1RCklM0EuMmYlN0QlMjIp",highlighted:`eval_results = trainer.evaluate()
<span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&gt;&gt;&gt; Perplexity: <span class="hljs-subst">{math.exp(eval_results[<span class="hljs-string">&#x27;eval_loss&#x27;</span>]):<span class="hljs-number">.2</span>f}</span>&quot;</span>)`,wrap:!1}}),{c(){r(M.$$.fragment)},l(a){T(M.$$.fragment,a)},m(a,y){c(M,a,y),w=!0},i(a){w||(p(M.$$.fragment,a),w=!0)},o(a){i(M.$$.fragment,a),w=!1},d(a){o(M,a)}}}function tn(I){let M,w="После завершения обучения мы можем отправить карточку модели с информацией об обучении в Hub (контрольные точки сохраняются во время самого обучения):",a,y,V;return y=new h({props:{code:"dHJhaW5lci5wdXNoX3RvX2h1Yigp",highlighted:"trainer.push_to_hub()",wrap:!1}}),{c(){M=d("p"),M.textContent=w,a=n(),r(y.$$.fragment)},l(j){M=m(j,"P",{"data-svelte-h":!0}),C(M)!=="svelte-1ka55v0"&&(M.textContent=w),a=J(j),T(y.$$.fragment,j)},m(j,B){t(j,M,B),t(j,a,B),c(y,j,B),V=!0},i(j){V||(p(y.$$.fragment,j),V=!0)},o(j){i(y.$$.fragment,j),V=!1},d(j){j&&(e(M),e(a)),o(y,j)}}}function Wn(I){let M,w="✏️ <strong>Попробуйте!</strong> Запустите обучение, описанное выше, после замены коллатора данных на коллатор маскирующий все слово. Получили ли вы лучшие результаты?";return{c(){M=d("p"),M.innerHTML=w},l(a){M=m(a,"P",{"data-svelte-h":!0}),C(M)!=="svelte-1fxdlt0"&&(M.innerHTML=w)},m(a,y){t(a,M,y)},p:Hl,d(a){a&&e(M)}}}function Mn(I){let M,w="В нашем случае нам не нужно было делать ничего особенного с циклом обучения, но в некоторых случаях вам может понадобиться реализовать некоторую пользовательскую логику. Для таких случаев вы можете использовать 🤗 Accelerate - давайте посмотрим!",a,y,V,j,B='Как мы видели на примере <code>Trainer</code>, дообучение модели маскированного языкового моделирования очень похоже на пример классификации текста из <a href="../chapter3/1">Главы 3</a>. Фактически, единственной особенностью является использование специального коллатора данных, о котором мы уже рассказывали ранее в этом разделе!',k,R,Z="Однако мы видели, что <code>DataCollatorForLanguageModeling</code> также применяет случайное маскирование при каждой оценке, поэтому мы увидим некоторые колебания в наших оценках перплексии при каждом цикле обучения. Один из способов устранить этот источник случайности - применить маскирование <em>один раз</em> ко всему тестовому набору, а затем использовать стандартный коллатор данных в 🤗 Transformers для сбора батчей во время оценки. Чтобы увидеть, как это работает, давайте реализуем простую функцию, которая применяет маскирование к батчу, подобно нашей первой работе с <code>DataCollatorForLanguageModeling</code>:",g,G,u,_,N="Далее мы применим эту функцию к нашему тестовому набору и удалим столбцы без маскирования, чтобы заменить их столбцами с маскированием. Вы можете использовать маскирование целых слов, заменив <code>data_collator</code> выше на соответствующий, в этом случае вам следует удалить первую строку здесь:",A,f,E,z,Q="Затем мы можем настроить загрузчики данных как обычно, но для оценочного набора мы будем использовать <code>default_data_collator</code> из 🤗 Transformers:",X,sl,ll,jl,Dl="Здесь мы следуем стандартным шагам 🤗 Accelerate. Первым делом загружаем свежую версию предварительно обученной модели:",el,Cl,_l,$,He="Затем нужно указать оптимизатор; мы будем использовать стандартный <code>AdamW</code>:",Ql,H,Ll,tl,ul="Теперь, имея эти объекты, мы можем подготовить все для обучения с помощью объекта <code>Accelerator</code>:",Rl,v,Gl,D,ql="Теперь, когда наша модель, оптимизатор и загрузчики данных настроены, мы можем задать планировщик скорости обучения следующим образом:",Ml,hl,gl,F,De="Осталось сделать еще одну последнюю вещь перед обучением: создать репозиторий модели на Hugging Face Hub! Мы можем использовать библиотеку 🤗 Hub, чтобы сначала сгенерировать полное имя нашего репозитория:",Bl,L,Kl,al,Y,W,kl="затем создадим и клонируем репозиторий, используя класс <code>Repository</code> из 🤗 Hub:",nl,bl,Zl,q,Pl="После этого остается только написать полный цикл обучения и оценки:",Jl,Il,El,K,Xl,P,Le="Круто, мы смогли оценить перплексию для каждой эпохи и обеспечить воспроизводимость нескольких циклов обучения!",$l;return y=new Yl({props:{title:"Дообучение DistilBERT с помощью 🤗 Accelerate",local:"fine-tuning-distilbert-with-accelerate",headingTag:"h2"}}),G=new h({props:{code:"ZGVmJTIwaW5zZXJ0X3JhbmRvbV9tYXNrKGJhdGNoKSUzQSUwQSUyMCUyMCUyMCUyMGZlYXR1cmVzJTIwJTNEJTIwJTVCZGljdCh6aXAoYmF0Y2glMkMlMjB0KSklMjBmb3IlMjB0JTIwaW4lMjB6aXAoKmJhdGNoLnZhbHVlcygpKSU1RCUwQSUyMCUyMCUyMCUyMG1hc2tlZF9pbnB1dHMlMjAlM0QlMjBkYXRhX2NvbGxhdG9yKGZlYXR1cmVzKSUwQSUyMCUyMCUyMCUyMCUyMyUyMCVEMCVBMSVEMCVCRSVEMCVCNyVEMCVCNCVEMCVCMCVEMCVCNSVEMCVCQyUyMCVEMCVCRCVEMCVCRSVEMCVCMiVEMSU4QiVEMCVCOSUyMCUyMiVEMCVCQyVEMCVCMCVEMSU4MSVEMCVCQSVEMCVCOCVEMSU4MCVEMCVCRSVEMCVCMiVEMCVCMCVEMCVCRCVEMCVCRCVEMSU4QiVEMCVCOSUyMiUyMCVEMSU4MSVEMSU4MiVEMCVCRSVEMCVCQiVEMCVCMSVEMCVCNSVEMSU4NiUyMCVEMCVCNCVEMCVCQiVEMSU4RiUyMCVEMCVCQSVEMCVCMCVEMCVCNiVEMCVCNCVEMCVCRSVEMCVCMyVEMCVCRSUyMCVEMSU4MSVEMSU4MiVEMCVCRSVEMCVCQiVEMCVCMSVEMSU4NiVEMCVCMCUyMCVEMCVCMiUyMCVEMCVCNCVEMCVCMCVEMSU4MiVEMCVCMCVEMSU4MSVEMCVCNSVEMSU4MiVEMCVCNSUwQSUyMCUyMCUyMCUyMHJldHVybiUyMCU3QiUyMm1hc2tlZF8lMjIlMjAlMkIlMjBrJTNBJTIwdi5udW1weSgpJTIwZm9yJTIwayUyQyUyMHYlMjBpbiUyMG1hc2tlZF9pbnB1dHMuaXRlbXMoKSU3RA==",highlighted:`<span class="hljs-keyword">def</span> <span class="hljs-title function_">insert_random_mask</span>(<span class="hljs-params">batch</span>):
    features = [<span class="hljs-built_in">dict</span>(<span class="hljs-built_in">zip</span>(batch, t)) <span class="hljs-keyword">for</span> t <span class="hljs-keyword">in</span> <span class="hljs-built_in">zip</span>(*batch.values())]
    masked_inputs = data_collator(features)
    <span class="hljs-comment"># Создаем новый &quot;маскированный&quot; столбец для каждого столбца в датасете</span>
    <span class="hljs-keyword">return</span> {<span class="hljs-string">&quot;masked_&quot;</span> + k: v.numpy() <span class="hljs-keyword">for</span> k, v <span class="hljs-keyword">in</span> masked_inputs.items()}`,wrap:!1}}),f=new h({props:{code:"ZG93bnNhbXBsZWRfZGF0YXNldCUyMCUzRCUyMGRvd25zYW1wbGVkX2RhdGFzZXQucmVtb3ZlX2NvbHVtbnMoJTVCJTIyd29yZF9pZHMlMjIlNUQpJTBBZXZhbF9kYXRhc2V0JTIwJTNEJTIwZG93bnNhbXBsZWRfZGF0YXNldCU1QiUyMnRlc3QlMjIlNUQubWFwKCUwQSUyMCUyMCUyMCUyMGluc2VydF9yYW5kb21fbWFzayUyQyUwQSUyMCUyMCUyMCUyMGJhdGNoZWQlM0RUcnVlJTJDJTBBJTIwJTIwJTIwJTIwcmVtb3ZlX2NvbHVtbnMlM0Rkb3duc2FtcGxlZF9kYXRhc2V0JTVCJTIydGVzdCUyMiU1RC5jb2x1bW5fbmFtZXMlMkMlMEEpJTBBZXZhbF9kYXRhc2V0JTIwJTNEJTIwZXZhbF9kYXRhc2V0LnJlbmFtZV9jb2x1bW5zKCUwQSUyMCUyMCUyMCUyMCU3QiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMm1hc2tlZF9pbnB1dF9pZHMlMjIlM0ElMjAlMjJpbnB1dF9pZHMlMjIlMkMlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjJtYXNrZWRfYXR0ZW50aW9uX21hc2slMjIlM0ElMjAlMjJhdHRlbnRpb25fbWFzayUyMiUyQyUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMm1hc2tlZF9sYWJlbHMlMjIlM0ElMjAlMjJsYWJlbHMlMjIlMkMlMEElMjAlMjAlMjAlMjAlN0QlMEEp",highlighted:`downsampled_dataset = downsampled_dataset.remove_columns([<span class="hljs-string">&quot;word_ids&quot;</span>])
eval_dataset = downsampled_dataset[<span class="hljs-string">&quot;test&quot;</span>].<span class="hljs-built_in">map</span>(
    insert_random_mask,
    batched=<span class="hljs-literal">True</span>,
    remove_columns=downsampled_dataset[<span class="hljs-string">&quot;test&quot;</span>].column_names,
)
eval_dataset = eval_dataset.rename_columns(
    {
        <span class="hljs-string">&quot;masked_input_ids&quot;</span>: <span class="hljs-string">&quot;input_ids&quot;</span>,
        <span class="hljs-string">&quot;masked_attention_mask&quot;</span>: <span class="hljs-string">&quot;attention_mask&quot;</span>,
        <span class="hljs-string">&quot;masked_labels&quot;</span>: <span class="hljs-string">&quot;labels&quot;</span>,
    }
)`,wrap:!1}}),sl=new h({props:{code:"ZnJvbSUyMHRvcmNoLnV0aWxzLmRhdGElMjBpbXBvcnQlMjBEYXRhTG9hZGVyJTBBZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMGRlZmF1bHRfZGF0YV9jb2xsYXRvciUwQSUwQWJhdGNoX3NpemUlMjAlM0QlMjA2NCUwQXRyYWluX2RhdGFsb2FkZXIlMjAlM0QlMjBEYXRhTG9hZGVyKCUwQSUyMCUyMCUyMCUyMGRvd25zYW1wbGVkX2RhdGFzZXQlNUIlMjJ0cmFpbiUyMiU1RCUyQyUwQSUyMCUyMCUyMCUyMHNodWZmbGUlM0RUcnVlJTJDJTBBJTIwJTIwJTIwJTIwYmF0Y2hfc2l6ZSUzRGJhdGNoX3NpemUlMkMlMEElMjAlMjAlMjAlMjBjb2xsYXRlX2ZuJTNEZGF0YV9jb2xsYXRvciUyQyUwQSklMEFldmFsX2RhdGFsb2FkZXIlMjAlM0QlMjBEYXRhTG9hZGVyKCUwQSUyMCUyMCUyMCUyMGV2YWxfZGF0YXNldCUyQyUyMGJhdGNoX3NpemUlM0RiYXRjaF9zaXplJTJDJTIwY29sbGF0ZV9mbiUzRGRlZmF1bHRfZGF0YV9jb2xsYXRvciUwQSk=",highlighted:`<span class="hljs-keyword">from</span> torch.utils.data <span class="hljs-keyword">import</span> DataLoader
<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> default_data_collator

batch_size = <span class="hljs-number">64</span>
train_dataloader = DataLoader(
    downsampled_dataset[<span class="hljs-string">&quot;train&quot;</span>],
    shuffle=<span class="hljs-literal">True</span>,
    batch_size=batch_size,
    collate_fn=data_collator,
)
eval_dataloader = DataLoader(
    eval_dataset, batch_size=batch_size, collate_fn=default_data_collator
)`,wrap:!1}}),Cl=new h({props:{code:"bW9kZWwlMjAlM0QlMjBBdXRvTW9kZWxGb3JNYXNrZWRMTS5mcm9tX3ByZXRyYWluZWQobW9kZWxfY2hlY2twb2ludCk=",highlighted:'model = <span class="hljs-module-access"><span class="hljs-module"><span class="hljs-identifier">AutoModelForMaskedLM</span>.</span></span>from<span class="hljs-constructor">_pretrained(<span class="hljs-params">model_checkpoint</span>)</span>',wrap:!1}}),H=new h({props:{code:"ZnJvbSUyMHRvcmNoLm9wdGltJTIwaW1wb3J0JTIwQWRhbVclMEElMEFvcHRpbWl6ZXIlMjAlM0QlMjBBZGFtVyhtb2RlbC5wYXJhbWV0ZXJzKCklMkMlMjBsciUzRDVlLTUp",highlighted:`<span class="hljs-keyword">from</span> torch.optim <span class="hljs-keyword">import</span> AdamW

optimizer = AdamW(model.parameters(), lr=<span class="hljs-number">5e-5</span>)`,wrap:!1}}),v=new h({props:{code:"ZnJvbSUyMGFjY2VsZXJhdGUlMjBpbXBvcnQlMjBBY2NlbGVyYXRvciUwQSUwQWFjY2VsZXJhdG9yJTIwJTNEJTIwQWNjZWxlcmF0b3IoKSUwQW1vZGVsJTJDJTIwb3B0aW1pemVyJTJDJTIwdHJhaW5fZGF0YWxvYWRlciUyQyUyMGV2YWxfZGF0YWxvYWRlciUyMCUzRCUyMGFjY2VsZXJhdG9yLnByZXBhcmUoJTBBJTIwJTIwJTIwJTIwbW9kZWwlMkMlMjBvcHRpbWl6ZXIlMkMlMjB0cmFpbl9kYXRhbG9hZGVyJTJDJTIwZXZhbF9kYXRhbG9hZGVyJTBBKQ==",highlighted:`<span class="hljs-keyword">from</span> accelerate <span class="hljs-keyword">import</span> Accelerator

accelerator = Accelerator()
model, optimizer, train_dataloader, eval_dataloader = accelerator.prepare(
    model, optimizer, train_dataloader, eval_dataloader
)`,wrap:!1}}),hl=new h({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMGdldF9zY2hlZHVsZXIlMEElMEFudW1fdHJhaW5fZXBvY2hzJTIwJTNEJTIwMyUwQW51bV91cGRhdGVfc3RlcHNfcGVyX2Vwb2NoJTIwJTNEJTIwbGVuKHRyYWluX2RhdGFsb2FkZXIpJTBBbnVtX3RyYWluaW5nX3N0ZXBzJTIwJTNEJTIwbnVtX3RyYWluX2Vwb2NocyUyMColMjBudW1fdXBkYXRlX3N0ZXBzX3Blcl9lcG9jaCUwQSUwQWxyX3NjaGVkdWxlciUyMCUzRCUyMGdldF9zY2hlZHVsZXIoJTBBJTIwJTIwJTIwJTIwJTIybGluZWFyJTIyJTJDJTBBJTIwJTIwJTIwJTIwb3B0aW1pemVyJTNEb3B0aW1pemVyJTJDJTBBJTIwJTIwJTIwJTIwbnVtX3dhcm11cF9zdGVwcyUzRDAlMkMlMEElMjAlMjAlMjAlMjBudW1fdHJhaW5pbmdfc3RlcHMlM0RudW1fdHJhaW5pbmdfc3RlcHMlMkMlMEEp",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> get_scheduler

num_train_epochs = <span class="hljs-number">3</span>
num_update_steps_per_epoch = <span class="hljs-built_in">len</span>(train_dataloader)
num_training_steps = num_train_epochs * num_update_steps_per_epoch

lr_scheduler = get_scheduler(
    <span class="hljs-string">&quot;linear&quot;</span>,
    optimizer=optimizer,
    num_warmup_steps=<span class="hljs-number">0</span>,
    num_training_steps=num_training_steps,
)`,wrap:!1}}),L=new h({props:{code:"ZnJvbSUyMGh1Z2dpbmdmYWNlX2h1YiUyMGltcG9ydCUyMGdldF9mdWxsX3JlcG9fbmFtZSUwQSUwQW1vZGVsX25hbWUlMjAlM0QlMjAlMjJkaXN0aWxiZXJ0LWJhc2UtdW5jYXNlZC1maW5ldHVuZWQtaW1kYi1hY2NlbGVyYXRlJTIyJTBBcmVwb19uYW1lJTIwJTNEJTIwZ2V0X2Z1bGxfcmVwb19uYW1lKG1vZGVsX25hbWUpJTBBcmVwb19uYW1l",highlighted:`<span class="hljs-keyword">from</span> huggingface_hub <span class="hljs-keyword">import</span> get_full_repo_name

model_name = <span class="hljs-string">&quot;distilbert-base-uncased-finetuned-imdb-accelerate&quot;</span>
repo_name = get_full_repo_name(model_name)
repo_name`,wrap:!1}}),al=new h({props:{code:"J2xld3R1biUyRmRpc3RpbGJlcnQtYmFzZS11bmNhc2VkLWZpbmV0dW5lZC1pbWRiLWFjY2VsZXJhdGUn",highlighted:'<span class="hljs-string">&#x27;lewtun/distilbert-base-uncased-finetuned-imdb-accelerate&#x27;</span>',wrap:!1}}),bl=new h({props:{code:"ZnJvbSUyMGh1Z2dpbmdmYWNlX2h1YiUyMGltcG9ydCUyMFJlcG9zaXRvcnklMEElMEFvdXRwdXRfZGlyJTIwJTNEJTIwbW9kZWxfbmFtZSUwQXJlcG8lMjAlM0QlMjBSZXBvc2l0b3J5KG91dHB1dF9kaXIlMkMlMjBjbG9uZV9mcm9tJTNEcmVwb19uYW1lKQ==",highlighted:`<span class="hljs-keyword">from</span> huggingface_hub <span class="hljs-keyword">import</span> Repository

output_dir = model_name
repo = Repository(output_dir, clone_from=repo_name)`,wrap:!1}}),Il=new h({props:{code:"ZnJvbSUyMHRxZG0uYXV0byUyMGltcG9ydCUyMHRxZG0lMEFpbXBvcnQlMjB0b3JjaCUwQWltcG9ydCUyMG1hdGglMEElMEFwcm9ncmVzc19iYXIlMjAlM0QlMjB0cWRtKHJhbmdlKG51bV90cmFpbmluZ19zdGVwcykpJTBBJTBBZm9yJTIwZXBvY2glMjBpbiUyMHJhbmdlKG51bV90cmFpbl9lcG9jaHMpJTNBJTBBJTIwJTIwJTIwJTIwJTIzJTIwJUQwJTlFJUQwJUIxJUQxJTgzJUQxJTg3JUQwJUI1JUQwJUJEJUQwJUI4JUQwJUI1JTBBJTIwJTIwJTIwJTIwbW9kZWwudHJhaW4oKSUwQSUyMCUyMCUyMCUyMGZvciUyMGJhdGNoJTIwaW4lMjB0cmFpbl9kYXRhbG9hZGVyJTNBJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwb3V0cHV0cyUyMCUzRCUyMG1vZGVsKCoqYmF0Y2gpJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwbG9zcyUyMCUzRCUyMG91dHB1dHMubG9zcyUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGFjY2VsZXJhdG9yLmJhY2t3YXJkKGxvc3MpJTBBJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwb3B0aW1pemVyLnN0ZXAoKSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGxyX3NjaGVkdWxlci5zdGVwKCklMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBvcHRpbWl6ZXIuemVyb19ncmFkKCklMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBwcm9ncmVzc19iYXIudXBkYXRlKDEpJTBBJTBBJTIwJTIwJTIwJTIwJTIzJTIwJUQwJTlFJUQxJTg2JUQwJUI1JUQwJUJEJUQwJUJBJUQwJUIwJTBBJTIwJTIwJTIwJTIwbW9kZWwuZXZhbCgpJTBBJTIwJTIwJTIwJTIwbG9zc2VzJTIwJTNEJTIwJTVCJTVEJTBBJTIwJTIwJTIwJTIwZm9yJTIwc3RlcCUyQyUyMGJhdGNoJTIwaW4lMjBlbnVtZXJhdGUoZXZhbF9kYXRhbG9hZGVyKSUzQSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMHdpdGglMjB0b3JjaC5ub19ncmFkKCklM0ElMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBvdXRwdXRzJTIwJTNEJTIwbW9kZWwoKipiYXRjaCklMEElMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBsb3NzJTIwJTNEJTIwb3V0cHV0cy5sb3NzJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwbG9zc2VzLmFwcGVuZChhY2NlbGVyYXRvci5nYXRoZXIobG9zcy5yZXBlYXQoYmF0Y2hfc2l6ZSkpKSUwQSUwQSUyMCUyMCUyMCUyMGxvc3NlcyUyMCUzRCUyMHRvcmNoLmNhdChsb3NzZXMpJTBBJTIwJTIwJTIwJTIwbG9zc2VzJTIwJTNEJTIwbG9zc2VzJTVCJTNBJTIwbGVuKGV2YWxfZGF0YXNldCklNUQlMEElMjAlMjAlMjAlMjB0cnklM0ElMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBwZXJwbGV4aXR5JTIwJTNEJTIwbWF0aC5leHAodG9yY2gubWVhbihsb3NzZXMpKSUwQSUyMCUyMCUyMCUyMGV4Y2VwdCUyME92ZXJmbG93RXJyb3IlM0ElMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBwZXJwbGV4aXR5JTIwJTNEJTIwZmxvYXQoJTIyaW5mJTIyKSUwQSUwQSUyMCUyMCUyMCUyMHByaW50KGYlMjIlM0UlM0UlM0UlMjBFcG9jaCUyMCU3QmVwb2NoJTdEJTNBJTIwUGVycGxleGl0eSUzQSUyMCU3QnBlcnBsZXhpdHklN0QlMjIpJTBBJTBBJTIwJTIwJTIwJTIwJTIzJTIwJUQwJUExJUQwJUJFJUQxJTg1JUQxJTgwJUQwJUIwJUQwJUJEJUQwJUI1JUQwJUJEJUQwJUI4JUQwJUI1JTIwJUQwJUI4JTIwJUQwJUI3JUQwJUIwJUQwJUIzJUQxJTgwJUQxJTgzJUQwJUI3JUQwJUJBJUQwJUIwJTBBJTIwJTIwJTIwJTIwYWNjZWxlcmF0b3Iud2FpdF9mb3JfZXZlcnlvbmUoKSUwQSUyMCUyMCUyMCUyMHVud3JhcHBlZF9tb2RlbCUyMCUzRCUyMGFjY2VsZXJhdG9yLnVud3JhcF9tb2RlbChtb2RlbCklMEElMjAlMjAlMjAlMjB1bndyYXBwZWRfbW9kZWwuc2F2ZV9wcmV0cmFpbmVkKG91dHB1dF9kaXIlMkMlMjBzYXZlX2Z1bmN0aW9uJTNEYWNjZWxlcmF0b3Iuc2F2ZSklMEElMjAlMjAlMjAlMjBpZiUyMGFjY2VsZXJhdG9yLmlzX21haW5fcHJvY2VzcyUzQSUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMHRva2VuaXplci5zYXZlX3ByZXRyYWluZWQob3V0cHV0X2RpciklMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjByZXBvLnB1c2hfdG9faHViKCUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGNvbW1pdF9tZXNzYWdlJTNEZiUyMlRyYWluaW5nJTIwaW4lMjBwcm9ncmVzcyUyMGVwb2NoJTIwJTdCZXBvY2glN0QlMjIlMkMlMjBibG9ja2luZyUzREZhbHNlJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwKQ==",highlighted:`<span class="hljs-keyword">from</span> tqdm.auto <span class="hljs-keyword">import</span> tqdm
<span class="hljs-keyword">import</span> torch
<span class="hljs-keyword">import</span> math

progress_bar = tqdm(<span class="hljs-built_in">range</span>(num_training_steps))

<span class="hljs-keyword">for</span> epoch <span class="hljs-keyword">in</span> <span class="hljs-built_in">range</span>(num_train_epochs):
    <span class="hljs-comment"># Обучение</span>
    model.train()
    <span class="hljs-keyword">for</span> batch <span class="hljs-keyword">in</span> train_dataloader:
        outputs = model(**batch)
        loss = outputs.loss
        accelerator.backward(loss)

        optimizer.step()
        lr_scheduler.step()
        optimizer.zero_grad()
        progress_bar.update(<span class="hljs-number">1</span>)

    <span class="hljs-comment"># Оценка</span>
    model.<span class="hljs-built_in">eval</span>()
    losses = []
    <span class="hljs-keyword">for</span> step, batch <span class="hljs-keyword">in</span> <span class="hljs-built_in">enumerate</span>(eval_dataloader):
        <span class="hljs-keyword">with</span> torch.no_grad():
            outputs = model(**batch)

        loss = outputs.loss
        losses.append(accelerator.gather(loss.repeat(batch_size)))

    losses = torch.cat(losses)
    losses = losses[: <span class="hljs-built_in">len</span>(eval_dataset)]
    <span class="hljs-keyword">try</span>:
        perplexity = math.exp(torch.mean(losses))
    <span class="hljs-keyword">except</span> OverflowError:
        perplexity = <span class="hljs-built_in">float</span>(<span class="hljs-string">&quot;inf&quot;</span>)

    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&gt;&gt;&gt; Epoch <span class="hljs-subst">{epoch}</span>: Perplexity: <span class="hljs-subst">{perplexity}</span>&quot;</span>)

    <span class="hljs-comment"># Сохранение и загрузка</span>
    accelerator.wait_for_everyone()
    unwrapped_model = accelerator.unwrap_model(model)
    unwrapped_model.save_pretrained(output_dir, save_function=accelerator.save)
    <span class="hljs-keyword">if</span> accelerator.is_main_process:
        tokenizer.save_pretrained(output_dir)
        repo.push_to_hub(
            commit_message=<span class="hljs-string">f&quot;Training in progress epoch <span class="hljs-subst">{epoch}</span>&quot;</span>, blocking=<span class="hljs-literal">False</span>
        )`,wrap:!1}}),K=new h({props:{code:"RXBvY2glMjAwJTNBJTIwUGVycGxleGl0eSUzQSUyMDExLjM5NzU0NTMwNzkwMDQ3MiUwQUVwb2NoJTIwMSUzQSUyMFBlcnBsZXhpdHklM0ElMjAxMC45MDQ5MDkzMzA5ODMwOTIlMEFFcG9jaCUyMDIlM0ElMjBQZXJwbGV4aXR5JTNBJTIwMTAuNzI5NTAzNTA1MzQwNDA5",highlighted:`<span class="hljs-meta">&gt;&gt;&gt; </span>Epoch <span class="hljs-number">0</span>: Perplexity: <span class="hljs-number">11.397545307900472</span>
<span class="hljs-meta">&gt;&gt;&gt; </span>Epoch <span class="hljs-number">1</span>: Perplexity: <span class="hljs-number">10.904909330983092</span>
<span class="hljs-meta">&gt;&gt;&gt; </span>Epoch <span class="hljs-number">2</span>: Perplexity: <span class="hljs-number">10.729503505340409</span>`,wrap:!1}}),{c(){M=d("p"),M.textContent=w,a=n(),r(y.$$.fragment),V=n(),j=d("p"),j.innerHTML=B,k=n(),R=d("p"),R.innerHTML=Z,g=n(),r(G.$$.fragment),u=n(),_=d("p"),_.innerHTML=N,A=n(),r(f.$$.fragment),E=n(),z=d("p"),z.innerHTML=Q,X=n(),r(sl.$$.fragment),ll=n(),jl=d("p"),jl.textContent=Dl,el=n(),r(Cl.$$.fragment),_l=n(),$=d("p"),$.innerHTML=He,Ql=n(),r(H.$$.fragment),Ll=n(),tl=d("p"),tl.innerHTML=ul,Rl=n(),r(v.$$.fragment),Gl=n(),D=d("p"),D.textContent=ql,Ml=n(),r(hl.$$.fragment),gl=n(),F=d("p"),F.textContent=De,Bl=n(),r(L.$$.fragment),Kl=n(),r(al.$$.fragment),Y=n(),W=d("p"),W.innerHTML=kl,nl=n(),r(bl.$$.fragment),Zl=n(),q=d("p"),q.textContent=Pl,Jl=n(),r(Il.$$.fragment),El=n(),r(K.$$.fragment),Xl=n(),P=d("p"),P.textContent=Le},l(U){M=m(U,"P",{"data-svelte-h":!0}),C(M)!=="svelte-1w2bemw"&&(M.textContent=w),a=J(U),T(y.$$.fragment,U),V=J(U),j=m(U,"P",{"data-svelte-h":!0}),C(j)!=="svelte-1o3yvw5"&&(j.innerHTML=B),k=J(U),R=m(U,"P",{"data-svelte-h":!0}),C(R)!=="svelte-72anzr"&&(R.innerHTML=Z),g=J(U),T(G.$$.fragment,U),u=J(U),_=m(U,"P",{"data-svelte-h":!0}),C(_)!=="svelte-1hxofdx"&&(_.innerHTML=N),A=J(U),T(f.$$.fragment,U),E=J(U),z=m(U,"P",{"data-svelte-h":!0}),C(z)!=="svelte-17ag0gt"&&(z.innerHTML=Q),X=J(U),T(sl.$$.fragment,U),ll=J(U),jl=m(U,"P",{"data-svelte-h":!0}),C(jl)!=="svelte-navuyg"&&(jl.textContent=Dl),el=J(U),T(Cl.$$.fragment,U),_l=J(U),$=m(U,"P",{"data-svelte-h":!0}),C($)!=="svelte-wg6r8q"&&($.innerHTML=He),Ql=J(U),T(H.$$.fragment,U),Ll=J(U),tl=m(U,"P",{"data-svelte-h":!0}),C(tl)!=="svelte-jq6ilk"&&(tl.innerHTML=ul),Rl=J(U),T(v.$$.fragment,U),Gl=J(U),D=m(U,"P",{"data-svelte-h":!0}),C(D)!=="svelte-16tyqll"&&(D.textContent=ql),Ml=J(U),T(hl.$$.fragment,U),gl=J(U),F=m(U,"P",{"data-svelte-h":!0}),C(F)!=="svelte-140jpoz"&&(F.textContent=De),Bl=J(U),T(L.$$.fragment,U),Kl=J(U),T(al.$$.fragment,U),Y=J(U),W=m(U,"P",{"data-svelte-h":!0}),C(W)!=="svelte-y6za8f"&&(W.innerHTML=kl),nl=J(U),T(bl.$$.fragment,U),Zl=J(U),q=m(U,"P",{"data-svelte-h":!0}),C(q)!=="svelte-1336uuu"&&(q.textContent=Pl),Jl=J(U),T(Il.$$.fragment,U),El=J(U),T(K.$$.fragment,U),Xl=J(U),P=m(U,"P",{"data-svelte-h":!0}),C(P)!=="svelte-snlwvs"&&(P.textContent=Le)},m(U,b){t(U,M,b),t(U,a,b),c(y,U,b),t(U,V,b),t(U,j,b),t(U,k,b),t(U,R,b),t(U,g,b),c(G,U,b),t(U,u,b),t(U,_,b),t(U,A,b),c(f,U,b),t(U,E,b),t(U,z,b),t(U,X,b),c(sl,U,b),t(U,ll,b),t(U,jl,b),t(U,el,b),c(Cl,U,b),t(U,_l,b),t(U,$,b),t(U,Ql,b),c(H,U,b),t(U,Ll,b),t(U,tl,b),t(U,Rl,b),c(v,U,b),t(U,Gl,b),t(U,D,b),t(U,Ml,b),c(hl,U,b),t(U,gl,b),t(U,F,b),t(U,Bl,b),c(L,U,b),t(U,Kl,b),c(al,U,b),t(U,Y,b),t(U,W,b),t(U,nl,b),c(bl,U,b),t(U,Zl,b),t(U,q,b),t(U,Jl,b),c(Il,U,b),t(U,El,b),c(K,U,b),t(U,Xl,b),t(U,P,b),$l=!0},i(U){$l||(p(y.$$.fragment,U),p(G.$$.fragment,U),p(f.$$.fragment,U),p(sl.$$.fragment,U),p(Cl.$$.fragment,U),p(H.$$.fragment,U),p(v.$$.fragment,U),p(hl.$$.fragment,U),p(L.$$.fragment,U),p(al.$$.fragment,U),p(bl.$$.fragment,U),p(Il.$$.fragment,U),p(K.$$.fragment,U),$l=!0)},o(U){i(y.$$.fragment,U),i(G.$$.fragment,U),i(f.$$.fragment,U),i(sl.$$.fragment,U),i(Cl.$$.fragment,U),i(H.$$.fragment,U),i(v.$$.fragment,U),i(hl.$$.fragment,U),i(L.$$.fragment,U),i(al.$$.fragment,U),i(bl.$$.fragment,U),i(Il.$$.fragment,U),i(K.$$.fragment,U),$l=!1},d(U){U&&(e(M),e(a),e(V),e(j),e(k),e(R),e(g),e(u),e(_),e(A),e(E),e(z),e(X),e(ll),e(jl),e(el),e(_l),e($),e(Ql),e(Ll),e(tl),e(Rl),e(Gl),e(D),e(Ml),e(gl),e(F),e(Bl),e(Kl),e(Y),e(W),e(nl),e(Zl),e(q),e(Jl),e(El),e(Xl),e(P)),o(y,U),o(G,U),o(f,U),o(sl,U),o(Cl,U),o(H,U),o(v,U),o(hl,U),o(L,U),o(al,U),o(bl,U),o(Il,U),o(K,U)}}}function xn(I){let M,w='✏️ <strong>Попробуйте!</strong> Чтобы оценить преимущества адаптации к домену, дообучите классификатор на метках IMDb как для предварительно обученных, так и для дообученных контрольных точек DistilBERT. Если вам нужно освежить в памяти классификацию текстов, ознакомьтесь с <a href="../chapter3/1">Главой 3</a>.';return{c(){M=d("p"),M.innerHTML=w},l(a){M=m(a,"P",{"data-svelte-h":!0}),C(M)!=="svelte-17s1rnv"&&(M.innerHTML=w)},m(a,y){t(a,M,y)},p:Hl,d(a){a&&e(M)}}}function Sn(I){let M,w,a,y,V,j,B,k,R,Z,g,G,u,_,N="Для многих приложений NLP, в которых используются модели-трансформеры, можно просто взять предварительно обученную модель из Hugging Face Hub и дообучить ее непосредственно на ваших данных для решения поставленной задачи. При условии, что корпус, использованный для предварительного обучения, не слишком отличается от корпуса, используемого для дообучения, трансферное обучение обычно дает хорошие результаты.",A,f,E="Однако есть несколько случаев, когда перед обучением специфичной для конкретной задачи головы необходимо дообучить языковые модели на ваших данных. Например, если ваш датасет содержит юридические контракты или научные статьи, ванильная модель трансформер, такая как BERT, обычно рассматривает специфические для области слова в вашем корпусе как редкие токены, и результирующее качество может быть менее чем удовлетворительным. Дообучив языковую модель на данных из домена, вы сможете повысить качество работы во многих последующих задачах, а это значит, что обычно этот шаг нужно выполнить только один раз!",z,Q,X='Этот процесс дообучить предварительно обученную языковую модель на данных из домена обычно называют <em>доменной адаптацией (domain adaptation)</em>. Он был популяризирован в 2018 году благодаря <a href="https://arxiv.org/abs/1801.06146" rel="nofollow">ULMFiT</a>, которая стала одной из первых нейронных архитектур (основанных на LSTM), заставивших трансферное обучение действительно работать в NLP. Пример доменной адаптации с помощью ULMFiT показан на изображении ниже; в этом разделе мы сделаем нечто подобное, но с трансформером вместо LSTM!',sl,ll,jl='<img class="block dark:hidden" src="https://huggingface.co/datasets/huggingface-course/documentation-images/resolve/main/en/chapter7/ulmfit.svg" alt="ULMFiT."/> <img class="hidden dark:block" src="https://huggingface.co/datasets/huggingface-course/documentation-images/resolve/main/en/chapter7/ulmfit-dark.svg" alt="ULMFiT."/>',Dl,el,Cl='К концу этого раздела у вас будет <a href="https://huggingface.co/huggingface-course/distilbert-base-uncased-finetuned-imdb?text=This+is+a+great+%5BMASK%5D." rel="nofollow">модель маскированного языкового моделирования</a> на Hub, которая позволяет автоматически дописывать предложения, как показано ниже:',_l,$,He,Ql,H,Ll="Давайте погрузимся в работу!",tl,ul,Rl,v,Gl,D,ql,Ml,hl='Для начала давайте выберем подходящую предварительно обученную модель для маскированного языкового моделирования. Как показано на следующем скриншоте, вы можете найти список кандидатов, применив фильтр “Fill-Mask” на <a href="https://huggingface.co/models?pipeline_tag=fill-mask&amp;sort=downloads" rel="nofollow">Hugging Face Hub</a>:',gl,F,De='<img src="https://huggingface.co/datasets/huggingface-course/documentation-images/resolve/main/en/chapter7/mlm-models.png" alt="Hub models." width="80%"/>',Bl,L,Kl=`Хотя модели семейства BERT и RoBERTa являются наиболее загружаемыми, мы будем использовать модель под названием <a href="https://huggingface.co/distilbert-base-uncased" rel="nofollow">DistilBERT</a>
которая может быть обучена гораздо быстрее и практически без потерь в качестве. Эта модель была обучена с помощью специальной техники, называемой <a href="https://en.wikipedia.org/wiki/Knowledge_distillation" rel="nofollow"><em>дистилляцией знаний (knowledge distillation)</em></a>, когда большая “модель-учитель”, такая как BERT, используется для обучения “модели-ученика”, имеющей гораздо меньше параметров. Объяснение деталей дистилляции знаний завело бы нас слишком далеко в этом разделе, но если вам интересно, вы можете прочитать об этом в <a href="https://www.oreilly.com/library/view/natural-language-processing/9781098136789/" rel="nofollow"><em>Natural Language Processing with Transformers</em></a> (в просторечии известном как учебник по Трансформерам).`,al,Y,W,kl,nl,bl="Имея около 67 миллионов параметров, DistilBERT примерно в два раза меньше, чем базовая модель BERT, что примерно соответствует двукратному ускорению обучения - неплохо! Теперь посмотрим, какие виды токенов эта модель предсказывает как наиболее вероятные завершения небольшого образца текста:",Zl,q,Pl,Jl,Il='Как люди, мы можем представить множество вариантов использования токена <code>[MASK]</code>, например “day (день)”, “ride (поездка)” или “painting (картина)“. Для предварительно обученных моделей прогнозы зависят от корпуса, на котором обучалась модель, поскольку она учится улавливать статистические закономерности, присутствующие в данных. Как и BERT, DistilBERT был предварительно обучен на датасетах <a href="https://huggingface.co/datasets/wikipedia" rel="nofollow">English Wikipedia</a> и <a href="https://huggingface.co/datasets/bookcorpus" rel="nofollow">BookCorpus</a>, поэтому мы ожидаем, что прогнозы для <code>[MASK]</code> будут отражать эти домены. Для прогнозирования маски нам нужен токенизатор DistilBERT для создания входных данных для модели, поэтому давайте загрузим и его с хаба:',El,K,Xl,P,Le="Теперь, имея токенизатор и модель, мы можем передать наш текстовый пример в модель, извлечь логиты и вывести 5 лучших кандидатов:",$l,U,b,Ae,Ol,Ke,ls,YM="Из результатов видно, что предсказания модели относятся к повседневным терминам, что, пожалуй, неудивительно, учитывая основу английской Википедии. Давайте посмотрим, как мы можем изменить эту область на что-то более нишевое - сильно поляризованные обзоры фильмов!",Pe,ss,Oe,es,HM='Для демонстрации адаптации к домену мы используем знаменитый <a href="https://huggingface.co/datasets/imdb" rel="nofollow">Large Movie Review Dataset</a> (или сокращенно IMDb) - корпус кинорецензий, который часто используется для тестирования моделей анализа настроения. Дообучив DistilBERT на этом корпусе, мы ожидаем, что языковая модель адаптирует свой словарный запас от фактических данных Википедии, на которых она была предварительно обучена, к более субъективным элементам кинорецензий. Мы можем получить данные из Hugging Face Hub с помощью функции <code>load_dataset()</code> из 🤗 Datasets:',lt,ts,st,Ms,et,as,DM="Мы видим, что части <code>train</code> и <code>test</code> состоят из 25 000 отзывов каждая, а часть без меток, называемая <code>unsupervised</code>, содержит 50 000 отзывов. Давайте посмотрим на несколько примеров, чтобы получить представление о том, с каким текстом мы имеем дело. Как мы уже делали в предыдущих главах курса, мы используем функции <code>Dataset.shuffle()</code> и <code>Dataset.select()</code> для создания случайной выборки:",tt,ns,Mt,Js,at,Us,LM="Да, это точно рецензии на фильмы, и если вы родились до 1990х, вам будет лучше понятен комментарий в последней рецензии о VHS-версии. 😜! Хотя нам не понадобятся эти метки для языкового моделирования, мы уже видим, что <code>0</code> обозначает отрицательный отзыв, а <code>1</code> - положительный.",nt,Al,Jt,ps,qM='Теперь, когда мы вкратце ознакомились с данными, давайте перейдем к их подготовке к моделированию языка по маске. Как мы увидим, есть несколько дополнительных шагов, которые необходимо сделать по сравнению с задачами классификации последовательностей, которые мы рассматривали в <a href="../chapter3/1">Главе 3</a>. Поехали!',Ut,is,pt,ys,it,ws,KM="Как для авторегрессивного, так и для масочного моделирования языка общим шагом предварительной обработки является объединение всех примеров, а затем разбиение всего корпуса на части одинакового размера. Это сильно отличается от нашего обычного подхода, когда мы просто проводим токенизацию отдельных примеров. Зачем конкатенируем все вместе? Причина в том, что отдельные примеры могут быть обрезаны, если они слишком длинные, и это приведет к потере информации, которая может быть полезна для задачи языкового моделирования!",yt,rs,PM='Итак, для начала мы проведем обычную токенизацию нашего корпуса, но <em>без</em> задания параметра <code>truncation=True</code> в нашем токенизаторе. Мы также возьмем идентификаторы слов, если они доступны (а они будут доступны, если мы используем быстрый токенизатор, как описано в <a href="../chapter6/3">Главе 6</a>), поскольку они понадобятся нам позже для маскирования целых слов. Мы обернем это в простую функцию, а пока удалим столбцы <code>text</code> и <code>label</code>, поскольку они нам больше не нужны:',wt,Ts,rt,cs,Tt,os,OM="Поскольку DistilBERT - это BERT-подобная модель, мы видим, что закодированные тексты состоят из <code>input_ids</code> и <code>attention_mask</code>, которые мы уже видели в других главах, а также из <code>word_ids</code>, которые мы добавили.",ct,ds,la="Теперь, когда мы провели токенизацию рецензий на фильмы, следующий шаг - сгруппировать их вместе и разбить результат на части. Но какого размера должны быть эти части? В конечном итоге это будет зависеть от объема доступной памяти GPU, но хорошей отправной точкой будет узнать, каков максимальный размер контекста модели. Это можно сделать путем проверки атрибута <code>model_max_length</code> токенизатора:",ot,ms,dt,js,mt,Cs,sa="Это значение берется из файла <em>tokenizer_config.json</em>, связанного с контрольной точкой; в данном случае мы видим, что размер контекста составляет 512 токенов, как и в случае с BERT.",jt,Wl,Ct,us,ea="Поэтому для проведения экспериментов на GPU, подобных тем, что стоят в Google Colab, мы выберем что-нибудь поменьше, что может поместиться в памяти:",ut,hs,ht,xl,bt,bs,ta="Теперь наступает самое интересное. Чтобы показать, как работает конкатенация, давайте возьмем несколько отзывов из нашего обучающего набора с токенизацией и выведем количество токенов в отзыве:",It,Is,ft,fs,Vt,Vs,Ma="Затем мы можем объединить все эти примеры с помощью простого dictionary comprehension, как показано ниже:",_t,_s,Qt,Qs,Rt,Rs,aa="Отлично, общая длина подтвердилась - теперь давайте разобьем конкатенированные обзоры на части размером <code>chunk_size</code>. Для этого мы перебираем признаки в <code>concatenated_examples</code> и используем list comprehension для создания срезов каждого признака. В результате мы получаем словарь фрагментов для каждого признака:",Gt,Gs,gt,gs,Bt,Bs,na="Как видно из этого примера, последний фрагмент, как правило, будет меньше максимального размера фрагмента. Существует две основные стратегии решения этой проблемы:",kt,ks,Ja="<li>Отбросить последний фрагмент, если он меньше <code>chunk_size</code>.</li> <li>Дополнить последний фрагмент до длины, равной <code>chunk_size</code>.</li>",Zt,Zs,Ua="Мы воспользуемся первым подходом, поэтому обернем всю описанную выше логику в одну функцию, которую можно применить к нашим токенизированным датасетам:",Et,Es,Xt,Xs,pa="Обратите внимание, что на последнем шаге <code>group_texts()</code> мы создаем новый столбец <code>labels</code>, который является копией столбца <code>input_ids</code>. Как мы вскоре увидим, это связано с тем, что при моделировании языка по маске цель состоит в прогнозировании случайно замаскированных токенов во входном батче, и, создавая столбец <code>labels</code>, мы предоставляем базовую истину для нашей языковой модели, на которой она будет учиться.",$t,$s,ia="Теперь давайте применим <code>group_texts()</code> к нашим токенизированным датасетам, используя нашу надежную функцию <code>Dataset.map()</code>:",At,As,Wt,Ws,xt,xs,ya="Вы можете видеть, что группировка и последующее разбиение текстов на фрагменты позволили получить гораздо больше примеров, чем наши первоначальные 25 000 примеров для частей <code>train</code> и <code>test</code>. Это потому, что теперь у нас есть примеры с <em>непрерывными токенами (contiguous tokens)</em>, которые охватывают несколько примеров из исходного корпуса. В этом можно убедиться, поискав специальные токены <code>[SEP]</code> и <code>[CLS]</code> в одном из фрагментов:",St,Ss,zt,zs,Nt,Ns,wa="В этом примере вы можете увидеть два перекрывающихся обзора фильмов: один - о старшей школе, другой - о бездомности. Давайте также посмотрим, как выглядят метки при моделировании языка по маске:",vt,vs,Ft,Fs,Yt,Ys,ra="Как и ожидалось от нашей функции <code>group_texts()</code> выше, это выглядит идентично декодированным <code>input_ids</code> - но как тогда наша модель может чему-то научиться? Нам не хватает ключевого шага: вставки токенов <code>[MASK]</code> в случайные позиции во входных данных! Давайте посмотрим, как это можно сделать на лету во время дообучения с помощью специального коллатора данных.",Ht,Hs,Dt,Ds,Ta='Дообучить модель моделирования языка по маске почти то же самое, что и дообучить модель классификации последовательностей, как мы делали в <a href="../chapter3/1">Главе 3</a>. Единственное отличие заключается в том, что нам нужен специальный коллатор данных, который может случайным образом маскировать некоторые токены в каждом батче текстов. К счастью, 🤗 Transformers поставляется со специальным <code>DataCollatorForLanguageModeling</code>, предназначенным именно для этой задачи. Нам нужно только передать ему токенизатор и аргумент <code>mlm_probability</code>, который указывает, какую долю токенов нужно маскировать. Мы выберем 15 % - это количество используется для BERT и является распространенным выбором в литературе:',Lt,Ls,qt,qs,ca="Чтобы увидеть, как работает случайное маскирование, давайте отправим несколько примеров в коллатор данных. Поскольку он ожидает список <code>dict</code>, где каждый <code>dict</code> представляет собой один фрагмент непрерывного текста, мы сначала выполняем итерацию над датасетом, прежде чем отправить батч коллатору. Мы удаляем ключ <code>&quot;word_ids&quot;</code> для этого коллатора данных, поскольку он его не ожидает:",Kt,Ks,Pt,Ps,Ot,Os,oa="Отлично, сработало! Мы видим, что токен <code>[MASK]</code> был случайным образом вставлен в различные места нашего текста. Это будут токены, которые наша модель должна будет предсказать в процессе обучения - и прелесть коллатора данных в том, что он будет случайным образом вставлять <code>[MASK]</code> в каждом батче!",lM,Sl,sM,We,le,da="При обучении моделей для моделирования языка с маской можно использовать один из методов - маскировать целые слова, а не только отдельные токены. Такой подход называется <em>маскированием целых слов (whole word masking)</em>. Если мы хотим использовать маскирование целых слов, нам нужно будет самостоятельно создать коллатор данных. Коллатор данных - это просто функция, которая берет список примеров и преобразует их в батч, так что давайте сделаем это прямо сейчас! Мы будем использовать идентификаторы слов, вычисленные ранее, для создания карты между индексами слов и соответствующими токенами, затем случайным образом определим, какие слова нужно маскировать, и применим эту маску к входным данным. Обратите внимание, что все метки - <code>-100</code>, кроме тех, что соответствуют словам-маскам.",eM,Ul,pl,xe,se,ma="Далее мы можем опробовать ее на тех же примерах, что и раньше:",tM,ee,MM,te,aM,zl,nM,Me,ja='Теперь, когда у нас есть два колатора данных, остальные шаги по дообучению стандартны. Обучение может занять много времени в Google Colab, если вам не посчастливилось получить мифический GPU P100 😭, поэтому мы сначала уменьшим размер обучающего набора до нескольких тысяч примеров. Не волнуйтесь, мы все равно получим довольно приличную языковую модель! Быстрый способ уменьшить размер датасета в 🤗 Datasets - это функция <code>Dataset.train_test_split()</code>, которую мы рассматривали в <a href="../chapter5/1">Главе 5</a>:',JM,ae,UM,ne,pM,Je,Ca="Это автоматически создаст новые части <code>train</code> и <code>test</code>, с размером обучающего набора в 10 000 примеров и валидацией в 10 % от этого количества - не стесняйтесь увеличить это значение, если у вас мощный GPU! Следующее, что нам нужно сделать, это авторизоваться на Hugging Face Hub. Если вы выполняете этот код в блокноте, вы можете сделать это с помощью следующей служебной функции:",iM,Ue,yM,pe,ua="которая отобразит виджет, где вы можете ввести свои учетные данные. В качестве альтернативы можно выполнить команду:",wM,ie,rM,ye,ha="в вашем любимом терминале и авторизуйтесь там.",TM,il,yl,Se,we,cM,re,oM,Te,ba="В отличие от других задач, таких как классификация текстов или ответов на вопросы, где для обучения нам дается помеченный корпус, при языковом моделировании у нас нет никаких явных меток. Как же определить, какая языковая модель является хорошей? Как и в случае с функцией автокоррекции в вашем телефоне, хорошая языковая модель - это та, которая присваивает высокую вероятность грамматически правильным предложениям и низкую вероятность бессмысленным предложениям. Чтобы лучше представить себе, как это выглядит, вы можете найти в Интернете целые подборки “неудач автокоррекции”, где модель в телефоне человека выдает довольно забавные (и часто неуместные) завершения!",dM,wl,rl,ze,ce,mM,oe,Ia="Более низкий показатель перплексии означает лучшую языковую модель, и мы видим, что наша начальная модель имеет несколько большое значение. Давайте посмотрим, сможем ли мы снизить его, дообучив модель! Для этого сначала запустим цикл обучения:",jM,Tl,cl,Ne,de,fa="и затем вычислить результирующую перплексию на тестовом наборе, как и раньше:",CM,ol,dl,ve,me,uM,je,Va="Неплохо - это довольно значительное уменьшение перплексии, что говорит о том, что модель узнала что-то новое об области рецензий на фильмы!",hM,Fe,Nl,bM,Ye,Ce,IM,ue,_a="Вы можете взаимодействовать с дообученной моделью либо с помощью ее виджета на Hub, либо локально с помощью <code>pipeline</code> из 🤗 Transformers. Давайте воспользуемся последним вариантом, чтобы загрузить нашу модель с помощью конвейера <code>fill-mask</code>:",fM,he,VM,be,Qa="Затем мы можем передать конвейеру наш пример текста ” This is a great [MASK]” и посмотреть, каковы 5 лучших прогнозов:",_M,Ie,QM,fe,RM,Ve,Ra="Отлично - наша модель явно адаптировала свои веса, чтобы прогнозировать слова, которые сильнее ассоциируются с фильмами!",GM,_e,gM,Qe,Ga='На этом мы завершаем наш первый эксперимент по обучению языковой модели. В <a href="../chapter7/6">разделе 6</a> вы узнаете, как обучить авторегрессионную модель типа GPT-2 с нуля; загляните туда, если хотите посмотреть, как можно предварительно обучить свою собственную модель трансформера!',BM,vl,kM,Re,ZM,qe,EM;V=new on({props:{fw:I[0]}}),B=new Tn({props:{containerStyle:"float: right; margin-left: 10px; display: inline-flex; position: relative; z-index: 10;"}}),R=new Yl({props:{title:"Дообучение модели маскированного языкового моделирования",local:"fine-tuning-a-masked-language-model",headingTag:"h1"}});const ga=[mn,dn],Ge=[];function Ba(l,s){return l[0]==="pt"?0:1}g=Ba(I),G=Ge[g]=ga[g](I),ul=new XM({props:{id:"mqElG5QJWUg"}}),v=new Fl({props:{$$slots:{default:[jn]},$$scope:{ctx:I}}}),D=new Yl({props:{title:"Выбор предварительно обученной модели для маскированного моделирования языка",local:"picking-a-pretrained-model-for-masked-language-modeling",headingTag:"h2"}});const ka=[un,Cn],ge=[];function Za(l,s){return l[0]==="pt"?0:1}Y=Za(I),W=ge[Y]=ka[Y](I),q=new h({props:{code:"dGV4dCUyMCUzRCUyMCUyMlRoaXMlMjBpcyUyMGElMjBncmVhdCUyMCU1Qk1BU0slNUQuJTIy",highlighted:'text = <span class="hljs-string">&quot;This is a great [MASK].&quot;</span>',wrap:!1}}),K=new h({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMEF1dG9Ub2tlbml6ZXIlMEElMEF0b2tlbml6ZXIlMjAlM0QlMjBBdXRvVG9rZW5pemVyLmZyb21fcHJldHJhaW5lZChtb2RlbF9jaGVja3BvaW50KQ==",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained(model_checkpoint)`,wrap:!1}});const Ea=[bn,hn],Be=[];function Xa(l,s){return l[0]==="pt"?0:1}U=Xa(I),b=Be[U]=Ea[U](I),Ol=new h({props:{code:"JyUzRSUzRSUzRSUyMFRoaXMlMjBpcyUyMGElMjBncmVhdCUyMGRlYWwuJyUwQSclM0UlM0UlM0UlMjBUaGlzJTIwaXMlMjBhJTIwZ3JlYXQlMjBzdWNjZXNzLiclMEEnJTNFJTNFJTNFJTIwVGhpcyUyMGlzJTIwYSUyMGdyZWF0JTIwYWR2ZW50dXJlLiclMEEnJTNFJTNFJTNFJTIwVGhpcyUyMGlzJTIwYSUyMGdyZWF0JTIwaWRlYS4nJTBBJyUzRSUzRSUzRSUyMFRoaXMlMjBpcyUyMGElMjBncmVhdCUyMGZlYXQuJw==",highlighted:`<span class="hljs-string">&#x27;&gt;&gt;&gt; This is a great deal.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; This is a great success.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; This is a great adventure.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; This is a great idea.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; This is a great feat.&#x27;</span>`,wrap:!1}}),ss=new Yl({props:{title:"Датасет",local:"the-dataset",headingTag:"h2"}}),ts=new h({props:{code:"ZnJvbSUyMGRhdGFzZXRzJTIwaW1wb3J0JTIwbG9hZF9kYXRhc2V0JTBBJTBBaW1kYl9kYXRhc2V0JTIwJTNEJTIwbG9hZF9kYXRhc2V0KCUyMmltZGIlMjIpJTBBaW1kYl9kYXRhc2V0",highlighted:`<span class="hljs-keyword">from</span> datasets <span class="hljs-keyword">import</span> load_dataset

imdb_dataset = load_dataset(<span class="hljs-string">&quot;imdb&quot;</span>)
imdb_dataset`,wrap:!1}}),Ms=new h({props:{code:"RGF0YXNldERpY3QoJTdCJTBBJTIwJTIwJTIwJTIwdHJhaW4lM0ElMjBEYXRhc2V0KCU3QiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGZlYXR1cmVzJTNBJTIwJTVCJ3RleHQnJTJDJTIwJ2xhYmVsJyU1RCUyQyUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG51bV9yb3dzJTNBJTIwMjUwMDAlMEElMjAlMjAlMjAlMjAlN0QpJTBBJTIwJTIwJTIwJTIwdGVzdCUzQSUyMERhdGFzZXQoJTdCJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwZmVhdHVyZXMlM0ElMjAlNUIndGV4dCclMkMlMjAnbGFiZWwnJTVEJTJDJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwbnVtX3Jvd3MlM0ElMjAyNTAwMCUwQSUyMCUyMCUyMCUyMCU3RCklMEElMjAlMjAlMjAlMjB1bnN1cGVydmlzZWQlM0ElMjBEYXRhc2V0KCU3QiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGZlYXR1cmVzJTNBJTIwJTVCJ3RleHQnJTJDJTIwJ2xhYmVsJyU1RCUyQyUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG51bV9yb3dzJTNBJTIwNTAwMDAlMEElMjAlMjAlMjAlMjAlN0QpJTBBJTdEKQ==",highlighted:`DatasetDict({
    train: Dataset({
        features: [<span class="hljs-string">&#x27;text&#x27;</span>, <span class="hljs-string">&#x27;label&#x27;</span>],
        num_rows: <span class="hljs-number">25000</span>
    })
    test: Dataset({
        features: [<span class="hljs-string">&#x27;text&#x27;</span>, <span class="hljs-string">&#x27;label&#x27;</span>],
        num_rows: <span class="hljs-number">25000</span>
    })
    unsupervised: Dataset({
        features: [<span class="hljs-string">&#x27;text&#x27;</span>, <span class="hljs-string">&#x27;label&#x27;</span>],
        num_rows: <span class="hljs-number">50000</span>
    })
})`,wrap:!1}}),ns=new h({props:{code:"c2FtcGxlJTIwJTNEJTIwaW1kYl9kYXRhc2V0JTVCJTIydHJhaW4lMjIlNUQuc2h1ZmZsZShzZWVkJTNENDIpLnNlbGVjdChyYW5nZSgzKSklMEElMEFmb3IlMjByb3clMjBpbiUyMHNhbXBsZSUzQSUwQSUyMCUyMCUyMCUyMHByaW50KGYlMjIlNUNuJyUzRSUzRSUzRSUyMFJldmlldyUzQSUyMCU3QnJvdyU1Qid0ZXh0JyU1RCU3RCclMjIpJTBBJTIwJTIwJTIwJTIwcHJpbnQoZiUyMiclM0UlM0UlM0UlMjBMYWJlbCUzQSUyMCU3QnJvdyU1QidsYWJlbCclNUQlN0QnJTIyKQ==",highlighted:`sample = imdb_dataset[<span class="hljs-string">&quot;train&quot;</span>].shuffle(seed=<span class="hljs-number">42</span>).select(<span class="hljs-built_in">range</span>(<span class="hljs-number">3</span>))

<span class="hljs-keyword">for</span> row <span class="hljs-keyword">in</span> sample:
    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;\\n&#x27;&gt;&gt;&gt; Review: <span class="hljs-subst">{row[<span class="hljs-string">&#x27;text&#x27;</span>]}</span>&#x27;&quot;</span>)
    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&#x27;&gt;&gt;&gt; Label: <span class="hljs-subst">{row[<span class="hljs-string">&#x27;label&#x27;</span>]}</span>&#x27;&quot;</span>)`,wrap:!1}}),Js=new h({props:{code:" ",highlighted:`
<span class="hljs-string">&#x27;&gt;&gt;&gt; Review: This is your typical Priyadarshan movie--a bunch of loony characters out on some silly mission. His signature climax has the entire cast of the film coming together and fighting each other in some crazy moshpit over hidden money. Whether it is a winning lottery ticket in Malamaal Weekly, black money in Hera Pheri, &quot;kodokoo&quot; in Phir Hera Pheri, etc., etc., the director is becoming ridiculously predictable. Don\\&#x27;t get me wrong; as clichéd and preposterous his movies may be, I usually end up enjoying the comedy. However, in most his previous movies there has actually been some good humor, (Hungama and Hera Pheri being noteworthy ones). Now, the hilarity of his films is fading as he is using the same formula over and over again.&lt;br /&gt;&lt;br /&gt;Songs are good. Tanushree Datta looks awesome. Rajpal Yadav is irritating, and Tusshar is not a whole lot better. Kunal Khemu is OK, and Sharman Joshi is the best.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Label: 0&#x27;</span>

<span class="hljs-string">&#x27;&gt;&gt;&gt; Review: Okay, the story makes no sense, the characters lack any dimensionally, the best dialogue is ad-libs about the low quality of movie, the cinematography is dismal, and only editing saves a bit of the muddle, but Sam&quot; Peckinpah directed the film. Somehow, his direction is not enough. For those who appreciate Peckinpah and his great work, this movie is a disappointment. Even a great cast cannot redeem the time the viewer wastes with this minimal effort.&lt;br /&gt;&lt;br /&gt;The proper response to the movie is the contempt that the director San Peckinpah, James Caan, Robert Duvall, Burt Young, Bo Hopkins, Arthur Hill, and even Gig Young bring to their work. Watch the great Peckinpah films. Skip this mess.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Label: 0&#x27;</span>

<span class="hljs-string">&#x27;&gt;&gt;&gt; Review: I saw this movie at the theaters when I was about 6 or 7 years old. I loved it then, and have recently come to own a VHS version. &lt;br /&gt;&lt;br /&gt;My 4 and 6 year old children love this movie and have been asking again and again to watch it. &lt;br /&gt;&lt;br /&gt;I have enjoyed watching it again too. Though I have to admit it is not as good on a little TV.&lt;br /&gt;&lt;br /&gt;I do not have older children so I do not know what they would think of it. &lt;br /&gt;&lt;br /&gt;The songs are very cute. My daughter keeps singing them over and over.&lt;br /&gt;&lt;br /&gt;Hope this helps.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Label: 1&#x27;</span>`,wrap:!1}}),Al=new Fl({props:{$$slots:{default:[In]},$$scope:{ctx:I}}}),is=new Yl({props:{title:"Предварительная обработка данных",local:"preprocessing-the-data",headingTag:"h2"}}),ys=new XM({props:{id:"8PmhEIXhBvI"}}),Ts=new h({props:{code:"ZGVmJTIwdG9rZW5pemVfZnVuY3Rpb24oZXhhbXBsZXMpJTNBJTBBJTIwJTIwJTIwJTIwcmVzdWx0JTIwJTNEJTIwdG9rZW5pemVyKGV4YW1wbGVzJTVCJTIydGV4dCUyMiU1RCklMEElMjAlMjAlMjAlMjBpZiUyMHRva2VuaXplci5pc19mYXN0JTNBJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwcmVzdWx0JTVCJTIyd29yZF9pZHMlMjIlNUQlMjAlM0QlMjAlNUJyZXN1bHQud29yZF9pZHMoaSklMjBmb3IlMjBpJTIwaW4lMjByYW5nZShsZW4ocmVzdWx0JTVCJTIyaW5wdXRfaWRzJTIyJTVEKSklNUQlMEElMjAlMjAlMjAlMjByZXR1cm4lMjByZXN1bHQlMEElMEElMEElMjMlMjAlRDAlOTglRDElODElRDAlQkYlRDAlQkUlRDAlQkIlRDElOEMlRDAlQjclRDElODMlRDAlQjklRDElODIlRDAlQjUlMjBiYXRjaGVkJTNEVHJ1ZSUyMCVEMCVCNCVEMCVCQiVEMSU4RiUyMCVEMCVCMCVEMCVCQSVEMSU4MiVEMCVCOCVEMCVCMiVEMCVCMCVEMSU4NiVEMCVCOCVEMCVCOCUyMCVEMCVCMSVEMSU4QiVEMSU4MSVEMSU4MiVEMSU4MCVEMCVCRSVEMCVCOSUyMCVEMCVCQyVEMCVCRCVEMCVCRSVEMCVCMyVEMCVCRSVEMCVCRiVEMCVCRSVEMSU4MiVEMCVCRSVEMSU4NyVEMCVCRCVEMCVCRSVEMSU4MSVEMSU4MiVEMCVCOCElMEF0b2tlbml6ZWRfZGF0YXNldHMlMjAlM0QlMjBpbWRiX2RhdGFzZXQubWFwKCUwQSUyMCUyMCUyMCUyMHRva2VuaXplX2Z1bmN0aW9uJTJDJTIwYmF0Y2hlZCUzRFRydWUlMkMlMjByZW1vdmVfY29sdW1ucyUzRCU1QiUyMnRleHQlMjIlMkMlMjAlMjJsYWJlbCUyMiU1RCUwQSklMEF0b2tlbml6ZWRfZGF0YXNldHM=",highlighted:`<span class="hljs-keyword">def</span> <span class="hljs-title function_">tokenize_function</span>(<span class="hljs-params">examples</span>):
    result = tokenizer(examples[<span class="hljs-string">&quot;text&quot;</span>])
    <span class="hljs-keyword">if</span> tokenizer.is_fast:
        result[<span class="hljs-string">&quot;word_ids&quot;</span>] = [result.word_ids(i) <span class="hljs-keyword">for</span> i <span class="hljs-keyword">in</span> <span class="hljs-built_in">range</span>(<span class="hljs-built_in">len</span>(result[<span class="hljs-string">&quot;input_ids&quot;</span>]))]
    <span class="hljs-keyword">return</span> result


<span class="hljs-comment"># Используйте batched=True для активации быстрой многопоточности!</span>
tokenized_datasets = imdb_dataset.<span class="hljs-built_in">map</span>(
    tokenize_function, batched=<span class="hljs-literal">True</span>, remove_columns=[<span class="hljs-string">&quot;text&quot;</span>, <span class="hljs-string">&quot;label&quot;</span>]
)
tokenized_datasets`,wrap:!1}}),cs=new h({props:{code:"RGF0YXNldERpY3QoJTdCJTBBJTIwJTIwJTIwJTIwdHJhaW4lM0ElMjBEYXRhc2V0KCU3QiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGZlYXR1cmVzJTNBJTIwJTVCJ2F0dGVudGlvbl9tYXNrJyUyQyUyMCdpbnB1dF9pZHMnJTJDJTIwJ3dvcmRfaWRzJyU1RCUyQyUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG51bV9yb3dzJTNBJTIwMjUwMDAlMEElMjAlMjAlMjAlMjAlN0QpJTBBJTIwJTIwJTIwJTIwdGVzdCUzQSUyMERhdGFzZXQoJTdCJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwZmVhdHVyZXMlM0ElMjAlNUInYXR0ZW50aW9uX21hc2snJTJDJTIwJ2lucHV0X2lkcyclMkMlMjAnd29yZF9pZHMnJTVEJTJDJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwbnVtX3Jvd3MlM0ElMjAyNTAwMCUwQSUyMCUyMCUyMCUyMCU3RCklMEElMjAlMjAlMjAlMjB1bnN1cGVydmlzZWQlM0ElMjBEYXRhc2V0KCU3QiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGZlYXR1cmVzJTNBJTIwJTVCJ2F0dGVudGlvbl9tYXNrJyUyQyUyMCdpbnB1dF9pZHMnJTJDJTIwJ3dvcmRfaWRzJyU1RCUyQyUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG51bV9yb3dzJTNBJTIwNTAwMDAlMEElMjAlMjAlMjAlMjAlN0QpJTBBJTdEKQ==",highlighted:`DatasetDict({
    train: Dataset({
        features: [<span class="hljs-string">&#x27;attention_mask&#x27;</span>, <span class="hljs-string">&#x27;input_ids&#x27;</span>, <span class="hljs-string">&#x27;word_ids&#x27;</span>],
        num_rows: <span class="hljs-number">25000</span>
    })
    test: Dataset({
        features: [<span class="hljs-string">&#x27;attention_mask&#x27;</span>, <span class="hljs-string">&#x27;input_ids&#x27;</span>, <span class="hljs-string">&#x27;word_ids&#x27;</span>],
        num_rows: <span class="hljs-number">25000</span>
    })
    unsupervised: Dataset({
        features: [<span class="hljs-string">&#x27;attention_mask&#x27;</span>, <span class="hljs-string">&#x27;input_ids&#x27;</span>, <span class="hljs-string">&#x27;word_ids&#x27;</span>],
        num_rows: <span class="hljs-number">50000</span>
    })
})`,wrap:!1}}),ms=new h({props:{code:"dG9rZW5pemVyLm1vZGVsX21heF9sZW5ndGg=",highlighted:"tokenizer.model_max_length",wrap:!1}}),js=new h({props:{code:"NTEy",highlighted:'<span class="hljs-number">512</span>',wrap:!1}}),Wl=new Fl({props:{$$slots:{default:[fn]},$$scope:{ctx:I}}}),hs=new h({props:{code:"Y2h1bmtfc2l6ZSUyMCUzRCUyMDEyOA==",highlighted:'chunk_size = <span class="hljs-number">128</span>',wrap:!1}}),xl=new Fl({props:{warning:!0,$$slots:{default:[Vn]},$$scope:{ctx:I}}}),Is=new h({props:{code:"JTIzJTIwJUQwJUExJTIwJUQwJUJGJUQwJUJFJUQwJUJDJUQwJUJFJUQxJTg5JUQxJThDJUQxJThFJTIwJUQxJTgxJUQxJTgwJUQwJUI1JUQwJUI3JUQwJUIwJTIwJUQwJUJGJUQwJUJFJUQwJUJCJUQxJTgzJUQxJTg3JUQwJUIwJUQwJUI1JUQwJUJDJTIwJUQxJTgxJUQwJUJGJUQwJUI4JUQxJTgxJUQwJUJFJUQwJUJBJTIwJUQxJTgxJUQwJUJGJUQwJUI4JUQxJTgxJUQwJUJBJUQwJUJFJUQwJUIyJTIwJUQwJUI0JUQwJUJCJUQxJThGJTIwJUQwJUJBJUQwJUIwJUQwJUI2JUQwJUI0JUQwJUJFJUQwJUIzJUQwJUJFJTIwJUQwJUJGJUQxJTgwJUQwJUI4JUQwJUI3JUQwJUJEJUQwJUIwJUQwJUJBJUQwJUIwJTBBdG9rZW5pemVkX3NhbXBsZXMlMjAlM0QlMjB0b2tlbml6ZWRfZGF0YXNldHMlNUIlMjJ0cmFpbiUyMiU1RCU1QiUzQTMlNUQlMEElMEFmb3IlMjBpZHglMkMlMjBzYW1wbGUlMjBpbiUyMGVudW1lcmF0ZSh0b2tlbml6ZWRfc2FtcGxlcyU1QiUyMmlucHV0X2lkcyUyMiU1RCklM0ElMEElMjAlMjAlMjAlMjBwcmludChmJTIyJyUzRSUzRSUzRSUyMFJldmlldyUyMCU3QmlkeCU3RCUyMGxlbmd0aCUzQSUyMCU3QmxlbihzYW1wbGUpJTdEJyUyMik=",highlighted:`<span class="hljs-comment"># С помощью среза получаем список списков для каждого признака</span>
tokenized_samples = tokenized_datasets[<span class="hljs-string">&quot;train&quot;</span>][:<span class="hljs-number">3</span>]

<span class="hljs-keyword">for</span> idx, sample <span class="hljs-keyword">in</span> <span class="hljs-built_in">enumerate</span>(tokenized_samples[<span class="hljs-string">&quot;input_ids&quot;</span>]):
    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&#x27;&gt;&gt;&gt; Review <span class="hljs-subst">{idx}</span> length: <span class="hljs-subst">{<span class="hljs-built_in">len</span>(sample)}</span>&#x27;&quot;</span>)`,wrap:!1}}),fs=new h({props:{code:"JyUzRSUzRSUzRSUyMFJldmlldyUyMDAlMjBsZW5ndGglM0ElMjAyMDAnJTBBJyUzRSUzRSUzRSUyMFJldmlldyUyMDElMjBsZW5ndGglM0ElMjA1NTknJTBBJyUzRSUzRSUzRSUyMFJldmlldyUyMDIlMjBsZW5ndGglM0ElMjAxOTIn",highlighted:`<span class="hljs-string">&#x27;&gt;&gt;&gt; Review 0 length: 200&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Review 1 length: 559&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Review 2 length: 192&#x27;</span>`,wrap:!1}}),_s=new h({props:{code:"Y29uY2F0ZW5hdGVkX2V4YW1wbGVzJTIwJTNEJTIwJTdCJTBBJTIwJTIwJTIwJTIwayUzQSUyMHN1bSh0b2tlbml6ZWRfc2FtcGxlcyU1QmslNUQlMkMlMjAlNUIlNUQpJTIwZm9yJTIwayUyMGluJTIwdG9rZW5pemVkX3NhbXBsZXMua2V5cygpJTBBJTdEJTBBdG90YWxfbGVuZ3RoJTIwJTNEJTIwbGVuKGNvbmNhdGVuYXRlZF9leGFtcGxlcyU1QiUyMmlucHV0X2lkcyUyMiU1RCklMEFwcmludChmJTIyJyUzRSUzRSUzRSUyMENvbmNhdGVuYXRlZCUyMHJldmlld3MlMjBsZW5ndGglM0ElMjAlN0J0b3RhbF9sZW5ndGglN0QnJTIyKQ==",highlighted:`concatenated_examples = {
    k: <span class="hljs-built_in">sum</span>(tokenized_samples[k], []) <span class="hljs-keyword">for</span> k <span class="hljs-keyword">in</span> tokenized_samples.keys()
}
total_length = <span class="hljs-built_in">len</span>(concatenated_examples[<span class="hljs-string">&quot;input_ids&quot;</span>])
<span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&#x27;&gt;&gt;&gt; Concatenated reviews length: <span class="hljs-subst">{total_length}</span>&#x27;&quot;</span>)`,wrap:!1}}),Qs=new h({props:{code:"JyUzRSUzRSUzRSUyMENvbmNhdGVuYXRlZCUyMHJldmlld3MlMjBsZW5ndGglM0ElMjA5NTEn",highlighted:'<span class="hljs-string">&#x27;&gt;&gt;&gt; Concatenated reviews length: 951&#x27;</span>',wrap:!1}}),Gs=new h({props:{code:"Y2h1bmtzJTIwJTNEJTIwJTdCJTBBJTIwJTIwJTIwJTIwayUzQSUyMCU1QnQlNUJpJTIwJTNBJTIwaSUyMCUyQiUyMGNodW5rX3NpemUlNUQlMjBmb3IlMjBpJTIwaW4lMjByYW5nZSgwJTJDJTIwdG90YWxfbGVuZ3RoJTJDJTIwY2h1bmtfc2l6ZSklNUQlMEElMjAlMjAlMjAlMjBmb3IlMjBrJTJDJTIwdCUyMGluJTIwY29uY2F0ZW5hdGVkX2V4YW1wbGVzLml0ZW1zKCklMEElN0QlMEElMEFmb3IlMjBjaHVuayUyMGluJTIwY2h1bmtzJTVCJTIyaW5wdXRfaWRzJTIyJTVEJTNBJTBBJTIwJTIwJTIwJTIwcHJpbnQoZiUyMiclM0UlM0UlM0UlMjBDaHVuayUyMGxlbmd0aCUzQSUyMCU3QmxlbihjaHVuayklN0QnJTIyKQ==",highlighted:`chunks = {
    k: [t[i : i + chunk_size] <span class="hljs-keyword">for</span> i <span class="hljs-keyword">in</span> <span class="hljs-built_in">range</span>(<span class="hljs-number">0</span>, total_length, chunk_size)]
    <span class="hljs-keyword">for</span> k, t <span class="hljs-keyword">in</span> concatenated_examples.items()
}

<span class="hljs-keyword">for</span> chunk <span class="hljs-keyword">in</span> chunks[<span class="hljs-string">&quot;input_ids&quot;</span>]:
    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&#x27;&gt;&gt;&gt; Chunk length: <span class="hljs-subst">{<span class="hljs-built_in">len</span>(chunk)}</span>&#x27;&quot;</span>)`,wrap:!1}}),gs=new h({props:{code:"JyUzRSUzRSUzRSUyMENodW5rJTIwbGVuZ3RoJTNBJTIwMTI4JyUwQSclM0UlM0UlM0UlMjBDaHVuayUyMGxlbmd0aCUzQSUyMDEyOCclMEEnJTNFJTNFJTNFJTIwQ2h1bmslMjBsZW5ndGglM0ElMjAxMjgnJTBBJyUzRSUzRSUzRSUyMENodW5rJTIwbGVuZ3RoJTNBJTIwMTI4JyUwQSclM0UlM0UlM0UlMjBDaHVuayUyMGxlbmd0aCUzQSUyMDEyOCclMEEnJTNFJTNFJTNFJTIwQ2h1bmslMjBsZW5ndGglM0ElMjAxMjgnJTBBJyUzRSUzRSUzRSUyMENodW5rJTIwbGVuZ3RoJTNBJTIwMTI4JyUwQSclM0UlM0UlM0UlMjBDaHVuayUyMGxlbmd0aCUzQSUyMDU1Jw==",highlighted:`<span class="hljs-string">&#x27;&gt;&gt;&gt; Chunk length: 128&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Chunk length: 128&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Chunk length: 128&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Chunk length: 128&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Chunk length: 128&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Chunk length: 128&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Chunk length: 128&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; Chunk length: 55&#x27;</span>`,wrap:!1}}),Es=new h({props:{code:"ZGVmJTIwZ3JvdXBfdGV4dHMoZXhhbXBsZXMpJTNBJTBBJTIwJTIwJTIwJTIwJTIzJTIwJUQwJTlBJUQwJUJFJUQwJUJEJUQwJUJBJUQwJUIwJUQxJTgyJUQwJUI1JUQwJUJEJUQwJUI4JUQxJTgwJUQxJTgzJUQwJUI1JUQwJUJDJTIwJUQwJUIyJUQxJTgxJUQwJUI1JTIwJUQxJTgyJUQwJUI1JUQwJUJBJUQxJTgxJUQxJTgyJUQxJThCJTBBJTIwJTIwJTIwJTIwY29uY2F0ZW5hdGVkX2V4YW1wbGVzJTIwJTNEJTIwJTdCayUzQSUyMHN1bShleGFtcGxlcyU1QmslNUQlMkMlMjAlNUIlNUQpJTIwZm9yJTIwayUyMGluJTIwZXhhbXBsZXMua2V5cygpJTdEJTBBJTIwJTIwJTIwJTIwJTIzJTIwJUQwJTkyJUQxJThCJUQxJTg3JUQwJUI4JUQxJTgxJUQwJUJCJUQxJThGJUQwJUI1JUQwJUJDJTIwJUQwJUI0JUQwJUJCJUQwJUI4JUQwJUJEJUQxJTgzJTIwJUQwJUJBJUQwJUJFJUQwJUJEJUQwJUJBJUQwJUIwJUQxJTgyJUQwJUI1JUQwJUJEJUQwJUI4JUQxJTgwJUQwJUJFJUQwJUIyJUQwJUIwJUQwJUJEJUQwJUJEJUQxJThCJUQxJTg1JTIwJUQxJTgyJUQwJUI1JUQwJUJBJUQxJTgxJUQxJTgyJUQwJUJFJUQwJUIyJTBBJTIwJTIwJTIwJTIwdG90YWxfbGVuZ3RoJTIwJTNEJTIwbGVuKGNvbmNhdGVuYXRlZF9leGFtcGxlcyU1Qmxpc3QoZXhhbXBsZXMua2V5cygpKSU1QjAlNUQlNUQpJTBBJTIwJTIwJTIwJTIwJTIzJTIwJUQwJTlFJUQxJTgyJUQwJUIxJUQxJTgwJUQwJUIwJUQxJTgxJUQxJThCJUQwJUIyJUQwJUIwJUQwJUI1JUQwJUJDJTIwJUQwJUJGJUQwJUJFJUQxJTgxJUQwJUJCJUQwJUI1JUQwJUI0JUQwJUJEJUQwJUI4JUQwJUI5JTIwJUQxJTg0JUQxJTgwJUQwJUIwJUQwJUIzJUQwJUJDJUQwJUI1JUQwJUJEJUQxJTgyJTJDJTIwJUQwJUI1JUQxJTgxJUQwJUJCJUQwJUI4JTIwJUQwJUJFJUQwJUJEJTIwJUQwJUJDJUQwJUI1JUQwJUJEJUQxJThDJUQxJTg4JUQwJUI1JTIwY2h1bmtfc2l6ZSUwQSUyMCUyMCUyMCUyMHRvdGFsX2xlbmd0aCUyMCUzRCUyMCh0b3RhbF9sZW5ndGglMjAlMkYlMkYlMjBjaHVua19zaXplKSUyMColMjBjaHVua19zaXplJTBBJTIwJTIwJTIwJTIwJTIzJTIwJUQwJUEwJUQwJUIwJUQwJUI3JUQwJUIxJUQwJUI4JUQwJUIyJUQwJUIwJUQwJUI1JUQwJUJDJTIwJUQwJUJEJUQwJUIwJTIwJUQxJTg0JUQxJTgwJUQwJUIwJUQwJUIzJUQwJUJDJUQwJUI1JUQwJUJEJUQxJTgyJUQxJThCJTIwJUQwJUI0JUQwJUJCJUQwJUI4JUQwJUJEJUQwJUJFJUQwJUI5JTIwbWF4X2xlbiUwQSUyMCUyMCUyMCUyMHJlc3VsdCUyMCUzRCUyMCU3QiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGslM0ElMjAlNUJ0JTVCaSUyMCUzQSUyMGklMjAlMkIlMjBjaHVua19zaXplJTVEJTIwZm9yJTIwaSUyMGluJTIwcmFuZ2UoMCUyQyUyMHRvdGFsX2xlbmd0aCUyQyUyMGNodW5rX3NpemUpJTVEJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwZm9yJTIwayUyQyUyMHQlMjBpbiUyMGNvbmNhdGVuYXRlZF9leGFtcGxlcy5pdGVtcygpJTBBJTIwJTIwJTIwJTIwJTdEJTBBJTIwJTIwJTIwJTIwJTIzJTIwJUQwJUExJUQwJUJFJUQwJUI3JUQwJUI0JUQwJUIwJUQwJUI1JUQwJUJDJTIwJUQwJUJEJUQwJUJFJUQwJUIyJUQxJThCJUQwJUI5JTIwJUQxJTgxJUQxJTgyJUQwJUJFJUQwJUJCJUQwJUIxJUQwJUI1JUQxJTg2JTIwJUQwJUJDJUQwJUI1JUQxJTgyJUQwJUJFJUQwJUJBJTBBJTIwJTIwJTIwJTIwcmVzdWx0JTVCJTIybGFiZWxzJTIyJTVEJTIwJTNEJTIwcmVzdWx0JTVCJTIyaW5wdXRfaWRzJTIyJTVELmNvcHkoKSUwQSUyMCUyMCUyMCUyMHJldHVybiUyMHJlc3VsdA==",highlighted:`<span class="hljs-keyword">def</span> <span class="hljs-title function_">group_texts</span>(<span class="hljs-params">examples</span>):
    <span class="hljs-comment"># Конкатенируем все тексты</span>
    concatenated_examples = {k: <span class="hljs-built_in">sum</span>(examples[k], []) <span class="hljs-keyword">for</span> k <span class="hljs-keyword">in</span> examples.keys()}
    <span class="hljs-comment"># Вычисляем длину конкатенированных текстов</span>
    total_length = <span class="hljs-built_in">len</span>(concatenated_examples[<span class="hljs-built_in">list</span>(examples.keys())[<span class="hljs-number">0</span>]])
    <span class="hljs-comment"># Отбрасываем последний фрагмент, если он меньше chunk_size</span>
    total_length = (total_length // chunk_size) * chunk_size
    <span class="hljs-comment"># Разбиваем на фрагменты длиной max_len</span>
    result = {
        k: [t[i : i + chunk_size] <span class="hljs-keyword">for</span> i <span class="hljs-keyword">in</span> <span class="hljs-built_in">range</span>(<span class="hljs-number">0</span>, total_length, chunk_size)]
        <span class="hljs-keyword">for</span> k, t <span class="hljs-keyword">in</span> concatenated_examples.items()
    }
    <span class="hljs-comment"># Создаем новый столбец меток</span>
    result[<span class="hljs-string">&quot;labels&quot;</span>] = result[<span class="hljs-string">&quot;input_ids&quot;</span>].copy()
    <span class="hljs-keyword">return</span> result`,wrap:!1}}),As=new h({props:{code:"bG1fZGF0YXNldHMlMjAlM0QlMjB0b2tlbml6ZWRfZGF0YXNldHMubWFwKGdyb3VwX3RleHRzJTJDJTIwYmF0Y2hlZCUzRFRydWUpJTBBbG1fZGF0YXNldHM=",highlighted:`lm_datasets = tokenized_datasets.<span class="hljs-built_in">map</span>(group_texts, batched=<span class="hljs-literal">True</span>)
lm_datasets`,wrap:!1}}),Ws=new h({props:{code:"RGF0YXNldERpY3QoJTdCJTBBJTIwJTIwJTIwJTIwdHJhaW4lM0ElMjBEYXRhc2V0KCU3QiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGZlYXR1cmVzJTNBJTIwJTVCJ2F0dGVudGlvbl9tYXNrJyUyQyUyMCdpbnB1dF9pZHMnJTJDJTIwJ2xhYmVscyclMkMlMjAnd29yZF9pZHMnJTVEJTJDJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwbnVtX3Jvd3MlM0ElMjA2MTI4OSUwQSUyMCUyMCUyMCUyMCU3RCklMEElMjAlMjAlMjAlMjB0ZXN0JTNBJTIwRGF0YXNldCglN0IlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBmZWF0dXJlcyUzQSUyMCU1QidhdHRlbnRpb25fbWFzayclMkMlMjAnaW5wdXRfaWRzJyUyQyUyMCdsYWJlbHMnJTJDJTIwJ3dvcmRfaWRzJyU1RCUyQyUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG51bV9yb3dzJTNBJTIwNTk5MDUlMEElMjAlMjAlMjAlMjAlN0QpJTBBJTIwJTIwJTIwJTIwdW5zdXBlcnZpc2VkJTNBJTIwRGF0YXNldCglN0IlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBmZWF0dXJlcyUzQSUyMCU1QidhdHRlbnRpb25fbWFzayclMkMlMjAnaW5wdXRfaWRzJyUyQyUyMCdsYWJlbHMnJTJDJTIwJ3dvcmRfaWRzJyU1RCUyQyUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG51bV9yb3dzJTNBJTIwMTIyOTYzJTBBJTIwJTIwJTIwJTIwJTdEKSUwQSU3RCk=",highlighted:`DatasetDict({
    train: Dataset({
        features: [<span class="hljs-string">&#x27;attention_mask&#x27;</span>, <span class="hljs-string">&#x27;input_ids&#x27;</span>, <span class="hljs-string">&#x27;labels&#x27;</span>, <span class="hljs-string">&#x27;word_ids&#x27;</span>],
        num_rows: <span class="hljs-number">61289</span>
    })
    test: Dataset({
        features: [<span class="hljs-string">&#x27;attention_mask&#x27;</span>, <span class="hljs-string">&#x27;input_ids&#x27;</span>, <span class="hljs-string">&#x27;labels&#x27;</span>, <span class="hljs-string">&#x27;word_ids&#x27;</span>],
        num_rows: <span class="hljs-number">59905</span>
    })
    unsupervised: Dataset({
        features: [<span class="hljs-string">&#x27;attention_mask&#x27;</span>, <span class="hljs-string">&#x27;input_ids&#x27;</span>, <span class="hljs-string">&#x27;labels&#x27;</span>, <span class="hljs-string">&#x27;word_ids&#x27;</span>],
        num_rows: <span class="hljs-number">122963</span>
    })
})`,wrap:!1}}),Ss=new h({props:{code:"dG9rZW5pemVyLmRlY29kZShsbV9kYXRhc2V0cyU1QiUyMnRyYWluJTIyJTVEJTVCMSU1RCU1QiUyMmlucHV0X2lkcyUyMiU1RCk=",highlighted:'tokenizer.decode(lm_datasets[<span class="hljs-string">&quot;train&quot;</span>][<span class="hljs-number">1</span>][<span class="hljs-string">&quot;input_ids&quot;</span>])',wrap:!1}}),zs=new h({props:{code:"JTIyLi4uLiUyMGF0Li4uLi4uLi4uLiUyMGhpZ2guJTIwYSUyMGNsYXNzaWMlMjBsaW5lJTIwJTNBJTIwaW5zcGVjdG9yJTIwJTNBJTIwaSdtJTIwaGVyZSUyMHRvJTIwc2FjayUyMG9uZSUyMG9mJTIweW91ciUyMHRlYWNoZXJzLiUyMHN0dWRlbnQlMjAlM0ElMjB3ZWxjb21lJTIwdG8lMjBicm9td2VsbCUyMGhpZ2guJTIwaSUyMGV4cGVjdCUyMHRoYXQlMjBtYW55JTIwYWR1bHRzJTIwb2YlMjBteSUyMGFnZSUyMHRoaW5rJTIwdGhhdCUyMGJyb213ZWxsJTIwaGlnaCUyMGlzJTIwZmFyJTIwZmV0Y2hlZC4lMjB3aGF0JTIwYSUyMHBpdHklMjB0aGF0JTIwaXQlMjBpc24ndCElMjAlNUJTRVAlNUQlMjAlNUJDTFMlNUQlMjBob21lbGVzc25lc3MlMjAoJTIwb3IlMjBob3VzZWxlc3NuZXNzJTIwYXMlMjBnZW9yZ2UlMjBjYXJsaW4lMjBzdGF0ZWQlMjApJTIwaGFzJTIwYmVlbiUyMGFuJTIwaXNzdWUlMjBmb3IlMjB5ZWFycyUyMGJ1dCUyMG5ldmVyJTIwYSUyMHBsYW4lMjB0byUyMGhlbHAlMjB0aG9zZSUyMG9uJTIwdGhlJTIwc3RyZWV0JTIwdGhhdCUyMHdlcmUlMjBvbmNlJTIwY29uc2lkZXJlZCUyMGh1bWFuJTIwd2hvJTIwZGlkJTIwZXZlcnl0aGluZyUyMGZyb20lMjBnb2luZyUyMHRvJTIwc2Nob29sJTJDJTIwd29yayUyQyUyMG9yJTIwdm90ZSUyMGZvciUyMHRoZSUyMG1hdHRlci4lMjBtb3N0JTIwcGVvcGxlJTIwdGhpbmslMjBvZiUyMHRoZSUyMGhvbWVsZXNzJTIy",highlighted:'<span class="hljs-string">&quot;.... at.......... high. a classic line : inspector : i&#x27;m here to sack one of your teachers. student : welcome to bromwell high. i expect that many adults of my age think that bromwell high is far fetched. what a pity that it isn&#x27;t! [SEP] [CLS] homelessness ( or houselessness as george carlin stated ) has been an issue for years but never a plan to help those on the street that were once considered human who did everything from going to school, work, or vote for the matter. most people think of the homeless&quot;</span>',wrap:!1}}),vs=new h({props:{code:"dG9rZW5pemVyLmRlY29kZShsbV9kYXRhc2V0cyU1QiUyMnRyYWluJTIyJTVEJTVCMSU1RCU1QiUyMmxhYmVscyUyMiU1RCk=",highlighted:'tokenizer.decode(lm_datasets[<span class="hljs-string">&quot;train&quot;</span>][<span class="hljs-number">1</span>][<span class="hljs-string">&quot;labels&quot;</span>])',wrap:!1}}),Fs=new h({props:{code:"JTIyLi4uLiUyMGF0Li4uLi4uLi4uLiUyMGhpZ2guJTIwYSUyMGNsYXNzaWMlMjBsaW5lJTIwJTNBJTIwaW5zcGVjdG9yJTIwJTNBJTIwaSdtJTIwaGVyZSUyMHRvJTIwc2FjayUyMG9uZSUyMG9mJTIweW91ciUyMHRlYWNoZXJzLiUyMHN0dWRlbnQlMjAlM0ElMjB3ZWxjb21lJTIwdG8lMjBicm9td2VsbCUyMGhpZ2guJTIwaSUyMGV4cGVjdCUyMHRoYXQlMjBtYW55JTIwYWR1bHRzJTIwb2YlMjBteSUyMGFnZSUyMHRoaW5rJTIwdGhhdCUyMGJyb213ZWxsJTIwaGlnaCUyMGlzJTIwZmFyJTIwZmV0Y2hlZC4lMjB3aGF0JTIwYSUyMHBpdHklMjB0aGF0JTIwaXQlMjBpc24ndCElMjAlNUJTRVAlNUQlMjAlNUJDTFMlNUQlMjBob21lbGVzc25lc3MlMjAoJTIwb3IlMjBob3VzZWxlc3NuZXNzJTIwYXMlMjBnZW9yZ2UlMjBjYXJsaW4lMjBzdGF0ZWQlMjApJTIwaGFzJTIwYmVlbiUyMGFuJTIwaXNzdWUlMjBmb3IlMjB5ZWFycyUyMGJ1dCUyMG5ldmVyJTIwYSUyMHBsYW4lMjB0byUyMGhlbHAlMjB0aG9zZSUyMG9uJTIwdGhlJTIwc3RyZWV0JTIwdGhhdCUyMHdlcmUlMjBvbmNlJTIwY29uc2lkZXJlZCUyMGh1bWFuJTIwd2hvJTIwZGlkJTIwZXZlcnl0aGluZyUyMGZyb20lMjBnb2luZyUyMHRvJTIwc2Nob29sJTJDJTIwd29yayUyQyUyMG9yJTIwdm90ZSUyMGZvciUyMHRoZSUyMG1hdHRlci4lMjBtb3N0JTIwcGVvcGxlJTIwdGhpbmslMjBvZiUyMHRoZSUyMGhvbWVsZXNzJTIy",highlighted:'<span class="hljs-string">&quot;.... at.......... high. a classic line : inspector : i&#x27;m here to sack one of your teachers. student : welcome to bromwell high. i expect that many adults of my age think that bromwell high is far fetched. what a pity that it isn&#x27;t! [SEP] [CLS] homelessness ( or houselessness as george carlin stated ) has been an issue for years but never a plan to help those on the street that were once considered human who did everything from going to school, work, or vote for the matter. most people think of the homeless&quot;</span>',wrap:!1}}),Hs=new Yl({props:{title:"Дообучение DistilBERT с помощью API Trainer",local:"fine-tuning-distilbert-with-the-trainer-api",headingTag:"h2"}}),Ls=new h({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMERhdGFDb2xsYXRvckZvckxhbmd1YWdlTW9kZWxpbmclMEElMEFkYXRhX2NvbGxhdG9yJTIwJTNEJTIwRGF0YUNvbGxhdG9yRm9yTGFuZ3VhZ2VNb2RlbGluZyh0b2tlbml6ZXIlM0R0b2tlbml6ZXIlMkMlMjBtbG1fcHJvYmFiaWxpdHklM0QwLjE1KQ==",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> DataCollatorForLanguageModeling

data_collator = DataCollatorForLanguageModeling(tokenizer=tokenizer, mlm_probability=<span class="hljs-number">0.15</span>)`,wrap:!1}}),Ks=new h({props:{code:"c2FtcGxlcyUyMCUzRCUyMCU1QmxtX2RhdGFzZXRzJTVCJTIydHJhaW4lMjIlNUQlNUJpJTVEJTIwZm9yJTIwaSUyMGluJTIwcmFuZ2UoMiklNUQlMEFmb3IlMjBzYW1wbGUlMjBpbiUyMHNhbXBsZXMlM0ElMEElMjAlMjAlMjAlMjBfJTIwJTNEJTIwc2FtcGxlLnBvcCglMjJ3b3JkX2lkcyUyMiklMEElMEFmb3IlMjBjaHVuayUyMGluJTIwZGF0YV9jb2xsYXRvcihzYW1wbGVzKSU1QiUyMmlucHV0X2lkcyUyMiU1RCUzQSUwQSUyMCUyMCUyMCUyMHByaW50KGYlMjIlNUNuJyUzRSUzRSUzRSUyMCU3QnRva2VuaXplci5kZWNvZGUoY2h1bmspJTdEJyUyMik=",highlighted:`samples = [lm_datasets[<span class="hljs-string">&quot;train&quot;</span>][i] <span class="hljs-keyword">for</span> i <span class="hljs-keyword">in</span> <span class="hljs-built_in">range</span>(<span class="hljs-number">2</span>)]
<span class="hljs-keyword">for</span> sample <span class="hljs-keyword">in</span> samples:
    _ = sample.pop(<span class="hljs-string">&quot;word_ids&quot;</span>)

<span class="hljs-keyword">for</span> chunk <span class="hljs-keyword">in</span> data_collator(samples)[<span class="hljs-string">&quot;input_ids&quot;</span>]:
    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;\\n&#x27;&gt;&gt;&gt; <span class="hljs-subst">{tokenizer.decode(chunk)}</span>&#x27;&quot;</span>)`,wrap:!1}}),Ps=new h({props:{code:"JyUzRSUzRSUzRSUyMCU1QkNMUyU1RCUyMGJyb213ZWxsJTIwJTVCTUFTSyU1RCUyMGlzJTIwYSUyMGNhcnRvb24lMjBjb21lZHkuJTIwaXQlMjByYW4lMjBhdCUyMHRoZSUyMHNhbWUlMjAlNUJNQVNLJTVEJTIwYXMlMjBzb21lJTIwb3RoZXIlMjAlNUJNQVNLJTVEJTIwYWJvdXQlMjBzY2hvb2wlMjBsaWZlJTJDJTIwJTVCTUFTSyU1RCUyMGFzJTIwJTIyJTIwdGVhY2hlcnMlMjAlMjIuJTIwJTVCTUFTSyU1RCUyMCU1Qk1BU0slNUQlMjAlNUJNQVNLJTVEJTIwaW4lMjB0aGUlMjB0ZWFjaGluZyUyMCU1Qk1BU0slNUQlMjBsZWFkJTIwJTVCTUFTSyU1RCUyMHRvJTIwYmVsaWV2ZSUyMHRoYXQlMjBicm9td2VsbCUyMGhpZ2glNUMnJTVCTUFTSyU1RCUyMHNhdGlyZSUyMGlzJTIwbXVjaCUyMGNsb3NlciUyMHRvJTIwcmVhbGl0eSUyMHRoYW4lMjBpcyUyMCUyMiUyMHRlYWNoZXJzJTIwJTIyLiUyMHRoZSUyMHNjcmFtYmxlJTIwJTVCTUFTSyU1RCUyMCU1Qk1BU0slNUQlMjBmaW5hbmNpYWxseSUyQyUyMHRoZSUyMCU1Qk1BU0slNURmdWwlMjBzdHVkZW50cyUyMHdob2duJTIwJTVCTUFTSyU1RCUyMHJpZ2h0JTIwdGhyb3VnaCUyMCU1Qk1BU0slNUQlMjBwYXRoZXRpYyUyMHRlYWNoZXJzJTVDJ3BvbXAlMkMlMjB0aGUlMjBwZXR0aW5lc3MlMjBvZiUyMHRoZSUyMHdob2xlJTIwc2l0dWF0aW9uJTJDJTIwZGlzdGluY3Rpb24lMjByZW1pbmQlMjBtZSUyMG9mJTIwdGhlJTIwc2Nob29scyUyMGklMjBrbmV3JTIwYW5kJTIwdGhlaXIlMjBzdHVkZW50cy4lMjB3aGVuJTIwaSUyMHNhdyUyMCU1Qk1BU0slNUQlMjBlcGlzb2RlJTIwaW4lMjAlNUJNQVNLJTVEJTIwYSUyMHN0dWRlbnQlMjByZXBlYXRlZGx5JTIwdHJpZWQlMjB0byUyMGJ1cm4lMjBkb3duJTIwdGhlJTIwc2Nob29sJTJDJTIwJTVCTUFTSyU1RCUyMGltbWVkaWF0ZWx5JTIwcmVjYWxsZWQuJTIwJTVCTUFTSyU1RC4uLiclMEElMEEnJTNFJTNFJTNFJTIwLi4uLiUyMGF0Li4lMjAlNUJNQVNLJTVELi4uJTIwJTVCTUFTSyU1RC4uLiUyMGhpZ2guJTIwYSUyMGNsYXNzaWMlMjBsaW5lJTIwcGx1Y2tlZCUyMGluc3BlY3RvciUyMCUzQSUyMGklNUMnJTVCTUFTSyU1RCUyMGhlcmUlMjB0byUyMCU1Qk1BU0slNUQlMjBvbmUlMjBvZiUyMHlvdXIlMjAlNUJNQVNLJTVELiUyMHN0dWRlbnQlMjAlM0ElMjB3ZWxjb21lJTIwdG8lMjBicm9td2VsbCUyMCU1Qk1BU0slNUQuJTIwaSUyMGV4cGVjdCUyMHRoYXQlMjBtYW55JTIwYWR1bHRzJTIwb2YlMjBteSUyMGFnZSUyMHRoaW5rJTIwdGhhdCUyMCU1Qk1BU0slNURtd2VsbCUyMCU1Qk1BU0slNUQlMjBpcyUyMCU1Qk1BU0slNUQlMjBmZXRjaGVkLiUyMHdoYXQlMjBhJTIwcGl0eSUyMHRoYXQlMjBpdCUyMGlzbiU1Qyd0ISUyMCU1QlNFUCU1RCUyMCU1QkNMUyU1RCUyMCU1Qk1BU0slNURuZXNzJTIwKCUyMG9yJTIwJTVCTUFTSyU1RGxlc3NuZXNzJTIwYXMlMjBnZW9yZ2UlMjAlRTUlQUUlODdpbiUyMHN0YXRlZCUyMCklRTUlODUlQUMlMjBiZWVuJTIwYW4lMjBpc3N1ZSUyMGZvciUyMHllYXJzJTIwYnV0JTIwbmV2ZXIlMjAlNUJNQVNLJTVEJTIwcGxhbiUyMHRvJTIwaGVscCUyMHRob3NlJTIwb24lMjB0aGUlMjBzdHJlZXQlMjB0aGF0JTIwd2VyZSUyMG9uY2UlMjBjb25zaWRlcmVkJTIwaHVtYW4lMjAlNUJNQVNLJTVEJTIwZGlkJTIwZXZlcnl0aGluZyUyMGZyb20lMjBnb2luZyUyMHRvJTIwc2Nob29sJTJDJTIwJTVCTUFTSyU1RCUyQyUyMCU1Qk1BU0slNUQlMjB2b3RlJTIwZm9yJTIwdGhlJTIwbWF0dGVyLiUyMG1vc3QlMjBwZW9wbGUlMjB0aGluayUyMCU1Qk1BU0slNUQlMjB0aGUlMjBob21lbGVzcyc=",highlighted:`<span class="hljs-string">&#x27;&gt;&gt;&gt; [CLS] bromwell [MASK] is a cartoon comedy. it ran at the same [MASK] as some other [MASK] about school life, [MASK] as &quot; teachers &quot;. [MASK] [MASK] [MASK] in the teaching [MASK] lead [MASK] to believe that bromwell high\\&#x27;[MASK] satire is much closer to reality than is &quot; teachers &quot;. the scramble [MASK] [MASK] financially, the [MASK]ful students whogn [MASK] right through [MASK] pathetic teachers\\&#x27;pomp, the pettiness of the whole situation, distinction remind me of the schools i knew and their students. when i saw [MASK] episode in [MASK] a student repeatedly tried to burn down the school, [MASK] immediately recalled. [MASK]...&#x27;</span>

<span class="hljs-string">&#x27;&gt;&gt;&gt; .... at.. [MASK]... [MASK]... high. a classic line plucked inspector : i\\&#x27;[MASK] here to [MASK] one of your [MASK]. student : welcome to bromwell [MASK]. i expect that many adults of my age think that [MASK]mwell [MASK] is [MASK] fetched. what a pity that it isn\\&#x27;t! [SEP] [CLS] [MASK]ness ( or [MASK]lessness as george 宇in stated )公 been an issue for years but never [MASK] plan to help those on the street that were once considered human [MASK] did everything from going to school, [MASK], [MASK] vote for the matter. most people think [MASK] the homeless&#x27;</span>`,wrap:!1}}),Sl=new Fl({props:{$$slots:{default:[_n]},$$scope:{ctx:I}}});let O=I[0]==="pt"&&en();const $a=[Rn,Qn],ke=[];function Aa(l,s){return l[0]==="pt"?0:1}Ul=Aa(I),pl=ke[Ul]=$a[Ul](I),ee=new h({props:{code:"c2FtcGxlcyUyMCUzRCUyMCU1QmxtX2RhdGFzZXRzJTVCJTIydHJhaW4lMjIlNUQlNUJpJTVEJTIwZm9yJTIwaSUyMGluJTIwcmFuZ2UoMiklNUQlMEFiYXRjaCUyMCUzRCUyMHdob2xlX3dvcmRfbWFza2luZ19kYXRhX2NvbGxhdG9yKHNhbXBsZXMpJTBBJTBBZm9yJTIwY2h1bmslMjBpbiUyMGJhdGNoJTVCJTIyaW5wdXRfaWRzJTIyJTVEJTNBJTBBJTIwJTIwJTIwJTIwcHJpbnQoZiUyMiU1Q24nJTNFJTNFJTNFJTIwJTdCdG9rZW5pemVyLmRlY29kZShjaHVuayklN0QnJTIyKQ==",highlighted:`samples = [lm_datasets[<span class="hljs-string">&quot;train&quot;</span>][i] <span class="hljs-keyword">for</span> i <span class="hljs-keyword">in</span> <span class="hljs-built_in">range</span>(<span class="hljs-number">2</span>)]
batch = whole_word_masking_data_collator(samples)

<span class="hljs-keyword">for</span> chunk <span class="hljs-keyword">in</span> batch[<span class="hljs-string">&quot;input_ids&quot;</span>]:
    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;\\n&#x27;&gt;&gt;&gt; <span class="hljs-subst">{tokenizer.decode(chunk)}</span>&#x27;&quot;</span>)`,wrap:!1}}),te=new h({props:{code:"JyUzRSUzRSUzRSUyMCU1QkNMUyU1RCUyMGJyb213ZWxsJTIwaGlnaCUyMGlzJTIwYSUyMGNhcnRvb24lMjBjb21lZHklMjAlNUJNQVNLJTVEJTIwaXQlMjByYW4lMjBhdCUyMHRoZSUyMHNhbWUlMjB0aW1lJTIwYXMlMjBzb21lJTIwb3RoZXIlMjBwcm9ncmFtcyUyMGFib3V0JTIwc2Nob29sJTIwbGlmZSUyQyUyMHN1Y2glMjBhcyUyMCUyMiUyMHRlYWNoZXJzJTIwJTIyLiUyMG15JTIwMzUlMjB5ZWFycyUyMGluJTIwdGhlJTIwdGVhY2hpbmclMjBwcm9mZXNzaW9uJTIwbGVhZCUyMG1lJTIwdG8lMjBiZWxpZXZlJTIwdGhhdCUyMGJyb213ZWxsJTIwaGlnaCU1QydzJTIwc2F0aXJlJTIwaXMlMjBtdWNoJTIwY2xvc2VyJTIwdG8lMjByZWFsaXR5JTIwdGhhbiUyMGlzJTIwJTIyJTIwdGVhY2hlcnMlMjAlMjIuJTIwdGhlJTIwc2NyYW1ibGUlMjB0byUyMHN1cnZpdmUlMjBmaW5hbmNpYWxseSUyQyUyMHRoZSUyMGluc2lnaHRmdWwlMjBzdHVkZW50cyUyMHdobyUyMGNhbiUyMHNlZSUyMHJpZ2h0JTIwdGhyb3VnaCUyMHRoZWlyJTIwcGF0aGV0aWMlMjB0ZWFjaGVycyU1Qydwb21wJTJDJTIwdGhlJTIwcGV0dGluZXNzJTIwb2YlMjB0aGUlMjB3aG9sZSUyMHNpdHVhdGlvbiUyQyUyMGFsbCUyMHJlbWluZCUyMG1lJTIwb2YlMjB0aGUlMjBzY2hvb2xzJTIwaSUyMGtuZXclMjBhbmQlMjB0aGVpciUyMHN0dWRlbnRzLiUyMHdoZW4lMjBpJTIwc2F3JTIwdGhlJTIwZXBpc29kZSUyMGluJTIwd2hpY2glMjBhJTIwc3R1ZGVudCUyMHJlcGVhdGVkbHklMjB0cmllZCUyMHRvJTIwYnVybiUyMGRvd24lMjB0aGUlMjBzY2hvb2wlMkMlMjBpJTIwaW1tZWRpYXRlbHklMjByZWNhbGxlZC4uLi4uJyUwQSUwQSclM0UlM0UlM0UlMjAuLi4uJTIwJTVCTUFTSyU1RCUyMCU1Qk1BU0slNUQlMjAlNUJNQVNLJTVEJTIwJTVCTUFTSyU1RC4uLi4uLi4lMjBoaWdoLiUyMGElMjBjbGFzc2ljJTIwbGluZSUyMCUzQSUyMGluc3BlY3RvciUyMCUzQSUyMGklNUMnbSUyMGhlcmUlMjB0byUyMHNhY2slMjBvbmUlMjBvZiUyMHlvdXIlMjB0ZWFjaGVycy4lMjBzdHVkZW50JTIwJTNBJTIwd2VsY29tZSUyMHRvJTIwYnJvbXdlbGwlMjBoaWdoLiUyMGklMjBleHBlY3QlMjB0aGF0JTIwbWFueSUyMGFkdWx0cyUyMG9mJTIwbXklMjBhZ2UlMjB0aGluayUyMHRoYXQlMjBicm9td2VsbCUyMGhpZ2glMjBpcyUyMGZhciUyMGZldGNoZWQuJTIwd2hhdCUyMGElMjBwaXR5JTIwdGhhdCUyMGl0JTIwaXNuJTVDJ3QhJTIwJTVCU0VQJTVEJTIwJTVCQ0xTJTVEJTIwaG9tZWxlc3NuZXNzJTIwKCUyMG9yJTIwaG91c2VsZXNzbmVzcyUyMGFzJTIwZ2VvcmdlJTIwY2FybGluJTIwc3RhdGVkJTIwKSUyMGhhcyUyMGJlZW4lMjBhbiUyMGlzc3VlJTIwZm9yJTIweWVhcnMlMjBidXQlMjBuZXZlciUyMGElMjBwbGFuJTIwdG8lMjBoZWxwJTIwdGhvc2UlMjBvbiUyMHRoZSUyMHN0cmVldCUyMHRoYXQlMjB3ZXJlJTIwb25jZSUyMGNvbnNpZGVyZWQlMjBodW1hbiUyMHdobyUyMGRpZCUyMGV2ZXJ5dGhpbmclMjBmcm9tJTIwZ29pbmclMjB0byUyMHNjaG9vbCUyQyUyMHdvcmslMkMlMjBvciUyMHZvdGUlMjBmb3IlMjB0aGUlMjBtYXR0ZXIuJTIwbW9zdCUyMHBlb3BsZSUyMHRoaW5rJTIwb2YlMjB0aGUlMjBob21lbGVzcyc=",highlighted:`<span class="hljs-string">&#x27;&gt;&gt;&gt; [CLS] bromwell high is a cartoon comedy [MASK] it ran at the same time as some other programs about school life, such as &quot; teachers &quot;. my 35 years in the teaching profession lead me to believe that bromwell high\\&#x27;s satire is much closer to reality than is &quot; teachers &quot;. the scramble to survive financially, the insightful students who can see right through their pathetic teachers\\&#x27;pomp, the pettiness of the whole situation, all remind me of the schools i knew and their students. when i saw the episode in which a student repeatedly tried to burn down the school, i immediately recalled.....&#x27;</span>

<span class="hljs-string">&#x27;&gt;&gt;&gt; .... [MASK] [MASK] [MASK] [MASK]....... high. a classic line : inspector : i\\&#x27;m here to sack one of your teachers. student : welcome to bromwell high. i expect that many adults of my age think that bromwell high is far fetched. what a pity that it isn\\&#x27;t! [SEP] [CLS] homelessness ( or houselessness as george carlin stated ) has been an issue for years but never a plan to help those on the street that were once considered human who did everything from going to school, work, or vote for the matter. most people think of the homeless&#x27;</span>`,wrap:!1}}),zl=new Fl({props:{$$slots:{default:[Gn]},$$scope:{ctx:I}}}),ae=new h({props:{code:"dHJhaW5fc2l6ZSUyMCUzRCUyMDEwXzAwMCUwQXRlc3Rfc2l6ZSUyMCUzRCUyMGludCgwLjElMjAqJTIwdHJhaW5fc2l6ZSklMEElMEFkb3duc2FtcGxlZF9kYXRhc2V0JTIwJTNEJTIwbG1fZGF0YXNldHMlNUIlMjJ0cmFpbiUyMiU1RC50cmFpbl90ZXN0X3NwbGl0KCUwQSUyMCUyMCUyMCUyMHRyYWluX3NpemUlM0R0cmFpbl9zaXplJTJDJTIwdGVzdF9zaXplJTNEdGVzdF9zaXplJTJDJTIwc2VlZCUzRDQyJTBBKSUwQWRvd25zYW1wbGVkX2RhdGFzZXQ=",highlighted:`train_size = <span class="hljs-number">10_000</span>
test_size = <span class="hljs-built_in">int</span>(<span class="hljs-number">0.1</span> * train_size)

downsampled_dataset = lm_datasets[<span class="hljs-string">&quot;train&quot;</span>].train_test_split(
    train_size=train_size, test_size=test_size, seed=<span class="hljs-number">42</span>
)
downsampled_dataset`,wrap:!1}}),ne=new h({props:{code:"RGF0YXNldERpY3QoJTdCJTBBJTIwJTIwJTIwJTIwdHJhaW4lM0ElMjBEYXRhc2V0KCU3QiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGZlYXR1cmVzJTNBJTIwJTVCJ2F0dGVudGlvbl9tYXNrJyUyQyUyMCdpbnB1dF9pZHMnJTJDJTIwJ2xhYmVscyclMkMlMjAnd29yZF9pZHMnJTVEJTJDJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwbnVtX3Jvd3MlM0ElMjAxMDAwMCUwQSUyMCUyMCUyMCUyMCU3RCklMEElMjAlMjAlMjAlMjB0ZXN0JTNBJTIwRGF0YXNldCglN0IlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBmZWF0dXJlcyUzQSUyMCU1QidhdHRlbnRpb25fbWFzayclMkMlMjAnaW5wdXRfaWRzJyUyQyUyMCdsYWJlbHMnJTJDJTIwJ3dvcmRfaWRzJyU1RCUyQyUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG51bV9yb3dzJTNBJTIwMTAwMCUwQSUyMCUyMCUyMCUyMCU3RCklMEElN0Qp",highlighted:`DatasetDict({
    train: Dataset({
        features: [<span class="hljs-string">&#x27;attention_mask&#x27;</span>, <span class="hljs-string">&#x27;input_ids&#x27;</span>, <span class="hljs-string">&#x27;labels&#x27;</span>, <span class="hljs-string">&#x27;word_ids&#x27;</span>],
        num_rows: <span class="hljs-number">10000</span>
    })
    test: Dataset({
        features: [<span class="hljs-string">&#x27;attention_mask&#x27;</span>, <span class="hljs-string">&#x27;input_ids&#x27;</span>, <span class="hljs-string">&#x27;labels&#x27;</span>, <span class="hljs-string">&#x27;word_ids&#x27;</span>],
        num_rows: <span class="hljs-number">1000</span>
    })
})`,wrap:!1}}),Ue=new h({props:{code:"ZnJvbSUyMGh1Z2dpbmdmYWNlX2h1YiUyMGltcG9ydCUyMG5vdGVib29rX2xvZ2luJTBBJTBBbm90ZWJvb2tfbG9naW4oKQ==",highlighted:`<span class="hljs-keyword">from</span> huggingface_hub <span class="hljs-keyword">import</span> notebook_login

notebook_login()`,wrap:!1}}),ie=new h({props:{code:"aHVnZ2luZ2ZhY2UtY2xpJTIwbG9naW4=",highlighted:'huggingface-<span class="hljs-keyword">cli</span> login',wrap:!1}});const Wa=[Bn,gn],Ze=[];function xa(l,s){return l[0]==="tf"?0:1}il=xa(I),yl=Ze[il]=Wa[il](I),we=new Yl({props:{title:"Перплексия языковых моделей",local:"perplexity-for-language-models",headingTag:"h3"}}),re=new XM({props:{id:"NURcDHhYe98"}});const Sa=[Zn,kn],Ee=[];function za(l,s){return l[0]==="pt"?0:1}wl=za(I),rl=Ee[wl]=Sa[wl](I),ce=new h({props:{code:"UGVycGxleGl0eSUzQSUyMDIxLjc1",highlighted:'<span class="hljs-meta">&gt;&gt;&gt; </span>Perplexity: <span class="hljs-number">21.75</span>',wrap:!1}});const Na=[Xn,En],Xe=[];function va(l,s){return l[0]==="pt"?0:1}Tl=va(I),cl=Xe[Tl]=Na[Tl](I);const Fa=[An,$n],$e=[];function Ya(l,s){return l[0]==="pt"?0:1}ol=Ya(I),dl=$e[ol]=Fa[ol](I),me=new h({props:{code:"UGVycGxleGl0eSUzQSUyMDExLjMy",highlighted:'<span class="hljs-meta">&gt;&gt;&gt; </span>Perplexity: <span class="hljs-number">11.32</span>',wrap:!1}});let x=I[0]==="pt"&&tn();Nl=new Fl({props:{$$slots:{default:[Wn]},$$scope:{ctx:I}}});let S=I[0]==="pt"&&Mn();return Ce=new Yl({props:{title:"Использование нашей дообученной модели",local:"using-our-fine-tuned-model",headingTag:"h2"}}),he=new h({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMHBpcGVsaW5lJTBBJTBBbWFza19maWxsZXIlMjAlM0QlMjBwaXBlbGluZSglMEElMjAlMjAlMjAlMjAlMjJmaWxsLW1hc2slMjIlMkMlMjBtb2RlbCUzRCUyMmh1Z2dpbmdmYWNlLWNvdXJzZSUyRmRpc3RpbGJlcnQtYmFzZS11bmNhc2VkLWZpbmV0dW5lZC1pbWRiJTIyJTBBKQ==",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> pipeline

mask_filler = pipeline(
    <span class="hljs-string">&quot;fill-mask&quot;</span>, model=<span class="hljs-string">&quot;huggingface-course/distilbert-base-uncased-finetuned-imdb&quot;</span>
)`,wrap:!1}}),Ie=new h({props:{code:"cHJlZHMlMjAlM0QlMjBtYXNrX2ZpbGxlcih0ZXh0KSUwQSUwQWZvciUyMHByZWQlMjBpbiUyMHByZWRzJTNBJTBBJTIwJTIwJTIwJTIwcHJpbnQoZiUyMiUzRSUzRSUzRSUyMCU3QnByZWQlNUInc2VxdWVuY2UnJTVEJTdEJTIyKQ==",highlighted:`preds = mask_filler(text)

<span class="hljs-keyword">for</span> pred <span class="hljs-keyword">in</span> preds:
    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;&gt;&gt;&gt; <span class="hljs-subst">{pred[<span class="hljs-string">&#x27;sequence&#x27;</span>]}</span>&quot;</span>)`,wrap:!1}}),fe=new h({props:{code:"JyUzRSUzRSUzRSUyMHRoaXMlMjBpcyUyMGElMjBncmVhdCUyMG1vdmllLiclMEEnJTNFJTNFJTNFJTIwdGhpcyUyMGlzJTIwYSUyMGdyZWF0JTIwZmlsbS4nJTBBJyUzRSUzRSUzRSUyMHRoaXMlMjBpcyUyMGElMjBncmVhdCUyMHN0b3J5LiclMEEnJTNFJTNFJTNFJTIwdGhpcyUyMGlzJTIwYSUyMGdyZWF0JTIwbW92aWVzLiclMEEnJTNFJTNFJTNFJTIwdGhpcyUyMGlzJTIwYSUyMGdyZWF0JTIwY2hhcmFjdGVyLic=",highlighted:`<span class="hljs-string">&#x27;&gt;&gt;&gt; this is a great movie.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; this is a great film.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; this is a great story.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; this is a great movies.&#x27;</span>
<span class="hljs-string">&#x27;&gt;&gt;&gt; this is a great character.&#x27;</span>`,wrap:!1}}),_e=new XM({props:{id:"0Oxphw4Q9fo"}}),vl=new Fl({props:{$$slots:{default:[xn]},$$scope:{ctx:I}}}),Re=new cn({props:{source:"https://github.com/huggingface/course/blob/main/chapters/ru/chapter7/3.mdx"}}),{c(){M=d("meta"),w=n(),a=d("p"),y=n(),r(V.$$.fragment),j=n(),r(B.$$.fragment),k=n(),r(R.$$.fragment),Z=n(),G.c(),u=n(),_=d("p"),_.textContent=N,A=n(),f=d("p"),f.textContent=E,z=n(),Q=d("p"),Q.innerHTML=X,sl=n(),ll=d("div"),ll.innerHTML=jl,Dl=n(),el=d("p"),el.innerHTML=Cl,_l=n(),$=d("iframe"),Ql=n(),H=d("p"),H.textContent=Ll,tl=n(),r(ul.$$.fragment),Rl=n(),r(v.$$.fragment),Gl=n(),r(D.$$.fragment),ql=n(),Ml=d("p"),Ml.innerHTML=hl,gl=n(),F=d("div"),F.innerHTML=De,Bl=n(),L=d("p"),L.innerHTML=Kl,al=n(),W.c(),kl=n(),nl=d("p"),nl.textContent=bl,Zl=n(),r(q.$$.fragment),Pl=n(),Jl=d("p"),Jl.innerHTML=Il,El=n(),r(K.$$.fragment),Xl=n(),P=d("p"),P.textContent=Le,$l=n(),b.c(),Ae=n(),r(Ol.$$.fragment),Ke=n(),ls=d("p"),ls.textContent=YM,Pe=n(),r(ss.$$.fragment),Oe=n(),es=d("p"),es.innerHTML=HM,lt=n(),r(ts.$$.fragment),st=n(),r(Ms.$$.fragment),et=n(),as=d("p"),as.innerHTML=DM,tt=n(),r(ns.$$.fragment),Mt=n(),r(Js.$$.fragment),at=n(),Us=d("p"),Us.innerHTML=LM,nt=n(),r(Al.$$.fragment),Jt=n(),ps=d("p"),ps.innerHTML=qM,Ut=n(),r(is.$$.fragment),pt=n(),r(ys.$$.fragment),it=n(),ws=d("p"),ws.textContent=KM,yt=n(),rs=d("p"),rs.innerHTML=PM,wt=n(),r(Ts.$$.fragment),rt=n(),r(cs.$$.fragment),Tt=n(),os=d("p"),os.innerHTML=OM,ct=n(),ds=d("p"),ds.innerHTML=la,ot=n(),r(ms.$$.fragment),dt=n(),r(js.$$.fragment),mt=n(),Cs=d("p"),Cs.innerHTML=sa,jt=n(),r(Wl.$$.fragment),Ct=n(),us=d("p"),us.textContent=ea,ut=n(),r(hs.$$.fragment),ht=n(),r(xl.$$.fragment),bt=n(),bs=d("p"),bs.textContent=ta,It=n(),r(Is.$$.fragment),ft=n(),r(fs.$$.fragment),Vt=n(),Vs=d("p"),Vs.textContent=Ma,_t=n(),r(_s.$$.fragment),Qt=n(),r(Qs.$$.fragment),Rt=n(),Rs=d("p"),Rs.innerHTML=aa,Gt=n(),r(Gs.$$.fragment),gt=n(),r(gs.$$.fragment),Bt=n(),Bs=d("p"),Bs.textContent=na,kt=n(),ks=d("ul"),ks.innerHTML=Ja,Zt=n(),Zs=d("p"),Zs.textContent=Ua,Et=n(),r(Es.$$.fragment),Xt=n(),Xs=d("p"),Xs.innerHTML=pa,$t=n(),$s=d("p"),$s.innerHTML=ia,At=n(),r(As.$$.fragment),Wt=n(),r(Ws.$$.fragment),xt=n(),xs=d("p"),xs.innerHTML=ya,St=n(),r(Ss.$$.fragment),zt=n(),r(zs.$$.fragment),Nt=n(),Ns=d("p"),Ns.textContent=wa,vt=n(),r(vs.$$.fragment),Ft=n(),r(Fs.$$.fragment),Yt=n(),Ys=d("p"),Ys.innerHTML=ra,Ht=n(),r(Hs.$$.fragment),Dt=n(),Ds=d("p"),Ds.innerHTML=Ta,Lt=n(),r(Ls.$$.fragment),qt=n(),qs=d("p"),qs.innerHTML=ca,Kt=n(),r(Ks.$$.fragment),Pt=n(),r(Ps.$$.fragment),Ot=n(),Os=d("p"),Os.innerHTML=oa,lM=n(),r(Sl.$$.fragment),sM=n(),O&&O.c(),We=n(),le=d("p"),le.innerHTML=da,eM=n(),pl.c(),xe=n(),se=d("p"),se.textContent=ma,tM=n(),r(ee.$$.fragment),MM=n(),r(te.$$.fragment),aM=n(),r(zl.$$.fragment),nM=n(),Me=d("p"),Me.innerHTML=ja,JM=n(),r(ae.$$.fragment),UM=n(),r(ne.$$.fragment),pM=n(),Je=d("p"),Je.innerHTML=Ca,iM=n(),r(Ue.$$.fragment),yM=n(),pe=d("p"),pe.textContent=ua,wM=n(),r(ie.$$.fragment),rM=n(),ye=d("p"),ye.textContent=ha,TM=n(),yl.c(),Se=n(),r(we.$$.fragment),cM=n(),r(re.$$.fragment),oM=n(),Te=d("p"),Te.textContent=ba,dM=n(),rl.c(),ze=n(),r(ce.$$.fragment),mM=n(),oe=d("p"),oe.textContent=Ia,jM=n(),cl.c(),Ne=n(),de=d("p"),de.textContent=fa,CM=n(),dl.c(),ve=n(),r(me.$$.fragment),uM=n(),je=d("p"),je.textContent=Va,hM=n(),x&&x.c(),Fe=n(),r(Nl.$$.fragment),bM=n(),S&&S.c(),Ye=n(),r(Ce.$$.fragment),IM=n(),ue=d("p"),ue.innerHTML=_a,fM=n(),r(he.$$.fragment),VM=n(),be=d("p"),be.textContent=Qa,_M=n(),r(Ie.$$.fragment),QM=n(),r(fe.$$.fragment),RM=n(),Ve=d("p"),Ve.textContent=Ra,GM=n(),r(_e.$$.fragment),gM=n(),Qe=d("p"),Qe.innerHTML=Ga,BM=n(),r(vl.$$.fragment),kM=n(),r(Re.$$.fragment),ZM=n(),qe=d("p"),this.h()},l(l){const s=wn("svelte-u9bgzb",document.head);M=m(s,"META",{name:!0,content:!0}),s.forEach(e),w=J(l),a=m(l,"P",{}),FM(a).forEach(e),y=J(l),T(V.$$.fragment,l),j=J(l),T(B.$$.fragment,l),k=J(l),T(R.$$.fragment,l),Z=J(l),G.l(l),u=J(l),_=m(l,"P",{"data-svelte-h":!0}),C(_)!=="svelte-iqszwe"&&(_.textContent=N),A=J(l),f=m(l,"P",{"data-svelte-h":!0}),C(f)!=="svelte-ch530"&&(f.textContent=E),z=J(l),Q=m(l,"P",{"data-svelte-h":!0}),C(Q)!=="svelte-14frpur"&&(Q.innerHTML=X),sl=J(l),ll=m(l,"DIV",{class:!0,"data-svelte-h":!0}),C(ll)!=="svelte-1lvgpuv"&&(ll.innerHTML=jl),Dl=J(l),el=m(l,"P",{"data-svelte-h":!0}),C(el)!=="svelte-73lxfi"&&(el.innerHTML=Cl),_l=J(l),$=m(l,"IFRAME",{src:!0,frameborder:!0,height:!0,title:!0,class:!0,allow:!0,sandbox:!0}),FM($).forEach(e),Ql=J(l),H=m(l,"P",{"data-svelte-h":!0}),C(H)!=="svelte-1akavkz"&&(H.textContent=Ll),tl=J(l),T(ul.$$.fragment,l),Rl=J(l),T(v.$$.fragment,l),Gl=J(l),T(D.$$.fragment,l),ql=J(l),Ml=m(l,"P",{"data-svelte-h":!0}),C(Ml)!=="svelte-qmyurd"&&(Ml.innerHTML=hl),gl=J(l),F=m(l,"DIV",{class:!0,"data-svelte-h":!0}),C(F)!=="svelte-zc90xi"&&(F.innerHTML=De),Bl=J(l),L=m(l,"P",{"data-svelte-h":!0}),C(L)!=="svelte-hrfk5a"&&(L.innerHTML=Kl),al=J(l),W.l(l),kl=J(l),nl=m(l,"P",{"data-svelte-h":!0}),C(nl)!=="svelte-15ptjw1"&&(nl.textContent=bl),Zl=J(l),T(q.$$.fragment,l),Pl=J(l),Jl=m(l,"P",{"data-svelte-h":!0}),C(Jl)!=="svelte-16agke4"&&(Jl.innerHTML=Il),El=J(l),T(K.$$.fragment,l),Xl=J(l),P=m(l,"P",{"data-svelte-h":!0}),C(P)!=="svelte-bk5vqi"&&(P.textContent=Le),$l=J(l),b.l(l),Ae=J(l),T(Ol.$$.fragment,l),Ke=J(l),ls=m(l,"P",{"data-svelte-h":!0}),C(ls)!=="svelte-wjppje"&&(ls.textContent=YM),Pe=J(l),T(ss.$$.fragment,l),Oe=J(l),es=m(l,"P",{"data-svelte-h":!0}),C(es)!=="svelte-1mewutr"&&(es.innerHTML=HM),lt=J(l),T(ts.$$.fragment,l),st=J(l),T(Ms.$$.fragment,l),et=J(l),as=m(l,"P",{"data-svelte-h":!0}),C(as)!=="svelte-1y9ssaf"&&(as.innerHTML=DM),tt=J(l),T(ns.$$.fragment,l),Mt=J(l),T(Js.$$.fragment,l),at=J(l),Us=m(l,"P",{"data-svelte-h":!0}),C(Us)!=="svelte-n8begs"&&(Us.innerHTML=LM),nt=J(l),T(Al.$$.fragment,l),Jt=J(l),ps=m(l,"P",{"data-svelte-h":!0}),C(ps)!=="svelte-1fb7s1s"&&(ps.innerHTML=qM),Ut=J(l),T(is.$$.fragment,l),pt=J(l),T(ys.$$.fragment,l),it=J(l),ws=m(l,"P",{"data-svelte-h":!0}),C(ws)!=="svelte-hpmgt2"&&(ws.textContent=KM),yt=J(l),rs=m(l,"P",{"data-svelte-h":!0}),C(rs)!=="svelte-zp01tx"&&(rs.innerHTML=PM),wt=J(l),T(Ts.$$.fragment,l),rt=J(l),T(cs.$$.fragment,l),Tt=J(l),os=m(l,"P",{"data-svelte-h":!0}),C(os)!=="svelte-idzclc"&&(os.innerHTML=OM),ct=J(l),ds=m(l,"P",{"data-svelte-h":!0}),C(ds)!=="svelte-6vucye"&&(ds.innerHTML=la),ot=J(l),T(ms.$$.fragment,l),dt=J(l),T(js.$$.fragment,l),mt=J(l),Cs=m(l,"P",{"data-svelte-h":!0}),C(Cs)!=="svelte-1fux5bc"&&(Cs.innerHTML=sa),jt=J(l),T(Wl.$$.fragment,l),Ct=J(l),us=m(l,"P",{"data-svelte-h":!0}),C(us)!=="svelte-166e2o3"&&(us.textContent=ea),ut=J(l),T(hs.$$.fragment,l),ht=J(l),T(xl.$$.fragment,l),bt=J(l),bs=m(l,"P",{"data-svelte-h":!0}),C(bs)!=="svelte-nh51zn"&&(bs.textContent=ta),It=J(l),T(Is.$$.fragment,l),ft=J(l),T(fs.$$.fragment,l),Vt=J(l),Vs=m(l,"P",{"data-svelte-h":!0}),C(Vs)!=="svelte-1ipt0vw"&&(Vs.textContent=Ma),_t=J(l),T(_s.$$.fragment,l),Qt=J(l),T(Qs.$$.fragment,l),Rt=J(l),Rs=m(l,"P",{"data-svelte-h":!0}),C(Rs)!=="svelte-1b7ia64"&&(Rs.innerHTML=aa),Gt=J(l),T(Gs.$$.fragment,l),gt=J(l),T(gs.$$.fragment,l),Bt=J(l),Bs=m(l,"P",{"data-svelte-h":!0}),C(Bs)!=="svelte-19uaq6h"&&(Bs.textContent=na),kt=J(l),ks=m(l,"UL",{"data-svelte-h":!0}),C(ks)!=="svelte-3dn5dz"&&(ks.innerHTML=Ja),Zt=J(l),Zs=m(l,"P",{"data-svelte-h":!0}),C(Zs)!=="svelte-q2k4r0"&&(Zs.textContent=Ua),Et=J(l),T(Es.$$.fragment,l),Xt=J(l),Xs=m(l,"P",{"data-svelte-h":!0}),C(Xs)!=="svelte-t25o3l"&&(Xs.innerHTML=pa),$t=J(l),$s=m(l,"P",{"data-svelte-h":!0}),C($s)!=="svelte-ifa5r7"&&($s.innerHTML=ia),At=J(l),T(As.$$.fragment,l),Wt=J(l),T(Ws.$$.fragment,l),xt=J(l),xs=m(l,"P",{"data-svelte-h":!0}),C(xs)!=="svelte-1mg7lr5"&&(xs.innerHTML=ya),St=J(l),T(Ss.$$.fragment,l),zt=J(l),T(zs.$$.fragment,l),Nt=J(l),Ns=m(l,"P",{"data-svelte-h":!0}),C(Ns)!=="svelte-11zjuzf"&&(Ns.textContent=wa),vt=J(l),T(vs.$$.fragment,l),Ft=J(l),T(Fs.$$.fragment,l),Yt=J(l),Ys=m(l,"P",{"data-svelte-h":!0}),C(Ys)!=="svelte-y2kbvm"&&(Ys.innerHTML=ra),Ht=J(l),T(Hs.$$.fragment,l),Dt=J(l),Ds=m(l,"P",{"data-svelte-h":!0}),C(Ds)!=="svelte-yf2jqq"&&(Ds.innerHTML=Ta),Lt=J(l),T(Ls.$$.fragment,l),qt=J(l),qs=m(l,"P",{"data-svelte-h":!0}),C(qs)!=="svelte-13e9r96"&&(qs.innerHTML=ca),Kt=J(l),T(Ks.$$.fragment,l),Pt=J(l),T(Ps.$$.fragment,l),Ot=J(l),Os=m(l,"P",{"data-svelte-h":!0}),C(Os)!=="svelte-1p2lr0r"&&(Os.innerHTML=oa),lM=J(l),T(Sl.$$.fragment,l),sM=J(l),O&&O.l(l),We=J(l),le=m(l,"P",{"data-svelte-h":!0}),C(le)!=="svelte-icnbns"&&(le.innerHTML=da),eM=J(l),pl.l(l),xe=J(l),se=m(l,"P",{"data-svelte-h":!0}),C(se)!=="svelte-rtkopz"&&(se.textContent=ma),tM=J(l),T(ee.$$.fragment,l),MM=J(l),T(te.$$.fragment,l),aM=J(l),T(zl.$$.fragment,l),nM=J(l),Me=m(l,"P",{"data-svelte-h":!0}),C(Me)!=="svelte-19foedi"&&(Me.innerHTML=ja),JM=J(l),T(ae.$$.fragment,l),UM=J(l),T(ne.$$.fragment,l),pM=J(l),Je=m(l,"P",{"data-svelte-h":!0}),C(Je)!=="svelte-q8q7d6"&&(Je.innerHTML=Ca),iM=J(l),T(Ue.$$.fragment,l),yM=J(l),pe=m(l,"P",{"data-svelte-h":!0}),C(pe)!=="svelte-1i8i5bb"&&(pe.textContent=ua),wM=J(l),T(ie.$$.fragment,l),rM=J(l),ye=m(l,"P",{"data-svelte-h":!0}),C(ye)!=="svelte-8qvh52"&&(ye.textContent=ha),TM=J(l),yl.l(l),Se=J(l),T(we.$$.fragment,l),cM=J(l),T(re.$$.fragment,l),oM=J(l),Te=m(l,"P",{"data-svelte-h":!0}),C(Te)!=="svelte-95htht"&&(Te.textContent=ba),dM=J(l),rl.l(l),ze=J(l),T(ce.$$.fragment,l),mM=J(l),oe=m(l,"P",{"data-svelte-h":!0}),C(oe)!=="svelte-vs1w8g"&&(oe.textContent=Ia),jM=J(l),cl.l(l),Ne=J(l),de=m(l,"P",{"data-svelte-h":!0}),C(de)!=="svelte-82rs8l"&&(de.textContent=fa),CM=J(l),dl.l(l),ve=J(l),T(me.$$.fragment,l),uM=J(l),je=m(l,"P",{"data-svelte-h":!0}),C(je)!=="svelte-1e2ht4"&&(je.textContent=Va),hM=J(l),x&&x.l(l),Fe=J(l),T(Nl.$$.fragment,l),bM=J(l),S&&S.l(l),Ye=J(l),T(Ce.$$.fragment,l),IM=J(l),ue=m(l,"P",{"data-svelte-h":!0}),C(ue)!=="svelte-1mdm08v"&&(ue.innerHTML=_a),fM=J(l),T(he.$$.fragment,l),VM=J(l),be=m(l,"P",{"data-svelte-h":!0}),C(be)!=="svelte-1rx6fjq"&&(be.textContent=Qa),_M=J(l),T(Ie.$$.fragment,l),QM=J(l),T(fe.$$.fragment,l),RM=J(l),Ve=m(l,"P",{"data-svelte-h":!0}),C(Ve)!=="svelte-18km24e"&&(Ve.textContent=Ra),GM=J(l),T(_e.$$.fragment,l),gM=J(l),Qe=m(l,"P",{"data-svelte-h":!0}),C(Qe)!=="svelte-1t497w4"&&(Qe.innerHTML=Ga),BM=J(l),T(vl.$$.fragment,l),kM=J(l),T(Re.$$.fragment,l),ZM=J(l),qe=m(l,"P",{}),FM(qe).forEach(e),this.h()},h(){ml(M,"name","hf:doc:metadata"),ml(M,"content",zn),ml(ll,"class","flex justify-center"),Jn($.src,He="https://course-demos-distilbert-base-uncased-finetuned-imdb.hf.space")||ml($,"src",He),ml($,"frameborder","0"),ml($,"height","300"),ml($,"title","Gradio app"),ml($,"class","block dark:hidden container p-0 flex-grow space-iframe"),ml($,"allow","accelerometer; ambient-light-sensor; autoplay; battery; camera; document-domain; encrypted-media; fullscreen; geolocation; gyroscope; layout-animations; legacy-image-formats; magnetometer; microphone; midi; oversized-images; payment; picture-in-picture; publickey-credentials-get; sync-xhr; usb; vr ; wake-lock; xr-spatial-tracking"),ml($,"sandbox","allow-forms allow-modals allow-popups allow-popups-to-escape-sandbox allow-same-origin allow-scripts allow-downloads"),ml(F,"class","flex justify-center")},m(l,s){rn(document.head,M),t(l,w,s),t(l,a,s),t(l,y,s),c(V,l,s),t(l,j,s),c(B,l,s),t(l,k,s),c(R,l,s),t(l,Z,s),Ge[g].m(l,s),t(l,u,s),t(l,_,s),t(l,A,s),t(l,f,s),t(l,z,s),t(l,Q,s),t(l,sl,s),t(l,ll,s),t(l,Dl,s),t(l,el,s),t(l,_l,s),t(l,$,s),t(l,Ql,s),t(l,H,s),t(l,tl,s),c(ul,l,s),t(l,Rl,s),c(v,l,s),t(l,Gl,s),c(D,l,s),t(l,ql,s),t(l,Ml,s),t(l,gl,s),t(l,F,s),t(l,Bl,s),t(l,L,s),t(l,al,s),ge[Y].m(l,s),t(l,kl,s),t(l,nl,s),t(l,Zl,s),c(q,l,s),t(l,Pl,s),t(l,Jl,s),t(l,El,s),c(K,l,s),t(l,Xl,s),t(l,P,s),t(l,$l,s),Be[U].m(l,s),t(l,Ae,s),c(Ol,l,s),t(l,Ke,s),t(l,ls,s),t(l,Pe,s),c(ss,l,s),t(l,Oe,s),t(l,es,s),t(l,lt,s),c(ts,l,s),t(l,st,s),c(Ms,l,s),t(l,et,s),t(l,as,s),t(l,tt,s),c(ns,l,s),t(l,Mt,s),c(Js,l,s),t(l,at,s),t(l,Us,s),t(l,nt,s),c(Al,l,s),t(l,Jt,s),t(l,ps,s),t(l,Ut,s),c(is,l,s),t(l,pt,s),c(ys,l,s),t(l,it,s),t(l,ws,s),t(l,yt,s),t(l,rs,s),t(l,wt,s),c(Ts,l,s),t(l,rt,s),c(cs,l,s),t(l,Tt,s),t(l,os,s),t(l,ct,s),t(l,ds,s),t(l,ot,s),c(ms,l,s),t(l,dt,s),c(js,l,s),t(l,mt,s),t(l,Cs,s),t(l,jt,s),c(Wl,l,s),t(l,Ct,s),t(l,us,s),t(l,ut,s),c(hs,l,s),t(l,ht,s),c(xl,l,s),t(l,bt,s),t(l,bs,s),t(l,It,s),c(Is,l,s),t(l,ft,s),c(fs,l,s),t(l,Vt,s),t(l,Vs,s),t(l,_t,s),c(_s,l,s),t(l,Qt,s),c(Qs,l,s),t(l,Rt,s),t(l,Rs,s),t(l,Gt,s),c(Gs,l,s),t(l,gt,s),c(gs,l,s),t(l,Bt,s),t(l,Bs,s),t(l,kt,s),t(l,ks,s),t(l,Zt,s),t(l,Zs,s),t(l,Et,s),c(Es,l,s),t(l,Xt,s),t(l,Xs,s),t(l,$t,s),t(l,$s,s),t(l,At,s),c(As,l,s),t(l,Wt,s),c(Ws,l,s),t(l,xt,s),t(l,xs,s),t(l,St,s),c(Ss,l,s),t(l,zt,s),c(zs,l,s),t(l,Nt,s),t(l,Ns,s),t(l,vt,s),c(vs,l,s),t(l,Ft,s),c(Fs,l,s),t(l,Yt,s),t(l,Ys,s),t(l,Ht,s),c(Hs,l,s),t(l,Dt,s),t(l,Ds,s),t(l,Lt,s),c(Ls,l,s),t(l,qt,s),t(l,qs,s),t(l,Kt,s),c(Ks,l,s),t(l,Pt,s),c(Ps,l,s),t(l,Ot,s),t(l,Os,s),t(l,lM,s),c(Sl,l,s),t(l,sM,s),O&&O.m(l,s),t(l,We,s),t(l,le,s),t(l,eM,s),ke[Ul].m(l,s),t(l,xe,s),t(l,se,s),t(l,tM,s),c(ee,l,s),t(l,MM,s),c(te,l,s),t(l,aM,s),c(zl,l,s),t(l,nM,s),t(l,Me,s),t(l,JM,s),c(ae,l,s),t(l,UM,s),c(ne,l,s),t(l,pM,s),t(l,Je,s),t(l,iM,s),c(Ue,l,s),t(l,yM,s),t(l,pe,s),t(l,wM,s),c(ie,l,s),t(l,rM,s),t(l,ye,s),t(l,TM,s),Ze[il].m(l,s),t(l,Se,s),c(we,l,s),t(l,cM,s),c(re,l,s),t(l,oM,s),t(l,Te,s),t(l,dM,s),Ee[wl].m(l,s),t(l,ze,s),c(ce,l,s),t(l,mM,s),t(l,oe,s),t(l,jM,s),Xe[Tl].m(l,s),t(l,Ne,s),t(l,de,s),t(l,CM,s),$e[ol].m(l,s),t(l,ve,s),c(me,l,s),t(l,uM,s),t(l,je,s),t(l,hM,s),x&&x.m(l,s),t(l,Fe,s),c(Nl,l,s),t(l,bM,s),S&&S.m(l,s),t(l,Ye,s),c(Ce,l,s),t(l,IM,s),t(l,ue,s),t(l,fM,s),c(he,l,s),t(l,VM,s),t(l,be,s),t(l,_M,s),c(Ie,l,s),t(l,QM,s),c(fe,l,s),t(l,RM,s),t(l,Ve,s),t(l,GM,s),c(_e,l,s),t(l,gM,s),t(l,Qe,s),t(l,BM,s),c(vl,l,s),t(l,kM,s),c(Re,l,s),t(l,ZM,s),t(l,qe,s),EM=!0},p(l,[s]){const Ha={};s&1&&(Ha.fw=l[0]),V.$set(Ha);let $M=g;g=Ba(l),g!==$M&&(Vl(),i(Ge[$M],1,1,()=>{Ge[$M]=null}),fl(),G=Ge[g],G||(G=Ge[g]=ga[g](l),G.c()),p(G,1),G.m(u.parentNode,u));const Da={};s&2&&(Da.$$scope={dirty:s,ctx:l}),v.$set(Da);let AM=Y;Y=Za(l),Y!==AM&&(Vl(),i(ge[AM],1,1,()=>{ge[AM]=null}),fl(),W=ge[Y],W||(W=ge[Y]=ka[Y](l),W.c()),p(W,1),W.m(kl.parentNode,kl));let WM=U;U=Xa(l),U!==WM&&(Vl(),i(Be[WM],1,1,()=>{Be[WM]=null}),fl(),b=Be[U],b||(b=Be[U]=Ea[U](l),b.c()),p(b,1),b.m(Ae.parentNode,Ae));const La={};s&2&&(La.$$scope={dirty:s,ctx:l}),Al.$set(La);const qa={};s&2&&(qa.$$scope={dirty:s,ctx:l}),Wl.$set(qa);const Ka={};s&2&&(Ka.$$scope={dirty:s,ctx:l}),xl.$set(Ka);const Pa={};s&2&&(Pa.$$scope={dirty:s,ctx:l}),Sl.$set(Pa),l[0]==="pt"?O||(O=en(),O.c(),O.m(We.parentNode,We)):O&&(O.d(1),O=null);let xM=Ul;Ul=Aa(l),Ul!==xM&&(Vl(),i(ke[xM],1,1,()=>{ke[xM]=null}),fl(),pl=ke[Ul],pl||(pl=ke[Ul]=$a[Ul](l),pl.c()),p(pl,1),pl.m(xe.parentNode,xe));const Oa={};s&2&&(Oa.$$scope={dirty:s,ctx:l}),zl.$set(Oa);let SM=il;il=xa(l),il!==SM&&(Vl(),i(Ze[SM],1,1,()=>{Ze[SM]=null}),fl(),yl=Ze[il],yl||(yl=Ze[il]=Wa[il](l),yl.c()),p(yl,1),yl.m(Se.parentNode,Se));let zM=wl;wl=za(l),wl!==zM&&(Vl(),i(Ee[zM],1,1,()=>{Ee[zM]=null}),fl(),rl=Ee[wl],rl||(rl=Ee[wl]=Sa[wl](l),rl.c()),p(rl,1),rl.m(ze.parentNode,ze));let NM=Tl;Tl=va(l),Tl!==NM&&(Vl(),i(Xe[NM],1,1,()=>{Xe[NM]=null}),fl(),cl=Xe[Tl],cl||(cl=Xe[Tl]=Na[Tl](l),cl.c()),p(cl,1),cl.m(Ne.parentNode,Ne));let vM=ol;ol=Ya(l),ol!==vM&&(Vl(),i($e[vM],1,1,()=>{$e[vM]=null}),fl(),dl=$e[ol],dl||(dl=$e[ol]=Fa[ol](l),dl.c()),p(dl,1),dl.m(ve.parentNode,ve)),l[0]==="pt"?x?s&1&&p(x,1):(x=tn(),x.c(),p(x,1),x.m(Fe.parentNode,Fe)):x&&(Vl(),i(x,1,1,()=>{x=null}),fl());const ln={};s&2&&(ln.$$scope={dirty:s,ctx:l}),Nl.$set(ln),l[0]==="pt"?S?s&1&&p(S,1):(S=Mn(),S.c(),p(S,1),S.m(Ye.parentNode,Ye)):S&&(Vl(),i(S,1,1,()=>{S=null}),fl());const sn={};s&2&&(sn.$$scope={dirty:s,ctx:l}),vl.$set(sn)},i(l){EM||(p(V.$$.fragment,l),p(B.$$.fragment,l),p(R.$$.fragment,l),p(G),p(ul.$$.fragment,l),p(v.$$.fragment,l),p(D.$$.fragment,l),p(W),p(q.$$.fragment,l),p(K.$$.fragment,l),p(b),p(Ol.$$.fragment,l),p(ss.$$.fragment,l),p(ts.$$.fragment,l),p(Ms.$$.fragment,l),p(ns.$$.fragment,l),p(Js.$$.fragment,l),p(Al.$$.fragment,l),p(is.$$.fragment,l),p(ys.$$.fragment,l),p(Ts.$$.fragment,l),p(cs.$$.fragment,l),p(ms.$$.fragment,l),p(js.$$.fragment,l),p(Wl.$$.fragment,l),p(hs.$$.fragment,l),p(xl.$$.fragment,l),p(Is.$$.fragment,l),p(fs.$$.fragment,l),p(_s.$$.fragment,l),p(Qs.$$.fragment,l),p(Gs.$$.fragment,l),p(gs.$$.fragment,l),p(Es.$$.fragment,l),p(As.$$.fragment,l),p(Ws.$$.fragment,l),p(Ss.$$.fragment,l),p(zs.$$.fragment,l),p(vs.$$.fragment,l),p(Fs.$$.fragment,l),p(Hs.$$.fragment,l),p(Ls.$$.fragment,l),p(Ks.$$.fragment,l),p(Ps.$$.fragment,l),p(Sl.$$.fragment,l),p(pl),p(ee.$$.fragment,l),p(te.$$.fragment,l),p(zl.$$.fragment,l),p(ae.$$.fragment,l),p(ne.$$.fragment,l),p(Ue.$$.fragment,l),p(ie.$$.fragment,l),p(yl),p(we.$$.fragment,l),p(re.$$.fragment,l),p(rl),p(ce.$$.fragment,l),p(cl),p(dl),p(me.$$.fragment,l),p(x),p(Nl.$$.fragment,l),p(S),p(Ce.$$.fragment,l),p(he.$$.fragment,l),p(Ie.$$.fragment,l),p(fe.$$.fragment,l),p(_e.$$.fragment,l),p(vl.$$.fragment,l),p(Re.$$.fragment,l),EM=!0)},o(l){i(V.$$.fragment,l),i(B.$$.fragment,l),i(R.$$.fragment,l),i(G),i(ul.$$.fragment,l),i(v.$$.fragment,l),i(D.$$.fragment,l),i(W),i(q.$$.fragment,l),i(K.$$.fragment,l),i(b),i(Ol.$$.fragment,l),i(ss.$$.fragment,l),i(ts.$$.fragment,l),i(Ms.$$.fragment,l),i(ns.$$.fragment,l),i(Js.$$.fragment,l),i(Al.$$.fragment,l),i(is.$$.fragment,l),i(ys.$$.fragment,l),i(Ts.$$.fragment,l),i(cs.$$.fragment,l),i(ms.$$.fragment,l),i(js.$$.fragment,l),i(Wl.$$.fragment,l),i(hs.$$.fragment,l),i(xl.$$.fragment,l),i(Is.$$.fragment,l),i(fs.$$.fragment,l),i(_s.$$.fragment,l),i(Qs.$$.fragment,l),i(Gs.$$.fragment,l),i(gs.$$.fragment,l),i(Es.$$.fragment,l),i(As.$$.fragment,l),i(Ws.$$.fragment,l),i(Ss.$$.fragment,l),i(zs.$$.fragment,l),i(vs.$$.fragment,l),i(Fs.$$.fragment,l),i(Hs.$$.fragment,l),i(Ls.$$.fragment,l),i(Ks.$$.fragment,l),i(Ps.$$.fragment,l),i(Sl.$$.fragment,l),i(pl),i(ee.$$.fragment,l),i(te.$$.fragment,l),i(zl.$$.fragment,l),i(ae.$$.fragment,l),i(ne.$$.fragment,l),i(Ue.$$.fragment,l),i(ie.$$.fragment,l),i(yl),i(we.$$.fragment,l),i(re.$$.fragment,l),i(rl),i(ce.$$.fragment,l),i(cl),i(dl),i(me.$$.fragment,l),i(x),i(Nl.$$.fragment,l),i(S),i(Ce.$$.fragment,l),i(he.$$.fragment,l),i(Ie.$$.fragment,l),i(fe.$$.fragment,l),i(_e.$$.fragment,l),i(vl.$$.fragment,l),i(Re.$$.fragment,l),EM=!1},d(l){l&&(e(w),e(a),e(y),e(j),e(k),e(Z),e(u),e(_),e(A),e(f),e(z),e(Q),e(sl),e(ll),e(Dl),e(el),e(_l),e($),e(Ql),e(H),e(tl),e(Rl),e(Gl),e(ql),e(Ml),e(gl),e(F),e(Bl),e(L),e(al),e(kl),e(nl),e(Zl),e(Pl),e(Jl),e(El),e(Xl),e(P),e($l),e(Ae),e(Ke),e(ls),e(Pe),e(Oe),e(es),e(lt),e(st),e(et),e(as),e(tt),e(Mt),e(at),e(Us),e(nt),e(Jt),e(ps),e(Ut),e(pt),e(it),e(ws),e(yt),e(rs),e(wt),e(rt),e(Tt),e(os),e(ct),e(ds),e(ot),e(dt),e(mt),e(Cs),e(jt),e(Ct),e(us),e(ut),e(ht),e(bt),e(bs),e(It),e(ft),e(Vt),e(Vs),e(_t),e(Qt),e(Rt),e(Rs),e(Gt),e(gt),e(Bt),e(Bs),e(kt),e(ks),e(Zt),e(Zs),e(Et),e(Xt),e(Xs),e($t),e($s),e(At),e(Wt),e(xt),e(xs),e(St),e(zt),e(Nt),e(Ns),e(vt),e(Ft),e(Yt),e(Ys),e(Ht),e(Dt),e(Ds),e(Lt),e(qt),e(qs),e(Kt),e(Pt),e(Ot),e(Os),e(lM),e(sM),e(We),e(le),e(eM),e(xe),e(se),e(tM),e(MM),e(aM),e(nM),e(Me),e(JM),e(UM),e(pM),e(Je),e(iM),e(yM),e(pe),e(wM),e(rM),e(ye),e(TM),e(Se),e(cM),e(oM),e(Te),e(dM),e(ze),e(mM),e(oe),e(jM),e(Ne),e(de),e(CM),e(ve),e(uM),e(je),e(hM),e(Fe),e(bM),e(Ye),e(IM),e(ue),e(fM),e(VM),e(be),e(_M),e(QM),e(RM),e(Ve),e(GM),e(gM),e(Qe),e(BM),e(kM),e(ZM),e(qe)),e(M),o(V,l),o(B,l),o(R,l),Ge[g].d(l),o(ul,l),o(v,l),o(D,l),ge[Y].d(l),o(q,l),o(K,l),Be[U].d(l),o(Ol,l),o(ss,l),o(ts,l),o(Ms,l),o(ns,l),o(Js,l),o(Al,l),o(is,l),o(ys,l),o(Ts,l),o(cs,l),o(ms,l),o(js,l),o(Wl,l),o(hs,l),o(xl,l),o(Is,l),o(fs,l),o(_s,l),o(Qs,l),o(Gs,l),o(gs,l),o(Es,l),o(As,l),o(Ws,l),o(Ss,l),o(zs,l),o(vs,l),o(Fs,l),o(Hs,l),o(Ls,l),o(Ks,l),o(Ps,l),o(Sl,l),O&&O.d(l),ke[Ul].d(l),o(ee,l),o(te,l),o(zl,l),o(ae,l),o(ne,l),o(Ue,l),o(ie,l),Ze[il].d(l),o(we,l),o(re,l),Ee[wl].d(l),o(ce,l),Xe[Tl].d(l),$e[ol].d(l),o(me,l),x&&x.d(l),o(Nl,l),S&&S.d(l),o(Ce,l),o(he,l),o(Ie,l),o(fe,l),o(_e,l),o(vl,l),o(Re,l)}}}const zn='{"title":"Дообучение модели маскированного языкового моделирования","local":"fine-tuning-a-masked-language-model","sections":[{"title":"Выбор предварительно обученной модели для маскированного моделирования языка","local":"picking-a-pretrained-model-for-masked-language-modeling","sections":[],"depth":2},{"title":"Датасет","local":"the-dataset","sections":[],"depth":2},{"title":"Предварительная обработка данных","local":"preprocessing-the-data","sections":[],"depth":2},{"title":"Дообучение DistilBERT с помощью API Trainer","local":"fine-tuning-distilbert-with-the-trainer-api","sections":[{"title":"Перплексия языковых моделей","local":"perplexity-for-language-models","sections":[],"depth":3}],"depth":2},{"title":"Дообучение DistilBERT с помощью 🤗 Accelerate","local":"fine-tuning-distilbert-with-accelerate","sections":[],"depth":2},{"title":"Использование нашей дообученной модели","local":"using-our-fine-tuned-model","sections":[],"depth":2}],"depth":1}';function Nn(I,M,w){let a="pt";return Un(()=>{const y=new URLSearchParams(window.location.search);w(0,a=y.get("fw")||"pt")}),[a]}class Pn extends pn{constructor(M){super(),yn(this,M,Nn,Sn,nn,{})}}export{Pn as component};
