import{s as Z,n as P,o as X}from"../chunks/scheduler.37c15a92.js";import{S as F,i as Y,g as M,s as l,r as _,A as L,h as f,f as e,c as n,j as S,u as I,x as V,k as A,y as K,a,v as W,d as v,t as N,w as z}from"../chunks/index.2bf4358c.js";import{C as R}from"../chunks/CodeBlock.4f5fc1ad.js";import{C as D}from"../chunks/CourseFloatingBanner.06521e8b.js";import{H as O}from"../chunks/Heading.8ada512a.js";function ss(Q){let r,b,d,j,p,J,o,w,i,q="Если вы намерены использовать предварительно обученную модель или ее дообученную версию в рабочей среде, имейте в виду, что, хотя эти модели являются мощными инструментами, они имеют ограничения. Самое большое из них заключается в том, что для предварительного обучения на больших объемах данных исследователи часто очищают весь контент, который они могут найти, беря как лучшее, так и худшее из того, что доступно в Интернете.",x,c,G="Для иллюстрации вернемся к примеру пайплайна <code>fill-mask</code> с моделью BERT:",T,m,k,u,$,h,H='На просьбу вставить пропущенное слово в этих двух предложениях модель дает только один ответ без гендерной принадлежности (официант/официантка). Другие рабочие профессии обычно ассоциируются с одним конкретным полом — и да, проститутка попала в топ-5 вариантов, которые модель ассоциирует с “женщиной” и “работой”. Это происходит даже несмотря на то, что BERT — одна из редких моделей трансформеров, созданная не путем сбора данных со всего Интернета, а с использованием явно нейтральных данных (он обучен на <a href="https://huggingface.co/datasets/wikipedia" rel="nofollow">английской Википедии</a> и наборе данных <a href="https://huggingface.co/datasets/bookcorpus" rel="nofollow">BookCorpus</a>.',U,y,E="Поэтому, когда вы используете эти инструменты, вам нужно помнить, что исходная модель, которую вы используете, может очень легко генерировать сексистский, расистский или гомофобный контент. Дообучение модели на ваших данных не сможет устранить эту внутреннюю предвзятость.",C,g,B;return p=new O({props:{title:"Предвзятости и ограничения",local:"предвзятости-и-ограничения",headingTag:"h1"}}),o=new D({props:{chapter:1,classNames:"absolute z-10 right-0 top-0",notebooks:[{label:"Google Colab",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/ru/chapter1/section8.ipynb"},{label:"Aws Studio",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/ru/chapter1/section8.ipynb"}]}}),m=new R({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMHBpcGVsaW5lJTBBJTBBdW5tYXNrZXIlMjAlM0QlMjBwaXBlbGluZSglMjJmaWxsLW1hc2slMjIlMkMlMjBtb2RlbCUzRCUyMmJlcnQtYmFzZS11bmNhc2VkJTIyKSUwQXJlc3VsdCUyMCUzRCUyMHVubWFza2VyKCUyMlRoaXMlMjBtYW4lMjB3b3JrcyUyMGFzJTIwYSUyMCU1Qk1BU0slNUQuJTIyKSUwQXByaW50KCU1QnIlNUIlMjJ0b2tlbl9zdHIlMjIlNUQlMjBmb3IlMjByJTIwaW4lMjByZXN1bHQlNUQpJTBBJTBBcmVzdWx0JTIwJTNEJTIwdW5tYXNrZXIoJTIyVGhpcyUyMHdvbWFuJTIwd29ya3MlMjBhcyUyMGElMjAlNUJNQVNLJTVELiUyMiklMEFwcmludCglNUJyJTVCJTIydG9rZW5fc3RyJTIyJTVEJTIwZm9yJTIwciUyMGluJTIwcmVzdWx0JTVEKQ==",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> pipeline

unmasker = pipeline(<span class="hljs-string">&quot;fill-mask&quot;</span>, model=<span class="hljs-string">&quot;bert-base-uncased&quot;</span>)
result = unmasker(<span class="hljs-string">&quot;This man works as a [MASK].&quot;</span>)
<span class="hljs-built_in">print</span>([r[<span class="hljs-string">&quot;token_str&quot;</span>] <span class="hljs-keyword">for</span> r <span class="hljs-keyword">in</span> result])

result = unmasker(<span class="hljs-string">&quot;This woman works as a [MASK].&quot;</span>)
<span class="hljs-built_in">print</span>([r[<span class="hljs-string">&quot;token_str&quot;</span>] <span class="hljs-keyword">for</span> r <span class="hljs-keyword">in</span> result])`,wrap:!1}}),u=new R({props:{code:"JTVCJ2xhd3llciclMkMlMjAnY2FycGVudGVyJyUyQyUyMCdkb2N0b3InJTJDJTIwJ3dhaXRlciclMkMlMjAnbWVjaGFuaWMnJTVEJTBBJTVCJ251cnNlJyUyQyUyMCd3YWl0cmVzcyclMkMlMjAndGVhY2hlciclMkMlMjAnbWFpZCclMkMlMjAncHJvc3RpdHV0ZSclNUQ=",highlighted:`[<span class="hljs-string">&#x27;lawyer&#x27;</span>, <span class="hljs-string">&#x27;carpenter&#x27;</span>, <span class="hljs-string">&#x27;doctor&#x27;</span>, <span class="hljs-string">&#x27;waiter&#x27;</span>, <span class="hljs-string">&#x27;mechanic&#x27;</span>]
[<span class="hljs-string">&#x27;nurse&#x27;</span>, <span class="hljs-string">&#x27;waitress&#x27;</span>, <span class="hljs-string">&#x27;teacher&#x27;</span>, <span class="hljs-string">&#x27;maid&#x27;</span>, <span class="hljs-string">&#x27;prostitute&#x27;</span>]`,wrap:!1}}),{c(){r=M("meta"),b=l(),d=M("p"),j=l(),_(p.$$.fragment),J=l(),_(o.$$.fragment),w=l(),i=M("p"),i.textContent=q,x=l(),c=M("p"),c.innerHTML=G,T=l(),_(m.$$.fragment),k=l(),_(u.$$.fragment),$=l(),h=M("p"),h.innerHTML=H,U=l(),y=M("p"),y.textContent=E,C=l(),g=M("p"),this.h()},l(s){const t=L("svelte-u9bgzb",document.head);r=f(t,"META",{name:!0,content:!0}),t.forEach(e),b=n(s),d=f(s,"P",{}),S(d).forEach(e),j=n(s),I(p.$$.fragment,s),J=n(s),I(o.$$.fragment,s),w=n(s),i=f(s,"P",{"data-svelte-h":!0}),V(i)!=="svelte-qazxsv"&&(i.textContent=q),x=n(s),c=f(s,"P",{"data-svelte-h":!0}),V(c)!=="svelte-txcz4m"&&(c.innerHTML=G),T=n(s),I(m.$$.fragment,s),k=n(s),I(u.$$.fragment,s),$=n(s),h=f(s,"P",{"data-svelte-h":!0}),V(h)!=="svelte-buc9yd"&&(h.innerHTML=H),U=n(s),y=f(s,"P",{"data-svelte-h":!0}),V(y)!=="svelte-1oup1zx"&&(y.textContent=E),C=n(s),g=f(s,"P",{}),S(g).forEach(e),this.h()},h(){A(r,"name","hf:doc:metadata"),A(r,"content",ts)},m(s,t){K(document.head,r),a(s,b,t),a(s,d,t),a(s,j,t),W(p,s,t),a(s,J,t),W(o,s,t),a(s,w,t),a(s,i,t),a(s,x,t),a(s,c,t),a(s,T,t),W(m,s,t),a(s,k,t),W(u,s,t),a(s,$,t),a(s,h,t),a(s,U,t),a(s,y,t),a(s,C,t),a(s,g,t),B=!0},p:P,i(s){B||(v(p.$$.fragment,s),v(o.$$.fragment,s),v(m.$$.fragment,s),v(u.$$.fragment,s),B=!0)},o(s){N(p.$$.fragment,s),N(o.$$.fragment,s),N(m.$$.fragment,s),N(u.$$.fragment,s),B=!1},d(s){s&&(e(b),e(d),e(j),e(J),e(w),e(i),e(x),e(c),e(T),e(k),e($),e(h),e(U),e(y),e(C),e(g)),e(r),z(p,s),z(o,s),z(m,s),z(u,s)}}}const ts='{"title":"Предвзятости и ограничения","local":"предвзятости-и-ограничения","sections":[],"depth":1}';function es(Q){return X(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class os extends F{constructor(r){super(),Y(this,r,es,ss,Z,{})}}export{os as component};
