import{s as P,n as R,o as Z}from"../chunks/scheduler.37c15a92.js";import{S as X,i as F,g as y,s as n,r as B,A as Y,h as f,f as a,c as l,j as A,u as q,x as I,k as z,y as K,a as t,v as _,d as V,t as W,w as N}from"../chunks/index.2bf4358c.js";import{C as L}from"../chunks/CodeBlock.4f5fc1ad.js";import{C as D}from"../chunks/CourseFloatingBanner.15ba07e6.js";import{H as O}from"../chunks/Heading.8ada512a.js";function ee(H){let o,b,M,j,r,w,i,J,p,S="Si tu intención es usar modelos preentrenados o una versión ajustada en producción, ten en cuenta que a pesar de ser herramientas poderosas, tienen limitaciones. La más importante de ellas es que, para permitir el preentrenamiento con grandes cantidades de datos, los investigadores suelen <em>raspar</em> (<em>scrape</em>) todo el contenido que puedan encontrar, tomando lo mejor y lo peor que está disponible en internet.",T,c,Q="Para dar un ejemplo rápido, volvamos al caso del pipeline <code>fill-mask</code> con el modelo BERT:",k,u,x,m,$,d,E='Cuando se le pide llenar la palabra faltante en estas dos oraciones, el modelo devuelve solo una respuesta agnóstica de género (<em>waiter/waitress</em>). Las otras son ocupaciones que se suelen asociar con un género específico — y si, prostituta es una de las primeras 5 posibilidades que el modelo asocia con “mujer” y “trabajo”. Esto sucede a pesar de que BERT es uno de los pocos modelos de Transformadores que no se construyeron basados en datos <em>raspados</em> de todo el internet, pero usando datos aparentemente neutrales (está entrenado con los conjuntos de datos de <a href="https://huggingface.co/datasets/wikipedia" rel="nofollow">Wikipedia en Inglés</a> y <a href="https://huggingface.co/datasets/bookcorpus" rel="nofollow">BookCorpus</a>).',U,h,G="Cuando uses estas herramientas, debes tener en cuenta que el modelo original que estás usando puede muy fácilmente generar contenido sexista, racista u homófobo. Ajustar el modelo con tus datos no va a desaparecer este sesgo intrínseco.",C,g,v;return r=new O({props:{title:"Sesgos y limitaciones",local:"sesgos-y-limitaciones",headingTag:"h1"}}),i=new D({props:{chapter:1,classNames:"absolute z-10 right-0 top-0",notebooks:[{label:"Google Colab",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/es/chapter1/section8.ipynb"},{label:"Aws Studio",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/es/chapter1/section8.ipynb"}]}}),u=new L({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMHBpcGVsaW5lJTBBJTBBdW5tYXNrZXIlMjAlM0QlMjBwaXBlbGluZSglMjJmaWxsLW1hc2slMjIlMkMlMjBtb2RlbCUzRCUyMmJlcnQtYmFzZS11bmNhc2VkJTIyKSUwQXJlc3VsdCUyMCUzRCUyMHVubWFza2VyKCUyMlRoaXMlMjBtYW4lMjB3b3JrcyUyMGFzJTIwYSUyMCU1Qk1BU0slNUQuJTIyKSUwQXByaW50KCU1QnIlNUIlMjJ0b2tlbl9zdHIlMjIlNUQlMjBmb3IlMjByJTIwaW4lMjByZXN1bHQlNUQpJTBBJTBBcmVzdWx0JTIwJTNEJTIwdW5tYXNrZXIoJTIyVGhpcyUyMHdvbWFuJTIwd29ya3MlMjBhcyUyMGElMjAlNUJNQVNLJTVELiUyMiklMEFwcmludCglNUJyJTVCJTIydG9rZW5fc3RyJTIyJTVEJTIwZm9yJTIwciUyMGluJTIwcmVzdWx0JTVEKQ==",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> pipeline

unmasker = pipeline(<span class="hljs-string">&quot;fill-mask&quot;</span>, model=<span class="hljs-string">&quot;bert-base-uncased&quot;</span>)
result = unmasker(<span class="hljs-string">&quot;This man works as a [MASK].&quot;</span>)
<span class="hljs-built_in">print</span>([r[<span class="hljs-string">&quot;token_str&quot;</span>] <span class="hljs-keyword">for</span> r <span class="hljs-keyword">in</span> result])

result = unmasker(<span class="hljs-string">&quot;This woman works as a [MASK].&quot;</span>)
<span class="hljs-built_in">print</span>([r[<span class="hljs-string">&quot;token_str&quot;</span>] <span class="hljs-keyword">for</span> r <span class="hljs-keyword">in</span> result])`,wrap:!1}}),m=new L({props:{code:"JTVCJ2xhd3llciclMkMlMjAnY2FycGVudGVyJyUyQyUyMCdkb2N0b3InJTJDJTIwJ3dhaXRlciclMkMlMjAnbWVjaGFuaWMnJTVEJTBBJTVCJ251cnNlJyUyQyUyMCd3YWl0cmVzcyclMkMlMjAndGVhY2hlciclMkMlMjAnbWFpZCclMkMlMjAncHJvc3RpdHV0ZSclNUQ=",highlighted:`[<span class="hljs-string">&#x27;lawyer&#x27;</span>, <span class="hljs-string">&#x27;carpenter&#x27;</span>, <span class="hljs-string">&#x27;doctor&#x27;</span>, <span class="hljs-string">&#x27;waiter&#x27;</span>, <span class="hljs-string">&#x27;mechanic&#x27;</span>]
[<span class="hljs-string">&#x27;nurse&#x27;</span>, <span class="hljs-string">&#x27;waitress&#x27;</span>, <span class="hljs-string">&#x27;teacher&#x27;</span>, <span class="hljs-string">&#x27;maid&#x27;</span>, <span class="hljs-string">&#x27;prostitute&#x27;</span>]`,wrap:!1}}),{c(){o=y("meta"),b=n(),M=y("p"),j=n(),B(r.$$.fragment),w=n(),B(i.$$.fragment),J=n(),p=y("p"),p.innerHTML=S,T=n(),c=y("p"),c.innerHTML=Q,k=n(),B(u.$$.fragment),x=n(),B(m.$$.fragment),$=n(),d=y("p"),d.innerHTML=E,U=n(),h=y("p"),h.textContent=G,C=n(),g=y("p"),this.h()},l(e){const s=Y("svelte-u9bgzb",document.head);o=f(s,"META",{name:!0,content:!0}),s.forEach(a),b=l(e),M=f(e,"P",{}),A(M).forEach(a),j=l(e),q(r.$$.fragment,e),w=l(e),q(i.$$.fragment,e),J=l(e),p=f(e,"P",{"data-svelte-h":!0}),I(p)!=="svelte-vc8qfv"&&(p.innerHTML=S),T=l(e),c=f(e,"P",{"data-svelte-h":!0}),I(c)!=="svelte-1u4quv1"&&(c.innerHTML=Q),k=l(e),q(u.$$.fragment,e),x=l(e),q(m.$$.fragment,e),$=l(e),d=f(e,"P",{"data-svelte-h":!0}),I(d)!=="svelte-bfk23v"&&(d.innerHTML=E),U=l(e),h=f(e,"P",{"data-svelte-h":!0}),I(h)!=="svelte-xno8u4"&&(h.textContent=G),C=l(e),g=f(e,"P",{}),A(g).forEach(a),this.h()},h(){z(o,"name","hf:doc:metadata"),z(o,"content",se)},m(e,s){K(document.head,o),t(e,b,s),t(e,M,s),t(e,j,s),_(r,e,s),t(e,w,s),_(i,e,s),t(e,J,s),t(e,p,s),t(e,T,s),t(e,c,s),t(e,k,s),_(u,e,s),t(e,x,s),_(m,e,s),t(e,$,s),t(e,d,s),t(e,U,s),t(e,h,s),t(e,C,s),t(e,g,s),v=!0},p:R,i(e){v||(V(r.$$.fragment,e),V(i.$$.fragment,e),V(u.$$.fragment,e),V(m.$$.fragment,e),v=!0)},o(e){W(r.$$.fragment,e),W(i.$$.fragment,e),W(u.$$.fragment,e),W(m.$$.fragment,e),v=!1},d(e){e&&(a(b),a(M),a(j),a(w),a(J),a(p),a(T),a(c),a(k),a(x),a($),a(d),a(U),a(h),a(C),a(g)),a(o),N(r,e),N(i,e),N(u,e),N(m,e)}}}const se='{"title":"Sesgos y limitaciones","local":"sesgos-y-limitaciones","sections":[],"depth":1}';function ae(H){return Z(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class ie extends X{constructor(o){super(),F(this,o,ae,ee,P,{})}}export{ie as component};
