import{s as F,n as Y,o as K}from"../chunks/scheduler.cc52f4b9.js";import{S as D,i as O,e as b,s as a,c as M,h as nn,a as d,d as s,b as l,f as L,g as k,j as H,k as P,l as tn,m as e,n as $,t as x,o as w,p as j}from"../chunks/index.9480bb2b.js";import{C as sn,H as en,E as an}from"../chunks/MermaidChart.svelte_svelte_type_style_lang.7aac1ff7.js";import{C as X}from"../chunks/CodeBlock.ca838256.js";import{C as ln}from"../chunks/CourseFloatingBanner.d5461535.js";function hn(S){let i,v,J,C,h,U,r,B,c,V,p,z="Nếu mục đích của bạn là sử dụng một mô hình được huấn luyện trước hoặc một phiên bản được tinh chỉnh trong quá trình sản xuất, xin lưu ý rằng mặc dù những mô hình này là những công cụ mạnh mẽ nhưng chúng cũng có những hạn chế. Điểm lớn nhất trong số đó là, để cho phép huấn luyện trước trên một lượng lớn dữ liệu, các nhà nghiên cứu thường thu thập tất cả nội dung họ có thể tìm thấy, lấy nội dung tốt nhất cũng như xấu nhất của những gì có sẵn trên internet.",_,o,A="Để đưa ra một minh họa nhanh, hãy quay lại ví dụ về pipeline <code>fill-mask</code> với mô hình BERT:",I,m,W,u,N,g,R='Khi được yêu cầu điền từ còn thiếu trong hai câu này, mô hình chỉ đưa ra một câu trả lời không phân biệt giới tính (waiter/waitress hay bồi bàn nam/bồi bàn nữ). Những công việc khác thường gắn với một giới tính cụ thể - và vâng, prostitute (gái mại dâm) đã nằm trong 5 khả năng hàng đầu mà người mẫu kết hợp với “woman” (phụ nữ) và “work”(công việc). Điều này xảy ra mặc dù BERT là một trong những mô hình Transformer hiếm hoi không được xây dựng bằng cách thu thập dữ liệu từ khắp nơi trên internet, mà sử dụng dữ liệu có vẻ trung lập (nó được đào tạo trên <a href="https://huggingface.co/datasets/wikipedia" rel="nofollow">Wikipedia tiếng Anh</a> và bộ dữ liệu <a href="https://huggingface.co/datasets/bookcorpus" rel="nofollow">BookCorpus</a>.',q,y,Z="Do đó, khi bạn sử dụng những công cụ này, bạn cần lưu ý rằng mô hình gốc mà bạn đang sử dụng rất dễ tạo ra nội dung phân biệt giới tính, phân biệt chủng tộc, hoặc kỳ thị đồng tính. Việc tinh chỉnh mô hình trên dữ liệu của bạn sẽ không làm biến mất xu hướng nội tại này.",E,f,G,T,Q;return h=new sn({props:{containerStyle:"float: right; margin-left: 10px; display: inline-flex; position: relative; z-index: 10;"}}),r=new en({props:{title:"Thiên kiến và hạn chế",local:"thiên-kiến-và-hạn-chế",headingTag:"h1"}}),c=new ln({props:{chapter:1,classNames:"absolute z-10 right-0 top-0",notebooks:[{label:"Google Colab",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/vi/chapter1/section8.ipynb"},{label:"Aws Studio",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/vi/chapter1/section8.ipynb"}]}}),m=new X({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMHBpcGVsaW5lJTBBJTBBdW5tYXNrZXIlMjAlM0QlMjBwaXBlbGluZSglMjJmaWxsLW1hc2slMjIlMkMlMjBtb2RlbCUzRCUyMmJlcnQtYmFzZS11bmNhc2VkJTIyKSUwQXJlc3VsdCUyMCUzRCUyMHVubWFza2VyKCUyMlRoaXMlMjBtYW4lMjB3b3JrcyUyMGFzJTIwYSUyMCU1Qk1BU0slNUQuJTIyKSUwQXByaW50KCU1QnIlNUIlMjJ0b2tlbl9zdHIlMjIlNUQlMjBmb3IlMjByJTIwaW4lMjByZXN1bHQlNUQpJTBBJTBBcmVzdWx0JTIwJTNEJTIwdW5tYXNrZXIoJTIyVGhpcyUyMHdvbWFuJTIwd29ya3MlMjBhcyUyMGElMjAlNUJNQVNLJTVELiUyMiklMEFwcmludCglNUJyJTVCJTIydG9rZW5fc3RyJTIyJTVEJTIwZm9yJTIwciUyMGluJTIwcmVzdWx0JTVEKQ==",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> pipeline

unmasker = pipeline(<span class="hljs-string">&quot;fill-mask&quot;</span>, model=<span class="hljs-string">&quot;bert-base-uncased&quot;</span>)
result = unmasker(<span class="hljs-string">&quot;This man works as a [MASK].&quot;</span>)
<span class="hljs-built_in">print</span>([r[<span class="hljs-string">&quot;token_str&quot;</span>] <span class="hljs-keyword">for</span> r <span class="hljs-keyword">in</span> result])

result = unmasker(<span class="hljs-string">&quot;This woman works as a [MASK].&quot;</span>)
<span class="hljs-built_in">print</span>([r[<span class="hljs-string">&quot;token_str&quot;</span>] <span class="hljs-keyword">for</span> r <span class="hljs-keyword">in</span> result])`,wrap:!1}}),u=new X({props:{code:"JTVCJ2xhd3llciclMkMlMjAnY2FycGVudGVyJyUyQyUyMCdkb2N0b3InJTJDJTIwJ3dhaXRlciclMkMlMjAnbWVjaGFuaWMnJTVEJTBBJTVCJ251cnNlJyUyQyUyMCd3YWl0cmVzcyclMkMlMjAndGVhY2hlciclMkMlMjAnbWFpZCclMkMlMjAncHJvc3RpdHV0ZSclNUQ=",highlighted:`[<span class="hljs-string">&#x27;lawyer&#x27;</span>, <span class="hljs-string">&#x27;carpenter&#x27;</span>, <span class="hljs-string">&#x27;doctor&#x27;</span>, <span class="hljs-string">&#x27;waiter&#x27;</span>, <span class="hljs-string">&#x27;mechanic&#x27;</span>]
[<span class="hljs-string">&#x27;nurse&#x27;</span>, <span class="hljs-string">&#x27;waitress&#x27;</span>, <span class="hljs-string">&#x27;teacher&#x27;</span>, <span class="hljs-string">&#x27;maid&#x27;</span>, <span class="hljs-string">&#x27;prostitute&#x27;</span>]`,wrap:!1}}),f=new an({props:{source:"https://github.com/huggingface/course/blob/main/chapters/vi/chapter1/8.mdx"}}),{c(){i=b("meta"),v=a(),J=b("p"),C=a(),M(h.$$.fragment),U=a(),M(r.$$.fragment),B=a(),M(c.$$.fragment),V=a(),p=b("p"),p.textContent=z,_=a(),o=b("p"),o.innerHTML=A,I=a(),M(m.$$.fragment),W=a(),M(u.$$.fragment),N=a(),g=b("p"),g.innerHTML=R,q=a(),y=b("p"),y.textContent=Z,E=a(),M(f.$$.fragment),G=a(),T=b("p"),this.h()},l(n){const t=nn("svelte-u9bgzb",document.head);i=d(t,"META",{name:!0,content:!0}),t.forEach(s),v=l(n),J=d(n,"P",{}),L(J).forEach(s),C=l(n),k(h.$$.fragment,n),U=l(n),k(r.$$.fragment,n),B=l(n),k(c.$$.fragment,n),V=l(n),p=d(n,"P",{"data-svelte-h":!0}),H(p)!=="svelte-8ys8k"&&(p.textContent=z),_=l(n),o=d(n,"P",{"data-svelte-h":!0}),H(o)!=="svelte-1vrf8m9"&&(o.innerHTML=A),I=l(n),k(m.$$.fragment,n),W=l(n),k(u.$$.fragment,n),N=l(n),g=d(n,"P",{"data-svelte-h":!0}),H(g)!=="svelte-uf6xt9"&&(g.innerHTML=R),q=l(n),y=d(n,"P",{"data-svelte-h":!0}),H(y)!=="svelte-aiafho"&&(y.textContent=Z),E=l(n),k(f.$$.fragment,n),G=l(n),T=d(n,"P",{}),L(T).forEach(s),this.h()},h(){P(i,"name","hf:doc:metadata"),P(i,"content",rn)},m(n,t){tn(document.head,i),e(n,v,t),e(n,J,t),e(n,C,t),$(h,n,t),e(n,U,t),$(r,n,t),e(n,B,t),$(c,n,t),e(n,V,t),e(n,p,t),e(n,_,t),e(n,o,t),e(n,I,t),$(m,n,t),e(n,W,t),$(u,n,t),e(n,N,t),e(n,g,t),e(n,q,t),e(n,y,t),e(n,E,t),$(f,n,t),e(n,G,t),e(n,T,t),Q=!0},p:Y,i(n){Q||(x(h.$$.fragment,n),x(r.$$.fragment,n),x(c.$$.fragment,n),x(m.$$.fragment,n),x(u.$$.fragment,n),x(f.$$.fragment,n),Q=!0)},o(n){w(h.$$.fragment,n),w(r.$$.fragment,n),w(c.$$.fragment,n),w(m.$$.fragment,n),w(u.$$.fragment,n),w(f.$$.fragment,n),Q=!1},d(n){n&&(s(v),s(J),s(C),s(U),s(B),s(V),s(p),s(_),s(o),s(I),s(W),s(N),s(g),s(q),s(y),s(E),s(G),s(T)),s(i),j(h,n),j(r,n),j(c,n),j(m,n),j(u,n),j(f,n)}}}const rn='{"title":"Thiên kiến và hạn chế","local":"thiên-kiến-và-hạn-chế","sections":[],"depth":1}';function cn(S){return K(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class yn extends D{constructor(i){super(),O(this,i,cn,hn,F,{})}}export{yn as component};
