import{s as _e,o as $e,n as Te}from"../chunks/scheduler.37c15a92.js";import{S as Ie,i as Ae,g as d,s as i,r as j,A as Ze,h as J,f as p,c as u,j as de,u as y,x as w,k as Je,y as Ce,a as M,v as f,t as c,b as v,d as m,w as U,p as B}from"../chunks/index.7cb9c9b8.js";import{T as we}from"../chunks/Tip.d10b3fc9.js";import{Y as he}from"../chunks/Youtube.8666c400.js";import{C as T}from"../chunks/CodeBlock.a6d3f852.js";import{C as ke}from"../chunks/CourseFloatingBanner.2c4a7381.js";import{F as Qe}from"../chunks/FrameworkSwitchCourse.97630871.js";import{H as Gl}from"../chunks/Heading.d3928e2a.js";function Ne(o){let e,a;return e=new ke({props:{chapter:2,classNames:"absolute z-10 right-0 top-0",notebooks:[{label:"Google Colab",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/en/chapter2/section5_tf.ipynb"},{label:"Aws Studio",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/en/chapter2/section5_tf.ipynb"}]}}),{c(){j(e.$$.fragment)},l(s){y(e.$$.fragment,s)},m(s,r){f(e,s,r),a=!0},i(s){a||(m(e.$$.fragment,s),a=!0)},o(s){c(e.$$.fragment,s),a=!1},d(s){U(e,s)}}}function ge(o){let e,a;return e=new ke({props:{chapter:2,classNames:"absolute z-10 right-0 top-0",notebooks:[{label:"Google Colab",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/en/chapter2/section5_pt.ipynb"},{label:"Aws Studio",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/en/chapter2/section5_pt.ipynb"}]}}),{c(){j(e.$$.fragment)},l(s){y(e.$$.fragment,s)},m(s,r){f(e,s,r),a=!0},i(s){a||(m(e.$$.fragment,s),a=!0)},o(s){c(e.$$.fragment,s),a=!1},d(s){U(e,s)}}}function Ve(o){let e,a;return e=new he({props:{id:"ROxrFOEbsQE"}}),{c(){j(e.$$.fragment)},l(s){y(e.$$.fragment,s)},m(s,r){f(e,s,r),a=!0},i(s){a||(m(e.$$.fragment,s),a=!0)},o(s){c(e.$$.fragment,s),a=!1},d(s){U(e,s)}}}function We(o){let e,a;return e=new he({props:{id:"M6adb1j2jPI"}}),{c(){j(e.$$.fragment)},l(s){y(e.$$.fragment,s)},m(s,r){f(e,s,r),a=!0},i(s){a||(m(e.$$.fragment,s),a=!0)},o(s){c(e.$$.fragment,s),a=!1},d(s){U(e,s)}}}function Ee(o){let e,a,s,r;return e=new T({props:{code:"aW1wb3J0JTIwdGVuc29yZmxvdyUyMGFzJTIwdGYlMEFmcm9tJTIwdHJhbnNmb3JtZXJzJTIwaW1wb3J0JTIwQXV0b1Rva2VuaXplciUyQyUyMFRGQXV0b01vZGVsRm9yU2VxdWVuY2VDbGFzc2lmaWNhdGlvbiUwQSUwQWNoZWNrcG9pbnQlMjAlM0QlMjAlMjJkaXN0aWxiZXJ0LWJhc2UtdW5jYXNlZC1maW5ldHVuZWQtc3N0LTItZW5nbGlzaCUyMiUwQXRva2VuaXplciUyMCUzRCUyMEF1dG9Ub2tlbml6ZXIuZnJvbV9wcmV0cmFpbmVkKGNoZWNrcG9pbnQpJTBBbW9kZWwlMjAlM0QlMjBURkF1dG9Nb2RlbEZvclNlcXVlbmNlQ2xhc3NpZmljYXRpb24uZnJvbV9wcmV0cmFpbmVkKGNoZWNrcG9pbnQpJTBBJTBBc2VxdWVuY2UlMjAlM0QlMjAlMjJJJ3ZlJTIwYmVlbiUyMHdhaXRpbmclMjBmb3IlMjBhJTIwSHVnZ2luZ0ZhY2UlMjBjb3Vyc2UlMjBteSUyMHdob2xlJTIwbGlmZS4lMjIlMEElMEF0b2tlbnMlMjAlM0QlMjB0b2tlbml6ZXIudG9rZW5pemUoc2VxdWVuY2UpJTBBaWRzJTIwJTNEJTIwdG9rZW5pemVyLmNvbnZlcnRfdG9rZW5zX3RvX2lkcyh0b2tlbnMpJTBBaW5wdXRfaWRzJTIwJTNEJTIwdGYuY29uc3RhbnQoaWRzKSUwQSUyMyUyMFRoaXMlMjBsaW5lJTIwd2lsbCUyMGZhaWwuJTBBbW9kZWwoaW5wdXRfaWRzKQ==",highlighted:`<span class="hljs-keyword">import</span> tensorflow <span class="hljs-keyword">as</span> tf
<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoTokenizer, TFAutoModelForSequenceClassification

checkpoint = <span class="hljs-string">&quot;distilbert-base-uncased-finetuned-sst-2-english&quot;</span>
tokenizer = AutoTokenizer.from_pretrained(checkpoint)
model = TFAutoModelForSequenceClassification.from_pretrained(checkpoint)

sequence = <span class="hljs-string">&quot;I&#x27;ve been waiting for a HuggingFace course my whole life.&quot;</span>

tokens = tokenizer.tokenize(sequence)
ids = tokenizer.convert_tokens_to_ids(tokens)
input_ids = tf.constant(ids)
<span class="hljs-comment"># This line will fail.</span>
model(input_ids)`,wrap:!1}}),s=new T({props:{code:"SW52YWxpZEFyZ3VtZW50RXJyb3IlM0ElMjBJbnB1dCUyMHRvJTIwcmVzaGFwZSUyMGlzJTIwYSUyMHRlbnNvciUyMHdpdGglMjAxNCUyMHZhbHVlcyUyQyUyMGJ1dCUyMHRoZSUyMHJlcXVlc3RlZCUyMHNoYXBlJTIwaGFzJTIwMTk2JTIwJTVCT3AlM0FSZXNoYXBlJTVE",highlighted:'InvalidArgumentError: Input to reshape <span class="hljs-keyword">is</span> a tensor <span class="hljs-keyword">with</span> <span class="hljs-number">14</span> values, but the requested shape has <span class="hljs-number">196</span> [Op:Reshape]',wrap:!1}}),{c(){j(e.$$.fragment),a=i(),j(s.$$.fragment)},l(n){y(e.$$.fragment,n),a=u(n),y(s.$$.fragment,n)},m(n,b){f(e,n,b),M(n,a,b),f(s,n,b),r=!0},i(n){r||(m(e.$$.fragment,n),m(s.$$.fragment,n),r=!0)},o(n){c(e.$$.fragment,n),c(s.$$.fragment,n),r=!1},d(n){n&&p(a),U(e,n),U(s,n)}}}function ze(o){let e,a,s,r;return e=new T({props:{code:"aW1wb3J0JTIwdG9yY2glMEFmcm9tJTIwdHJhbnNmb3JtZXJzJTIwaW1wb3J0JTIwQXV0b1Rva2VuaXplciUyQyUyMEF1dG9Nb2RlbEZvclNlcXVlbmNlQ2xhc3NpZmljYXRpb24lMEElMEFjaGVja3BvaW50JTIwJTNEJTIwJTIyZGlzdGlsYmVydC1iYXNlLXVuY2FzZWQtZmluZXR1bmVkLXNzdC0yLWVuZ2xpc2glMjIlMEF0b2tlbml6ZXIlMjAlM0QlMjBBdXRvVG9rZW5pemVyLmZyb21fcHJldHJhaW5lZChjaGVja3BvaW50KSUwQW1vZGVsJTIwJTNEJTIwQXV0b01vZGVsRm9yU2VxdWVuY2VDbGFzc2lmaWNhdGlvbi5mcm9tX3ByZXRyYWluZWQoY2hlY2twb2ludCklMEElMEFzZXF1ZW5jZSUyMCUzRCUyMCUyMkkndmUlMjBiZWVuJTIwd2FpdGluZyUyMGZvciUyMGElMjBIdWdnaW5nRmFjZSUyMGNvdXJzZSUyMG15JTIwd2hvbGUlMjBsaWZlLiUyMiUwQSUwQXRva2VucyUyMCUzRCUyMHRva2VuaXplci50b2tlbml6ZShzZXF1ZW5jZSklMEFpZHMlMjAlM0QlMjB0b2tlbml6ZXIuY29udmVydF90b2tlbnNfdG9faWRzKHRva2VucyklMEFpbnB1dF9pZHMlMjAlM0QlMjB0b3JjaC50ZW5zb3IoaWRzKSUwQSUyMyUyMFRoaXMlMjBsaW5lJTIwd2lsbCUyMGZhaWwuJTBBbW9kZWwoaW5wdXRfaWRzKQ==",highlighted:`<span class="hljs-keyword">import</span> torch
<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoTokenizer, AutoModelForSequenceClassification

checkpoint = <span class="hljs-string">&quot;distilbert-base-uncased-finetuned-sst-2-english&quot;</span>
tokenizer = AutoTokenizer.from_pretrained(checkpoint)
model = AutoModelForSequenceClassification.from_pretrained(checkpoint)

sequence = <span class="hljs-string">&quot;I&#x27;ve been waiting for a HuggingFace course my whole life.&quot;</span>

tokens = tokenizer.tokenize(sequence)
ids = tokenizer.convert_tokens_to_ids(tokens)
input_ids = torch.tensor(ids)
<span class="hljs-comment"># This line will fail.</span>
model(input_ids)`,wrap:!1}}),s=new T({props:{code:"SW5kZXhFcnJvciUzQSUyMERpbWVuc2lvbiUyMG91dCUyMG9mJTIwcmFuZ2UlMjAoZXhwZWN0ZWQlMjB0byUyMGJlJTIwaW4lMjByYW5nZSUyMG9mJTIwJTVCLTElMkMlMjAwJTVEJTJDJTIwYnV0JTIwZ290JTIwMSk=",highlighted:'IndexError: Dimension out of <span class="hljs-built_in">range</span> (expected to be <span class="hljs-keyword">in</span> <span class="hljs-built_in">range</span> of [-<span class="hljs-number">1</span>, <span class="hljs-number">0</span>], but got <span class="hljs-number">1</span>)',wrap:!1}}),{c(){j(e.$$.fragment),a=i(),j(s.$$.fragment)},l(n){y(e.$$.fragment,n),a=u(n),y(s.$$.fragment,n)},m(n,b){f(e,n,b),M(n,a,b),f(s,n,b),r=!0},i(n){r||(m(e.$$.fragment,n),m(s.$$.fragment,n),r=!0)},o(n){c(e.$$.fragment,n),c(s.$$.fragment,n),r=!1},d(n){n&&p(a),U(e,n),U(s,n)}}}function Re(o){let e,a,s,r;return e=new T({props:{code:"dG9rZW5pemVkX2lucHV0cyUyMCUzRCUyMHRva2VuaXplcihzZXF1ZW5jZSUyQyUyMHJldHVybl90ZW5zb3JzJTNEJTIydGYlMjIpJTBBcHJpbnQodG9rZW5pemVkX2lucHV0cyU1QiUyMmlucHV0X2lkcyUyMiU1RCk=",highlighted:`tokenized_inputs = tokenizer(sequence, return_tensors=<span class="hljs-string">&quot;tf&quot;</span>)
<span class="hljs-built_in">print</span>(tokenized_inputs[<span class="hljs-string">&quot;input_ids&quot;</span>])`,wrap:!1}}),s=new T({props:{code:"JTNDdGYuVGVuc29yJTNBJTIwc2hhcGUlM0QoMSUyQyUyMDE2KSUyQyUyMGR0eXBlJTNEaW50MzIlMkMlMjBudW1weSUzRCUwQWFycmF5KCU1QiU1QiUyMCUyMDEwMSUyQyUyMCUyMDEwNDUlMkMlMjAlMjAxMDA1JTJDJTIwJTIwMjMxMCUyQyUyMCUyMDIwNDIlMkMlMjAlMjAzNDAzJTJDJTIwJTIwMjAwNSUyQyUyMCUyMDEwMzclMkMlMjAxNzY2MiUyQyUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMDEyMTcyJTJDJTIwJTIwMjYwNyUyQyUyMCUyMDIwMjYlMkMlMjAlMjAyODc4JTJDJTIwJTIwMjE2NiUyQyUyMCUyMDEwMTIlMkMlMjAlMjAlMjAxMDIlNUQlNUQlMkMlMjBkdHlwZSUzRGludDMyKSUzRQ==",highlighted:`&lt;tf.Tensor: shape=(<span class="hljs-number">1</span>, <span class="hljs-number">16</span>), dtype=int32, numpy=
array([[  <span class="hljs-number">101</span>,  <span class="hljs-number">1045</span>,  <span class="hljs-number">1005</span>,  <span class="hljs-number">2310</span>,  <span class="hljs-number">2042</span>,  <span class="hljs-number">3403</span>,  <span class="hljs-number">2005</span>,  <span class="hljs-number">1037</span>, <span class="hljs-number">17662</span>,
        <span class="hljs-number">12172</span>,  <span class="hljs-number">2607</span>,  <span class="hljs-number">2026</span>,  <span class="hljs-number">2878</span>,  <span class="hljs-number">2166</span>,  <span class="hljs-number">1012</span>,   <span class="hljs-number">102</span>]], dtype=int32)&gt;`,wrap:!1}}),{c(){j(e.$$.fragment),a=i(),j(s.$$.fragment)},l(n){y(e.$$.fragment,n),a=u(n),y(s.$$.fragment,n)},m(n,b){f(e,n,b),M(n,a,b),f(s,n,b),r=!0},i(n){r||(m(e.$$.fragment,n),m(s.$$.fragment,n),r=!0)},o(n){c(e.$$.fragment,n),c(s.$$.fragment,n),r=!1},d(n){n&&p(a),U(e,n),U(s,n)}}}function Ge(o){let e,a,s,r;return e=new T({props:{code:"dG9rZW5pemVkX2lucHV0cyUyMCUzRCUyMHRva2VuaXplcihzZXF1ZW5jZSUyQyUyMHJldHVybl90ZW5zb3JzJTNEJTIycHQlMjIpJTBBcHJpbnQodG9rZW5pemVkX2lucHV0cyU1QiUyMmlucHV0X2lkcyUyMiU1RCk=",highlighted:`tokenized_inputs = tokenizer(sequence, return_tensors=<span class="hljs-string">&quot;pt&quot;</span>)
<span class="hljs-built_in">print</span>(tokenized_inputs[<span class="hljs-string">&quot;input_ids&quot;</span>])`,wrap:!1}}),s=new T({props:{code:"dGVuc29yKCU1QiU1QiUyMCUyMDEwMSUyQyUyMCUyMDEwNDUlMkMlMjAlMjAxMDA1JTJDJTIwJTIwMjMxMCUyQyUyMCUyMDIwNDIlMkMlMjAlMjAzNDAzJTJDJTIwJTIwMjAwNSUyQyUyMCUyMDEwMzclMkMlMjAxNzY2MiUyQyUyMDEyMTcyJTJDJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwMjYwNyUyQyUyMCUyMDIwMjYlMkMlMjAlMjAyODc4JTJDJTIwJTIwMjE2NiUyQyUyMCUyMDEwMTIlMkMlMjAlMjAlMjAxMDIlNUQlNUQp",highlighted:`tensor([[  <span class="hljs-number">101</span>,  <span class="hljs-number">1045</span>,  <span class="hljs-number">1005</span>,  <span class="hljs-number">2310</span>,  <span class="hljs-number">2042</span>,  <span class="hljs-number">3403</span>,  <span class="hljs-number">2005</span>,  <span class="hljs-number">1037</span>, <span class="hljs-number">17662</span>, <span class="hljs-number">12172</span>,
          <span class="hljs-number">2607</span>,  <span class="hljs-number">2026</span>,  <span class="hljs-number">2878</span>,  <span class="hljs-number">2166</span>,  <span class="hljs-number">1012</span>,   <span class="hljs-number">102</span>]])`,wrap:!1}}),{c(){j(e.$$.fragment),a=i(),j(s.$$.fragment)},l(n){y(e.$$.fragment,n),a=u(n),y(s.$$.fragment,n)},m(n,b){f(e,n,b),M(n,a,b),f(s,n,b),r=!0},i(n){r||(m(e.$$.fragment,n),m(s.$$.fragment,n),r=!0)},o(n){c(e.$$.fragment,n),c(s.$$.fragment,n),r=!1},d(n){n&&p(a),U(e,n),U(s,n)}}}function Xe(o){let e,a;return e=new T({props:{code:"aW1wb3J0JTIwdGVuc29yZmxvdyUyMGFzJTIwdGYlMEFmcm9tJTIwdHJhbnNmb3JtZXJzJTIwaW1wb3J0JTIwQXV0b1Rva2VuaXplciUyQyUyMFRGQXV0b01vZGVsRm9yU2VxdWVuY2VDbGFzc2lmaWNhdGlvbiUwQSUwQWNoZWNrcG9pbnQlMjAlM0QlMjAlMjJkaXN0aWxiZXJ0LWJhc2UtdW5jYXNlZC1maW5ldHVuZWQtc3N0LTItZW5nbGlzaCUyMiUwQXRva2VuaXplciUyMCUzRCUyMEF1dG9Ub2tlbml6ZXIuZnJvbV9wcmV0cmFpbmVkKGNoZWNrcG9pbnQpJTBBbW9kZWwlMjAlM0QlMjBURkF1dG9Nb2RlbEZvclNlcXVlbmNlQ2xhc3NpZmljYXRpb24uZnJvbV9wcmV0cmFpbmVkKGNoZWNrcG9pbnQpJTBBJTBBc2VxdWVuY2UlMjAlM0QlMjAlMjJJJ3ZlJTIwYmVlbiUyMHdhaXRpbmclMjBmb3IlMjBhJTIwSHVnZ2luZ0ZhY2UlMjBjb3Vyc2UlMjBteSUyMHdob2xlJTIwbGlmZS4lMjIlMEElMEF0b2tlbnMlMjAlM0QlMjB0b2tlbml6ZXIudG9rZW5pemUoc2VxdWVuY2UpJTBBaWRzJTIwJTNEJTIwdG9rZW5pemVyLmNvbnZlcnRfdG9rZW5zX3RvX2lkcyh0b2tlbnMpJTBBJTBBaW5wdXRfaWRzJTIwJTNEJTIwdGYuY29uc3RhbnQoJTVCaWRzJTVEKSUwQXByaW50KCUyMklucHV0JTIwSURzJTNBJTIyJTJDJTIwaW5wdXRfaWRzKSUwQSUwQW91dHB1dCUyMCUzRCUyMG1vZGVsKGlucHV0X2lkcyklMEFwcmludCglMjJMb2dpdHMlM0ElMjIlMkMlMjBvdXRwdXQubG9naXRzKQ==",highlighted:`<span class="hljs-keyword">import</span> tensorflow <span class="hljs-keyword">as</span> tf
<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoTokenizer, TFAutoModelForSequenceClassification

checkpoint = <span class="hljs-string">&quot;distilbert-base-uncased-finetuned-sst-2-english&quot;</span>
tokenizer = AutoTokenizer.from_pretrained(checkpoint)
model = TFAutoModelForSequenceClassification.from_pretrained(checkpoint)

sequence = <span class="hljs-string">&quot;I&#x27;ve been waiting for a HuggingFace course my whole life.&quot;</span>

tokens = tokenizer.tokenize(sequence)
ids = tokenizer.convert_tokens_to_ids(tokens)

input_ids = tf.constant([ids])
<span class="hljs-built_in">print</span>(<span class="hljs-string">&quot;Input IDs:&quot;</span>, input_ids)

output = model(input_ids)
<span class="hljs-built_in">print</span>(<span class="hljs-string">&quot;Logits:&quot;</span>, output.logits)`,wrap:!1}}),{c(){j(e.$$.fragment)},l(s){y(e.$$.fragment,s)},m(s,r){f(e,s,r),a=!0},i(s){a||(m(e.$$.fragment,s),a=!0)},o(s){c(e.$$.fragment,s),a=!1},d(s){U(e,s)}}}function ve(o){let e,a;return e=new T({props:{code:"aW1wb3J0JTIwdG9yY2glMEFmcm9tJTIwdHJhbnNmb3JtZXJzJTIwaW1wb3J0JTIwQXV0b1Rva2VuaXplciUyQyUyMEF1dG9Nb2RlbEZvclNlcXVlbmNlQ2xhc3NpZmljYXRpb24lMEElMEFjaGVja3BvaW50JTIwJTNEJTIwJTIyZGlzdGlsYmVydC1iYXNlLXVuY2FzZWQtZmluZXR1bmVkLXNzdC0yLWVuZ2xpc2glMjIlMEF0b2tlbml6ZXIlMjAlM0QlMjBBdXRvVG9rZW5pemVyLmZyb21fcHJldHJhaW5lZChjaGVja3BvaW50KSUwQW1vZGVsJTIwJTNEJTIwQXV0b01vZGVsRm9yU2VxdWVuY2VDbGFzc2lmaWNhdGlvbi5mcm9tX3ByZXRyYWluZWQoY2hlY2twb2ludCklMEElMEFzZXF1ZW5jZSUyMCUzRCUyMCUyMkkndmUlMjBiZWVuJTIwd2FpdGluZyUyMGZvciUyMGElMjBIdWdnaW5nRmFjZSUyMGNvdXJzZSUyMG15JTIwd2hvbGUlMjBsaWZlLiUyMiUwQSUwQXRva2VucyUyMCUzRCUyMHRva2VuaXplci50b2tlbml6ZShzZXF1ZW5jZSklMEFpZHMlMjAlM0QlMjB0b2tlbml6ZXIuY29udmVydF90b2tlbnNfdG9faWRzKHRva2VucyklMEElMEFpbnB1dF9pZHMlMjAlM0QlMjB0b3JjaC50ZW5zb3IoJTVCaWRzJTVEKSUwQXByaW50KCUyMklucHV0JTIwSURzJTNBJTIyJTJDJTIwaW5wdXRfaWRzKSUwQSUwQW91dHB1dCUyMCUzRCUyMG1vZGVsKGlucHV0X2lkcyklMEFwcmludCglMjJMb2dpdHMlM0ElMjIlMkMlMjBvdXRwdXQubG9naXRzKQ==",highlighted:`<span class="hljs-keyword">import</span> torch
<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoTokenizer, AutoModelForSequenceClassification

checkpoint = <span class="hljs-string">&quot;distilbert-base-uncased-finetuned-sst-2-english&quot;</span>
tokenizer = AutoTokenizer.from_pretrained(checkpoint)
model = AutoModelForSequenceClassification.from_pretrained(checkpoint)

sequence = <span class="hljs-string">&quot;I&#x27;ve been waiting for a HuggingFace course my whole life.&quot;</span>

tokens = tokenizer.tokenize(sequence)
ids = tokenizer.convert_tokens_to_ids(tokens)

input_ids = torch.tensor([ids])
<span class="hljs-built_in">print</span>(<span class="hljs-string">&quot;Input IDs:&quot;</span>, input_ids)

output = model(input_ids)
<span class="hljs-built_in">print</span>(<span class="hljs-string">&quot;Logits:&quot;</span>, output.logits)`,wrap:!1}}),{c(){j(e.$$.fragment)},l(s){y(e.$$.fragment,s)},m(s,r){f(e,s,r),a=!0},i(s){a||(m(e.$$.fragment,s),a=!0)},o(s){c(e.$$.fragment,s),a=!1},d(s){U(e,s)}}}function Be(o){let e,a;return e=new T({props:{code:"SW5wdXQlMjBJRHMlM0ElMjB0Zi5UZW5zb3IoJTBBJTVCJTVCJTIwMTA0NSUyMCUyMDEwMDUlMjAlMjAyMzEwJTIwJTIwMjA0MiUyMCUyMDM0MDMlMjAlMjAyMDA1JTIwJTIwMTAzNyUyMDE3NjYyJTIwMTIxNzIlMjAlMjAyNjA3JTIwJTIwMjAyNiUyMCUyMDI4NzglMEElMjAlMjAlMjAyMTY2JTIwJTIwMTAxMiU1RCU1RCUyQyUyMHNoYXBlJTNEKDElMkMlMjAxNCklMkMlMjBkdHlwZSUzRGludDMyKSUwQUxvZ2l0cyUzQSUyMHRmLlRlbnNvciglNUIlNUItMi43Mjc2MjA4JTIwJTIwMi44Nzg5Mzc3JTVEJTVEJTJDJTIwc2hhcGUlM0QoMSUyQyUyMDIpJTJDJTIwZHR5cGUlM0RmbG9hdDMyKQ==",highlighted:`Input IDs: tf.Tensor(
[[ <span class="hljs-number">1045</span>  <span class="hljs-number">1005</span>  <span class="hljs-number">2310</span>  <span class="hljs-number">2042</span>  <span class="hljs-number">3403</span>  <span class="hljs-number">2005</span>  <span class="hljs-number">1037</span> <span class="hljs-number">17662</span> <span class="hljs-number">12172</span>  <span class="hljs-number">2607</span>  <span class="hljs-number">2026</span>  <span class="hljs-number">2878</span>
   <span class="hljs-number">2166</span>  <span class="hljs-number">1012</span>]], shape=(<span class="hljs-number">1</span>, <span class="hljs-number">14</span>), dtype=int32)
Logits: tf.Tensor([[-<span class="hljs-number">2.7276208</span>  <span class="hljs-number">2.8789377</span>]], shape=(<span class="hljs-number">1</span>, <span class="hljs-number">2</span>), dtype=float32)`,wrap:!1}}),{c(){j(e.$$.fragment)},l(s){y(e.$$.fragment,s)},m(s,r){f(e,s,r),a=!0},i(s){a||(m(e.$$.fragment,s),a=!0)},o(s){c(e.$$.fragment,s),a=!1},d(s){U(e,s)}}}function De(o){let e,a;return e=new T({props:{code:"SW5wdXQlMjBJRHMlM0ElMjAlNUIlNUIlMjAxMDQ1JTJDJTIwJTIwMTAwNSUyQyUyMCUyMDIzMTAlMkMlMjAlMjAyMDQyJTJDJTIwJTIwMzQwMyUyQyUyMCUyMDIwMDUlMkMlMjAlMjAxMDM3JTJDJTIwMTc2NjIlMkMlMjAxMjE3MiUyQyUyMCUyMDI2MDclMkMlMjAyMDI2JTJDJTIwJTIwMjg3OCUyQyUyMCUyMDIxNjYlMkMlMjAlMjAxMDEyJTVEJTVEJTBBTG9naXRzJTNBJTIwJTVCJTVCLTIuNzI3NiUyQyUyMCUyMDIuODc4OSU1RCU1RA==",highlighted:`Input IDs: [[ <span class="hljs-number">1045</span>,  <span class="hljs-number">1005</span>,  <span class="hljs-number">2310</span>,  <span class="hljs-number">2042</span>,  <span class="hljs-number">3403</span>,  <span class="hljs-number">2005</span>,  <span class="hljs-number">1037</span>, <span class="hljs-number">17662</span>, <span class="hljs-number">12172</span>,  <span class="hljs-number">2607</span>, <span class="hljs-number">2026</span>,  <span class="hljs-number">2878</span>,  <span class="hljs-number">2166</span>,  <span class="hljs-number">1012</span>]]
Logits: [[-<span class="hljs-number">2.7276</span>,  <span class="hljs-number">2.8789</span>]]`,wrap:!1}}),{c(){j(e.$$.fragment)},l(s){y(e.$$.fragment,s)},m(s,r){f(e,s,r),a=!0},i(s){a||(m(e.$$.fragment,s),a=!0)},o(s){c(e.$$.fragment,s),a=!1},d(s){U(e,s)}}}function Fe(o){let e,a="✏️ <strong>試してみよう！</strong> この <code>batch_ids</code> をテンソルに変換し、モデルに入力してみましょう。前と同じロジット（モデル出力）が得られることを確認してください（ただし、二重になっていることに注意してください）。";return{c(){e=d("p"),e.innerHTML=a},l(s){e=J(s,"P",{"data-svelte-h":!0}),w(e)!=="svelte-9x4xeh"&&(e.innerHTML=a)},m(s,r){M(s,e,r)},p:Te,d(s){s&&p(e)}}}function He(o){let e,a,s,r;return e=new T({props:{code:"bW9kZWwlMjAlM0QlMjBURkF1dG9Nb2RlbEZvclNlcXVlbmNlQ2xhc3NpZmljYXRpb24uZnJvbV9wcmV0cmFpbmVkKGNoZWNrcG9pbnQpJTBBJTBBc2VxdWVuY2UxX2lkcyUyMCUzRCUyMCU1QiU1QjIwMCUyQyUyMDIwMCUyQyUyMDIwMCU1RCU1RCUwQXNlcXVlbmNlMl9pZHMlMjAlM0QlMjAlNUIlNUIyMDAlMkMlMjAyMDAlNUQlNUQlMEFiYXRjaGVkX2lkcyUyMCUzRCUyMCU1QiUwQSUyMCUyMCUyMCUyMCU1QjIwMCUyQyUyMDIwMCUyQyUyMDIwMCU1RCUyQyUwQSUyMCUyMCUyMCUyMCU1QjIwMCUyQyUyMDIwMCUyQyUyMHRva2VuaXplci5wYWRfdG9rZW5faWQlNUQlMkMlMEElNUQlMEElMEFwcmludChtb2RlbCh0Zi5jb25zdGFudChzZXF1ZW5jZTFfaWRzKSkubG9naXRzKSUwQXByaW50KG1vZGVsKHRmLmNvbnN0YW50KHNlcXVlbmNlMl9pZHMpKS5sb2dpdHMpJTBBcHJpbnQobW9kZWwodGYuY29uc3RhbnQoYmF0Y2hlZF9pZHMpKS5sb2dpdHMp",highlighted:`model = TFAutoModelForSequenceClassification.from_pretrained(checkpoint)

sequence1_ids = [[<span class="hljs-number">200</span>, <span class="hljs-number">200</span>, <span class="hljs-number">200</span>]]
sequence2_ids = [[<span class="hljs-number">200</span>, <span class="hljs-number">200</span>]]
batched_ids = [
    [<span class="hljs-number">200</span>, <span class="hljs-number">200</span>, <span class="hljs-number">200</span>],
    [<span class="hljs-number">200</span>, <span class="hljs-number">200</span>, tokenizer.pad_token_id],
]

<span class="hljs-built_in">print</span>(model(tf.constant(sequence1_ids)).logits)
<span class="hljs-built_in">print</span>(model(tf.constant(sequence2_ids)).logits)
<span class="hljs-built_in">print</span>(model(tf.constant(batched_ids)).logits)`,wrap:!1}}),s=new T({props:{code:"dGYuVGVuc29yKCU1QiU1QiUyMDEuNTY5MzY3OCUyMC0xLjM4OTQ1ODElNUQlNUQlMkMlMjBzaGFwZSUzRCgxJTJDJTIwMiklMkMlMjBkdHlwZSUzRGZsb2F0MzIpJTBBdGYuVGVuc29yKCU1QiU1QiUyMDAuNTgwMzAwNSUyMCUyMC0wLjQxMjUyNDI4JTVEJTVEJTJDJTIwc2hhcGUlM0QoMSUyQyUyMDIpJTJDJTIwZHR5cGUlM0RmbG9hdDMyKSUwQXRmLlRlbnNvciglMEElNUIlNUIlMjAxLjU2OTM2ODElMjAtMS4zODk0NTgyJTVEJTBBJTIwJTVCJTIwMS4zMzczNDg2JTIwLTEuMjE2MzE5MyU1RCU1RCUyQyUyMHNoYXBlJTNEKDIlMkMlMjAyKSUyQyUyMGR0eXBlJTNEZmxvYXQzMik=",highlighted:`tf.Tensor([[ <span class="hljs-number">1.5693678</span> -<span class="hljs-number">1.3894581</span>]], shape=(<span class="hljs-number">1</span>, <span class="hljs-number">2</span>), dtype=float32)
tf.Tensor([[ <span class="hljs-number">0.5803005</span>  -<span class="hljs-number">0.41252428</span>]], shape=(<span class="hljs-number">1</span>, <span class="hljs-number">2</span>), dtype=float32)
tf.Tensor(
[[ <span class="hljs-number">1.5693681</span> -<span class="hljs-number">1.3894582</span>]
 [ <span class="hljs-number">1.3373486</span> -<span class="hljs-number">1.2163193</span>]], shape=(<span class="hljs-number">2</span>, <span class="hljs-number">2</span>), dtype=float32)`,wrap:!1}}),{c(){j(e.$$.fragment),a=i(),j(s.$$.fragment)},l(n){y(e.$$.fragment,n),a=u(n),y(s.$$.fragment,n)},m(n,b){f(e,n,b),M(n,a,b),f(s,n,b),r=!0},i(n){r||(m(e.$$.fragment,n),m(s.$$.fragment,n),r=!0)},o(n){c(e.$$.fragment,n),c(s.$$.fragment,n),r=!1},d(n){n&&p(a),U(e,n),U(s,n)}}}function xe(o){let e,a,s,r;return e=new T({props:{code:"bW9kZWwlMjAlM0QlMjBBdXRvTW9kZWxGb3JTZXF1ZW5jZUNsYXNzaWZpY2F0aW9uLmZyb21fcHJldHJhaW5lZChjaGVja3BvaW50KSUwQSUwQXNlcXVlbmNlMV9pZHMlMjAlM0QlMjAlNUIlNUIyMDAlMkMlMjAyMDAlMkMlMjAyMDAlNUQlNUQlMEFzZXF1ZW5jZTJfaWRzJTIwJTNEJTIwJTVCJTVCMjAwJTJDJTIwMjAwJTVEJTVEJTBBYmF0Y2hlZF9pZHMlMjAlM0QlMjAlNUIlMEElMjAlMjAlMjAlMjAlNUIyMDAlMkMlMjAyMDAlMkMlMjAyMDAlNUQlMkMlMEElMjAlMjAlMjAlMjAlNUIyMDAlMkMlMjAyMDAlMkMlMjB0b2tlbml6ZXIucGFkX3Rva2VuX2lkJTVEJTJDJTBBJTVEJTBBJTBBcHJpbnQobW9kZWwodG9yY2gudGVuc29yKHNlcXVlbmNlMV9pZHMpKS5sb2dpdHMpJTBBcHJpbnQobW9kZWwodG9yY2gudGVuc29yKHNlcXVlbmNlMl9pZHMpKS5sb2dpdHMpJTBBcHJpbnQobW9kZWwodG9yY2gudGVuc29yKGJhdGNoZWRfaWRzKSkubG9naXRzKQ==",highlighted:`model = AutoModelForSequenceClassification.from_pretrained(checkpoint)

sequence1_ids = [[<span class="hljs-number">200</span>, <span class="hljs-number">200</span>, <span class="hljs-number">200</span>]]
sequence2_ids = [[<span class="hljs-number">200</span>, <span class="hljs-number">200</span>]]
batched_ids = [
    [<span class="hljs-number">200</span>, <span class="hljs-number">200</span>, <span class="hljs-number">200</span>],
    [<span class="hljs-number">200</span>, <span class="hljs-number">200</span>, tokenizer.pad_token_id],
]

<span class="hljs-built_in">print</span>(model(torch.tensor(sequence1_ids)).logits)
<span class="hljs-built_in">print</span>(model(torch.tensor(sequence2_ids)).logits)
<span class="hljs-built_in">print</span>(model(torch.tensor(batched_ids)).logits)`,wrap:!1}}),s=new T({props:{code:"dGVuc29yKCU1QiU1QiUyMDEuNTY5NCUyQyUyMC0xLjM4OTUlNUQlNUQlMkMlMjBncmFkX2ZuJTNEJTNDQWRkbW1CYWNrd2FyZCUzRSklMEF0ZW5zb3IoJTVCJTVCJTIwMC41ODAzJTJDJTIwLTAuNDEyNSU1RCU1RCUyQyUyMGdyYWRfZm4lM0QlM0NBZGRtbUJhY2t3YXJkJTNFKSUwQXRlbnNvciglNUIlNUIlMjAxLjU2OTQlMkMlMjAtMS4zODk1JTVEJTJDJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTVCJTIwMS4zMzczJTJDJTIwLTEuMjE2MyU1RCU1RCUyQyUyMGdyYWRfZm4lM0QlM0NBZGRtbUJhY2t3YXJkJTNFKQ==",highlighted:`tensor([[ <span class="hljs-number">1.5694</span>, -<span class="hljs-number">1.3895</span>]], grad_fn=&lt;AddmmBackward&gt;)
tensor([[ <span class="hljs-number">0.5803</span>, -<span class="hljs-number">0.4125</span>]], grad_fn=&lt;AddmmBackward&gt;)
tensor([[ <span class="hljs-number">1.5694</span>, -<span class="hljs-number">1.3895</span>],
        [ <span class="hljs-number">1.3373</span>, -<span class="hljs-number">1.2163</span>]], grad_fn=&lt;AddmmBackward&gt;)`,wrap:!1}}),{c(){j(e.$$.fragment),a=i(),j(s.$$.fragment)},l(n){y(e.$$.fragment,n),a=u(n),y(s.$$.fragment,n)},m(n,b){f(e,n,b),M(n,a,b),f(s,n,b),r=!0},i(n){r||(m(e.$$.fragment,n),m(s.$$.fragment,n),r=!0)},o(n){c(e.$$.fragment,n),c(s.$$.fragment,n),r=!1},d(n){n&&p(a),U(e,n),U(s,n)}}}function Se(o){let e,a,s,r;return e=new T({props:{code:"YmF0Y2hlZF9pZHMlMjAlM0QlMjAlNUIlMEElMjAlMjAlMjAlMjAlNUIyMDAlMkMlMjAyMDAlMkMlMjAyMDAlNUQlMkMlMEElMjAlMjAlMjAlMjAlNUIyMDAlMkMlMjAyMDAlMkMlMjB0b2tlbml6ZXIucGFkX3Rva2VuX2lkJTVEJTJDJTBBJTVEJTBBJTBBYXR0ZW50aW9uX21hc2slMjAlM0QlMjAlNUIlMEElMjAlMjAlMjAlMjAlNUIxJTJDJTIwMSUyQyUyMDElNUQlMkMlMEElMjAlMjAlMjAlMjAlNUIxJTJDJTIwMSUyQyUyMDAlNUQlMkMlMEElNUQlMEElMEFvdXRwdXRzJTIwJTNEJTIwbW9kZWwodGYuY29uc3RhbnQoYmF0Y2hlZF9pZHMpJTJDJTIwYXR0ZW50aW9uX21hc2slM0R0Zi5jb25zdGFudChhdHRlbnRpb25fbWFzaykpJTBBcHJpbnQob3V0cHV0cy5sb2dpdHMp",highlighted:`batched_ids = [
    [<span class="hljs-number">200</span>, <span class="hljs-number">200</span>, <span class="hljs-number">200</span>],
    [<span class="hljs-number">200</span>, <span class="hljs-number">200</span>, tokenizer.pad_token_id],
]

attention_mask = [
    [<span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>],
    [<span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">0</span>],
]

outputs = model(tf.constant(batched_ids), attention_mask=tf.constant(attention_mask))
<span class="hljs-built_in">print</span>(outputs.logits)`,wrap:!1}}),s=new T({props:{code:"dGYuVGVuc29yKCUwQSU1QiU1QiUyMDEuNTY5MzY4MSUyMCUyMC0xLjM4OTQ1ODIlMjAlNUQlMEElMjAlNUIlMjAwLjU4MDMwMjElMjAlMjAtMC40MTI1MjU4NiU1RCU1RCUyQyUyMHNoYXBlJTNEKDIlMkMlMjAyKSUyQyUyMGR0eXBlJTNEZmxvYXQzMik=",highlighted:`tf.Tensor(
[[ <span class="hljs-number">1.5693681</span>  -<span class="hljs-number">1.3894582</span> ]
 [ <span class="hljs-number">0.5803021</span>  -<span class="hljs-number">0.41252586</span>]], shape=(<span class="hljs-number">2</span>, <span class="hljs-number">2</span>), dtype=float32)`,wrap:!1}}),{c(){j(e.$$.fragment),a=i(),j(s.$$.fragment)},l(n){y(e.$$.fragment,n),a=u(n),y(s.$$.fragment,n)},m(n,b){f(e,n,b),M(n,a,b),f(s,n,b),r=!0},i(n){r||(m(e.$$.fragment,n),m(s.$$.fragment,n),r=!0)},o(n){c(e.$$.fragment,n),c(s.$$.fragment,n),r=!1},d(n){n&&p(a),U(e,n),U(s,n)}}}function Ye(o){let e,a,s,r;return e=new T({props:{code:"YmF0Y2hlZF9pZHMlMjAlM0QlMjAlNUIlMEElMjAlMjAlMjAlMjAlNUIyMDAlMkMlMjAyMDAlMkMlMjAyMDAlNUQlMkMlMEElMjAlMjAlMjAlMjAlNUIyMDAlMkMlMjAyMDAlMkMlMjB0b2tlbml6ZXIucGFkX3Rva2VuX2lkJTVEJTJDJTBBJTVEJTBBJTBBYXR0ZW50aW9uX21hc2slMjAlM0QlMjAlNUIlMEElMjAlMjAlMjAlMjAlNUIxJTJDJTIwMSUyQyUyMDElNUQlMkMlMEElMjAlMjAlMjAlMjAlNUIxJTJDJTIwMSUyQyUyMDAlNUQlMkMlMEElNUQlMEElMEFvdXRwdXRzJTIwJTNEJTIwbW9kZWwodG9yY2gudGVuc29yKGJhdGNoZWRfaWRzKSUyQyUyMGF0dGVudGlvbl9tYXNrJTNEdG9yY2gudGVuc29yKGF0dGVudGlvbl9tYXNrKSklMEFwcmludChvdXRwdXRzLmxvZ2l0cyk=",highlighted:`batched_ids = [
    [<span class="hljs-number">200</span>, <span class="hljs-number">200</span>, <span class="hljs-number">200</span>],
    [<span class="hljs-number">200</span>, <span class="hljs-number">200</span>, tokenizer.pad_token_id],
]

attention_mask = [
    [<span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>],
    [<span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">0</span>],
]

outputs = model(torch.tensor(batched_ids), attention_mask=torch.tensor(attention_mask))
<span class="hljs-built_in">print</span>(outputs.logits)`,wrap:!1}}),s=new T({props:{code:"dGVuc29yKCU1QiU1QiUyMDEuNTY5NCUyQyUyMC0xLjM4OTUlNUQlMkMlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlNUIlMjAwLjU4MDMlMkMlMjAtMC40MTI1JTVEJTVEJTJDJTIwZ3JhZF9mbiUzRCUzQ0FkZG1tQmFja3dhcmQlM0Up",highlighted:`tensor([[ <span class="hljs-number">1.5694</span>, -<span class="hljs-number">1.3895</span>],
        [ <span class="hljs-number">0.5803</span>, -<span class="hljs-number">0.4125</span>]], grad_fn=&lt;AddmmBackward&gt;)`,wrap:!1}}),{c(){j(e.$$.fragment),a=i(),j(s.$$.fragment)},l(n){y(e.$$.fragment,n),a=u(n),y(s.$$.fragment,n)},m(n,b){f(e,n,b),M(n,a,b),f(s,n,b),r=!0},i(n){r||(m(e.$$.fragment,n),m(s.$$.fragment,n),r=!0)},o(n){c(e.$$.fragment,n),c(s.$$.fragment,n),r=!1},d(n){n&&p(a),U(e,n),U(s,n)}}}function qe(o){let e,a="✏️ <strong>試してみよう！</strong> セクション2で使用した2つの文 (“I’ve been waiting for a HuggingFace course my whole life.” と “I hate this so much!“) を手動でトークン化してみましょう。そしてこれらをモデルに入力し、セクション2で得られたロジットと同じ結果となることを確認してみましょう。次に、パディングトークンを使用してこれらをバッチ処理し、適切なアテンションマスクを作成してみましょう。また同様にモデルに入力した際、セクション2で得られた結果と同じものになることを確認してみましょう。";return{c(){e=d("p"),e.innerHTML=a},l(s){e=J(s,"P",{"data-svelte-h":!0}),w(e)!=="svelte-1qypiv0"&&(e.innerHTML=a)},m(s,r){M(s,e,r)},p:Te,d(s){s&&p(e)}}}function Le(o){let e,a,s,r,n,b,D,Xl,h,k,Cl,_,$,Ql,F,Cs="前のセクションでは、最も単純な使用例である、単一の短い系列（テキスト）に対して推論を行う方法を見てきました。しかし、これについて以下のような疑問をお持ちの方もいるかもしれません。",vl,H,Qs="<li>複数の系列をどのように処理するのか？</li> <li>長さの異なる複数の系列をどのように処理するのか？</li> <li>モデルがうまく機能するためには、単語のインデックスだけが入力として必要なのか？</li> <li>系列が長すぎてしまうということはあるのか？</li>",Bl,x,Ns="これらの疑問について、実際はどのような問題があるのか、そして🤗 Transformers APIを使ってどのように解決できるのかを見ていきましょう。",Dl,S,Fl,Y,gs="以前のエクササイズで、系列が数値のリストに変換される方法を見てきました。この数値列をテンソルに変換し、モデルに入力してみましょう。",Hl,I,A,Nl,q,Vs="おっと！「セクション2のパイプラインの手順に従ったのに、なぜ失敗したのか？」と思われるかもしれません。",xl,L,Ws="この問題はモデルに単一の系列を入力しようとしたために発生しました。🤗 Transformersモデルは、デフォルトでは複数の系列を入力として受け付けます。ここでは、<code>sequence</code>に対してトークナイザを適用したときに、トークナイザがその背後で行ったすべての処理を行おうとしました。しかし、もう少し詳しく見てみると、トークナイザは入力IDのリストをテンソルに変換するだけでなく、それに対して次元を追加していることがわかります。",Sl,Z,C,gl,K,Es="それでは次元を追加して再度試してみましょう。",Yl,Q,N,Vl,P,zs="ここで入力IDと結果のロジット（モデルの出力）を見てみましょう。",ql,g,V,Wl,O,Rs="<em>バッチ処理</em>とは、複数の系列をまとめてモデルに入力することです。系列が1つしかない場合でも、バッチを構築することができます。",Ll,ll,Kl,sl,Gs="これは2つの同じ系列からなるバッチとなっています。",Pl,G,Ol,el,Xs="バッチ処理により、複数の系列をモデルに入力できるようになります。単一の系列でバッチを構築するのと同じように、簡単に複数の系列を使用することができます。ただし、ここで1つ問題があります。2つ以上の系列をバッチ処理する場合、系列の長さがそれぞれ異なる場合があります。これまでテンソルを扱ったことがある場合は、テンソルの形状は長方形である必要があることをご存知なのではないでしょうか。従って、異なる長さの系列の入力IDリストを直接テンソルに変換することはできません。この問題を回避するための方法として、入力を<em>パディング</em>することが一般的です。",ls,nl,ss,tl,vs="以下の二重のリストはテンソルには変換できません。",es,al,ns,pl,Bs="この問題を回避するために、<em>パディング</em>を使用して、テンソルの形状を長方形にしてみましょう。パディングは、<em>パディングトークン</em>と呼ばれる特別な単語を短い系列に対して追加することで、すべての系列の長さを同じにします。例えば、10語の系列が10個、20語の系列が1個ある場合、パディングにより、すべての系列の長さが20語になります。上記の例では、結果として得られるテンソルは次のようになります。",ts,Ml,as,rl,Ds="パティングトークンのIDは <code>tokenizer.pad_token_id</code> で見つけることができます。それでは、これを使って2つの系列を個別にモデルに入力する場合と、バッチ処理した場合の結果を比較してみましょう。",ps,W,E,El,il,Fs="バッチ処理した予測のロジットについて何か違いがあるようです。2行目は2つ目の系列のロジットと同じであるべきですが、完全に異なる値となってしまっています！",Ms,ul,Hs="これは、Transformerモデルの代表的な特徴であるアテンション層が、それぞれのトークンに対して<em>コンテクスト化</em>を行っていることに起因します。アテンション層は、系列のすべてのトークンに注意（アテンション）を向けるため、パディングトークンも考慮の対象として扱います。異なる長さの系列を個別にモデルに入力する場合と、同じ系列をバッチ処理した場合の両方で同じ結果を得るためには、アテンション層にパディングトークンを無視するように指示する必要があります。これは、アテンションマスクを使用することで実現できます。",rs,cl,is,ml,xs="<em>アテンションマスク</em>とは入力IDのテンソルと全く同じ形をしたテンソルのことで、0と1で構成されています。1は対応するトークンに注意を向けることを示し、0は対応するトークンに注意を向けないこと（つまり、アテンション層に無視されること）を示します。",us,ol,Ss="前の例に対して、アテンションマスクを追加してみましょう。",cs,z,R,zl,bl,Ys="これで、バッチ内の2つ目の系列について同じロジットが得られました。",ms,jl,qs="2つ目の系列の最後の値がパディングIDであることに注目してください。これは、アテンションマスクの0の値となっています。",os,X,bs,yl,js,fl,Ls="トランスフォーマーモデルでは、モデルに入力できる系列の長さに制限があります。ほとんどのモデルは512トークンまたは1024トークンの系列を処理できますが、これより長い系列を処理しようとするとクラッシュしてしまいます。この問題に対しては、2つの解決策があります。",ys,Ul,Ks="<li>長い系列を処理できるモデルを使用する</li> <li>系列を途中で区切って短くする</li>",fs,dl,Ps='処理できる系列長はモデルによって異なり、非常に長い系列の処理に特化したモデルも存在します。<a href="https://huggingface.co/transformers/model_doc/longformer.html" rel="nofollow">Longformer</a> はその一例です。また、<a href="https://huggingface.co/transformers/model_doc/led.html" rel="nofollow">LED</a> も長い系列を処理できるモデルです。非常に長い系列を処理する必要があるタスクに取り組んでいる場合は、これらのモデルを見てみて下さい。',Us,Jl,Os="もう1つの手法として、<code>max_sequence_length</code> パラメータを指定して系列を途中で区切ることをお勧めします。",ds,wl,Js,Rl,ws;n=new Qe({props:{fw:o[0]}}),D=new Gl({props:{title:"複数系列の処理",local:"複数系列の処理",headingTag:"h1"}});const le=[ge,Ne],Tl=[];function se(l,t){return l[0]==="pt"?0:1}h=se(o),k=Tl[h]=le[h](o);const ee=[We,Ve],hl=[];function ne(l,t){return l[0]==="pt"?0:1}_=ne(o),$=hl[_]=ee[_](o),S=new Gl({props:{title:"モデルへのバッチ入力",local:"モデルへのバッチ入力",headingTag:"h2"}});const te=[ze,Ee],kl=[];function ae(l,t){return l[0]==="pt"?0:1}I=ae(o),A=kl[I]=te[I](o);const pe=[Ge,Re],_l=[];function Me(l,t){return l[0]==="pt"?0:1}Z=Me(o),C=_l[Z]=pe[Z](o);const re=[ve,Xe],$l=[];function ie(l,t){return l[0]==="pt"?0:1}Q=ie(o),N=$l[Q]=re[Q](o);const ue=[De,Be],Il=[];function ce(l,t){return l[0]==="pt"?0:1}g=ce(o),V=Il[g]=ue[g](o),ll=new T({props:{code:"YmF0Y2hlZF9pZHMlMjAlM0QlMjAlNUJpZHMlMkMlMjBpZHMlNUQ=",highlighted:'<span class="hljs-attr">batched_ids</span> = [ids, ids]',wrap:!1}}),G=new we({props:{$$slots:{default:[Fe]},$$scope:{ctx:o}}}),nl=new Gl({props:{title:"入力のパディング",local:"入力のパディング",headingTag:"h2"}}),al=new T({props:{code:"YmF0Y2hlZF9pZHMlMjAlM0QlMjAlNUIlMEElMjAlMjAlMjAlMjAlNUIyMDAlMkMlMjAyMDAlMkMlMjAyMDAlNUQlMkMlMEElMjAlMjAlMjAlMjAlNUIyMDAlMkMlMjAyMDAlNUQlMEElNUQ=",highlighted:`batched_ids = [
    [<span class="hljs-number">200</span>, <span class="hljs-number">200</span>, <span class="hljs-number">200</span>],
    [<span class="hljs-number">200</span>, <span class="hljs-number">200</span>]
]`,wrap:!1}}),Ml=new T({props:{code:"cGFkZGluZ19pZCUyMCUzRCUyMDEwMCUwQSUwQWJhdGNoZWRfaWRzJTIwJTNEJTIwJTVCJTBBJTIwJTIwJTIwJTIwJTVCMjAwJTJDJTIwMjAwJTJDJTIwMjAwJTVEJTJDJTBBJTIwJTIwJTIwJTIwJTVCMjAwJTJDJTIwMjAwJTJDJTIwcGFkZGluZ19pZCU1RCUyQyUwQSU1RA==",highlighted:`padding_id = <span class="hljs-number">100</span>

batched_ids = [
    [<span class="hljs-number">200</span>, <span class="hljs-number">200</span>, <span class="hljs-number">200</span>],
    [<span class="hljs-number">200</span>, <span class="hljs-number">200</span>, padding_id],
]`,wrap:!1}});const me=[xe,He],Al=[];function oe(l,t){return l[0]==="pt"?0:1}W=oe(o),E=Al[W]=me[W](o),cl=new Gl({props:{title:"アテンションマスク",local:"アテンションマスク",headingTag:"h2"}});const be=[Ye,Se],Zl=[];function je(l,t){return l[0]==="pt"?0:1}return z=je(o),R=Zl[z]=be[z](o),X=new we({props:{$$slots:{default:[qe]},$$scope:{ctx:o}}}),yl=new Gl({props:{title:"より長い系列",local:"より長い系列",headingTag:"h2"}}),wl=new T({props:{code:"c2VxdWVuY2UlMjAlM0QlMjBzZXF1ZW5jZSU1QiUzQW1heF9zZXF1ZW5jZV9sZW5ndGglNUQ=",highlighted:"sequence = sequence[:max_sequence_length]",wrap:!1}}),{c(){e=d("meta"),a=i(),s=d("p"),r=i(),j(n.$$.fragment),b=i(),j(D.$$.fragment),Xl=i(),k.c(),Cl=i(),$.c(),Ql=i(),F=d("p"),F.textContent=Cs,vl=i(),H=d("ul"),H.innerHTML=Qs,Bl=i(),x=d("p"),x.textContent=Ns,Dl=i(),j(S.$$.fragment),Fl=i(),Y=d("p"),Y.textContent=gs,Hl=i(),A.c(),Nl=i(),q=d("p"),q.textContent=Vs,xl=i(),L=d("p"),L.innerHTML=Ws,Sl=i(),C.c(),gl=i(),K=d("p"),K.textContent=Es,Yl=i(),N.c(),Vl=i(),P=d("p"),P.textContent=zs,ql=i(),V.c(),Wl=i(),O=d("p"),O.innerHTML=Rs,Ll=i(),j(ll.$$.fragment),Kl=i(),sl=d("p"),sl.textContent=Gs,Pl=i(),j(G.$$.fragment),Ol=i(),el=d("p"),el.innerHTML=Xs,ls=i(),j(nl.$$.fragment),ss=i(),tl=d("p"),tl.textContent=vs,es=i(),j(al.$$.fragment),ns=i(),pl=d("p"),pl.innerHTML=Bs,ts=i(),j(Ml.$$.fragment),as=i(),rl=d("p"),rl.innerHTML=Ds,ps=i(),E.c(),El=i(),il=d("p"),il.textContent=Fs,Ms=i(),ul=d("p"),ul.innerHTML=Hs,rs=i(),j(cl.$$.fragment),is=i(),ml=d("p"),ml.innerHTML=xs,us=i(),ol=d("p"),ol.textContent=Ss,cs=i(),R.c(),zl=i(),bl=d("p"),bl.textContent=Ys,ms=i(),jl=d("p"),jl.textContent=qs,os=i(),j(X.$$.fragment),bs=i(),j(yl.$$.fragment),js=i(),fl=d("p"),fl.textContent=Ls,ys=i(),Ul=d("ul"),Ul.innerHTML=Ks,fs=i(),dl=d("p"),dl.innerHTML=Ps,Us=i(),Jl=d("p"),Jl.innerHTML=Os,ds=i(),j(wl.$$.fragment),Js=i(),Rl=d("p"),this.h()},l(l){const t=Ze("svelte-u9bgzb",document.head);e=J(t,"META",{name:!0,content:!0}),t.forEach(p),a=u(l),s=J(l,"P",{}),de(s).forEach(p),r=u(l),y(n.$$.fragment,l),b=u(l),y(D.$$.fragment,l),Xl=u(l),k.l(l),Cl=u(l),$.l(l),Ql=u(l),F=J(l,"P",{"data-svelte-h":!0}),w(F)!=="svelte-7v4t1y"&&(F.textContent=Cs),vl=u(l),H=J(l,"UL",{"data-svelte-h":!0}),w(H)!=="svelte-1p3yz9o"&&(H.innerHTML=Qs),Bl=u(l),x=J(l,"P",{"data-svelte-h":!0}),w(x)!=="svelte-1w1urti"&&(x.textContent=Ns),Dl=u(l),y(S.$$.fragment,l),Fl=u(l),Y=J(l,"P",{"data-svelte-h":!0}),w(Y)!=="svelte-1hd21ea"&&(Y.textContent=gs),Hl=u(l),A.l(l),Nl=u(l),q=J(l,"P",{"data-svelte-h":!0}),w(q)!=="svelte-1a2svhu"&&(q.textContent=Vs),xl=u(l),L=J(l,"P",{"data-svelte-h":!0}),w(L)!=="svelte-azjz8e"&&(L.innerHTML=Ws),Sl=u(l),C.l(l),gl=u(l),K=J(l,"P",{"data-svelte-h":!0}),w(K)!=="svelte-149xre0"&&(K.textContent=Es),Yl=u(l),N.l(l),Vl=u(l),P=J(l,"P",{"data-svelte-h":!0}),w(P)!=="svelte-11jxpoi"&&(P.textContent=zs),ql=u(l),V.l(l),Wl=u(l),O=J(l,"P",{"data-svelte-h":!0}),w(O)!=="svelte-1mxypka"&&(O.innerHTML=Rs),Ll=u(l),y(ll.$$.fragment,l),Kl=u(l),sl=J(l,"P",{"data-svelte-h":!0}),w(sl)!=="svelte-1m7nfxx"&&(sl.textContent=Gs),Pl=u(l),y(G.$$.fragment,l),Ol=u(l),el=J(l,"P",{"data-svelte-h":!0}),w(el)!=="svelte-3wuuip"&&(el.innerHTML=Xs),ls=u(l),y(nl.$$.fragment,l),ss=u(l),tl=J(l,"P",{"data-svelte-h":!0}),w(tl)!=="svelte-923dw6"&&(tl.textContent=vs),es=u(l),y(al.$$.fragment,l),ns=u(l),pl=J(l,"P",{"data-svelte-h":!0}),w(pl)!=="svelte-am2sgk"&&(pl.innerHTML=Bs),ts=u(l),y(Ml.$$.fragment,l),as=u(l),rl=J(l,"P",{"data-svelte-h":!0}),w(rl)!=="svelte-3wvkm1"&&(rl.innerHTML=Ds),ps=u(l),E.l(l),El=u(l),il=J(l,"P",{"data-svelte-h":!0}),w(il)!=="svelte-1sgc0xw"&&(il.textContent=Fs),Ms=u(l),ul=J(l,"P",{"data-svelte-h":!0}),w(ul)!=="svelte-v9yt9b"&&(ul.innerHTML=Hs),rs=u(l),y(cl.$$.fragment,l),is=u(l),ml=J(l,"P",{"data-svelte-h":!0}),w(ml)!=="svelte-rwa9b"&&(ml.innerHTML=xs),us=u(l),ol=J(l,"P",{"data-svelte-h":!0}),w(ol)!=="svelte-15s4fgg"&&(ol.textContent=Ss),cs=u(l),R.l(l),zl=u(l),bl=J(l,"P",{"data-svelte-h":!0}),w(bl)!=="svelte-wo1qtz"&&(bl.textContent=Ys),ms=u(l),jl=J(l,"P",{"data-svelte-h":!0}),w(jl)!=="svelte-1oiv82n"&&(jl.textContent=qs),os=u(l),y(X.$$.fragment,l),bs=u(l),y(yl.$$.fragment,l),js=u(l),fl=J(l,"P",{"data-svelte-h":!0}),w(fl)!=="svelte-ku9ozq"&&(fl.textContent=Ls),ys=u(l),Ul=J(l,"UL",{"data-svelte-h":!0}),w(Ul)!=="svelte-1ygsmwb"&&(Ul.innerHTML=Ks),fs=u(l),dl=J(l,"P",{"data-svelte-h":!0}),w(dl)!=="svelte-18xv06x"&&(dl.innerHTML=Ps),Us=u(l),Jl=J(l,"P",{"data-svelte-h":!0}),w(Jl)!=="svelte-1tc1uz0"&&(Jl.innerHTML=Os),ds=u(l),y(wl.$$.fragment,l),Js=u(l),Rl=J(l,"P",{}),de(Rl).forEach(p),this.h()},h(){Je(e,"name","hf:doc:metadata"),Je(e,"content",Ke)},m(l,t){Ce(document.head,e),M(l,a,t),M(l,s,t),M(l,r,t),f(n,l,t),M(l,b,t),f(D,l,t),M(l,Xl,t),Tl[h].m(l,t),M(l,Cl,t),hl[_].m(l,t),M(l,Ql,t),M(l,F,t),M(l,vl,t),M(l,H,t),M(l,Bl,t),M(l,x,t),M(l,Dl,t),f(S,l,t),M(l,Fl,t),M(l,Y,t),M(l,Hl,t),kl[I].m(l,t),M(l,Nl,t),M(l,q,t),M(l,xl,t),M(l,L,t),M(l,Sl,t),_l[Z].m(l,t),M(l,gl,t),M(l,K,t),M(l,Yl,t),$l[Q].m(l,t),M(l,Vl,t),M(l,P,t),M(l,ql,t),Il[g].m(l,t),M(l,Wl,t),M(l,O,t),M(l,Ll,t),f(ll,l,t),M(l,Kl,t),M(l,sl,t),M(l,Pl,t),f(G,l,t),M(l,Ol,t),M(l,el,t),M(l,ls,t),f(nl,l,t),M(l,ss,t),M(l,tl,t),M(l,es,t),f(al,l,t),M(l,ns,t),M(l,pl,t),M(l,ts,t),f(Ml,l,t),M(l,as,t),M(l,rl,t),M(l,ps,t),Al[W].m(l,t),M(l,El,t),M(l,il,t),M(l,Ms,t),M(l,ul,t),M(l,rs,t),f(cl,l,t),M(l,is,t),M(l,ml,t),M(l,us,t),M(l,ol,t),M(l,cs,t),Zl[z].m(l,t),M(l,zl,t),M(l,bl,t),M(l,ms,t),M(l,jl,t),M(l,os,t),f(X,l,t),M(l,bs,t),f(yl,l,t),M(l,js,t),M(l,fl,t),M(l,ys,t),M(l,Ul,t),M(l,fs,t),M(l,dl,t),M(l,Us,t),M(l,Jl,t),M(l,ds,t),f(wl,l,t),M(l,Js,t),M(l,Rl,t),ws=!0},p(l,[t]){const ye={};t&1&&(ye.fw=l[0]),n.$set(ye);let Ts=h;h=se(l),h!==Ts&&(B(),c(Tl[Ts],1,1,()=>{Tl[Ts]=null}),v(),k=Tl[h],k||(k=Tl[h]=le[h](l),k.c()),m(k,1),k.m(Cl.parentNode,Cl));let hs=_;_=ne(l),_!==hs&&(B(),c(hl[hs],1,1,()=>{hl[hs]=null}),v(),$=hl[_],$||($=hl[_]=ee[_](l),$.c()),m($,1),$.m(Ql.parentNode,Ql));let ks=I;I=ae(l),I!==ks&&(B(),c(kl[ks],1,1,()=>{kl[ks]=null}),v(),A=kl[I],A||(A=kl[I]=te[I](l),A.c()),m(A,1),A.m(Nl.parentNode,Nl));let _s=Z;Z=Me(l),Z!==_s&&(B(),c(_l[_s],1,1,()=>{_l[_s]=null}),v(),C=_l[Z],C||(C=_l[Z]=pe[Z](l),C.c()),m(C,1),C.m(gl.parentNode,gl));let $s=Q;Q=ie(l),Q!==$s&&(B(),c($l[$s],1,1,()=>{$l[$s]=null}),v(),N=$l[Q],N||(N=$l[Q]=re[Q](l),N.c()),m(N,1),N.m(Vl.parentNode,Vl));let Is=g;g=ce(l),g!==Is&&(B(),c(Il[Is],1,1,()=>{Il[Is]=null}),v(),V=Il[g],V||(V=Il[g]=ue[g](l),V.c()),m(V,1),V.m(Wl.parentNode,Wl));const fe={};t&2&&(fe.$$scope={dirty:t,ctx:l}),G.$set(fe);let As=W;W=oe(l),W!==As&&(B(),c(Al[As],1,1,()=>{Al[As]=null}),v(),E=Al[W],E||(E=Al[W]=me[W](l),E.c()),m(E,1),E.m(El.parentNode,El));let Zs=z;z=je(l),z!==Zs&&(B(),c(Zl[Zs],1,1,()=>{Zl[Zs]=null}),v(),R=Zl[z],R||(R=Zl[z]=be[z](l),R.c()),m(R,1),R.m(zl.parentNode,zl));const Ue={};t&2&&(Ue.$$scope={dirty:t,ctx:l}),X.$set(Ue)},i(l){ws||(m(n.$$.fragment,l),m(D.$$.fragment,l),m(k),m($),m(S.$$.fragment,l),m(A),m(C),m(N),m(V),m(ll.$$.fragment,l),m(G.$$.fragment,l),m(nl.$$.fragment,l),m(al.$$.fragment,l),m(Ml.$$.fragment,l),m(E),m(cl.$$.fragment,l),m(R),m(X.$$.fragment,l),m(yl.$$.fragment,l),m(wl.$$.fragment,l),ws=!0)},o(l){c(n.$$.fragment,l),c(D.$$.fragment,l),c(k),c($),c(S.$$.fragment,l),c(A),c(C),c(N),c(V),c(ll.$$.fragment,l),c(G.$$.fragment,l),c(nl.$$.fragment,l),c(al.$$.fragment,l),c(Ml.$$.fragment,l),c(E),c(cl.$$.fragment,l),c(R),c(X.$$.fragment,l),c(yl.$$.fragment,l),c(wl.$$.fragment,l),ws=!1},d(l){l&&(p(a),p(s),p(r),p(b),p(Xl),p(Cl),p(Ql),p(F),p(vl),p(H),p(Bl),p(x),p(Dl),p(Fl),p(Y),p(Hl),p(Nl),p(q),p(xl),p(L),p(Sl),p(gl),p(K),p(Yl),p(Vl),p(P),p(ql),p(Wl),p(O),p(Ll),p(Kl),p(sl),p(Pl),p(Ol),p(el),p(ls),p(ss),p(tl),p(es),p(ns),p(pl),p(ts),p(as),p(rl),p(ps),p(El),p(il),p(Ms),p(ul),p(rs),p(is),p(ml),p(us),p(ol),p(cs),p(zl),p(bl),p(ms),p(jl),p(os),p(bs),p(js),p(fl),p(ys),p(Ul),p(fs),p(dl),p(Us),p(Jl),p(ds),p(Js),p(Rl)),p(e),U(n,l),U(D,l),Tl[h].d(l),hl[_].d(l),U(S,l),kl[I].d(l),_l[Z].d(l),$l[Q].d(l),Il[g].d(l),U(ll,l),U(G,l),U(nl,l),U(al,l),U(Ml,l),Al[W].d(l),U(cl,l),Zl[z].d(l),U(X,l),U(yl,l),U(wl,l)}}}const Ke='{"title":"複数系列の処理","local":"複数系列の処理","sections":[{"title":"モデルへのバッチ入力","local":"モデルへのバッチ入力","sections":[],"depth":2},{"title":"入力のパディング","local":"入力のパディング","sections":[],"depth":2},{"title":"アテンションマスク","local":"アテンションマスク","sections":[],"depth":2},{"title":"より長い系列","local":"より長い系列","sections":[],"depth":2}],"depth":1}';function Pe(o,e,a){let s="pt";return $e(()=>{const r=new URLSearchParams(window.location.search);a(0,s=r.get("fw")||"pt")}),[s]}class Mn extends Ie{constructor(e){super(),Ae(this,e,Pe,Le,_e,{})}}export{Mn as component};
