import{s as kt,o as zt,n as gs}from"../chunks/scheduler.1d51f4c0.js";import{S as _t,i as Ct,g as M,s as r,r as b,A as $t,h as m,f as l,c as p,j as Jt,u as y,x as h,k as Tt,y as It,a,v as w,t as o,b as qe,d as u,w as f,p as Pe}from"../chunks/index.85d39492.js";import{T as Us}from"../chunks/Tip.9d1f4d4d.js";import{Y as pn}from"../chunks/Youtube.3728976b.js";import{C as U}from"../chunks/CodeBlock.55acaf9d.js";import{C as gt}from"../chunks/CourseFloatingBanner.f85666dd.js";import{F as xt}from"../chunks/FrameworkSwitchCourse.8d00c3f9.js";import{H as bs}from"../chunks/Heading.537027d1.js";function vt(j){let s,i;return s=new gt({props:{chapter:3,classNames:"absolute z-10 right-0 top-0",notebooks:[{label:"Google Colab",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/de/chapter3/section2_tf.ipynb"},{label:"Aws Studio",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/de/chapter3/section2_tf.ipynb"}]}}),{c(){b(s.$$.fragment)},l(t){y(s.$$.fragment,t)},m(t,d){w(s,t,d),i=!0},i(t){i||(u(s.$$.fragment,t),i=!0)},o(t){o(s.$$.fragment,t),i=!1},d(t){f(s,t)}}}function Rt(j){let s,i;return s=new gt({props:{chapter:3,classNames:"absolute z-10 right-0 top-0",notebooks:[{label:"Google Colab",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/de/chapter3/section2_pt.ipynb"},{label:"Aws Studio",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/de/chapter3/section2_pt.ipynb"}]}}),{c(){b(s.$$.fragment)},l(t){y(s.$$.fragment,t)},m(t,d){w(s,t,d),i=!0},i(t){i||(u(s.$$.fragment,t),i=!0)},o(t){o(s.$$.fragment,t),i=!1},d(t){f(s,t)}}}function At(j){let s,i='Wir fahren mit dem Beispiel aus dem <a href="/course/chapter2">vorigen Kapitel</a> fort. Folgenderweise würden wir einen Sequenzklassifikator mit einem Batch in Tensorflow trainieren:',t,d,T;return d=new U({props:{code:"aW1wb3J0JTIwdGVuc29yZmxvdyUyMGFzJTIwdGYlMEFpbXBvcnQlMjBudW1weSUyMGFzJTIwbnAlMEFmcm9tJTIwdHJhbnNmb3JtZXJzJTIwaW1wb3J0JTIwQXV0b1Rva2VuaXplciUyQyUyMFRGQXV0b01vZGVsRm9yU2VxdWVuY2VDbGFzc2lmaWNhdGlvbiUwQSUwQSUyMyUyMEdlbmF1JTIwd2llJTIwdm9yaGVyJTBBY2hlY2twb2ludCUyMCUzRCUyMCUyMmJlcnQtYmFzZS11bmNhc2VkJTIyJTBBdG9rZW5pemVyJTIwJTNEJTIwQXV0b1Rva2VuaXplci5mcm9tX3ByZXRyYWluZWQoY2hlY2twb2ludCklMEFtb2RlbCUyMCUzRCUyMFRGQXV0b01vZGVsRm9yU2VxdWVuY2VDbGFzc2lmaWNhdGlvbi5mcm9tX3ByZXRyYWluZWQoY2hlY2twb2ludCklMEFzZXF1ZW5jZXMlMjAlM0QlMjAlNUIlMEElMjAlMjAlMjAlMjAlMjJJJ3ZlJTIwYmVlbiUyMHdhaXRpbmclMjBmb3IlMjBhJTIwSHVnZ2luZ0ZhY2UlMjBjb3Vyc2UlMjBteSUyMHdob2xlJTIwbGlmZS4lMjIlMkMlMjAlMjAlMjMlMjBJY2glMjBoYWJlJTIwbWVpbiUyMGdhbnplcyUyMExlYmVuJTIwYXVmJTIwZWluZW4lMjBIdWdnaW5nRmFjZS1LdXJzJTIwZ2V3YXJ0ZXQuJTBBJTIwJTIwJTIwJTIwJTIyVGhpcyUyMGNvdXJzZSUyMGlzJTIwYW1hemluZyElMjIlMkMlMjAlMjAlMjMlMjBEaWVzZXIlMjBLdXJzJTIwaXN0JTIwZmFudGFzdGlzY2ghJTBBJTVEJTBBYmF0Y2glMjAlM0QlMjBkaWN0KHRva2VuaXplcihzZXF1ZW5jZXMlMkMlMjBwYWRkaW5nJTNEVHJ1ZSUyQyUyMHRydW5jYXRpb24lM0RUcnVlJTJDJTIwcmV0dXJuX3RlbnNvcnMlM0QlMjJ0ZiUyMikpJTBBJTBBJTIzJTIwRGllcyUyMGlzdCUyMG5ldSUwQW1vZGVsLmNvbXBpbGUob3B0aW1pemVyJTNEJTIyYWRhbSUyMiUyQyUyMGxvc3MlM0QlMjJzcGFyc2VfY2F0ZWdvcmljYWxfY3Jvc3NlbnRyb3B5JTIyKSUwQWxhYmVscyUyMCUzRCUyMHRmLmNvbnZlcnRfdG9fdGVuc29yKCU1QjElMkMlMjAxJTVEKSUwQW1vZGVsLnRyYWluX29uX2JhdGNoKGJhdGNoJTJDJTIwbGFiZWxzKQ==",highlighted:`<span class="hljs-keyword">import</span> tensorflow <span class="hljs-keyword">as</span> tf
<span class="hljs-keyword">import</span> numpy <span class="hljs-keyword">as</span> np
<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoTokenizer, TFAutoModelForSequenceClassification

<span class="hljs-comment"># Genau wie vorher</span>
checkpoint = <span class="hljs-string">&quot;bert-base-uncased&quot;</span>
tokenizer = AutoTokenizer.from_pretrained(checkpoint)
model = TFAutoModelForSequenceClassification.from_pretrained(checkpoint)
sequences = [
    <span class="hljs-string">&quot;I&#x27;ve been waiting for a HuggingFace course my whole life.&quot;</span>,  <span class="hljs-comment"># Ich habe mein ganzes Leben auf einen HuggingFace-Kurs gewartet.</span>
    <span class="hljs-string">&quot;This course is amazing!&quot;</span>,  <span class="hljs-comment"># Dieser Kurs ist fantastisch!</span>
]
batch = <span class="hljs-built_in">dict</span>(tokenizer(sequences, padding=<span class="hljs-literal">True</span>, truncation=<span class="hljs-literal">True</span>, return_tensors=<span class="hljs-string">&quot;tf&quot;</span>))

<span class="hljs-comment"># Dies ist neu</span>
model.<span class="hljs-built_in">compile</span>(optimizer=<span class="hljs-string">&quot;adam&quot;</span>, loss=<span class="hljs-string">&quot;sparse_categorical_crossentropy&quot;</span>)
labels = tf.convert_to_tensor([<span class="hljs-number">1</span>, <span class="hljs-number">1</span>])
model.train_on_batch(batch, labels)`,wrap:!1}}),{c(){s=M("p"),s.innerHTML=i,t=r(),b(d.$$.fragment)},l(c){s=m(c,"P",{"data-svelte-h":!0}),h(s)!=="svelte-1pcxgsl"&&(s.innerHTML=i),t=p(c),y(d.$$.fragment,c)},m(c,g){a(c,s,g),a(c,t,g),w(d,c,g),T=!0},i(c){T||(u(d.$$.fragment,c),T=!0)},o(c){o(d.$$.fragment,c),T=!1},d(c){c&&(l(s),l(t)),f(d,c)}}}function Zt(j){let s,i='Wir fahren mit dem Beispiel aus dem <a href="/course/chapter2">vorigen Kapitel</a> fort. Folgenderweise würden wir einen Sequenzklassifikator mit einem Batch in PyTorch trainieren:',t,d,T;return d=new U({props:{code:"aW1wb3J0JTIwdG9yY2glMEFmcm9tJTIwdHJhbnNmb3JtZXJzJTIwaW1wb3J0JTIwQWRhbVclMkMlMjBBdXRvVG9rZW5pemVyJTJDJTIwQXV0b01vZGVsRm9yU2VxdWVuY2VDbGFzc2lmaWNhdGlvbiUwQSUwQSUyMyUyMEdlbmF1JTIwd2llJTIwdm9yaGVyJTBBY2hlY2twb2ludCUyMCUzRCUyMCUyMmJlcnQtYmFzZS11bmNhc2VkJTIyJTBBdG9rZW5pemVyJTIwJTNEJTIwQXV0b1Rva2VuaXplci5mcm9tX3ByZXRyYWluZWQoY2hlY2twb2ludCklMEFtb2RlbCUyMCUzRCUyMEF1dG9Nb2RlbEZvclNlcXVlbmNlQ2xhc3NpZmljYXRpb24uZnJvbV9wcmV0cmFpbmVkKGNoZWNrcG9pbnQpJTBBc2VxdWVuY2VzJTIwJTNEJTIwJTVCJTBBJTIwJTIwJTIwJTIwJTIySSd2ZSUyMGJlZW4lMjB3YWl0aW5nJTIwZm9yJTIwYSUyMEh1Z2dpbmdGYWNlJTIwY291cnNlJTIwbXklMjB3aG9sZSUyMGxpZmUuJTIyJTJDJTIwJTIwJTIzJTIwSWNoJTIwaGFiZSUyMG1laW4lMjBnYW56ZXMlMjBMZWJlbiUyMGF1ZiUyMGVpbmVuJTIwSHVnZ2luZ0ZhY2UtS3VycyUyMGdld2FydGV0LiUwQSUyMCUyMCUyMCUyMCUyMlRoaXMlMjBjb3Vyc2UlMjBpcyUyMGFtYXppbmchJTIyJTJDJTIwJTIwJTIzJTIwRGllc2VyJTIwS3VycyUyMGlzdCUyMGZhbnRhc3Rpc2NoISUwQSU1RCUwQWJhdGNoJTIwJTNEJTIwdG9rZW5pemVyKHNlcXVlbmNlcyUyQyUyMHBhZGRpbmclM0RUcnVlJTJDJTIwdHJ1bmNhdGlvbiUzRFRydWUlMkMlMjByZXR1cm5fdGVuc29ycyUzRCUyMnB0JTIyKSUwQSUwQSUyMyUyMERpZXMlMjBpc3QlMjBuZXUlMEFiYXRjaCU1QiUyMmxhYmVscyUyMiU1RCUyMCUzRCUyMHRvcmNoLnRlbnNvciglNUIxJTJDJTIwMSU1RCklMEElMEFvcHRpbWl6ZXIlMjAlM0QlMjBBZGFtVyhtb2RlbC5wYXJhbWV0ZXJzKCkpJTBBbG9zcyUyMCUzRCUyMG1vZGVsKCoqYmF0Y2gpLmxvc3MlMEFsb3NzLmJhY2t3YXJkKCklMEFvcHRpbWl6ZXIuc3RlcCgp",highlighted:`<span class="hljs-keyword">import</span> torch
<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AdamW, AutoTokenizer, AutoModelForSequenceClassification

<span class="hljs-comment"># Genau wie vorher</span>
checkpoint = <span class="hljs-string">&quot;bert-base-uncased&quot;</span>
tokenizer = AutoTokenizer.from_pretrained(checkpoint)
model = AutoModelForSequenceClassification.from_pretrained(checkpoint)
sequences = [
    <span class="hljs-string">&quot;I&#x27;ve been waiting for a HuggingFace course my whole life.&quot;</span>,  <span class="hljs-comment"># Ich habe mein ganzes Leben auf einen HuggingFace-Kurs gewartet.</span>
    <span class="hljs-string">&quot;This course is amazing!&quot;</span>,  <span class="hljs-comment"># Dieser Kurs ist fantastisch!</span>
]
batch = tokenizer(sequences, padding=<span class="hljs-literal">True</span>, truncation=<span class="hljs-literal">True</span>, return_tensors=<span class="hljs-string">&quot;pt&quot;</span>)

<span class="hljs-comment"># Dies ist neu</span>
batch[<span class="hljs-string">&quot;labels&quot;</span>] = torch.tensor([<span class="hljs-number">1</span>, <span class="hljs-number">1</span>])

optimizer = AdamW(model.parameters())
loss = model(**batch).loss
loss.backward()
optimizer.step()`,wrap:!1}}),{c(){s=M("p"),s.innerHTML=i,t=r(),b(d.$$.fragment)},l(c){s=m(c,"P",{"data-svelte-h":!0}),h(s)!=="svelte-mqq13n"&&(s.innerHTML=i),t=p(c),y(d.$$.fragment,c)},m(c,g){a(c,s,g),a(c,t,g),w(d,c,g),T=!0},i(c){T||(u(d.$$.fragment,c),T=!0)},o(c){o(d.$$.fragment,c),T=!1},d(c){c&&(l(s),l(t)),f(d,c)}}}function Bt(j){let s,i;return s=new pn({props:{id:"W_gMJF0xomE"}}),{c(){b(s.$$.fragment)},l(t){y(s.$$.fragment,t)},m(t,d){w(s,t,d),i=!0},i(t){i||(u(s.$$.fragment,t),i=!0)},o(t){o(s.$$.fragment,t),i=!1},d(t){f(s,t)}}}function Vt(j){let s,i;return s=new pn({props:{id:"_BZearw7f0w"}}),{c(){b(s.$$.fragment)},l(t){y(s.$$.fragment,t)},m(t,d){w(s,t,d),i=!0},i(t){i||(u(s.$$.fragment,t),i=!0)},o(t){o(s.$$.fragment,t),i=!1},d(t){f(s,t)}}}function Dt(j){let s,i="✏️ <strong>Probier es aus!</strong> Sieh dir das Element 15 der Trainingsdaten und Element 87 des Validierungsdaten an. Was sind ihre Labels?";return{c(){s=M("p"),s.innerHTML=i},l(t){s=m(t,"P",{"data-svelte-h":!0}),h(s)!=="svelte-100c1dr"&&(s.innerHTML=i)},m(t,d){a(t,s,d)},p:gs,d(t){t&&l(s)}}}function Gt(j){let s,i;return s=new pn({props:{id:"P-rZWqcB6CE"}}),{c(){b(s.$$.fragment)},l(t){y(s.$$.fragment,t)},m(t,d){w(s,t,d),i=!0},i(t){i||(u(s.$$.fragment,t),i=!0)},o(t){o(s.$$.fragment,t),i=!1},d(t){f(s,t)}}}function Nt(j){let s,i;return s=new pn({props:{id:"0u3ioSwev3s"}}),{c(){b(s.$$.fragment)},l(t){y(s.$$.fragment,t)},m(t,d){w(s,t,d),i=!0},i(t){i||(u(s.$$.fragment,t),i=!0)},o(t){o(s.$$.fragment,t),i=!1},d(t){f(s,t)}}}function St(j){let s,i="✏️ <strong>Probier es aus!</strong> Nimm Element 15 der Trainingsdaten und tokenisiere die beiden Sätze separat und als Paar. Wo liegt der Unterschied zwischen den beiden Ergebnissen?";return{c(){s=M("p"),s.innerHTML=i},l(t){s=m(t,"P",{"data-svelte-h":!0}),h(s)!=="svelte-1dmghy9"&&(s.innerHTML=i)},m(t,d){a(t,s,d)},p:gs,d(t){t&&l(s)}}}function Qt(j){let s,i="Die Funktion, die für das Zusammenstellen von Samples innerhalb eines Batches verantwortlich ist, wird als <em>Collate-Funktion</em> bezeichnet. Es ist ein Argument, das du übergeben kannst, wenn du einen <code>DataLoader</code> baust, wobei es standardmäßig eine Funktion ist, die die Daten in tf.Tensor umwandelt und zusammenfügt (rekursiv wenn die Elemente Listen, Tupel oder Dictionaries sind). Dies ist in unserem Fall nicht möglich, da die Inputs nicht alle gleich groß sind. Das Padding haben wir bewusst aufgeschoben, um es bei jedem Batch nur bei Bedarf anzuwenden und überlange Inputs mit massivem Padding zu vermeiden. Dies beschleunigt das Training zwar, aber beachte, dass das Training auf einer TPU Probleme verursachen kann – TPUs bevorzugen feste Formen, auch wenn das ein zusätzliches Padding erfordert.";return{c(){s=M("p"),s.innerHTML=i},l(t){s=m(t,"P",{"data-svelte-h":!0}),h(s)!=="svelte-4tlrwy"&&(s.innerHTML=i)},m(t,d){a(t,s,d)},d(t){t&&l(s)}}}function Wt(j){let s,i="Die Funktion, die für das Zusammenstellen von Samples innerhalb eines Batches verantwortlich ist, wird als <em>Collate-Funktion</em> bezeichnet. Es ist ein Argument, das du übergeben kannst, wenn du einen <code>DataLoader</code> baust, wobei es standardmäßig eine Funktion ist, die die Daten in PyTorch-Tensoren umwandelt und zusammenfügt (rekursiv wenn die Elemente Listen, Tupel oder Dictionaries sind). Dies ist in unserem Fall nicht möglich, da die Inputs nicht alle gleich groß sind. Das Padding haben wir bewusst aufgeschoben, um es bei jedem Batch nur bei Bedarf anzuwenden und überlange Inputs mit massivem Padding zu vermeiden. Dies beschleunigt das Training zwar, aber beachte, dass das Training auf einer TPU Probleme verursachen kann – TPUs bevorzugen feste Formen, auch wenn das ein zusätzliches Padding erfordert.";return{c(){s=M("p"),s.innerHTML=i},l(t){s=m(t,"P",{"data-svelte-h":!0}),h(s)!=="svelte-1duluy7"&&(s.innerHTML=i)},m(t,d){a(t,s,d)},d(t){t&&l(s)}}}function Xt(j){let s,i;return s=new U({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMERhdGFDb2xsYXRvcldpdGhQYWRkaW5nJTBBJTBBZGF0YV9jb2xsYXRvciUyMCUzRCUyMERhdGFDb2xsYXRvcldpdGhQYWRkaW5nKHRva2VuaXplciUzRHRva2VuaXplciUyQyUyMHJldHVybl90ZW5zb3JzJTNEJTIydGYlMjIp",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> DataCollatorWithPadding

data_collator = DataCollatorWithPadding(tokenizer=tokenizer, return_tensors=<span class="hljs-string">&quot;tf&quot;</span>)`,wrap:!1}}),{c(){b(s.$$.fragment)},l(t){y(s.$$.fragment,t)},m(t,d){w(s,t,d),i=!0},i(t){i||(u(s.$$.fragment,t),i=!0)},o(t){o(s.$$.fragment,t),i=!1},d(t){f(s,t)}}}function Et(j){let s,i;return s=new U({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMERhdGFDb2xsYXRvcldpdGhQYWRkaW5nJTBBJTBBZGF0YV9jb2xsYXRvciUyMCUzRCUyMERhdGFDb2xsYXRvcldpdGhQYWRkaW5nKHRva2VuaXplciUzRHRva2VuaXplcik=",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> DataCollatorWithPadding

data_collator = DataCollatorWithPadding(tokenizer=tokenizer)`,wrap:!1}}),{c(){b(s.$$.fragment)},l(t){y(s.$$.fragment,t)},m(t,d){w(s,t,d),i=!0},i(t){i||(u(s.$$.fragment,t),i=!0)},o(t){o(s.$$.fragment,t),i=!1},d(t){f(s,t)}}}function Yt(j){let s,i,t,d="Das sieht gut aus! Jetzt, da wir vom Rohtext zu Batches übergegangen sind, mit denen unser Modell umgehen kann, sind wir bereit zum fein-tunen!",T;return s=new U({props:{code:"JTdCJ2F0dGVudGlvbl9tYXNrJyUzQSUyMHRvcmNoLlNpemUoJTVCOCUyQyUyMDY3JTVEKSUyQyUwQSUyMCdpbnB1dF9pZHMnJTNBJTIwdG9yY2guU2l6ZSglNUI4JTJDJTIwNjclNUQpJTJDJTBBJTIwJ3Rva2VuX3R5cGVfaWRzJyUzQSUyMHRvcmNoLlNpemUoJTVCOCUyQyUyMDY3JTVEKSUyQyUwQSUyMCdsYWJlbHMnJTNBJTIwdG9yY2guU2l6ZSglNUI4JTVEKSU3RA==",highlighted:`{<span class="hljs-string">&#x27;attention_mask&#x27;</span>: torch.Size([<span class="hljs-number">8</span>, <span class="hljs-number">67</span>]),
 <span class="hljs-string">&#x27;input_ids&#x27;</span>: torch.Size([<span class="hljs-number">8</span>, <span class="hljs-number">67</span>]),
 <span class="hljs-string">&#x27;token_type_ids&#x27;</span>: torch.Size([<span class="hljs-number">8</span>, <span class="hljs-number">67</span>]),
 <span class="hljs-string">&#x27;labels&#x27;</span>: torch.Size([<span class="hljs-number">8</span>])}`,wrap:!1}}),{c(){b(s.$$.fragment),i=r(),t=M("p"),t.textContent=d},l(c){y(s.$$.fragment,c),i=p(c),t=m(c,"P",{"data-svelte-h":!0}),h(t)!=="svelte-1o3zswn"&&(t.textContent=d)},m(c,g){w(s,c,g),a(c,i,g),a(c,t,g),T=!0},i(c){T||(u(s.$$.fragment,c),T=!0)},o(c){o(s.$$.fragment,c),T=!1},d(c){c&&(l(i),l(t)),f(s,c)}}}function Ft(j){let s,i;return s=new U({props:{code:"JTdCJ2F0dGVudGlvbl9tYXNrJyUzQSUyMFRlbnNvclNoYXBlKCU1QjglMkMlMjA2NyU1RCklMkMlMEElMjAnaW5wdXRfaWRzJyUzQSUyMFRlbnNvclNoYXBlKCU1QjglMkMlMjA2NyU1RCklMkMlMEElMjAndG9rZW5fdHlwZV9pZHMnJTNBJTIwVGVuc29yU2hhcGUoJTVCOCUyQyUyMDY3JTVEKSUyQyUwQSUyMCdsYWJlbHMnJTNBJTIwVGVuc29yU2hhcGUoJTVCOCU1RCklN0Q=",highlighted:`{<span class="hljs-string">&#x27;attention_mask&#x27;</span>: TensorShape([<span class="hljs-number">8</span>, <span class="hljs-number">67</span>]),
 <span class="hljs-string">&#x27;input_ids&#x27;</span>: TensorShape([<span class="hljs-number">8</span>, <span class="hljs-number">67</span>]),
 <span class="hljs-string">&#x27;token_type_ids&#x27;</span>: TensorShape([<span class="hljs-number">8</span>, <span class="hljs-number">67</span>]),
 <span class="hljs-string">&#x27;labels&#x27;</span>: TensorShape([<span class="hljs-number">8</span>])}`,wrap:!1}}),{c(){b(s.$$.fragment)},l(t){y(s.$$.fragment,t)},m(t,d){w(s,t,d),i=!0},i(t){i||(u(s.$$.fragment,t),i=!0)},o(t){o(s.$$.fragment,t),i=!1},d(t){f(s,t)}}}function Ht(j){let s,i="✏️ <strong>Probier es aus!</strong> Repliziere die Vorverarbeitung auf dem GLUE SST-2-Datensatz. Es ist ein bisschen anders, da es aus einzelnen Sätzen statt aus Paaren besteht, aber der Rest von dem, was wir gemacht haben, sollte gleich aussehen. Alternative wäre eine schwierigere Herausforderung, eine Vorverarbeitungsfunktion zu schreiben, die bei allen GLUE-Aufgaben funktioniert.";return{c(){s=M("p"),s.innerHTML=i},l(t){s=m(t,"P",{"data-svelte-h":!0}),h(s)!=="svelte-5iigxw"&&(s.innerHTML=i)},m(t,d){a(t,s,d)},p:gs,d(t){t&&l(s)}}}function Ut(j){let s,i="Jetzt, da wir unseren Datensatz und einen DataCollator haben, müssen wir sie verbinden. Wir könnten Batches manuell laden und sortieren, aber das ist eine Menge Arbeit und wahrscheinlich auch nicht sehr sonderlich performant. Stattdessen gibt es eine einfache Methode, die dieses Problem performant löst: <code>to_tf_dataset()</code>. Dadurch wird ein <code>tf.data.Dataset</code> um den Datensatz gewickelt, mit einer optionalen Kollatierungsfunktion. <code>tf.data.Dataset</code> ist ein natives TensorFlow-Format, das Keras für <code>model.fit()</code> verwenden kann. Diese Methode kann einen 🤗-Datensatz ohne Umstände in ein fürs Training vorbereitetes Format konvertieren. Sehen wir es uns nun mit unserem Datensatz in Aktion an!",t,d,T,c,g="Und das was’s! Wir können Datensätze in das nächste Kapitel mitnehmen, wo das Training nach all der harten Arbeit der Datenvorverarbeitung angenehm unkompliziert sein wird.",V;return d=new U({props:{code:"dGZfdHJhaW5fZGF0YXNldCUyMCUzRCUyMHRva2VuaXplZF9kYXRhc2V0cyU1QiUyMnRyYWluJTIyJTVELnRvX3RmX2RhdGFzZXQoJTBBJTIwJTIwJTIwJTIwY29sdW1ucyUzRCU1QiUyMmF0dGVudGlvbl9tYXNrJTIyJTJDJTIwJTIyaW5wdXRfaWRzJTIyJTJDJTIwJTIydG9rZW5fdHlwZV9pZHMlMjIlNUQlMkMlMEElMjAlMjAlMjAlMjBsYWJlbF9jb2xzJTNEJTVCJTIybGFiZWxzJTIyJTVEJTJDJTBBJTIwJTIwJTIwJTIwc2h1ZmZsZSUzRFRydWUlMkMlMEElMjAlMjAlMjAlMjBjb2xsYXRlX2ZuJTNEZGF0YV9jb2xsYXRvciUyQyUwQSUyMCUyMCUyMCUyMGJhdGNoX3NpemUlM0Q4JTJDJTBBKSUwQSUwQXRmX3ZhbGlkYXRpb25fZGF0YXNldCUyMCUzRCUyMHRva2VuaXplZF9kYXRhc2V0cyU1QiUyMnZhbGlkYXRpb24lMjIlNUQudG9fdGZfZGF0YXNldCglMEElMjAlMjAlMjAlMjBjb2x1bW5zJTNEJTVCJTIyYXR0ZW50aW9uX21hc2slMjIlMkMlMjAlMjJpbnB1dF9pZHMlMjIlMkMlMjAlMjJ0b2tlbl90eXBlX2lkcyUyMiU1RCUyQyUwQSUyMCUyMCUyMCUyMGxhYmVsX2NvbHMlM0QlNUIlMjJsYWJlbHMlMjIlNUQlMkMlMEElMjAlMjAlMjAlMjBzaHVmZmxlJTNERmFsc2UlMkMlMEElMjAlMjAlMjAlMjBjb2xsYXRlX2ZuJTNEZGF0YV9jb2xsYXRvciUyQyUwQSUyMCUyMCUyMCUyMGJhdGNoX3NpemUlM0Q4JTJDJTBBKQ==",highlighted:`tf_train_dataset = tokenized_datasets[<span class="hljs-string">&quot;train&quot;</span>].to_tf_dataset(
    columns=[<span class="hljs-string">&quot;attention_mask&quot;</span>, <span class="hljs-string">&quot;input_ids&quot;</span>, <span class="hljs-string">&quot;token_type_ids&quot;</span>],
    label_cols=[<span class="hljs-string">&quot;labels&quot;</span>],
    shuffle=<span class="hljs-literal">True</span>,
    collate_fn=data_collator,
    batch_size=<span class="hljs-number">8</span>,
)

tf_validation_dataset = tokenized_datasets[<span class="hljs-string">&quot;validation&quot;</span>].to_tf_dataset(
    columns=[<span class="hljs-string">&quot;attention_mask&quot;</span>, <span class="hljs-string">&quot;input_ids&quot;</span>, <span class="hljs-string">&quot;token_type_ids&quot;</span>],
    label_cols=[<span class="hljs-string">&quot;labels&quot;</span>],
    shuffle=<span class="hljs-literal">False</span>,
    collate_fn=data_collator,
    batch_size=<span class="hljs-number">8</span>,
)`,wrap:!1}}),{c(){s=M("p"),s.innerHTML=i,t=r(),b(d.$$.fragment),T=r(),c=M("p"),c.textContent=g},l(J){s=m(J,"P",{"data-svelte-h":!0}),h(s)!=="svelte-ggn7hs"&&(s.innerHTML=i),t=p(J),y(d.$$.fragment,J),T=p(J),c=m(J,"P",{"data-svelte-h":!0}),h(c)!=="svelte-1t189to"&&(c.textContent=g)},m(J,z){a(J,s,z),a(J,t,z),w(d,J,z),a(J,T,z),a(J,c,z),V=!0},i(J){V||(u(d.$$.fragment,J),V=!0)},o(J){o(d.$$.fragment,J),V=!1},d(J){J&&(l(s),l(t),l(T),l(c)),f(d,J)}}}function Lt(j){let s,i,t,d,T,c,g,V,J,z,Ke,_,C,Oe,Q,ks="Natürlich würde das Training von Modellen mit nur zwei Sätzen keine sonderlich guten Ergebnisse liefern. Um bessere Ergebnisse zu erzielen, müssen wir einen größeren Datensatz vorbereiten.",dn,W,zs='In diesem Abschnitt verwenden wir den MRPC-Datensatz (Microsoft Research Paraphrase Corpus) als Beispiel. Dieser wurde in einem <a href="https://www.aclweb.org/anthology/I05-5002.pdf" rel="nofollow">Paper</a> von William B. Dolan und Chris Brockett veröffentlicht. Der Datensatz besteht aus insgesamt 5.801 Satzpaaren und enthält ein Label, das angibt, ob es sich bei einem Paar um Paraphrasen handelt (d.h. ob beide Sätze dasselbe bedeuten). Wir haben diesen Datensatz für dieses Kapitel ausgewählt, weil es sich um einen kleinen Datensatz handelt, sodass es einfach ist, während dem Training zu experimentieren.',cn,X,un,$,I,en,E,_s='Das Hub enthält nicht nur Modelle; Es hat auch mehrere Datensätze in vielen verschiedenen Sprachen. Du kannst die Datensätze <a href="https://huggingface.co/datasets" rel="nofollow">hier</a> durchsuchen, und wir empfehlen, einen weiteren Datensatz zu laden und zu verarbeiten, sobald Sie diesen Abschnitt abgeschlossen haben (die Dokumentation befindet sich <a href="https://huggingface.co/docs/datasets/loading" rel="nofollow">hier</a>). Aber jetzt konzentrieren wir uns auf den MRPC-Datensatz! Dies ist einer der 10 Datensätze, aus denen sich das <a href="https://gluebenchmark.com/" rel="nofollow">GLUE-Benchmark</a> zusammensetzt. Dies ist ein akademisches Benchmark, das verwendet wird, um die Performance von ML-Modellen in 10 verschiedenen Textklassifizierungsaufgaben zu messen.',on,Y,Cs="Die Bibliothek 🤗 Datasets bietet einen leichten Befehl zum Herunterladen und Caching eines Datensatzes aus dem Hub. Wir können den MRPC-Datensatz wie folgt herunterladen:",Mn,F,mn,H,hn,L,$s="Wie du sehen kannst, erhalten wir ein <code>DatasetDict</code>-Objekt, das die Trainingsdaten, die Validierungsdaten und die Testdaten enthält. Jedes Objekt enthält mehrere Spalten (<code>sentence1</code>, <code>sentence2</code>, <code>label</code> und <code>idx</code>) und eine unterschiedliche Anzahl an Zeilen, dies ist die Anzahl der Elemente in jedem Datensatz (also gibt es 3.668 Satzpaare in den Trainingsdaten, 408 in den Validierungsdaten und 1.725 in den Testdaten).",bn,q,Is="Dieser Befehl lädt das Dataset herunter und speichert es im Cache, standardmäßig in <em>~/.cache/huggingface/dataset</em>. Wir Erinnern uns an Kapitel 2, dass der Cache-Ordner anpasst werden kann, indem man die Umgebungsvariable <code>HF_HOME</code> setzt.",yn,P,xs="Wir können auf jedes Satzpaar in unserem <code>raw_datasets</code>-Objekt zugreifen, indem wir wie bei einem Dictionary einen Schlüsselwert als Index verwenden:",wn,K,fn,O,jn,ee,vs="Wir stellen fest, dass die Labels bereits Ganzzahlen sind, sodass wir dort keine Vorverarbeitung durchführen müssen. Wir können die <code>features</code> von <code>raw_train_dataset</code> untersuchen, um zu erfahren, welche Ganzzahl welchem Label entspricht. Der folgende Befehl gibt uns den Variablentyp zurück:",Jn,ne,Tn,se,Un,te,Rs="Hinter den Kulissen ist <code>label</code> vom Typ <code>ClassLabel</code>, und die Zuordnung von Ganzzahlen zum Labelnamen wird im Ordner <em>names</em> gespeichert. <code>0</code> entspricht <code>not_equivalent</code>, also “nicht äquivalent”, und <code>1</code> entspricht <code>equivalent</code>, also “äquivalent”.",gn,G,kn,le,zn,x,v,nn,ae,As='Um den Datensatz vorzubereiten, müssen wir den Text in Zahlen umwandeln, die das Modell sinnvoll verarbeiten kann. Im <a href="/course/chapter2">vorherigen Kapitel</a> haben wir gesehen, dass dies mit einem Tokenizer gemacht wird. Wir können den Tokenizer mit einem Satz oder einer Liste von Sätzen füttern, sodass wir die ersten und zweiten Sätze jedes Paares wie folgt direkt tokenisieren können:',_n,ie,Cn,re,Zs="Wir können jedoch nicht einfach zwei Sequenzen an das Modell übergeben und eine Vorhersage erhalten, ob die beiden Sätze paraphrasiert sind oder nicht. Wir müssen die beiden Sequenzen als Paar behandeln und die entsprechende Vorverarbeitung anwenden. Glücklicherweise kann der Tokenizer auch ein Sequenzpaar nehmen und es so vorbereiten, wie es unser BERT-Modell erwartet:",$n,pe,In,de,xn,ce,Bs='In <a href="/course/chapter2">Kapitel 2</a> haben wir die Schlüsselwerte <code>input_ids</code> und <code>attention_mask</code> behandelt, allerdings haben wir es aufgeschoben, über <code>token_type_ids</code> zu sprechen. In diesem Beispiel teilt diese dem Modell mit, welcher Teil des Input der erste Satz und welcher der zweite Satz ist.',vn,N,Rn,ue,Vs="Wenn wir die IDs in <code>input_ids</code> zurück in Worte dekodieren:",An,oe,Zn,Me,Ds="dann bekommen wir:",Bn,me,Vn,he,Gs="Wir sehen also wenn es zwei Sätze gibt, dass das Modell erwartet, dass die Inputs die Form ”[CLS] Satz1 [SEP] Satz2 [SEP]” haben. Wenn wir dies mit den <code>token_type_ids</code> abgleichen, erhalten wir:",Dn,be,Gn,ye,Ns="Wie du sehen kannst, haben die Teile der Eingabe, die <code>[CLS] Satz1 [SEP]</code> entsprechen, alle eine Token-Typ-ID von <code>0</code>, während die anderen Teile, die <code>Satz2 [SEP]</code> entsprechen, alle einer Token-Typ-ID von <code>1</code> enthalten.",Nn,we,Ss="Beachte, dass die Auswahl eines anderen Checkpoints nicht unbedingt die <code>token_type_ids</code> in Ihren tokenisierten Inputs haben (z.B. werden sie nicht zurückgegeben, wenn ein DistilBERT-Modell verwendet wird). Sie werden nur zurückgegeben, wenn das Modell weiß was damit zu tun ist, weil es die Toke-Typ-Ids während des Vortrainings gesehen hat.",Sn,fe,Qs='In diesem Fall ist BERT mit Token-Typ-IDs vortrainiert worden, und zusätzlich zu dem maskierten Sprachmodellierungsziel aud <a href="/course/chapter1">Kapitel 1</a>, hat es ein zusätzliches Vorhersageziel namens <em>next sentence prediction</em> (d.h. Vorhersage des nächsten Satzes). Das Ziel dieser Aufgabe ist es, die Beziehung zwischen Satzpaaren zu modellieren.',Qn,je,Ws="Bei der Vorhersage des nächsten Satzes werden dem Modell Satzpaare (mit zufällig maskierten Token) bereitgestellt und erwartet, vorherzusagen, ob auf den ersten Satz der zweite Satz folgt. Um die Aufgabe non-trivial zu machen, folgen sich die Hälfte der Sätze in dem Originaldokument, aus dem sie extrahiert wurden, aufeinander, und in der anderen Hälfte stammen die beiden Sätze aus zwei verschiedenen Dokumenten.",Wn,Je,Xs="Im Allgemeinen muss man sich keine Gedanken darüber machen, ob Ihre tokenisierten Inputs <code>token_type_ids</code> enthalten oder nicht: Solange du denselben Checkpoint für den Tokenizer und das Modell verwendest, ist alles in Ordnung, da der Tokenizer weiß, was er dem Modell bereitstellen soll.",Xn,Te,Es='Nachdem wir nun gesehen haben, wie unser Tokenizer mit einem Satzpaar umgehen kann, können wir damit unseren gesamten Datensatz tokenisieren: Wie im <a href="/course/chapter2">vorherigen Kapitel</a> können wir dem Tokenizer eine Liste von Satzpaaren einspeisen, indem du ihm die Liste der ersten Sätze und dann die Liste der zweiten Sätze gibst. Dies ist auch kompatibel mit den Optionen zum Padding und Trunkieren, die wir in <a href="/course/chapter2">Kapitel 2</a> gesehen haben. Eine Möglichkeit, den Trainingsdatensatz vorzuverarbeiten, ist also:',En,Ue,Yn,ge,Ys='Das funktioniert gut, hat aber den Nachteil, dass ein Dictionary zurückgegeben wird (mit unseren Schlüsselwörtern <code>input_ids</code>, <code>attention_mask</code> und <code>token_type_ids</code> und Werten aus Listen von Listen). Es funktioniert auch nur, wenn du genügend RAM hast, um den gesamten Datensatz während der Tokenisierung zu im RAM zwischen zu speichern (während die Datensätze aus der Bibliothek 🤗 Datasets <a href="https://arrow.apache.org/" rel="nofollow">Apache Arrow</a> Dateien sind, die auf der Festplatte gespeichert sind, sodass nur die gewünschten Samples im RAM geladen sind).',Fn,ke,Fs='Um die Daten als Datensatz zu speichern, verwenden wir die Methode <a href="https://huggingface.co/docs/datasets/package_reference/main_classes#datasets.Dataset.map" rel="nofollow"><code>Dataset.map()</code></a>. Dies gewährt uns zusätzliche Flexibilität, wenn wir zusätzliche Vorverarbeitung als nur die Tokenisierung benötigen. Die <code>map()</code>-Methode funktioniert, indem sie eine Funktion auf jedes Element des Datensatzes anwendet, also definieren wir eine Funktion, die unsere Inputs tokenisiert:',Hn,ze,Ln,_e,Hs='Diese Funktion nimmt ein Dictionary (wie die Elemente unseres Datensatzes) und gibt ein neues Dictionary mit den Schlüsselwerten <code>input_ids</code>, <code>attention_mask</code> und <code>token_type_ids</code> zurück. Beachte, dass es auch funktioniert, wenn das <code>example</code>-Dictionary mehrere Beispiele enthält (jeder Schlüsselwert als Liste von Sätzen), da der <code>Tokenizer</code>, wie zuvor gesehen, mit Listen von Satzpaaren arbeitet. Dadurch können wir die Option <code>batched=True</code> in unserem Aufruf von <code>map()</code> verwenden, was die Tokenisierung erheblich beschleunigt. Der <code>tokenizer</code> wurde in Rust geschriebenen und ist in der Bibliothek <a href="https://github.com/huggingface/tokenizers" rel="nofollow">🤗 Tokenizers</a> verfügbar. Dieser Tokenizer kann sehr schnell arbeiten, wenn wir ihm viele Inputs auf einmal zum Verarbeiten geben. Note that we’ve left the <code>padding</code> argument out in our tokenization function for now.',qn,Ce,Ls="Beachte, dass wir das <code>padding</code>-Argument vorerst in unserer Tokenisierungsfunktion ausgelassen haben. Dies liegt daran, dass das Anwenden von Padding auf alle Elemente unserer Daten auf die maximale Länge nicht effizient ist: Es ist besser, die Proben aufzufüllen, wenn wir ein Batch erstellen, da wir dann nur auf die maximale Länge in diesem Batch auffüllen müssen und nicht auf die maximale Länge in den gesamten Datensatz. Dies kann viel Zeit und Rechenleistung sparen, besonders wenn die Eingaben stark variable Längen haben!",Pn,$e,qs="So wenden wir die Tokenisierungsfunktion auf alle unsere Datensätze gleichzeitig an. In unserem Aufruf von <code>map</code> verwenden wir <code>batched=True</code>, damit die Funktion auf mehrere Elemente des Datensatzes gleichzeitig angewendet wird und nicht auf jedes Element separat. Dies ermöglicht eine schnellere Vorverarbeitung.",Kn,Ie,On,xe,Ps="Die Bibliothek 🤗 Datasets verarbeitet Datensätzen indem sie neue Felder hinzuzufügen, eines für jeden Schlüssel im Dictionary, der von der Vorverarbeitungsfunktion zurückgegeben wird:",es,ve,ns,Re,Ks="Du kannst sogar Multiprocessing verwenden, wenn du die Vorverarbeitungsfunktion mit <code>map()</code> anwendest, indem du ein <code>num_proc</code>-Argument übergiebst. Wir haben dies hier nicht getan, weil die 🤗 Tokenizers-Bibliothek bereits mehrere Threads verwendet, um unsere Samples schneller zu tokenisieren. Wenn du keinen schnellen Tokenizer verwendest, der von dieser Bibliothek unterstützt wird, würde dies allerdings die Vorverarbeitung beschleunigen.",ss,Ae,Os="Unsere <code>tokenize_function</code> gibt ein Dictionary mit den Schlüsselwerten <code>input_ids</code>, <code>attention_mask</code> und <code>token_type_ids</code> zurück, also werden diese drei Felder zu allen Splits unseres Datensatzes hinzugefügt. Beachte, dass wir auch vorhandene Felder ändern könnten, wenn unsere Vorverarbeitungsfunktion einen neuen Wert für einen vorhandenen Schlüsselwert in dem Datensatz zurückgegeben hätte, auf den wir <code>map()</code> angewendet haben.",ts,Ze,et="Zuletzt, müssen wir alle Beispiele auf die Länge des längsten Elements aufzufüllen, wenn wir Elemente zusammenfassen – eine Technik, die wir als <em>Dynamisches Padding</em> bezeichnen.",ls,Be,as,Ve,is,sn,De,nt="In der Praxis müssen wir eine Collate-Funktion definieren, die die korrekte Menge an Padding auf die Elemente des Datensatzes anwendet, die wir in einem Batch haben möchten. Glücklicherweise stellt uns die 🤗 Transformers-Bibliothek über <code>DataCollatorWithPadding</code> eine solche Funktion zur Verfügung. Wenn sie instanziert wird, braucht es einen Tokenizer (um zu wissen, welches Padding-token verwendet werden soll und ob das Modell erwartet, dass sich das Padding links oder rechts von den Inputs befindet) und übernimmt alles was wir brauchen:",rs,R,A,tn,Ge,st="Um dieses neue Werkzeug zu testen, nehmen wir einige Elemente aus den Trainingsdaten, die wir als Batch verwenden möchten. Hier entfernen wir die Spalten <code>idx</code>, <code>sentence1</code> und <code>sentence2</code>, da sie nicht benötigt werden und Strings enthalten (wir können keine Tensoren mit Strings erstellen) und sehen uns die Länge jedes Eintrags im Batch an:",ps,Ne,ds,Se,cs,Qe,tt="Wenig überraschen erhalten wir Samples unterschiedlicher Länge von 32 bis 67. Dynamisches Padding bedeutet, dass die Elemente in diesem Batch alle auf eine Länge von 67 aufgefüllt werden, die maximale Länge innerhalb des Batches. Ohne dynamisches Auffüllen müssten alle Einträge auf die maximale Länge im gesamten Datensatz oder auf die maximale Länge die das Modell akzeptiert, aufgefüllt werden. Lass uns noch einmal überprüfen, ob unser <code>data_collator</code> den Stapel dynamisch richtig auffüllt:",us,We,os,Z,B,ln,S,Ms,an,rn,ms;T=new xt({props:{fw:j[0]}}),g=new bs({props:{title:"Vorbereitung der Daten",local:"vorbereitung-der-daten",headingTag:"h1"}});const lt=[Rt,vt],Xe=[];function at(e,n){return e[0]==="pt"?0:1}J=at(j),z=Xe[J]=lt[J](j);const it=[Zt,At],Ee=[];function rt(e,n){return e[0]==="pt"?0:1}_=rt(j),C=Ee[_]=it[_](j),X=new bs({props:{title:"Laden eines Datensatzes vom Hub",local:"laden-eines-datensatzes-vom-hub",headingTag:"h3"}});const pt=[Vt,Bt],Ye=[];function dt(e,n){return e[0]==="pt"?0:1}$=dt(j),I=Ye[$]=pt[$](j),F=new U({props:{code:"ZnJvbSUyMGRhdGFzZXRzJTIwaW1wb3J0JTIwbG9hZF9kYXRhc2V0JTBBJTBBcmF3X2RhdGFzZXRzJTIwJTNEJTIwbG9hZF9kYXRhc2V0KCUyMmdsdWUlMjIlMkMlMjAlMjJtcnBjJTIyKSUwQXJhd19kYXRhc2V0cw==",highlighted:`<span class="hljs-keyword">from</span> datasets <span class="hljs-keyword">import</span> load_dataset

raw_datasets = load_dataset(<span class="hljs-string">&quot;glue&quot;</span>, <span class="hljs-string">&quot;mrpc&quot;</span>)
raw_datasets`,wrap:!1}}),H=new U({props:{code:"RGF0YXNldERpY3QoJTdCJTBBJTIwJTIwJTIwJTIwdHJhaW4lM0ElMjBEYXRhc2V0KCU3QiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGZlYXR1cmVzJTNBJTIwJTVCJ3NlbnRlbmNlMSclMkMlMjAnc2VudGVuY2UyJyUyQyUyMCdsYWJlbCclMkMlMjAnaWR4JyU1RCUyQyUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG51bV9yb3dzJTNBJTIwMzY2OCUwQSUyMCUyMCUyMCUyMCU3RCklMEElMjAlMjAlMjAlMjB2YWxpZGF0aW9uJTNBJTIwRGF0YXNldCglN0IlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBmZWF0dXJlcyUzQSUyMCU1QidzZW50ZW5jZTEnJTJDJTIwJ3NlbnRlbmNlMiclMkMlMjAnbGFiZWwnJTJDJTIwJ2lkeCclNUQlMkMlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBudW1fcm93cyUzQSUyMDQwOCUwQSUyMCUyMCUyMCUyMCU3RCklMEElMjAlMjAlMjAlMjB0ZXN0JTNBJTIwRGF0YXNldCglN0IlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBmZWF0dXJlcyUzQSUyMCU1QidzZW50ZW5jZTEnJTJDJTIwJ3NlbnRlbmNlMiclMkMlMjAnbGFiZWwnJTJDJTIwJ2lkeCclNUQlMkMlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBudW1fcm93cyUzQSUyMDE3MjUlMEElMjAlMjAlMjAlMjAlN0QpJTBBJTdEKQ==",highlighted:`DatasetDict({
    train: Dataset({
        features: [<span class="hljs-string">&#x27;sentence1&#x27;</span>, <span class="hljs-string">&#x27;sentence2&#x27;</span>, <span class="hljs-string">&#x27;label&#x27;</span>, <span class="hljs-string">&#x27;idx&#x27;</span>],
        num_rows: <span class="hljs-number">3668</span>
    })
    validation: Dataset({
        features: [<span class="hljs-string">&#x27;sentence1&#x27;</span>, <span class="hljs-string">&#x27;sentence2&#x27;</span>, <span class="hljs-string">&#x27;label&#x27;</span>, <span class="hljs-string">&#x27;idx&#x27;</span>],
        num_rows: <span class="hljs-number">408</span>
    })
    test: Dataset({
        features: [<span class="hljs-string">&#x27;sentence1&#x27;</span>, <span class="hljs-string">&#x27;sentence2&#x27;</span>, <span class="hljs-string">&#x27;label&#x27;</span>, <span class="hljs-string">&#x27;idx&#x27;</span>],
        num_rows: <span class="hljs-number">1725</span>
    })
})`,wrap:!1}}),K=new U({props:{code:"cmF3X3RyYWluX2RhdGFzZXQlMjAlM0QlMjByYXdfZGF0YXNldHMlNUIlMjJ0cmFpbiUyMiU1RCUwQXJhd190cmFpbl9kYXRhc2V0JTVCMCU1RA==",highlighted:`raw_train_dataset = raw_datasets[<span class="hljs-string">&quot;train&quot;</span>]
raw_train_dataset[<span class="hljs-number">0</span>]`,wrap:!1}}),O=new U({props:{code:"JTdCJ2lkeCclM0ElMjAwJTJDJTBBJTIwJ2xhYmVsJyUzQSUyMDElMkMlMEElMjAnc2VudGVuY2UxJyUzQSUyMCdBbXJvemklMjBhY2N1c2VkJTIwaGlzJTIwYnJvdGhlciUyMCUyQyUyMHdob20lMjBoZSUyMGNhbGxlZCUyMCUyMiUyMHRoZSUyMHdpdG5lc3MlMjAlMjIlMjAlMkMlMjBvZiUyMGRlbGliZXJhdGVseSUyMGRpc3RvcnRpbmclMjBoaXMlMjBldmlkZW5jZSUyMC4nJTJDJTBBJTIwJ3NlbnRlbmNlMiclM0ElMjAnUmVmZXJyaW5nJTIwdG8lMjBoaW0lMjBhcyUyMG9ubHklMjAlMjIlMjB0aGUlMjB3aXRuZXNzJTIwJTIyJTIwJTJDJTIwQW1yb3ppJTIwYWNjdXNlZCUyMGhpcyUyMGJyb3RoZXIlMjBvZiUyMGRlbGliZXJhdGVseSUyMGRpc3RvcnRpbmclMjBoaXMlMjBldmlkZW5jZSUyMC4nJTdE",highlighted:`{<span class="hljs-string">&#x27;idx&#x27;</span>: <span class="hljs-number">0</span>,
 <span class="hljs-string">&#x27;label&#x27;</span>: <span class="hljs-number">1</span>,
 <span class="hljs-string">&#x27;sentence1&#x27;</span>: <span class="hljs-string">&#x27;Amrozi accused his brother , whom he called &quot; the witness &quot; , of deliberately distorting his evidence .&#x27;</span>,
 <span class="hljs-string">&#x27;sentence2&#x27;</span>: <span class="hljs-string">&#x27;Referring to him as only &quot; the witness &quot; , Amrozi accused his brother of deliberately distorting his evidence .&#x27;</span>}`,wrap:!1}}),ne=new U({props:{code:"cmF3X3RyYWluX2RhdGFzZXQuZmVhdHVyZXM=",highlighted:"raw_train_dataset.features",wrap:!1}}),se=new U({props:{code:"JTdCJ3NlbnRlbmNlMSclM0ElMjBWYWx1ZShkdHlwZSUzRCdzdHJpbmcnJTJDJTIwaWQlM0ROb25lKSUyQyUwQSUyMCdzZW50ZW5jZTInJTNBJTIwVmFsdWUoZHR5cGUlM0Qnc3RyaW5nJyUyQyUyMGlkJTNETm9uZSklMkMlMEElMjAnbGFiZWwnJTNBJTIwQ2xhc3NMYWJlbChudW1fY2xhc3NlcyUzRDIlMkMlMjBuYW1lcyUzRCU1Qidub3RfZXF1aXZhbGVudCclMkMlMjAnZXF1aXZhbGVudCclNUQlMkMlMjBuYW1lc19maWxlJTNETm9uZSUyQyUyMGlkJTNETm9uZSklMkMlMEElMjAnaWR4JyUzQSUyMFZhbHVlKGR0eXBlJTNEJ2ludDMyJyUyQyUyMGlkJTNETm9uZSklN0Q=",highlighted:`{<span class="hljs-string">&#x27;sentence1&#x27;</span>: Value(dtype=<span class="hljs-string">&#x27;string&#x27;</span>, <span class="hljs-built_in">id</span>=<span class="hljs-literal">None</span>),
 <span class="hljs-string">&#x27;sentence2&#x27;</span>: Value(dtype=<span class="hljs-string">&#x27;string&#x27;</span>, <span class="hljs-built_in">id</span>=<span class="hljs-literal">None</span>),
 <span class="hljs-string">&#x27;label&#x27;</span>: ClassLabel(num_classes=<span class="hljs-number">2</span>, names=[<span class="hljs-string">&#x27;not_equivalent&#x27;</span>, <span class="hljs-string">&#x27;equivalent&#x27;</span>], names_file=<span class="hljs-literal">None</span>, <span class="hljs-built_in">id</span>=<span class="hljs-literal">None</span>),
 <span class="hljs-string">&#x27;idx&#x27;</span>: Value(dtype=<span class="hljs-string">&#x27;int32&#x27;</span>, <span class="hljs-built_in">id</span>=<span class="hljs-literal">None</span>)}`,wrap:!1}}),G=new Us({props:{$$slots:{default:[Dt]},$$scope:{ctx:j}}}),le=new bs({props:{title:"Vorverarbeitung eines Datensatzes",local:"vorverarbeitung-eines-datensatzes",headingTag:"h3"}});const ct=[Nt,Gt],Fe=[];function ut(e,n){return e[0]==="pt"?0:1}x=ut(j),v=Fe[x]=ct[x](j),ie=new U({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMEF1dG9Ub2tlbml6ZXIlMEElMEFjaGVja3BvaW50JTIwJTNEJTIwJTIyYmVydC1iYXNlLXVuY2FzZWQlMjIlMEF0b2tlbml6ZXIlMjAlM0QlMjBBdXRvVG9rZW5pemVyLmZyb21fcHJldHJhaW5lZChjaGVja3BvaW50KSUwQXRva2VuaXplZF9zZW50ZW5jZXNfMSUyMCUzRCUyMHRva2VuaXplcihyYXdfZGF0YXNldHMlNUIlMjJ0cmFpbiUyMiU1RCU1QiUyMnNlbnRlbmNlMSUyMiU1RCklMEF0b2tlbml6ZWRfc2VudGVuY2VzXzIlMjAlM0QlMjB0b2tlbml6ZXIocmF3X2RhdGFzZXRzJTVCJTIydHJhaW4lMjIlNUQlNUIlMjJzZW50ZW5jZTIlMjIlNUQp",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoTokenizer

checkpoint = <span class="hljs-string">&quot;bert-base-uncased&quot;</span>
tokenizer = AutoTokenizer.from_pretrained(checkpoint)
tokenized_sentences_1 = tokenizer(raw_datasets[<span class="hljs-string">&quot;train&quot;</span>][<span class="hljs-string">&quot;sentence1&quot;</span>])
tokenized_sentences_2 = tokenizer(raw_datasets[<span class="hljs-string">&quot;train&quot;</span>][<span class="hljs-string">&quot;sentence2&quot;</span>])`,wrap:!1}}),pe=new U({props:{code:"aW5wdXRzJTIwJTNEJTIwdG9rZW5pemVyKCUyMlRoaXMlMjBpcyUyMHRoZSUyMGZpcnN0JTIwc2VudGVuY2UuJTIyJTJDJTIwJTIyVGhpcyUyMGlzJTIwdGhlJTIwc2Vjb25kJTIwb25lLiUyMiklMEFpbnB1dHM=",highlighted:`inputs = tokenizer(<span class="hljs-string">&quot;This is the first sentence.&quot;</span>, <span class="hljs-string">&quot;This is the second one.&quot;</span>)
inputs`,wrap:!1}}),de=new U({props:{code:"JTdCJTIwJTBBJTIwJTIwJ2lucHV0X2lkcyclM0ElMjAlNUIxMDElMkMlMjAyMDIzJTJDJTIwMjAwMyUyQyUyMDE5OTYlMkMlMjAyMDM0JTJDJTIwNjI1MSUyQyUyMDEwMTIlMkMlMjAxMDIlMkMlMjAyMDIzJTJDJTIwMjAwMyUyQyUyMDE5OTYlMkMlMjAyMTE3JTJDJTIwMjAyOCUyQyUyMDEwMTIlMkMlMjAxMDIlNUQlMkMlMEElMjAlMjAndG9rZW5fdHlwZV9pZHMnJTNBJTIwJTVCMCUyQyUyMDAlMkMlMjAwJTJDJTIwMCUyQyUyMDAlMkMlMjAwJTJDJTIwMCUyQyUyMDAlMkMlMjAxJTJDJTIwMSUyQyUyMDElMkMlMjAxJTJDJTIwMSUyQyUyMDElMkMlMjAxJTVEJTJDJTBBJTIwJTIwJ2F0dGVudGlvbl9tYXNrJyUzQSUyMCU1QjElMkMlMjAxJTJDJTIwMSUyQyUyMDElMkMlMjAxJTJDJTIwMSUyQyUyMDElMkMlMjAxJTJDJTIwMSUyQyUyMDElMkMlMjAxJTJDJTIwMSUyQyUyMDElMkMlMjAxJTJDJTIwMSU1RCUwQSU3RA==",highlighted:`{ 
  <span class="hljs-string">&#x27;input_ids&#x27;</span>: [<span class="hljs-number">101</span>, <span class="hljs-number">2023</span>, <span class="hljs-number">2003</span>, <span class="hljs-number">1996</span>, <span class="hljs-number">2034</span>, <span class="hljs-number">6251</span>, <span class="hljs-number">1012</span>, <span class="hljs-number">102</span>, <span class="hljs-number">2023</span>, <span class="hljs-number">2003</span>, <span class="hljs-number">1996</span>, <span class="hljs-number">2117</span>, <span class="hljs-number">2028</span>, <span class="hljs-number">1012</span>, <span class="hljs-number">102</span>],
  <span class="hljs-string">&#x27;token_type_ids&#x27;</span>: [<span class="hljs-number">0</span>, <span class="hljs-number">0</span>, <span class="hljs-number">0</span>, <span class="hljs-number">0</span>, <span class="hljs-number">0</span>, <span class="hljs-number">0</span>, <span class="hljs-number">0</span>, <span class="hljs-number">0</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>],
  <span class="hljs-string">&#x27;attention_mask&#x27;</span>: [<span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>, <span class="hljs-number">1</span>]
}`,wrap:!1}}),N=new Us({props:{$$slots:{default:[St]},$$scope:{ctx:j}}}),oe=new U({props:{code:"dG9rZW5pemVyLmNvbnZlcnRfaWRzX3RvX3Rva2VucyhpbnB1dHMlNUIlMjJpbnB1dF9pZHMlMjIlNUQp",highlighted:'tokenizer.convert_ids_to_tokens(inputs[<span class="hljs-string">&quot;input_ids&quot;</span>])',wrap:!1}}),me=new U({props:{code:"JTVCJyU1QkNMUyU1RCclMkMlMjAndGhpcyclMkMlMjAnaXMnJTJDJTIwJ3RoZSclMkMlMjAnZmlyc3QnJTJDJTIwJ3NlbnRlbmNlJyUyQyUyMCcuJyUyQyUyMCclNUJTRVAlNUQnJTJDJTIwJ3RoaXMnJTJDJTIwJ2lzJyUyQyUyMCd0aGUnJTJDJTIwJ3NlY29uZCclMkMlMjAnb25lJyUyQyUyMCcuJyUyQyUyMCclNUJTRVAlNUQnJTVE",highlighted:'[<span class="hljs-string">&#x27;[CLS]&#x27;</span>, <span class="hljs-string">&#x27;this&#x27;</span>, <span class="hljs-string">&#x27;is&#x27;</span>, <span class="hljs-string">&#x27;the&#x27;</span>, <span class="hljs-string">&#x27;first&#x27;</span>, <span class="hljs-string">&#x27;sentence&#x27;</span>, <span class="hljs-string">&#x27;.&#x27;</span>, <span class="hljs-string">&#x27;[SEP]&#x27;</span>, <span class="hljs-string">&#x27;this&#x27;</span>, <span class="hljs-string">&#x27;is&#x27;</span>, <span class="hljs-string">&#x27;the&#x27;</span>, <span class="hljs-string">&#x27;second&#x27;</span>, <span class="hljs-string">&#x27;one&#x27;</span>, <span class="hljs-string">&#x27;.&#x27;</span>, <span class="hljs-string">&#x27;[SEP]&#x27;</span>]',wrap:!1}}),be=new U({props:{code:"JTVCJyU1QkNMUyU1RCclMkMlMjAndGhpcyclMkMlMjAnaXMnJTJDJTIwJ3RoZSclMkMlMjAnZmlyc3QnJTJDJTIwJ3NlbnRlbmNlJyUyQyUyMCcuJyUyQyUyMCclNUJTRVAlNUQnJTJDJTIwJ3RoaXMnJTJDJTIwJ2lzJyUyQyUyMCd0aGUnJTJDJTIwJ3NlY29uZCclMkMlMjAnb25lJyUyQyUyMCcuJyUyQyUyMCclNUJTRVAlNUQnJTVEJTBBJTVCJTIwJTIwJTIwJTIwJTIwJTIwMCUyQyUyMCUyMCUyMCUyMCUyMCUyMDAlMkMlMjAlMjAlMjAlMjAwJTJDJTIwJTIwJTIwJTIwJTIwMCUyQyUyMCUyMCUyMCUyMCUyMCUyMCUyMDAlMkMlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAwJTJDJTIwJTIwJTIwMCUyQyUyMCUyMCUyMCUyMCUyMCUyMCUyMDAlMkMlMjAlMjAlMjAlMjAlMjAlMjAxJTJDJTIwJTIwJTIwJTIwMSUyQyUyMCUyMCUyMCUyMCUyMDElMkMlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAxJTJDJTIwJTIwJTIwJTIwJTIwMSUyQyUyMCUyMCUyMDElMkMlMjAlMjAlMjAlMjAlMjAlMjAlMjAxJTVE",highlighted:`[<span class="hljs-string">&#x27;[CLS]&#x27;</span>, <span class="hljs-string">&#x27;this&#x27;</span>, <span class="hljs-string">&#x27;is&#x27;</span>, <span class="hljs-string">&#x27;the&#x27;</span>, <span class="hljs-string">&#x27;first&#x27;</span>, <span class="hljs-string">&#x27;sentence&#x27;</span>, <span class="hljs-string">&#x27;.&#x27;</span>, <span class="hljs-string">&#x27;[SEP]&#x27;</span>, <span class="hljs-string">&#x27;this&#x27;</span>, <span class="hljs-string">&#x27;is&#x27;</span>, <span class="hljs-string">&#x27;the&#x27;</span>, <span class="hljs-string">&#x27;second&#x27;</span>, <span class="hljs-string">&#x27;one&#x27;</span>, <span class="hljs-string">&#x27;.&#x27;</span>, <span class="hljs-string">&#x27;[SEP]&#x27;</span>]
[      <span class="hljs-number">0</span>,      <span class="hljs-number">0</span>,    <span class="hljs-number">0</span>,     <span class="hljs-number">0</span>,       <span class="hljs-number">0</span>,          <span class="hljs-number">0</span>,   <span class="hljs-number">0</span>,       <span class="hljs-number">0</span>,      <span class="hljs-number">1</span>,    <span class="hljs-number">1</span>,     <span class="hljs-number">1</span>,        <span class="hljs-number">1</span>,     <span class="hljs-number">1</span>,   <span class="hljs-number">1</span>,       <span class="hljs-number">1</span>]`,wrap:!1}}),Ue=new U({props:{code:"dG9rZW5pemVkX2RhdGFzZXQlMjAlM0QlMjB0b2tlbml6ZXIoJTBBJTIwJTIwJTIwJTIwcmF3X2RhdGFzZXRzJTVCJTIydHJhaW4lMjIlNUQlNUIlMjJzZW50ZW5jZTElMjIlNUQlMkMlMEElMjAlMjAlMjAlMjByYXdfZGF0YXNldHMlNUIlMjJ0cmFpbiUyMiU1RCU1QiUyMnNlbnRlbmNlMiUyMiU1RCUyQyUwQSUyMCUyMCUyMCUyMHBhZGRpbmclM0RUcnVlJTJDJTBBJTIwJTIwJTIwJTIwdHJ1bmNhdGlvbiUzRFRydWUlMkMlMEEp",highlighted:`tokenized_dataset = tokenizer(
    raw_datasets[<span class="hljs-string">&quot;train&quot;</span>][<span class="hljs-string">&quot;sentence1&quot;</span>],
    raw_datasets[<span class="hljs-string">&quot;train&quot;</span>][<span class="hljs-string">&quot;sentence2&quot;</span>],
    padding=<span class="hljs-literal">True</span>,
    truncation=<span class="hljs-literal">True</span>,
)`,wrap:!1}}),ze=new U({props:{code:"ZGVmJTIwdG9rZW5pemVfZnVuY3Rpb24oZXhhbXBsZSklM0ElMEElMjAlMjAlMjAlMjByZXR1cm4lMjB0b2tlbml6ZXIoZXhhbXBsZSU1QiUyMnNlbnRlbmNlMSUyMiU1RCUyQyUyMGV4YW1wbGUlNUIlMjJzZW50ZW5jZTIlMjIlNUQlMkMlMjB0cnVuY2F0aW9uJTNEVHJ1ZSk=",highlighted:`<span class="hljs-keyword">def</span> <span class="hljs-title function_">tokenize_function</span>(<span class="hljs-params">example</span>):
    <span class="hljs-keyword">return</span> tokenizer(example[<span class="hljs-string">&quot;sentence1&quot;</span>], example[<span class="hljs-string">&quot;sentence2&quot;</span>], truncation=<span class="hljs-literal">True</span>)`,wrap:!1}}),Ie=new U({props:{code:"dG9rZW5pemVkX2RhdGFzZXRzJTIwJTNEJTIwcmF3X2RhdGFzZXRzLm1hcCh0b2tlbml6ZV9mdW5jdGlvbiUyQyUyMGJhdGNoZWQlM0RUcnVlKSUwQXRva2VuaXplZF9kYXRhc2V0cw==",highlighted:`tokenized_datasets = raw_datasets.<span class="hljs-built_in">map</span>(tokenize_function, batched=<span class="hljs-literal">True</span>)
tokenized_datasets`,wrap:!1}}),ve=new U({props:{code:"RGF0YXNldERpY3QoJTdCJTBBJTIwJTIwJTIwJTIwdHJhaW4lM0ElMjBEYXRhc2V0KCU3QiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGZlYXR1cmVzJTNBJTIwJTVCJ2F0dGVudGlvbl9tYXNrJyUyQyUyMCdpZHgnJTJDJTIwJ2lucHV0X2lkcyclMkMlMjAnbGFiZWwnJTJDJTIwJ3NlbnRlbmNlMSclMkMlMjAnc2VudGVuY2UyJyUyQyUyMCd0b2tlbl90eXBlX2lkcyclNUQlMkMlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBudW1fcm93cyUzQSUyMDM2NjglMEElMjAlMjAlMjAlMjAlN0QpJTBBJTIwJTIwJTIwJTIwdmFsaWRhdGlvbiUzQSUyMERhdGFzZXQoJTdCJTBBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwZmVhdHVyZXMlM0ElMjAlNUInYXR0ZW50aW9uX21hc2snJTJDJTIwJ2lkeCclMkMlMjAnaW5wdXRfaWRzJyUyQyUyMCdsYWJlbCclMkMlMjAnc2VudGVuY2UxJyUyQyUyMCdzZW50ZW5jZTInJTJDJTIwJ3Rva2VuX3R5cGVfaWRzJyU1RCUyQyUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMG51bV9yb3dzJTNBJTIwNDA4JTBBJTIwJTIwJTIwJTIwJTdEKSUwQSUyMCUyMCUyMCUyMHRlc3QlM0ElMjBEYXRhc2V0KCU3QiUwQSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMGZlYXR1cmVzJTNBJTIwJTVCJ2F0dGVudGlvbl9tYXNrJyUyQyUyMCdpZHgnJTJDJTIwJ2lucHV0X2lkcyclMkMlMjAnbGFiZWwnJTJDJTIwJ3NlbnRlbmNlMSclMkMlMjAnc2VudGVuY2UyJyUyQyUyMCd0b2tlbl90eXBlX2lkcyclNUQlMkMlMEElMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBudW1fcm93cyUzQSUyMDE3MjUlMEElMjAlMjAlMjAlMjAlN0QpJTBBJTdEKQ==",highlighted:`DatasetDict({
    train: Dataset({
        features: [<span class="hljs-string">&#x27;attention_mask&#x27;</span>, <span class="hljs-string">&#x27;idx&#x27;</span>, <span class="hljs-string">&#x27;input_ids&#x27;</span>, <span class="hljs-string">&#x27;label&#x27;</span>, <span class="hljs-string">&#x27;sentence1&#x27;</span>, <span class="hljs-string">&#x27;sentence2&#x27;</span>, <span class="hljs-string">&#x27;token_type_ids&#x27;</span>],
        num_rows: <span class="hljs-number">3668</span>
    })
    validation: Dataset({
        features: [<span class="hljs-string">&#x27;attention_mask&#x27;</span>, <span class="hljs-string">&#x27;idx&#x27;</span>, <span class="hljs-string">&#x27;input_ids&#x27;</span>, <span class="hljs-string">&#x27;label&#x27;</span>, <span class="hljs-string">&#x27;sentence1&#x27;</span>, <span class="hljs-string">&#x27;sentence2&#x27;</span>, <span class="hljs-string">&#x27;token_type_ids&#x27;</span>],
        num_rows: <span class="hljs-number">408</span>
    })
    test: Dataset({
        features: [<span class="hljs-string">&#x27;attention_mask&#x27;</span>, <span class="hljs-string">&#x27;idx&#x27;</span>, <span class="hljs-string">&#x27;input_ids&#x27;</span>, <span class="hljs-string">&#x27;label&#x27;</span>, <span class="hljs-string">&#x27;sentence1&#x27;</span>, <span class="hljs-string">&#x27;sentence2&#x27;</span>, <span class="hljs-string">&#x27;token_type_ids&#x27;</span>],
        num_rows: <span class="hljs-number">1725</span>
    })
})`,wrap:!1}}),Be=new bs({props:{title:"Dynamisches Padding",local:"dynamisches-padding",headingTag:"h3"}}),Ve=new pn({props:{id:"7q5NyFT8REg"}});function ot(e,n){return e[0]==="pt"?Wt:Qt}let hs=ot(j),D=hs(j);const Mt=[Et,Xt],He=[];function mt(e,n){return e[0]==="pt"?0:1}R=mt(j),A=He[R]=Mt[R](j),Ne=new U({props:{code:"c2FtcGxlcyUyMCUzRCUyMHRva2VuaXplZF9kYXRhc2V0cyU1QiUyMnRyYWluJTIyJTVEJTVCJTNBOCU1RCUwQXNhbXBsZXMlMjAlM0QlMjAlN0JrJTNBJTIwdiUyMGZvciUyMGslMkMlMjB2JTIwaW4lMjBzYW1wbGVzLml0ZW1zKCklMjBpZiUyMGslMjBub3QlMjBpbiUyMCU1QiUyMmlkeCUyMiUyQyUyMCUyMnNlbnRlbmNlMSUyMiUyQyUyMCUyMnNlbnRlbmNlMiUyMiU1RCU3RCUwQSU1Qmxlbih4KSUyMGZvciUyMHglMjBpbiUyMHNhbXBsZXMlNUIlMjJpbnB1dF9pZHMlMjIlNUQlNUQ=",highlighted:`samples = tokenized_datasets[<span class="hljs-string">&quot;train&quot;</span>][:<span class="hljs-number">8</span>]
samples = {k: v <span class="hljs-keyword">for</span> k, v <span class="hljs-keyword">in</span> samples.items() <span class="hljs-keyword">if</span> k <span class="hljs-keyword">not</span> <span class="hljs-keyword">in</span> [<span class="hljs-string">&quot;idx&quot;</span>, <span class="hljs-string">&quot;sentence1&quot;</span>, <span class="hljs-string">&quot;sentence2&quot;</span>]}
[<span class="hljs-built_in">len</span>(x) <span class="hljs-keyword">for</span> x <span class="hljs-keyword">in</span> samples[<span class="hljs-string">&quot;input_ids&quot;</span>]]`,wrap:!1}}),Se=new U({props:{code:"JTVCNTAlMkMlMjA1OSUyQyUyMDQ3JTJDJTIwNjclMkMlMjA1OSUyQyUyMDUwJTJDJTIwNjIlMkMlMjAzMiU1RA==",highlighted:'[<span class="hljs-number">50</span>, <span class="hljs-number">59</span>, <span class="hljs-number">47</span>, <span class="hljs-number">67</span>, <span class="hljs-number">59</span>, <span class="hljs-number">50</span>, <span class="hljs-number">62</span>, <span class="hljs-number">32</span>]',wrap:!1}}),We=new U({props:{code:"YmF0Y2glMjAlM0QlMjBkYXRhX2NvbGxhdG9yKHNhbXBsZXMpJTBBJTdCayUzQSUyMHYuc2hhcGUlMjBmb3IlMjBrJTJDJTIwdiUyMGluJTIwYmF0Y2guaXRlbXMoKSU3RA==",highlighted:`batch = data_collator(samples)
{k: v.shape <span class="hljs-keyword">for</span> k, v <span class="hljs-keyword">in</span> batch.items()}`,wrap:!1}});const ht=[Ft,Yt],Le=[];function bt(e,n){return e[0]==="tf"?0:1}Z=bt(j),B=Le[Z]=ht[Z](j),S=new Us({props:{$$slots:{default:[Ht]},$$scope:{ctx:j}}});let k=j[0]==="tf"&&Ut();return{c(){s=M("meta"),i=r(),t=M("p"),d=r(),b(T.$$.fragment),c=r(),b(g.$$.fragment),V=r(),z.c(),Ke=r(),C.c(),Oe=r(),Q=M("p"),Q.textContent=ks,dn=r(),W=M("p"),W.innerHTML=zs,cn=r(),b(X.$$.fragment),un=r(),I.c(),en=r(),E=M("p"),E.innerHTML=_s,on=r(),Y=M("p"),Y.textContent=Cs,Mn=r(),b(F.$$.fragment),mn=r(),b(H.$$.fragment),hn=r(),L=M("p"),L.innerHTML=$s,bn=r(),q=M("p"),q.innerHTML=Is,yn=r(),P=M("p"),P.innerHTML=xs,wn=r(),b(K.$$.fragment),fn=r(),b(O.$$.fragment),jn=r(),ee=M("p"),ee.innerHTML=vs,Jn=r(),b(ne.$$.fragment),Tn=r(),b(se.$$.fragment),Un=r(),te=M("p"),te.innerHTML=Rs,gn=r(),b(G.$$.fragment),kn=r(),b(le.$$.fragment),zn=r(),v.c(),nn=r(),ae=M("p"),ae.innerHTML=As,_n=r(),b(ie.$$.fragment),Cn=r(),re=M("p"),re.textContent=Zs,$n=r(),b(pe.$$.fragment),In=r(),b(de.$$.fragment),xn=r(),ce=M("p"),ce.innerHTML=Bs,vn=r(),b(N.$$.fragment),Rn=r(),ue=M("p"),ue.innerHTML=Vs,An=r(),b(oe.$$.fragment),Zn=r(),Me=M("p"),Me.textContent=Ds,Bn=r(),b(me.$$.fragment),Vn=r(),he=M("p"),he.innerHTML=Gs,Dn=r(),b(be.$$.fragment),Gn=r(),ye=M("p"),ye.innerHTML=Ns,Nn=r(),we=M("p"),we.innerHTML=Ss,Sn=r(),fe=M("p"),fe.innerHTML=Qs,Qn=r(),je=M("p"),je.textContent=Ws,Wn=r(),Je=M("p"),Je.innerHTML=Xs,Xn=r(),Te=M("p"),Te.innerHTML=Es,En=r(),b(Ue.$$.fragment),Yn=r(),ge=M("p"),ge.innerHTML=Ys,Fn=r(),ke=M("p"),ke.innerHTML=Fs,Hn=r(),b(ze.$$.fragment),Ln=r(),_e=M("p"),_e.innerHTML=Hs,qn=r(),Ce=M("p"),Ce.innerHTML=Ls,Pn=r(),$e=M("p"),$e.innerHTML=qs,Kn=r(),b(Ie.$$.fragment),On=r(),xe=M("p"),xe.textContent=Ps,es=r(),b(ve.$$.fragment),ns=r(),Re=M("p"),Re.innerHTML=Ks,ss=r(),Ae=M("p"),Ae.innerHTML=Os,ts=r(),Ze=M("p"),Ze.innerHTML=et,ls=r(),b(Be.$$.fragment),as=r(),b(Ve.$$.fragment),is=r(),D.c(),sn=r(),De=M("p"),De.innerHTML=nt,rs=r(),A.c(),tn=r(),Ge=M("p"),Ge.innerHTML=st,ps=r(),b(Ne.$$.fragment),ds=r(),b(Se.$$.fragment),cs=r(),Qe=M("p"),Qe.innerHTML=tt,us=r(),b(We.$$.fragment),os=r(),B.c(),ln=r(),b(S.$$.fragment),Ms=r(),k&&k.c(),an=r(),rn=M("p"),this.h()},l(e){const n=$t("svelte-u9bgzb",document.head);s=m(n,"META",{name:!0,content:!0}),n.forEach(l),i=p(e),t=m(e,"P",{}),Jt(t).forEach(l),d=p(e),y(T.$$.fragment,e),c=p(e),y(g.$$.fragment,e),V=p(e),z.l(e),Ke=p(e),C.l(e),Oe=p(e),Q=m(e,"P",{"data-svelte-h":!0}),h(Q)!=="svelte-1e042rz"&&(Q.textContent=ks),dn=p(e),W=m(e,"P",{"data-svelte-h":!0}),h(W)!=="svelte-15b53wd"&&(W.innerHTML=zs),cn=p(e),y(X.$$.fragment,e),un=p(e),I.l(e),en=p(e),E=m(e,"P",{"data-svelte-h":!0}),h(E)!=="svelte-m2s4wt"&&(E.innerHTML=_s),on=p(e),Y=m(e,"P",{"data-svelte-h":!0}),h(Y)!=="svelte-1vg19gw"&&(Y.textContent=Cs),Mn=p(e),y(F.$$.fragment,e),mn=p(e),y(H.$$.fragment,e),hn=p(e),L=m(e,"P",{"data-svelte-h":!0}),h(L)!=="svelte-a6iaou"&&(L.innerHTML=$s),bn=p(e),q=m(e,"P",{"data-svelte-h":!0}),h(q)!=="svelte-1a1p8ry"&&(q.innerHTML=Is),yn=p(e),P=m(e,"P",{"data-svelte-h":!0}),h(P)!=="svelte-1ckjw7j"&&(P.innerHTML=xs),wn=p(e),y(K.$$.fragment,e),fn=p(e),y(O.$$.fragment,e),jn=p(e),ee=m(e,"P",{"data-svelte-h":!0}),h(ee)!=="svelte-3c7hu5"&&(ee.innerHTML=vs),Jn=p(e),y(ne.$$.fragment,e),Tn=p(e),y(se.$$.fragment,e),Un=p(e),te=m(e,"P",{"data-svelte-h":!0}),h(te)!=="svelte-1d387e1"&&(te.innerHTML=Rs),gn=p(e),y(G.$$.fragment,e),kn=p(e),y(le.$$.fragment,e),zn=p(e),v.l(e),nn=p(e),ae=m(e,"P",{"data-svelte-h":!0}),h(ae)!=="svelte-1uteodl"&&(ae.innerHTML=As),_n=p(e),y(ie.$$.fragment,e),Cn=p(e),re=m(e,"P",{"data-svelte-h":!0}),h(re)!=="svelte-1c4fbl2"&&(re.textContent=Zs),$n=p(e),y(pe.$$.fragment,e),In=p(e),y(de.$$.fragment,e),xn=p(e),ce=m(e,"P",{"data-svelte-h":!0}),h(ce)!=="svelte-1i5rbbz"&&(ce.innerHTML=Bs),vn=p(e),y(N.$$.fragment,e),Rn=p(e),ue=m(e,"P",{"data-svelte-h":!0}),h(ue)!=="svelte-1ib8m8w"&&(ue.innerHTML=Vs),An=p(e),y(oe.$$.fragment,e),Zn=p(e),Me=m(e,"P",{"data-svelte-h":!0}),h(Me)!=="svelte-2npq97"&&(Me.textContent=Ds),Bn=p(e),y(me.$$.fragment,e),Vn=p(e),he=m(e,"P",{"data-svelte-h":!0}),h(he)!=="svelte-463sul"&&(he.innerHTML=Gs),Dn=p(e),y(be.$$.fragment,e),Gn=p(e),ye=m(e,"P",{"data-svelte-h":!0}),h(ye)!=="svelte-3sjiry"&&(ye.innerHTML=Ns),Nn=p(e),we=m(e,"P",{"data-svelte-h":!0}),h(we)!=="svelte-1rme24s"&&(we.innerHTML=Ss),Sn=p(e),fe=m(e,"P",{"data-svelte-h":!0}),h(fe)!=="svelte-js11gl"&&(fe.innerHTML=Qs),Qn=p(e),je=m(e,"P",{"data-svelte-h":!0}),h(je)!=="svelte-123wf7x"&&(je.textContent=Ws),Wn=p(e),Je=m(e,"P",{"data-svelte-h":!0}),h(Je)!=="svelte-4syt52"&&(Je.innerHTML=Xs),Xn=p(e),Te=m(e,"P",{"data-svelte-h":!0}),h(Te)!=="svelte-1pia9y9"&&(Te.innerHTML=Es),En=p(e),y(Ue.$$.fragment,e),Yn=p(e),ge=m(e,"P",{"data-svelte-h":!0}),h(ge)!=="svelte-tcxt3s"&&(ge.innerHTML=Ys),Fn=p(e),ke=m(e,"P",{"data-svelte-h":!0}),h(ke)!=="svelte-1p79kq7"&&(ke.innerHTML=Fs),Hn=p(e),y(ze.$$.fragment,e),Ln=p(e),_e=m(e,"P",{"data-svelte-h":!0}),h(_e)!=="svelte-lew21x"&&(_e.innerHTML=Hs),qn=p(e),Ce=m(e,"P",{"data-svelte-h":!0}),h(Ce)!=="svelte-ipuga6"&&(Ce.innerHTML=Ls),Pn=p(e),$e=m(e,"P",{"data-svelte-h":!0}),h($e)!=="svelte-1wzlqwj"&&($e.innerHTML=qs),Kn=p(e),y(Ie.$$.fragment,e),On=p(e),xe=m(e,"P",{"data-svelte-h":!0}),h(xe)!=="svelte-lzyu20"&&(xe.textContent=Ps),es=p(e),y(ve.$$.fragment,e),ns=p(e),Re=m(e,"P",{"data-svelte-h":!0}),h(Re)!=="svelte-ockrf0"&&(Re.innerHTML=Ks),ss=p(e),Ae=m(e,"P",{"data-svelte-h":!0}),h(Ae)!=="svelte-aoxc74"&&(Ae.innerHTML=Os),ts=p(e),Ze=m(e,"P",{"data-svelte-h":!0}),h(Ze)!=="svelte-1ybrrac"&&(Ze.innerHTML=et),ls=p(e),y(Be.$$.fragment,e),as=p(e),y(Ve.$$.fragment,e),is=p(e),D.l(e),sn=p(e),De=m(e,"P",{"data-svelte-h":!0}),h(De)!=="svelte-17gnwpb"&&(De.innerHTML=nt),rs=p(e),A.l(e),tn=p(e),Ge=m(e,"P",{"data-svelte-h":!0}),h(Ge)!=="svelte-m9ati7"&&(Ge.innerHTML=st),ps=p(e),y(Ne.$$.fragment,e),ds=p(e),y(Se.$$.fragment,e),cs=p(e),Qe=m(e,"P",{"data-svelte-h":!0}),h(Qe)!=="svelte-gc87ue"&&(Qe.innerHTML=tt),us=p(e),y(We.$$.fragment,e),os=p(e),B.l(e),ln=p(e),y(S.$$.fragment,e),Ms=p(e),k&&k.l(e),an=p(e),rn=m(e,"P",{}),Jt(rn).forEach(l),this.h()},h(){Tt(s,"name","hf:doc:metadata"),Tt(s,"content",qt)},m(e,n){It(document.head,s),a(e,i,n),a(e,t,n),a(e,d,n),w(T,e,n),a(e,c,n),w(g,e,n),a(e,V,n),Xe[J].m(e,n),a(e,Ke,n),Ee[_].m(e,n),a(e,Oe,n),a(e,Q,n),a(e,dn,n),a(e,W,n),a(e,cn,n),w(X,e,n),a(e,un,n),Ye[$].m(e,n),a(e,en,n),a(e,E,n),a(e,on,n),a(e,Y,n),a(e,Mn,n),w(F,e,n),a(e,mn,n),w(H,e,n),a(e,hn,n),a(e,L,n),a(e,bn,n),a(e,q,n),a(e,yn,n),a(e,P,n),a(e,wn,n),w(K,e,n),a(e,fn,n),w(O,e,n),a(e,jn,n),a(e,ee,n),a(e,Jn,n),w(ne,e,n),a(e,Tn,n),w(se,e,n),a(e,Un,n),a(e,te,n),a(e,gn,n),w(G,e,n),a(e,kn,n),w(le,e,n),a(e,zn,n),Fe[x].m(e,n),a(e,nn,n),a(e,ae,n),a(e,_n,n),w(ie,e,n),a(e,Cn,n),a(e,re,n),a(e,$n,n),w(pe,e,n),a(e,In,n),w(de,e,n),a(e,xn,n),a(e,ce,n),a(e,vn,n),w(N,e,n),a(e,Rn,n),a(e,ue,n),a(e,An,n),w(oe,e,n),a(e,Zn,n),a(e,Me,n),a(e,Bn,n),w(me,e,n),a(e,Vn,n),a(e,he,n),a(e,Dn,n),w(be,e,n),a(e,Gn,n),a(e,ye,n),a(e,Nn,n),a(e,we,n),a(e,Sn,n),a(e,fe,n),a(e,Qn,n),a(e,je,n),a(e,Wn,n),a(e,Je,n),a(e,Xn,n),a(e,Te,n),a(e,En,n),w(Ue,e,n),a(e,Yn,n),a(e,ge,n),a(e,Fn,n),a(e,ke,n),a(e,Hn,n),w(ze,e,n),a(e,Ln,n),a(e,_e,n),a(e,qn,n),a(e,Ce,n),a(e,Pn,n),a(e,$e,n),a(e,Kn,n),w(Ie,e,n),a(e,On,n),a(e,xe,n),a(e,es,n),w(ve,e,n),a(e,ns,n),a(e,Re,n),a(e,ss,n),a(e,Ae,n),a(e,ts,n),a(e,Ze,n),a(e,ls,n),w(Be,e,n),a(e,as,n),w(Ve,e,n),a(e,is,n),D.m(e,n),a(e,sn,n),a(e,De,n),a(e,rs,n),He[R].m(e,n),a(e,tn,n),a(e,Ge,n),a(e,ps,n),w(Ne,e,n),a(e,ds,n),w(Se,e,n),a(e,cs,n),a(e,Qe,n),a(e,us,n),w(We,e,n),a(e,os,n),Le[Z].m(e,n),a(e,ln,n),w(S,e,n),a(e,Ms,n),k&&k.m(e,n),a(e,an,n),a(e,rn,n),ms=!0},p(e,[n]){const yt={};n&1&&(yt.fw=e[0]),T.$set(yt);let ys=J;J=at(e),J!==ys&&(Pe(),o(Xe[ys],1,1,()=>{Xe[ys]=null}),qe(),z=Xe[J],z||(z=Xe[J]=lt[J](e),z.c()),u(z,1),z.m(Ke.parentNode,Ke));let ws=_;_=rt(e),_!==ws&&(Pe(),o(Ee[ws],1,1,()=>{Ee[ws]=null}),qe(),C=Ee[_],C||(C=Ee[_]=it[_](e),C.c()),u(C,1),C.m(Oe.parentNode,Oe));let fs=$;$=dt(e),$!==fs&&(Pe(),o(Ye[fs],1,1,()=>{Ye[fs]=null}),qe(),I=Ye[$],I||(I=Ye[$]=pt[$](e),I.c()),u(I,1),I.m(en.parentNode,en));const wt={};n&2&&(wt.$$scope={dirty:n,ctx:e}),G.$set(wt);let js=x;x=ut(e),x!==js&&(Pe(),o(Fe[js],1,1,()=>{Fe[js]=null}),qe(),v=Fe[x],v||(v=Fe[x]=ct[x](e),v.c()),u(v,1),v.m(nn.parentNode,nn));const ft={};n&2&&(ft.$$scope={dirty:n,ctx:e}),N.$set(ft),hs!==(hs=ot(e))&&(D.d(1),D=hs(e),D&&(D.c(),D.m(sn.parentNode,sn)));let Js=R;R=mt(e),R!==Js&&(Pe(),o(He[Js],1,1,()=>{He[Js]=null}),qe(),A=He[R],A||(A=He[R]=Mt[R](e),A.c()),u(A,1),A.m(tn.parentNode,tn));let Ts=Z;Z=bt(e),Z!==Ts&&(Pe(),o(Le[Ts],1,1,()=>{Le[Ts]=null}),qe(),B=Le[Z],B||(B=Le[Z]=ht[Z](e),B.c()),u(B,1),B.m(ln.parentNode,ln));const jt={};n&2&&(jt.$$scope={dirty:n,ctx:e}),S.$set(jt),e[0]==="tf"?k?n&1&&u(k,1):(k=Ut(),k.c(),u(k,1),k.m(an.parentNode,an)):k&&(Pe(),o(k,1,1,()=>{k=null}),qe())},i(e){ms||(u(T.$$.fragment,e),u(g.$$.fragment,e),u(z),u(C),u(X.$$.fragment,e),u(I),u(F.$$.fragment,e),u(H.$$.fragment,e),u(K.$$.fragment,e),u(O.$$.fragment,e),u(ne.$$.fragment,e),u(se.$$.fragment,e),u(G.$$.fragment,e),u(le.$$.fragment,e),u(v),u(ie.$$.fragment,e),u(pe.$$.fragment,e),u(de.$$.fragment,e),u(N.$$.fragment,e),u(oe.$$.fragment,e),u(me.$$.fragment,e),u(be.$$.fragment,e),u(Ue.$$.fragment,e),u(ze.$$.fragment,e),u(Ie.$$.fragment,e),u(ve.$$.fragment,e),u(Be.$$.fragment,e),u(Ve.$$.fragment,e),u(A),u(Ne.$$.fragment,e),u(Se.$$.fragment,e),u(We.$$.fragment,e),u(B),u(S.$$.fragment,e),u(k),ms=!0)},o(e){o(T.$$.fragment,e),o(g.$$.fragment,e),o(z),o(C),o(X.$$.fragment,e),o(I),o(F.$$.fragment,e),o(H.$$.fragment,e),o(K.$$.fragment,e),o(O.$$.fragment,e),o(ne.$$.fragment,e),o(se.$$.fragment,e),o(G.$$.fragment,e),o(le.$$.fragment,e),o(v),o(ie.$$.fragment,e),o(pe.$$.fragment,e),o(de.$$.fragment,e),o(N.$$.fragment,e),o(oe.$$.fragment,e),o(me.$$.fragment,e),o(be.$$.fragment,e),o(Ue.$$.fragment,e),o(ze.$$.fragment,e),o(Ie.$$.fragment,e),o(ve.$$.fragment,e),o(Be.$$.fragment,e),o(Ve.$$.fragment,e),o(A),o(Ne.$$.fragment,e),o(Se.$$.fragment,e),o(We.$$.fragment,e),o(B),o(S.$$.fragment,e),o(k),ms=!1},d(e){e&&(l(i),l(t),l(d),l(c),l(V),l(Ke),l(Oe),l(Q),l(dn),l(W),l(cn),l(un),l(en),l(E),l(on),l(Y),l(Mn),l(mn),l(hn),l(L),l(bn),l(q),l(yn),l(P),l(wn),l(fn),l(jn),l(ee),l(Jn),l(Tn),l(Un),l(te),l(gn),l(kn),l(zn),l(nn),l(ae),l(_n),l(Cn),l(re),l($n),l(In),l(xn),l(ce),l(vn),l(Rn),l(ue),l(An),l(Zn),l(Me),l(Bn),l(Vn),l(he),l(Dn),l(Gn),l(ye),l(Nn),l(we),l(Sn),l(fe),l(Qn),l(je),l(Wn),l(Je),l(Xn),l(Te),l(En),l(Yn),l(ge),l(Fn),l(ke),l(Hn),l(Ln),l(_e),l(qn),l(Ce),l(Pn),l($e),l(Kn),l(On),l(xe),l(es),l(ns),l(Re),l(ss),l(Ae),l(ts),l(Ze),l(ls),l(as),l(is),l(sn),l(De),l(rs),l(tn),l(Ge),l(ps),l(ds),l(cs),l(Qe),l(us),l(os),l(ln),l(Ms),l(an),l(rn)),l(s),f(T,e),f(g,e),Xe[J].d(e),Ee[_].d(e),f(X,e),Ye[$].d(e),f(F,e),f(H,e),f(K,e),f(O,e),f(ne,e),f(se,e),f(G,e),f(le,e),Fe[x].d(e),f(ie,e),f(pe,e),f(de,e),f(N,e),f(oe,e),f(me,e),f(be,e),f(Ue,e),f(ze,e),f(Ie,e),f(ve,e),f(Be,e),f(Ve,e),D.d(e),He[R].d(e),f(Ne,e),f(Se,e),f(We,e),Le[Z].d(e),f(S,e),k&&k.d(e)}}}const qt='{"title":"Vorbereitung der Daten","local":"vorbereitung-der-daten","sections":[{"title":"Laden eines Datensatzes vom Hub","local":"laden-eines-datensatzes-vom-hub","sections":[],"depth":3},{"title":"Vorverarbeitung eines Datensatzes","local":"vorverarbeitung-eines-datensatzes","sections":[],"depth":3},{"title":"Dynamisches Padding","local":"dynamisches-padding","sections":[],"depth":3}],"depth":1}';function Pt(j,s,i){let t="pt";return zt(()=>{const d=new URLSearchParams(window.location.search);i(0,t=d.get("fw")||"pt")}),[t]}class il extends _t{constructor(s){super(),Ct(this,s,Pt,Lt,kt,{})}}export{il as component};
