import{s as Ae,o as Se,n as Qe}from"../chunks/scheduler.c38028ba.js";import{S as Le,i as ce,g as a,s as M,r as T,A as Re,h as p,f as e,c as n,j as fe,u as U,x as J,k as hl,y as ge,a as s,v as i,d as w,t as j,w as C}from"../chunks/index.6df1961f.js";import{T as de}from"../chunks/Tip.4d66f917.js";import{C as m}from"../chunks/CodeBlock.85c468cd.js";import{H as ct,E as oe}from"../chunks/EditOnGithub.fa45e999.js";function be(Rt){let I,f="إذا كنت تخطط لتشغيل عدة تجارب، من أجل مسح الذاكرة بشكل صحيح بين التجارب، قم بإعادة تشغيل نواة Python بين التجارب.";return{c(){I=a("p"),I.textContent=f},l(y){I=p(y,"P",{"data-svelte-h":!0}),J(I)!=="svelte-zp7t12"&&(I.textContent=f)},m(y,Qt){s(y,I,Qt)},p:Qe,d(y){y&&e(I)}}}function $e(Rt){let I,f,y,Qt,A,gt,S,zl="لفهم تقنيات تحسين الأداء التي يمكن تطبيقها لتحسين كفاءة استخدام الذاكرة وسرعة تدريب النموذج، من المفيد التعرف على كيفية استخدام وحدة معالجة الرسوميات (GPU) أثناء التدريب، وكيف تختلف كثافة العمليات الحسابية باختلاف العملية التي يتم تنفيذها.",dt,Q,vl="لنبدأ باستكشاف مثال توضيحي على استخدام وحدة GPU وتشغيل تدريب نموذج. وللتوضيح، سنحتاج إلى تثبيت بعض المكتبات:",ot,L,bt,c,xl="تتيح مكتبة <code>nvidia-ml-py3</code> إمكانية مراقبة استخدام الذاكرة في النماذج من داخل بايثون. قد تكون على دراية بأمر <code>nvidia-smi</code> في الجهاز - تسمح هذه المكتبة بالوصول إلى نفس المعلومات مباشرة في بايثون.",$t,R,Gl="ثم، نقوم بإنشاء بعض البيانات الوهمية:معرّفات رموز عشوائية بين 100 و30000 وتصنيفات ثنائية للمصنف.",ht,g,_l="في المجموع، نحصل على 512 تسلسلًا، لكل منها طول 512، ونخزنها في <code>Dataset</code> بتنسيق PyTorch.",zt,d,vt,o,El="لطباعة إحصائيات موجزة لاستخدام وحدة GPU وتشغيل التدريب مع <code>Trainer</code>، نقوم بتعريف دالتين مساعدتين:",xt,b,Gt,$,kl="دعنا نتأكد من أننا نبدأ بذاكرة وحدة GPU خالية:",_t,h,Et,z,Bl="يبدو ذلك جيدًا: لم يتم شغل ذاكرة وحدة معالجة الرسومات كما نتوقع قبل تحميل أي نماذج. إذا لم يكن الأمر كذلك على جهازك، فتأكد من إيقاف جميع العمليات التي تستخدم ذاكرة وحدة GPU. ومع ذلك، لا يمكن للمستخدم استخدام كل ذاكرة وحدة GPU الفارغة. عندما يتم تحميل نموذج إلى وحدة GPU، يتم أيضًا تحميل النواة، والتي يمكن أن تستهلك 1-2 جيجابايت من الذاكرة. ولرؤية مقدار ذلك، نقوم بتحميل مصفوفة صغيرة إلى وحدة GPU والتي تؤدي إلى تحميل النواة أيضًا.",kt,v,Bt,x,Vl="نلاحظ أن النواة وحدها تستهلك 1.3 جيجابايت من ذاكرة وحدة GPU. الآن دعنا نرى مقدار المساحة التي يستخدمها النموذج.",Vt,G,Dt,_,Dl="أولاً، نقوم بتحميل نموذج <code>google-bert/bert-large-uncased</code>. نقوم بتحميل أوزان النموذج مباشرة إلى وحدة GPU حتى نتمكن من التحقق من مقدار المساحة التي تستخدمها الأوزان فقط.",Pt,E,Wt,k,Pl="يمكننا أن نرى أن أوزان النموذج وحدها تستهلك 1.3 جيجابايت من ذاكرة وحدة GPU. يعتمد الرقم الدقيق على وحدة GPU المحددة التي تستخدمها. لاحظ أنه في وحدات GPU الأحدث، قد يستغرق النموذج في بعض الأحيان مساحة أكبر نظرًا لأن الأوزان يتم تحميلها بطريقة مُحسّنة تُسرّع من استخدام النموذج. الآن يمكننا أيضًا التحقق بسرعة مما إذا كنا نحصل على نفس النتيجة كما هو الحال مع <code>nvidia-smi</code> CLI:",Zt,B,Ht,V,Nt,D,Wl="نحصل على نفس الرقم كما كان من قبل، ويمكنك أيضًا أن ترى أننا نستخدم GPU من طراز V100 مع 16 جيجابايت من الذاكرة. لذا الآن يمكننا بدء تدريب النموذج ورؤية كيف يتغير استخدام ذاكرة GPU. أولاً، نقوم بإعداد بعض معاملات التدريب القياسية:",Xt,P,Ft,u,Yt,W,qt,Z,Zl="دعونا نستخدم <code>Trainer</code> وقم بتدريب النموذج دون استخدام أي تقنيات تحسين أداء GPU وحجم دفعة يبلغ 4:",Ot,H,Kt,N,tl,X,Hl=`يمكننا أن نرى أن حجم دفعة صغير نسبيًا يملأ تقريبًا ذاكرة GPU بالكامل. ومع ذلك، غالبًا ما يؤدي حجم دفعة أكبر  في تقارب نموذج أسرع أو أداء أفضل في النهاية. لذلك نريد أن نضبط حجم الدفعة وفقًا لاحتياجات النموذج لدينا وليس  مع قيود وحدة GPU. ما يثير الاهتمام هو أننا نستخدم ذاكرة أكثر بكثير من حجم النموذج.
لفهم سبب ذلك بشكل أفضل، دعنا نلقي نظرة على عمليات النموذج واحتياجاته من الذاكرة.`,ll,F,el,Y,Nl="تتضمن بنية المحولات 3 مجموعات رئيسية من العمليات مُجمعة أدناه حسب كثافة العمليات الحسابية.",sl,q,Xl="<li><p><strong>عمليات ضرب المصفوفات</strong></p> <p>تقوم الطبقات الخطية ومكونات الانتباه متعدد الرؤوس جميعها بعمليات ضرب <strong>المصفوفة بالمصفوفة</strong> على دفعات. هذه العمليات هي أكثر أجزاء تدريب المحولات كثافة من الناحية الحسابية.</p></li> <li><p><strong>عمليات التسوية الإحصائية</strong></p></li>",Ml,O,Fl="تُعد  عمليات  Softmax والتسوية الطبقية أقل كثافة من ناحية  الحسابية من عمليات ضرب المصفوفات، وتنطوي على عملية أو أكثر من عمليات <strong>الاختزال</strong>، والتي يتم تطبيق نتيجتها بعد ذلك عبر خريطة.",nl,r,Yl="<li><p><strong>العمليات على مستوى العناصر</strong></p> <p>هذه هي العمليات المتبقية: <strong>الانحيازات، والتسرب، ووظائف التنشيط، والوصلات المتبقية</strong>. هذه هي عمليات أقل كثافة من الناحية الحسابية.</p></li>",al,K,ql="يمكن أن تكون هذه المعرفة مفيدة لمعرفة عند تحليل اختناقات الأداء.",pl,tt,Ol='هذا الملخص مُشتق من <a href="https://arxiv.org/abs/2007.00072" rel="nofollow">نقل البيانات هو كل ما تحتاجه: دراسة حالة حول تحسين المحولات 2020</a>',Jl,lt,Tl,et,Kl=`لقد رأينا أن تدريب النموذج يستخدم ذاكرة أكثر بكثير من مجرد وضع النموذج على GPU. ويرجع ذلك إلى
هناك العديد من المكونات أثناء التدريب التي تستخدم ذاكرة GPU. المكونات الموجودة في ذاكرة GPU هي التالية:`,Ul,st,te="<li>أوزان النموذج</li> <li>الدول المُحسّن</li> <li>المُتدرجات</li> <li>تنشيطات المسار الأمامي المحفوظة لحساب  المُتدرجات</li> <li>المخازن المؤقتة</li> <li>ذاكرة محددة الوظائف</li>",il,Mt,le=`يتطلب نموذج نموذجي مدرب بدقة مختلطة 18 بايت للمُحسّن AdamW كل معلمة نموذج بالإضافة إلى ذاكرة التنشيط. للاستدلال لا توجد حالات مُحسّن و مُتدرجات، لذلك يمكننا طرح تلك. وهكذا ننتهي مع 6 بايت لكل
معلمة نموذج للدقة المختلطة الاستدلال، بالإضافة إلى ذاكرة التنشيط.`,wl,nt,ee="دعنا نلقي نظرة على التفاصيل.",jl,at,se="<strong>أوزان النموذج:</strong>",Cl,pt,Me="<li>4 بايت * عدد المعلمات للتدريب على دقة fp32</li> <li>6 بايت * عدد المعلمات لتدريب الدقة المختلطة (يحافظ على نموذج في fp32 وآخر بدقة fp16 في الذاكرة)</li>",Il,Jt,ne="<strong>حالات المُحسّن:</strong>",yl,Tt,ae='<li>8 بايت * عدد المعلمات للمُحسّن AdamW العادي (يحافظ على حالتين)</li> <li>2 بايت * عدد المعلمات لمُحسّنات 8 بت AdamW مثل <a href="https://github.com/TimDettmers/bitsandbytes" rel="nofollow">bitsandbytes</a></li> <li>4 بايت * عدد المعلمات لمُحسّنات مثل SGD مع الزخم momentum (يحافظ على حالة واحدة فقط)</li>',ml,Ut,pe="<strong>المُتدرجات</strong>",ul,it,Je="<li>4 بايت * عدد المعلمات للتدريب بدقة fp32 أو بدقة مختلطة (المُتدرجات تكون دائمًا بدقة fp32)</li>",rl,wt,Te="<strong>تنشيطات المسار الأمامي</strong>",fl,jt,Ue="<li>يعتمد الحجم على العديد من العوامل، وأهمها طول التسلسل وحجم المخفية وحجم الدُفعة.</li>",Al,Ct,ie="هناك  المدخلات والمخرجات لذي يتم تمريرها وإرجاعها بواسطة وظائف المسار  الأمامي والمسار الخلفي وتنشيطات المسار الأمامي المحفوظة لحساب المُتدرجات.",Sl,It,we="<strong>الذاكرة المؤقتة</strong>",Ql,yt,je=`بالإضافة إلى ذلك، هناك جميع أنواع المتغيرات المؤقتة التي يتم تحريرها بمجرد الانتهاء من الحساب، ولكن في
لحظة يمكن أن تتطلب هذه المتغيرات المؤقتة ذاكرة إضافية ويقد تؤدي إلى نفاد  الذاكرة المُخصصة (OOM). لذلك، عند البرمجة، من المهم التفكير بشكل استراتيجي حول هذه المتغيرات المؤقتة وأحيانًا تحريرها بشكل صريح بمجرد عدم الحاجة إليها.`,Ll,mt,Ce="<strong>ذاكرة محددة الوظائف</strong>",cl,ut,Ie=`ثم، قد يكون لبرنامجك احتياجات خاصة بالذاكرة. على سبيل المثال، عند إنشاء نص باستخدام البحث الشعاعي، يحتاج البرنامج
إلى الاحتفاظ بنسخ متعددة من المدخلات والمخرجات.`,Rl,rt,ye="<strong>سرعة تنفيذ <code>forward</code> مقابل <code>backward</code></strong>",gl,ft,me=`بالنسبة للالتفافات والطبقات الخطية، هناك ضِعف عدد العمليات 2x flops في المسار الخلفى مقارنة بالمسار الأمامي، والتي يُترجم عمومًا إلى ~2x أبطأ (أحيانًا أكثر، لأن الأحجام في المسار الخلفى تميل إلى أن تكون أكثر صعوبة). عادةً ما تكون عمليات التنشيط محدودة بعرض  النطاق  الترددي، ومن المعتاد أن يتعين على التنشيط قراءة المزيد من البيانات في المسار الخلفى أكثر من المسار الأمامى.
(على سبيل المثال، قراءة التنشيط المسار الأمامى مرة واحدة، وتكتب مرة واحدة، وبينما  تقرأ  عملية التنشيط الخلفي مرتين، gradOutput وإخراج الأمام، وتكتب مرة واحدة، gradInput).`,dl,At,ue=`كما ترى، هناك بضعة أماكن يمكننا فيها توفير ذاكرة GPU أو تسريع العمليات.
الآن بعد أن فهمت ما يؤثر على استخدام GPU وسرعة الحساب، راجع
صفحة وثائق <a href="perf_train_gpu_one">أساليب وأدوات التدريب الفعال على GPU واحد</a> لمعرفة المزيد حول تقنيات تحسين الأداء.`,ol,St,bl,Lt,$l;return A=new ct({props:{title:"تشريح عملية تدريب النموذج",local:"تشريح-عملية-تدريب-النموذج",headingTag:"h1"}}),L=new m({props:{code:"cGlwJTIwaW5zdGFsbCUyMHRyYW5zZm9ybWVycyUyMGRhdGFzZXRzJTIwYWNjZWxlcmF0ZSUyMG52aWRpYS1tbC1weTM=",highlighted:"pip install transformers datasets accelerate nvidia-ml-py3",wrap:!1}}),d=new m({props:{code:"aW1wb3J0JTIwbnVtcHklMjBhcyUyMG5wJTBBZnJvbSUyMGRhdGFzZXRzJTIwaW1wb3J0JTIwRGF0YXNldCUwQSUwQXNlcV9sZW4lMkMlMjBkYXRhc2V0X3NpemUlMjAlM0QlMjA1MTIlMkMlMjA1MTIlMEFkdW1teV9kYXRhJTIwJTNEJTIwJTdCJTBBJTIwJTIwJTIwJTIwJTIyaW5wdXRfaWRzJTIyJTNBJTIwbnAucmFuZG9tLnJhbmRpbnQoMTAwJTJDJTIwMzAwMDAlMkMlMjAoZGF0YXNldF9zaXplJTJDJTIwc2VxX2xlbikpJTJDJTBBJTIwJTIwJTIwJTIwJTIybGFiZWxzJTIyJTNBJTIwbnAucmFuZG9tLnJhbmRpbnQoMCUyQyUyMDElMkMlMjAoZGF0YXNldF9zaXplKSklMkMlMEElN0QlMEFkcyUyMCUzRCUyMERhdGFzZXQuZnJvbV9kaWN0KGR1bW15X2RhdGEpJTBBZHMuc2V0X2Zvcm1hdCglMjJwdCUyMik=",highlighted:`<span class="hljs-meta">&gt;&gt;&gt; </span><span class="hljs-keyword">import</span> numpy <span class="hljs-keyword">as</span> np
<span class="hljs-meta">&gt;&gt;&gt; </span><span class="hljs-keyword">from</span> datasets <span class="hljs-keyword">import</span> Dataset

<span class="hljs-meta">&gt;&gt;&gt; </span>seq_len, dataset_size = <span class="hljs-number">512</span>, <span class="hljs-number">512</span>
<span class="hljs-meta">&gt;&gt;&gt; </span>dummy_data = {
<span class="hljs-meta">... </span>    <span class="hljs-string">&quot;input_ids&quot;</span>: np.random.randint(<span class="hljs-number">100</span>, <span class="hljs-number">30000</span>, (dataset_size, seq_len)),
<span class="hljs-meta">... </span>    <span class="hljs-string">&quot;labels&quot;</span>: np.random.randint(<span class="hljs-number">0</span>, <span class="hljs-number">1</span>, (dataset_size)),
<span class="hljs-meta">... </span>}
<span class="hljs-meta">&gt;&gt;&gt; </span>ds = Dataset.from_dict(dummy_data)
<span class="hljs-meta">&gt;&gt;&gt; </span>ds.set_format(<span class="hljs-string">&quot;pt&quot;</span>)`,wrap:!1}}),b=new m({props:{code:"ZnJvbSUyMHB5bnZtbCUyMGltcG9ydCUyMColMEElMEFkZWYlMjBwcmludF9ncHVfdXRpbGl6YXRpb24oKSUzQSUwQSUyMCUyMCUyMCUyMG52bWxJbml0KCklMEElMjAlMjAlMjAlMjBoYW5kbGUlMjAlM0QlMjBudm1sRGV2aWNlR2V0SGFuZGxlQnlJbmRleCgwKSUwQSUyMCUyMCUyMCUyMGluZm8lMjAlM0QlMjBudm1sRGV2aWNlR2V0TWVtb3J5SW5mbyhoYW5kbGUpJTBBJTIwJTIwJTIwJTIwcHJpbnQoZiUyMkdQVSUyMG1lbW9yeSUyMG9jY3VwaWVkJTNBJTIwJTdCaW5mby51c2VkJTJGJTJGMTAyNCoqMiU3RCUyME1CLiUyMiklMEElMEFkZWYlMjBwcmludF9zdW1tYXJ5KHJlc3VsdCklM0ElMEElMjAlMjAlMjAlMjBwcmludChmJTIyVGltZSUzQSUyMCU3QnJlc3VsdC5tZXRyaWNzJTVCJ3RyYWluX3J1bnRpbWUnJTVEJTNBLjJmJTdEJTIyKSUwQSUyMCUyMCUyMCUyMHByaW50KGYlMjJTYW1wbGVzJTJGc2Vjb25kJTNBJTIwJTdCcmVzdWx0Lm1ldHJpY3MlNUIndHJhaW5fc2FtcGxlc19wZXJfc2Vjb25kJyU1RCUzQS4yZiU3RCUyMiklMEElMjAlMjAlMjAlMjBwcmludF9ncHVfdXRpbGl6YXRpb24oKQ==",highlighted:`<span class="hljs-meta">&gt;&gt;&gt; </span><span class="hljs-keyword">from</span> pynvml <span class="hljs-keyword">import</span> *

<span class="hljs-meta">&gt;&gt;&gt; </span><span class="hljs-keyword">def</span> <span class="hljs-title function_">print_gpu_utilization</span>():
<span class="hljs-meta">... </span>    nvmlInit()
<span class="hljs-meta">... </span>    handle = nvmlDeviceGetHandleByIndex(<span class="hljs-number">0</span>)
<span class="hljs-meta">... </span>    info = nvmlDeviceGetMemoryInfo(handle)
<span class="hljs-meta">... </span>    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;GPU memory occupied: <span class="hljs-subst">{info.used//<span class="hljs-number">1024</span>**<span class="hljs-number">2</span>}</span> MB.&quot;</span>)

<span class="hljs-meta">&gt;&gt;&gt; </span><span class="hljs-keyword">def</span> <span class="hljs-title function_">print_summary</span>(<span class="hljs-params">result</span>):
<span class="hljs-meta">... </span>    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;Time: <span class="hljs-subst">{result.metrics[<span class="hljs-string">&#x27;train_runtime&#x27;</span>]:<span class="hljs-number">.2</span>f}</span>&quot;</span>)
<span class="hljs-meta">... </span>    <span class="hljs-built_in">print</span>(<span class="hljs-string">f&quot;Samples/second: <span class="hljs-subst">{result.metrics[<span class="hljs-string">&#x27;train_samples_per_second&#x27;</span>]:<span class="hljs-number">.2</span>f}</span>&quot;</span>)
<span class="hljs-meta">... </span>    print_gpu_utilization()`,wrap:!1}}),h=new m({props:{code:"cHJpbnRfZ3B1X3V0aWxpemF0aW9uKCk=",highlighted:`<span class="hljs-meta">&gt;&gt;&gt; </span>print_gpu_utilization()
GPU memory occupied: <span class="hljs-number">0</span> MB.`,wrap:!1}}),v=new m({props:{code:"aW1wb3J0JTIwdG9yY2glMEElMEF0b3JjaC5vbmVzKCgxJTJDJTIwMSkpLnRvKCUyMmN1ZGElMjIpJTBBcHJpbnRfZ3B1X3V0aWxpemF0aW9uKCk=",highlighted:`<span class="hljs-meta">&gt;&gt;&gt; </span><span class="hljs-keyword">import</span> torch

<span class="hljs-meta">&gt;&gt;&gt; </span>torch.ones((<span class="hljs-number">1</span>, <span class="hljs-number">1</span>)).to(<span class="hljs-string">&quot;cuda&quot;</span>)
<span class="hljs-meta">&gt;&gt;&gt; </span>print_gpu_utilization()
GPU memory occupied: <span class="hljs-number">1343</span> MB.`,wrap:!1}}),G=new ct({props:{title:"تحميل النموذج",local:"تحميل-النموذج",headingTag:"h2"}}),E=new m({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMEF1dG9Nb2RlbEZvclNlcXVlbmNlQ2xhc3NpZmljYXRpb24lMEElMEFtb2RlbCUyMCUzRCUyMEF1dG9Nb2RlbEZvclNlcXVlbmNlQ2xhc3NpZmljYXRpb24uZnJvbV9wcmV0cmFpbmVkKCUyMmdvb2dsZS1iZXJ0JTJGYmVydC1sYXJnZS11bmNhc2VkJTIyKS50byglMjJjdWRhJTIyKSUwQXByaW50X2dwdV91dGlsaXphdGlvbigp",highlighted:`<span class="hljs-meta">&gt;&gt;&gt; </span><span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoModelForSequenceClassification

<span class="hljs-meta">&gt;&gt;&gt; </span>model = AutoModelForSequenceClassification.from_pretrained(<span class="hljs-string">&quot;google-bert/bert-large-uncased&quot;</span>).to(<span class="hljs-string">&quot;cuda&quot;</span>)
<span class="hljs-meta">&gt;&gt;&gt; </span>print_gpu_utilization()
GPU memory occupied: <span class="hljs-number">2631</span> MB.`,wrap:!1}}),B=new m({props:{code:"bnZpZGlhLXNtaQ==",highlighted:"nvidia-smi",wrap:!1}}),V=new m({props:{code:"VHVlJTIwSmFuJTIwMTElMjAwOCUzQTU4JTNBMDUlMjAyMDIyJTBBJTJCLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0lMkIlMEElN0MlMjBOVklESUEtU01JJTIwNDYwLjkxLjAzJTIwJTIwJTIwJTIwRHJpdmVyJTIwVmVyc2lvbiUzQSUyMDQ2MC45MS4wMyUyMCUyMCUyMCUyMENVREElMjBWZXJzaW9uJTNBJTIwMTEuMiUyMCUyMCUyMCUyMCUyMCU3QyUwQSU3Qy0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0lMkItLS0tLS0tLS0tLS0tLS0tLS0tLS0tJTJCLS0tLS0tLS0tLS0tLS0tLS0tLS0tLSUyQiUwQSU3QyUyMEdQVSUyMCUyME5hbWUlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBQZXJzaXN0ZW5jZS1NJTdDJTIwQnVzLUlkJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwRGlzcC5BJTIwJTdDJTIwVm9sYXRpbGUlMjBVbmNvcnIuJTIwRUNDJTIwJTdDJTBBJTdDJTIwRmFuJTIwJTIwVGVtcCUyMCUyMFBlcmYlMjAlMjBQd3IlM0FVc2FnZSUyRkNhcCU3QyUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyME1lbW9yeS1Vc2FnZSUyMCU3QyUyMEdQVS1VdGlsJTIwJTIwQ29tcHV0ZSUyME0uJTIwJTdDJTBBJTdDJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTdDJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTdDJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwTUlHJTIwTS4lMjAlN0MlMEElN0MlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlMkIlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlMkIlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlM0QlN0MlMEElN0MlMjAlMjAlMjAwJTIwJTIwVGVzbGElMjBWMTAwLVNYTTIuLi4lMjAlMjBPbiUyMCUyMCUyMCU3QyUyMDAwMDAwMDAwJTNBMDAlM0EwNC4wJTIwT2ZmJTIwJTdDJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwMCUyMCU3QyUwQSU3QyUyME4lMkZBJTIwJTIwJTIwMzdDJTIwJTIwJTIwJTIwUDAlMjAlMjAlMjAlMjAzOVclMjAlMkYlMjAzMDBXJTIwJTdDJTIwJTIwJTIwMjYzMU1pQiUyMCUyRiUyMDE2MTYwTWlCJTIwJTdDJTIwJTIwJTIwJTIwJTIwJTIwMCUyNSUyMCUyMCUyMCUyMCUyMCUyMERlZmF1bHQlMjAlN0MlMEElN0MlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlN0MlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlN0MlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBOJTJGQSUyMCU3QyUwQSUyQi0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0lMkItLS0tLS0tLS0tLS0tLS0tLS0tLS0tJTJCLS0tLS0tLS0tLS0tLS0tLS0tLS0tLSUyQiUwQSUwQSUyQi0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tJTJCJTBBJTdDJTIwUHJvY2Vzc2VzJTNBJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTIwJTdDJTBBJTdDJTIwJTIwR1BVJTIwJTIwJTIwR0klMjAlMjAlMjBDSSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMFBJRCUyMCUyMCUyMFR5cGUlMjAlMjAlMjBQcm9jZXNzJTIwbmFtZSUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMEdQVSUyME1lbW9yeSUyMCU3QyUwQSU3QyUyMCUyMCUyMCUyMCUyMCUyMCUyMCUyMElEJTIwJTIwJTIwSUQlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjAlMjBVc2FnZSUyMCUyMCUyMCUyMCUyMCUyMCU3QyUwQSU3QyUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCUzRCU3QyUwQSU3QyUyMCUyMCUyMCUyMDAlMjAlMjAlMjBOJTJGQSUyMCUyME4lMkZBJTIwJTIwJTIwJTIwJTIwJTIwMzcyMSUyMCUyMCUyMCUyMCUyMCUyMEMlMjAlMjAlMjAuLi5udnMlMkZjb2RlcGFycm90JTJGYmluJTJGcHl0aG9uJTIwJTIwJTIwJTIwJTIwMjYyOU1pQiUyMCU3QyUwQSUyQi0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tLS0tJTJC",highlighted:`Tue Jan 11 08:58:05 2022
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 460.91.03    Driver Version: 460.91.03    CUDA Version: 11.2     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  Tesla V100-SXM2...  On   | 00000000:00:04.0 Off |                    0 |
| N/A   37C    P0    39W / 300W |   2631MiB / 16160MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+

+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
|    0   N/A  N/A      3721      C   ...nvs/codeparrot/bin/python     2629MiB |
+-----------------------------------------------------------------------------+`,wrap:!1}}),P=new m({props:{code:"ZGVmYXVsdF9hcmdzJTIwJTNEJTIwJTdCJTBBJTIwJTIwJTIwJTIwJTIyb3V0cHV0X2RpciUyMiUzQSUyMCUyMnRtcCUyMiVEOCU4QyUwQSUyMCUyMCUyMCUyMCUyMmV2YWxfc3RyYXRlZ3klMjIlM0ElMjAlMjJzdGVwcyUyMiVEOCU4QyUwQSUyMCUyMCUyMCUyMCUyMm51bV90cmFpbl9lcG9jaHMlMjIlM0ElMjAxJUQ4JThDJTBBJTIwJTIwJTIwJTIwJTIybG9nX2xldmVsJTIyJTNBJTIwJTIyZXJyb3IlMjIlRDglOEMlMEElMjAlMjAlMjAlMjAlMjJyZXBvcnRfdG8lMjIlM0ElMjAlMjJub25lJTIyJUQ4JThDJTBBJTdE",highlighted:`default_args = {
    <span class="hljs-string">&quot;output_dir&quot;</span>: <span class="hljs-string">&quot;tmp&quot;</span>،
    <span class="hljs-string">&quot;eval_strategy&quot;</span>: <span class="hljs-string">&quot;steps&quot;</span>،
    <span class="hljs-string">&quot;num_train_epochs&quot;</span>: <span class="hljs-number">1</span>،
    <span class="hljs-string">&quot;log_level&quot;</span>: <span class="hljs-string">&quot;error&quot;</span>،
    <span class="hljs-string">&quot;report_to&quot;</span>: <span class="hljs-string">&quot;none&quot;</span>،
}`,wrap:!1}}),u=new de({props:{$$slots:{default:[be]},$$scope:{ctx:Rt}}}),W=new ct({props:{title:"استخدام الذاكرة في التدريب الأساسي",local:"استخدام-الذاكرة-في-التدريب-الأساسي",headingTag:"h2"}}),H=new m({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMFRyYWluaW5nQXJndW1lbnRzJUQ4JThDJTIwVHJhaW5lciVEOCU4QyUyMGxvZ2dpbmclMEElMEFsb2dnaW5nLnNldF92ZXJib3NpdHlfZXJyb3IoKSUwQSUwQSUwQXRyYWluaW5nX2FyZ3MlMjAlM0QlMjBUcmFpbmluZ0FyZ3VtZW50cyhwZXJfZGV2aWNlX3RyYWluX2JhdGNoX3NpemUlM0Q0JUQ4JThDJTIwKipkZWZhdWx0X2FyZ3MpJTBBdHJhaW5lciUyMCUzRCUyMFRyYWluZXIobW9kZWwlM0Rtb2RlbCVEOCU4QyUyMGFyZ3MlM0R0cmFpbmluZ19hcmdzJUQ4JThDJTIwdHJhaW5fZGF0YXNldCUzRGRzKSUwQXJlc3VsdCUyMCUzRCUyMHRyYWluZXIudHJhaW4oKSUwQXByaW50X3N1bW1hcnkocmVzdWx0KQ==",highlighted:`<span class="hljs-meta">&gt;&gt;&gt; </span><span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> TrainingArguments، Trainer، logging

<span class="hljs-meta">&gt;&gt;&gt; </span>logging.set_verbosity_error()


<span class="hljs-meta">&gt;&gt;&gt; </span>training_args = TrainingArguments(per_device_train_batch_size=<span class="hljs-number">4</span>، **default_args)
<span class="hljs-meta">&gt;&gt;&gt; </span>trainer = Trainer(model=model، args=training_args، train_dataset=ds)
<span class="hljs-meta">&gt;&gt;&gt; </span>result = trainer.train()
<span class="hljs-meta">&gt;&gt;&gt; </span>print_summary(result)`,wrap:!1}}),N=new m({props:{code:"JUQ4JUE3JUQ5JTg0JUQ5JTg4JUQ5JTgyJUQ4JUFBJTNBJTIwNTcuODIlMEElRDglQTclRDklODQlRDglQjklRDklOEElRDklODYlRDglQTclRDglQUElMjAlMkYlMjAlRDglQTclRDklODQlRDglQUIlRDglQTclRDklODYlRDklOEElRDglQTklM0ElMjA4Ljg2JTBBJUQ4JUIwJUQ4JUE3JUQ5JTgzJUQ4JUIxJUQ4JUE5JTIwR1BVJTIwJUQ4JUE3JUQ5JTg0JUQ5JTg1JUQ4JUI0JUQ4JUJBJUQ5JTg4JUQ5JTg0JUQ4JUE5JTNBJTIwMTQ5NDklMjAlRDklODUlRDklOEElRDglQUMlRDglQTclRDglQTglRDglQTclRDklOEElRDglQUEu",highlighted:`<span class="hljs-attribute">الوقت</span><span class="hljs-punctuation">:</span> <span class="hljs-string">57.82</span>
<span class="hljs-attribute">العينات / الثانية</span><span class="hljs-punctuation">:</span> <span class="hljs-string">8.86</span>
<span class="hljs-attribute">ذاكرة GPU المشغولة</span><span class="hljs-punctuation">:</span> <span class="hljs-string">14949 ميجابايت.</span>`,wrap:!1}}),F=new ct({props:{title:"تشريح عمليات النموذج",local:"تشريح-عمليات-النموذج",headingTag:"h2"}}),lt=new ct({props:{title:"تشريح ذاكرة النموذج",local:"تشريح-ذاكرة-النموذج",headingTag:"h2"}}),St=new oe({props:{source:"https://github.com/huggingface/transformers/blob/main/docs/source/ar/model_memory_anatomy.md"}}),{c(){I=a("meta"),f=M(),y=a("p"),Qt=M(),T(A.$$.fragment),gt=M(),S=a("p"),S.textContent=zl,dt=M(),Q=a("p"),Q.textContent=vl,ot=M(),T(L.$$.fragment),bt=M(),c=a("p"),c.innerHTML=xl,$t=M(),R=a("p"),R.textContent=Gl,ht=M(),g=a("p"),g.innerHTML=_l,zt=M(),T(d.$$.fragment),vt=M(),o=a("p"),o.innerHTML=El,xt=M(),T(b.$$.fragment),Gt=M(),$=a("p"),$.textContent=kl,_t=M(),T(h.$$.fragment),Et=M(),z=a("p"),z.textContent=Bl,kt=M(),T(v.$$.fragment),Bt=M(),x=a("p"),x.textContent=Vl,Vt=M(),T(G.$$.fragment),Dt=M(),_=a("p"),_.innerHTML=Dl,Pt=M(),T(E.$$.fragment),Wt=M(),k=a("p"),k.innerHTML=Pl,Zt=M(),T(B.$$.fragment),Ht=M(),T(V.$$.fragment),Nt=M(),D=a("p"),D.textContent=Wl,Xt=M(),T(P.$$.fragment),Ft=M(),T(u.$$.fragment),Yt=M(),T(W.$$.fragment),qt=M(),Z=a("p"),Z.innerHTML=Zl,Ot=M(),T(H.$$.fragment),Kt=M(),T(N.$$.fragment),tl=M(),X=a("p"),X.textContent=Hl,ll=M(),T(F.$$.fragment),el=M(),Y=a("p"),Y.textContent=Nl,sl=M(),q=a("ol"),q.innerHTML=Xl,Ml=M(),O=a("p"),O.innerHTML=Fl,nl=M(),r=a("ol"),r.innerHTML=Yl,al=M(),K=a("p"),K.textContent=ql,pl=M(),tt=a("p"),tt.innerHTML=Ol,Jl=M(),T(lt.$$.fragment),Tl=M(),et=a("p"),et.textContent=Kl,Ul=M(),st=a("ol"),st.innerHTML=te,il=M(),Mt=a("p"),Mt.textContent=le,wl=M(),nt=a("p"),nt.textContent=ee,jl=M(),at=a("p"),at.innerHTML=se,Cl=M(),pt=a("ul"),pt.innerHTML=Me,Il=M(),Jt=a("p"),Jt.innerHTML=ne,yl=M(),Tt=a("ul"),Tt.innerHTML=ae,ml=M(),Ut=a("p"),Ut.innerHTML=pe,ul=M(),it=a("ul"),it.innerHTML=Je,rl=M(),wt=a("p"),wt.innerHTML=Te,fl=M(),jt=a("ul"),jt.innerHTML=Ue,Al=M(),Ct=a("p"),Ct.textContent=ie,Sl=M(),It=a("p"),It.innerHTML=we,Ql=M(),yt=a("p"),yt.textContent=je,Ll=M(),mt=a("p"),mt.innerHTML=Ce,cl=M(),ut=a("p"),ut.textContent=Ie,Rl=M(),rt=a("p"),rt.innerHTML=ye,gl=M(),ft=a("p"),ft.textContent=me,dl=M(),At=a("p"),At.innerHTML=ue,ol=M(),T(St.$$.fragment),bl=M(),Lt=a("p"),this.h()},l(t){const l=Re("svelte-u9bgzb",document.head);I=p(l,"META",{name:!0,content:!0}),l.forEach(e),f=n(t),y=p(t,"P",{}),fe(y).forEach(e),Qt=n(t),U(A.$$.fragment,t),gt=n(t),S=p(t,"P",{"data-svelte-h":!0}),J(S)!=="svelte-21zipe"&&(S.textContent=zl),dt=n(t),Q=p(t,"P",{"data-svelte-h":!0}),J(Q)!=="svelte-1l68ny4"&&(Q.textContent=vl),ot=n(t),U(L.$$.fragment,t),bt=n(t),c=p(t,"P",{"data-svelte-h":!0}),J(c)!=="svelte-w9i8l8"&&(c.innerHTML=xl),$t=n(t),R=p(t,"P",{"data-svelte-h":!0}),J(R)!=="svelte-1h5adnk"&&(R.textContent=Gl),ht=n(t),g=p(t,"P",{"data-svelte-h":!0}),J(g)!=="svelte-1py5wzw"&&(g.innerHTML=_l),zt=n(t),U(d.$$.fragment,t),vt=n(t),o=p(t,"P",{"data-svelte-h":!0}),J(o)!=="svelte-1udx77v"&&(o.innerHTML=El),xt=n(t),U(b.$$.fragment,t),Gt=n(t),$=p(t,"P",{"data-svelte-h":!0}),J($)!=="svelte-45qa0i"&&($.textContent=kl),_t=n(t),U(h.$$.fragment,t),Et=n(t),z=p(t,"P",{"data-svelte-h":!0}),J(z)!=="svelte-pw2px4"&&(z.textContent=Bl),kt=n(t),U(v.$$.fragment,t),Bt=n(t),x=p(t,"P",{"data-svelte-h":!0}),J(x)!=="svelte-16cvc8l"&&(x.textContent=Vl),Vt=n(t),U(G.$$.fragment,t),Dt=n(t),_=p(t,"P",{"data-svelte-h":!0}),J(_)!=="svelte-8juf6o"&&(_.innerHTML=Dl),Pt=n(t),U(E.$$.fragment,t),Wt=n(t),k=p(t,"P",{"data-svelte-h":!0}),J(k)!=="svelte-xmhvki"&&(k.innerHTML=Pl),Zt=n(t),U(B.$$.fragment,t),Ht=n(t),U(V.$$.fragment,t),Nt=n(t),D=p(t,"P",{"data-svelte-h":!0}),J(D)!=="svelte-1kuikqa"&&(D.textContent=Wl),Xt=n(t),U(P.$$.fragment,t),Ft=n(t),U(u.$$.fragment,t),Yt=n(t),U(W.$$.fragment,t),qt=n(t),Z=p(t,"P",{"data-svelte-h":!0}),J(Z)!=="svelte-c5epv1"&&(Z.innerHTML=Zl),Ot=n(t),U(H.$$.fragment,t),Kt=n(t),U(N.$$.fragment,t),tl=n(t),X=p(t,"P",{"data-svelte-h":!0}),J(X)!=="svelte-1coo594"&&(X.textContent=Hl),ll=n(t),U(F.$$.fragment,t),el=n(t),Y=p(t,"P",{"data-svelte-h":!0}),J(Y)!=="svelte-1y74q02"&&(Y.textContent=Nl),sl=n(t),q=p(t,"OL",{"data-svelte-h":!0}),J(q)!=="svelte-1nybdvu"&&(q.innerHTML=Xl),Ml=n(t),O=p(t,"P",{"data-svelte-h":!0}),J(O)!=="svelte-15b0j0e"&&(O.innerHTML=Fl),nl=n(t),r=p(t,"OL",{start:!0,"data-svelte-h":!0}),J(r)!=="svelte-16n4hlh"&&(r.innerHTML=Yl),al=n(t),K=p(t,"P",{"data-svelte-h":!0}),J(K)!=="svelte-1i7477m"&&(K.textContent=ql),pl=n(t),tt=p(t,"P",{"data-svelte-h":!0}),J(tt)!=="svelte-buneyr"&&(tt.innerHTML=Ol),Jl=n(t),U(lt.$$.fragment,t),Tl=n(t),et=p(t,"P",{"data-svelte-h":!0}),J(et)!=="svelte-8jd1f9"&&(et.textContent=Kl),Ul=n(t),st=p(t,"OL",{"data-svelte-h":!0}),J(st)!=="svelte-11vnwsw"&&(st.innerHTML=te),il=n(t),Mt=p(t,"P",{"data-svelte-h":!0}),J(Mt)!=="svelte-1lyg72r"&&(Mt.textContent=le),wl=n(t),nt=p(t,"P",{"data-svelte-h":!0}),J(nt)!=="svelte-1x1b7ht"&&(nt.textContent=ee),jl=n(t),at=p(t,"P",{"data-svelte-h":!0}),J(at)!=="svelte-1592crn"&&(at.innerHTML=se),Cl=n(t),pt=p(t,"UL",{"data-svelte-h":!0}),J(pt)!=="svelte-en5lvh"&&(pt.innerHTML=Me),Il=n(t),Jt=p(t,"P",{"data-svelte-h":!0}),J(Jt)!=="svelte-1o7g3ie"&&(Jt.innerHTML=ne),yl=n(t),Tt=p(t,"UL",{"data-svelte-h":!0}),J(Tt)!=="svelte-1ibhxx8"&&(Tt.innerHTML=ae),ml=n(t),Ut=p(t,"P",{"data-svelte-h":!0}),J(Ut)!=="svelte-ybggz5"&&(Ut.innerHTML=pe),ul=n(t),it=p(t,"UL",{"data-svelte-h":!0}),J(it)!=="svelte-o5yyvx"&&(it.innerHTML=Je),rl=n(t),wt=p(t,"P",{"data-svelte-h":!0}),J(wt)!=="svelte-1h8jz0f"&&(wt.innerHTML=Te),fl=n(t),jt=p(t,"UL",{"data-svelte-h":!0}),J(jt)!=="svelte-1h3xu1t"&&(jt.innerHTML=Ue),Al=n(t),Ct=p(t,"P",{"data-svelte-h":!0}),J(Ct)!=="svelte-x44jhg"&&(Ct.textContent=ie),Sl=n(t),It=p(t,"P",{"data-svelte-h":!0}),J(It)!=="svelte-1hkuu2t"&&(It.innerHTML=we),Ql=n(t),yt=p(t,"P",{"data-svelte-h":!0}),J(yt)!=="svelte-jzah9s"&&(yt.textContent=je),Ll=n(t),mt=p(t,"P",{"data-svelte-h":!0}),J(mt)!=="svelte-8peitv"&&(mt.innerHTML=Ce),cl=n(t),ut=p(t,"P",{"data-svelte-h":!0}),J(ut)!=="svelte-e66s99"&&(ut.textContent=Ie),Rl=n(t),rt=p(t,"P",{"data-svelte-h":!0}),J(rt)!=="svelte-yt6p0a"&&(rt.innerHTML=ye),gl=n(t),ft=p(t,"P",{"data-svelte-h":!0}),J(ft)!=="svelte-1q93gzp"&&(ft.textContent=me),dl=n(t),At=p(t,"P",{"data-svelte-h":!0}),J(At)!=="svelte-1dw7ghj"&&(At.innerHTML=ue),ol=n(t),U(St.$$.fragment,t),bl=n(t),Lt=p(t,"P",{}),fe(Lt).forEach(e),this.h()},h(){hl(I,"name","hf:doc:metadata"),hl(I,"content",he),hl(r,"start","3")},m(t,l){ge(document.head,I),s(t,f,l),s(t,y,l),s(t,Qt,l),i(A,t,l),s(t,gt,l),s(t,S,l),s(t,dt,l),s(t,Q,l),s(t,ot,l),i(L,t,l),s(t,bt,l),s(t,c,l),s(t,$t,l),s(t,R,l),s(t,ht,l),s(t,g,l),s(t,zt,l),i(d,t,l),s(t,vt,l),s(t,o,l),s(t,xt,l),i(b,t,l),s(t,Gt,l),s(t,$,l),s(t,_t,l),i(h,t,l),s(t,Et,l),s(t,z,l),s(t,kt,l),i(v,t,l),s(t,Bt,l),s(t,x,l),s(t,Vt,l),i(G,t,l),s(t,Dt,l),s(t,_,l),s(t,Pt,l),i(E,t,l),s(t,Wt,l),s(t,k,l),s(t,Zt,l),i(B,t,l),s(t,Ht,l),i(V,t,l),s(t,Nt,l),s(t,D,l),s(t,Xt,l),i(P,t,l),s(t,Ft,l),i(u,t,l),s(t,Yt,l),i(W,t,l),s(t,qt,l),s(t,Z,l),s(t,Ot,l),i(H,t,l),s(t,Kt,l),i(N,t,l),s(t,tl,l),s(t,X,l),s(t,ll,l),i(F,t,l),s(t,el,l),s(t,Y,l),s(t,sl,l),s(t,q,l),s(t,Ml,l),s(t,O,l),s(t,nl,l),s(t,r,l),s(t,al,l),s(t,K,l),s(t,pl,l),s(t,tt,l),s(t,Jl,l),i(lt,t,l),s(t,Tl,l),s(t,et,l),s(t,Ul,l),s(t,st,l),s(t,il,l),s(t,Mt,l),s(t,wl,l),s(t,nt,l),s(t,jl,l),s(t,at,l),s(t,Cl,l),s(t,pt,l),s(t,Il,l),s(t,Jt,l),s(t,yl,l),s(t,Tt,l),s(t,ml,l),s(t,Ut,l),s(t,ul,l),s(t,it,l),s(t,rl,l),s(t,wt,l),s(t,fl,l),s(t,jt,l),s(t,Al,l),s(t,Ct,l),s(t,Sl,l),s(t,It,l),s(t,Ql,l),s(t,yt,l),s(t,Ll,l),s(t,mt,l),s(t,cl,l),s(t,ut,l),s(t,Rl,l),s(t,rt,l),s(t,gl,l),s(t,ft,l),s(t,dl,l),s(t,At,l),s(t,ol,l),i(St,t,l),s(t,bl,l),s(t,Lt,l),$l=!0},p(t,[l]){const re={};l&2&&(re.$$scope={dirty:l,ctx:t}),u.$set(re)},i(t){$l||(w(A.$$.fragment,t),w(L.$$.fragment,t),w(d.$$.fragment,t),w(b.$$.fragment,t),w(h.$$.fragment,t),w(v.$$.fragment,t),w(G.$$.fragment,t),w(E.$$.fragment,t),w(B.$$.fragment,t),w(V.$$.fragment,t),w(P.$$.fragment,t),w(u.$$.fragment,t),w(W.$$.fragment,t),w(H.$$.fragment,t),w(N.$$.fragment,t),w(F.$$.fragment,t),w(lt.$$.fragment,t),w(St.$$.fragment,t),$l=!0)},o(t){j(A.$$.fragment,t),j(L.$$.fragment,t),j(d.$$.fragment,t),j(b.$$.fragment,t),j(h.$$.fragment,t),j(v.$$.fragment,t),j(G.$$.fragment,t),j(E.$$.fragment,t),j(B.$$.fragment,t),j(V.$$.fragment,t),j(P.$$.fragment,t),j(u.$$.fragment,t),j(W.$$.fragment,t),j(H.$$.fragment,t),j(N.$$.fragment,t),j(F.$$.fragment,t),j(lt.$$.fragment,t),j(St.$$.fragment,t),$l=!1},d(t){t&&(e(f),e(y),e(Qt),e(gt),e(S),e(dt),e(Q),e(ot),e(bt),e(c),e($t),e(R),e(ht),e(g),e(zt),e(vt),e(o),e(xt),e(Gt),e($),e(_t),e(Et),e(z),e(kt),e(Bt),e(x),e(Vt),e(Dt),e(_),e(Pt),e(Wt),e(k),e(Zt),e(Ht),e(Nt),e(D),e(Xt),e(Ft),e(Yt),e(qt),e(Z),e(Ot),e(Kt),e(tl),e(X),e(ll),e(el),e(Y),e(sl),e(q),e(Ml),e(O),e(nl),e(r),e(al),e(K),e(pl),e(tt),e(Jl),e(Tl),e(et),e(Ul),e(st),e(il),e(Mt),e(wl),e(nt),e(jl),e(at),e(Cl),e(pt),e(Il),e(Jt),e(yl),e(Tt),e(ml),e(Ut),e(ul),e(it),e(rl),e(wt),e(fl),e(jt),e(Al),e(Ct),e(Sl),e(It),e(Ql),e(yt),e(Ll),e(mt),e(cl),e(ut),e(Rl),e(rt),e(gl),e(ft),e(dl),e(At),e(ol),e(bl),e(Lt)),e(I),C(A,t),C(L,t),C(d,t),C(b,t),C(h,t),C(v,t),C(G,t),C(E,t),C(B,t),C(V,t),C(P,t),C(u,t),C(W,t),C(H,t),C(N,t),C(F,t),C(lt,t),C(St,t)}}}const he='{"title":"تشريح عملية تدريب النموذج","local":"تشريح-عملية-تدريب-النموذج","sections":[{"title":"تحميل النموذج","local":"تحميل-النموذج","sections":[],"depth":2},{"title":"استخدام الذاكرة في التدريب الأساسي","local":"استخدام-الذاكرة-في-التدريب-الأساسي","sections":[],"depth":2},{"title":"تشريح عمليات النموذج","local":"تشريح-عمليات-النموذج","sections":[],"depth":2},{"title":"تشريح ذاكرة النموذج","local":"تشريح-ذاكرة-النموذج","sections":[],"depth":2}],"depth":1}';function ze(Rt){return Se(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class ke extends Le{constructor(I){super(),ce(this,I,ze,$e,Ae,{})}}export{ke as component};
