Pytorch
TensorFlow

#
End-of-chapter quiz

Test what you learned in this chapter!

###
1.「情緒」數據集包含標記有情緒的 Twitter 消息。在 Hub ( https://huggingface.co/datasets 集線器)中搜索它，然後讀取數據集卡。哪一個不是它的基本情感？

歡樂 愛 困惑 驚喜

###
2.在 Hub ( https://huggingface.co/datasets 集線器)中搜索‘ ar _ sarcasm’數據集，它支持哪個任務？

情緒分類 機器翻譯 命名實體識別 回答問題

###
3.BERT 模型期望如何處理一對句子？

表示句子的記號1[ SEP ]表示句子的記號2 表示句子的記號表示句子的記號 表示句子1[ SEP ]的符號表示句子2[ SEP ] 表示句子1[ SEP ]的符號表示句子2

###
4.‘ Dataset.map ()’方法的好處是什麼？

函數的結果是緩存的，因此如果我們重新執行代碼，不會花費任何時間。 它可以應用多重處理，比在數據集的每個元素上應用函數更快。 它只包含用於訓練的超參數。

###
5.什麼是動態填充？

就是將每個批處理的輸入填充到整個數據集中的最大長度。 這是當你填補你的輸入時，批處理創建，到最大長度的句子裡面的批處理。 就是當您填充輸入時，使每個句子具有與數據集中的前一個相同的標記數量。

###
6.校對函數的用途是什麼？

它確保數據集中的所有序列具有相同的長度。 它把所有的樣品一批一批地放在一起。 它預處理整個數據集。 它截斷數據集中的序列。

###
7.當你用一個預先訓練過的語言模型(例如‘ bert-base-uncased’)實例化一個‘ AutoModelForXxx’類，這個類對應於一個不同於它所被訓練的任務時會發生什麼？

什麼都沒有，但是你得到了一個警告。 丟棄預訓練模型的頭部，並插入一個新的頭部適合的任務。 丟棄預先訓練好的模型頭部。 沒有，因為模型仍然可以針對不同的任務進行微調。

###
8.訓練爭論的目的是什麼？

它包含了所有用於訓練和評估的超參數。 它指定模型的大小。 它只包含用於評估的超參數。 您可以輕鬆地計算與數據集相關的指標。

###
9.為什麼要使用 Accelerate 庫？

它提供了對更快的模型的訪問。 它提供了一個高級 API，因此我不必實現自己的培訓循環。 它使我們的訓練循環工作在分佈式策略上 它提供了更多的優化功能。