#
Đố vui cuối chương

Cũng kiểm tra xem bạn đã học được gì từ chương này!

###
1. Bạn nên đọc truy vết của Python theo thứ tự nào?

Từ trên xuống dưới Từ dưới lên trên

###
2. Ví dụ có thể tái tạo tối thiểu là gì?

Cách triển khai đơn giản của kiến ​​trúc Transformer từ một bài báo nghiên cứu Một khối mã nhỏ gọn và khép kín có thể chạy mà không có bất kỳ sự phụ thuộc bên ngoài nào vào các tệp hoặc dữ liệu riêng tư Ảnh chụp màn hình của truy vết Python Một notebook chứa toàn bộ phân tích của bạn, bao gồm các phần không liên quan đến lỗi

###
3. Giả sử bạn cố gắng chạy đoạn mã sau, mà mã này xảy ra lỗi như dưới đây:

    from transformers import GPT3ForSequenceClassification

    # ImportError: cannot import name 'GPT3ForSequenceClassification' from 'transformers' (/Users/lewtun/miniconda3/envs/huggingface/lib/python3.8/site-packages/transformers/__init__.py)
    # ---------------------------------------------------------------------------
    # ImportError                               Traceback (most recent call last)
    # /var/folders/28/k4cy5q7s2hs92xq7_h89_vgm0000gn/T/ipykernel_30848/333858878.py in <module>
    # ----> 1 from transformers import GPT3ForSequenceClassification

    # ImportError: cannot import name 'GPT3ForSequenceClassification' from 'transformers' (/Users/lewtun/miniconda3/envs/huggingface/lib/python3.8/site-packages/transformers/__init__.py)

Điều nào dưới đây có thể là một lựa chọn tốt cho tiêu đề của một chủ đề diễn đàn để yêu cầu trợ giúp?

`ImportError: cannot import name 'GPT3ForSequenceClassification' from 'transformers' (/Users/lewtun/miniconda3/envs/huggingface/lib/python3.8/site-packages/transformers/__init__.py)` Vấn đề với `from transformers import GPT3ForSequenceClassification` Tại sao tôi không thể nhập `GPT3ForSequenceClassification`? Liệu GPT-3 có được hỗ trợ trong 🤗 Transformers?

###
4.Giả sử bạn đang cố gắng chạy `trainer.train()` và gặp phải lỗi khó hiểu không cho bạn biết chính xác lỗi đến từ đâu. Đâu sẽ là nơi đầu tiên bạn tìm lỗi trong pipeline huấn luyện của mình?

Bước tối ưu hóa nơi chúng ta tính toán độ dốc và thực hiện lan truyền ngược Bước đánh giá nơi chúng tôi tính toán các chỉ số Bộ dữ liệu The dataloaders

###
5. Đâu là cách tốt nhất để gỡ lỗi CUDA?

Đăng thông báo lỗi trên diễn đàn hoặc GitHub. Thực thi cùng một mã trên CPU. Đọc phần theo dõi để tìm hiểu nguyên nhân gây ra lỗi. Giảm kích thước lô. Khởi động lại Jupyter kernel.

###
6. Đâu là cách tốt nhất để khắc phục lỗi trên Github?

ăng một ví dụ có thể tái tạo đầy đủ về lỗi. Yêu cầu cập nhật mỗi ngày. Kiểm tra mã nguồn xung quanh lỗi và cố gắng tìm lý do tại sao nó xảy ra. Đăng kết quả về vấn đề.

###
7. Tại sao học quá kĩ (overfit) vào một lô thường là cách gỡ lỗi tốt nhất?

Không đâu; nó luôn là điều xấu ta nên tránh. Nó cho phép chúng ta xác minh rằng mô hình có thể giảm mất mát xuống bằng không. Nó cho phép chúng tôi xác minh rằng hình dạng tensor của đầu vào và nhãn của chúng tôi là chính xác.

###
8. Tại sao bao gồm chi tiết về môi trường tính toán với `transformers-cli env` khi tạo ra một issue (vấn đề) trên kho 🤗 Transformers là một ý hay?

Nó cho phép người bảo trì hiểu phiên bản thư viện bạn đang sử dụng. Nó cho phép người bảo trì biết liệu bạn đang chạy mã trên Windows, macOS hay Linux. Nó cho phép người bảo trì biết liệu bạn đang chạy mã trên GPU hay CPU.