#
단원 마무리 퀴즈

이 챕터에서 배운 내용을 테스트해 봅시다!

###
1. 파이썬 traceback을 어떤 순서로 읽어야 할까요?

위에서 아래로 아래에서 위로

###
2. 최소한의 재현 가능한 예는 무엇일까요?

리서치 기사를 통해 Transformer 아키텍처를 간단하게 구현하는 것 비공개 파일이나 데이터에 대한 외부 종속성 없이 실행할 수 있는 작고 완성된 코드 블록 파이썬 traceback의 스크린 샷 에러와 관련 없는 부분을 포함하여 전체 분석이 포함된 노트북

###
3. 에러가 발생하는 다음 코드를 실행하려고 한다고 가정합니다.:

    from transformers import GPT3ForSequenceClassification

    # ImportError: cannot import name 'GPT3ForSequenceClassification' from 'transformers' (/Users/lewtun/miniconda3/envs/huggingface/lib/python3.8/site-packages/transformers/__init__.py)
    # ---------------------------------------------------------------------------
    # ImportError                               Traceback (most recent call last)
    # /var/folders/28/k4cy5q7s2hs92xq7_h89_vgm0000gn/T/ipykernel_30848/333858878.py in <module>
    # ----> 1 from transformers import GPT3ForSequenceClassification

    # ImportError: cannot import name 'GPT3ForSequenceClassification' from 'transformers' (/Users/lewtun/miniconda3/envs/huggingface/lib/python3.8/site-packages/transformers/__init__.py)

다음 중 도움을 요청하기 위한 포럼 게시글의 제목으로 적합한 것은 무엇일까요?

`ImportError: cannot import name 'GPT3ForSequenceClassification' from 'transformers' (/Users/lewtun/miniconda3/envs/huggingface/lib/python3.8/site-packages/transformers/__init__.py)` 문제가 있습니다. `from transformers import GPT3ForSequenceClassification` 왜 `GPT3ForSequenceClassification` import가 안될까요? ? 🤗 Transformers에서 GPT-3가 지원되나요?

###
4. trainer.train() 을 실행하려고 시도했는데 정확히 어디서 에러가 발생했는지 알려주지 않는 알 수 없는 에러에 직면했다고 가정합니다. 다음 중 학습 파이프라인에서 에러를 찾아야 하는 첫 번째 위치는 어디일까요?

그래디언트를 계산하고 역전파를 수행하는 최적화 단계 메트릭을 계산하는 평가 단계 데이터셋 데이터 로더

###
5. CUDA 에러를 디버그하는 최고의 방법은 무엇일까요?

포럼이나 GitHub에 에러 메시지를 게시하기. CPU에서 같은 코드로 실행하기 Traceback을 읽고 에러의 원인을 찾기. 배치 사이즈 줄여보기 주피터 커널 재시작하기

###
6. GitHub에서 문제를 해결하는 가장 좋은 방법은 무엇일까요?

버그의 전체 재현 가능한 예를 게시하기. 매일 업데이트 요청하기 버그 주변의 소스 코드를 검사하고 버그가 발생하는 이유를 찾아서 문제의 결과를 게시하기.

###
7. 하나의 배치에 과적합하는 것이 일반적으로 좋은 디버깅 기술인 이유는 무엇일까요?

그렇지 않습니다. 과적합은 항상 좋지 않으며 피해야 합니다. 모델이 손실을 0으로 줄일 수 있는지 확인할 수 있습니다. 이를 통해 입력 및 레이블의 텐서 모양이 올바른지 확인할 수 있습니다.

###
8. 🤗 Transformers 저장소에서 새 이슈를 생성할 때 transformers-cli env 를 사용하여 컴퓨팅 환경에 대한 세부 정보를 포함하는 것이 좋은 이유는 무엇일까요?

이를 통해 메인테이너는 사용 중인 라이브러리의 버전을 이해할 수 있습니다. 이를 통해 메인테이너는 Windows, macOS 또는 Linux에서 코드를 실행 중인지 여부를 알 수 있습니다. 이를 통해 메인테이너는 코드를 GPU에서 실행하는지 CPU에서 실행하는지 알 수 있습니다.