tshahn-uplus
commited on
Commit
·
0d95ecc
1
Parent(s):
64dc697
Update README.md
Browse files
README.md
CHANGED
|
@@ -171,7 +171,7 @@ The dataset is in Korean (`ko`).
|
|
| 171 |
* 원본 데이터에서 `allganize/RAG-Evaluation-Dataset-KO`, `documents.csv`와 유사한 구조로 데이터를 로드하는 코드.
|
| 172 |
* 분리된 pdf binary는 병합하여 로컬 경로에 pdf파일로 저장함.
|
| 173 |
|
| 174 |
-
```
|
| 175 |
import os
|
| 176 |
from typing import List
|
| 177 |
from itertools import groupby
|
|
@@ -243,4 +243,9 @@ def load_rag_eval_data(target_pdf_dir:str):
|
|
| 243 |
}
|
| 244 |
|
| 245 |
return qa_df, pdf_meta_dict
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 246 |
```
|
|
|
|
| 171 |
* 원본 데이터에서 `allganize/RAG-Evaluation-Dataset-KO`, `documents.csv`와 유사한 구조로 데이터를 로드하는 코드.
|
| 172 |
* 분리된 pdf binary는 병합하여 로컬 경로에 pdf파일로 저장함.
|
| 173 |
|
| 174 |
+
```python
|
| 175 |
import os
|
| 176 |
from typing import List
|
| 177 |
from itertools import groupby
|
|
|
|
| 243 |
}
|
| 244 |
|
| 245 |
return qa_df, pdf_meta_dict
|
| 246 |
+
|
| 247 |
+
|
| 248 |
+
# Load Metadata
|
| 249 |
+
documents_meta = datasets.load_dataset("datalama/RAG-Evaluation-Dataset-KO", name="documents_meta") # 64개 문서에 대한 메타데이터
|
| 250 |
+
questions_meta = datasets.load_dataset("datalama/RAG-Evaluation-Dataset-KO", split="questions_meta") # 300개 질문에 대한 메타데이터
|
| 251 |
```
|