|
|
--- |
|
|
language: |
|
|
- ru |
|
|
pretty_name: mem-and-russian-jokes-dataset |
|
|
tags: |
|
|
- jokes |
|
|
- russian |
|
|
- humor |
|
|
license: mit |
|
|
task_categories: |
|
|
- text-generation |
|
|
dataset_info: |
|
|
features: |
|
|
- name: conversations |
|
|
list: |
|
|
- name: from |
|
|
dtype: string |
|
|
- name: value |
|
|
dtype: string |
|
|
- name: source |
|
|
dtype: string |
|
|
- name: score |
|
|
dtype: float64 |
|
|
- name: __index_level_0__ |
|
|
dtype: int64 |
|
|
splits: |
|
|
- name: train |
|
|
num_bytes: 178432569 |
|
|
num_examples: 521904 |
|
|
download_size: 75008578 |
|
|
dataset_size: 178432569 |
|
|
configs: |
|
|
- config_name: default |
|
|
data_files: |
|
|
- split: train |
|
|
path: data/train-* |
|
|
--- |
|
|
|
|
|
|
|
|
|
|
|
------------- |
|
|
2 июля 2025 |
|
|
|
|
|
|
|
|
Общее количество уникальных записей: 690954 |
|
|
|
|
|
Добавлено новых уникальных анекдотов: 150552 |
|
|
|
|
|
|
|
|
Добавил датасет анекдотов от IgorVolochay/russian_jokes |
|
|
не понимаю как я прошел мимо него, там очень много шуток, |
|
|
сам Евгений Ваганович очень часто обращался к этому датасету... Но вот и мое время пришло. |
|
|
|
|
|
|
|
|
Плюс обновил старый датасет и разбавил формулировки новыми начальными вопросами |
|
|
|
|
|
human_prompts = [ |
|
|
... |
|
|
|
|
|
"Давай что-нибудь для поднятия настроения", |
|
|
"Можешь поделиться анекдотом?", |
|
|
"Пошути как умеешь", |
|
|
"Есть что-то забавное?", |
|
|
"Скажи смешной анекдот", |
|
|
"Расскажи что-нибудь для настроения" |
|
|
] |
|
|
|
|
|
------------- |
|
|
15 июня 2025 |
|
|
|
|
|
Добавил две гениальные книги 2024 года: Пацанские цитаты Джейсона Стэтхема. Да не говорил я этой фигни! составленный коллективом авторов и |
|
|
Джейсон Стэтхем. Большая книга цитат. Афоризмы. |
|
|
|
|
|
Количество новых уникальных записей добавлено: 445 |
|
|
|
|
|
Общее количество записей в датасете: 389941 |
|
|
|
|
|
|
|
|
Также обновил {'from': 'human', 'value': 'Есть свежий анекдот?'} |
|
|
|
|
|
теперь значение value выбирается из такого списка: |
|
|
|
|
|
human_prompts = [ |
|
|
"Расскажи шутку", |
|
|
"Расскажи анекдот", |
|
|
"Знаешь какой-нибудь прикол?", |
|
|
"Скажи что-нибудь смешное", |
|
|
"Пошути, пожалуйста", |
|
|
"У тебя есть хорошая шутка?", |
|
|
"Давай анекдот", |
|
|
"Можешь рассказать прикол?", |
|
|
"Что там по юмору?", |
|
|
"Насмеши меня", |
|
|
"Хочу услышать шутку", |
|
|
"Есть свежий анекдот?", |
|
|
"Порадуй шуткой", |
|
|
"Сможешь пошутить?", |
|
|
"Ну-ка, выдай прикол", |
|
|
"Придумай что-нибудь веселое", |
|
|
"Какой анекдот ты знаешь?", |
|
|
"Хочу посмеяться", |
|
|
"Трави байку", |
|
|
"Давай что-нибудь для поднятия настроения" |
|
|
] |
|
|
|
|
|
|
|
|
------------- |
|
|
1 июня 2025 |
|
|
|
|
|
Добавил датасет marriamaslova/toxic_dvach для обучения модели генерации шуток, включая чёрный юмор, сраказм и ироню. |
|
|
В целом это тоже отдельная часть юмора, которая тоже имеет место быть.. |
|
|
Этот датасет содержит комментарии с форума "Двач" с пометками токсичности, что позволяет учитывать агрессивный и провокационный стиль, |
|
|
характерный для чёрного юмора и сарказма. Использование этого набора данных поможет модели лучше понимать тонкие грани между юмором и оскорблениями, |
|
|
а также развить способность создавать остроумные и ироничные высказывания. |
|
|
При этом планируется применять фильтрацию и контроль качества, чтобы избежать чрезмерной токсичности и сохранить этические нормы в генерации контента. |
|
|
|
|
|
Количество новых уникальных записей: 14198 |
|
|
|
|
|
Общее количество записей после добавления: 389486 |
|
|
|
|
|
------------- |
|
|
|
|
|
30 мая 2025 |
|
|
|
|
|
Обновил датасет и добавил в него еще 48к шуток и анкдотов. |
|
|
Частично спарсил сайт https://www.anekdot.ru и загрузил туда https://github.com/gorovuha/CleanComedy/blob/main/russian/clean_comedy_ru.csv |
|
|
после того как прочитал эту статью... Смеялся (шутка-нет) https://habr.com/ru/companies/mts_ai/articles/911860/ |
|
|
|
|
|
Сейчас 375288 записей |
|
|
|
|
|
------------- |
|
|
|
|
|
|
|
|
|
|
|
### mem-and-russian-jokes-dataset |
|
|
примерно 337к записей |
|
|
`mem-and-russian-jokes-dataset` - это объединенный датасет русскоязычных шуток и анекдотов для задач NLP, в частности для тонкой настройки языковых моделей на генерацию юмора. Данные приведены к формату `mlabonne/FineTome-100k` (диалоги в стиле ShareGPT). |
|
|
|
|
|
## Состав датасета |
|
|
|
|
|
- **ScoutieAutoML/russian_jokes_with_vectors**: ~9,280 шуток из Telegram-каналов |
|
|
- **igorktech/anekdots_dialogs**: Анекдоты с Hugging Face Hub. |
|
|
- **anek_djvu.txt**: Локальный файл с анекдотами, разделенными маркером ``` |
|
|
- **2.txt**: Локальный файл с диалогами, разделенными пустыми строками. |
|
|
|
|
|
По сути - это все анекдоты что были собраны до этого в разрозненные датасеты, которые я нашел на просторах интернета. |
|
|
|
|
|
## Структура данных |
|
|
|
|
|
Каждая запись содержит: |
|
|
- `conversations`: Список сообщений (`human`/`gpt`) в формате JSONL. |
|
|
- `source`: Источник данных. |
|
|
- `score`: Значение 5.0 для всех записей. |
|
|
|
|
|
**Пример**: |
|
|
{ |
|
|
"conversations": [ |
|
|
{"from": "human", "value": "Расскажи анекдот: "}, |
|
|
{"from": "gpt", "value": "Только заметил, что слово "п@рно" набирается самими центральными клавишами!"} |
|
|
], |
|
|
"source": "txt1_anekdots", |
|
|
"score": 5.0 |
|
|
} |
|
|
|
|
|
text |
|
|
|
|
|
|
|
|
## Использование |
|
|
|
|
|
Подходит для fine-tuning языковых моделей (LoRA, rsLoRA) на генерацию юмора. |
|
|
|
