Hunyuan-MT-7B - bnb4 Quantized

English | Русский

Русский

Это квантованная в bnb4-формат версия модели tencent/Hunyuan-MT-7B

Сквантована с использованием https://github.com/LeDXIII/BNB4-Model-converter

Описание модели

Hunyuan-MT-7B — это высокопроизводительная модель перевода, которая является частью семейства моделей Hunyuan Translation. Модель используется для перевода исходного текста на целевой язык и поддерживает взаимный перевод между 33 языками, включая пять языков этнических меньшинств Китая.

Поддерживаемые языки

Модель поддерживает перевод между следующими языками:

  • Основные языки: Китайский (zh, zh-Hant), Английский (en), Русский (ru), Японский (ja), Корейский (ko)
  • Европейские языки: Французский (fr), Немецкий (de), Испанский (es), Португальский (pt), Итальянский (it), Польский (pl), Чешский (cs), Голландский (nl), Украинский (uk)
  • Азиатские языки: Тайский (th), Вьетнамский (vi), Малайский (ms), Индонезийский (id), Филиппинский (tl), Хинди (hi), Кхмерский (km), Бирманский (my)
  • Другие языки: Арабский (ar), Турецкий (tr), Персидский (fa), Иврит (he), Урду (ur)
  • Языки меньшинств Китая: Тибетский (bo), Казахский (kk), Монгольский (mn), Уйгурский (ug), Кантонский (yue)
  • Индийские языки: Гуджарати (gu), Телугу (te), Маратхи (mr), Бенгальский (bn), Тамильский (ta)

Описание квантизации

  • Тип квантизации: bnb4
  • Размер модели: ~4.5 ГБ
  • Исходный размер: ~14 ГБ (оригинальная модель)
  • Сокращение размера: ~70%

Рекомендуемые параметры генерации

generation_params = {
    "top_k": 20,
    "top_p": 0.6,
    "repetition_penalty": 1.05,
    "temperature": 0.7,
    "max_new_tokens": 2048
}

English Description

This is a quantized bnb4 version of the tencent/Hunyuan-MT-7B model

Quantized using https://github.com/LeDXIII/BNB4-Model-converter

Model Description

Hunyuan-MT-7B is a high-performance translation model that is part of the Hunyuan Translation Model family. The model is used to translate source text into target languages and supports mutual translation among 33 languages, including five ethnic minority languages in China.

Supported Languages

The model supports translation between the following languages:

  • Major Languages: Chinese (zh, zh-Hant), English (en), Russian (ru), Japanese (ja), Korean (ko)
  • European Languages: French (fr), German (de), Spanish (es), Portuguese (pt), Italian (it), Polish (pl), Czech (cs), Dutch (nl), Ukrainian (uk)
  • Asian Languages: Thai (th), Vietnamese (vi), Malay (ms), Indonesian (id), Filipino (tl), Hindi (hi), Khmer (km), Burmese (my)
  • Other Languages: Arabic (ar), Turkish (tr), Persian (fa), Hebrew (he), Urdu (ur)
  • Chinese Minority Languages: Tibetan (bo), Kazakh (kk), Mongolian (mn), Uyghur (ug), Cantonese (yue)
  • Indian Languages: Gujarati (gu), Telugu (te), Marathi (mr), Bengali (bn), Tamil (ta)

Quantization Details

  • Quantization Type: bnb4
  • Model Size: ~4.5 GB
  • Original Size: ~14 GB (original model)
  • Size Reduction: ~70%

Recommended Generation Parameters

generation_params = {
    "top_k": 20,
    "top_p": 0.6,
    "repetition_penalty": 1.05,
    "temperature": 0.7,
    "max_new_tokens": 2048
}

Citation

If you use this model, please cite the original paper:

@misc{hunyuan_mt,
  title={Hunyuan-MT Technical Report},
  author={Mao Zheng and Zheng Li and Bingxin Qu and Mingyang Song and Yang Du and Mingrui Sun and Di Wang},
  year={2025},
  eprint={2509.05209},
  archivePrefix={arXiv},
  primaryClass={cs.CL},
  url={https://arxiv.org/abs/2509.05209},
}

License

Please refer to the original model's license at tencent/Hunyuan-MT-7B.

Model Tree

Base model: tencent/Hunyuan-MT-7B

Quantized using: BNB4-Model-converter

Additional Links

  • Original Model: tencent/Hunyuan-MT-7B
  • Technical Report: ArXiv Paper
  • Demo: Available on official website
  • GitHub: Official repository with implementation details
Downloads last month
5
Safetensors
Model size
4B params
Tensor type
F32
·
F16
·
U8
·
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for LeDXIII/Hunyuan-MT-7B-bnb4

Quantized
(18)
this model