Novaciano-SEX_ROLEPLAY_V3-3.2-1B.F16.Q4_K_M.gguf

Overview (EN)

This repository provides a q4_k_m-quantized GGUF file derived from Novaciano/SEX_ROLEPLAY_V3-3.2-1B.

Quick Start (llama.cpp)

./build/bin/llama-cli -m Novaciano-SEX_ROLEPLAY_V3-3.2-1B.F16.Q4_K_M.gguf -p "Hello"

Quantization

  • Format: GGUF
  • Method: q4_k_m
  • File: Novaciano-SEX_ROLEPLAY_V3-3.2-1B.F16.Q4_K_M.gguf
  • Size: ~0.89 GB

Provenance

  • Base model: Novaciano/SEX_ROLEPLAY_V3-3.2-1B

Note: This repo contains inference-only quantized weights. Respect the upstream license and usage terms.


Présentation (FR)

Ce dépôt fournit un fichier GGUF q4_k_m issu de Novaciano/SEX_ROLEPLAY_V3-3.2-1B.

Démarrage rapide (llama.cpp)

./build/bin/llama-cli -m Novaciano-SEX_ROLEPLAY_V3-3.2-1B.F16.Q4_K_M.gguf -p "Bonjour"

Quantification

  • Format : GGUF
  • Méthode : q4_k_m
  • Fichier : Novaciano-SEX_ROLEPLAY_V3-3.2-1B.F16.Q4_K_M.gguf
  • Taille : ~0.89 Go

Provenance

  • Modèle amont : Novaciano/SEX_ROLEPLAY_V3-3.2-1B

Remarque : Ce dépôt contient uniquement des poids quantifiés pour l'inférence. Merci de respecter la licence et les conditions d'utilisation du modèle d'origine.

Downloads last month
91
GGUF
Model size
1B params
Architecture
llama
Hardware compatibility
Log In to view the estimation

4-bit

Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for ramgpt/Novaciano-SEX_ROLEPLAY_V3-3.2-1B-GGUF-Q4_K_M

Quantized
(4)
this model