ramgpt commited on
Commit
9cca9a2
·
verified ·
1 Parent(s): 62ef08b

Upload README.md with huggingface_hub

Browse files
Files changed (1) hide show
  1. README.md +55 -0
README.md ADDED
@@ -0,0 +1,55 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language:
3
+ - en
4
+ - fr
5
+ tags:
6
+ - gguf
7
+ - llama.cpp
8
+ - quantized
9
+ - q4_k_m
10
+ base_model: Novaciano/SEX_ROLEPLAY_V3-3.2-1B
11
+ license: other
12
+ inference: false
13
+ ---
14
+
15
+ # Novaciano-SEX_ROLEPLAY_V3-3.2-1B.F16.Q4_K_M.gguf
16
+
17
+ ## Overview (EN)
18
+ This repository provides a **q4_k_m**-quantized GGUF file derived from `Novaciano/SEX_ROLEPLAY_V3-3.2-1B`.
19
+
20
+ ### Quick Start (llama.cpp)
21
+ ```bash
22
+ ./build/bin/llama-cli -m Novaciano-SEX_ROLEPLAY_V3-3.2-1B.F16.Q4_K_M.gguf -p "Hello"
23
+ ```
24
+
25
+ ### Quantization
26
+ - Format: GGUF
27
+ - Method: q4_k_m
28
+ - File: `Novaciano-SEX_ROLEPLAY_V3-3.2-1B.F16.Q4_K_M.gguf`
29
+ - Size: ~0.89 GB
30
+
31
+ ### Provenance
32
+ - Base model: `Novaciano/SEX_ROLEPLAY_V3-3.2-1B`
33
+
34
+ > Note: This repo contains inference-only quantized weights. Respect the upstream license and usage terms.
35
+
36
+ ---
37
+
38
+ ## Présentation (FR)
39
+ Ce dépôt fournit un fichier GGUF **q4_k_m** issu de `Novaciano/SEX_ROLEPLAY_V3-3.2-1B`.
40
+
41
+ ### Démarrage rapide (llama.cpp)
42
+ ```bash
43
+ ./build/bin/llama-cli -m Novaciano-SEX_ROLEPLAY_V3-3.2-1B.F16.Q4_K_M.gguf -p "Bonjour"
44
+ ```
45
+
46
+ ### Quantification
47
+ - Format : GGUF
48
+ - Méthode : q4_k_m
49
+ - Fichier : `Novaciano-SEX_ROLEPLAY_V3-3.2-1B.F16.Q4_K_M.gguf`
50
+ - Taille : ~0.89 Go
51
+
52
+ ### Provenance
53
+ - Modèle amont : `Novaciano/SEX_ROLEPLAY_V3-3.2-1B`
54
+
55
+ > Remarque : Ce dépôt contient uniquement des poids quantifiés pour l'inférence. Merci de respecter la licence et les conditions d'utilisation du modèle d'origine.