ramgpt commited on
Commit
2321e55
·
verified ·
1 Parent(s): c5bb429

Upload README.md with huggingface_hub

Browse files
Files changed (1) hide show
  1. README.md +55 -0
README.md ADDED
@@ -0,0 +1,55 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language:
3
+ - en
4
+ - fr
5
+ tags:
6
+ - gguf
7
+ - llama.cpp
8
+ - quantized
9
+ - q4_k_m
10
+ base_model: Chouoftears/qwen3_4b_instruct_2507_sft_v1
11
+ license: other
12
+ inference: false
13
+ ---
14
+
15
+ # Chouoftears-qwen3_4b_instruct_2507_sft_v1.F16.Q4_K_M.gguf
16
+
17
+ ## Overview (EN)
18
+ This repository provides a **q4_k_m**-quantized GGUF file derived from `Chouoftears/qwen3_4b_instruct_2507_sft_v1`.
19
+
20
+ ### Quick Start (llama.cpp)
21
+ ```bash
22
+ ./build/bin/llama-cli -m Chouoftears-qwen3_4b_instruct_2507_sft_v1.F16.Q4_K_M.gguf -p "Hello"
23
+ ```
24
+
25
+ ### Quantization
26
+ - Format: GGUF
27
+ - Method: q4_k_m
28
+ - File: `Chouoftears-qwen3_4b_instruct_2507_sft_v1.F16.Q4_K_M.gguf`
29
+ - Size: ~2.33 GB
30
+
31
+ ### Provenance
32
+ - Base model: `Chouoftears/qwen3_4b_instruct_2507_sft_v1`
33
+
34
+ > Note: This repo contains inference-only quantized weights. Respect the upstream license and usage terms.
35
+
36
+ ---
37
+
38
+ ## Présentation (FR)
39
+ Ce dépôt fournit un fichier GGUF **q4_k_m** issu de `Chouoftears/qwen3_4b_instruct_2507_sft_v1`.
40
+
41
+ ### Démarrage rapide (llama.cpp)
42
+ ```bash
43
+ ./build/bin/llama-cli -m Chouoftears-qwen3_4b_instruct_2507_sft_v1.F16.Q4_K_M.gguf -p "Bonjour"
44
+ ```
45
+
46
+ ### Quantification
47
+ - Format : GGUF
48
+ - Méthode : q4_k_m
49
+ - Fichier : `Chouoftears-qwen3_4b_instruct_2507_sft_v1.F16.Q4_K_M.gguf`
50
+ - Taille : ~2.33 Go
51
+
52
+ ### Provenance
53
+ - Modèle amont : `Chouoftears/qwen3_4b_instruct_2507_sft_v1`
54
+
55
+ > Remarque : Ce dépôt contient uniquement des poids quantifiés pour l'inférence. Merci de respecter la licence et les conditions d'utilisation du modèle d'origine.