['gguf', 'quantized', 'GGUF', 'quantization', 'imat', 'imatrix', 'static', '16bit', '8bit', '6bit', '5bit', '4bit', '3bit', '2bit', '1bit', 'text-generation', 'conversational']
['google/shieldgemma-27b']