['gguf', 'quantized', '2-bit', '3-bit', '4-bit', '5-bit', '6-bit', '8-bit', 'GGUF', 'text-generation', 'en', 'de', 'fr', 'it', 'pt', 'hi', 'es', 'th', 'imatrix', 'conversational']
['meta-llama/Llama-3.1-8B-Instruct']