Update README.md

README.md

@@ -62,6 +62,29 @@ tokenizer = AutoTokenizer.from_pretrained(base_model, max_sequence_length=3072,
 model_base = AutoModelForCausalLM.from_pretrained(base_model, quantization_config=quantization_config, device_map="auto", torch_dtype=torch.float16, use_flash_attention_2=False)
 model = PeftModel.from_pretrained(model_base, "NLPForUA/gemma-2-it-zno-cot", quantization_config=quantization_config, device_map="auto", torch_dtype=torch.float16, use_flash_attention_2=False)
 
+input_text = """
+Дайте розгорнуту відповідь на завдання, починаючи з ключового слова "Відповідь:" та використовуючи лише наведені нижче варіанти.
+
+Завдання: Обчисліть площу бічної поверхні правильної трикутної піраміди, сторона основи якої дорівнює 8 см, а апофема на 2 см більша за сторону основи піраміди.
+
+Варіанти відповіді:
+А - 72 см^2
+Б - 384 см^2
+В - 192 см^2
+Г - 120 см^2
+Д - 240 см^2
+"""
+
+messages = [{"role": "user", "content": input_text}]
+
+inputs = tokenizer.apply_chat_template(
+    messages,
+    tokenize=True,
+    add_generation_prompt=True,
+    return_tensors="pt",
+    add_special_tokens=False,
+).to("cuda")
+
 print(tokenizer.decode(
     model.generate(
         input_ids=inputs,
@@ -75,6 +98,18 @@ print(tokenizer.decode(
     )[0]))
 ```
 
+Output:
+```
+<start_of_turn>model
+Відповідь:
+Завдання перевіряє вміння визначати площу поверхні пірамід.
+Площу бічної поверхні правильної трикутної піраміди можна обчислити за формулою S = (1/2) * P * l, де P – периметр основи, l – довжина ребра, опущеного на середину сторони основи.
+Апофема на 2 см більша за сторону основи, тобто дорівнює 8 + 2 = 10 см.
+Периметр основи трикутної піраміди дорівнює 3 * 8 = 24 см.
+Отже, площа бічної поверхні піраміди дорівнює (1/2) * 24 * 10 = 120 см².
+Відповідь – Г.<end_of_turn>
+```
+
 
 ## Model Details