{ "nbformat": 4, "nbformat_minor": 0, "metadata": { "colab": { "provenance": [], "gpuType": "T4" }, "kernelspec": { "name": "python3", "display_name": "Python 3" }, "language_info": { "name": "python" }, "accelerator": "GPU" }, "cells": [ { "cell_type": "markdown", "source": [ "# How to get a 100% Guaranteed Valid Tool Call response" ], "metadata": { "id": "77-oHTwQoVwY" } }, { "cell_type": "markdown", "source": [ "## 1. Install Litelines" ], "metadata": { "id": "KxGDupfQpYlZ" } }, { "cell_type": "code", "execution_count": 1, "metadata": { "id": "fQQzRjotfC88" }, "outputs": [], "source": [ "%pip install --quiet --upgrade litelines" ] }, { "cell_type": "markdown", "source": [ "## 2. Download a model and its tokenizer" ], "metadata": { "id": "45qowoBKpttl" } }, { "cell_type": "code", "source": [ "# Use cuda for faster inference\n", "import torch\n", "\n", "device = torch.device(\"cuda\") if torch.cuda.is_available() else torch.device(\"cpu\")\n", "assert device == torch.device(\"cuda\"), \"In the Runtime tab, please Change runtime type to GPU\"" ], "metadata": { "id": "WERbiQrnfN5r" }, "execution_count": 2, "outputs": [] }, { "cell_type": "code", "source": [ "from transformers import AutoModelForCausalLM, AutoTokenizer\n", "\n", "MODEL_ID = \"Qwen/Qwen2.5-0.5B-Instruct\"\n", "tokenizer = AutoTokenizer.from_pretrained(MODEL_ID)\n", "model = AutoModelForCausalLM.from_pretrained(MODEL_ID).to(device)" ], "metadata": { "id": "WvwdniZ3fSjq" }, "execution_count": 3, "outputs": [] }, { "cell_type": "markdown", "source": [ "## 3. Define a Pydantic schema describing the tool" ], "metadata": { "id": "EBsvT22Ip9jT" } }, { "cell_type": "code", "source": [ "from typing import Literal\n", "from pydantic import BaseModel, Field\n", "\n", "class Multiply(BaseModel):\n", " \"\"\"Multiply two integers together.\"\"\"\n", "\n", " a: int = Field(..., description=\"First integer\")\n", " b: int = Field(..., description=\"Second integer\")" ], "metadata": { "id": "L-uTeEtGhu6J" }, "execution_count": 4, "outputs": [] }, { "cell_type": "markdown", "source": [ "## 4. Prepare the inputs to the LLM" ], "metadata": { "id": "iqLazSzgp26c" } }, { "cell_type": "code", "source": [ "from openai import pydantic_function_tool\n", "\n", "user_input = \"What's 24 times 42?\"\n", "messages = [{\"role\": \"user\", \"content\": user_input}]\n", "inputs = tokenizer.apply_chat_template(\n", " messages,\n", " add_generation_prompt=True,\n", " tools=[pydantic_function_tool(Multiply)],\n", " return_tensors=\"pt\",\n", " return_dict=True,\n", ").to(device)" ], "metadata": { "id": "xQoFfwhfirty" }, "execution_count": 5, "outputs": [] }, { "cell_type": "markdown", "source": [ "## 5. Define the processor and visualize it" ], "metadata": { "id": "luXxXpsMqKEc" } }, { "cell_type": "code", "source": [ "from litelines.transformers import SchemaProcessor\n", "\n", "processor = SchemaProcessor(\n", " response_format=Multiply,\n", " tokenizer=tokenizer,\n", " include_tool_call=True\n", ")\n", "processor.show_graph()" ], "metadata": { "colab": { "base_uri": "https://localhost:8080/", "height": 1000 }, "id": "rsqdFVDQjAgR", "outputId": "c4496bcf-929c-417d-e5e4-be672ddf294f" }, "execution_count": 6, "outputs": [ { "output_type": "display_data", "data": { "text/plain": [ "" ], "image/svg+xml": "\n\n%3\n\nAllowed Paths\nRegular expression: [\\n\\t\\r ]*<tool_call>[\\n\\t\\r ]*\\{[\\n\\t\\r ]*"name"[\\n\\t\\r ]*:[\\n\\t\\r ]*"Multiply"[\\n\\t\\r ]*,[\\n\\t\\r ]*"arguments"[\\n\\t\\r ]*:[\\n\\t\\r ]*\\{[\\n\\t\\r ]*"a"[\\n\\t\\r ]*:[\\n\\t\\r ]*(-)?(0|[1-9][0-9]*)[\\n\\t\\r ]*,[\\n\\t\\r ]*"b"[\\n\\t\\r ]*:[\\n\\t\\r ]*(-)?(0|[1-9][0-9]*)[\\n\\t\\r ]*\\}[\\n\\t\\r ]*\\}[\\n\\t\\r ]*</tool_call>\n\n\n0\n\n0\n\n\n\n0->0\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n1\n\n1\n\n\n\n0->1\n\n\n\n\nid\n\n\ntoken\n\n366\n\n<\n\n27\n\n<\n\n\n\n64\n\n64\n\n\n\n0->64\n\n\n\n\nid\n\n\ntoken\n\n151657\n\n<tool_call>\n\n\n\n71\n\n71\n\n\n\n0->71\n\n\n\n\nid\n\n\ntoken\n\n62752\n\n<t\n\n\n\n2\n\n2\n\n\n\n1->2\n\n\n\n\nid\n\n\ntoken\n\n14172\n\ntool\n\n\n\n69\n\n69\n\n\n\n1->69\n\n\n\n\nid\n\n\ntoken\n\n36127\n\ntoo\n\n\n\n70\n\n70\n\n\n\n1->70\n\n\n\n\nid\n\n\ntoken\n\n983\n\nto\n\n\n\n1->71\n\n\n\n\nid\n\n\ntoken\n\n83\n\nt\n\n\n\n3\n\n3\n\n\n\n2->3\n\n\n\n\nid\n\n\ntoken\n\n13429\n\n_call\n\n\n\n65\n\n65\n\n\n\n2->65\n\n\n\n\nid\n\n\ntoken\n\n62\n\n_\n\n\n\n66\n\n66\n\n\n\n2->66\n\n\n\n\nid\n\n\ntoken\n\n666\n\n_c\n\n\n\n67\n\n67\n\n\n\n2->67\n\n\n\n\nid\n\n\ntoken\n\n24005\n\n_cal\n\n\n\n68\n\n68\n\n\n\n2->68\n\n\n\n\nid\n\n\ntoken\n\n49604\n\n_ca\n\n\n\n4\n\n4\n\n\n\n3->4\n\n\n\n\nid\n\n\ntoken\n\n7309\n\n>{\n\n41446\n\n>{\n\n\n\n60\n\n60\n\n\n\n3->60\n\n\n\n\nid\n\n\ntoken\n\n88863\n\n>{"\n\n\n\n3->64\n\n\n\n\nid\n\n\ntoken\n\n30736\n\n>\n\n29\n\n>\n\n1433\n\n>\n\n...\n\n...\n\n\n\n4->4\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n5\n\n5\n\n\n\n4->5\n\n\n\n\nid\n\n\ntoken\n\n31486\n\n"name\n\n\n\n4->60\n\n\n\n\nid\n\n\ntoken\n\n330\n\n"\n\n1\n\n"\n\n\n\n6\n\n6\n\n\n\n5->6\n\n\n\n\nid\n\n\ntoken\n\n5031\n\n"\n\n18591\n\n"\n\n15620\n\n"\n\n...\n\n...\n\n\n\n7\n\n7\n\n\n\n5->7\n\n\n\n\nid\n\n\ntoken\n\n788\n\n":\n\n4660\n\n":\n\n20354\n\n":\n\n...\n\n...\n\n\n\n8\n\n8\n\n\n\n5->8\n\n\n\n\nid\n\n\ntoken\n\n3252\n\n":"\n\n\n\n6->6\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n6->7\n\n\n\n\nid\n\n\ntoken\n\n25\n\n:\n\n47446\n\n:\n\n549\n\n:\n\n...\n\n...\n\n\n\n6->8\n\n\n\n\nid\n\n\ntoken\n\n2974\n\n:"\n\n34638\n\n:"\n\n\n\n7->7\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n7->8\n\n\n\n\nid\n\n\ntoken\n\n330\n\n"\n\n1\n\n"\n\n\n\n9\n\n9\n\n\n\n7->9\n\n\n\n\nid\n\n\ntoken\n\n73527\n\n"M\n\n\n\n8->9\n\n\n\n\nid\n\n\ntoken\n\n44\n\nM\n\n\n\n10\n\n10\n\n\n\n8->10\n\n\n\n\nid\n\n\ntoken\n\n95155\n\nMultiply\n\n\n\n54\n\n54\n\n\n\n8->54\n\n\n\n\nid\n\n\ntoken\n\n57251\n\nMultip\n\n\n\n56\n\n56\n\n\n\n8->56\n\n\n\n\nid\n\n\ntoken\n\n39120\n\nMu\n\n\n\n57\n\n57\n\n\n\n8->57\n\n\n\n\nid\n\n\ntoken\n\n40404\n\nMult\n\n\n\n58\n\n58\n\n\n\n8->58\n\n\n\n\nid\n\n\ntoken\n\n20358\n\nMulti\n\n\n\n59\n\n59\n\n\n\n8->59\n\n\n\n\nid\n\n\ntoken\n\n59155\n\nMul\n\n\n\n9->10\n\n\n\n\nid\n\n\ntoken\n\n21352\n\nultiply\n\n\n\n9->54\n\n\n\n\nid\n\n\ntoken\n\n9845\n\nultip\n\n\n\n9->56\n\n\n\n\nid\n\n\ntoken\n\n84\n\nu\n\n\n\n9->57\n\n\n\n\nid\n\n\ntoken\n\n494\n\nult\n\n\n\n9->58\n\n\n\n\nid\n\n\ntoken\n\n7068\n\nulti\n\n\n\n9->59\n\n\n\n\nid\n\n\ntoken\n\n360\n\nul\n\n\n\n11\n\n11\n\n\n\n10->11\n\n\n\n\nid\n\n\ntoken\n\n5031\n\n"\n\n18591\n\n"\n\n15620\n\n"\n\n...\n\n...\n\n\n\n12\n\n12\n\n\n\n10->12\n\n\n\n\nid\n\n\ntoken\n\n497\n\n",\n\n4723\n\n",\n\n756\n\n",\n\n...\n\n...\n\n\n\n53\n\n53\n\n\n\n10->53\n\n\n\n\nid\n\n\ntoken\n\n2198\n\n","\n\n\n\n11->11\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n11->12\n\n\n\n\nid\n\n\ntoken\n\n1154\n\n,\n\n345\n\n,\n\n30625\n\n,\n\n...\n\n...\n\n\n\n11->53\n\n\n\n\nid\n\n\ntoken\n\n33821\n\n,"\n\n1335\n\n,"\n\n\n\n12->12\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n13\n\n13\n\n\n\n12->13\n\n\n\n\nid\n\n\ntoken\n\n56693\n\n"a\n\n\n\n12->53\n\n\n\n\nid\n\n\ntoken\n\n330\n\n"\n\n1\n\n"\n\n\n\n14\n\n14\n\n\n\n13->14\n\n\n\n\nid\n\n\ntoken\n\n81\n\nr\n\n\n\n15\n\n15\n\n\n\n13->15\n\n\n\n\nid\n\n\ntoken\n\n1984\n\nrg\n\n\n\n14->15\n\n\n\n\nid\n\n\ntoken\n\n70\n\ng\n\n\n\n52\n\n52\n\n\n\n14->52\n\n\n\n\nid\n\n\ntoken\n\n8717\n\ngu\n\n\n\n16\n\n16\n\n\n\n15->16\n\n\n\n\nid\n\n\ntoken\n\n372\n\num\n\n\n\n17\n\n17\n\n\n\n15->17\n\n\n\n\nid\n\n\ntoken\n\n3885\n\nume\n\n\n\n18\n\n18\n\n\n\n15->18\n\n\n\n\nid\n\n\ntoken\n\n2831\n\numents\n\n\n\n50\n\n50\n\n\n\n15->50\n\n\n\n\nid\n\n\ntoken\n\n27899\n\numen\n\n\n\n51\n\n51\n\n\n\n15->51\n\n\n\n\nid\n\n\ntoken\n\n1123\n\nument\n\n\n\n15->52\n\n\n\n\nid\n\n\ntoken\n\n84\n\nu\n\n\n\n16->17\n\n\n\n\nid\n\n\ntoken\n\n68\n\ne\n\n\n\n16->18\n\n\n\n\nid\n\n\ntoken\n\n805\n\nents\n\n\n\n16->50\n\n\n\n\nid\n\n\ntoken\n\n268\n\nen\n\n\n\n16->51\n\n\n\n\nid\n\n\ntoken\n\n306\n\nent\n\n\n\n17->18\n\n\n\n\nid\n\n\ntoken\n\n65677\n\nnts\n\n\n\n17->50\n\n\n\n\nid\n\n\ntoken\n\n77\n\nn\n\n\n\n17->51\n\n\n\n\nid\n\n\ntoken\n\n406\n\nnt\n\n\n\n19\n\n19\n\n\n\n18->19\n\n\n\n\nid\n\n\ntoken\n\n5031\n\n"\n\n18591\n\n"\n\n15620\n\n"\n\n...\n\n...\n\n\n\n20\n\n20\n\n\n\n18->20\n\n\n\n\nid\n\n\ntoken\n\n788\n\n":\n\n4660\n\n":\n\n20354\n\n":\n\n...\n\n...\n\n\n\n21\n\n21\n\n\n\n18->21\n\n\n\n\nid\n\n\ntoken\n\n12602\n\n":{\n\n\n\n49\n\n49\n\n\n\n18->49\n\n\n\n\nid\n\n\ntoken\n\n22317\n\n":{"\n\n\n\n19->19\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n19->20\n\n\n\n\nid\n\n\ntoken\n\n25\n\n:\n\n47446\n\n:\n\n549\n\n:\n\n...\n\n...\n\n\n\n19->21\n\n\n\n\nid\n\n\ntoken\n\n17894\n\n:{\n\n83051\n\n:{\n\n12547\n\n:{\n\n\n\n20->20\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n20->21\n\n\n\n\nid\n\n\ntoken\n\n53632\n\n{\n\n8022\n\n{\n\n25289\n\n{\n\n...\n\n...\n\n\n\n20->49\n\n\n\n\nid\n\n\ntoken\n\n4913\n\n{"\n\n5212\n\n{"\n\n\n\n21->21\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n22\n\n22\n\n\n\n21->22\n\n\n\n\nid\n\n\ntoken\n\n56693\n\n"a\n\n\n\n21->49\n\n\n\n\nid\n\n\ntoken\n\n330\n\n"\n\n1\n\n"\n\n\n\n23\n\n23\n\n\n\n22->23\n\n\n\n\nid\n\n\ntoken\n\n5031\n\n"\n\n18591\n\n"\n\n15620\n\n"\n\n...\n\n...\n\n\n\n24\n\n24\n\n\n\n22->24\n\n\n\n\nid\n\n\ntoken\n\n788\n\n":\n\n4660\n\n":\n\n20354\n\n":\n\n...\n\n...\n\n\n\n48\n\n48\n\n\n\n22->48\n\n\n\n\nid\n\n\ntoken\n\n52052\n\n":-\n\n\n\n23->23\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n23->24\n\n\n\n\nid\n\n\ntoken\n\n25\n\n:\n\n47446\n\n:\n\n549\n\n:\n\n...\n\n...\n\n\n\n23->48\n\n\n\n\nid\n\n\ntoken\n\n10944\n\n:-\n\n20955\n\n:-\n\n\n\n24->24\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n25\n\n25\n\n\n\n24->25\n\n\n\n\nid\n\n\ntoken\n\n24\n\n9\n\n23\n\n8\n\n21\n\n6\n\n...\n\n...\n\n\n\n26\n\n26\n\n\n\n24->26\n\n\n\n\nid\n\n\ntoken\n\n15\n\n0\n\n\n\n24->48\n\n\n\n\nid\n\n\ntoken\n\n12\n\n-\n\n481\n\n-\n\n\n\n25->25\n\n\n\n\nid\n\n\ntoken\n\n24\n\n9\n\n23\n\n8\n\n21\n\n6\n\n...\n\n...\n\n\n\n25->26\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n27\n\n27\n\n\n\n25->27\n\n\n\n\nid\n\n\ntoken\n\n1154\n\n,\n\n345\n\n,\n\n30625\n\n,\n\n...\n\n...\n\n\n\n28\n\n28\n\n\n\n25->28\n\n\n\n\nid\n\n\ntoken\n\n33821\n\n,"\n\n1335\n\n,"\n\n\n\n26->26\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n26->27\n\n\n\n\nid\n\n\ntoken\n\n1154\n\n,\n\n345\n\n,\n\n30625\n\n,\n\n...\n\n...\n\n\n\n26->28\n\n\n\n\nid\n\n\ntoken\n\n33821\n\n,"\n\n1335\n\n,"\n\n\n\n27->27\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n27->28\n\n\n\n\nid\n\n\ntoken\n\n330\n\n"\n\n1\n\n"\n\n\n\n29\n\n29\n\n\n\n28->29\n\n\n\n\nid\n\n\ntoken\n\n65\n\nb\n\n\n\n30\n\n30\n\n\n\n29->30\n\n\n\n\nid\n\n\ntoken\n\n5031\n\n"\n\n18591\n\n"\n\n15620\n\n"\n\n...\n\n...\n\n\n\n31\n\n31\n\n\n\n29->31\n\n\n\n\nid\n\n\ntoken\n\n788\n\n":\n\n4660\n\n":\n\n20354\n\n":\n\n...\n\n...\n\n\n\n47\n\n47\n\n\n\n29->47\n\n\n\n\nid\n\n\ntoken\n\n52052\n\n":-\n\n\n\n30->30\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n30->31\n\n\n\n\nid\n\n\ntoken\n\n25\n\n:\n\n47446\n\n:\n\n549\n\n:\n\n...\n\n...\n\n\n\n30->47\n\n\n\n\nid\n\n\ntoken\n\n10944\n\n:-\n\n20955\n\n:-\n\n\n\n31->31\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n32\n\n32\n\n\n\n31->32\n\n\n\n\nid\n\n\ntoken\n\n24\n\n9\n\n23\n\n8\n\n21\n\n6\n\n...\n\n...\n\n\n\n33\n\n33\n\n\n\n31->33\n\n\n\n\nid\n\n\ntoken\n\n15\n\n0\n\n\n\n31->47\n\n\n\n\nid\n\n\ntoken\n\n12\n\n-\n\n481\n\n-\n\n\n\n32->32\n\n\n\n\nid\n\n\ntoken\n\n23\n\n8\n\n21\n\n6\n\n19\n\n4\n\n...\n\n...\n\n\n\n32->33\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n19205\n\n\n981\n\n\n...\n\n...\n\n\n\n34\n\n34\n\n\n\n32->34\n\n\n\n\nid\n\n\ntoken\n\n4455\n\n}\n\n75531\n\n}\n\n92\n\n}\n\n...\n\n...\n\n\n\n35\n\n35\n\n\n\n32->35\n\n\n\n\nid\n\n\ntoken\n\n8096\n\n}}\n\n67436\n\n}}\n\n11248\n\n}}\n\n...\n\n...\n\n\n\n36\n\n36\n\n\n\n32->36\n\n\n\n\nid\n\n\ntoken\n\n11330\n\n}}</\n\n12813\n\n}}</\n\n\n\n33->33\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n19205\n\n\n981\n\n\n...\n\n...\n\n\n\n33->34\n\n\n\n\nid\n\n\ntoken\n\n4455\n\n}\n\n75531\n\n}\n\n92\n\n}\n\n...\n\n...\n\n\n\n33->35\n\n\n\n\nid\n\n\ntoken\n\n8096\n\n}}\n\n67436\n\n}}\n\n11248\n\n}}\n\n...\n\n...\n\n\n\n33->36\n\n\n\n\nid\n\n\ntoken\n\n11330\n\n}}</\n\n12813\n\n}}</\n\n\n\n34->34\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n19205\n\n\n981\n\n\n...\n\n...\n\n\n\n34->35\n\n\n\n\nid\n\n\ntoken\n\n4455\n\n}\n\n75531\n\n}\n\n92\n\n}\n\n...\n\n...\n\n\n\n34->36\n\n\n\n\nid\n\n\ntoken\n\n5361\n\n}</\n\n56813\n\n}</\n\n\n\n46\n\n46\n\n\n\n34->46\n\n\n\n\nid\n\n\ntoken\n\n70793\n\n}<\n\n\n\n35->35\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n35->36\n\n\n\n\nid\n\n\ntoken\n\n522\n\n</\n\n690\n\n</\n\n\n\n35->46\n\n\n\n\nid\n\n\ntoken\n\n366\n\n<\n\n27\n\n<\n\n\n\n72\n\n\n72\n\n\n\n35->72\n\n\n\n\nid\n\n\ntoken\n\n151658\n\n</tool_call>\n\n\n\n37\n\n37\n\n\n\n36->37\n\n\n\n\nid\n\n\ntoken\n\n14172\n\ntool\n\n\n\n43\n\n43\n\n\n\n36->43\n\n\n\n\nid\n\n\ntoken\n\n36127\n\ntoo\n\n\n\n44\n\n44\n\n\n\n36->44\n\n\n\n\nid\n\n\ntoken\n\n983\n\nto\n\n\n\n45\n\n45\n\n\n\n36->45\n\n\n\n\nid\n\n\ntoken\n\n83\n\nt\n\n\n\n38\n\n38\n\n\n\n37->38\n\n\n\n\nid\n\n\ntoken\n\n13429\n\n_call\n\n\n\n39\n\n39\n\n\n\n37->39\n\n\n\n\nid\n\n\ntoken\n\n62\n\n_\n\n\n\n40\n\n40\n\n\n\n37->40\n\n\n\n\nid\n\n\ntoken\n\n666\n\n_c\n\n\n\n41\n\n41\n\n\n\n37->41\n\n\n\n\nid\n\n\ntoken\n\n24005\n\n_cal\n\n\n\n42\n\n42\n\n\n\n37->42\n\n\n\n\nid\n\n\ntoken\n\n49604\n\n_ca\n\n\n\n38->72\n\n\n\n\nid\n\n\ntoken\n\n29\n\n>\n\n\n\n39->38\n\n\n\n\nid\n\n\ntoken\n\n6659\n\ncall\n\n\n\n39->40\n\n\n\n\nid\n\n\ntoken\n\n66\n\nc\n\n\n\n39->41\n\n\n\n\nid\n\n\ntoken\n\n5416\n\ncal\n\n\n\n39->42\n\n\n\n\nid\n\n\ntoken\n\n924\n\nca\n\n\n\n40->38\n\n\n\n\nid\n\n\ntoken\n\n541\n\nall\n\n\n\n40->41\n\n\n\n\nid\n\n\ntoken\n\n278\n\nal\n\n\n\n40->42\n\n\n\n\nid\n\n\ntoken\n\n64\n\na\n\n\n\n41->38\n\n\n\n\nid\n\n\ntoken\n\n75\n\nl\n\n\n\n42->38\n\n\n\n\nid\n\n\ntoken\n\n654\n\nll\n\n\n\n42->41\n\n\n\n\nid\n\n\ntoken\n\n75\n\nl\n\n\n\n43->37\n\n\n\n\nid\n\n\ntoken\n\n75\n\nl\n\n\n\n44->37\n\n\n\n\nid\n\n\ntoken\n\n337\n\nol\n\n\n\n44->43\n\n\n\n\nid\n\n\ntoken\n\n78\n\no\n\n\n\n45->37\n\n\n\n\nid\n\n\ntoken\n\n1749\n\nool\n\n\n\n45->43\n\n\n\n\nid\n\n\ntoken\n\n2624\n\noo\n\n\n\n45->44\n\n\n\n\nid\n\n\ntoken\n\n78\n\no\n\n\n\n46->36\n\n\n\n\nid\n\n\ntoken\n\n14\n\n/\n\n\n\n46->37\n\n\n\n\nid\n\n\ntoken\n\n75027\n\n/tool\n\n\n\n46->44\n\n\n\n\nid\n\n\ntoken\n\n32429\n\n/to\n\n\n\n46->45\n\n\n\n\nid\n\n\ntoken\n\n5523\n\n/t\n\n\n\n47->32\n\n\n\n\nid\n\n\ntoken\n\n22\n\n7\n\n18\n\n3\n\n21\n\n6\n\n...\n\n...\n\n\n\n47->33\n\n\n\n\nid\n\n\ntoken\n\n15\n\n0\n\n\n\n48->25\n\n\n\n\nid\n\n\ntoken\n\n22\n\n7\n\n18\n\n3\n\n21\n\n6\n\n...\n\n...\n\n\n\n48->26\n\n\n\n\nid\n\n\ntoken\n\n15\n\n0\n\n\n\n49->22\n\n\n\n\nid\n\n\ntoken\n\n64\n\na\n\n\n\n50->18\n\n\n\n\nid\n\n\ntoken\n\n2576\n\nts\n\n\n\n50->51\n\n\n\n\nid\n\n\ntoken\n\n83\n\nt\n\n\n\n51->18\n\n\n\n\nid\n\n\ntoken\n\n82\n\ns\n\n\n\n52->16\n\n\n\n\nid\n\n\ntoken\n\n76\n\nm\n\n\n\n52->17\n\n\n\n\nid\n\n\ntoken\n\n2660\n\nme\n\n\n\n52->18\n\n\n\n\nid\n\n\ntoken\n\n1368\n\nments\n\n\n\n52->50\n\n\n\n\nid\n\n\ntoken\n\n5676\n\nmen\n\n\n\n52->51\n\n\n\n\nid\n\n\ntoken\n\n478\n\nment\n\n\n\n53->13\n\n\n\n\nid\n\n\ntoken\n\n64\n\na\n\n\n\n53->14\n\n\n\n\nid\n\n\ntoken\n\n277\n\nar\n\n\n\n53->15\n\n\n\n\nid\n\n\ntoken\n\n858\n\narg\n\n\n\n53->18\n\n\n\n\nid\n\n\ntoken\n\n16370\n\narguments\n\n\n\n53->51\n\n\n\n\nid\n\n\ntoken\n\n14479\n\nargument\n\n\n\n54->10\n\n\n\n\nid\n\n\ntoken\n\n398\n\nly\n\n\n\n55\n\n55\n\n\n\n54->55\n\n\n\n\nid\n\n\ntoken\n\n75\n\nl\n\n\n\n55->10\n\n\n\n\nid\n\n\ntoken\n\n88\n\ny\n\n\n\n56->57\n\n\n\n\nid\n\n\ntoken\n\n4832\n\nlt\n\n\n\n56->59\n\n\n\n\nid\n\n\ntoken\n\n75\n\nl\n\n\n\n57->54\n\n\n\n\nid\n\n\ntoken\n\n573\n\nip\n\n\n\n57->55\n\n\n\n\nid\n\n\ntoken\n\n10352\n\nipl\n\n\n\n57->58\n\n\n\n\nid\n\n\ntoken\n\n72\n\ni\n\n\n\n58->10\n\n\n\n\nid\n\n\ntoken\n\n2541\n\nply\n\n\n\n58->54\n\n\n\n\nid\n\n\ntoken\n\n79\n\np\n\n\n\n58->55\n\n\n\n\nid\n\n\ntoken\n\n500\n\npl\n\n\n\n59->54\n\n\n\n\nid\n\n\ntoken\n\n13145\n\ntip\n\n\n\n59->57\n\n\n\n\nid\n\n\ntoken\n\n83\n\nt\n\n\n\n59->58\n\n\n\n\nid\n\n\ntoken\n\n10251\n\nti\n\n\n\n60->5\n\n\n\n\nid\n\n\ntoken\n\n606\n\nname\n\n\n\n61\n\n61\n\n\n\n60->61\n\n\n\n\nid\n\n\ntoken\n\n3376\n\nna\n\n\n\n62\n\n62\n\n\n\n60->62\n\n\n\n\nid\n\n\ntoken\n\n12400\n\nnam\n\n\n\n63\n\n63\n\n\n\n60->63\n\n\n\n\nid\n\n\ntoken\n\n77\n\nn\n\n\n\n61->5\n\n\n\n\nid\n\n\ntoken\n\n2660\n\nme\n\n\n\n61->62\n\n\n\n\nid\n\n\ntoken\n\n76\n\nm\n\n\n\n62->5\n\n\n\n\nid\n\n\ntoken\n\n68\n\ne\n\n\n\n63->5\n\n\n\n\nid\n\n\ntoken\n\n373\n\name\n\n\n\n63->61\n\n\n\n\nid\n\n\ntoken\n\n64\n\na\n\n\n\n63->62\n\n\n\n\nid\n\n\ntoken\n\n309\n\nam\n\n\n\n64->4\n\n\n\n\nid\n\n\ntoken\n\n53632\n\n{\n\n8022\n\n{\n\n25289\n\n{\n\n...\n\n...\n\n\n\n64->60\n\n\n\n\nid\n\n\ntoken\n\n4913\n\n{"\n\n5212\n\n{"\n\n\n\n64->64\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n65->3\n\n\n\n\nid\n\n\ntoken\n\n6659\n\ncall\n\n\n\n65->66\n\n\n\n\nid\n\n\ntoken\n\n66\n\nc\n\n\n\n65->67\n\n\n\n\nid\n\n\ntoken\n\n5416\n\ncal\n\n\n\n65->68\n\n\n\n\nid\n\n\ntoken\n\n924\n\nca\n\n\n\n66->3\n\n\n\n\nid\n\n\ntoken\n\n541\n\nall\n\n\n\n66->67\n\n\n\n\nid\n\n\ntoken\n\n278\n\nal\n\n\n\n66->68\n\n\n\n\nid\n\n\ntoken\n\n64\n\na\n\n\n\n67->3\n\n\n\n\nid\n\n\ntoken\n\n75\n\nl\n\n\n\n68->3\n\n\n\n\nid\n\n\ntoken\n\n654\n\nll\n\n\n\n68->67\n\n\n\n\nid\n\n\ntoken\n\n75\n\nl\n\n\n\n69->2\n\n\n\n\nid\n\n\ntoken\n\n75\n\nl\n\n\n\n70->2\n\n\n\n\nid\n\n\ntoken\n\n337\n\nol\n\n\n\n70->69\n\n\n\n\nid\n\n\ntoken\n\n78\n\no\n\n\n\n71->2\n\n\n\n\nid\n\n\ntoken\n\n1749\n\nool\n\n\n\n71->69\n\n\n\n\nid\n\n\ntoken\n\n2624\n\noo\n\n\n\n71->70\n\n\n\n\nid\n\n\ntoken\n\n78\n\no\n\n\n\n\n\n\n->0\n\n\n\n\n" }, "metadata": {} } ] }, { "cell_type": "markdown", "source": [ "## 6. Generate a structured response" ], "metadata": { "id": "pwlWVd11qQ4u" } }, { "cell_type": "code", "source": [ "generated = model.generate(**inputs, logits_processor=[processor], temperature=0.1, max_new_tokens=100)\n", "print(f\"Response:\\n{tokenizer.decode(generated[0][inputs['input_ids'].shape[-1]:-1])}\")" ], "metadata": { "colab": { "base_uri": "https://localhost:8080/" }, "id": "qe75_KZKjGbY", "outputId": "e4007832-0f00-4d6c-8a1f-d154b6275607" }, "execution_count": 7, "outputs": [ { "output_type": "stream", "name": "stdout", "text": [ "Response:\n", "\n", "{\"name\": \"Multiply\", \"arguments\": {\"a\": 24, \"b\": 42}}\n", "\n" ] } ] }, { "cell_type": "markdown", "source": [ "## 7. Visualize the selected path" ], "metadata": { "id": "whdfI9HeqWpJ" } }, { "cell_type": "code", "source": [ "processor.show_graph()" ], "metadata": { "colab": { "base_uri": "https://localhost:8080/", "height": 1000 }, "id": "BMTqsT3ekMCo", "outputId": "acb887a5-5e46-47b2-8c47-7eeea2b9c3e6" }, "execution_count": 8, "outputs": [ { "output_type": "display_data", "data": { "text/plain": [ "" ], "image/svg+xml": "\n\n%3\n\nAllowed Paths\nRegular expression: [\\n\\t\\r ]*<tool_call>[\\n\\t\\r ]*\\{[\\n\\t\\r ]*"name"[\\n\\t\\r ]*:[\\n\\t\\r ]*"Multiply"[\\n\\t\\r ]*,[\\n\\t\\r ]*"arguments"[\\n\\t\\r ]*:[\\n\\t\\r ]*\\{[\\n\\t\\r ]*"a"[\\n\\t\\r ]*:[\\n\\t\\r ]*(-)?(0|[1-9][0-9]*)[\\n\\t\\r ]*,[\\n\\t\\r ]*"b"[\\n\\t\\r ]*:[\\n\\t\\r ]*(-)?(0|[1-9][0-9]*)[\\n\\t\\r ]*\\}[\\n\\t\\r ]*\\}[\\n\\t\\r ]*</tool_call>\n\n\n0\n\n0\n\n\n\n0->0\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n1\n\n1\n\n\n\n0->1\n\n\n\n\nid\n\n\ntoken\n\n366\n\n<\n\n27\n\n<\n\n\n\n64\n\n64\n\n\n\n0->64\n\n\n\n\nid\n\n\ntoken\n\n151657\n\n<tool_call>\n\n\n\n71\n\n71\n\n\n\n0->71\n\n\n\n\nid\n\n\ntoken\n\n62752\n\n<t\n\n\n\n2\n\n2\n\n\n\n1->2\n\n\n\n\nid\n\n\ntoken\n\n14172\n\ntool\n\n\n\n69\n\n69\n\n\n\n1->69\n\n\n\n\nid\n\n\ntoken\n\n36127\n\ntoo\n\n\n\n70\n\n70\n\n\n\n1->70\n\n\n\n\nid\n\n\ntoken\n\n983\n\nto\n\n\n\n1->71\n\n\n\n\nid\n\n\ntoken\n\n83\n\nt\n\n\n\n3\n\n3\n\n\n\n2->3\n\n\n\n\nid\n\n\ntoken\n\n13429\n\n_call\n\n\n\n65\n\n65\n\n\n\n2->65\n\n\n\n\nid\n\n\ntoken\n\n62\n\n_\n\n\n\n66\n\n66\n\n\n\n2->66\n\n\n\n\nid\n\n\ntoken\n\n666\n\n_c\n\n\n\n67\n\n67\n\n\n\n2->67\n\n\n\n\nid\n\n\ntoken\n\n24005\n\n_cal\n\n\n\n68\n\n68\n\n\n\n2->68\n\n\n\n\nid\n\n\ntoken\n\n49604\n\n_ca\n\n\n\n4\n\n4\n\n\n\n3->4\n\n\n\n\nid\n\n\ntoken\n\n7309\n\n>{\n\n41446\n\n>{\n\n\n\n60\n\n60\n\n\n\n3->60\n\n\n\n\nid\n\n\ntoken\n\n88863\n\n>{"\n\n\n\n3->64\n\n\n\n\nid\n\n\ntoken\n\n30736\n\n>\n\n29\n\n>\n\n1433\n\n>\n\n...\n\n...\n\n\n\n4->4\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n5\n\n5\n\n\n\n4->5\n\n\n\n\nid\n\n\ntoken\n\n31486\n\n"name\n\n\n\n4->60\n\n\n\n\nid\n\n\ntoken\n\n330\n\n"\n\n1\n\n"\n\n\n\n6\n\n6\n\n\n\n5->6\n\n\n\n\nid\n\n\ntoken\n\n5031\n\n"\n\n18591\n\n"\n\n15620\n\n"\n\n...\n\n...\n\n\n\n7\n\n7\n\n\n\n5->7\n\n\n\n\nid\n\n\ntoken\n\n788\n\n":\n\n4660\n\n":\n\n20354\n\n":\n\n...\n\n...\n\n\n\n8\n\n8\n\n\n\n5->8\n\n\n\n\nid\n\n\ntoken\n\n3252\n\n":"\n\n\n\n6->6\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n6->7\n\n\n\n\nid\n\n\ntoken\n\n25\n\n:\n\n47446\n\n:\n\n549\n\n:\n\n...\n\n...\n\n\n\n6->8\n\n\n\n\nid\n\n\ntoken\n\n2974\n\n:"\n\n34638\n\n:"\n\n\n\n7->7\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n7->8\n\n\n\n\nid\n\n\ntoken\n\n330\n\n"\n\n1\n\n"\n\n\n\n9\n\n9\n\n\n\n7->9\n\n\n\n\nid\n\n\ntoken\n\n73527\n\n"M\n\n\n\n8->9\n\n\n\n\nid\n\n\ntoken\n\n44\n\nM\n\n\n\n10\n\n10\n\n\n\n8->10\n\n\n\n\nid\n\n\ntoken\n\n95155\n\nMultiply\n\n\n\n54\n\n54\n\n\n\n8->54\n\n\n\n\nid\n\n\ntoken\n\n57251\n\nMultip\n\n\n\n56\n\n56\n\n\n\n8->56\n\n\n\n\nid\n\n\ntoken\n\n39120\n\nMu\n\n\n\n57\n\n57\n\n\n\n8->57\n\n\n\n\nid\n\n\ntoken\n\n40404\n\nMult\n\n\n\n58\n\n58\n\n\n\n8->58\n\n\n\n\nid\n\n\ntoken\n\n20358\n\nMulti\n\n\n\n59\n\n59\n\n\n\n8->59\n\n\n\n\nid\n\n\ntoken\n\n59155\n\nMul\n\n\n\n9->10\n\n\n\n\nid\n\n\ntoken\n\n21352\n\nultiply\n\n\n\n9->54\n\n\n\n\nid\n\n\ntoken\n\n9845\n\nultip\n\n\n\n9->56\n\n\n\n\nid\n\n\ntoken\n\n84\n\nu\n\n\n\n9->57\n\n\n\n\nid\n\n\ntoken\n\n494\n\nult\n\n\n\n9->58\n\n\n\n\nid\n\n\ntoken\n\n7068\n\nulti\n\n\n\n9->59\n\n\n\n\nid\n\n\ntoken\n\n360\n\nul\n\n\n\n11\n\n11\n\n\n\n10->11\n\n\n\n\nid\n\n\ntoken\n\n5031\n\n"\n\n18591\n\n"\n\n15620\n\n"\n\n...\n\n...\n\n\n\n12\n\n12\n\n\n\n10->12\n\n\n\n\nid\n\n\ntoken\n\n497\n\n",\n\n4723\n\n",\n\n756\n\n",\n\n...\n\n...\n\n\n\n53\n\n53\n\n\n\n10->53\n\n\n\n\nid\n\n\ntoken\n\n2198\n\n","\n\n\n\n11->11\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n11->12\n\n\n\n\nid\n\n\ntoken\n\n1154\n\n,\n\n345\n\n,\n\n30625\n\n,\n\n...\n\n...\n\n\n\n11->53\n\n\n\n\nid\n\n\ntoken\n\n33821\n\n,"\n\n1335\n\n,"\n\n\n\n12->12\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n13\n\n13\n\n\n\n12->13\n\n\n\n\nid\n\n\ntoken\n\n56693\n\n"a\n\n\n\n12->53\n\n\n\n\nid\n\n\ntoken\n\n330\n\n"\n\n1\n\n"\n\n\n\n14\n\n14\n\n\n\n13->14\n\n\n\n\nid\n\n\ntoken\n\n81\n\nr\n\n\n\n15\n\n15\n\n\n\n13->15\n\n\n\n\nid\n\n\ntoken\n\n1984\n\nrg\n\n\n\n14->15\n\n\n\n\nid\n\n\ntoken\n\n70\n\ng\n\n\n\n52\n\n52\n\n\n\n14->52\n\n\n\n\nid\n\n\ntoken\n\n8717\n\ngu\n\n\n\n16\n\n16\n\n\n\n15->16\n\n\n\n\nid\n\n\ntoken\n\n372\n\num\n\n\n\n17\n\n17\n\n\n\n15->17\n\n\n\n\nid\n\n\ntoken\n\n3885\n\nume\n\n\n\n18\n\n18\n\n\n\n15->18\n\n\n\n\nid\n\n\ntoken\n\n2831\n\numents\n\n\n\n50\n\n50\n\n\n\n15->50\n\n\n\n\nid\n\n\ntoken\n\n27899\n\numen\n\n\n\n51\n\n51\n\n\n\n15->51\n\n\n\n\nid\n\n\ntoken\n\n1123\n\nument\n\n\n\n15->52\n\n\n\n\nid\n\n\ntoken\n\n84\n\nu\n\n\n\n16->17\n\n\n\n\nid\n\n\ntoken\n\n68\n\ne\n\n\n\n16->18\n\n\n\n\nid\n\n\ntoken\n\n805\n\nents\n\n\n\n16->50\n\n\n\n\nid\n\n\ntoken\n\n268\n\nen\n\n\n\n16->51\n\n\n\n\nid\n\n\ntoken\n\n306\n\nent\n\n\n\n17->18\n\n\n\n\nid\n\n\ntoken\n\n65677\n\nnts\n\n\n\n17->50\n\n\n\n\nid\n\n\ntoken\n\n77\n\nn\n\n\n\n17->51\n\n\n\n\nid\n\n\ntoken\n\n406\n\nnt\n\n\n\n19\n\n19\n\n\n\n18->19\n\n\n\n\nid\n\n\ntoken\n\n5031\n\n"\n\n18591\n\n"\n\n15620\n\n"\n\n...\n\n...\n\n\n\n20\n\n20\n\n\n\n18->20\n\n\n\n\nid\n\n\ntoken\n\n788\n\n":\n\n4660\n\n":\n\n20354\n\n":\n\n...\n\n...\n\n\n\n21\n\n21\n\n\n\n18->21\n\n\n\n\nid\n\n\ntoken\n\n12602\n\n":{\n\n\n\n49\n\n49\n\n\n\n18->49\n\n\n\n\nid\n\n\ntoken\n\n22317\n\n":{"\n\n\n\n19->19\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n19->20\n\n\n\n\nid\n\n\ntoken\n\n25\n\n:\n\n47446\n\n:\n\n549\n\n:\n\n...\n\n...\n\n\n\n19->21\n\n\n\n\nid\n\n\ntoken\n\n17894\n\n:{\n\n83051\n\n:{\n\n12547\n\n:{\n\n\n\n20->20\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n20->21\n\n\n\n\nid\n\n\ntoken\n\n53632\n\n{\n\n8022\n\n{\n\n25289\n\n{\n\n...\n\n...\n\n\n\n20->49\n\n\n\n\nid\n\n\ntoken\n\n4913\n\n{"\n\n5212\n\n{"\n\n\n\n21->21\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n22\n\n22\n\n\n\n21->22\n\n\n\n\nid\n\n\ntoken\n\n56693\n\n"a\n\n\n\n21->49\n\n\n\n\nid\n\n\ntoken\n\n330\n\n"\n\n1\n\n"\n\n\n\n23\n\n23\n\n\n\n22->23\n\n\n\n\nid\n\n\ntoken\n\n5031\n\n"\n\n18591\n\n"\n\n15620\n\n"\n\n...\n\n...\n\n\n\n24\n\n24\n\n\n\n22->24\n\n\n\n\nid\n\n\ntoken\n\n788\n\n":\n\n4660\n\n":\n\n20354\n\n":\n\n...\n\n...\n\n\n\n48\n\n48\n\n\n\n22->48\n\n\n\n\nid\n\n\ntoken\n\n52052\n\n":-\n\n\n\n23->23\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n23->24\n\n\n\n\nid\n\n\ntoken\n\n25\n\n:\n\n47446\n\n:\n\n549\n\n:\n\n...\n\n...\n\n\n\n23->48\n\n\n\n\nid\n\n\ntoken\n\n10944\n\n:-\n\n20955\n\n:-\n\n\n\n24->24\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n25\n\n25\n\n\n\n24->25\n\n\n\n\nid\n\n\ntoken\n\n24\n\n9\n\n23\n\n8\n\n21\n\n6\n\n...\n\n...\n\n\n\n26\n\n26\n\n\n\n24->26\n\n\n\n\nid\n\n\ntoken\n\n15\n\n0\n\n\n\n24->48\n\n\n\n\nid\n\n\ntoken\n\n12\n\n-\n\n481\n\n-\n\n\n\n25->25\n\n\n\n\nid\n\n\ntoken\n\n24\n\n9\n\n23\n\n8\n\n21\n\n6\n\n...\n\n...\n\n\n\n25->26\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n27\n\n27\n\n\n\n25->27\n\n\n\n\nid\n\n\ntoken\n\n1154\n\n,\n\n345\n\n,\n\n30625\n\n,\n\n...\n\n...\n\n\n\n28\n\n28\n\n\n\n25->28\n\n\n\n\nid\n\n\ntoken\n\n33821\n\n,"\n\n1335\n\n,"\n\n\n\n26->26\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n26->27\n\n\n\n\nid\n\n\ntoken\n\n1154\n\n,\n\n345\n\n,\n\n30625\n\n,\n\n...\n\n...\n\n\n\n26->28\n\n\n\n\nid\n\n\ntoken\n\n33821\n\n,"\n\n1335\n\n,"\n\n\n\n27->27\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n27->28\n\n\n\n\nid\n\n\ntoken\n\n330\n\n"\n\n1\n\n"\n\n\n\n29\n\n29\n\n\n\n28->29\n\n\n\n\nid\n\n\ntoken\n\n65\n\nb\n\n\n\n30\n\n30\n\n\n\n29->30\n\n\n\n\nid\n\n\ntoken\n\n5031\n\n"\n\n18591\n\n"\n\n15620\n\n"\n\n...\n\n...\n\n\n\n31\n\n31\n\n\n\n29->31\n\n\n\n\nid\n\n\ntoken\n\n788\n\n":\n\n4660\n\n":\n\n20354\n\n":\n\n...\n\n...\n\n\n\n47\n\n47\n\n\n\n29->47\n\n\n\n\nid\n\n\ntoken\n\n52052\n\n":-\n\n\n\n30->30\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n30->31\n\n\n\n\nid\n\n\ntoken\n\n25\n\n:\n\n47446\n\n:\n\n549\n\n:\n\n...\n\n...\n\n\n\n30->47\n\n\n\n\nid\n\n\ntoken\n\n10944\n\n:-\n\n20955\n\n:-\n\n\n\n31->31\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n32\n\n32\n\n\n\n31->32\n\n\n\n\nid\n\n\ntoken\n\n24\n\n9\n\n23\n\n8\n\n21\n\n6\n\n...\n\n...\n\n\n\n33\n\n33\n\n\n\n31->33\n\n\n\n\nid\n\n\ntoken\n\n15\n\n0\n\n\n\n31->47\n\n\n\n\nid\n\n\ntoken\n\n12\n\n-\n\n481\n\n-\n\n\n\n32->32\n\n\n\n\nid\n\n\ntoken\n\n23\n\n8\n\n21\n\n6\n\n19\n\n4\n\n...\n\n...\n\n\n\n32->33\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n19205\n\n\n981\n\n\n...\n\n...\n\n\n\n34\n\n34\n\n\n\n32->34\n\n\n\n\nid\n\n\ntoken\n\n4455\n\n}\n\n75531\n\n}\n\n92\n\n}\n\n...\n\n...\n\n\n\n35\n\n35\n\n\n\n32->35\n\n\n\n\nid\n\n\ntoken\n\n8096\n\n}}\n\n67436\n\n}}\n\n11248\n\n}}\n\n...\n\n...\n\n\n\n36\n\n36\n\n\n\n32->36\n\n\n\n\nid\n\n\ntoken\n\n11330\n\n}}</\n\n12813\n\n}}</\n\n\n\n33->33\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n19205\n\n\n981\n\n\n...\n\n...\n\n\n\n33->34\n\n\n\n\nid\n\n\ntoken\n\n4455\n\n}\n\n75531\n\n}\n\n92\n\n}\n\n...\n\n...\n\n\n\n33->35\n\n\n\n\nid\n\n\ntoken\n\n8096\n\n}}\n\n67436\n\n}}\n\n11248\n\n}}\n\n...\n\n...\n\n\n\n33->36\n\n\n\n\nid\n\n\ntoken\n\n11330\n\n}}</\n\n12813\n\n}}</\n\n\n\n34->34\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n19205\n\n\n981\n\n\n...\n\n...\n\n\n\n34->35\n\n\n\n\nid\n\n\ntoken\n\n4455\n\n}\n\n75531\n\n}\n\n92\n\n}\n\n...\n\n...\n\n\n\n34->36\n\n\n\n\nid\n\n\ntoken\n\n5361\n\n}</\n\n56813\n\n}</\n\n\n\n46\n\n46\n\n\n\n34->46\n\n\n\n\nid\n\n\ntoken\n\n70793\n\n}<\n\n\n\n35->35\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n35->36\n\n\n\n\nid\n\n\ntoken\n\n522\n\n</\n\n690\n\n</\n\n\n\n35->46\n\n\n\n\nid\n\n\ntoken\n\n366\n\n<\n\n27\n\n<\n\n\n\n72\n\n\n72\n\n\n\n35->72\n\n\n\n\nid\n\n\ntoken\n\n151658\n\n</tool_call>\n\n\n\n37\n\n37\n\n\n\n36->37\n\n\n\n\nid\n\n\ntoken\n\n14172\n\ntool\n\n\n\n43\n\n43\n\n\n\n36->43\n\n\n\n\nid\n\n\ntoken\n\n36127\n\ntoo\n\n\n\n44\n\n44\n\n\n\n36->44\n\n\n\n\nid\n\n\ntoken\n\n983\n\nto\n\n\n\n45\n\n45\n\n\n\n36->45\n\n\n\n\nid\n\n\ntoken\n\n83\n\nt\n\n\n\n38\n\n38\n\n\n\n37->38\n\n\n\n\nid\n\n\ntoken\n\n13429\n\n_call\n\n\n\n39\n\n39\n\n\n\n37->39\n\n\n\n\nid\n\n\ntoken\n\n62\n\n_\n\n\n\n40\n\n40\n\n\n\n37->40\n\n\n\n\nid\n\n\ntoken\n\n666\n\n_c\n\n\n\n41\n\n41\n\n\n\n37->41\n\n\n\n\nid\n\n\ntoken\n\n24005\n\n_cal\n\n\n\n42\n\n42\n\n\n\n37->42\n\n\n\n\nid\n\n\ntoken\n\n49604\n\n_ca\n\n\n\n38->72\n\n\n\n\nid\n\n\ntoken\n\n29\n\n>\n\n\n\n39->38\n\n\n\n\nid\n\n\ntoken\n\n6659\n\ncall\n\n\n\n39->40\n\n\n\n\nid\n\n\ntoken\n\n66\n\nc\n\n\n\n39->41\n\n\n\n\nid\n\n\ntoken\n\n5416\n\ncal\n\n\n\n39->42\n\n\n\n\nid\n\n\ntoken\n\n924\n\nca\n\n\n\n40->38\n\n\n\n\nid\n\n\ntoken\n\n541\n\nall\n\n\n\n40->41\n\n\n\n\nid\n\n\ntoken\n\n278\n\nal\n\n\n\n40->42\n\n\n\n\nid\n\n\ntoken\n\n64\n\na\n\n\n\n41->38\n\n\n\n\nid\n\n\ntoken\n\n75\n\nl\n\n\n\n42->38\n\n\n\n\nid\n\n\ntoken\n\n654\n\nll\n\n\n\n42->41\n\n\n\n\nid\n\n\ntoken\n\n75\n\nl\n\n\n\n43->37\n\n\n\n\nid\n\n\ntoken\n\n75\n\nl\n\n\n\n44->37\n\n\n\n\nid\n\n\ntoken\n\n337\n\nol\n\n\n\n44->43\n\n\n\n\nid\n\n\ntoken\n\n78\n\no\n\n\n\n45->37\n\n\n\n\nid\n\n\ntoken\n\n1749\n\nool\n\n\n\n45->43\n\n\n\n\nid\n\n\ntoken\n\n2624\n\noo\n\n\n\n45->44\n\n\n\n\nid\n\n\ntoken\n\n78\n\no\n\n\n\n46->36\n\n\n\n\nid\n\n\ntoken\n\n14\n\n/\n\n\n\n46->37\n\n\n\n\nid\n\n\ntoken\n\n75027\n\n/tool\n\n\n\n46->44\n\n\n\n\nid\n\n\ntoken\n\n32429\n\n/to\n\n\n\n46->45\n\n\n\n\nid\n\n\ntoken\n\n5523\n\n/t\n\n\n\n47->32\n\n\n\n\nid\n\n\ntoken\n\n22\n\n7\n\n18\n\n3\n\n21\n\n6\n\n...\n\n...\n\n\n\n47->33\n\n\n\n\nid\n\n\ntoken\n\n15\n\n0\n\n\n\n48->25\n\n\n\n\nid\n\n\ntoken\n\n22\n\n7\n\n18\n\n3\n\n21\n\n6\n\n...\n\n...\n\n\n\n48->26\n\n\n\n\nid\n\n\ntoken\n\n15\n\n0\n\n\n\n49->22\n\n\n\n\nid\n\n\ntoken\n\n64\n\na\n\n\n\n50->18\n\n\n\n\nid\n\n\ntoken\n\n2576\n\nts\n\n\n\n50->51\n\n\n\n\nid\n\n\ntoken\n\n83\n\nt\n\n\n\n51->18\n\n\n\n\nid\n\n\ntoken\n\n82\n\ns\n\n\n\n52->16\n\n\n\n\nid\n\n\ntoken\n\n76\n\nm\n\n\n\n52->17\n\n\n\n\nid\n\n\ntoken\n\n2660\n\nme\n\n\n\n52->18\n\n\n\n\nid\n\n\ntoken\n\n1368\n\nments\n\n\n\n52->50\n\n\n\n\nid\n\n\ntoken\n\n5676\n\nmen\n\n\n\n52->51\n\n\n\n\nid\n\n\ntoken\n\n478\n\nment\n\n\n\n53->13\n\n\n\n\nid\n\n\ntoken\n\n64\n\na\n\n\n\n53->14\n\n\n\n\nid\n\n\ntoken\n\n277\n\nar\n\n\n\n53->15\n\n\n\n\nid\n\n\ntoken\n\n858\n\narg\n\n\n\n53->18\n\n\n\n\nid\n\n\ntoken\n\n16370\n\narguments\n\n\n\n53->51\n\n\n\n\nid\n\n\ntoken\n\n14479\n\nargument\n\n\n\n54->10\n\n\n\n\nid\n\n\ntoken\n\n398\n\nly\n\n\n\n55\n\n55\n\n\n\n54->55\n\n\n\n\nid\n\n\ntoken\n\n75\n\nl\n\n\n\n55->10\n\n\n\n\nid\n\n\ntoken\n\n88\n\ny\n\n\n\n56->57\n\n\n\n\nid\n\n\ntoken\n\n4832\n\nlt\n\n\n\n56->59\n\n\n\n\nid\n\n\ntoken\n\n75\n\nl\n\n\n\n57->54\n\n\n\n\nid\n\n\ntoken\n\n573\n\nip\n\n\n\n57->55\n\n\n\n\nid\n\n\ntoken\n\n10352\n\nipl\n\n\n\n57->58\n\n\n\n\nid\n\n\ntoken\n\n72\n\ni\n\n\n\n58->10\n\n\n\n\nid\n\n\ntoken\n\n2541\n\nply\n\n\n\n58->54\n\n\n\n\nid\n\n\ntoken\n\n79\n\np\n\n\n\n58->55\n\n\n\n\nid\n\n\ntoken\n\n500\n\npl\n\n\n\n59->54\n\n\n\n\nid\n\n\ntoken\n\n13145\n\ntip\n\n\n\n59->57\n\n\n\n\nid\n\n\ntoken\n\n83\n\nt\n\n\n\n59->58\n\n\n\n\nid\n\n\ntoken\n\n10251\n\nti\n\n\n\n60->5\n\n\n\n\nid\n\n\ntoken\n\n606\n\nname\n\n\n\n61\n\n61\n\n\n\n60->61\n\n\n\n\nid\n\n\ntoken\n\n3376\n\nna\n\n\n\n62\n\n62\n\n\n\n60->62\n\n\n\n\nid\n\n\ntoken\n\n12400\n\nnam\n\n\n\n63\n\n63\n\n\n\n60->63\n\n\n\n\nid\n\n\ntoken\n\n77\n\nn\n\n\n\n61->5\n\n\n\n\nid\n\n\ntoken\n\n2660\n\nme\n\n\n\n61->62\n\n\n\n\nid\n\n\ntoken\n\n76\n\nm\n\n\n\n62->5\n\n\n\n\nid\n\n\ntoken\n\n68\n\ne\n\n\n\n63->5\n\n\n\n\nid\n\n\ntoken\n\n373\n\name\n\n\n\n63->61\n\n\n\n\nid\n\n\ntoken\n\n64\n\na\n\n\n\n63->62\n\n\n\n\nid\n\n\ntoken\n\n309\n\nam\n\n\n\n64->4\n\n\n\n\nid\n\n\ntoken\n\n53632\n\n{\n\n8022\n\n{\n\n25289\n\n{\n\n...\n\n...\n\n\n\n64->60\n\n\n\n\nid\n\n\ntoken\n\n4913\n\n{"\n\n5212\n\n{"\n\n\n\n64->64\n\n\n\n\nid\n\n\ntoken\n\n20338\n\n\n23459\n\n\n201\n\n\n...\n\n...\n\n\n\n65->3\n\n\n\n\nid\n\n\ntoken\n\n6659\n\ncall\n\n\n\n65->66\n\n\n\n\nid\n\n\ntoken\n\n66\n\nc\n\n\n\n65->67\n\n\n\n\nid\n\n\ntoken\n\n5416\n\ncal\n\n\n\n65->68\n\n\n\n\nid\n\n\ntoken\n\n924\n\nca\n\n\n\n66->3\n\n\n\n\nid\n\n\ntoken\n\n541\n\nall\n\n\n\n66->67\n\n\n\n\nid\n\n\ntoken\n\n278\n\nal\n\n\n\n66->68\n\n\n\n\nid\n\n\ntoken\n\n64\n\na\n\n\n\n67->3\n\n\n\n\nid\n\n\ntoken\n\n75\n\nl\n\n\n\n68->3\n\n\n\n\nid\n\n\ntoken\n\n654\n\nll\n\n\n\n68->67\n\n\n\n\nid\n\n\ntoken\n\n75\n\nl\n\n\n\n69->2\n\n\n\n\nid\n\n\ntoken\n\n75\n\nl\n\n\n\n70->2\n\n\n\n\nid\n\n\ntoken\n\n337\n\nol\n\n\n\n70->69\n\n\n\n\nid\n\n\ntoken\n\n78\n\no\n\n\n\n71->2\n\n\n\n\nid\n\n\ntoken\n\n1749\n\nool\n\n\n\n71->69\n\n\n\n\nid\n\n\ntoken\n\n2624\n\noo\n\n\n\n71->70\n\n\n\n\nid\n\n\ntoken\n\n78\n\no\n\n\n\n\n\n\n->0\n\n\n\n\n" }, "metadata": {} } ] } ] }