Update app.py

app.py

@@ -15,7 +15,6 @@ class PromptRequest(BaseModel):
 # Ruta principal para ejecutar el modelo
 @app.post("/generate/")
 async def generate_text(request: PromptRequest):
-    # Especificar las rutas del modelo y tokenizador
     model_path = "/content/executorch/Llama-3.2-1B-Instruct-SpinQuant_INT4_EO8.pte"
     tokenizer_path = "/content/executorch/tokenizer.model"
     
@@ -53,25 +52,26 @@ def run_llama_model(model_path, tokenizer_path, prompt):
     cmd = f"cd /content/executorch/cmake-out/examples/models/llama && ./llama_main --model_path={model_path} --tokenizer_path={tokenizer_path} --prompt='{prompt}'"
     return run_command(cmd)
 
+def install_requirements(lib_path):
+    """Instalar dependencias de ejecutorch y del modelo Llama."""
+    # Instalar dependencias para Executorch
+    print("Instalando dependencias de Executorch...")
+    run_command(f"cd /content/executorch && CMAKE_PREFIX_PATH={lib_path} EXECUTORCH_BUILD_XNNPACK=ON bash ./install_requirements.sh --pybind")
+    print("Dependencias de Executorch instaladas.")
+
+    # Instalar requerimientos adicionales para el modelo Llama
+    print("Instalando dependencias para el modelo Llama...")
+    run_command("cd /content/executorch/examples/models/llama && ./install_requirements.sh")
+    print("Requerimientos de Llama instalados.")
+
 # Iniciar el servidor Uvicorn directamente desde el código Python
 if __name__ == "__main__":
     # Obtener la ruta del entorno Python
     lib_path = sysconfig.get_paths()["purelib"]
     print(f"Usando la ruta de la biblioteca Python: {lib_path}")
 
-    # Configurar el entorno y dependencias si es necesario
+    # Instalar las dependencias necesarias
     install_requirements(lib_path)
 
     # Ejecutar el servidor Uvicorn
     uvicorn.run(app, host="0.0.0.0", port=7860)
-
-def install_requirements(lib_path):
-    """Instalar dependencias de ejecutorch."""
-    print("Instalando dependencias de Executorch...")
-    run_command(f"cd /content/executorch && CMAKE_PREFIX_PATH={lib_path} EXECUTORCH_BUILD_XNNPACK=ON bash ./install_requirements.sh --pybind")
-    print("Dependencias de Executorch instaladas.")
-
-    # Instalar requerimientos adicionales para el modelo Llama
-    print("Instalando dependencias para el modelo Llama...")
-    run_command("cd /content/executorch/examples/models/llama && ./install_requirements.sh")
-    print("Requerimientos de Llama instalados.")