Optimización de recursos para agentes de IA

Enviar todas las consultas al modelo más potente es la forma más rápida de arruinarte usando IA.

La mayoría de las preguntas que recibe un agente no necesitan un modelo de gama alta sino que necesitan una respuesta rápida y barata.

En este capítulo del libro Agent Design Patterns exploramos las técnicas de optimización de recursos en sistemas agénticos y analizamos tres implementaciones comentadas paso a paso:

• Con Google ADK, vemos cómo construir un agente enrutador que hereda de BaseAgent y decide programáticamente entre Gemini Pro y Gemini Flash según los verbos de la consulta
• Con OpenAI, montamos un clasificador que asigna cada consulta a una de tres categorías y selecciona el modelo adecuado para cada una
• Con OpenRouter, vemos cómo configurar un fallback automático entre modelos y selección automática de modelos mediante un endpoint único

Cada ejemplo incluye la explicación detallada de sus componentes, para que puedas adaptar la lógica de enrutado a tus propios criterios de coste.

¡Vamos a optimizar! 💸

Optimización de recursos en agentes de IA: cómo reducir coste y latencia con enrutado de modelos