Human in the Loop (HITL) en agentes de IA

Por muy capaz que sea un agente, hay decisiones que no debería tomar solo.

Casos ambiguos, situaciones de alto riesgo, implicaciones legales o éticas...

En todos esos escenarios, la mejor arquitectura no es la más autónoma, sino la que sabe cuándo pasar el testigo a una persona.

A través de la lectura de este capítulo del libro Agent Design Patterns exploramos el patrón human-in-the-loop, que combina la capacidad de procesamiento de los agentes con el criterio humano para garantizar que el sistema opera dentro de límites éticos, cumple los protocolos de seguridad y alcanza sus objetivos de forma efectiva.

Analizamos las distintas formas de integrar al humano en el flujo del agente:

• Intervención y corrección ante escenarios ambiguos
• Feedback humano que alimenta directamente el aprendizaje del modelo (RLHF)
• Decisión enriquecida, donde el agente analiza y recomienda pero la persona decide
• Colaboración humano-agente, repartiendo tareas rutinarias y negociaciones complejas
• Políticas de escalado que definen cuándo y cómo transferir una tarea a un operador humano

Además, analizamos una implementación completa paso a paso usando Google ADK.

Se trata de un agente de soporte técnico con un protocolo de actuación en tres niveles — diagnóstico, creación de ticket y escalado a un especialista humano — que además personaliza sus respuestas según el historial del cliente.

El ejemplo introduce los callbacks de Google ADK (before_model_callback), que permiten enriquecer automáticamente cada petición al modelo con el contexto del cliente sin que el agente tenga que gestionarlo explícitamente.

El agente define qué hace; el callback define con qué contexto lo hace.

¡Vamos a inmiscuirnos en lo que hacen los agentes! 🤝

Qué significa Human-in-the-loop