Diseñar e implementar arquitecturas de orquestación de agentes basados en LLM, incluyendo grafos de estados, manejo de contexto, memoria y ejecución de herramientas. Desarrollar mecanismos de tool/function calling para conectar agentes con APIs, microservicios y sistemas internos. Integrar soluciones de IA con servicios backend existentes, respetando contratos de APIs, mecanismos de autenticación y estándares de seguridad. Implementar guardrails y mecanismos de control, incluyendo validación de outputs, manejo de alucinaciones, restricciones de alcance y fallback hacia flujos determinísticos. Diseñar e implementar estrategias de RAG (Retrieval-Augmented Generation) utilizando vector stores y distintas fuentes de conocimiento. Optimizar prompts, manejo de contexto, selección de modelos y estrategias de recuperación de información.
Trabajar con distintos proveedores de LLM, evaluando trade-offs entre calidad, latencia, disponibilidad y costo. Definir mecanismos de evaluación para sistemas no deterministas mediante LLM Evals, testing de prompts y pruebas de regresión de calidad. Implementar observabilidad y trazabilidad sobre las decisiones de los agentes, uso de herramientas, consumo de tokens, latencia y costos. Identificar problemas de rendimiento, calidad o comportamiento de los agentes y proponer mejoras sobre la arquitectura y los flujos existentes. Colaborar con equipos de backend, arquitectura y producto para llevar soluciones de IA desde diseño hasta producción.
5+ años de experiencia en desarrollo backend, idealmente utilizando Node.js y TypeScript. Experiencia comprobable desarrollando agentes o sistemas basados en LLM en producción, más allá de pruebas de concepto.
Experiencia implementando:
- Orquestación de agentes.
- Tool/function calling.
- Memoria y manejo de estado.
- Contexto multi-turno.
- Flujos agentic y determinísticos.
Experiencia con al menos un framework de orquestación de agentes como:
- LangChain / LangGraph.
- Semantic Kernel.
- CrewAI.
- O tecnologías equivalentes.
Experiencia trabajando con múltiples proveedores de LLM como OpenAI, Anthropic y/o AWS Bedrock. Conocimiento de las diferencias y capacidades de los distintos modelos respecto a tool-use, structured outputs y function calling. Sólidos conocimientos de diseño e integración de APIs REST y arquitecturas de microservicios. Experiencia implementando soluciones RAG y búsquedas vectoriales. Experiencia con tecnologías como pgvector, OpenSearch, Pinecone o equivalentes. Experiencia en testing de sistemas no deterministas mediante LLM Evals, evaluación de prompts y regresión de calidad. Capacidad para analizar y optimizar consumo de tokens, latencia y costos asociados al uso de modelos.