Contacta con nosotros

Temario del curso

Día 1
Anatomía de un Agente de IA Moderno

Más allá de los chatbots: agentes como sistemas autónomos de razonamiento y acción

Paradigmas reactivos, proactivos, híbridos y dirigidos a objetivos

Componentes clave: percepción, planificación, memoria, uso de herramientas y acción

Ventajas y desventajas del diseño de un agente único frente a sistemas multiagente

Frameworks de Agentes y el Stack Moderno

LangChain, LlamaIndex, AutoGen, CrewAI y sus respectivas ventajas y limitaciones

Comparación con frameworks clásicos como JADE y SPADE

Criterios para elegir un framework según los requisitos de producción

Llamadas a herramientas, llamadas a funciones y salidas estructuradas

Práctica: desarrollo de la estructura base de un agente individual en Python con llamadas a herramientas

Arquitecturas de Sistemas Multiagente

Diseños centralizados, descentralizados, híbridos y en capas para sistemas multiagente (MAS)

FIPA ACL, paso de mensajes y equivalentes modernos

Patrones de coordinación: planificación, negociación y sincronización

Comportamiento emergente y autoorganización en poblaciones de agentes

Toma de Decisiones y Aprendizaje en Agentes

Teoría de juegos para interacciones cooperativas y competitivas entre agentes

Aprendizaje por refuerzo en entornos multiagente

Aprendizaje transferible y compartimento de conocimiento entre agentes

Resolución de conflictos y construcción de confianza entre agentes coordinados

Día 2
Fundamentos Multimodales para Agentes

IA multimodal como un flujo de trabajo unificado que integra texto, imagen, voz y video

Modelos multimodales líderes: GPT-4 Vision, Gemini, Claude, Whisper

Técnicas de fusión para combinar distintas modalidades dentro del bucle de razonamiento del agente

Ventajas y compensaciones en latencia, costo y precisión en pipelines multimodales

Construcción de la Capa de Percepción

Procesamiento de imágenes para agentes: clasificación, captioning y detección de objetos

Reconocimiento de voz con Whisper ASR y transcripción en streaming

Síntesis de texto a voz e interacción con voz natural

Conexión de las salidas de percepción al razonamiento basado en LLMs y selección de herramientas

Práctica - Construcción de un Agente Multimodal en Python

Definición de la tarea, ventana de contexto e inventario de herramientas del agente

Integración end-to-end de las APIs de GPT-4 Vision y Whisper

Implementación de memoria, estado y gestión de conversaciones

Agregado de llamadas a herramientas que generen efectos secundarios en el mundo real de forma segura

Práctica - Coordinación de un Sistema Multiagente

Composición de agentes especializados con AutoGen o CrewAI

Definición de roles, responsabilidades y protocolos de comunicación entre agentes

Asignación de recursos y coordinación en un entorno simulado

Registro del razonamiento, llamadas a herramientas y decisiones de los agentes para inspección y auditoría

Día 3
Superficie de Amenaza de Agentes de IA en Producción

Factores que hacen a la IA agencial única y vulnerable comparada con software tradicional

Superficie de ataque: capas de datos, modelo, prompt, herramienta, salida e interfaz

Modelado de amenazas para sistemas basados en agentes con uso autónomo de herramientas

Comparación entre prácticas de ciberseguridad en IA y ciberseguridad tradicional

Práctica - Ataques Adversarios

Ejemplos adversarios y métodos de perturbación: FGSM, PGD, DeepFool

Escenarios de ataques white-box versus black-box

Inversión de modelos y ataques de inferencia de membresía

Envenenamiento de datos e inyección de backdoors durante el entrenamiento

Inyección de prompts, jailbreaking y mal uso de herramientas en agentes basados en LLMs

Técnicas Defensivas y endurecimiento de modelos

Estrategias de entrenamiento adversario y aumento de datos

Destilación defensiva y otras técnicas de robustez

Preprocesamiento de entradas, enmascaramiento de gradientes y regularización

Privacidad diferencial, inyección de ruido y presupuestos de privacidad

Aprendizaje federado y agregación segura para entrenamiento distribuido

Práctica con el Adversarial Robustness Toolbox

Simulación de ataques contra el agente multimodal desarrollado el Día 2

Evaluación de la robustez bajo perturbación y cuantificación de la degradación

Aplicación iterativa de defensas y reevaluación de las tasas de éxito de los ataques

Puesta a prueba de las vías de llamadas a herramientas y vectores de inyección de prompts

Día 4
Marco de Gestión de Riesgos para IA

NIST AI Risk Management Framework: gobernar, mapear, medir y gestionar

ISO/IEC 42001 y estándares emergentes específicos para IA

Mapeo de riesgos de IA a frameworks GRC (Gobernanza, Riesgo y Cumplimiento) empresariales existentes

Requisitos de rendición de cuentas, audibilidad y documentación en IA

Cumplimiento Regulatorio para Sistemas Agenticos

Ley de IA de la UE (EU AI Act): niveles de riesgo, usos prohibidos y obligaciones para sistemas de alto riesgo

Implicaciones del GDPR y CCPA en los pipelines de datos de los agentes

Orden Ejecutiva de EE. UU. sobre una IA Segura, Confiable y Responsable

Orientaciones específicas por sector para finanzas, salud y servicios públicos

Riesgo de terceros y uso de herramientas de IA por proveedores

Ética, Sesgos y Explicabilidad

Detección y mitigación de sesgos a lo largo de la percepción y el razonamiento del agente

Explicabilidad y transparencia como propiedades relevantes para la seguridad

Ecuidad, daños indirectos y despliegue responsable

Diseño de comportamientos de agentes inclusivos y auditables

Despliegue en Producción, Monitoreo y Respuesta a Incidentes

Patrones seguros de despliegue para sistemas de agente único y multiagente

Monitoreo continuo para detectar deriva (drift), anomalías y abusos

Registro de actividad, rastro de auditoría y preparación forense para acciones de agentes

Protocolos de respuesta a incidentes de seguridad en IA y recuperación

Estudios de caso de brechas reales en IA y lecciones aprendidas

Proyecto Final y Síntesis

Revisión del sistema multiagente multimodal desarrollado a lo largo del curso

Revisión integral del pipeline: diseño, construcción, seguridad, gobernanza y despliegue

Autoevaluación del sistema frente a las funciones del NIST AI RMF

Perspectivas futuras sobre tendencias emergentes en IA agencial y seguridad de la IA

Resumen y Próximos Pasos

Requerimientos

Público Objetivo

Ingenieros y arquitectos de IA que desarrollan sistemas agenticos para uso en producción. Profesionales de ciberseguridad, riesgo y cumplimiento responsables de la garantía de calidad de la IA en industrias reguladas como finanzas, salud y consultoría. Desarrolladores senior y líderes de soluciones que integran capacidades multimodales y multiagente en plataformas empresariales.

 28 Horas

Número de participantes


Precio por participante

Reseñas (3)

Próximos cursos

Categorías Relacionadas