Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
El panorama de amenazas de IA
- Por qué la seguridad de IA es diferente: no determinismo, razonamiento opaco, instrucciones como superficie de ataque.
- Taxonomía de ataques: durante el entrenamiento, durante la inferencia y ataques a la cadena de suministro.
- El modelo de adversario de ML: quién ataca los sistemas de IA y por qué.
OWASP Top 10 para aplicaciones con LLM
- Inyección de instrucciones: vectores de ataque directos e indirectos.
- Manejo inseguro de salidas y falsificación de solicitudes entre plugins.
- Envenenamiento de datos de entrenamiento y vulnerabilidades de la cadena de suministro.
- Negación de servicio del modelo, divulgación de información sensible y exceso de capacidad de agencia.
- Laboratorio práctico: explotar cada categoría OWASP contra una aplicación de prueba.
Pruebas de penetración en inyección de instrucciones y jailbreaks
- Taxonomía de técnicas de inyección: directa, indirecta, multi-turno y multimodal.
- Automatización de pruebas de penetración con Giskard, Garak y herramientas personalizadas de fuzzing.
- Clasificación de jailbreaks y evaluación de defensas.
- Construcción de un sistema de pruebas de penetración para la seguridad continua de LLM.
Ataques y defensas a nivel de modelo
- Extracción de modelos: robo de pesos y funcionalidad del modelo mediante consultas API.
- Inferencia de membresía: determinar si los datos estuvieron en el conjunto de entrenamiento.
- Ejemplos adversarios: perturbaciones que engañan clasificadores y embeddings.
- Envenenamiento de datos: corrupción de los datos de entrenamiento para inducir puertas traseras o degradar el rendimiento.
Controles de seguridad de entrada y salida
- Sanitización de entradas más allá de las defensas web tradicionales.
- Filtrado de salidas: toxicidad, filtración de datos personales identificables (PII) y ejecución de código alucinado.
- Controladores de seguridad como infraestructura de seguridad: NeMo, Guardrails AI y políticas personalizadas.
- Aplicación de salidas estructuradas como un límite de seguridad.
Seguridad de la cadena de suministro de IA
- Procedencia del modelo: verificación de la autenticidad e integridad del modelo.
- Escaneo de dependencias para frameworks de ML y formatos de modelos.
- Servicio seguro de modelos: aislamiento en sandbox, aislamiento de red y acceso de mínimo privilegio.
- Evaluación de modelos ajustados finamente (fine-tuned) y comunitarios para detectar malware incorporado.
Seguridad operativa para sistemas de IA
- Control de acceso para puntos finales de modelos, bases de datos vectoriales y herramientas de agentes.
- Auditoría de registros para cada interacción y decisión del modelo.
- Respuesta a incidentes para brechas específicas de IA: cuando el propio modelo está comprometido.
- Pruebas de seguridad continuas en CI/CD para pipelines de ML.
Construcción de un programa de seguridad de IA
- Modelo de madurez y hoja de ruta de la seguridad de IA.
- Integración de la seguridad de IA en programas existentes de seguridad de aplicaciones (AppSec) y seguridad en la nube.
- Marcos de gobernanza y regulaciones emergentes para sistemas de IA.
- Creación y mantenimiento de un manual organizacional de seguridad de IA.
Requerimientos
- Experiencia desplegando modelos de ML o aplicaciones con LLM en producción.
- Familiaridad con conceptos de seguridad, incluyendo autenticación, autorización y modelado de amenazas.
- Competencia en Python para ejercicios de pruebas adversarias.
Audiencia
- Ingenieros de seguridad que se expanden hacia superficies de amenaza de IA/ML.
- Ingenieros de ML responsables de la seguridad y robustez de los modelos.
- Miembros de equipos de pruebas de penetración (red team) que están incluyendo sistemas de IA en su alcance de pruebas.
14 Horas
