Temario del curso
Introducción al Red Teaming en IA
- Comprensión del panorama de amenazas de la IA.
- Roles de los equipos de red teaming en la seguridad de la IA.
- Consideraciones éticas y legales.
Aprendizaje Automático Adversario
- Tipos de ataques: evasión, envenenamiento, extracción e inferencia.
- Generación de ejemplos adversarios (por ejemplo, FGSM, PGD).
- Ataques dirigidos frente a no dirigidos y métricas de éxito.
Prueba de la Robustez del Modelo
- Evaluación de la robustez bajo perturbaciones.
- Exploración de puntos ciegos y modos de fallo del modelo.
- Pruebas de estrés en modelos de clasificación, visión por computadora y PLN (Procesamiento de Lenguaje Natural).
Red Teaming de Cadenas de Procesamiento de IA
- Superficie de ataque de las cadenas de procesamiento de IA: datos, modelo y despliegue.
- Explotación de APIs y puntos finales de modelos inseguros.
- Ingeniería inversa del comportamiento y las salidas del modelo.
Simulación y Herramientas
- Uso de la caja de herramientas Adversarial Robustness Toolbox (ART).
- Red teaming con herramientas como TextAttack e IBM ART.
- Herramientas de aislamiento, monitoreo y observabilidad.
Estrategia de Red Team en IA y Colaboración en Defensa
- Desarrollo de ejercicios y objetivos para el equipo de red teaming.
- Comunicación de hallazgos a los equipos azules (defensa).
- Integración del red teaming en la gestión de riesgos de la IA.
Resumen y Próximos Pasos
Requerimientos
- Comprensión de las arquitecturas de aprendizaje automático y aprendizaje profundo.
- Experiencia con Python y marcos de trabajo de ML (por ejemplo, TensorFlow, PyTorch).
- Familiaridad con conceptos de ciberseguridad o técnicas de seguridad ofensiva.
Público objetivo
- Investigadores de seguridad.
- Equipos de seguridad ofensiva.
- Profesionales de garantía de calidad de IA y red teaming.
Reseñas (2)
Realmente disfruté aprender sobre los ataques de IA y las herramientas disponibles para comenzar a practicar y utilizarlas activamente en pruebas de seguridad. Adquirí muchos conocimientos que no tenía al inicio, y el curso cumplió con lo que esperaba. Mi parte favorita del entrenamiento fue el navegador Comet, y quedé impresionado por lo que podía hacer. Sin duda seguiré explorándolo más. En general, fue un excelente curso y disfruté aprender sobre los Top 10 de OWASP para GenAI.
Patrick Collins - Optum
Curso - OWASP GenAI Security
Traducción Automática
El conocimiento profesional y la forma en que lo presentó ante nosotros
Miroslav Nachev - PUBLIC COURSE
Curso - Cybersecurity in AI Systems
Traducción Automática
