Contacta con nosotros

Temario del curso

Fundamentos de una IA Segura e Imparcial

  • Conceptos clave: seguridad, sesgo, imparcialidad, transparencia.
  • Tipos de sesgo: en los datos, de representación, algorítmico.
  • Resumen de marcos regulatorios (Ley de IA de la UE, GDPR, etc.).

Sesgo en Modelos de Ajuste Fino

  • Cómo el ajuste fino puede introducir o amplificar el sesgo.
  • Estudios de caso y fracasos en el mundo real.
  • Identificación del sesgo en conjuntos de datos y predicciones de modelos.

Técnicas para la Mitigación del Sesgo

  • Estrategias a nivel de datos (rebalanceo, aumento de datos).
  • Estrategias durante el entrenamiento (regularización, debiasing adversarial).
  • Estrategias de postprocesamiento (filtrado de salidas, calibración).

Seguridad y Robustez del Modelo

  • Detección de salidas inseguras o dañinas.
  • Gestión de entradas adversariales.
  • Pruebas con equipos rojos (red teaming) y pruebas de estrés en modelos ajustados finamente.

Auditoría y Monitoreo de Sistemas de IA

  • Métricas de evaluación del sesgo e imparcialidad (por ejemplo, paridad demográfica).
  • Herramientas de explicabilidad y marcos de transparencia.
  • Prácticas de monitoreo continuo y gobernanza.

Kit de Herramientas y Práctica Práctica

  • Uso de bibliotecas de código abierto (por ejemplo, Fairlearn, Transformers, CheckList).
  • Práctica: Detección y mitigación del sesgo en un modelo ajustado finamente.
  • Generación de salidas seguras mediante diseño de prompts y restricciones.

Casos de Uso Empresariales y Preparación para el Cumplimiento

  • Mejores prácticas para integrar la seguridad en flujos de trabajo de LLM.
  • Documentación y fichas del modelo para cumplimiento normativo.
  • Preparación para auditorías y revisiones externas.

Resumen y Próximos Pasos

Requerimientos

  • Comprensión de modelos de aprendizaje automático y procesos de entrenamiento.
  • Experiencia trabajando con ajuste fino y grandes modelos de lenguaje (LLM).
  • Conocimiento familiaridad con Python y conceptos de procesamiento de lenguaje natural (PLN).

Público objetivo

  • Equipos de cumplimiento de IA.
  • Ingenieros de aprendizaje automático.
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas