Ética y Gobernanza de Agentes de IA Autónomos

Fundamentos de la Ética en Sistemas Autónomos

• Definición de la autonomía en agentes de IA
• Principales teorías éticas aplicadas al comportamiento de las máquinas
• Perspectivas de las partes interesadas y diseño sensible a los valores

Riesgos Sociales y Casos de Uso de Alto Impacto

• Agentes autónomos en seguridad pública, salud y defensa
• Colaboración humano-IA y límites de confianza
• Escenarios de consecuencias no intencionadas y amplificación de riesgos

Paisaje Legal y Regulatorio

• Resumen de la legislación de IA y tendencias de política (Ley de IA de la UE, NIST, OCDE)
• Rendición de cuentas, responsabilidad civil y personalidad legal de los agentes de IA
• Iniciativas de gobernanza global y vacíos normativos

Explicabilidad y Transparencia en la Toma de Decisiones

• Desafíos de la toma de decisiones autónoma opaca (caja negra)
• Diseño de agentes explicables y auditables
• Herramientas y marcos de transparencia (p. ej., tarjetas de modelo, fichas de datos)

Alineación, Control y Responsabilidad Moral

• Estrategias de alineación de IA para el comportamiento de agentes
• Paradigmas de control humano en el bucle (human-in-the-loop) vs. humano sobre el bucle (human-on-the-loop)
• Responsabilidad compartida entre diseñadores, usuarios e instituciones

Evaluación y Mitigación del Riesgo Ético

• Mapeo de riesgos y análisis de fallas críticas en el diseño de agentes
• Mecanismos de seguridad y de desconexión (off-switch)
• Auditoría de sesgos, discriminación y equidad

Diseño de Gobernanza y Supervisión Institucional

• Principios de gobernanza responsable de la IA
• Modelos de supervisión multilateral y auditorías
• Diseño de marcos de cumplimiento para agentes autónomos

Resumen y Próximos Pasos