Ciberseguridad en sistemas de IA

AAISM es un marco avanzado para evaluar, gobernar y gestionar los riesgos de seguridad en sistemas de inteligencia artificial.

Esta formación en vivo con instructores (en línea o presencial) está dirigida a profesionales de nivel avanzado que deseen implementar controles de seguridad efectivos y prácticas de gobernanza para entornos empresariales de IA.

Al finalizar este programa, los participantes estarán preparados para:

• Evaluar los riesgos de seguridad de la IA utilizando metodologías reconocidas por la industria.
• Implementar modelos de gobernanza para el despliegue responsable de la IA.
• Alinear las políticas de seguridad de la IA con los objetivos organizacionales y las expectativas regulatorias.
• Mejorar la resiliencia y la responsabilidad dentro de las operaciones impulsadas por IA.

Formato del curso

• Clases facilitadas respaldadas por análisis experto.
• Talleres prácticos y actividades basadas en evaluación.
• Ejercicios aplicados utilizando escenarios de gobernanza de IA del mundo real.

Opciones de personalización del curso

• Para una formación adaptada alineada con la estrategia de IA de su organización, contáctenos para personalizar el curso.

Esta formación en vivo impartida por instructores en Uruguay (en línea o presencial) está dirigida a líderes empresariales de nivel intermedio que deseen comprender cómo gobernar y proteger los sistemas de IA de manera responsable y conforme a los marcos globales emergentes, como la Ley de IA de la UE, el RGPD, la norma ISO/IEC 42001 y la Orden Ejecutiva de EE. UU. sobre IA.

Al finalizar esta formación, los participantes podrán:

• Comprender los riesgos legales, éticos y regulatorios del uso de la IA en diferentes departamentos.
• Interpretar y aplicar los principales marcos de gobernanza de la IA (Ley de IA de la UE, NIST AI RMF, ISO/IEC 42001).
• Establecer políticas de seguridad, auditoría y supervisión para la implementación de IA en la empresa.
• Desarrollar directrices de adquisición y uso para sistemas de IA de terceros e internos.

La Inteligencia Artificial (IA) introduce nuevas dimensiones de riesgo operacional, desafíos de gobernanza y exposición a ciberseguridad para las agencias y departamentos gubernamentales.

Esta capacitación en vivo impartida por un instructor (en línea o presencial) está dirigida a profesionales de TI y gestión de riesgos del sector público con experiencia limitada en IA que desean comprender cómo evaluar, monitorear y asegurar los sistemas de IA dentro de un contexto gubernamental o regulatorio.

Al finalizar esta capacitación, los participantes serán capaces de:

• Interpretar los conceptos clave de riesgo relacionados con los sistemas de IA, incluyendo el sesgo, la impredecibilidad y la deriva del modelo.
• Aplicar marcos específicos de gobernanza y auditoría de IA, como NIST AI RMF e ISO/IEC 42001.
• Reconocer las amenazas cibernéticas dirigidas a los modelos de IA y las tuberías de datos (data pipelines).
• Establecer planes de gestión de riesgo interdepartamentales y la alineación de políticas para el despliegue de IA.

Formato del curso

• Conferencia interactiva y discusión sobre casos de uso del sector público.
• Ejercicios de marco de gobernanza de IA y mapeo de políticas.
• Modelado de amenazas basado en escenarios y evaluación de riesgos.

Opciones de personalización del curso

• Para solicitar una capacitación personalizada para este curso, contáctenos para coordinarlo.

Este curso proporciona una introducción práctica a la seguridad de aplicaciones modernas impulsadas por inteligencia artificial, APIs, copilotos y agentes autónomos. Los participantes aprenden cómo la seguridad de IA difiere de la seguridad web tradicional, exploran amenazas comunes específicas de IA como la inyección de instrucciones, el envenenamiento de RAG y el abuso de agentes, y comprenden cómo proteger sistemas de IA utilizando defensas en capas que incluyen WAFs, pasarelas de IA, seguridad de APIs y guardrails. A través de laboratorios prácticos y ejemplos del mundo real, los estudiantes adquieren las habilidades para identificar patrones de ataque de IA, asegurar aplicaciones basadas en LLM e implementar defensas efectivas en runtime para entornos de producción.

Esta capacitación en vivo impartida por un instructor en Uruguay (en línea o presencial) está dirigida a profesionales de TI de nivel principiante e intermedio que desean comprender e implementar AI TRiSM en sus organizaciones.

Al finalizar esta capacitación, los participantes podrán:

• Comprender los conceptos clave y la importancia de la gestión de confianza, riesgo y seguridad en IA.
• Identificar y mitigar los riesgos asociados con los sistemas de IA.
• Implementar las mejores prácticas de seguridad para IA.
• Comprender el cumplimiento regulatorio y las consideraciones éticas para la IA.
• Desarrollar estrategias para una gobernanza y gestión eficaces de la IA.

Esta formación en vivo impartida por un instructor en Uruguay (en línea o presencial) está dirigida a desarrolladores de IA, arquitectos y gerentes de producto de nivel intermedio a avanzado que deseen identificar y mitigar los riesgos asociados con aplicaciones impulsadas por LLM, como la inyección de instrucciones, la filtración de datos y las salidas sin filtrar, al tiempo que incorporan controles de seguridad como la validación de entrada, la supervisión humana en el ciclo y las barreras de salida.

Al finalizar esta formación, los participantes podrán:

• Comprender las vulnerabilidades centrales de los sistemas basados en LLM.
• Aplicar principios de diseño seguro a la arquitectura de aplicaciones LLM.
• Utilizar herramientas como Guardrails AI y LangChain para la validación, filtrado y seguridad.
• Integrar técnicas como el aislamiento en entornos controlados (sandboxing), pruebas de intrusión (red teaming) y revisión humana en el ciclo dentro de pipelines de grado productivo.

Este curso enseña a los desarrolladores de software cómo construir aplicaciones potenciadas por IA de manera segura por diseño. Los participantes aprenden a proteger chatbots, copilotos, pipelines RAG y agentes de IA contra amenazas específicas de la IA como inyección de prompts, envenenamiento de datos, abuso de herramientas, filtración de secretos y manejo inseguro de la salida del modelo. El curso cubre el diseño seguro de prompts, seguridad RAG, acceso de menor privilegio, guardrails y pruebas de red-team, ayudando a los desarrolladores a crear características de IA que sean seguras, confiables y resilientes en entornos reales.

Esta formación en vivo impartida por un instructor en Uruguay (en línea o presencial) está dirigida a ingenieros de seguridad y oficiales de cumplimiento que deseen endurecer sus implementaciones de EXO, controlar el acceso a los modelos y gobernar las cargas de trabajo de IA que se ejecuten completamente de forma local.

Esta formación en vivo impartida por un instructor en Uruguay (en línea o presencial) está dirigida a profesionales principiantes de TI en los ámbitos de seguridad, riesgos y cumplimiento, que deseen comprender los conceptos fundamentales de la seguridad de la IA, los vectores de amenaza y los marcos globales como el NIST AI RMF y la norma ISO/IEC 42001.

Al finalizar esta formación, los participantes podrán:

• Comprender los riesgos de seguridad únicos que introducen los sistemas de IA.
• Identificar vectores de amenaza como ataques adversarios, envenenamiento de datos e inversión de modelos.
• Aplicar modelos de gobernanza fundamentales como el Marco de Gestión de Riesgos de la IA del NIST (NIST AI RMF).
• Alinear el uso de la IA con estándares emergentes, directrices de cumplimiento y principios éticos.

Esta formación en vivo dirigida por un instructor en Uruguay (en línea o presencial) está orientada a ingenieros de seguridad y de ML que necesitan identificar, probar y defenderse contra ataques dirigidos a modelos de ML y aplicaciones impulsadas por LLM.

Basándose en las últimas guías del Proyecto OWASP GenAI Security, los participantes aprenderán a identificar, evaluar y mitigar amenazas específicas de la IA mediante ejercicios prácticos y escenarios del mundo real.

Esta capacitación en vivo y dirigida por instructores en Uruguay (en línea o presencial) está orientada a profesionales de nivel avanzado que deseen implementar y evaluar técnicas como aprendizaje federado, computación segura multipartita, cifrado homomórfico y privacidad diferencial en pipelines de aprendizaje automático del mundo real.

Al finalizar esta capacitación, los participantes serán capaces de:

• Comprender y comparar las principales técnicas de preservación de la privacidad en ML.
• Implementar sistemas de aprendizaje federado utilizando marcos de código abierto.
• Aplicar privacidad diferencial para compartir datos y entrenar modelos de forma segura.
• Utilizar técnicas de cifrado y computación segura para proteger las entradas y salidas del modelo.

Esta formación en vivo, impartida por un instructor, se ofrece en Uruguay (en línea o presencial) y está dirigida a profesionales de la seguridad y especialistas en ML de nivel avanzado que deseen simular ataques contra sistemas de IA, descubrir vulnerabilidades y mejorar la robustez de los modelos de IA desplegados.

Al finalizar esta formación, los participantes podrán:

• Simular amenazas del mundo real contra modelos de aprendizaje automático.
• Generar ejemplos adversarios para evaluar la robustez de los modelos.
• Evaluar la superficie de ataque de las APIs y cadenas de procesamiento de IA.
• Diseñar estrategias de red teaming para entornos de despliegue de IA.

Esta formación en vivo con instructor en Uruguay (en línea o presencial) está dirigida a ingenieros y profesionales de la seguridad de nivel intermedio que desean proteger los modelos de IA implementados en el perímetro contra amenazas como la manipulación, la filtración de datos, entradas adversarias y ataques físicos.

Al finalizar esta formación, los participantes podrán:

• Identificar y evaluar los riesgos de seguridad en las implementaciones de IA perimetral.
• Aplicar técnicas de resistencia a la manipulación e inferencia cifrada.
• Robustecer los modelos desplegados en el perímetro y asegurar los flujos de datos.
• Implementar estrategias de mitigación de amenazas específicas para sistemas embebidos y con restricciones.

Esta formación práctica impartida por un instructor en Uruguay (en línea o presencial) está dirigida a profesionales de nivel intermedio en machine learning y ciberseguridad que desean comprender y mitigar las amenazas emergentes contra los modelos de IA, utilizando tanto marcos conceptuales como defensas prácticas, como el entrenamiento robusto y la privacidad diferencial.

Al finalizar esta formación, los participantes serán capaces de:

• Identificar y clasificar amenazas específicas de la IA, como ataques adversarios, inversión y envenenamiento.
• Utilizar herramientas como el Adversarial Robustness Toolbox (ART) para simular ataques y probar modelos.
• Aplicar defensas prácticas, incluyendo entrenamiento adversario, inyección de ruido y técnicas preservadoras de la privacidad.
• Diseñar estrategias de evaluación de modelos conscientes de las amenazas en entornos de producción.