Construcción de Aplicaciones LLM Seguras y Responsables

Resumen de la Arquitectura LLM y Superficie de Ataque

• Cómo se construyen, implementan y acceden a los LLM mediante APIs.
• Componentes clave en las pilas de aplicaciones LLM (por ejemplo, instrucciones, agentes, memoria, APIs).
• Dónde y cómo surgen los problemas de seguridad en el uso real.

Inyección de Instrucciones y Ataques de Bucle de Liberación (Jailbreak)

• Qué es la inyección de instrucciones y por qué es peligrosa.
• Escenarios de inyección directa e indirecta de instrucciones.
• Técnicas de bucle de liberación para eludir los filtros de seguridad.
• Estrategias de detección y mitigación.

Filtración de Datos y Riesgos de Privacidad

• Exposición accidental de datos a través de las respuestas.
• Filtraciones de información personal identificable (PII) y uso indebido de la memoria del modelo.
• Diseño de instrucciones conscientes de la privacidad y generación aumentada por recuperación (RAG).

Filtrado y Protección de las Salidas LLM

• Uso de Guardrails AI para el filtrado y validación de contenido.
• Definición de esquemas y restricciones de salida.
• Monitoreo y registro de salidas inseguras.

Enfoques de Supervisión Humana en el Ciclo y Flujos de Trabajo

\r
• Dónde y cuándo introducir la supervisión humana.
• Colas de aprobación, umbrales de puntuación y manejo de retrocesos.
• Calibración de confianza y el papel de la explicabilidad.

Patrones de Diseño Seguro para Aplicaciones LLM

• Privilegio mínimo y aislamiento en entornos controlados (sandboxing) para llamadas a API y agentes.
• Límite de tasa, limitación y detección de abusos.
• Encadenamiento robusto con LangChain y aislamiento de instrucciones.

Cumplimiento, Registro y Gobernanza

• Asegurar la auditabilidad de las salidas LLM.
• Mantener la trazabilidad y el control de versiones de las instrucciones.
• Alineación con políticas de seguridad internas y necesidades regulatorias.

Resumen y Próximos Pasos