Ingeniería de Seguridad de IA

Para quién es

• Ingenieros de seguridad que ya mantienen sistemas LLM en producción y necesitan disciplina formal.
• Personas armando una práctica de AI red teaming desde cero dentro de la organización.
• Ingenieros de AppSec cuyo alcance creció hacia agentes, prompts y pipelines de inferencia.
• Candidatos a roles de seguridad de IA en frontier labs y en grandes proveedores de cloud.

Lo que vas a hacer

• Diseñas un programa de AI red teaming con cadencia, alcance y criterios de éxito.
• Endureces un pipeline de inferencia LLM contra el OWASP LLM Top 10 de extremo a extremo.
• Construyes detecciones específicas para prompt injection y exfiltración por canal lateral.
• Ejecutas un engagement simulado de AI red team contra una aplicación objetivo.
• Proyecto final: documentas un programa completo de seguridad de IA con manuales operativos.

Resultados al terminar

• Capacidad de presentar un programa de seguridad de IA frente al CISO con números defendibles.
• Set de detecciones de prompt injection probadas y reutilizables.
• Portafolio con un engagement de AI red team completo y reporte ejecutivo.
• Credencial verificable de DecipherU al aprobar el proyecto final.

Plan de estudio

1. Módulo 1. Fundamentos de ingeniería de seguridad de IA y mapa de amenazas vigente.
2. Módulo 2. Defensa frente a prompt injection directo e indirecto.
3. Módulo 3. Práctica de AI red teaming: planeación, ejecución, reporte.
4. Módulo 4. Evaluación de IA para seguridad: jueces, golden sets adversariales.
5. Módulo 5. Seguridad de infraestructura de IA: aislamiento de modelos, secretos, redes.
6. Módulo 6. Seguridad de datos en IA: PII, dato confidencial, retención.
7. Módulo 7. Seguridad del modelo: extracción, robo de pesos, watermarking.
8. Módulo 8. Seguridad de la cadena de suministro de IA: datasets, modelos abiertos, dependencias.
9. Módulo 9. Respuesta a incidentes específicos de IA: contención, comunicación, revisión.
10. Módulo 10. Cumplimiento y gobernanza aplicados a ingeniería: EU AI Act, NIST AI RMF.
11. Módulo 11. Ingeniería de privacidad para IA: minimización, anonimización, diferenciación.
12. Módulo 12. Seguridad de agentes: límites de autonomía, herramientas, sandbox.
13. Módulo 13. Defensa contra ejemplos adversariales y jailbreaks repetibles.
14. Módulo 14. Programa interno: roles, ritmo, métricas que el CISO mira.
15. Módulo 15. Preparación del proyecto final y revisión cruzada.
16. Módulo 16. Proyecto final: programa de seguridad de IA documentado de extremo a extremo.

Preguntas frecuentes

Fuentes primarias

OWASP LLM Top 10 (2025), MITRE ATLAS, NIST AI RMF 100-1 + AI 600-1 Generative AI Profile, NIST AI 100-2 (taxonomía de ataques), reportes públicos de red team de Anthropic y OpenAI, papers de Carlini et al. sobre machine learning adversarial.