Engenharia de Segurança de IA

Para quem é

• Engenheiros de segurança mantendo sistemas LLM em produção, com responsabilidade por incidentes e disponibilidade.
• AI red teamers em formação que querem método e ferramentas, não só leitura de papers.
• AppSec engineers cujo escopo cresceu para agentes, prompts e cadeias de ferramentas.
• Candidatos a papéis de segurança de IA em frontier labs, preparando entrevistas técnicas.

O que você vai fazer

• Projeta um programa de AI red teaming com cadência, escopo e critérios de saída.
• Endurece um pipeline de inferência LLM contra a OWASP LLM Top 10, do prompt à saída.
• Constrói detecções específicas para prompt injection direto e indireto.
• Executa um engajamento simulado de AI red team contra uma aplicação alvo.
• Aplica MITRE ATLAS para mapear táticas de adversário em sistemas de IA.
• Projeto final: documenta um programa de segurança de IA completo, do design à resposta a incidente.

Resultados

• Sai com playbooks de defesa que funcionam em produção, não em laboratório.
• Reduz superfície de ataque mensurável em um sistema de IA real.
• Apresenta um plano de AI red teaming defensável ao CISO.
• Credencial verificável da DecipherU vinculada ao programa documentado.

Currículo

1. Módulo 1: Fundamentos de engenharia de segurança de IA e o que herda da segurança tradicional.
2. Módulo 2: Defesa contra prompt injection, direta e indireta.
3. Módulo 3: Prática de AI red teaming, mentalidade adversarial e categorias de jailbreak.
4. Módulo 4: Exemplos adversariais e ataques de evasão.
5. Módulo 5: Segurança de agentes e cadeias de ferramentas.
6. Módulo 6: Segurança de RAG, vazamento de contexto e envenenamento de fonte.
7. Módulo 7: Privacidade de IA, extração de modelo e inferência de membros.
8. Módulo 8: Infraestrutura de segurança de IA, isolamento e segredos.
9. Módulo 9: Detecção e resposta a incidentes em sistemas de IA.
10. Módulo 10: Governança aplicada, NIST AI RMF e ATLAS.
11. Módulos 11 a 15: tooling, casos de campo, design de programa, métricas, casos de governança.
12. Módulo 16: projeto final revisado pelo fundador.

Perguntas frequentes

Fontes primárias

OWASP LLM Top 10 (2025). MITRE ATLAS. NIST AI RMF e AI 600-1 GenAI Profile. NIST AI 100-2 (taxonomia de ataques). Relatórios públicos de red team da Anthropic e OpenAI. Carlini et al., literatura sobre ML adversarial.