Vamos lançar um produto com IA generativa
Gatilho: Chatbot de atendimento, copiloto interno, agente com acesso a sistemas ou modelo usado em decisão de crédito.
IA
Quem lidera:CTO
CISO
Chief Risk Officer
O que fazer, em ordem
- 1Classifique o caso de uso por risco (AI Act, PL 2338) e por impacto em titulares (LGPD art. 20).
- 2Faça threat modeling específico de IA: prompt injection, vazamento de dados, agência excessiva (OWASP LLM, MITRE ATLAS).
- 3Defina guardrails, ponto de aplicação de política (PEP/PDP) para as ferramentas do agente, logging e revisão humana.
- 4Rode red teaming antes do lançamento e monitore em produção.
- 5Documente tudo num sistema de gestão de IA (ISO 42001) para provar governança a clientes e reguladores.
Prazos que podem correr
Prazos típicos. Confirme sempre no texto oficial: cada norma define quando o relógio começa.
EU AI Act
Prazos escalonados; obrigações de alto risco sob proposta de adiamento — verificar
Frameworks de apoio
OWASP Top 10 para LLM e agentesMITRE ATT&CK · ATLAS · D3FENDNIST AI RMF 1.0 + perfil de IA generativa (AI 600-1)ISO/IEC 42001:2023EU AI ActPL 2338/2023 (marco legal da IA)LGPD (Lei 13.709/2018)
Entregáveis
- Inventário de sistemas de IA
- Avaliação de impacto
- Threat model de IA
- Relatório de red teaming
Cenários relacionados
Do catálogo ao contexto da sua empresa.
Avalie aplicabilidade, lacunas e prioridades com um assessment de escopo acordado.