Shadow AI e risco agéntico
Segurança de inteligência artificial
A IA muda a velocidade do ataque e a superfície interna. Shadow AI, fugas de contexto e cibersegurança agéntica exigem governo, não entusiasmo.
- Para quem.
- Direção que já tem ferramentas de IA em uso, com ou sem inventário.
- Alcance e entregável.
- Distinção entre modelos que sugerem e agentes que executam; inventário de usos, dados e permissões.
- Limite.
- Não implementa modelos nem audita código de fornecedores de IA.
Perspetiva
A IA muda a velocidade do ataque e a superfície interna. A Shadow AI não espera pelo comité de inovação.
Governar agentes que executam não é o mesmo que governar um chatbot que sugere. Essa distinção já é uma decisão de diretório.
Riscos frequentes
- Contratos e código colados em modelos sem contrato.
- Agentes com permissões de produção.
- Entusiasmo de inovação sem inventário honesto.
Perguntas para um conselho
- Que ferramentas de IA se usam com dados da empresa hoje, com ou sem licença?
- Que dados nunca podem sair?
- Quem responde se um modelo já levou um contrato?
- Distinguimos entre sugerir e executar?