Os modelos de segurança desenvolvidos para software clássico e a primeira geração de IA generativa não são suficientes para sistemas de agente. Com o Top 10 para aplicativos LLM 2025, o OWASP (Open Worldwide Application Security Project) aborda riscos em nível de modelo, como injeção rápida, divulgação de informações confidenciais, cadeia de suprimentos e agências redundantes.
Estes riscos não estão a desaparecer nos sistemas agentes – estão a aumentar e são agravados por novas ameaças. Os pesquisadores testaram o OpenClaw em um ambiente de laboratório com memória persistente, contas de e-mail, acesso Discord e acesso shell. Em 11 casos, os agentes expuseram dados confidenciais, comprometeram-se mutuamente e fizeram alterações na infraestrutura de forma independente.
- Com o Top 10 para Aplicações de IA de Agente 2026, a OWASP publicou pela primeira vez uma estrutura de risco específica para agentes de IA autônomos.
- Os sistemas de agentes introduzem novos riscos combinatórios que os modelos clássicos de segurança não cobrem, como sequestro de objetivos, envenenamento de memória, uso indevido de ferramentas e falhas em cascata.
- As defesas de base rápidas falham contra ataques adaptativos; São necessários controles externos determinísticos, como monitores de referência, sandboxing e comunicação digitada entre agentes.
- As empresas devem inventariar todos os agentes e limitar suas permissões. Ações irrevogáveis sempre requerem consentimento humano.
Udo Schneider é Chefe de Governança, Risco e Conformidade, Europa na Trend Micro.
Isso acontece não porque o agente seja programado de forma maliciosa, mas porque carece de mecanismos básicos de segurança. Ao contrário dos chatbots que aconselham ou dos copilotos que aconselham, os sistemas de IA baseados em agentes atuam: criam voos, executam códigos, gerem bases de dados e tomam decisões importantes.
Este é um exemplo de leitura do artigo heise Plus “Riscos de segurança de IA: os 10 principais aplicativos de IA de agente da OWASP”. Com uma assinatura heise Plus você pode ler todos os artigos.
