Numa carta aberta, vários especialistas em segurança cibernética pediram ao Secretário de Comércio dos EUA e ao Diretor Nacional de Segurança Cibernética que levantassem as restrições aos modelos Fable 5 e Mythos 5, cujo acesso foi cortado dias atrás a pedido da Casa Branca.
Controles reais que induzem gritos. Durante vários dias, dois dos modelos mais poderosos da Anthropic não puderam ser usados. A pedido da Casa Branca, a start-up cortou o acesso ao Fable 5 e ao Mythos 5 para todos os seus clientes. Uma restrição que provocou fortes reações em França e em toda a Europa.
Também abalou a indústria de segurança cibernética. Mais de 150 especialistas na área, incluindo Philip Zimmerman, o criador do PGP, a ferramenta central de encriptação de e-mail, reuniram-se na esperança de que estas restrições fossem levantadas. Eles assinaram uma carta aberta ao secretário de Comércio dos EUA, Howard Ludnick, e ao diretor nacional de segurança cibernética, Sean Cairncross.
Pedem não só que estes dois modelos voltem ao mercado, mas também que se comprometam a “implementar um processo aberto, científico e transparente para avaliar os riscos associados à IA”.
Uma habilidade essencial para qualquer modelo
Os especialistas apresentam vários argumentos para pressionar o governo dos EUA a remover as restrições relacionadas ao Fable 5 e Mythos 5. Eles atacam especificamente a Amazon no aparecimento desta suspensão. Os investigadores da gigante norte-americana revelaram num relatório que é possível contornar as defesas do Fable 5 para obter informações exploráveis para um ataque cibernético.
“As capacidades básicas do modelo usado na pesquisa inicial que motivou este trabalho tinham como objetivo determinar se qualquer pedaço de código gerado a partir de instruções humanas continha falhas de segurança. Isso não deve ser considerado uma capacidade essencial e capacidade de ataque para qualquer modelo destinado a escrever código seguro”, disseram.
Eles indicaram que isso poderia ser reproduzido em outros modelos como o GPT-5.5 da OpenAI. “A razão para esta ação sem precedentes é que o Fable oferece uma vantagem de eficiência distinta sobre outros modelos de IA, mas a IA tem detectado bugs e criado explorações operacionais em um nível que tem sido sobre-humano no ano passado”, disseram.
Eles também prometem que a Anthropic possui muitas salvaguardas para evitar que o Fable 5 seja usado para fins ciber-ofensivos. “Essas proteções são tão rígidas que foram ridicularizadas pela comunidade cibernética no dia em que foram lançadas”, afirmaram.
Os especialistas destacam o impacto da IA na segurança cibernética, particularmente na sua capacidade de encontrar bugs em software e desenvolver explorações para essas falhas. Os modelos da gama Mythos são bons nesta área, mas também para outras tarefas, argumentam.
Portanto, eles sentem que é necessário fornecer sistemas de IA que permitam aos programadores e equipes de segurança detectar vulnerabilidades em seu próprio código e décadas mais rápido do que seus adversários. “Quando os nossos inimigos avançam rapidamente, é perigoso aproveitar as melhores habilidades dos defensores sem uma boa razão”, alertaram os especialistas.
