A Anthropic cortou o acesso aos modelos Fable 5 e Mythos 5 sob pressão da administração Trump. Os receios estão ligados a um relatório da Amazon que revela que as salvaguardas anteriores podem ser contornadas.
Foi uma decisão muito criticada, especialmente na França. Na noite de 12 de junho, a Anthropic desativou seus dois poderosos modelos de IA, Fable 5 e Mythos 5, três dias após seu lançamento comercial. Uma suspensão não resulta da sua própria discrição, mas está ligada a uma ordem do governo dos EUA.
Como explica a start-up num comunicado de imprensa, Washington ordenou-lhe que cortasse o acesso aos dois modelos “a cidadãos estrangeiros dentro ou fora dos Estados Unidos”, alegando riscos para a “segurança nacional”. Incapaz de classificar seus usuários por nacionalidade, decidiu retirar todos os clientes do Fable 5 e Mythos 5.
Já em desacordo com a administração Trump, a jovem empresa não quer aumentar as tensões. No entanto, ele o critica por não abordar “a natureza das suas preocupações de segurança nacional”. Mas se a Casa Branca é mesquinha com detalhes, tudo começou com um relatório da Amazon.
Risco reduzido
De acordo com o Wall Street Journal, os pesquisadores da empresa americana de comércio eletrônico conseguiram contornar as proteções implementadas pela Antrópico para Fable 5. Com solicitações específicas, conseguimos fazer com que o modelo fornecesse informações exploráveis para ataques cibernéticos.
Mais precisamente, ele teria encontrado falhas de segurança em pelo menos quatro programas de software com esses métodos. Alarmado com as suas descobertas, o CEO da Amazon, Andy Jassy, decidiu alertar a Casa Branca. A partir destas trocas, os avisos tornaram-se uma ampla barreira.
“O governo pediu a Dario (Amodei, chefe da Anthropic, nota do editor) para corrigir a curva ou remover o modelo de sua implantação. Dario recusou (…) Em resposta, o governo emitiu restrições à exportação”, disse David Sachs, ex-conselheiro sênior de Donald Trump em IA e criptomoedas, ao X.
Actualmente co-presidente do Conselho de Ciência e Tecnologia da Casa Branca, ele critica o jovem adversário por minimizar o risco. “Estudamos uma demonstração desta técnica usada para identificar um pequeno número de pequenas vulnerabilidades que já eram conhecidas. Estas vulnerabilidades parecem ser relativamente simples, e descobrimos que outros modelos disponíveis publicamente são capazes de detectá-las sem a necessidade de remediação”, argumentou a start-up.
Também reiterou que “implementou medidas de segurança robustas que reduzem significativamente o risco de uso indevido do mito para fins relacionados à segurança cibernética (entre outros)”.
Acesso não autorizado
Contudo, a declaração da Amazon por si só não justifica a decisão do governo dos EUA. Segundo a Semaphore Media, suspeita-se que tenha sido abordado por um grupo ligado à China. Além do risco para a segurança nacional dos EUA que tal acesso pode representar, existe outro risco conhecido como “vazamento”.
Este processo envolve o uso de dados de um modelo de IA para treinar outro e criar habilidades semelhantes com mais facilidade. Esta não é a primeira vez que a China é acusada de utilizar esta técnica.
Atualmente, nada está confirmado. Por sua vez, a Anthropic espera restaurar rapidamente o acesso ao Fable 5 e ao Mythos 5, intensificando as discussões com a administração Trump a partir de sexta-feira à noite para encerrar a suspensão, de acordo com o Wall Street Journal.
