O governo dos EUA proibiu o acesso de estrangeiros aos modelos de IA Anthropic Fable 5 e Mythos 5 AI, e a empresa teve que encerrar ambos em todo o mundo. À medida que a administração Trump continua a perder a confiança internacional ao exibir traços autoritários, os danos para aqueles que beneficiam podem ser administráveis. A Anthropic restringiu o uso do Fable 5 de forma não transparente.
Leia mais depois do anúncio
Há preocupações na Casa Branca sobre um possível jailbreak – um truque que ajuda a liberar o poder perigoso do Fable 5, contornando os mecanismos de proteção integrados. De acordo com a apresentação da Anthropic, não há nenhuma maneira conhecida de fazer com que o modelo faça algo que outros modelos, como o ChatGPT 5.5, não possam fazer. Dado o dilúvio de vulnerabilidades de segurança cibernética geradas pela IA, isto pode ser um pequeno consolo para alguns gestores de segurança. Há uma história com Fable 5: o modelo é uma variante do modelo Anthropic Mythos, que detecta rapidamente falhas de segurança perigosas em quase todos os softwares. Esta nova qualidade tem causado cenários de terror em todo o mundo. Fable 5 se recusa a responder às questões de biologia, química, segurança cibernética e destilação de conhecimento.
Mas com o atual argumento do governo dos EUA, quase todos os modelos de IA do mundo podem ser banidos. Teoricamente, cada modelo pode encontrar uma maneira de contornar a proteção, e testamos isso com sucesso em Heise. Claro, isso realmente depende do modelo, se você tem um malware bem elaborado ou até mesmo instruções de fabricação para agentes de guerra química. Embora este último não deva ser distribuído, apesar do conteúdo “quebrável” do LLM, o argumento do governo dos EUA parece arbitrário. Deve ser visto como mais um episódio de sua disputa de longa data com a Antrópica. Os fabricantes de IA estão proibidos de usar modelos para sistemas de armas autônomos nas forças armadas dos EUA, e há sanções para isso.
“Pure Fable 5” definitivamente não existe
Perdeu-se menos como resultado da acção ousada do actual governo dos EUA do que parece. Fable 5 foi disponibilizado no plano Pro da Anthropic há alguns dias, mas com duas restrições principais. Por um lado, o Fable 5 só terá que ser incluído na assinatura até 22 de junho, antes do qual o modelo estará disponível apenas via API e cobrança relacionada a tokens – e, portanto, mais caro. A Anthropic cita como motivo a falta de capacidade, que primeiro deve ser construída por meio de um novo data center. Um fim rápido é previsível para o setor de consumo, embora a Anthropic prometa trazer o Fable 5 de volta às assinaturas em algum momento.
Por outro lado, o Anthropic restringiu enormemente o uso do Fable 5 pela porta dos fundos: o Fable 5 muda regularmente para o próximo modelo Anthropic mais fraco, Claude Opus 4.8, em segundo plano. Sem isso visível para o usuário. A razão dada pela Anthropic é uma medida de proteção contra a destilação de conhecimento, que é o treinamento de um modelo de IA com outro modelo. O Fabel 5 deve ser reconhecido independentemente quando usado para o exercício e depois passar para o Opus 4.8. E isso provavelmente acontece com bastante frequência, como ouviram colegas da revista de vídeos Heise c’t 3003. A Anthropic anunciou recentemente que será transparente aqui, mas para os clientes ainda significa: eles pagaram pelo Fable 5, mas no final compraram uma mistura incontrolável de modelos. Este fato afeta principalmente usuários profissionais da área de codificação. Na comparação de benchmark da Anthropic, o Fable 5 é mais forte que o Opus 4.8 ou ChatGPT 5.5.
Uma chamada de despertar oportuna
Leia mais depois do anúncio
O governo dos EUA não poderia ter feito melhor publicidade aos fornecedores europeus de IA. Mostra a rapidez com que os produtos manufaturados, dos quais dependem as empresas do mundo, só podem ser mortos. Se quiser, mesmo com um bom momento. Muitos decisores alemães de TI estão atualmente no início de projetos destinados a trazer agentes de IA e a infraestrutura correspondente para as suas organizações. Eles podem aprender sobre Fable 5. É preciso: devemos lutar pela independência da Big Tech AI da melhor maneira possível.
Sob o capô de um aplicativo de agente de IA, especialmente se ele for construído total ou parcialmente, geralmente existem vários modelos. Porque cada modelo possui pontos fortes individuais para etapas de trabalho específicas. É claro que uma família de modelos como o Mistral não pode atualmente seguir produtos da OpenAI ou da Anthropic. Mas: É claro que pode ser uma alternativa para etapas individuais do fluxo de trabalho. É claro que, depois de se tornar dependente, você não conseguirá acabar com o vício, mas poderá pelo menos evitá-lo. E ajuda fornecedores alternativos de IA a criar produtos melhores. Com o tempo, poderão surgir cada vez mais casos de utilização de modelos de IA que não cumprem os caprichos do chefe de estado.
(não)
