Muitas empresas, consultorias e pesquisadores contam com IA para tornar os textos mais eficientes. Mas isso tem riscos: as chamadas alucinações causam erros – como mostram muitos casos atuais.
A Inteligência Artificial (IA) pode ajudar a descobrir, pesquisar, resumir, projetar ou codificar ideias. Mas, ao mesmo tempo, os modelos de IA envolvem riscos e podem produzir erros.
De acordo com o Financial Times, um relatório recente da empresa de consultoria KPMG – sobre todas as questões relacionadas com a utilização global da IA nas empresas – inclui estudos de caso baseados nas chamadas alucinações.
Por que os modelos de IA têm alucinações?
O principal problema está no próprio sistema. Muitas ferramentas de IA calculam quais palavras têm maior probabilidade de ocorrer juntas com base em grandes volumes de texto. Como geram apenas cadeias de palavras estatisticamente confiáveis, também podem fornecer respostas incorretas ou falsas. Porque: a IA não sabe se a afirmação resultante é realmente verdadeira. Em vez disso, utiliza padrões estatísticos para determinar o seu resultado – que, em última análise, são frequentemente modelos de linguagem.
As fontes são parcialmente geradas por IA
De acordo com um estudo da European Broadcasting Union (EBU), até outubro de 2025, 45 por cento das respostas dos chatbots terão falhas “significativas” – na precisão, atribuição, contexto ou implicação de verdade e opinião. Desde então, muitos modelos de linguagem melhoraram significativamente, mas ainda são possíveis erros. Além das alucinações, as respostas da IA a tópicos atuais podem estar desatualizadas, pois os chatbots também fornecem textos desatualizados dependendo das solicitações.
Além disso, às vezes eles extraem informações incorretas não filtradas da web ou atribuem classificações a fontes incorretas. Além disso, os recursos utilizados são cada vez mais gerados por IA. Pesquisadores do Imperial College London, da Universidade de Stanford e do Internet Archive conduziram recentemente uma análise aleatória da Internet. A conclusão deles: em meados de 2025, eles classificaram cerca de 35% dos sites recém-publicados como gerados por IA ou pelo menos apoiados por IA.
Por estas razões, o relatório da KPMG não é de forma alguma um caso isolado. De acordo com relatos da mídia, algo semelhante aconteceu recentemente na EY Canadá. A unidade de consultoria produziu um estudo que concluiu que as evidências buscadas pela IA eram falsas ou enganosas. E a Deloitte na Austrália também foi obrigada a realizar uma análise do programa de bem-estar social no ano passado É perfeito porque contém fontes e citações inexistentes. Particularmente sensível: foi escrito para o Ministério do Emprego e Relações Industriais.
A revisão crítica é importante
Não parece ser coincidência que estas situações surjam no aconselhamento empresarial e político. Juntamente com a tecnologia da informação, a indústria é considerada uma das duas áreas que estão actualmente a ser particularmente abaladas pela IA. “Estamos a assistir a uma utilização de IA acima da média neste setor – tanto formalmente, ou seja, introduzida pelo empregador, como informalmente, ou seja, introduzida pelos trabalhadores”, explica Oliver Schlenker, vice-presidente do Centro ifo para Economia do Mercado Social e Economia Organizacional.
Este é um dos campos onde os modelos de IA disponíveis gratuitamente podem executar facilmente tarefas rotineiras: coletar informações e criar documentos a partir delas. “À primeira vista, parece haver efeitos extremos na produtividade porque um relatório é escrito rapidamente e leva duas semanas. Mas é claro que isso não torna o trabalho melhor”, diz Schlenker, que também é pesquisador sênior do Instituto de Pesquisa do Mercado de Trabalho e da Indústria (IAB). O cerne da questão é um teste importante, pois a IA também pode causar alucinações.
“Assim, já existem estudos que mostram uma mudança nas tarefas: da implementação para o monitoramento da IA”, enfatiza o especialista. No entanto, esta última etapa muitas vezes ainda falta.
“A KPMG International atribui grande importância à precisão e integridade do conteúdo que publica”, afirma o próprio grupo. Os testes de precisão não são realizados adequadamente. “Estamos atualmente revendo nossos processos de publicação e mecanismos de controle e introduzindo medidas de segurança adicionais, se necessário”, escreveu a KPMG. Conselho Editorial de Finanças da ARD.
O uso de IA continua a crescer – mas com ela vêm bugs
A influência da IA também está a crescer noutros sectores económicos. De acordo com uma pesquisa recente do Instituto ifo, mais de 54% das empresas na Alemanha já os utilizam em seus processos. De acordo com dados do IAB, dois terços dos funcionários neste país utilizam, até certo ponto, IA no local de trabalho. Mas apenas um terço dos utilizadores o introduziu formalmente, diz o economista Schlenker. “Temos um nível muito alto da chamada IA sombra, onde a empresa pode não treinar adequadamente seus funcionários para lidar com erros de IA.” Isso pode levar a grandes problemas.
Um estudo da empresa de IA Dataiku descobriu que 76% dos gestores de dados alemães enfrentaram problemas ou crises de negócios no ano passado devido a alucinações de IA. Mas isto está a tornar-se cada vez mais um problema não só nos negócios, mas também na ciência. A FAZ informa sobre livros de não ficção, alguns dos quais gerados por IA, e que estão inundando o mercado. E o número de referências falsas em trabalhos de investigação também está a aumentar. Cientistas da Universidade Cornell e da Universidade da Califórnia analisaram recentemente 2,5 milhões de artigos científicos – e encontraram 150 mil citações falsificadas por modelos de linguagem.
Björn Ommer, professor de IA na Universidade Ludwig Maximilians em Munique, considera que os respectivos autores têm uma obrigação. “Utilizo a IA ou o computador para ajudar a preparar os dados: como professor, assumo a responsabilidade de reunir as coisas.” Da mesma forma, ao escrever, você não pode confiar no fato de que a IA representa esta ou aquela situação. Ele não está listado como professor. “É claro que a ciência só funciona se acreditarmos que o outro lado é confiável”, diz Omar.
Os alunos parecem estar cientes dos riscos
O Centro de Redação da Universidade Goethe, em Frankfurt, entrevistou mais de 4.000 estudantes em todo o país sobre o uso da IA. Eles usam IA principalmente para recuperar informações, fazer pesquisas bibliográficas ou procurar conteúdo especializado. Eles estão bem conscientes dos riscos, diz Nora Hoffman, diretora do Writing Center. “Os estudantes estão deixando bem claro que a IA comete erros, é alucinatória e não é confiável.” Isto não exclui o uso de IA. “Mas eles usam isso com a consciência de verificar as evidências.”
No entanto, a maneira exata como eles cumprem suas próprias responsabilidades varia muito, diz Hoffman. Por exemplo, alguns alunos usaram IA apenas para atividades parciais ou enfatizaram a documentação do seu uso. No entanto, não existem requisitos uniformes entre universidades e faculdades. “É difícil para as universidades introduzirem tais regras porque também é muito difícil para os departamentos”. Dependendo do assunto, são necessárias diferentes habilidades. Além disso, os professores precisam fazer mais.
Perda de qualidade E o roubo de ideias está aumentando
“A IA está a ser cada vez mais utilizada para escrever partes substanciais de relatórios em estudos iniciais, o processo de revisão por pares que é um processo reconhecido de garantia de qualidade na ciência”, diz o economista Schlenker. Estas só podem ser uma boa afirmação à primeira vista. Nina Kolleck, professora de teoria da educação e socialização na Universidade de Potsdam, relata que a qualidade da ciência está a diminuir. “Há definitivamente uma tendência nas redes sociais e na IA: tudo é rápido, tudo é lisonjeiro, tudo é superficial.”
Ele está surpreso que tantas pessoas olhem para ChatGPT & Co e confiem tanto nos modelos. “Os modelos de linguagem só fazem o que eu quero que façam”, diz o cientista político. Depende das informações que recebem e das instruções que recebem. Mas Kollek vê o maior perigo noutro lado: o crescente roubo de ideias. “Alguns estão pesquisando e analisando diligentemente, enquanto outros estão coletando material de outras pessoas e vendo como podem colocá-lo em IA”. Não pode mais ser visto como roubo.
O cientista apela, portanto, a padrões éticos e qualitativos na aplicação da IA. Porque você não pode mais ficar sem isso – e isso é bom. “Precisamos usar a IA para melhorar, por exemplo, escrevendo programas que possam analisar conjuntos de dados muito grandes, ou fazendo análises mais precisas, encontrando erros e assim por diante.”
