Depois que os vencedores regionais do Commonwealth Short Story Prize foram anunciados, os leitores expressaram suas suspeitas de que uma das histórias foi, pelo menos parcialmente, criada por inteligência artificial (IA). A editora literária britânica Granta publicou online o texto “A Serpente no Bosque”, do autor de Trinidad Jamir Nazir, o que gerou uma discussão nas redes sociais sobre a formulação distinta da IA. O incidente agora confronta o júri e o editor com a questão de como lidar com o possível texto de IA.
Leia mais depois do anúncio
A Commonwealth Foundation concede prêmios literários todos os anos para promover escritores desconhecidos em todo o mundo. A revista literária Granta, que costuma publicar obras de escritores renomados, apresenta o texto vencedor em seu site. No entanto, a editora deixa claro na sua declaração que os próprios editores não estão envolvidos na seleção do júri ou na determinação das histórias vencedoras.
Os leitores reconhecem várias estruturas de texto em histórias que são comuns em modelos de linguagem de máquina. Os usuários das redes sociais reconhecem o uso de comparações e frases inusitadas. O texto também contém um paralelismo negativo chamado “não X, mas Y”, que é considerado uma característica estilística típica de texto gerado por IA.
Perguntas do editor do modelo de IA
Depois que as denúncias se tornaram conhecidas, Sigrid Rausing, editora da Granta, confrontou o modelo de linguagem Claude, da empresa de tecnologia Anthropic, com o conto. O modelo concluiu que o texto “quase certamente não foi desprovido de ajuda humana”, mas identificou passagens centrais que foram supostamente feitas por humanos. Neste contexto, Rausing aponta a ironia de que a própria inteligência artificial é a ferramenta mais eficiente para descobrir texto gerado por máquina.
O diretor da Commonwealth Foundation, Razmi Farook, defendeu o processo de seleção da fundação ao New York Times (NYT). Ele alertou as organizações para não responderem com uma “reação de curto-circuito à histeria pública sobre o assunto”. A fundação também deve exercer o dever de diligência contra autores que raramente publicaram antes, cujas acusações infundadas podem levar a graves consequências pessoais.
Limitação do software de detecção
Leia mais depois do anúncio
Alguns leitores tentam provar as suas suspeitas com software de reconhecimento como o Pangram, que teria classificado o texto como inteiramente gerado por máquina. “Os detectores de texto de IA cometem muitos erros, especialmente na escrita criativa que usa construções incomuns”, mas o New York Times citou Nicholas Andrews, cientista da computação da Universidade Johns Hopkins. Essa peculiaridade da literatura muitas vezes não é incluída nos dados de treinamento dos sistemas de reconhecimento, disse ele.
Jack Grieve, professor de linguística da Universidade de Birmingham, também destacou os riscos do programa para o NYT. Sem levar em conta a variação de dialeto, tema ou gênero, os resultados da análise não são confiáveis. Para ele, depois de ler ele mesmo, o conto não foi criado pela IA nem escrito por humanos.
O problema do reconhecimento de texto por máquina há muito atormenta a indústria de IA e vai além deste caso individual. No passado, grandes fornecedores como a OpenAI tiveram que parar os seus próprios detectores de IA devido a resultados imprecisos. Até que a Commonwealth Foundation tome uma decisão oficial, Granta deixará o conto online com um aviso editorial apropriado.
(correto)
