Na Coreia do Sul, equipas especiais estão a monitorizar conteúdos gerados por IA nas redes sociais antes das eleições locais de 3 de junho. Face a tecnologias cada vez mais realistas e de produção rápida, o governo mobilizou centenas de operadores para detetar e prevenir a desinformação.
Num clássico escritório sul-coreano, os funcionários travam uma guerra sofisticada: monitorizam conteúdos nas redes sociais gerados por inteligência artificial que lançam uma sombra de desinformação sobre as próximas eleições locais.
Os especialistas temem que modelos de inteligência artificial (IA) ainda mais sofisticados e baratos estejam alimentando a desinformação em massa online. Os receios são particularmente agudos porque a IA foi adoptada de forma particularmente rápida na Coreia do Sul.
Em resposta a este fenómeno, o governo mobilizou centenas de operadores para identificar e bloquear conteúdos suspeitos antes das eleições locais de 3 de junho. Mas alguns policiais de IA parecem uma batalha perdida.
“Vemos a rapidez com que esta tecnologia evolui: cada nova versão da IA torna os vídeos e as gravações de áudio mais realistas”, observa Choi Ji-hee, que lidera a luta contra a desinformação na Comissão Eleitoral Nacional (NEC) em Gwacheon, sul de Seul.
“Nossa tarefa está se tornando cada vez mais difícil”, disse ele à AFP. Um dia típico para sua equipe de cerca de vinte pessoas: navegando no Instagram, YouTube e outras redes sociais, mas também em fóruns online e sites de gestores locais, em busca de conteúdo gerado por IA.
O software desenvolvido pelo Estado para terceirizar IA oferece, segundo os responsáveis, cerca de 92% de precisão, com sofisticada análise de conteúdo nas mãos de especialistas.
O software desenvolvido pelo Estado para terceirizar IA oferece, segundo os responsáveis, cerca de 92% de precisão, com sofisticada análise de conteúdo nas mãos de especialistas.
Suas descobertas revelam grande criatividade: uma reportagem falsa na TV de que um candidato a prefeito está incluído no ranking de figuras políticas em ascensão da revista Time, ou uma música K-pop que elogia um político e zomba de seus rivais. Ambos frutos da IA.
Em um canto do escritório, os funcionários trocam conselhos sobre como dissecar um vídeo suspeito: extrair o áudio, os quadros-chave, os rostos e o fundo separadamente… Não muito longe dali, o analista de dados Kim Ma-ru ajuda a equipe de Choi Ji-hee a descobrir rapidamente onde, quando e por quem o conteúdo falso foi transmitido.
“O jogo da toupeira”
As eleições de 3 de junho são o terceiro grande referendo organizado na Coreia do Sul desde 2023, quando reforçou uma lei contra o uso de deepfakes. De acordo com estatísticas governamentais, mais de 45% dos sul-coreanos utilizam IA generativa. De acordo com a OpenAI, controladora do ChatGPT, o país tem os assinantes do serviço que mais pagam fora dos EUA.
Jung Hui-hun, especialista em análise forense digital da Comissão Eleitoral, disse: “Em um período muito curto de tempo, tornou-se difícil para os eleitores distinguir entre o que é real e o que não é.
Antes das eleições presidenciais de 2025, o serviço de verificação digital da AFP identificou um vídeo gerado por IA simulando a greve de fome do eventual eleito Lee Jae-myung. Caçar falsificações criadas pela IA é “um trabalho exaustivo que às vezes nos lembra o jogo do golpe na toupeira”, onde as toupeiras surgem quando tentamos removê-las com um martelo, garantiu Kim Ma-ru à AFP.
Mas é “um dever cívico”, sublinha o analista. O trabalho também foi exposto: Choi Ji-hee e Kim Ma-ru recusaram-se a filmar devido ao assédio online contra eles e seus colegas. Na Coreia do Sul, a desinformação é alimentada e alimentada por várias teorias da conspiração, por vezes com resultados dramáticos.
Em dezembro de 2024, o ex-presidente Yoon Suk-yeol justificou uma tentativa de impor a lei marcial com acusações de extrema direita de alegada pirataria eleitoral. Ele foi condenado à prisão perpétua. Em caso de violação, os infratores reincidentes que criam conteúdo abusivo podem pegar até sete anos de prisão e pesadas multas.
“Essas regras podem parecer excessivas”, observa Kim Myuhng-joo, chefe do Instituto Coreano de Segurança de IA, mas “surgiu um consenso entre o público de que são necessárias regulamentações mais rigorosas”. Para Jung Hui-hun, o sistema estatal apresenta “muitas limitações”. Mas “estamos progredindo lenta mas seguramente”.
