Como podemos agir contra a violência digital? Um tema que tem sido discutido recentemente principalmente por causa do caso de Collien Fernandes. No artigo da ARD “Collien Fernandes: FCK Deepfakes!” falou sobre sua experiência.
Collien Fernandes (44) trabalha há anos com a organização não governamental “HateAid” para fazer campanha por leis mais fortes contra a violência digital – também porque ele próprio foi afetado. Há mais de dez anos, alguém se passava por Fernandes na internet, escrevia e chamava os homens pelo nome e enviava fotos e vídeos.
Antes mesmo de o homem de 44 anos tornar público o seu caso, ele falou no documentário da ARD “Collien Fernandes: F*CK Deepfakes!” com Eckart von Hirschhausen (58) sobre suas próprias experiências – e o que mais o ajudou.
Collien Fernandes sobre roubo de identidade: “Senti-me tão sozinho”
Os jornalistas científicos são frequentemente vítimas de fraudes elaboradas online. Seu rosto e voz são usados para anunciar on-line vários preparativos e supostos milagres médicos – sem que o próprio Hirschhausen tenha nada a ver com eles.
Fernandes, visivelmente afetado, diz ao homem de 58 anos: “Não sei como você se sente. Me senti tão sozinho”. Além do abuso em si, o impacto no seu ambiente profissional também foi estressante. Ele acabou sendo abordado por homens da indústria sobre a discussão sem saber “do que se tratava”.
Ele lembra: “Aí ele me mostra a foto e eu penso: incrível. Isso é incrível!” O remetente também “enviou uma história” em seu nome descrevendo o assédio sexual de Fernandes. Os detalhes eram “muito detalhados”. “Parece invasivo – e você também sabe que isso acontece no meu ambiente profissional.”
Collien Fernandes tem vídeo falso criado no reality ARD
Hirschhausen é afetado. Ele quer saber como o incidente afetou as interações de Fernandes com as pessoas ao seu redor. Ele teme que “já não se saiba: quem é amigo e quem é inimigo?” Collien Fernandes concorda, “porque você não sabe quem fez tudo”. “Isso faz com que você ande muito desconfiado”, admite o apresentador, que até sentiu “um pouco de paranóia” por conta disso.
Quando questionado sobre o que o ajudou, ele respondeu: “Pessoas”. – “Sem essas pessoas reais, na vida real, que conseguiram me manter no lugar, eu provavelmente estaria deprimido.”
O documentário também mostra como é fácil criar informações detalhadas. Junto com a artista de IA Paula Eßwein, Collien Fernandes, que sofre com a polêmica após o anúncio da Elmen, preparou um vídeo promocional falso. Eles usam uma imagem e um pequeno arquivo de áudio como entrada para o programa. “Finalmente, como os modelos de IA já possuem muitos dados de entrada nos quais foram treinados, agora eles só precisam da sua imagem”, explica Eßwein. Para uma verdadeira manipulação de áudio, normalmente são necessários apenas “dez segundos de material de áudio”.
Collien Fernandes sobre IA dupla: “Muito assustador”
Quando Collien Fernandes e Eßwein querem criar uma trilha sonora para a voz do locutor, o especialista de repente tem dúvidas: “E agora temos um caso que eu mesmo não esperava”. O sistema pode ter uma medida de segurança adicional que exige a verificação dos votos a partir de estatísticas públicas. Como medida preventiva adicional. Este não foi o caso de Collien Fernandes. “Mas isso também mostra que não está funcionando”, diz ele.
O resultado é um clipe publicitário enganoso em que Collien Fernandes fala sobre drogas. Vendo sua IA duplicada, o apresentador exclama: “Levantando uma sobrancelha, acho isso muito verossímil. Ao mesmo tempo, ele fica triste com a facilidade com que esses vídeos podem ser criados com pouco esforço: “É assustador como você pode criar vídeos promocionais que podem ser transmitidos apenas com imagens e um pouco de linguagem e colocar tudo na minha boca”.
