Os partidos europeus de extrema-direita utilizaram imagens geradas por inteligência artificial (IA) para apoiar mensagens políticas, segundo duas novas análises, mas é difícil avaliar o impacto que essas imagens podem ter tido nas recentes eleições francesas e europeias.
A organização sem fins lucrativos AI Forensics analisou as páginas das redes sociais de 31 partidos políticos franceses para determinar se podiam detetar conteúdos gerados por IA (genAI) entre 1 de maio e 28 de junho, durante as eleições europeias e a primeira volta da campanha legislativa em França.
Em seguida, colocaram essas imagens em motores de busca relacionados com IA para verificar se tinham sido criadas por uma ferramenta de IA.
No total, a equipa descobriu 51 casos de imagens geradas por IA utilizadas por partidos franceses, sendo os partidos de extrema-direita Rassemblement National (RN), Reconquête e Les Patriotes os mais implicados, mas os investigadores afirmam que se trata de uma estimativa conservadora.
"Este é o primeiro ciclo eleitoral em que a IA (generativa) foi usada, mas temos a certeza de que nos próximos anos será cada vez mais utilizada", disse Salvatore Romano, investigador da AI Forensics, à Euronews Next.
"Se não formos capazes de gerir isto agora, quando a escala é tão pequena... será mais difícil de gerir quando a tecnologia for indistinguível do conteúdo real", acrescentou.
A extrema-direita do RN venceu a primeira volta das eleições em França, no passado domingo, com 33% dos votos, e as eleições europeias de junho, com 31,5% dos votos.
Onde apareceu o conteúdo da IA
A maior parte das imagens de campanha geradas por IA utilizadas pelos partidos franceses "transmitem mensagens anti-imigração, falta de segurança em França, falta de liberdade de expressão, um sistema judicial deficiente e fracas proteções agrícolas", segundo o relatório da AI Forensics.
"As imagens são usadas como uma técnica de medo para dizer que a França não é segura na UE e que isso ataca as pessoas vulneráveis da nossa sociedade", acrescentou Miazia Schüler, investigadora da AI Forensics.
Estas imagens pareciam muitas vezes "hiper-realistas", em que o utilizador comum podia ver claramente que tinham sido criadas por IA, disse Schüler.
Outras eram subtis, como imitações de caricaturas políticas encontradas nos jornais.
Alguns partidos, como o de extrema-direita Reconquête, também usaram IA generativa para criar imagens do presidente francês Emmanuel Macron e da chefe da Comissão Europeia, Ursula Von Der Leyen.
Durante a campanha para a UE, o RN criou um site intitulado "A Europa sem eles", no período que antecedeu as eleições, que desafiava de forma semelhante as posições de liderança de Macron e Von Der Leyen, de acordo com um estudo do Digital Forensic Research Lab (DFRLabs) do Atlantic Council.
O site, ainda em funcionamento, tem pelo menos três imagens geradas por IA, mostrando petições contra o "desprezo da UE pelos povos, a imigração maciça e a promoção do hijab", segundo o relatório.
Apenas a ponta do icebergue
O investigador do Atlantic Council, Valentin Chatelet, afirmou que é "difícil" saber qual o impacto que este tipo de conteúdo gerado por IA teve no sucesso do RN nas eleições europeias e francesas.
"Penso que está a ter um impacto positivo nos materiais que o partido está a utilizar para transmitir uma determinada ideia, como a posição particular de Bardella sobre uma questão", disse Chatelet.
"As imagens (geradas por IA) também são utilizadas para chocar as pessoas... até se tornarem comuns", acrescentou.
A Euronews Next contactou o Rassemblement NAtional (RN), o grupo Identidade e Democracia, os partidos políticos Patriotas e Reconquête, mas não obteve resposta.
De acordo com a emissora francesa BFMTV, os candidatos do RN têm tido formação em IA, incluindo a utilização do ChatGPT desde janeiro de 2024. No folheto de formação, são dados exemplos de como a IA pode ajudar os candidatos políticos, como criar cartazes de campanha e encontrar argumentos para debates, informou a emissora.
Nem o estudo da AI Forensics nem o DFRLabs do Atlantic Council analisaram as publicações pessoais dos candidatos nem o conteúdo criado pelas bases de fãs dos partidos.
Romano acredita que o seu estudo é "apenas a ponta do icebergue" no que diz respeito à quantidade de conteúdos eleitorais de IA não rotulados que circulam nas plataformas das redes sociais.
"Negligência crítica" das empresas de tecnologia na utilização da IA
O relatório da AI Forensics descobriu que nenhuma das imagens geradas por IA foi rotulada como tal.
"As nossas descobertas revelam negligência crítica em ambos os lados, dos partidos políticos e das plataformas para aderir aos compromissos de rotular imagens geradas por IA nas suas campanhas políticas, destacando a necessidade urgente de transparência", diz o relatório.
As grandes empresas de tecnologia como a Google (NASDAQ:GOOGL), OpenAI, Meta e TikTok assinaram um acordo de tecnologia aberta em fevereiro que "estabelece expectativas sobre a forma como os signatários irão gerir ... conteúdos eleitorais de IA enganosos" nas suas plataformas antes das eleições europeias.
O primeiro compromisso deste acordo é que as plataformas irão "(identificar) imagens realistas geradas por IA e/ou (certificar) a autenticidade do conteúdo e a sua origem", lê-se numa cópia do acordo .
As plataformas também prometeram rever os seus modelos para "compreender os riscos que podem representar" para os conteúdos de IA enganadores.
Alguns partidos políticos assinaram a sua própria versão deste acordo com a Comissão Europeia, onde afirmam estar "empenhados em evitar o engano deliberado do público, incluindo através da utilização de inteligência artificial", lê-se numa cópia do mesmo.
O grupo Identidade e Democracia (ID) do Parlamento Europeu, do qual a RN é membro, assinou este código de conduta. Os outros partidos nacionais franceses não o fizeram.
Romano disse que a AI Forensics vai enviar o seu relatório à Comissão Europeia, na esperança de que haja algum tipo de repercussão contra os partidos por violarem estes códigos de conduta.