Extrema direita e o uso de inteligência artificial

No dia 29 de julho próximo passado, por volta do meio-dia, na cidade de Southport, no noroeste da Inglaterra, um jovem de 17 anos irrompeu numa festa infantil numa escola de dança e ioga, organizada por uma de suas professoras. Armado de faca, o jovem provocou a morte de três crianças, de seis, sete e nove anos, feriu outras oito e mais dois adultos que tentaram protegê-las, inclusive a professora que organizara o evento.

A polícia e ambulâncias acorreram em minutos. Preso em flagrante, o jovem foi identificado como Axel Rudakubana, de 17 anos, cidadão britânico, filhos de pais vindos de Ruanda, na África. Como se tratava de um menor de idade, por motivos legais a polícia não divulgou imediatamente sua identidade.

Na sequência, as especulações mentirosas começaram a circular nas redes sociais.

Em 24 horas proliferaram 27 milhões de acessos a uma mensagem que identificava o assaltante como muçulmano (o que não era verdade) e dava-lhe um falso nome. Outras mensagens o identificavam como um refugiado ilegal, que chegara à Inglaterra de barco, em busca de asilo. “Influencers” e um site identificado como Channel3Now (que depois se desculparia) disseminavam rapidamente tais mensagens. Um destes “influencers” bradava que “a alma do homem ocidental se dilacera quando invasores matam suas filhas”.

Uma outra mensagem – gerada por Inteligência artificial – punha em cena na plataforma X, antes Twitter, a imagem de alguns homens que vestiam trajes supostamente muçulmanos, armados de facas, perseguindo uma criança, tendo o Parlamento Britânico ao fundo, com os dizeres “precisamos proteger nossas crianças”.

De imediato, em Southport uma multidão, segundo a polícia insuflada por gente que não mora na cidade, passou a atacar uma mesquita, entrando em luta com a polícia. Ataques contra mesquitas e centros de acolhimento de refugiados e imigrantes se espalharam por diversas cidades da Inglaterra, inclusive as populosas Londres e Manchester.

O caso chamou a atenção de pesquisadores da relação entre grupos extremistas, sobretudo de extrema direita, e o uso da Inteligência artificial.

Pesquisadores do Middle East Media Research, dos Estados Unidos, chamaram a atenção para seu relatório que mapeia dezenas de casos semelhantes. O relatório mostra  que tais grupos, valendo-se de ferramentas da Inteligência artificial, gravam as vozes e as imagens de artistas, políticos e outras pessoas famosas. Depois disseminam mensagens falsas como se fossem deles, afirmando a supremacia branca e atacando negros, muçulmanos e judeus.

Segundo o pesquisador do grupo NETLab, da Universidade Federal do Rio de Janeiro, grupos extremistas de direita disseminam mensagens com instruções que vão até o ponto de ilustrarem a fabricação de armas a explosivos, sempre com o uso de ferramentas da Inteligência artificial. Na América Latina os alvos preferenciais de tais mensagens têm sido o México, a Colômbia, o Equador e a Argentina.

Os pesquisadores do tema chamam a atenção para o fato de que este uso da Inteligência artificial também se dissemina entre organizações terroristas como o Estado Islâmico e a Al Qaïda.

Na Inglaterra, os ataques arrefeceram depois que grandes manifestações anti-racistas tomaram as ruas de dezenas de cidades britânicas. Pesquisas mostraram que 85% da população rejeitava a violência. Entretanto 42% dos entrevistados reconheciam a legitimidade de manifestações com aquelas motivações, desde que fossem pacíficas.

Publicado originalmente na Radio França Internacional.