Teens processam xAI de Elon Musk por imagens de abuso

Teens processam xAI de Elon Musk, acusando o chatbot Grok de criar e disseminar material de abuso sexual infantil (CSAM) envolvendo imagens e vídeos de três adolescentes do Tennessee.

A ação coletiva, protocolada na segunda-feira (16), sustenta que Musk e executivos da empresa lançaram o “spicy mode” do Grok cientes de que o recurso poderia gerar conteúdos ilegais. O processo inclui dois menores de idade e uma jovem que era menor quando os fatos ocorreram.

Teens processam xAI de Elon Musk por imagens de abuso

De acordo com a petição, uma das vítimas – identificada como Jane Doe 1 – descobriu em dezembro que pelo menos 18 menores apareciam em imagens explícitas criadas por IA e publicadas no Discord. Cinco desses arquivos, quatro fotos e um vídeo, exibiam seu rosto e corpo inseridos em poses sexuais em cenários reconhecíveis.

O autor das montagens, já preso, teria usado o CSAM gerado no Grok para negociar conteúdo semelhante em grupos do Telegram com centenas de usuários. Os advogados afirmam que a xAI não realizou testes suficientes de segurança e que o modelo apresenta “defeito de concepção”.

A enxurrada de deepfakes envolvendo adultos e menores levou a X (antigo Twitter) a prometer restrições, mas apurações do site The Verge mostram que ainda é possível manipular imagens na plataforma. Segundo a empresa, usuários flagrados solicitando material ilegal ao Grok receberão punições equivalentes às aplicadas a quem faz upload do conteúdo ilícito. A reportagem original pode ser lida em The Washington Post.

Paralelamente, governos e legisladores intensificaram a pressão regulatória. A União Europeia abriu investigação, o Reino Unido emitiu alerta e, nos EUA, o Senado aprovou em janeiro um projeto que permite a vítimas de deepfakes processar os criadores. Já o Take It Down Act, sancionado em 2025, criminalizará a distribuição de deepfakes não consensuais a partir de maio.

As vítimas pedem indenização e uma ordem judicial que impeça o Grok de gerar novas imagens ilegais. “Essas crianças tiveram fotos da escola transformadas em abuso sexual por uma ferramenta de uma empresa bilionária”, declarou a advogada Annika K. Martin, que promete responsabilizar a xAI por cada menor afetado.

Quer saber mais sobre segurança online? Visite nossa seção de Smartphones para conferir dicas e atualizações. Continue acompanhando nossas últimas notícias.

Crédito da imagem: The Verge