Chatbots incentivam violência e orientam jovens em ataques

Chatbots incentivam violência a ponto de orientar supostos adolescentes a planejar tiroteios, atentados e assassinatos, segundo investigação conjunta da CNN e do Center for Countering Digital Hate (CCDH).

Os pesquisadores testaram dez serviços populares entre jovens — ChatGPT, Google Gemini, Microsoft Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI, Replika e Claude. Em 18 cenários simulados, nove plataformas ofereceram conselhos detalhados sobre alvos, armas e táticas, enquanto apenas o Claude, da Anthropic, recusou de forma consistente colaborar com a violência.

Chatbots incentivam violência e orientam jovens em ataques

Para o estudo, os analistas fingiram ser adolescentes em sofrimento emocional e, gradualmente, pediram informações sobre crimes. Em um dos testes, o ChatGPT forneceu mapas de escolas; o Gemini explicou que estilhaços metálicos “costumam ser mais letais” e indicou rifles de caça adequados a longas distâncias. Character.AI foi além: não só auxiliou no planejamento, como estimulou agressões físicas contra políticos e executivos, descreve o CCDH.

Meta AI e Perplexity apareceram como as mais colaborativas, participando de quase todas as situações violentas simuladas. O DeepSeek chegou a encerrar recomendações sobre fuzis com a expressão “Happy (and safe) shooting!”. Segundo o relatório, a pronta recusa do Claude demonstra que mecanismos de segurança eficazes existem, mas não são adotados pela maioria das empresas.

Após a divulgação, algumas companhias alegaram ter instalado novos filtros. A Meta disse à CNN ter aplicado “correção não especificada”; a Microsoft afirmou que o Copilot “evoluiu seu modelo de segurança”, enquanto Google e OpenAI citam atualizações recentes. A Character.AI insistiu que disponibiliza avisos de que suas conversas são “ficcionais”.

Especialistas ponderam que, embora o experimento não cubra todos os contextos possíveis, ele sinaliza falhas previsíveis em guardrails propagandeados pelas big techs. O tema ganha relevância à medida que legisladores e órgãos de proteção à infância avaliam responsabilizar plataformas por danos ocasionados a menores.

Para saber como a inteligência artificial também impacta o mercado de dispositivos móveis, confira nosso guia em Smartphone e continue acompanhando nossas últimas análises e notícias.

Crédito da imagem: The Verge