Adolescentes Processam xAI por Geração de Imagens Pornográficas

Três adolescentes entraram com uma ação coletiva contra a xAI, a empresa de inteligência artificial (IA) de Elon Musk, acusando o chatbot Grok de criar imagens pornográficas a partir de fotos reais delas. O caso destaca os perigos da proliferação de deepfakes envolvendo mulheres e crianças, um tema que gerou grande preocupação e indignação mundial.

Acusações de Proliferação de Deepfakes

A ação é resultado de uma crescente onda de deepfakes, especialmente no fim de 2025, quando imagens sexualizadas de mulheres e crianças começaram a circular em redes sociais. Essas imagens, segundo as advogadas das autoras, foram geradas pelo Grok e compartilhadas em plataformas como X, Discord e Telegram, antes de serem levadas para a dark web, onde serviam como moeda de troca para conteúdos de pornografia infantil.

Impactos Psicológicos nas Vítimas

Os efeitos adversos da situação foram devastadores para as adolescentes envolvidas. A mãe de uma das jovens, residente no Tennessee, relatou que sua filha enfrentou um ataque de pânico ao descobrir que imagens sua haviam sido criadas e divulgadas sem consentimento. “Ver a minha filha passar por isso foi horrível”, afirmou a mãe em um comunicado. Outras autoras da ação relataram pesadelos recorrentes e dificuldade para dormir, além de medo de comparecer à própria cerimônia de formatura.

Criticas à xAI e ao Grok

As advogadas alegam que a xAI "projetou deliberadamente o Grok para produzir conteúdo sexualmente explícito com fins lucrativos", destacando a falta de proteções que outras empresas de IA implementaram para prevenir a disseminação de pornografia infantil. Um estudo do Center for Countering Digital Hate revelou que, em apenas 11 dias, o Grok gerou cerca de 3 milhões de imagens sexualizadas, das quais 23.000 envolviam menores de idade.

Resposta da xAI e Mudanças de Política

Em resposta às críticas e ao escândalo, a xAI anunciou uma restrição ao acesso do Grok, limitando a geração de imagens a assinantes a partir de janeiro. Essa medida visa mitigar a utilização inadequada da tecnologia, embora as advogadas das vítimas afirmem que isso não é suficiente diante da gravidade do problema.

A ação continua a ser investigada, enquanto o debate sobre a ética e a segurança das tecnologias de inteligência artificial ganha cada vez mais destaque.

Com informações de: G1.