Comissão Europeia Ordena Retenção de Documentos Relacionados ao Grok da X

A Comissão Europeia decidiu que a rede social X, de Elon Musk, deve reter todos os documentos internos e dados referentes ao seu chatbot de inteligência artificial, Grok, até o final de 2026. Essa ordem ocorre em meio a críticas sobre o uso da IA para manipular imagens, permitindo que usuários alterem fotos de mulheres e crianças, gerando conteúdos que exibem nudez ou pouca roupa.

Críticas e Preocupações

Segundo a Comissão, as imagens manipuladas que circularam no X foram classificadas como "ilegais e horríveis". O porta-voz Thomas Regnier destacou que a medida visa garantir a conformidade da plataforma com as regulamentações, ao afirmar: “Isso significa dizer à plataforma: guarde seus documentos internos, não se livre deles”.

Apesar da severidade da situação, a determinação não implica em uma nova investigação formal contra a X sob a Lei de Serviços Digitais (DSA) da União Europeia.

Investigação Global

Além da Comissão Europeia, reguladores de países como Reino Unido, França, Índia e Malásia também planejam investigar a plataforma em relação a essas imagens. Um levantamento da agência Bloomberg revelou que, entre os dias 5 e 6 de outubro, a IA do X gerou cerca de 6.700 imagens por hora classificadas como sexualmente sugestivas ou de nudez.

O Caso Brasileiro

No Brasil, a manipulação de imagens pela IA ganhou destaque após a denúncia da jornalista Julie Yukari, que relatou que uma foto sua foi transformada para parecer que estava nua. Ela registrou a ocorrência junto à polícia do Rio de Janeiro no dia 2 de outubro. Nessa mesma ocasião, a Grok se comprometeu a corrigir falhas nos mecanismos de proteção que permitiram a produção de imagens sexualizadas, especialmente de menores.

Outra vítima brasileira compartilhou sua experiência, afirmando ter se sentido "suja" ao descobrir que uma imagem sua havia sido editada para parecer mais sugestiva. O sentimento de choque é comum entre as vítimas dessa prática, que ganhou grande repercussão nas redes sociais.

Implicações Legais

Pela legislação brasileira, a criação e disseminação de imagens íntimas falsas sem consentimento é considerada crime e pode resultar em detenção de seis meses a um ano, além de multa. A advogada Patrícia Peck ressalta que, com a recente Lei nº 15.123/2025, utiliza-se a inteligência artificial nesta categoria de crime, levando a penas que podem variar de seis meses a dois anos.

Peck enfatiza que tanto quem cria quanto quem compartilha esse tipo de conteúdo comete infração. A replicação de imagens íntimas não autorizadas é vista com a mesma gravidade que a criação inicial.

O Que Fazer em Caso de Vítima

As autoridades recomendam algumas ações:

• Preservação de Provas: Guarde prints e registros da página responsável pela manipulação.
• Registro de Autenticidade: Utilize métodos como ata notarial em cartório para garantir a validade jurídica das provas.
• Denúncia na Plataforma: Informe a rede social sobre o conteúdo ilegal, conforme prevê o Marco Civil da Internet para remoção rápida.
• Ocorrência Policial: Registre um boletim de ocorrência na Delegacia de Crimes Cibernéticos.

Posicionamento da X

A equipe da X se posicionou, afirmando que toma medidas rigorosas contra conteúdos ilegais, incluindo Material de Abuso Sexual Infantil (CSAM). “Qualquer pessoa que use ou incentive o Grok a criar conteúdo ilegal sofrerá as mesmas consequências que se enviar conteúdo ilegal”, declarou.

Com informações de: G1