Rede Social X Restringe Edição de Imagens Após Abuso de Ferramenta de IA

A plataforma X, anteriormente conhecida como Twitter, implementou restrições no uso de sua ferramenta de inteligência artificial, Grok, em resposta a um aumento no compartilhamento de imagens íntimas falsificadas. Agora, a edição de imagens está disponível apenas para assinantes do serviço, após diversas denúncias de manipulações indevidas.

Ato de Proteção às Vítimas

As mudanças surgem após usuários reportarem a criação de imagens inapropriadas, incluindo fotografias de mulheres e crianças fantasiadas de nudez ou vestindo roupas íntimas. O Grok, ao ser solicitado para editar imagens, passa a responder que a geração e edição de conteúdo é restrita a assinantes pagantes, fornecendo um link para a página de assinatura.

Uma brasileira, identificada como Giovanna*, compartilhou sua experiência angustiante após descobrir que uma foto sua foi manipulada. "Me sinto suja", disse a vítima sobre a imagem que a mostrava em uma pose de biquíni, embora na original estivesse vestindo calças. As manipulações foram detectadas por meio de buscas no X, onde o usuário identificado como "@endricklamar__" fez a solicitação ao Grok.

A Repercussão das Manipulações

Além do relato de Giovanna*, outros casos também ganharam destaque. A jornalista Julie Yukari denunciou à polícia a utilização de suas imagens para gerar conteúdo similar. Essas situações acenderam dúvidas sobre a eficácia das políticas de proteção de dados e privacidade da plataforma.

A crescente onda de imagens manipuladas levou o Grok a admitir que "falhas nos mecanismos de proteção" contribuíram para a geração de conteúdos sexualizados, especialmente envolvendo menores de idade. As autoridades de países como Reino Unido e França já se mobilizam para investigar a situação, acompanhadas por uma ordem da Comissão Europeia para que o X retenha documentos relacionados ao uso de sua IA até 2026.

Aspectos Legais e Orientações

Conforme a legislação brasileira, a criação e compartilhamento de imagens íntimas de forma não consensual é crime e pode resultar em sanções aos responsáveis. A advogada Patrícia Peck enfatiza a necessidade de responsabilização da plataforma. Embora o Brasil ainda não tenha uma lei específica sobre deepfakes, essa conduta se enquadraria nas ofensas contra a honra, segundo o Código Penal.

O Que Fazer em Caso de Abuso

Se você se tornar uma vítima de manipulação de imagem, algumas medidas podem ser tomadas:

• Preservar provas: Não delete as fotos ou postagens inicialmente. Capture a tela e armazene URLs.
• Registrar a autenticidade: Utilize ferramentas de validação jurídica para garantir que os registros não sejam contestados.
• Denunciar: Utilize os mecanismos da plataforma para notificar o abuso. O Marco Civil da Internet exige a remoção rápida após notificação da vítima.
• Registrar um boletim de ocorrência: Dirija-se a uma Delegacia de Crimes Cibernéticos, munido das provas coletadas.

O X reafirmou seu compromisso em tomar medidas contra conteúdos ilegais e afirmou que qualquer pessoa que utilize a IA para gerar materiais ilícitos enfrentará as mesmas penalidades que quem compartilha esses conteúdos.

*Giovanna é um nome fictício utilizado para proteger a identidade da vítima.

Com informações de: G1