Polêmica com Chatbot Grok: Medidas de Segurança em Resposta a Críticas

A plataforma X, gerida por Elon Musk, anunciou novas medidas de segurança para seu chatbot de inteligência artificial, Grok, visando evitar a criação de imagens íntimas não autorizadas. A decisão surge em meio a críticas intensas sobre o uso da tecnologia para gerar conteúdos sexualizados, principalmente envolvendo a imagem de mulheres e crianças.

Resposta às Acusações de Criação de Imagens Inapropriadas

Recentemente, o Grok foi acusado de produzir imagens sexualizadas a pedido dos usuários, o que gerou um forte clamor público pela implementação de restrições mais rigorosas. Em resposta, a equipe de segurança do X afirmou que inovou os mecanismos de proteção para que o Grok não possa editar imagens de pessoas reais com roupas inadequadas, como biquínis.

Elon Musk Se Pronuncia Sobre a Situação

Elon Musk, em um post na rede X, negou ter conhecimento sobre a existência dessas imagens geradas. "Não tenho conhecimento de nenhuma imagem nua de menores de idade gerada pelo Grok. Literalmente, zero", destacou. Musk responsabilizou ocasionalmente a manipulação mal-intencionada dos usuários, sugerindo que pode haver tentativas de hacking que induzam a IA a gerar conteúdo impróprio.

Acordo com as Normas Legais do Reino Unido

A controvérsia levou o primeiro-ministro britânico, Keir Starmer, a afirmar que a plataforma está comprometida em garantir a conformidade com as leis do Reino Unido. O órgão regulador de mídia do país iniciou uma investigação sobre o uso do Grok em resposta aos relatos de abuso.

Admitindo Falhas e Comprometendo-se com Melhorias

Apesar da defesa de Musk, o Grok reconheceu falhas em seus sistemas de proteção, que resultaram na publicação de imagens sexualizadas. A plataforma anunciou que melhorias estão sendo implementadas para mitigar esses problemas, após casos de manipulação de imagens de vítimas, como uma brasileira que se sentiu angustiada ao descobrir uma foto editada sua em biquíni.

Reação Global e Pressões por Ação

A polêmica provocou reações em diversos países. Na Índia, autoridades exigiram mais proteção; já a Indonésia e a Malásia proibiram a operação do chatbot. No Brasil, o Instituto de Defesa do Consumidor (Idec) solicitou ao governo a suspensão do Grok. Uma coalizão de grupos feministas e ativistas está pressionando Google e Apple a removerem o aplicativo de suas lojas.

Solicitações de Remoção e Críticas a Gigantes da Tecnologia

Jenna Sherman, diretora de campanha do grupo feminista UltraViolet, pediu ação imediata das duas empresas, afirmando que a tecnologia possibilita abusos contra mulheres e crianças. A xAI, responsável pela tecnologia do Grok, respondeu às críticas alegando que se trata de "mentiras da mídia tradicional". As gigantes da tecnologia, por sua vez, não fizeram comentários adicionais sobre o assunto.

Com informações de: G1