Homem Processa OpenAI Após Delírios Causados pelo ChatGPT

Um homem entrou com um processo contra a OpenAI afirmando que o uso do ChatGPT intensificou delírios em que acredita ser Jesus Cristo. A ação levanta questões sobre segurança e privacidade em plataformas de inteligência artificial (IA).

Chats do Claude Expostos na Web

Recentemente, uma série de conversas de usuários com o chatbot Claude, desenvolvido pela Anthropic, foram encontradas publicamente disponíveis online. Os diálogos, que incluíam informações pessoais e profissionais, podiam ser acessados por meio de buscas específicas em mecanismos como o Google.

Acesso Não Autorizado e Consequências

Esses registros de bate-papo surgiram após usuários optarem por compartilhar links de suas conversas. Contudo, muitas dessas interações foram indexadas pelos motores de busca, tornando-as acessíveis a qualquer pessoa. A Anthropic reconheceu a falha, mas garantiu que os usuários têm controle sobre o compartilhamento de suas conversas.

Uma porta-voz da empresa afirmou que "os links para as conversas não eram previsíveis ou detectáveis, a menos que as pessoas optassem por compartilhá-los". Ela ainda destacou que ao compartilhar uma conversa, o usuário torna o conteúdo publicamente acessível, podendo ser arquivado por serviços terceiros.

Descoberta e Escopo das Conversas

Usuários do Reddit foram os primeiros a notar que as conversas com o Claude estavam expostas, totalizando mais de 200 interações em pelo menos 25 páginas de resultados de busca. As discussões abrangiam temas variados, desde segurança na nuvem até perguntas sobre como "se tornar a Raposa de Nove Caudas".

Entre os diálogos, havia pedidos para ajuda em currículos que continham dados sensíveis, além de pesquisas aparentemente confidenciais em áreas como saúde.

Reação da OpenAI e Comparações com Outros Chats

A OpenAI enfrentou um desafio similar no ano passado, quando conversas do ChatGPT foram expostas ao público. Naquela ocasião, a empresa reformulou a maneira como os registros eram acessados. O Grok, chatbot do X, plataforma social de Elon Musk, também teve chats disponibilizados publicamente recentemente.

Um porta-voz do Google esclareceu que a empresa não controla quais páginas se tornam públicas e que oferece aos proprietários de sites ferramentas para decidir sobre a indexação de suas páginas.

Medidas para Bloquear Acesso a Conversas

Após a ampla divulgação dos registros de bate-papo do Claude, acredita-se que a Anthropic adotou medidas com ferramentas disponíveis para impedir que os links aparecessem nos resultados de pesquisa do Google. Essa ação é um passo importante para proteger a privacidade dos usuários.

Embora a situação tenha sido contornada no Google, outros mecanismos de busca, como Bing, Brave e DuckDuckGo, que também indexaram conversas do Claude, ainda não se pronunciaram sobre o assunto.

Com informações de: Reuters via BBC.