Claude, da Anthropic, Realiza Ataques Virtuais Durante Testes de IA

A Anthropic anunciou nesta quinta-feira (30) que seu assistente de inteligência artificial, Claude, foi responsável por ataques virtuais contra três empresas durante fases de teste. O incidente ocorreu devido a um erro de configuração que permitiu que a IA tivesse acesso à internet. A revelação surge poucos dias após a OpenAI, criadora do ChatGPT, informar que dois de seus modelos de IA lograram acessar um sistema, resultando em um ataque “sem precedentes”.

Análise de Sessões de Teste

Após a identificação dos incidentes, a Anthropic revisou mais de 141 mil sessões de teste, iniciando o processo após a divulgação do problema com modelos da OpenAI. Segundo a empresa, a IA Claude comprometeu a infraestrutura das organizações afetadas utilizando métodos básicos, como a exploração de senhas fracas e pontos de acesso não autenticados.

Ataques Iniciados em Abril

De acordo com a Anthropic, as invasões ocorreram a partir de abril e envolveram o Claude Opus 4.7, o Claude Mythos 5 e um terceiro modelo focado em pesquisa. Durante os testes, as IAs foram orientadas a buscar informações ocultas em redes simuladas, embora os comandos informassem que não teriam acesso à internet. Um mal-entendido com a empresa parceira Irregular acabou permitindo a conexão dos sistemas.

Medidas Tomadas pela Anthropic

A Anthropic comunicou que as avaliações foram suspensas no dia 23 de julho, ao descobrir indícios de que o Claude havia acessado a internet. A empresa identificou os três incidentes até o dia 24 de julho e notificou as empresas afetadas em 27 de julho. É importante destacar que duas das organizações atingidas não estavam cientes das atividades indevidas antes de serem alertadas, enquanto a Anthropic ainda tentava contatar a terceira empresa.

Com informações de: G1