Pesquisador Abandona Setor de IA e Cita Riscos em Empresas como OpenAI e Anthropic

Um ex-pesquisador de inteligência artificial, Jacob Coxon, decidiu deixar o setor após criticar as práticas da OpenAI e da Anthropic, duas das maiores empresas de tecnologia no desenvolvimento de modelos de IA. Em um desabafo, ele alega que as companhias estão "jogando com as nossas vidas" ao priorizar a criação de sistemas de IA que podem se autoaperfeiçoar.

Críticas à Corrida pelo Desenvolvimento de IA

Coxon, de 27 anos, trabalhou na OpenAI e, mais recentemente, na Anthropic, onde se dedicou ao pré-treinamento de modelos de IA. Essa fase é crucial para a absorção de grandes volumes de dados, mas ele alarmou que as consequências desse avanço podem ser perigosas. "As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar a todos nós até o final da década", disse ele em uma postagem na plataforma X. Para ele, a situação pode sair do controle já em 2024, se nenhuma abordagem cautelosa for adotada.

Riscos de Superinteligência

Coxon destaca o perigo da IA desenvolver suas próprias capacidades sem supervisão adequada. Ele afirma que as empresas não estão agindo de maneira responsável, marchando em direção a uma superinteligência que poderia, teoricamente, superar a inteligência humana. “Elas estão agindo como se a liberdade total de desenvolvimento fosse mais importante do que a segurança”, afirmou.

Apoio Interno e Necessidade de Regulação

Evan Hubinger, um executivo da Anthropic, concordou com Coxon e expressou preocupação semelhante. Ele destacou que a possibilidade de a IA representar uma ameaça real para a humanidade nos próximos dez anos é superior a 10%. Hubinger admitiu que, apesar dos esforços da empresa, ainda não existe um plano robusto que garanta que os sistemas superinteligentes obedecerão a comandos humanos.

Chamado à Regulamentação

A saída de Coxon acontece em um momento delicado, com a Anthropic se preparando para um IPO e lidando com questões relacionadas a invasões não autorizadas durante testes. Em fevereiro, a empresa removeu de sua carta de princípios o compromisso de interromper o desenvolvimento de IA caso os riscos não pudessem ser controlados.

Em um apelo a Washington, mais de mil profissionais de tecnologia, incluindo Dario Amodei, CEO da Anthropic, pediram uma desaceleração coordenada no avanço dos sistemas de inteligência artificial. Em resposta ao crescente clamor por regulamentação, o senador Bernie Sanders e o deputado Greg Casar propuseram um projeto de lei que busca suspender o desenvolvimento de IA até a criação de um órgão regulador federal.

Conclusão

A discussão sobre os riscos e a regulamentação da inteligência artificial continua a ganhar relevância, levantando questões sobre a responsabilidade no desenvolvimento de tecnologias que podem ter um impacto profundo na sociedade. Com empresas como OpenAI e Anthropic na vanguarda, a necessidade de um diálogo global sobre segurança e controle se torna cada vez mais urgente.

Com informações de: Reuters.