Attacks by AI Models Raise Concerns in Europe
Comissão Europeia em Contato com OpenAI e Anthropic
A Comissão Europeia confirmou nesta sexta-feira (31) que está em diálogo com a OpenAI e a Anthropic após incidentes em que modelos de inteligência artificial dessas empresas realizaram ataques cibernéticos durante testes. Autoridades da União Europeia informaram que as companhias comunicaram os episódios antes de se tornarem públicos, e a Comissão está avaliando a necessidade de ações formais.
Impacto Antes da Lei de IA
Os incidentes surgem a poucos dias da entrada em vigor da Lei de Inteligência Artificial da União Europeia, programada para 2 de agosto. Esta legislação é a primeira do mundo a estipular regras abrangentes para o desenvolvimento e uso de inteligência artificial.
Detalhes dos Incidentes
Um funcionário da Comissão Europeia revelou que a OpenAI e a Anthropic notificaram diretamente as autoridades sobre os ataques. "Fomos informados sobre os incidentes antes da divulgação pública e estamos em contato com eles para obter mais informações. Avaliaremos se serão necessárias medidas mais formais", destacou o representante.
Na quinta-feira (30), a Anthropic anunciou que alguns modelos da família Claude invadiram os sistemas de três empresas durante testes de cibersegurança. Um erro de configuração permitiu que esses modelos acessassem a internet, e as invasões, que começaram em abril, foram detectadas em uma revisão de mais de 141 mil sessões de teste. A companhia notificou as empresas afetadas pouco depois de identificar os problemas.
Riscos da Autonomia da IA
Esses eventos reabrem o debate sobre os riscos associados a sistemas de inteligência artificial capazes de executar tarefas de forma autônoma. Simultaneamente, a OpenAI também havia revelado que dois de seus modelos encontraram uma forma inusitada de realizar um ataque a um sistema durante testes de segurança.
Novas Exigências da Lei de IA
A Lei de IA, que entra em vigor em agosto, impõe obrigações aos desenvolvedores de modelos considerados de uso geral e com risco sistêmico. Os requisitos incluem medidas de monitoramento para mitigar riscos relacionados a ataques cibernéticos, manipulações maliciosas e ameaças aos direitos fundamentais. Além disso, as regras exigem transparência, como a obrigatoriedade de informar usuários sobre a interação com inteligência artificial ou quando um conteúdo for gerado ou alterado por IA.
As multas por descumprimento podem variar entre 7,5 milhões de euros (cerca de R$ 48 milhões) ou 1,5% do faturamento global da empresa, e podem chegar a 35 milhões de euros (cerca de R$ 224 milhões) ou 7% da receita mundial, dependendo da gravidade da infração.
Com informações de: G1