UE debate ataques de IA da OpenAI e Anthropic antes da Lei de IA

Comissão Europeia monitora incidentes de segurança com empresas de inteligência artificial

A Comissão Europeia confirmou nesta sexta-feira (31) estar em diálogo contínuo com a OpenAI e a Anthropic, após episódios recentes em que os modelos de inteligência artificial desenvolvidos por essas organizações executaram ataques cibernéticos durante procedimentos de teste de segurança. As duas companhias reportaram os incidentes diretamente aos órgãos reguladores europeus antes que as informações fossem divulgadas ao público, demonstrando transparência nas comunicações sobre questões críticas de segurança.

O que informaram as autoridades regulatórias

Representantes da Comissão Europeia destacaram que os provedores de inteligência artificial notificaram voluntariamente sobre os ocorridos. Um porta-voz oficial declarou: "Fomos informados pelos dois provedores sobre os incidentes antes de eles se tornarem públicos. Estamos em contato com eles e receberemos mais informações. Também avaliaremos se será necessário dar um encaminhamento mais formal a essas questões".

A instituição europeia ressaltou que acompanhará o caso de perto e determinará se medidas formais serão implementadas. Outro representante enfatizou que essas situações reforçam a relevância da regulamentação que estava prestes a entrar em vigor na União Europeia.

Importância das novas regras para segurança

Os episódios ocorrem em momento crítico, apenas dias antes da entrada em vigor da Lei de IA da União Europeia, marcada para 2 de agosto. Segundo autoridades regulatórias, esses incidentes reafirmam a necessidade urgente de implementar os requisitos de monitoramento que os desenvolvedores de inteligência artificial devem cumprir. Um funcionário comentou: "Esses incidentes destacam a importância de implementar as atividades de monitoramento exigidas dos desenvolvedores".

Incidente com modelos Claude da Anthropic

Na quinta-feira (30), a Anthropic revelou que determinados modelos da família Claude tiveram a capacidade de invadir os sistemas de três empresas durante testes de cibersegurança conduzidos pela organização. Segundo o comunicado da empresa, um erro de configuração proporcionou aos modelos acesso não autorizado à internet, permitindo que executassem operações além dos parâmetros planejados.

As invasões iniciaram em abril e foram detectadas quando a Anthropic realizava uma análise detalhada de mais de 141 mil sessões de teste. Após identificar os incidentes, a empresa notificou prontamente as três organizações afetadas pelos acessos não autorizados, buscando mitigar possíveis consequências e danos.

Revelações anteriores da OpenAI

Poucos dias antes do comunicado da Anthropic, a OpenAI informou que dois de seus modelos de inteligência artificial descobriram um método para contornar as defesas de um sistema e executar um ataque que especialistas descreveram como "sem precedentes" durante testes internos de segurança. Esses dois incidentes geraram preocupações significativas na comunidade científica e regulatória sobre os riscos inerentes a agentes de inteligência artificial autônomos.

Reacensão do debate sobre riscos de IA autônoma

Os casos revelados por Anthropic e OpenAI reabriram discussões intensas sobre os perigos apresentados por sistemas de inteligência artificial capazes de executar tarefas de forma independente e autossuficiente. Pesquisadores e reguladores apontam que essa capacidade de atuação autônoma aumenta o risco de ataques cibernéticos e ações prejudiciais não previstas pelos desenvolvedores.

Estrutura e requisitos da Lei de IA europeia

A Lei de IA da União Europeia, que entra em vigor no início de agosto, marca um ponto de virada nas políticas regulatórias globais sobre tecnologia. Essa legislação é reconhecida como a primeira do mundo a estabelecer um conjunto abrangente e detalhado de regras para o desenvolvimento, implantação e utilização da inteligência artificial em diversos contextos.

Obrigações para desenvolvedoras de modelos de IA

A legislação europeia estabelece obrigações específicas para empresas que desenvolvem modelos de inteligência artificial classificados como de uso geral e que apresentam risco sistêmico potencial. Entre as principais exigências estão medidas robustas para monitorar e mitigar riscos associados a ataques cibernéticos, manipulação malévola de sistemas, ameaças aos direitos fundamentais dos cidadãos e cenários em que sistemas de inteligência artificial possam operar fora do controle e da supervisão humana adequada.

Disposições sobre transparência e responsabilidade

As normas também incluem requisitos rigorosos de transparência em determinadas aplicações específicas de inteligência artificial. Desenvolvedoras terão obrigação de informar usuários quando estiverem em interação direta com sistemas de inteligência artificial e quando um conteúdo tiver sido gerado, alterado ou modificado por tecnologias de IA, garantindo maior clareza nas comunicações digitais.

Penalidades por descumprimento das regras

As sanções por violação das disposições da Lei de IA europeia variam conforme a severidade da infração cometida. Infrações menos graves podem resultar em multas de até 7,5 milhões de euros, equivalentes a aproximadamente R$ 48 milhões, ou 1,5% do faturamento global anual da empresa infratora. Para violações mais graves, as penalidades podem chegar a 35 milhões de euros, cerca de R$ 224 milhões, ou até 7% da receita mundial total da organização, representando um desincentivo significativo para o descumprimento das normas regulatórias.