EUA e China propõem controle de IA para segurança nuclear

Especialistas de EUA e China propõem medidas de segurança de IA em sistemas nucleares

Um cenário crítico preocupa especialistas em segurança dos Estados Unidos e China: um sistema de inteligência artificial que interfira na rede de comando nuclear ou execute operações militares digitais poderia deixar Washington ou Pequim com apenas alguns minutos para determinar se o outro governo foi responsável pelo ataque. Para enfrentar esse risco, pesquisadores dos dois países apresentaram recomendações sobre segurança de IA em sistemas nucleares que buscam evitar interpretações equivocadas e escaladas desnecessárias.

Os especialistas, que participam de um diálogo oficial entre EUA e China sobre inteligência artificial e segurança nacional, recomendam que ambos os governos se preparem para cenários envolvendo sistemas cada vez mais poderosos e autônomos. As propostas foram publicadas antes de negociações oficiais e de uma reunião marcada para 24 de setembro, em Washington, entre o presidente dos Estados Unidos, Donald Trump, e o presidente chinês, Xi Jinping.

Propostas principais para o controle de sistemas de IA autônoma

As recomendações incluem três componentes essenciais: limites rígidos para sistemas nucleares, controle humano sobre ataques digitais de grande impacto e uma linha direta para incidentes envolvendo IA autônoma. Melanie Sisson, pesquisadora sênior da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, participaram do diálogo EUA-China sobre IA e segurança nacional, iniciado em 2019 pela Brookings e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua.

A rivalidade entre EUA e China em inteligência artificial ultrapassa a disputa por chips e modelos avançados. Ela abrange também temas tradicionais de controle de armas, como evitar que acidentes sejam confundidos com ataques, limitar decisões militares automatizadas e estabelecer protocolos de comunicação entre potências nucleares quando a tecnologia apresenta comportamento inesperado. O ministro da Segurança do Estado da China, Chen Yixin, destacou nesta semana que a IA "transforma fundamentalmente a forma da luta militar", deixando de ter papel coadjuvante no campo de batalha para ocupar posição central.

Controle humano como linha vermelha na segurança de IA

Segundo Sisson, apenas seres humanos devem ter autoridade para iniciar ataques digitais com uso de IA contra sistemas de comando, controle e comunicação nucleares de outro país ou infraestruturas estratégicas. Um sistema autônomo poderia falhar, extrapolar suas instruções ou ser comprometido, criando ambiguidade sobre se a ação foi acidental ou deliberada.

Jiang propôs limites explícitos para impedir que a inteligência artificial decida de forma independente sobre o uso de armas nucleares ou ataque autonomamente sistemas de comando nuclear. Ele também defendeu proteções para infraestruturas críticas, como energia, finanças e saúde, além de uma definição comum de "controle humano significativo" para evitar que os dois países usem a mesma linguagem para justificar diferentes níveis de autonomia das máquinas.

A proposta se fundamenta em um princípio endossado pelo então presidente dos EUA, Joe Biden, e por Xi Jinping em novembro de 2024: o de que seres humanos devem manter controle sobre decisões de uso de armas nucleares. Lora Saalman, pesquisadora sênior associada do Instituto Internacional de Pesquisa para a Paz de Estocolmo, observou que esse princípio representa importante convergência entre EUA e China, apesar de sinais de que ambos os países integram crescentemente a IA a sistemas nucleares e relacionados à energia nuclear.

Linha direta militar para incidentes de IA autônoma

Jiang também propôs uma linha direta militar exclusiva entre EUA e China para incidentes envolvendo inteligência artificial. De acordo com o pesquisador, as trocas digitais automatizadas podem se intensificar rapidamente, reduzindo o tempo disponível para intervenção humana. A IA defensiva de um país poderia responder automaticamente a atividades suspeitas, enquanto o outro lado poderia interpretar a reação como ataque e retaliar antes de compreender o que realmente aconteceu.

Uma linha direta permitiria que um governo informasse ao outro que uma operação incomum de IA foi acidental, não autorizada ou ainda estava sob investigação, evitando que fosse tratada como ação estatal deliberada. Porém, especialistas questionam a utilidade prática dessa medida. Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, cita a recusa de autoridades chinesas em atender ligações de homólogos norte-americanos sobre o "incidente do balão espião" em fevereiro de 2023.

A rígida hierarquia da burocracia chinesa também impede que oficiais de baixo escalão tomem iniciativa em interações com correspondentes norte-americanos. Freeman afirmou que "ninguém no sistema chinês quer se comunicar com os Estados Unidos até que a alta liderança, em consulta com atores relevantes dentro do partido-Estado chinês, tenha decidido sobre uma resposta, o que pode levar dias, se não mais".

Posicionamento de Washington e Pequim

Nenhum dos dois governos endossou publicamente as propostas da Brookings-Tsinghua sobre segurança de IA em sistemas nucleares. Contudo, a China vem incorporando crescentemente inteligência artificial à sua estrutura de controle de armas. A IA é área de atuação formal do Departamento de Controle de Armas do Ministério das Relações Exteriores chinês, responsável também por questões nucleares, não proliferação e segurança internacional.

Shen Jian, embaixador da China para assuntos de desarmamento, afirmou em reunião da ONU em Genebra, em junho, que a IA militar pode afetar a estabilidade estratégica, aumentar riscos de erros de cálculo e ampliar risco de escalada de conflitos, defendendo que armas devem permanecer sob controle humano. A China também argumenta que a segurança de IA não deve servir de pretexto para criação de barreiras tecnológicas.

Washington não possui órgão único equivalente para tratar controle de armas relacionado à inteligência artificial. A política de segurança nacional é dividida entre o Conselho de Segurança Nacional da Casa Branca, Departamento de Estado, Pentágono e outras agências. Ambos os governos mantêm cautela em relação a medidas que possam desacelerar desenvolvimento tecnológico. Trump alertou que restrições amplas poderiam favorecer a China, enquanto Pequim considera muitos controles tecnológicos norte-americanos uma tentativa de preservar liderança estadunidense.