Pesquisador abandona IA após alertas sobre riscos existenciais

Pesquisador abandona setor de IA alertando sobre riscos existenciais

Um cientista britânico que trabalhou nos principais laboratórios de desenvolvimento de inteligência artificial decidiu deixar o setor após denunciar que os riscos da IA são ignorados pelas empresas. Jacob Coxon, de 27 anos, passou três anos desenvolvendo modelos de IA na OpenAI e posteriormente na Anthropic, mas resolveu sair da indústria por preocupações genuínas sobre o futuro da tecnologia.

Os riscos da IA, segundo Coxon, envolvem cenários onde sistemas podem se autoaperfeiçoar sem controle humano adequado. Em declaração publicada nas redes sociais, o pesquisador afirmou que profissionais da área acreditam sinceramente na possibilidade de a inteligência artificial causar danos catastróficos.

Advertências internas sobre superinteligência

Coxon trabalhou especificamente no pré-treinamento de modelos de IA, etapa fundamental onde os sistemas absorvem volumes massivos de dados para desenvolvimento de capacidades. Durante sua trajetória profissional, teve acesso a informações internas sobre as limitações dos sistemas e os desafios de segurança enfrentados pelas organizações.

"As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar a todos nós até o final da década", declarou o pesquisador em publicação na plataforma X. A afirmação gerou repercussão significativa no setor e foi posteriormente validada por executivos da Anthropic.

De acordo com conversas com o Wall Street Journal, Coxon indicou que em cenários mais agressivos de desenvolvimento, a situação poderia sair do controle ainda em 2025. O principal risco identificado é a transição para o autoaperfeiçoamento recursivo, momento em que sistemas de IA poderiam treinar e melhorar versões futuras com intervenção humana mínima ou nula.

Corrida corporativa versus responsabilidade

A crítica central de Coxon é que nenhuma empresa de IA age com a responsabilidade necessária para lidar com tecnologias potencialmente perigosas. Segundo o pesquisador, as organizações correm em direção ao desenvolvimento de superinteligência capaz de se autoaperfeiçoar, colocando em risco os próprios seres humanos.

"Nenhuma das empresas age de forma responsável. Elas correm diretamente em direção a uma superinteligência capaz de se autoaperfeiçoar e jogam com as nossas vidas", afirmou Coxon em entrevista oficial. A superinteligência refere-se ao ponto teórico onde as capacidades de sistemas de IA ultrapassam significativamente a inteligência humana em todos os aspectos.

Apesar de reconhecer esforços genuínos da Anthropic em questões de segurança, Coxon acredita que a empresa também está presa em uma dinâmica competitiva insustentável. A organização opera sob a premissa de que, se não desenvolvesse a tecnologia rapidamente, concorrentes menos cautelosos dominariam o mercado com consequências ainda piores.

Posicionamento de executivos da Anthropic

Evan Hubinger, executivo responsável pela segurança na Anthropic, apoiou publicamente as declarações de Coxon sobre os riscos da IA. Hubinger afirmou que a organização genuinamente acredita na possibilidade de sistemas de inteligência artificial causarem danos existenciais à humanidade.

"Nós realmente acreditamos, de forma sincera, que a IA pode matar todos os humanos", disse Hubinger. Segundo o executivo, as probabilidades de um evento catastrófico nesta década ultrapassam 10%, uma avaliação alarmante vinda de dentro da própria empresa desenvolvedora.

Hubinger reconheceu que a Anthropic está "fazendo o possível" para mitigar riscos, porém não possui um plano definitivo capaz de garantir obediência de um sistema de IA superinteligente aos seus criadores. O executivo ressaltou, entretanto, que o risco com os modelos atuais permanece relativamente baixo, embora a trajetória de desenvolvimento seja preocupante.

Contexto de mudanças na empresa

A saída de Coxon ocorre em momento estratégico para a Anthropic, que se prepara para sua estreia no mercado de ações. O período anterior foi marcado por incidentes significativos, incluindo invasões não autorizadas realizadas por ferramentas de IA durante fases de testes, reforçando preocupações sobre controle e segurança.

Líderes da indústria de IA confirmam que o autoaperfeiçoamento recursivo está se aproximando como realidade próxima. Este estágio representaria o ponto onde sistemas poderiam projetar e treinar gerações futuras de IA com intervenção humana praticamente inexistente.

Chamados por intervenção regulatória

Coxon argumenta que nenhuma empresa consegue desenvolver uma IA que ultrapasse inteligência humana de forma completamente responsável sem intervenção governamental ou desaceleração coordenada do desenvolvimento. Esta conclusão reflete crescente consenso entre pesquisadores sobre a inadequação de autorregulação corporativa.

Em fevereiro deste ano, a Anthropic removeu de sua carta de princípios de segurança um compromisso crucial de pausar o desenvolvimento caso não conseguisse controlar os riscos associados à tecnologia. A justificativa foi que uma suspensão unilateral permitiria que concorrentes menos cautelosos dominassem o setor completamente.

Em julho, mais de mil profissionais do setor de tecnologia, incluindo o CEO da Anthropic Dario Amodei, assinaram petição solicitando a Washington apoio a uma desaceleração coordenada no desenvolvimento de sistemas de IA avançados. A OpenAI pausou por duas semanas em agosto o treinamento de seus modelos mais recentes antes de retomar sob controles mais rigorosos.

Jakub Pachocki, cientista-chefe da OpenAI, defendeu adoção de "extrema cautela" no desenvolvimento futuro. O pesquisador enfatizou que "a coordenação internacional sobre o desenvolvimento futuro da IA precisa se tornar uma prioridade máxima para governos de todo o mundo".

Legislação e futuro regulatório

Atualmente, nos Estados Unidos, modelos de IA não recebem regulação específica por legislação federal abrangente. Em resposta a crescentes preocupações, o senador Bernie Sanders e o deputado democrata Greg Casar apresentaram projeto de lei visando suspender o desenvolvimento de IA até criação de órgão regulador federal especializado.

A situação revela lacuna crítica entre a velocidade de inovação tecnológica e a capacidade das estruturas regulatórias de acompanhar e mitigar riscos emergentes, tornando mais urgente a adoção de mecanismos de governança adequados para tecnologias potencialmente transformadoras.