IA na Ciência: Desafios entre Avanços e Questões de Confiança

IA na Ciência: Uma Transformação com Consequências Complexas

A inteligência artificial na ciência representa um dos maiores dilemas contemporâneos da pesquisa moderna. Enquanto empresas como Google DeepMind e OpenAI demonstram capacidades impressionantes na resolução de problemas científicos complexos, cresce simultaneamente uma preocupação profunda sobre os impactos negativos dessa tecnologia nos alicerces do processo científico. O caso recente envolvendo matemáticos e a OpenAI exemplifica perfeitamente essa tensão: entre o potencial transformador da IA pesquisa científica e os riscos reais à integridade dos trabalhos acadêmicos.

Em uma antiga fábrica de relógios no centro de Londres, a empresa Basecamp Research mantém armazenadas dezenas de pequenas caixas com tubos de vidro contendo 100 bilhões de genes. Segundo o médico Oliver Vince, um dos fundadores do laboratório, essas caixas poderiam armazenar juntas dez vezes mais informações do que todos os textos disponíveis na internet. O objetivo é desenvolver uma inteligência artificial capaz de compreender a linguagem da biologia, estratégia similar à adotada por empresas de tecnologia que utilizaram enormes volumes de textos para criar os chamados Large Language Models, como ChatGPT e Gemini.

O Incidente entre Matemáticos: Questionamentos sobre Originalidade

Recentemente, a OpenAI anunciou ter resolvido um dos grandes problemas da matemática relacionado às equações de Navier-Stokes. Segundo a empresa, seus agentes de inteligência artificial conseguiram solucionar a questão em 88 horas. Porém, horas antes do anúncio, o matemático Tristan Buckmaster, da Universidade de Nova York, manifestou preocupações públicas sobre a possibilidade de suas pesquisas terem sido utilizadas pela OpenAI sem autorização.

Buckmaster e seu colega Levent Alpöge, que trabalha para a Anthropic, empresa concorrente da OpenAI, buscavam resolver o mesmo problema e armazenavam os rascunhos de seu trabalho no Codex, ferramenta de programação da OpenAI. Buckmaster questionou se a pesquisa armazenada poderia ter sido utilizada, embora tenha ressaltado que "não estava acusando ninguém de nada". A OpenAI negou que qualquer pessoa ou sistema de IA tivesse acessado o trabalho da outra equipe antes de sua publicação.

Este incidente ressalta uma questão fundamental: como manter a confiança pesquisa científica quando sistemas de inteligência artificial têm acesso aos dados de pesquisadores? O caso ilustra não apenas preocupações técnicas, mas também questões éticas sobre propriedade intelectual e transparência no ambiente científico moderno.

Além dos Riscos Óbvios: O Problema Silencioso da Confiança

Frequentemente, quando discutimos riscos da inteligência artificial na ciência, imaginamos cenários catastróficos como robôs criando vírus perigosos ou armas químicas. No entanto, existe um problema muito mais sutil e potencialmente mais destrutivo: a possibilidade de a integridade científica IA ser comprometida de maneira silenciosa, minando a confiança no próprio processo científico.

Ferramentas de IA como Claude e Gemini podem produzir informações falsas, fenômeno conhecido como "alucinação". Elas mencionam filmes que nunca existiram ou atribuem frases nunca ditas a pessoas. Agora há evidências de que isso ocorre com frequência cada vez maior na ciência. O temor crescente é que se torne difícil distinguir descobertas científicas verdadeiras de informações fictícias geradas por máquinas.

Tudo isso ameaça enfraquecer o alicerce sobre o qual se sustenta a pesquisa científica: a confiança. Sem ela, todo o edifício científico corre risco de colapso.

A Avalanche de Conteúdo Gerado por IA nas Revistas Científicas

Uma das ameaças mais significativas recai sobre as revistas científicas, responsáveis por preservar a integridade da pesquisa. Segundo Dalmeet Singh Chawla, jornalista especializado em ciência que há uma década acompanha casos de má conduta científica, "a IA generativa basicamente transformou todo o processo científico". As equipes responsáveis por verificar a integridade das publicações precisarão "aumentar drasticamente [em número de profissionais e esforço] para ter alguma chance de enfrentar o problema".

Em 2024, o cientista da computação Dmitry Kobak analisou mais de 1 milhão de artigos científicos da área biomédica em busca de palavras e expressões frequentemente usadas por grandes modelos de linguagem para gerar textos. Sua equipe constatou que, até dezembro do ano passado, quase 90% dos artigos apresentavam indícios de uso de inteligência artificial. Embora as tecnologias de detecção de IA não sejam infalíveis, Kobak alertou para o risco de que "quaisquer vieses presentes nos grandes modelos de linguagem acabem se espalhando rapidamente por toda a literatura científica".

Descobertas Fictícias e Perda de Integridade Acadêmica

Um dos problemas mais preocupantes é a crescente prática de utilizar inteligência artificial para compilar referências bibliográficas. Pesquisadores da Universidade Cornell descobriram que a tecnologia inventa estudos inexistentes. No ano passado, aproximadamente 147 mil trabalhos científicos fictícios foram citados em pesquisas reais. Isso representa não apenas um problema de qualidade artigos científicos, mas uma ameaça fundamental à rastreabilidade do conhecimento científico.

Quando cientistas perdem tempo e recursos seguindo caminhos baseados em referências falsas, há desperdício de dinheiro público e os benefícios de pesquisas legítimas, como novos medicamentos e tecnologias sustentáveis, podem demorar mais para chegar à sociedade ou nunca se concretizar.

O Comprometimento da Revisão por Pares

O processo de revisão por pares, fundamental para garantir a integridade de artigos científicos, também está sendo comprometido. Uma equipe liderada por Weixin Liang e James Zou, da Universidade Stanford, analisou pareceres de avaliadores enviados a quatro importantes conferências de ciência da computação e constatou que até 17% dos textos haviam sido substancialmente alterados por modelos de linguagem.

O Lado Positivo: Quando IA Acelera Descobertas Genuínas

Apesar dos desafios, não devemos ignorar os sucessos reais da inteligência artificial na ciência. Um dos maiores exemplos é a Google DeepMind, empresa que em 2020 resolveu um dos maiores desafios da biologia: descobrir como as proteínas dos seres vivos se dobram até adquirir suas formas tridimensionais específicas.

As proteínas são máquinas minúsculas que tornam a vida possível. A forma que assumem determina suas funções, desde a formação de células e o combate a infecções até a constituição de tecidos e órgãos do corpo. Antes da inteligência artificial, os cientistas precisavam realizar experimentos demorados em laboratório. A Google DeepMind desenvolveu um modelo chamado AlphaFold, que conseguiu prever com precisão as estruturas de 200 milhões de proteínas em apenas um ano. Realizar trabalho equivalente por meio de experimentos em laboratório levaria centenas de milhões de anos.

Esse avanço foi considerado um "marco histórico". O diretor da DeepMind e o principal cientista do projeto receberam o Prêmio Nobel de Química, e os resultados foram disponibilizados gratuitamente aos pesquisadores worldwide.

Questionamentos sobre o Uso Excessivo de IA em Descobertas Materiais

Após o sucesso do AlphaFold, a DeepMind voltou atenção para a previsão da estrutura de novos materiais. Identificou o que afirmou serem mais de 2 milhões de novas estruturas cristalinas, anunciadas como equivalentes a "quase 800 anos de conhecimento" disponibilizados simultaneamente. Cerca de 380 mil foram consideradas promissoras o suficiente para serem produzidas em laboratório.

Porém, dois químicos da Universidade da Califórnia, Anthony Cheetham e Ram Seshadri, analisaram uma amostra aleatória dos supostos novos cristais e concluíram que "ainda não encontraram nenhum composto realmente inovador". Argumentaram que muitos eram "adaptações triviais de materiais conhecidos". Defenderam que os resultados precisam passar por análise mais rigorosa e serem validados por químicos especializados.

A DeepMind rejeitou as críticas, argumentando que a substituição de um único átomo permitiu o desenvolvimento de muitos dos materiais mais úteis da atualidade, desde componentes de celulares até protetores solares.

O Caminho Responsável: IA com Supervisão Humana

Segundo Pushmeet Kohli, responsável pela área científica da DeepMind, a solução não é abandonar a inteligência artificial. Isso seria "como defender que as pessoas façam cálculos sem usar calculadoras". Porém, é necessário manter supervisão humana rigorosa: "Os agentes de IA atuais ainda são imperfeitos. Alguém precisa assumir a responsabilidade".

O princípio é claro: é preciso entender o que o agente fez e assumir responsabilidade pelo resultado. Não basta apresentar um problema, deixar que a máquina escreva o artigo científico e depois submetê-lo para publicação como se suas conclusões fossem verdadeiras.

Um Exemplo de Uso Responsável

A professora Andrea Pauli, do Vienna BioCenter, na Áustria, seguiu esse princípio. Passou quase dez anos investigando uma questão que ninguém havia conseguido responder: como o espermatozoide penetra no óvulo. O uso responsável da inteligência artificial ajudou a pesquisadora a avançar nessa busca. Seu laboratório identificou uma proteína na superfície dos óvulos do peixe-zebra que indica mecanismo semelhante ao de uma chave que se encaixa em fechadura, permitindo entrada do espermatozoide.

Medidas Regulatórias e Controle de Qualidade

Algumas editoras de revistas científicas, como Elsevier, estão adotando medidas para conter a crescente crise de confiança. A equipe responsável pela integridade científica da Elsevier desenvolveu cerca de 100 indicadores que ajudam a identificar artigos que precisam passar por avaliação humana mais rigorosa.

As revistas do grupo Nature proíbem o uso de imagens geradas por IA e orientam revisores a nunca inserir manuscritos em sistemas de inteligência artificial. O arXiv, plataforma na qual cientistas compartilham resultados preliminares, suspende por um ano os pesquisadores que apresentam referências bibliográficas inventadas.

Sarah Main, professora e vice-presidente da Elsevier, busca formas de utilizar a inteligência artificial de maneira responsável. Ela define o conceito de "research-grade AI" (inteligência artificial voltada à pesquisa científica) como sistemas que garantem que o pesquisador mantenha o controle do trabalho.

Descobertas Inesperadas: O Fator Humano que a IA Pode Perder

À medida que agentes de inteligência artificial analisam enormes volumes de dados de aceleradores de partículas e observações do Universo, surge uma questão perturbadora: como garantir que esses sistemas não descartem descobertas importantes por considerá-las anomalias?

A penicilina, a radioatividade e os pulsares foram descobertos a partir de resultados inesperados que poderiam facilmente ter sido ignorados. Foi a intuição dos cientistas que permitiu reconhecer a importância dessas observações e transformá-las em algumas das maiores descobertas científicas do século passado. Será que a inteligência artificial é capaz de fazer descobertas inesperadas e demonstrar a mesma criatividade dos seres humanos?

Conclusão: Um Futuro Incerto para a Pesquisa Científica

Oliver Vince, do Basecamp Research, não faz promessas, mas aponta uma possibilidade: "Temos um caminho tecnicamente viável para curar o câncer". Sua motivação veio de experiência pessoal com leucemia, da qual se recuperou. A grande questão que paira sobre toda a comunidade científica é saber se a inteligência artificial ajudará a ciência a alcançar objetivos transformadores ou se acabará enfraquecendo, de maneira silenciosa, os próprios fundamentos da pesquisa científica. O futuro dependerá de como a comunidade científica, as editoras e os desenvolvedores de tecnologia conseguirem equilibrar inovação com responsabilidade.