Deepfakes tornam-se invisíveis: alerta de OpenAI e Meta

Deepfakes cada vez mais indistinguíveis de conteúdos autênticos

Pesquisadores e executivos de grandes empresas de tecnologia como OpenAI e Meta manifestaram preocupação crescente sobre deepfakes durante reunião realizada em Boston nesta quinta-feira (15). Os especialistas ressaltam que os vídeos e áudios falsificados por inteligência artificial tornaram-se praticamente impossíveis de distinguir de materiais genuínos, representando um desafio sem precedentes para a autenticação de conteúdos digitais.

O avanço acelerado da tecnologia de IA generativa, que produz imagens, vídeos e áudios a partir de instruções simples, transformou o cenário de segurança digital global. Shira Anderson, consultora de políticas da OpenAI, afirmou que as falsificações geradas por inteligência artificial atingiram um nível de sofisticação onde métodos científicos tradicionais podem não conseguir identificá-las no futuro próximo.

Riscos para o sistema judiciário americano

O debate ocorreu durante sessão do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, que vem discutindo há três anos como enfrentar os desafios legais e técnicos relacionados aos deepfakes nos tribunais. O grande desafio reside em determinar padrões confiáveis para verificar a autenticidade de materiais que possam ser apresentados como evidência judicial.

Desde 2023, membros do comitê trabalham para estabelecer critérios que garantam que provas produzidas ou potencialmente comprometidas por inteligência artificial atendam aos mesmos requisitos de confiabilidade exigidos de outras modalidades de evidência, incluindo aquelas examinadas por peritos especializados.

Devin Norder, diretor de gestão de produtos da Meta, confirmou à Reuters que os modelos de inteligência artificial mais avançados atualmente conseguem criar conteúdos completamente indistinguíveis de mídias autênticas para o olho humano. Preocupante ainda é o fato de que produzir esses materiais exige recursos mínimos em tempo e investimento financeiro.

Poucos casos documentados, mas risco iminente

Apesar dos alertas contínuos de especialistas, os registros de casos envolvendo deepfakes nos tribunais americanos permanecem limitados. Em levantamento realizado em março pelo Centro Federal do Judiciário, órgão de pesquisa vinculado ao Poder Judiciário dos EUA, constatou-se que apenas 15 dos 931 juízes consultados relataram ter enfrentado situações em que uma das partes questionou a autenticidade de uma prova suspeitando tratar-se de deepfake.

O juiz federal Jesse Furman, de Manhattan, que preside o comitê, reconheceu essa discrepância: "Há muitos comentários acadêmicos e de outras fontes prevendo que os tribunais terão de lidar com deepfakes, mas ainda não vimos muitos casos desse tipo". Entretanto, profissionais da indústria, ambiente acadêmico e governo concordam que o risco transcende o hipotético, tornando-se cada vez mais concreto.

Marcas d'água como estratégia de identificação

Em resposta ao crescimento da ameaça, jurisdições como Califórnia e União Europeia implementaram novas legislações exigindo o uso de marcas-d'água digitais para identificar conteúdos falsificados por inteligência artificial. Essas marcas funcionam como sinais incorporados aos arquivos, indicando sua origem ou auxiliando na posterior identificação de manipulações.

Contudo, Shira Anderson alertou para limitações significativas desse método. Não existe atualmente um padrão universal capaz de identificar com segurança todas essas marcas ou confirmar definitivamente a autenticidade de um conteúdo visual. Como cada empresa desenvolvedora implementa seus próprios sistemas de marcação, a verificação permanece sujeita a vulnerabilidades e inconsistências técnicas.

Ferramentas e soluções em desenvolvimento

OpenAI e Meta encontram-se entre as grandes corporações que investem em ferramentas e serviços específicos para auxiliar na verificação de autenticidade de conteúdos visuais. Esses esforços representam tentativas de estabelecer bareiras técnicas contra a disseminação descontrolada de deepfakes em plataformas digitais.

Anderson mantém perspectiva realista sobre as limitações desses desenvolvimentos: "Minha impressão é que isso certamente continuará melhorando". Todavia, ela reforça uma verdade incômoda: "Não acho que algum dia será à prova de falhas". Essa constatação revela a magnitude do desafio tecnológico e legal que a sociedade enfrenta.

Implicações futuras para autenticação digital

O cenário desenhado por especialistas aponta para uma realidade onde deepfakes representarão desafio crescente tanto para instituições jurídicas quanto para o público em geral. A capacidade de distinguir conteúdo autêntico de falsificado por inteligência artificial diminui proporcionalmente ao avanço tecnológico, criando ambiente propício para fraudes, difamação e manipulação da opinião pública.

A convergência de desenvolvimento tecnológico acelerado, custo reduzido de produção e dificuldade multiplicada de detecção sugere que os tribunais americanos e sistemas judiciais internacionais necessitarão desenvolver novas abordagens metodológicas para lidar com deepfakes. Essas estratégias transcenderão simples métodos técnicos, exigindo reformas legislativas profundas e protocolos específicos de autenticação.