TikTok lança ferramentas inovadoras para detectar deepfakes

TikTok anuncia novas ferramentas para detectar deepfakes
A plataforma de compartilhamento de vídeos TikTok revelou, na última sexta-feira (20), duas inovadoras ferramentas para detectar deepfakes e conteúdos manipulados por inteligência artificial. As ferramentas para detectar deepfakes representam um avanço significativo na transparência e segurança digital, permitindo que usuários e criadores de conteúdo identifiquem manipulações de mídia de forma mais eficaz.
Os novos recursos foram apresentados durante um evento especializado em segurança e inovação, realizado em Londres, no Reino Unido. Essa iniciativa faz parte da estratégia mais ampla do TikTok para combater desinformação e conteúdos enganosos, especialmente em um contexto de eleições previstas para 2027 em países europeus.
Primeira ferramenta: verificação de conteúdo de IA aberta a todos
Uma das ferramentas para detectar deepfakes permite que qualquer pessoa, independentemente de possuir conta na plataforma, verifique se uma imagem ou vídeo foi produzido ou editado utilizando recursos de inteligência artificial do TikTok. Esse recurso democratiza o acesso à detecção de manipulações, eliminando barreiras de cadastro ou autenticação.
O funcionamento é simples e direto. Os usuários podem acessar uma página específica disponibilizada pelo TikTok e enviar o arquivo que desejam analisar. O sistema então processa a imagem ou vídeo em busca de indicadores que comprovem o uso de ferramentas de inteligência artificial da plataforma.
Tecnologias utilizadas na detecção
A ferramenta utiliza duas tecnologias complementares para identificar conteúdos de IA. A primeira é o Content Credentials, um sistema que registra informações sobre a origem e o processo de criação de conteúdos digitais, mantendo um histórico transparente da produção. A segunda é a VeraDura, uma marca-d'água invisível desenvolvida especificamente pelo TikTok, projetada para resistir a alterações e tentativas de remoção.
Essas tecnologias funcionam em conjunto para manter a rastreabilidade dos conteúdos mesmo quando arquivos são baixados, compartilhados ou editados. O desafio de preservar essas informações durante o processamento de mídia foi solucionado através dessa abordagem híbrida e robusta.
Segunda ferramenta: Likeness Detection para criadores e figuras públicas
A segunda ferramenta para detectar deepfakes, denominada Likeness Detection ou detecção de semelhança, foi desenvolvida especificamente para criadores de conteúdo, figuras públicas e políticos. Esse recurso permite localizar e denunciar publicações que reproduzam a aparência de uma pessoa através de inteligência artificial, potencialmente sem consentimento.
A Likeness Detection oferece uma camada adicional de proteção contra fraudes de identidade digital e uso não autorizado de imagem. Criadores de conteúdo podem monitorar ativamente a plataforma em busca de reproduções sintéticas de sua aparência física, tomando medidas preventivas contra deepfakes maliciosos.
Critérios de elegibilidade e disponibilidade
Nem todos os usuários terão acesso à Likeness Detection. O recurso está disponível apenas para criadores de conteúdo e figuras públicas que atendam aos critérios de elegibilidade estabelecidos pelo TikTok. Isso inclui contas de governos, políticos e partidos políticos, garantindo que indivíduos com maior vulnerabilidade a manipulações tenham proteção prioritária.
Segundo a plataforma, o início da liberação gradual já ocorreu em diferentes países, embora o TikTok ainda não tenha divulgado um calendário específico para disponibilização do recurso no Brasil.
Processo de funcionamento da Likeness Detection
A ferramenta para detectar deepfakes através de semelhança opera em três etapas bem definidas e estruturadas. Primeiro, ocorre a verificação de identidade, onde o usuário se cadastra e confirma sua identidade por meio de um parceiro externo de confiança, garantindo autenticidade.
Na segunda etapa, chamada identificação de conteúdos, o usuário recebe notificações automáticas quando a plataforma identifica vídeos ou contas que possam estar utilizando sua aparência. O material pode ser analisado diretamente dentro da ferramenta, oferecendo visualização imediata do conteúdo suspeito.
A terceira e última etapa é a denúncia. Ao encontrar conteúdos suspeitos ou claramente maliciosos, o usuário pode denunciá-los às equipes de segurança do TikTok. Publicações que violarem as políticas da plataforma serão removidas prontamente, protegendo a identidade do denunciante.
Privacidade e proteção de dados
O TikTok enfatiza que a ferramenta para detectar deepfakes foi desenvolvida com foco em privacidade. Os documentos apresentados durante a verificação de identidade não são armazenados pela plataforma, minimizando a coleta de dados pessoais dos usuários. Essa abordagem reflete as crescentes preocupações com proteção de dados e conformidade com regulamentações internacionais de privacidade.
Contexto e importância das novas ferramentas
O lançamento dessas ferramentas para detectar deepfakes reflete a crescente preocupação global com desinformação e manipulação de conteúdo digital. Com o avanço das tecnologias de inteligência artificial, a capacidade de criar vídeos, imagens e áudios falsos se tornou mais acessível, aumentando o potencial de fraude e abuso.
As medidas anunciadas pelo TikTok buscam ampliar a transparência sobre o uso de tecnologia e facilitar a identificação de deepfakes, que são conhecidos pela capacidade de simular situações reais de forma convincente. Essa iniciativa posiciona a plataforma como ator responsável na luta contra conteúdos enganosos e potencialmente prejudiciais.
Impacto para o ecossistema digital
As ferramentas para detectar deepfakes podem estabelecer novos padrões na indústria de mídia social. Outras plataformas podem ser incentivadas a desenvolver recursos similares, criando um ambiente digital mais seguro e transparente. A iniciativa também demonstra o compromisso do TikTok com práticas responsáveis de tecnologia, apesar das questões de regulamentação que a plataforma enfrenta globalmente.
Em conclusão, o TikTok posiciona-se à frente na identificação e combate a conteúdos maliciosos gerados por inteligência artificial, oferecendo ferramentas práticas e acessíveis para usuários, criadores e figuras públicas se protegerem contra deepfakes e manipulações digitais.




