Meta libera gerador de IA que permite criar deepfakes com fotos públicas do Instagram

Meta lança gerador de IA com capacidade de criar deepfakes

A Meta apresentou esta semana seu primeiro gerador de imagens por inteligência artificial, desenvolvido pela equipe de superinteligência artificial da companhia. A ferramenta, denominada Muse Image, possibilita que usuários criem deepfakes utilizando fotografias públicas disponíveis no Instagram, gerando preocupações significativas com privacidade e segurança digital dos utilizadores.

O deepfakes representa uma técnica sofisticada que utiliza inteligência artificial para modificar fotos e vídeos, permitindo operações como substituição de rostos, alteração de expressões faciais ou modificação de áudio em registros visuais. Com o Muse Image, essas possibilidades ampliam-se consideravelmente, uma vez que a tecnologia consegue identificar perfis de forma automática apenas mencionando o @ do usuário.

Como funciona o Muse Image da Meta

O novo gerador encontra-se ativado por padrão e está disponível no Instagram, WhatsApp e na plataforma Meta AI, chatbot desenvolvido pela empresa de Mark Zuckerberg. Em breve, a ferramenta chegará ao Facebook e ao Messenger, expandindo ainda mais seu alcance entre os usuários das plataformas Meta.

Testes realizados pela reportagem no site da Meta AI demonstraram que a ferramenta consegue produzir deepfakes de terceiros apenas mencionando a conta @, sem necessidade de informar explicitamente a rede social de origem. Em diversos casos, o sistema identificou automaticamente que se tratava do Instagram. Em outras situações, realizou buscas no Google para localizar fotografias das pessoas.

A Meta afirmou no comunicado de lançamento que pode utilizar publicações públicas realizadas em suas redes sociais para gerar imagens com inteligência artificial. Segundo a empresa, "usuários têm controle sobre como seu conteúdo pode ser marcado para criação com IA, com uma configuração simples para desativar esse recurso a qualquer momento". A companhia também destacou que "contas privadas e aquelas pertencentes a usuários menores de 18 anos são automaticamente excluídas".

Testes indicam vulnerabilidades de privacidade

Experimentos conduzidos indicaram que a ferramenta foi bloqueada quando testada com perfis privados, sugerindo que apenas contas públicas encontram-se vulneráveis ao recurso. No entanto, a capacidade da inteligência artificial em identificar e localizar imagens através de simples menções @, inclusive realizando buscas na internet, aponta para possíveis riscos à privacidade mesmo de usuários que tentam restringir o acesso às suas informações.

A Meta respondeu sobre essas questões afirmando contar com "controles rigorosos e mecanismos de segurança desde o primeiro dia" e que "tomará medidas contra qualquer conteúdo que viole nossos Padrões da Comunidade".

Instruções para impedir criação de deepfakes com suas fotos

Apesar do recurso estar sendo liberado gradualmente, a Meta já oferece opções para impedir que terceiros utilizem conteúdos públicos para criar imagens com o Muse Image. Os usuários podem seguir o seguinte procedimento:

Através do perfil do Instagram:

Acesse o menu do perfil (três barras localizadas no canto superior direito da tela). Em seguida, navegue até "Como outras pessoas podem interagir com você" e toque em "Compartilhamento e reutilização". Na seção "Permita que as pessoas reutilizem seu conteúdo no Instagram e com recursos de IA da Meta", desmarque as opções referentes a "Posts" e "Reels". Este procedimento desativa a possibilidade de terceiros utilizarem suas publicações para criações com inteligência artificial.

Através das configurações da Meta AI:

Num recurso separado do Muse Image, também é possível definir quem pode utilizar sua imagem em criações com IA. Para isso, acesse as configurações da Meta AI, toque em "Sua imagem" e envie uma selfie juntamente com outras fotografias suas. Posteriormente, escolha quem poderá utilizar essas imagens, selecionando entre as opções: "Somente você", "Seguidores que eu aprovo", "Seguidores que eu também sigo" ou "Todos".

Perspectiva jurídica sobre os riscos

Segundo Patrícia Peck, advogada especialista em direito digital, a decisão da Meta em autorizar o uso de imagens de colegas publicadas no Instagram para criações com inteligência artificial evidencia que o desenvolvimento acelerado de IA ocorre sem consideração adequada sobre questões éticas, de governança, segurança e proteção das pessoas.

"Se a IA da Meta ocasionar prejuízos a terceiros e ficar demonstrado que medidas de proteção conhecidas como guard rails poderiam ter sido implementadas mas não foram, isso pode configurar imprudência. Nesse cenário, a empresa responde pelos danos causados a terceiros", afirmou a especialista em direito digital.

A questão levanta reflexões importantes sobre a responsabilidade corporativa no desenvolvimento de tecnologias de inteligência artificial e a necessidade de salvaguardas adequadas para proteger os usuários contra possíveis abusas e violações de privacidade nos contextos digitais contemporâneos.