Instagram promove abuso sexual infantil na Índia

Investigação BBC descobre rede de abuso sexual infantil no Instagram

Uma investigação do Serviço Mundial da BBC identificou que o Instagram promove abuso sexual infantil na Índia por meio de anúncios pagos direcionados para criminosos. Os anúncios, que deveriam passar por sistemas de moderação automática, continham expressões explícitas como "vídeo de estupro" e "vídeo infantil", oferecendo links para canais no aplicativo Telegram onde o material era comercializado por até 99 rúpias indianas, equivalente a aproximadamente um dólar americano.

Os repórteres criaram uma conta com identidade alternativa no Instagram após observarem que a plataforma impulsionava conteúdo sexualmente sugestivo indiscriminadamente. Em menos de uma semana, começaram a receber anúncios contendo imagens de crianças em situações sexualmente abusivas. Aproximadamente 30 anúncios distintos foram identificados promovendo abuso sexual infantil durante a investigação, além de cerca de 20 anúncios exibindo pornografia com adultos.

Resposta do governo indiano e medidas imediatas

Após a divulgação da investigação, o governo indiano ordenou que a Meta, empresa proprietária do Instagram, desabilitasse imediatamente todos os anúncios identificados. As autoridades indianas também exigiram explicações detalhadas sobre os motivos pelos quais tais anúncios conseguiram passar pelos filtros de moderação da plataforma. A Meta respondeu afirmando ter desativado diversos anúncios, suspendido as contas responsáveis e bloqueado URLs de conteúdos que violavam suas políticas após tomar conhecimento das descobertas da BBC.

Quando a BBC denunciou um anúncio específico mostrando uma menina muito jovem em lágrimas com indicações de abuso sexual, o Instagram respondeu 24 horas depois alegando que a postagem não violava suas "normas da comunidade". Apenas após a pressão da investigação jornalística é que a plataforma tomou medidas efetivas de remoção.

Falhas nos sistemas de moderação automática

Todos os anúncios no Instagram supostamente passam por análise de tecnologia de moderação antes de serem publicados. O sistema conta principalmente com inteligência artificial, projetado para verificar imagens, vídeos, textos, áudio, público-alvo e links de destino. Casos incertos são encaminhados para análise humana. Porém, a Meta admitiu que "nenhum sistema é perfeito" e seu processo de análise pode não detectar todas as violações de política.

A Meta anunciou em março que estaria reduzindo o número de moderadores humanos e aumentando o uso de inteligência artificial. Essa decisão levanta questões sobre a eficácia da detecção de conteúdo tão criminoso e prejudicial quanto o abuso sexual infantil. A empresa afirma que especialistas irão projetar, treinar, supervisionar e avaliar seus sistemas de IA, mas a investigação sugere que esses controles atualmente são insuficientes.

Papel do Telegram na distribuição de material criminoso

O Telegram, plataforma de mensagens onde os links dos anúncios conduziam, mostrou-se também problemático. A BBC denunciou dois canais ao Telegram por venderem vídeos de abuso sexual infantil. Um deles foi removido rapidamente, mas o outro continuou postando novos vídeos à venda por mais de duas semanas antes de ser finalmente derrubado.

O Telegram declarou ter removido mais de 274 mil grupos e canais relacionados a material de abuso sexual infantil em 2026. A empresa afirma utilizar moderação humana e automática para erradicar esse tipo de conteúdo, alegando ter "virtualmente eliminado" a divulgação de material de abuso ao público em sua plataforma. Críticos, porém, questionam essas afirmações diante da lentidão em remover canais denunciados.

A empresa tem sede em Dubai, nos Emirados Árabes Unidos, e não é membro do Centro Nacional de Crianças Desaparecidas e Exploradas (NCMEC). Apenas no final de 2024 entrou para a Internet Watch Foundation, que trabalha com plataformas online para encontrar e remover material de abuso infantil.

Modelo de negócios baseado em publicidade

Os anúncios representam uma fonte crucial de receita para a Meta. A empresa divulgou que quase 98% de sua receita de aproximadamente 200 bilhões de dólares no ano fiscal com término em 2025 vieram de publicidade. Analistas estimam que os anúncios representem mais de 90% da receita do Instagram especificamente.

Brian Boland, ex-vice-presidente do Facebook entre 2009 e 2020, declarou que as descobertas o deixaram "horrorizado, mas não surpreso". Ele afirmou que o algoritmo do Instagram foi deliberadamente projetado para manter usuários na plataforma mostrando conteúdo "mais extremo e mais tentador". Boland destacou que, embora isso não seja um algoritmo especificamente concebido para criar pedófilos, a falta de controle responsável do sistema resulta exatamente nesse tipo de consequência prejudicial.

Segundo Boland, entre 2009 e 2010 ele liderou um projeto para remover anúncios de golpes, tendo permissão para suprimir uma enorme parte da receita em favor da segurança do usuário. Ele lamenta que, ao longo do tempo, o equilíbrio entre lucro e experiência do usuário tenha se tornado cada vez mais desfavorável ao bem-estar dos usuários.

Perspectiva legal e responsabilidade corporativa

Madan Lokur, juiz aposentado da Suprema Corte da Índia, declarou temer que o Instagram estivesse "ganhando dinheiro ao participar de atividade criminosa". Ele afirmou que, embora a legislação indiana proteja empresas de redes sociais de responsabilidade por conteúdo postado por usuários, "a plataforma não pode fugir de sua responsabilidade" em relação a anúncios que ela própria publica e monetiza.

Lokur considera que a questão é séria o bastante para que a Suprema Corte da Índia tome conhecimento por iniciativa própria e pressione o governo a tomar ações contra qualquer plataforma que permita tal conteúdo. A distribuição de material relativo a abusos sexuais infantis é crime explícito na Índia, assim como a pornografia envolvendo adultos.

A Meta foi condenada em 2025 pelo Estado do Novo México a pagar 375 milhões de dólares após ser acusada de enganar usuários sobre a segurança de suas plataformas para crianças. A empresa declarou não concordar com a decisão e pretender apresentar recurso.

Resposta insuficiente das autoridades indianas

As empresas americanas de redes sociais são obrigadas a relatar material de abuso sexual infantil ao NCMEC, que encaminha relatórios às agências policiais competentes. Em 2025, a Índia recebeu 1,9 milhão de denúncias através desse sistema, ficando atrás apenas dos Estados Unidos com dois milhões.

Shikha Goel, diretora do Escritório de Cibersegurança do Estado de Telangana, especializada em crimes cibernéticos, afirma que o Instagram e o Facebook foram responsáveis pela maior parte das denúncias recebidas. Ela explica que isso não necessariamente significa que sejam as maiores plataformas com o problema, mas sim que possuem melhores algoritmos para rastrear e relatar material de abuso.

Especialistas destacam que o material de abuso sexual infantil na Índia é normalmente criado por grupos criminosos como traficantes de pessoas, mas às vezes famílias e membros da comunidade também são responsáveis. Bhuwan Ribhu, fundador do grupo Just Rights for Children que representa mais de 250 organizações, afirma que o crime não recebe denúncias suficientes e a polícia ainda desenvolve suas habilidades técnicas para combatê-lo.

Necessidade de cooperação internacional e compartilhamento de inteligência

Para que o combate ao abuso sexual infantil tenha sucesso, especialistas destacam que a cooperação internacional e o compartilhamento de inteligência através das fronteiras são fundamentais. A ONG Fundação Rati, baseada em Mumbai, mantém um serviço de ajuda para crianças enfrentando perigos online e recebe relatórios de abuso sexual infantil em sua maioria das plataformas da Meta.

Siddharth Pillai, diretor da Fundação Rati, afirma que "os criminosos fazem uso da navegação integrada entre o Instagram e o Telegram para se esquivar do trabalho de moderação e continuam carregando novamente o conteúdo que ajudamos a derrubar". Essa integração entre plataformas facilita a circulação de material criminoso e torna o trabalho de moderação ainda mais desafiador.

Ribhu enfatiza que para "encontrar os tentáculos do crime organizado, toda a cadeia de oferta e demanda precisa ser rastreada". Isso requer não apenas melhor tecnologia de detecção, mas também cooperação real entre governos, plataformas e organizações de proteção infantil em nível global.