Governo investiga chatbots de amizade e romance por riscos a menores
Governo solicita investigação sobre companheiros de IA que simulam relacionamentos
O Ministério da Justiça e Segurança Pública (MJSP) formalizou recomendação para que a Agência Nacional de Proteção de Dados (ANPD) realize investigação aprofundada sobre os riscos relacionados aos chatbots de amizade e romance, serviços baseados em inteligência artificial que criam personagens virtuais para estabelecer interações simulando vínculos emocionais com usuários. A demanda foi encaminhada na segunda-feira (21), através de nota técnica assinada pela Secretaria Nacional de Direitos Digitais (Sedigi).
O documento técnico não acusa as plataformas de infrações diretas, mas aponta indícios consistentes de "desconformidades" identificados durante análise preliminar de treze serviços de companheiros de IA distintos. A avaliação governamental busca compreender como essas plataformas operam e quais mecanismos de proteção disponibilizam aos usuários, particularmente crianças e adolescentes.
Plataformas analisadas e mecanismos de verificação
A investigação inicial examinou serviços como Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Anima, Swipey e SpicyChat.AI. Esses serviços apresentam funcionalidades diversas, mas compartilham características comuns: capacidade de manter histórico de conversas, adaptação de respostas personalizadas, simulação de personalidade e sentimentos, além de oferecimento de interações que variam desde amizade até conteúdo adulto explícito em algumas plataformas.
Um achado crítico da análise governamental refere-se aos mecanismos de verificação etária empregados. Conforme relatado pela Secretaria Nacional de Direitos Digitais, "a maior parte dos serviços analisados adota a autodeclaração como único mecanismo de aferição de idade". Esse método apresenta vulnerabilidades significativas, já que pode ser contornado facilmente por usuários menores de idade que desejem acessar conteúdo restrito.
A secretaria observa que essa deficiência ultrapassa questão meramente técnica: "a facilidade com que a autodeclaração é contornada não configura apenas deficiência do dever de aferição etária. Ela constitui, também, elemento indicativo do acesso provável, que submete o serviço ao conjunto das obrigações da lei". Essa interpretação vincula diretamente as falhas de verificação às responsabilidades impostas pela legislação de proteção digital.
Conformidade com ECA Digital e preocupações identificadas
A iniciativa do governo enquadra-se nas ações de implementação do Estatuto Digital da Criança e do Adolescente (ECA Digital), legislação que estabelece deveres de proteção e segurança para plataformas e serviços digitais utilizados por menores. A avaliação das plataformas de amizade virtual e inteligência artificial visa assegurar que essas empresas cumpram obrigações legais.
Entre os aspectos considerados preocupantes e passíveis de investigação aprofundada destacam-se: a ineficácia dos mecanismos de verificação etária, o potencial para uso excessivo ou compulsivo dos serviços, a possibilidade de exposição a conteúdo inadequado para menores, e a coleta de dados para construção de perfis emocionais e comportamentais dos usuários. Cada um desses pontos representa potencial risco à segurança e desenvolvimento saudável de crianças e adolescentes.
Análise adicional sobre práticas comerciais
O Ministério da Justiça recomenda ainda que a Secretaria Nacional do Consumidor (Senacon) examine o tema sob perspectiva consumerista. Essa análise complementar investigará como as plataformas implementam publicidade, monetização de serviços e utilização de informações de usuários, buscando identificar possíveis irregularidades em práticas comerciais que possam prejudicar consumidores, especialmente menores de idade.
As plataformas de personagens de IA operam modelos variados de monetização, frequentemente combinando versões gratuitas com assinaturas premium que oferecem funcionalidades expandidas. Muitos usuários, particularmente adolescentes, podem ser expostos a mecanismos de estímulo ao gasto que exploram vulnerabilidades psicológicas naturais da faixa etária.
Próximos passos e contexto regulatório
A recomendação formal do MJSP sinaliza que órgãos reguladores brasileiros intensificarão monitoramento sobre setor de chatbots de amizade e romance. Embora o documento ministerial não contenha acusações formais, estabelece fundação clara para investigações futuras e possível imposição de requisitos de conformidade às plataformas operantes no território nacional.
O reconhecimento governamental de que a análise constitui trabalho preliminar indica que investigações mais detalhadas deverão seguir. A avaliação dos riscos associados aos companheiros de IA integra esforço mais amplo de regulamentação do ecossistema digital brasileiro, alinhado com tendências internacionais de proteção aumentada aos direitos de menores online.
