O Ministério da Justiça e Segurança Pública pediu que a Agência Nacional de Proteção de Dados (ANPD) investigue 13 aplicativos de inteligência artificial que simulam amizade, companheirismo ou vínculo afetivo com os usuários. O governo aponta riscos de dependência emocional, uso compulsivo, exposição a conteúdo inadequado e coleta excessiva de dados, especialmente quando essas ferramentas são usadas por crianças e adolescentes. A lista analisada inclui Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Swipey, Anima e SpicyChat.AI. O levantamento é preliminar e, segundo o próprio Ministério da Justiça, não significa que essas plataformas já tenham cometido infrações. O que são IAs de "companhia"? Esses aplicativos são diferentes de chatbots de uso geral, como ChatGPT e Gemini. Eles são desenvolvidos para manter conversas contínuas e personalizadas, lembrar interações anteriores e simular uma personalidade ou relação emocional com o usuário. Em alguns casos, a proposta é funcionar como amigo virtual, parceiro romântico ou confidente. É justamente esse tipo de interação prolongada que preocupa o governo, principalmente quando envolve menores de idade. Segundo a Secretaria Nacional de Direitos Digitais (Sedigi), os possíveis impactos incluem apego excessivo, substituição de relações presenciais, privação de sono, queda no desempenho escolar e abandono de outras atividades. Também foram identificados riscos de exposição a conteúdo sexualizado ou inadequado. O uso desse tipo de serviço cresceu rapidamente. Dados citados pelo Ministério da Justiça, com base em relatório do Unicef, indicam que o número de aplicativos de companhia por IA passou de 16 em 2022 para 128 em julho de 2025. Somente no primeiro semestre de 2025, essas plataformas somaram cerca de 60 milhões de downloads. Verificação de idade é um dos problemas Outro ponto levantado pelo governo é a facilidade para menores acessarem esses aplicativos. A análise concluiu que a maioria dos serviços avaliados utiliza apenas a autodeclaração de idade, em que o próprio usuário informa quantos anos tem. Esse mecanismo pode ser facilmente contornado e, segundo a Sedigi, é insuficiente para serviços que oferecem conteúdos inadequados para menores de 18 anos. O documento também menciona a criação de perfis emocionais e comportamentais a partir das conversas. Essas informações podem ser usadas para personalizar respostas, publicidade ou ofertas de recursos pagos, o que levanta dúvidas sobre possível exploração comercial da vulnerabilidade de adolescentes. A investigação deverá considerar as regras do Estatuto Digital da Criança e do Adolescente (ECA Digital), que estabelece obrigações específicas para serviços usados por menores. A nota foi enviada tanto à ANPD quanto à Secretaria Nacional do Consumidor (Senacon). Preocupação também cresce fora do Brasil O debate não está restrito ao país. A União Europeia apresentou recentemente uma proposta para restringir chatbots capazes de simular relações emocionais com menores, incluindo medidas para reduzir o risco de dependência e limitar o armazenamento de informações entre conversas. No Brasil, o pedido de investigação faz parte de uma série de ações recentes do governo voltadas à segurança de crianças e adolescentes no ambiente digital, que também inclui novas regras para comunicação de crimes à Polícia Federal e medidas contra plataformas como o Discord. Veja mais de IA no Canaltech: Como usar ChatGPT e Gemini sem entregar seus maiores segredos {{WHATSAPP_CHANNEL}}

O Minist rio da Justi a e Seguran a P blica pediu que a Ag ncia Nacional de Prote o de Dados (ANPD) investigue 13 aplicativos de intelig ncia artificial que simulam amizade, companheirismo ou v nculo afetivo com os usu rios. O governo aponta riscos de depend ncia emocional, uso compulsivo, exposi o a conte do inadequado e coleta excessiva de dados, especialmente quando essas ferramentas s o usadas por crian as e adolescentes. A lista analisada inclui Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Swipey, Anima e SpicyChat.AI. O levantamento preliminar e, segundo o pr prio Minist rio da Justi a, n o significa que essas plataformas j tenham cometido infra es. O que s o IAs de "companhia"? Esses aplicativos s o diferentes de chatbots de uso geral, como ChatGPT e Gemini. Eles s o desenvolvidos para manter conversas cont nuas e personalizadas, lembrar intera es anteriores e simular uma personalidade ou rela o emocional com o usu rio. Em alguns casos, a proposta funcionar como amigo virtual, parceiro rom ntico ou confidente. justamente esse tipo de intera o prolongada que preocupa o governo, principalmente quando envolve menores de idade. Segundo a Secretaria Nacional de Direitos Digitais (Sedigi), os poss veis impactos incluem apego excessivo, substitui o de rela es presenciais, priva o de sono, queda no desempenho escolar e abandono de outras atividades. Tamb m foram identificados riscos de exposi o a conte do sexualizado ou inadequado. O uso desse tipo de servi o cresceu rapidamente. Dados citados pelo Minist rio da Justi a, com base em relat rio do Unicef, indicam que o n mero de aplicativos de companhia por IA passou de 16 em 2022 para 128 em julho de 2025. Somente no primeiro semestre de 2025, essas plataformas somaram cerca de 60 milh es de downloads. Verifica o de idade um dos problemas Outro ponto levantado pelo governo a facilidade para menores acessarem esses aplicativos. A an lise concluiu que a maioria dos servi os avaliados utiliza apenas a autodeclara o de idade, em que o pr prio usu rio informa quantos anos tem. Esse mecanismo pode ser facilmente contornado e, segundo a Sedigi, insuficiente para servi os que oferecem conte dos inadequados para menores de 18 anos. O documento tamb m menciona a cria o de perfis emocionais e comportamentais a partir das conversas. Essas informa es podem ser usadas para personalizar respostas, publicidade ou ofertas de recursos pagos, o que levanta d vidas sobre poss vel explora o comercial da vulnerabilidade de adolescentes. A investiga o dever considerar as regras do Estatuto Digital da Crian a e do Adolescente (ECA Digital), que estabelece obriga es espec ficas para servi os usados por menores. A nota foi enviada tanto ANPD quanto Secretaria Nacional do Consumidor (Senacon). Preocupa o tamb m cresce fora do Brasil O debate n o est restrito ao pa s. A Uni o Europeia apresentou recentemente uma proposta para restringir chatbots capazes de simular rela es emocionais com menores, incluindo medidas para reduzir o risco de depend ncia e limitar o armazenamento de informa es entre conversas. No Brasil, o pedido de investiga o faz parte de uma s rie de a es recentes do governo voltadas seguran a de crian as e adolescentes no ambiente digital, que tamb m inclui novas regras para comunica o de crimes Pol cia Federal e medidas contra plataformas como o Discord. Veja mais de IA no Canaltech: Como usar ChatGPT e Gemini sem entregar seus maiores segredos {{WHATSAPP_CHANNEL}}