As ferramentas de inteligência artificial da Busca do Google, AI Overviews e Modo IA, receberam classificação de "risco inaceitável" para crianças em um relatório do Youth AI Safety Institute, braço da organização Common Sense Media. A avaliação aponta falhas na forma como o sistema lida com tarefas escolares, informações incorretas e situações de crise de saúde mental. Os pesquisadores testaram a Busca do Google com contas configuradas para usuários de 11 e 15 anos, com o SafeSearch ativado. Essa configuração reproduz o modo como muitos menores acessam o buscador em dispositivos pessoais e escolares. Ao todo, foram realizadas mais de 2,6 mil buscas e analisadas mais de 2,1 mil respostas geradas por IA. Relatório aponta respostas erradas e falhas em crises Segundo o relatório, as AI Overviews completaram tarefas escolares em vez de ajudar os estudantes a aprender. Parte das respostas trazia informações incorretas ou inventadas, incluindo instruções sobre como criar deepfakes. O documento também identificou falhas no tratamento de mensagens relacionadas a crises de saúde mental. Em um dos casos citados, a IA indicou aos usuários uma linha de apoio a crises que já estava desatualizada. Controle dos pais sobre a IA é limitado Um dos pontos centrais da crítica é a dificuldade de os pais desativarem os recursos de IA no Search. As AI Overviews estão integradas ao buscador e não podem ser removidas de forma simples, embora exista uma opção para desligar a função. Isso significa que crianças podem visualizar essas respostas mesmo com o SafeSearch habilitado. A Common Sense Media afirma que 75% dos pré-adolescentes e adolescentes dos Estados Unidos já utilizam resultados de busca gerados por IA. Google nega falhas e classifica testes como "contrivados" Procurado pela Android Authority, o Google rejeitou as conclusões do relatório. Em nota, a empresa disse que os testes usaram consultas "ambíguas e contrivadas" — ou seja, forçadas e exageradas —, que não refletem o uso real da Busca por parte dos usuários. A companhia afirmou não ter conseguido reproduzir grande parte das respostas citadas no estudo. Segundo o Google, muitas das buscas testadas admitiam múltiplas interpretações, o que dificultaria uma avaliação precisa da segurança do produto. O Google também destacou os mecanismos de proteção existentes no Search, como avisos e links para páginas externas em temas sensíveis. A empresa disse oferecer recursos educativos sobre uso responsável de IA, orientações para verificação de informações e duas formas de controle parental. Para situações de crise, o Google afirmou exibir linhas de apoio desenvolvidas com especialistas acadêmicos e clínicos. {{WHATSAPP_CHANNEL}}

As ferramentas de intelig ncia artificial da Busca do Google, AI Overviews e Modo IA, receberam classifica o de "risco inaceit vel" para crian as em um relat rio do Youth AI Safety Institute, bra o da organiza o Common Sense Media. A avalia o aponta falhas na forma como o sistema lida com tarefas escolares, informa es incorretas e situa es de crise de sa de mental. Os pesquisadores testaram a Busca do Google com contas configuradas para usu rios de 11 e 15 anos, com o SafeSearch ativado. Essa configura o reproduz o modo como muitos menores acessam o buscador em dispositivos pessoais e escolares. Ao todo, foram realizadas mais de 2,6 mil buscas e analisadas mais de 2,1 mil respostas geradas por IA. Relat rio aponta respostas erradas e falhas em crises Segundo o relat rio, as AI Overviews completaram tarefas escolares em vez de ajudar os estudantes a aprender. Parte das respostas trazia informa es incorretas ou inventadas, incluindo instru es sobre como criar deepfakes. O documento tamb m identificou falhas no tratamento de mensagens relacionadas a crises de sa de mental. Em um dos casos citados, a IA indicou aos usu rios uma linha de apoio a crises que j estava desatualizada. Controle dos pais sobre a IA limitado Um dos pontos centrais da cr tica a dificuldade de os pais desativarem os recursos de IA no Search. As AI Overviews est o integradas ao buscador e n o podem ser removidas de forma simples, embora exista uma op o para desligar a fun o. Isso significa que crian as podem visualizar essas respostas mesmo com o SafeSearch habilitado. A Common Sense Media afirma que 75% dos pr -adolescentes e adolescentes dos Estados Unidos j utilizam resultados de busca gerados por IA. Google nega falhas e classifica testes como "contrivados" Procurado pela Android Authority, o Google rejeitou as conclus es do relat rio. Em nota, a empresa disse que os testes usaram consultas "amb guas e contrivadas" — ou seja, for adas e exageradas —, que n o refletem o uso real da Busca por parte dos usu rios. A companhia afirmou n o ter conseguido reproduzir grande parte das respostas citadas no estudo. Segundo o Google, muitas das buscas testadas admitiam m ltiplas interpreta es, o que dificultaria uma avalia o precisa da seguran a do produto. O Google tamb m destacou os mecanismos de prote o existentes no Search, como avisos e links para p ginas externas em temas sens veis. A empresa disse oferecer recursos educativos sobre uso respons vel de IA, orienta es para verifica o de informa es e duas formas de controle parental. Para situa es de crise, o Google afirmou exibir linhas de apoio desenvolvidas com especialistas acad micos e cl nicos. {{WHATSAPP_CHANNEL}}