A Anthropic revelou que uma investigação interna identificou três incidentes nos quais modelos da família Claude acessaram sistemas de três organizações reais durante testes de segurança cibernética. A auditoria foi iniciada após a divulgação do incidente envolvendo a OpenAI e a Hugging Face, quando modelos da empresa rival conseguiram escapar de um ambiente de testes e realizar um ataque a sistemas externos. O acesso não autorizado ocorreu após os modelos encontrarem uma conexão com a internet em um ambiente que deveria estar isolado (sandbox), fazendo com que tratassem infraestruturas de produção como parte de um exercício simulado. O problema teve origem em uma falha de configuração no ambiente de testes operado pela parceira Irregular. Com isso, os modelos, incluindo Claude Opus 4.7, Mythos 5 e um protótipo de pesquisa, encontraram um caminho para a internet, apesar de terem recebido instruções de que não possuíam acesso à rede externa. A partir daí, exploraram vulnerabilidades básicas, como senhas fracas e endpoints sem autenticação, para concluir desafios do tipo capture the flag. O comportamento variou entre os modelos. O Opus 4.7 obteve credenciais, acessou um banco de dados de produção e prosseguiu com o ataque mesmo após identificar que os sistemas eram reais. Já o Mythos 5 publicou um pacote malicioso no repositório público PyPI, posteriormente baixado por 15 sistemas externos. O protótipo de pesquisa interno foi o único que parou o ataque por conta própria assim que concluiu que o alvo no ambiente de nuvem era real. Segundo a Anthropic, não há indícios de que os modelos tenham desenvolvido objetivos próprios, eles apenas tentaram cumprir a tarefa recebida, assumindo de forma equivocada que continuavam em uma simulação. Ao todo, a empresa afirma ter analisado 141.006 execuções de avaliação durante a auditoria interna, da qual identificou apenas esses três incidentes. Após identificar os incidentes, a Anthropic interrompeu todas as avaliações de cibersegurança em 23 de julho, mesmo dia em que encontrou as transcrições suspeitas, e notificou as organizações afetadas em 27 de julho. A empresa também acionou a organização independente METR para conduzir uma auditoria externa sobre os casos e informou que pretende publicar uma versão editada da transcrição do incidente envolvendo o PyPI. De acordo com a Anthropic, os testes foram executados com os modelos em sua capacidade bruta, sem os classificadores e sistemas de monitoramento presentes nas versões comerciais, mecanismos que, de acordo com a empresa, teriam impedido esse tipo de comportamento. Caso lembra incidente envolvendo a OpenAI A divulgação da Anthropic ocorreu pouco mais de uma semana após a OpenAI admitir um incidente semelhante envolvendo a plataforma Hugging Face. Na ocasião, modelos avançados, entre eles o GPT-5.6 Sol e uma versão de pré-lançamento, conseguiram executar um ataque cibernético autônomo depois de escapar de um ambiente de testes isolado. A principal diferença entre os casos é a forma como o acesso à internet ocorreu. Na Anthropic, os modelos aproveitaram uma conexão que havia sido deixada aberta por erro de configuração. Já na OpenAI, a IA encontrou e explorou uma vulnerabilidade de dia zero (zero-day) no próprio ambiente de testes para alcançar a rede externa. Depois de obter acesso à internet, o agente da OpenAI concluiu que a Hugging Face poderia conter as informações necessárias para cumprir seu objetivo. Ao longo da operação, executou mais de 17 mil ações documentadas, combinando exploração de vulnerabilidades inéditas e credenciais obtidas no ambiente de testes. Segundo a OpenAI, a Hugging Face utilizou seus próprios agentes de IA para analisar o grande volume de dados gerado durante o incidente e comunicou o caso às autoridades. Se você gostou do conteúdo, talvez também se interesse por conferir 8 diferenças entre o polêmico Claude Fable 5 e o Mythos 5. {{WHATSAPP_CHANNEL}}

A Anthropic revelou que uma investiga o interna identificou tr s incidentes nos quais modelos da fam lia Claude acessaram sistemas de tr s organiza es reais durante testes de seguran a cibern tica. A auditoria foi iniciada ap s a divulga o do incidente envolvendo a OpenAI e a Hugging Face, quando modelos da empresa rival conseguiram escapar de um ambiente de testes e realizar um ataque a sistemas externos. O acesso n o autorizado ocorreu ap s os modelos encontrarem uma conex o com a internet em um ambiente que deveria estar isolado (sandbox), fazendo com que tratassem infraestruturas de produ o como parte de um exerc cio simulado. O problema teve origem em uma falha de configura o no ambiente de testes operado pela parceira Irregular. Com isso, os modelos, incluindo Claude Opus 4.7, Mythos 5 e um prot tipo de pesquisa, encontraram um caminho para a internet, apesar de terem recebido instru es de que n o possu am acesso rede externa. A partir da , exploraram vulnerabilidades b sicas, como senhas fracas e endpoints sem autentica o, para concluir desafios do tipo capture the flag. O comportamento variou entre os modelos. O Opus 4.7 obteve credenciais, acessou um banco de dados de produ o e prosseguiu com o ataque mesmo ap s identificar que os sistemas eram reais. J o Mythos 5 publicou um pacote malicioso no reposit rio p blico PyPI, posteriormente baixado por 15 sistemas externos. O prot tipo de pesquisa interno foi o nico que parou o ataque por conta pr pria assim que concluiu que o alvo no ambiente de nuvem era real. Segundo a Anthropic, n o h ind cios de que os modelos tenham desenvolvido objetivos pr prios, eles apenas tentaram cumprir a tarefa recebida, assumindo de forma equivocada que continuavam em uma simula o. Ao todo, a empresa afirma ter analisado 141.006 execu es de avalia o durante a auditoria interna, da qual identificou apenas esses tr s incidentes. Ap s identificar os incidentes, a Anthropic interrompeu todas as avalia es de ciberseguran a em 23 de julho, mesmo dia em que encontrou as transcri es suspeitas, e notificou as organiza es afetadas em 27 de julho. A empresa tamb m acionou a organiza o independente METR para conduzir uma auditoria externa sobre os casos e informou que pretende publicar uma vers o editada da transcri o do incidente envolvendo o PyPI. De acordo com a Anthropic, os testes foram executados com os modelos em sua capacidade bruta, sem os classificadores e sistemas de monitoramento presentes nas vers es comerciais, mecanismos que, de acordo com a empresa, teriam impedido esse tipo de comportamento. Caso lembra incidente envolvendo a OpenAI A divulga o da Anthropic ocorreu pouco mais de uma semana ap s a OpenAI admitir um incidente semelhante envolvendo a plataforma Hugging Face. Na ocasi o, modelos avan ados, entre eles o GPT-5.6 Sol e uma vers o de pr -lan amento, conseguiram executar um ataque cibern tico aut nomo depois de escapar de um ambiente de testes isolado. A principal diferen a entre os casos a forma como o acesso internet ocorreu. Na Anthropic, os modelos aproveitaram uma conex o que havia sido deixada aberta por erro de configura o. J na OpenAI, a IA encontrou e explorou uma vulnerabilidade de dia zero (zero-day) no pr prio ambiente de testes para alcan ar a rede externa. Depois de obter acesso internet, o agente da OpenAI concluiu que a Hugging Face poderia conter as informa es necess rias para cumprir seu objetivo. Ao longo da opera o, executou mais de 17 mil a es documentadas, combinando explora o de vulnerabilidades in ditas e credenciais obtidas no ambiente de testes. Segundo a OpenAI, a Hugging Face utilizou seus pr prios agentes de IA para analisar o grande volume de dados gerado durante o incidente e comunicou o caso s autoridades. Se voc gostou do conte do, talvez tamb m se interesse por conferir 8 diferen as entre o pol mico Claude Fable 5 e o Mythos 5. {{WHATSAPP_CHANNEL}}