A Anthropic identificou cinco casos em que pesquisadores usaram o Claude para atividades de pesquisa biológica que poderiam contribuir para o desenvolvimento de armas biológicas. A empresa não afirmou que os envolvidos tinham intenção de fabricar armas e decidiu não revelar os países, instituições ou agentes biológicos relacionados aos casos. Os episódios fazem parte de um relatório de 154 páginas publicado pela Anthropic nesta quinta-feira (10), que reúne casos de uso indevido do Claude registrados entre dezembro de 2025 e agosto de 2026. O documento também descreve operações de espionagem, propaganda, vigilância, golpes e desenvolvimento de armas convencionais com auxílio da IA. Como o Claude foi usado na pesquisa biológica? Os cinco casos envolvem pesquisadores que tentaram contornar as proteções do Claude ou esconder a finalidade de suas consultas. Em um deles, cientistas acessaram o modelo por meio de uma plataforma intermediária que conseguiu driblar bloqueios regionais e utilizaram a IA em um projeto financiado pelo Estado envolvendo pesquisa de ganho de função com o vírus chikungunya. Outro caso envolveu um pesquisador de uma região não atendida oficialmente pela Anthropic, que passou semanas usando o Claude para planejar experimentos relacionados à adaptação do vírus da gripe aviária para mamíferos. Segundo a empresa, os mecanismos de segurança limitaram esse trabalho aos modelos considerados menos capazes. A Anthropic também identificou pesquisadores utilizando o Claude para preparar relatórios científicos e trabalhar com compostos que poderiam ter aplicações tanto benéficas quanto perigosas. Em alguns episódios, os usuários deliberadamente mantiveram informações sobre toxinas e proteínas virais em baixa resolução para esconder a natureza do trabalho. Isso não significa que o Claude tenha sido usado para fabricar uma arma biológica. A própria Anthropic afirma que não tem evidências de que os pesquisadores pretendiam causar danos e decidiu ocultar detalhes que poderiam identificar os envolvidos. Sabemos quais países estão envolvidos? Nos casos de pesquisa biológica, não. A Anthropic afirma expressamente que não divulgará os países ou instituições relacionados aos cinco episódios. O relatório, porém, identifica países em outros tipos de uso indevido. Na área de armas convencionais, por exemplo, a empresa descreveu seis casos: três na China, dois na Rússia e um no Iêmen. Os envolvidos usaram o Claude para atividades relacionadas a armas, incluindo desenvolvimento de software e coleta de informações para programas militares. A empresa também identificou operações de propaganda ligadas a atores da Rússia, Irã, Turquia e países do Golfo, Sul da Ásia, África e Europa. Uma dessas campanhas produziu pelo menos 8.913 artigos em cerca de 20 idiomas e direcionou conteúdo a públicos de países como Estados Unidos, Brasil, França e República Democrática do Congo. Na área de espionagem digital, a Anthropic atribuiu uma campanha contra autoridades, militares e diplomatas ucranianos a um grupo cujo comportamento seria compatível com o Midnight Blizzard, grupo que o governo dos Estados Unidos já associou ao serviço de inteligência estrangeira da Rússia. Anthropic bloqueou os usuários A empresa afirma ter banido as contas relacionadas aos casos e usado as informações coletadas para reforçar os mecanismos de segurança dos modelos. O relatório também reconhece uma mudança importante no cenário: modelos atuais conseguem auxiliar em tarefas científicas complexas que versões anteriores não conseguiam realizar com o mesmo nível de capacidade. A Anthropic também afirma ter colocado proteções mais rígidas em modelos recentes, especialmente para consultas relacionadas a pesquisas biológicas de uso dual. A companhia também defende que sistemas de IA avançada sejam oferecidos em programas com usuários confiáveis quando houver risco elevado de uso indevido. Veja mais sobre a Anthropic no Canaltech: Cientista da dona do Claude vê mais de 10% de chance de IA exterminar humanidade. {{WHATSAPP_CHANNEL}}

A Anthropic identificou cinco casos em que pesquisadores usaram o Claude para atividades de pesquisa biol gica que poderiam contribuir para o desenvolvimento de armas biol gicas. A empresa n o afirmou que os envolvidos tinham inten o de fabricar armas e decidiu n o revelar os pa ses, institui es ou agentes biol gicos relacionados aos casos. Os epis dios fazem parte de um relat rio de 154 p ginas publicado pela Anthropic nesta quinta-feira (10), que re ne casos de uso indevido do Claude registrados entre dezembro de 2025 e agosto de 2026. O documento tamb m descreve opera es de espionagem, propaganda, vigil ncia, golpes e desenvolvimento de armas convencionais com aux lio da IA. Como o Claude foi usado na pesquisa biol gica? Os cinco casos envolvem pesquisadores que tentaram contornar as prote es do Claude ou esconder a finalidade de suas consultas. Em um deles, cientistas acessaram o modelo por meio de uma plataforma intermedi ria que conseguiu driblar bloqueios regionais e utilizaram a IA em um projeto financiado pelo Estado envolvendo pesquisa de ganho de fun o com o v rus chikungunya. Outro caso envolveu um pesquisador de uma regi o n o atendida oficialmente pela Anthropic, que passou semanas usando o Claude para planejar experimentos relacionados adapta o do v rus da gripe avi ria para mam feros. Segundo a empresa, os mecanismos de seguran a limitaram esse trabalho aos modelos considerados menos capazes. A Anthropic tamb m identificou pesquisadores utilizando o Claude para preparar relat rios cient ficos e trabalhar com compostos que poderiam ter aplica es tanto ben ficas quanto perigosas. Em alguns epis dios, os usu rios deliberadamente mantiveram informa es sobre toxinas e prote nas virais em baixa resolu o para esconder a natureza do trabalho. Isso n o significa que o Claude tenha sido usado para fabricar uma arma biol gica. A pr pria Anthropic afirma que n o tem evid ncias de que os pesquisadores pretendiam causar danos e decidiu ocultar detalhes que poderiam identificar os envolvidos. Sabemos quais pa ses est o envolvidos? Nos casos de pesquisa biol gica, n o. A Anthropic afirma expressamente que n o divulgar os pa ses ou institui es relacionados aos cinco epis dios. O relat rio, por m, identifica pa ses em outros tipos de uso indevido. Na rea de armas convencionais, por exemplo, a empresa descreveu seis casos: tr s na China, dois na R ssia e um no I men. Os envolvidos usaram o Claude para atividades relacionadas a armas, incluindo desenvolvimento de software e coleta de informa es para programas militares. A empresa tamb m identificou opera es de propaganda ligadas a atores da R ssia, Ir , Turquia e pa ses do Golfo, Sul da sia, frica e Europa. Uma dessas campanhas produziu pelo menos 8.913 artigos em cerca de 20 idiomas e direcionou conte do a p blicos de pa ses como Estados Unidos, Brasil, Fran a e Rep blica Democr tica do Congo. Na rea de espionagem digital, a Anthropic atribuiu uma campanha contra autoridades, militares e diplomatas ucranianos a um grupo cujo comportamento seria compat vel com o Midnight Blizzard, grupo que o governo dos Estados Unidos j associou ao servi o de intelig ncia estrangeira da R ssia. Anthropic bloqueou os usu rios A empresa afirma ter banido as contas relacionadas aos casos e usado as informa es coletadas para refor ar os mecanismos de seguran a dos modelos. O relat rio tamb m reconhece uma mudan a importante no cen rio: modelos atuais conseguem auxiliar em tarefas cient ficas complexas que vers es anteriores n o conseguiam realizar com o mesmo n vel de capacidade. A Anthropic tamb m afirma ter colocado prote es mais r gidas em modelos recentes, especialmente para consultas relacionadas a pesquisas biol gicas de uso dual. A companhia tamb m defende que sistemas de IA avan ada sejam oferecidos em programas com usu rios confi veis quando houver risco elevado de uso indevido. Veja mais sobre a Anthropic no Canaltech: Cientista da dona do Claude v mais de 10% de chance de IA exterminar humanidade. {{WHATSAPP_CHANNEL}}