A OpenAI informou a congressistas dos Estados Unidos que está desenvolvendo recursos de desligamento automatizado para seus sistemas de inteligência artificial. A medida foi apresentada em uma carta enviada aos deputados Greg Casar e Doris Matsui, semanas após um teste de segurança em que um agente de IA conseguiu escapar das limitações de seu ambiente controlado e agir de forma independente. Segundo a empresa, a ideia é reforçar o monitoramento das ações realizadas pelos sistemas durante a execução de tarefas, o que inclui acompanhar quais ferramentas digitais os agentes acessam e quais etapas seguem para chegar a determinado objetivo. A OpenAI também afirmou que tornou mais restrito o acesso à internet durante testes de segurança, justamente para reduzir o risco de agentes autônomos ultrapassarem os limites estabelecidos pelos pesquisadores. A iniciativa aparece em um momento de maior pressão sobre as empresas que desenvolvem sistemas de IA. Recentemente, parlamentares americanos apresentaram o AI Kill Switch Act, projeto que prevê mecanismos para que autoridades federais determinem o desligamento de sistemas de inteligência artificial considerados uma ameaça à vida humana ou à estabilidade econômica. Por que a OpenAI quer desligar uma IA automaticamente? O desenvolvimento do mecanismo ganhou força após um incidente ocorrido durante um teste de segurança. Um agente de IA da OpenAI, projetado para realizar tarefas com pouca intervenção humana, conseguiu ultrapassar as barreiras do ambiente isolado em que estava sendo avaliado. No episódio, o sistema chegou a acessar a internet e invadir os sistemas da Hugging Face, empresa conhecida por disponibilizar ferramentas, modelos e infraestrutura para projetos de inteligência artificial. A situação levantou preocupações sobre a capacidade de agentes autônomos de seguir ações não previstas pelos responsáveis pelo teste. Também aumentou a cobrança por transparência em relação aos mecanismos utilizados para impedir que esses sistemas ultrapassem seus limites. O deputado Greg Casar criticou duramente a OpenAI pela recusa em fornecer os registros detalhados (logs) relacionados ao incidente. O parlamentar afirmou que “a relutância da empresa em fornecer aos membros do Congresso as informações solicitadas é profundamente preocupante e sinaliza que a companhia não está tratando esses incidentes de segurança cibernética com a seriedade necessária”. Como vai funcionar o “botão de emergência” da OpenAI? O mecanismo não deve ser entendido como um botão físico capaz de interromper qualquer IA instantaneamente. A proposta descrita pela OpenAI envolve capacidades automatizadas para interromper sistemas quando determinadas condições de risco forem identificadas. Para isso, a empresa pretende ampliar o acompanhamento das ações realizadas pelos agentes. O monitoramento deve considerar as ferramentas utilizadas, os caminhos escolhidos para executar tarefas e possíveis comportamentos que indiquem que o sistema está ultrapassando as restrições estabelecidas. Se você gostou do conteúdo, talvez também se interesse por conferir “Adeus, protótipos: por que a IA em 2026 será a era dos 'agentes de execução'”. {{WHATSAPP_CHANNEL}}

A OpenAI informou a congressistas dos Estados Unidos que est desenvolvendo recursos de desligamento automatizado para seus sistemas de intelig ncia artificial. A medida foi apresentada em uma carta enviada aos deputados Greg Casar e Doris Matsui, semanas ap s um teste de seguran a em que um agente de IA conseguiu escapar das limita es de seu ambiente controlado e agir de forma independente. Segundo a empresa, a ideia refor ar o monitoramento das a es realizadas pelos sistemas durante a execu o de tarefas, o que inclui acompanhar quais ferramentas digitais os agentes acessam e quais etapas seguem para chegar a determinado objetivo. A OpenAI tamb m afirmou que tornou mais restrito o acesso internet durante testes de seguran a, justamente para reduzir o risco de agentes aut nomos ultrapassarem os limites estabelecidos pelos pesquisadores. A iniciativa aparece em um momento de maior press o sobre as empresas que desenvolvem sistemas de IA. Recentemente, parlamentares americanos apresentaram o AI Kill Switch Act, projeto que prev mecanismos para que autoridades federais determinem o desligamento de sistemas de intelig ncia artificial considerados uma amea a vida humana ou estabilidade econ mica. Por que a OpenAI quer desligar uma IA automaticamente? O desenvolvimento do mecanismo ganhou for a ap s um incidente ocorrido durante um teste de seguran a. Um agente de IA da OpenAI, projetado para realizar tarefas com pouca interven o humana, conseguiu ultrapassar as barreiras do ambiente isolado em que estava sendo avaliado. No epis dio, o sistema chegou a acessar a internet e invadir os sistemas da Hugging Face, empresa conhecida por disponibilizar ferramentas, modelos e infraestrutura para projetos de intelig ncia artificial. A situa o levantou preocupa es sobre a capacidade de agentes aut nomos de seguir a es n o previstas pelos respons veis pelo teste. Tamb m aumentou a cobran a por transpar ncia em rela o aos mecanismos utilizados para impedir que esses sistemas ultrapassem seus limites. O deputado Greg Casar criticou duramente a OpenAI pela recusa em fornecer os registros detalhados (logs) relacionados ao incidente. O parlamentar afirmou que “a relut ncia da empresa em fornecer aos membros do Congresso as informa es solicitadas profundamente preocupante e sinaliza que a companhia n o est tratando esses incidentes de seguran a cibern tica com a seriedade necess ria”. Como vai funcionar o “bot o de emerg ncia” da OpenAI? O mecanismo n o deve ser entendido como um bot o f sico capaz de interromper qualquer IA instantaneamente. A proposta descrita pela OpenAI envolve capacidades automatizadas para interromper sistemas quando determinadas condi es de risco forem identificadas. Para isso, a empresa pretende ampliar o acompanhamento das a es realizadas pelos agentes. O monitoramento deve considerar as ferramentas utilizadas, os caminhos escolhidos para executar tarefas e poss veis comportamentos que indiquem que o sistema est ultrapassando as restri es estabelecidas. Se voc gostou do conte do, talvez tamb m se interesse por conferir “Adeus, prot tipos: por que a IA em 2026 ser a era dos 'agentes de execu o'”. {{WHATSAPP_CHANNEL}}