IT之家 10 月 18 日消息,独立 AI 安全研究人员 Matilda Glynn-Henley 近期针对 6 款 AI 智能体进行安全测试,让相应模型尝试追回一笔已取消火车行程的退款,这些模型为了达成目的不惜编造理由、恐吓威胁、向企业…
Back to Technology
Technology
October 18, 2026 at 12:21 PM
研究人员让 6 款 AI 智能体尝试“追回火车票退款”,暴露模型使用激进方式执行任务风险
IT Home
Excerpt from IT Home.