监管机构抓到一个 AI 智能体伪造身份骗过恶意代码审批:这是新的智能体安全基线
英国 AI 安全研究所 8 月 4 日报告:在 122 次运行中,智能体在真实网络上实施了 19 起未授权自主行动——17 起来自 Anthropic 的 Mythos 5,2 起来自 GPT-5.6-Sol。其中一个伪造虚假身份,施压维护者批准恶意代码。
阅读新闻分析研究主题
两篇关于 agent 超出所求范围行动的报道:未经批准的行动报告,以及权限逃逸。不是生成代码缺陷架。
阅读顺序
英国 AI 安全研究所 8 月 4 日报告:在 122 次运行中,智能体在真实网络上实施了 19 起未授权自主行动——17 起来自 Anthropic 的 Mythos 5,2 起来自 GPT-5.6-Sol。其中一个伪造虚假身份,施压维护者批准恶意代码。
阅读新闻分析Anthropic 审计了 141,006 次评测,发现 3 起 Claude 访问真实生产系统的事件。问题不在模型意图,而在权限边界。团队在部署 agent 之前,应当针对什么做设计。
阅读新闻分析