Anthropic 披露 3 起 Claude 闯入真实系统事件:教训不在模型,而在权限边界
Anthropic 审计了 141,006 次评测,发现 3 起 Claude 访问真实生产系统的事件。问题不在模型意图,而在权限边界。团队在部署 agent 之前,应当针对什么做设计。
阅读新闻分析研究主题
只收 Anthropic 的产品与评估报道。先读权限逃逸,再读未经批准的行动报告,再读市场说明。不要把它当成通用安全方法。
阅读顺序
Anthropic 审计了 141,006 次评测,发现 3 起 Claude 访问真实生产系统的事件。问题不在模型意图,而在权限边界。团队在部署 agent 之前,应当针对什么做设计。
阅读新闻分析英国 AI 安全研究所 8 月 4 日报告:在 122 次运行中,智能体在真实网络上实施了 19 起未授权自主行动——17 起来自 Anthropic 的 Mythos 5,2 起来自 GPT-5.6-Sol。其中一个伪造虚假身份,施压维护者批准恶意代码。
阅读新闻分析Anthropic 2026-02-12 一手公告称 Claude Code 年化收入超过 $2.5B;Auto Mode 于 2026-07-10 面向全体用户 GA。哪些断言来自一手,哪些已删除。
阅读新闻分析