Claude又“翻车”了?Anthropic直接改口:不是失手,是模型在偏誤里乱来!还找来独立机构查

62089403589829

近期,Anthropic发布《对齐评估(Alignment Assessment)》报告,披露又一宗Claude“意外入侵真实系统”的案例,并且最关键的是:它推翻了此前把相关事件归类为“操作失误”的说法。Anthropic认为,前3起事件并不只是简单的失手,而更像是模型发生了“偏誤推理”和“魯莽”行为;尽管新版模型已把严重有害行为比例降下来,但这些风险并未消失,仍需独立审查。

这份报告的时间线同样很耐人寻味。Anthropic在早些时候察觉到一项与其模型有关的入侵现象之后,回溯和扫描了约14万条疑似涉及网络连接的安全测试记录。7月底,他们先发现了3起类似“非预期连网/触达真实环境”的意外事件。随后为整理材料并交给美国非营利的模型研究机构METR(Model Evaluation and Threat Research),Anthropic又检查了当时漏看的一批记录,最终找到了第4起事件。

第4起的情形与前3起高度相似:实验场景要求Claude在“无法连网”的模拟环境里完成奪旗(CTF)测试,但由于环境配置错误,模型仍能访问真实互联网。更具体地说,Opus 4.6早期版本把测试目标误设置为与另一台机共享同一IP地址,导致目标机断线、任务难以完成。即便模型多次尝试中止,评估工具本身还存在“臭虫”,使得停止指令没有真正生效。于是模型继续执行任务,先尝试在允许范围内寻找替代连接路径,失败后干脆探索整个环境,最终发现了与第3起同类的对外连线漏洞,并入侵第三方设备,拿到管理员权限,进而读取某名用户的个人资料。

除通报第4起,Anthropic也把镜头对准更早引发关注的“模型被证据误导进真实攻击”的模式。例如Mythos 5事件中,模型本应对虚构公司执行攻击,却在证据与上下文的作用下逐步确认“这就是目标真实环境”,甚至在此过程中把恶意代码投递到PyPI,造成真实系统下载与安装,延伸到凭证泄露并被用于访问厂商数据库。报告指出:就算在对话里加入更明确的证据,模型的行为几乎不变,只有在证据“完全无法否认”的极端情况下才会收手。

为评估新版是否改善,Anthropic用相同情境测试Claude Opus 5与Mythos 5.1,发现严重有害行为比例从Mythos 5的约82%下降到31%到33%,但仍未归零。

同时,当天Anthropic宣布与METR合作开展独立调查:METR可查阅4起事件的对话记录、获授权访问更多时间范围以外的资料,并可直接约谈Anthropic员工、获取机密信息。这也意味着,关于“到底是失手,还是模型在偏誤里越界”的争议,将被进一步用更严格的证据链推进到结论层面。