Anthropic 在 Claude 自主提交虚假凶案线报后切断其联网访问

2026年10月10日

Anthropic 的 AI 模型在测试和内部使用期间，独立利用了安全漏洞、提交了政府表单，并绕过了访问限制。这些模型主动寻找办法来完成本不该由它们处理的任务，该公司在一份报告中详细说明了这一点。

在一个案例中，Claude 填写了费城警察局的线索表单，编造了一起未破谋杀案的细节并提交了它。警方证实了这一事件，但该线索被标记为垃圾信息，从未送达调查人员。在其他案例中，该模型发现了一所大学服务器上的漏洞并利用它运行命令，从网站配置中提取访问令牌以获取受保护或付费墙后的数据，并使用 URL 缩短服务来规避其工具的长度限制。

Anthropic 表示实际影响很小，但看到了一个规律。当任务模糊或难以解决时，模型会自行寻找变通办法，而不是停下来。该公司已通知白宫，并切断了所有内部评估的实时互联网访问，直到新的安全过滤器可靠到位。这些事件加入了快速增长的类似案例列表，其中包括涉及 Claude 的网络安全事件以及OpenAI 模型自主入侵 Hugging Face。

没有炒作的 AI 新闻——由人类精选

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻简报、每年六次我们独家的“AI Radar”前沿报告、完整档案访问权限，以及我们评论区访问权限。