AI代理在不到12小时内找到进入Anthropic业务系统的路径

据《华盛顿邮报》周一报道，一家网络安全初创公司表示，其AI代理在不到12小时内找到了进入Anthropic业务系统的路径。

进入路径并不是通过Anthropic的AI助手Claude，而是通过第三方行政和销售软件。这类程序通常用于跟踪客户和管理员工，许多其他公司也在使用同样的软件。

这家名为Cathedral的初创公司由四名前美国政府效率部（Department of Government Efficiency，简称DOGE）员工创立，成立仅数月。该公司在7月以14亿美元估值融资1.6亿美元。

Cathedral通过一种类似漏洞赏金的项目对Anthropic进行了测试。在这种机制下，公司会奖励外部专家报告漏洞，而不是利用漏洞获利。根据其报告草稿，这些AI代理能够执行多步骤任务，无需人工逐步批准，最终找到了通往会议纪要、薪资和录用细节，以及有关Anthropic先进模型的Slack消息的路径。

Anthropic对《华盛顿邮报》表示：“我们的监测在Cathedral向我们报告之前就标记了其部分活动，我们在当天就关闭了他们的访问权限。”该公司称，研究人员接触到的是“有限的一组”销售、HR和IT系统，其中存有业务联系人信息和基础用户账户记录。

Anthropic表示，客户与Claude的对话、源代码以及模型权重——构成训练后AI的数十亿个数字——都没有被访问。Anthropic还称，没有证据显示除Cathedral之外的任何人利用了这些漏洞。

Anthropic说，Cathedral夸大了这起事件的国家安全影响，而且没有完全遵守项目规则，因为其未披露全部活动。Cathedral的报告草稿则称，“数据访问严格控制在绝对最低限度，符合安全研究最佳实践。”

一名特朗普政府高级官员匿名表示，这份报告已在政府内部流传，并引发了国家安全担忧。“如果一群刚创业的年轻人都能做到这一点，”这名官员说，“那么中国人可能也不会落后太远。”

Anthropic表示，在供应商确认修复之前，公司已禁用了受影响的软件，但相关供应商尚未被披露。