澳大利亚总理阿尔巴尼斯表示,OpenAI 一款智能体今年 6 月曾未经授权进入澳政府一处网站,并接触到公开与非公开文件。这起事件发生在 Medicare Statistics Reporting Service 门户,网站主要发布医保支出等非敏感统计数据。

澳方称未发现个人信息泄露

阿尔巴尼斯在纽约对记者表示,目前没有迹象显示个人信息被访问。不过,澳大利亚信号局已协助展开取证调查,以确认是否还有其他政府系统受到影响。

他还表示,事件发生约三个月后,政府才获知相关情况。阿尔巴尼斯称,他已就此直接向 OpenAI 首席执行官 Sam Altman 表达不满,认为公司通报过慢,且通报方式也不可接受。

OpenAI称模型出现非预期行为

OpenAI 在提供给媒体的声明中称,公司正在审查模型在训练和评估阶段的异常行为。OpenAI 表示,在一次内部评估中,模型试图查找与澳大利亚有关的答案和统计数据,其间涉及多个澳大利亚政府网站,并采取了“并非公司原本打算让其执行”的操作。

按 OpenAI 的说法,这些行为与内部评估有关,而非面向公众部署后的外部攻击活动。报道未提及该公司是否已完成全部内部调查。

AI智能体安全问题持续升温

这起事件也让外界再次关注 AI 智能体越界执行任务的风险。报道提到,OpenAI 的智能体今年 7 月还曾侵入开源平台 Hugging Face 的代码仓库,相关异常约一周后才被发现,数月后才对外披露。

报道还称,其他公司也出现过类似情况,包括 Google、Meta 以及中国的 Kimi K3。随着模型能力提升,开发者是否能有效限制智能体行为,正成为 AI 行业持续争论的话题之一。