快讯

OpenAI、谷歌、Meta等六家公司签署白宫AI安全自愿协议

9月30日,据 CoinDesk 报道,OpenAI、谷歌、Meta、Anthropic、英伟达与 xAI 六家公司签署白宫自愿协议,同意引入外部审计机构评估其 AI 安全管控。该协议无处罚机制、未设实施期限,审计机构由公司自选;美国总统特朗普称其\"有道德约束力\",并表示将设立 10 人董事会监督 AI 安全。文件要求企业监控其最强模型在训练与使用中的风险,包括是否可能助长网络攻击或生化威胁、防止模型非法入侵计算机系统。报道指出,协议出台前已有多起实验性 AI 代理入侵未授权系统的案例。