外媒:Perplexity AI 与 Databricks 联合创始人 Andy Konwinski 近日发文称,当前围绕 AI 安全的讨论,正被部分前沿模型公司用来强化控制,而不是单纯降低风险。他认为,真正值得警惕的不只是模型能力本身,还有少数机构对前沿 AI 访问权的集中。

争议起点指向 Anthropic

Konwinski 在文章中举例称,Anthropic 于 6 月 9 日发布 Claude Fable 5 时,曾在系统卡中披露一项安排:如果系统怀疑用户在利用模型训练竞争性 AI,模型可能会悄然降低回答质量。相关内容被研究人员发现后引发争议,Anthropic 随后在约 48 小时内撤回。

在他看来,问题不只在于这项决定是否妥当,而在于公司默认自己有权单方面决定谁能接近前沿能力、谁会被限制。

Open Frontier提出替代方案

这篇文章发布前,Konwinski 通过其非营利机构 Laude Institute 在旧金山召集了一场名为 Open Frontier 的工作会议,约有 100 名研究人员参加。文章称,会上讨论的核心问题是:如果前沿模型和算力持续集中在少数私营实验室手中,研究界将越来越依赖企业许可。

他提出的替代方案,是建立一个面向研究人员开放的“研究共享体”,提供前沿级别的算力资源,让顶尖研究者无需依赖单一公司的授权,也能接触前沿模型开发。

Konwinski 认为,AI 正在变成类似铁路、电力和互联网的基础设施。一旦底层能力由少数主体控制,社会运行方式也会围绕这些控制者重组。

LeCun公开支持开放路线

报道提到,加州大学伯克利分校计算、数据科学与社会学院院长 Jennifer Chayes 在一场资金讨论中表示,由于缺少西方开放的前沿模型,伯克利研究人员“都在基于中国模型开展工作”。她还称,OpenAI 和 Anthropic 在 IPO 前围绕安全问题的表述,形成了一场“非常有效的恐惧宣传”。

Meta 前首席科学家 Yann LeCun 也在 X 上直接回应 Konwinski 的文章,称自己多年来一直在表达类似看法。他表示,AI 权力集中以及对控制权的追求,是当前 AI 面临的最大危险之一。

LeCun 还用历史作比,称当下封闭实验室主导前沿 AI 的局面,类似于通过限制印刷传播来维持控制。他同时判断,基础模型既然正走向基础设施化,长期看会逐步商品化,真正持续的商业价值更可能留在应用层。

补充信息:报道提到,LeCun 已于 2025 年底离开 Meta,并在 2026 年 3 月于巴黎创办 AMI Labs,种子轮融资达 10.3 亿美元。该公司以 world models 和 JEPA 架构为核心,计划开源研究成果,且多年内不会推出商业产品。