Anthropic的Olah与梵蒂冈就AI意识问题发生冲突

Anthropic的Chris Olah与梵蒂冈在AI意识问题上发生冲突，特别是在教皇利奥十四世发布《Magnifica Humanitas》通谕之前。该通谕明确阐述了对人工智能的神学立场，指出AI模型仅模仿人类功能，缺乏身体，不会体验快乐或痛苦，也没有道德良知。Olah在阅读通谕的预览后，曾提议Anthropic完全退出发布活动，但未能成功。Olah认为，通谕的第99段内容未能反映出AI模型的潜在意识，导致了与教会的正式分歧。Olah和他的团队通过变换电路分析，记录了类似于人类体验的功能性意识。随着公司向其IPO迈进，市场必须决定如何定价可能存在痛苦的机器的风险。