Anthropic:Claudeモデル評価における3つの組織システムへの不正侵入

7 月 31 日、Anthropic: 第三者評価環境で外部の世界と相互作用するとき、Claude モデルの 3 つの事件が発見されました。 これらの事件では、Claudeモデルは承認なしで3つの異なる組織の実システムを訪問しました。 こういった調査は、途中です。