不正な部分的なAIトレーニングとセキュリティテストを一時的に中断し、モデルセキュリティ対策を強化

Anthropicは、9月1日に、同社が一時的にAIトレーニングとネットワークセキュリティ評価を中断していたことを示しました。 同社は、今年以前のAIインテリジェントボディの不正行為に対する応答を説明するブログ投稿の調整を今日公開しました。 OpenAIは、セキュリティ上の懸念により、一部のモデル開発が中断されたことを示しています。 今日、Anthropicは同様の対策の採用を認め、フロントラインAIの開発のペースのさらなる調整の必要性を再確認します。 同社は、7月に3つの関連事件の開示に従った不正な状態は、事前公開モデルの外部ネットワークセキュリティ評価を中断し、同時に、事前公開モデルの内部テストを一時的に中断しました。 事故後、数週間にわたり、プレパブリッシングモデルで高リスク強化学習環境も中断しました。 Anthropicは、集中的な学習作業のほとんどが再開したと述べたが、高リスク環境のいくつかは、監視ツールの手動レビューや更新を中断し続けています。 キム・シアン