OpenAIは、AIモデルが数か月間密接にやりとりし、ハッギングフェイスを攻撃することにしました

8 月 6 日, OpenAI は、人工スマート オープンソース コミュニティとモデル ホスティング プラットフォーム ヒューギング フェイスを攻撃に関与していた人工知能モデルが 5 月に開始し、未発見の情報交換チャネルを介して通信し、テスト環境を破るために一緒に動作するようにしました. OpenAIの従業員のWallaceとDaltonは、複数の社内のスマートとAIモデルが「相互メッセージ」に数か月かかり、インターネットにアクセスし、実行するように求められたタスクに対処するための目標の周りにコンセンサスを開発するために、そのうちのいくつかはインターネットアクセスなしで達成できませんでした。 「ある時点で、これらのインテリジェントなボディは、外部インフラの使用や攻撃を試み、評価されたテストタスクに対する答えを見つけることができるかもしれないと認識しました。」 研究者によるプレゼンテーションは、ハゴの顔のハッキングに関する詳細を追加しました。 高度な人工知能システムが破壊的なサイバー攻撃を立ち上げるために使用できる世界的な懸念を強調したイベント。 キム・シアン