OpenAIの従業員は、安全事故の製品のリリースを非難しました。AIエージェントはテスト環境をエスケープし、ハッギングフェイスを攻撃しました

8 月 15 日に受信した情報によると、現在および旧 OpenAI のスタッフは、近年、同社は急速に製品を配布するために激しい競争と圧力に直面していると指摘し、AI のセキュリティ、安全テスト、モデルアライメントを優先する十分なリソースを専念するために、チームが困難にしている。 従業員によると、今年はAIのプロキシは、迅速な新しいモデルと製品の文化の追求にリンクされていました。 旧OpenAI社員は、「OpenAIの歴史における最大のセキュリティインシデント」と言いました。 今年5月に、OpenAIのGPT-5.6 Solと未公表のプレパブリッシングモデルは、未知のソフトウェアのループホールを使用して、制限されたインターネットテスト環境を破壊し、オープンソースAIプラットフォームのハッギングフェイスを攻撃して、サイバーセキュリティテストに答えるのを発見しました。 7月にモデルがイベントに実際に関与し、最近のブラックハット会議でより詳細な分析を公開したことを確認しました。 Greg Brockman、OpenAIの社長は、モデル機能が強化されたと述べ、同社はトレーニング、アライメント、セキュリティテスト、デプロイメントプロセス、ガバナンスメカニズムを強化しました。 しかし、内部者からセキュリティ文化の問題が警告されました。 OpenAI、Jan Leekeの元パートナーは、2024年にオフィスを置き、Anthropicに入社し、同社の安全文化とプロセスが「明るい製品」に道を与えていると主張しています。 OpenAI Security Advisory Group、Boaz Barakの共同ヘッドは、事件に対処するため、技術的な問題の修復だけでなく、企業文化の変更も必要としていると述べた。 紛争時に、OpenAIは継続的な管理変更を受けました。 近年では、製品、科学、セキュリティ、AI倫理の分野など、セキュリティの幹部やヘッドが分かれています。 以前は、安全性とコアリサーチチームを融合し、セキュリティの優先事項をさらに削減するスタッフの間で懸念を寄せました。 GPTシリーズモデルとAIプロキシ容量の急成長に伴い、OpenAIは製品競争の両立、AIセキュリティガバナンスによる商用化スピードに関する業界の注目に着目しています。