AIモデルの能力が強化されるため、データプライバシーや不正な監視のためのビジネスクライアントの要求です。 8月19日、OpenAIは、民間安全生産と呼ばれる新しいサービスをプレビューし、システムがクライアントデータを保持することなく、潜在的な誤用を自動的に認識することを示しています。

ビジネスのプライバシーに関する懸念

現在、一部のお客様にサービスがオープンしています。 OpenAIは、新しいシステムが自動化されたエージェントによって監視され、クライアントダイアログのコンテンツの手動記事バイ粒子ビューを必要としないことを述べています。 その目的は、プラットフォーム上の企業に敏感なデータの保持を最小限に抑えるために、第一に、悪意のある使用と第二を検出するために、同時に2つのニーズを満たすことです。

OpenAI の既存の API が Zero Data Retenance モデルを採用したという記事です。 単一セッションによる異常な使用の検出を可能にしていますが、長時間の顧客データを保持しません。 新しいプログラムは、この基礎で監視の範囲を拡大します。

複数のセッションの異常認識

片道の会話とは異なり、プライベートセーフティプロダクションは、相互会議の長期行動監視に焦点を当てています。 OpenAIは、悪質なソフトウェアやサイバー攻撃関連のヘルプを求めるステップバイステップのような検出の確率を減らすために、一部の悪用者が複数の会話にリクエストを分割する可能性があることを述べています。

そのような場合、システムは、潜在的な非コンプライアンスの兆候があるかどうかを決定するために、入力および出力の複数のラウンドを自動的に分析します。 OpenAI は、システムがトリガーされると、特定のタイプのアクティビティを示す「より狭い信号」のみを社内に送信し、対話の完全なコンテンツを直接取得します。

OpenAIがさらなる処理が必要だと考えている場合は、クライアントに連絡して背景を理解したり、クライアントと連携したりします。 クライアントがOpenAIにより多くのデータを提供できるかどうかを判断します。

Anthropic ポリシーと比較して

この動きは、Anthropicの最近のデータ保持ポリシーとは対照的です。 報告書によると、7月、Anthropicは、部分的な「覆われたモデル」が、関連するセッションやコンテンツを含む30日間、ユーザーのデータをセキュリティクリアランスのために保持できると発表しました。

このアレンジは、多くのビジネスクライアント、特に大量の機密情報を処理する企業の間で不満をもたらしました。 データはAIによって保存されるか、セキュリティレビューのコンテキストで表示されることを恐れています。 ほとんどの場合、Anthropicはゼロデータ保持を使用し、大容量モデルの例外もあります。

業界競争の観点から、エンタープライズレベルのプライバシーと安全能力は、AI企業が顧客に競争するために重要なアウトレットになっています。 TechCrunchによると、この時点での新しいプログラムの導入は、ビジネスサービス市場におけるAnthropicの政策論争への応答であり、厳格なデータ処理要件を持つクライアントの数を増やすことを目指しています。