Goldman Sachs analyst は、治療と殺人計画についてチャットGPTに語った

米国で25歳の男は、開発者のOpenAIによって検出され、彼の計画を詳細化し、彼のChatGPTで彼の元ガールフレンドを治療し、殺すために連邦調査局(FBI)に報告されました。 人工知能企業は、多くの場合、複数のラベル付きハザードコンテンツ分類モデルを使用して、暴力、憎悪、性的暴行などの有害コンテンツを正確に異なるタイプを特定し、感情的な強さ、スピーチ、意図的なリスクのレベルを補完します。 OpenAI ' s のコーポレート・ポリシーによると、対話者が他人に害を及ぼす計画を立てる可能性があることを監視し、リスクが高いと判断した場合、同社は対話コンテンツに法執行をリードとして提供することがあります。 裁判所の文書によると、男はダーレン・ゾウと名付けられ、アジアの起源であるように現れました。 フロリダ州ウェストパームビーチでゴールドマン・サックス・アナリストでした。 FBIのエージェントは、女性が受け取った情報に対する人工知能の対話の内容をリンクし、Darrenがすでに自分の個人的なセキュリティに十分な脅威を与え、5月に逮捕されたことを結論付けました。 Darren は、$100,000 をベールで支払った後、parole でリリースされました。 ゴールドマン・サックスは、6月に雇用関係を解除しました。 ダーレンは、敵対的、他人を殺したり、他人を傷つけたりする脅威を犯したり、明確な物理的な脅威と重篤な議論をしたりする、と請求されました。 8 月 13 日、彼は罪を犯し、5 年 ' 宣告に文言されました。 ケースは、AIチャットのプライバシー境界に関する業界の議論にもつながっています。プラットフォームは、プライベートユーザー対話を監視し、ユーザー対話が法執行に言及すべき状況で測定を定義する必要があります。