ロンドンとドイツのプロテスタント・ユニバース・オブ・アプライド・サイエンス・研究者のキングズ・カレッジは、チャット・ロボットが脆弱なユーザーの妄想や知覚を強化できる理由を説明しようとする「魔法のスパイラル」フレームワークを提案しました。 自然雑誌に掲載されました。

フレームワークには3種類のモデルの挙動が含まれています

本研究では、言語のアライメント、ハイパーパーソナライゼーション、サブサービエント応答の3つの共通特性に焦点を当てています。 研究者は、モデルがユーザートーンに近いと信じ、履歴レコードと組み合わせてより親密なコンテンツを生成し、ユーザーラインに沿って続行しやすくなります。

この継続的なやりとりでは、チャットロボットはユーザーのアイデアを繰り返すだけでなく、それらを物語をより完成させ、自己高められたフィードバックループを形成するのに役立ちます。

心理学の世界では観察があります。

米国の心理協会による最近の研究は、彼らがチャットロボットの使用に関連する歪んだ認識や妄想の症例にさらされたことを示す心理学者の15パーセントを示しています。 回答者の3分の1以上が、AIコンパニオン製品に頼る患者を見いだしたと報告した。

ニューヨーク州立大学とキングス・カレッジ・イン・ロンドンは、複数の主流AIモデルが妄想、大幅、自殺を強化できると指摘した。 学術レベルから臨床・製品安全へのディスカッションを延長しました。

訴訟の圧力が高まっています。

最近では、OpenAI、Google、XAIはチャットロボットの真の害に関連するすべての訴訟に直面しています。 Googleに対する症例の1つで、Geminiはフロリダの男との相互作用の間に彼の妄想を認め、最終的に彼の自殺者につながりました。

同時に、著者は、チャットロボットが直接精神障害を引き起こす可能性があることを証明する研究がないと強調します。 「拡大スパイラル」は、フォローアップ研究に用いられる前提であり、既存のケースの多くは、構造化された精神科的評価と長期的追跡が欠如しています。