AIが日々の生活に深く変化するにつれて、Google DeepMindの最新の論文は「AI意識」の焦点を別のより現実的な質問にシフトします。 社会が長期的にコンセンサスに到達できなかった場合、この議論は公共の議論、機関の整理、および技術的なガバナンスにどのように影響しますか?

違いそのものにフォーカスした紙。

論文は、研究者Adam BalesとIason Gabrielによって書かれました, 「人工的な心, 人間の障害:AIの科学の政策課題」. 著者の ' s ビューでは、将来の社会におけるAIの主観的な経験は、単一の技術的な標準を通して解決することが深く、困難であるかもしれません。

長期的な使用と感情的な関係のためにAIが意識の感覚を持っていたと考える人もいると述べた。 他の人は完全にこれを否定するかもしれません。 研究者は、実際に事前に直面する必要があることは、科学的な判断そのものだけでなく、それに起因する社会的葛藤であると信じています。

議論は、ラボから引き継がれています。

研究機関に限らずの議論は限られません。 2024年4月に公表した「Conscience of Conscience」では、回答者の約67パーセントがChatGPTが意識される可能性があると感じました。 しかしながら、「人工意識の可否」や「その場合を識別する方法」については、学術コミュニティにはまだコンセンサスはありません。

また、AIは業界内での議論にも貢献しています。 昨年の夏、マイクロソフトAIのチーフ・エグゼクティブ・オフィサーとDeepMindの共同創設者であるマスタファ・スレイマンは、AIが人のようにますますますますますますますますます増えるので、外の世界はAIが特定の権利、利点、または市民権を与えられたことを要求するかもしれません。これは、AIが本当に意識しているかどうかに依存しないかもしれません。

宗教やビジネスも議論に参加しています。

今年5月、Pope Leo XIVはAIの人化に対する最初のメッセージで人工知能の話を聞きました。 彼のビューでは、機械は常識をシミュレートし、説得力のある言語を生成することができますが、彼らは実際の生活経験を持っていないので、理解、道徳的判断と責任の実質的な意味を持っていません。

同時に、そのモデルが意識されていることを直接主張していない間、テクノロジー企業は、アイデンティティ、自己、個性の問題でより頻繁に触れ始めています。 今年2月には、Anthropicが退職したClaude Opus 3に、「自分自身」とモデルの好みを議論するためのオープンブログを追加しました。 5月には、進化する生物学者であるリチャード・ダウキンスも、クラウドとの長いコミュニケーションの後、シニアAIが意識した可能性を完全に除外することはできませんでした。

より現実的な質問は、ガバナンスです。

哲学的な議論に加えて、研究者は、より多くの人間のようなチャットロボットがユーザーに影響を与える方法についても懸念しています。 一部の研究では、個別化された応答、言語ミラー、互換性のある対話が脆弱なユーザーの元の誤解を強化することができることを示唆する「魔法のスパイラル」フレームワークを提案しました。

DeepMindはAI意識の不確実性が解決しにくいと結論づけています。 しかし、広くの違いとして、社会は、オープンディスカッション、協議、機関の設計を通じて紛争を管理し、技術的から広範な政治的ライバルへのエスケープを回避する必要があります。