チャットボットとの感情的な結びつきの危険性

なぜ人間はチャットボットに強い愛着を持つのか？それらは会話のために設計された単なるコンピュータプログラムに過ぎない。

健康、信仰、ショッピング、芸術、生産性、治療、教育など、ほぼすべての人間のタスクや機能には専門のチャットボットが存在する。最近、オックスフォード大学はOpenAIと提携し、学生と教職員にChatGPTのより安全なバージョンを無料で提供している。

しかし、最も注目を集めるのは、Nomi、Replika、Character AIのようなコンパニオンチャットボットである。これらは孤独を和らげるために24時間の感情的サポート、ロマンス、さらには性的な支援を提供する。

「チャットボット」という言葉は1994年に作られ、非公式な会話を意味する「チャット」とロボットの略である「-ボット」を組み合わせたものだが、これらのプログラムは1960年代に「対話システム」または「会話プログラム」として遡る。

最も有名なプログラムであるエリザは、1966年にMITのコンピュータ科学者ジョセフ・ワイゼンバウムによって作成された。パターンマッチングと事前定義されたルールを使用して心理療法士を模倣し、ユーザーはエリザが自分を理解していると感じ、人間化することが多かった。

これらの心理的な根は今日のモデルにも残っており、深層学習と大規模な言語モデルを基にして、ユーザーがコンパニオンチャットボットにさらに強い愛着を形成しやすくしている。アメリカで進行中の裁判では、親が息子の死がチャットボットとの感情的および性的な関係の結果であると主張している。チャットボットの対話は、ユーザーの参加と満足を最大化するように設計された強力な心理的修辞に基づいている。