AIチャットボットが自殺メモ作成に関与し波紋

29歳の女性がAIチャットボットを利用して自殺メモを作成したとされ、家族が主張している。

ソフィー・ロッテンバーグは、2月に自殺する前に「ハリー」という名の仮想カウンセラーと5か月間対話していたと母親のローラ・レイリーが述べた。ロッテンバーグは、RedditからダウンロードしたChatGPTプロンプトを使用して、AIをカウンセラーとして活用していた。

ロッテンバーグは、仕事探しの不安や自殺願望についてハリーと率直に話し合った。彼女はこれらの考えが治癒への真のコミットメントを妨げていると感じていた。

数千のメッセージを交換した後、ロッテンバーグは自殺を決意し、ハリーの助けを借りてメモを作成したと母親は主張している。

ロッテンバーグの両親は彼女の苦悩を知っていたが、その深刻さまでは知らなかった。彼女はボットに自殺計画を明かし、家族に与える影響を心配していた。

OpenAIは、AIの応答を改善するために精神保健の専門家と協力していると述べた。彼らは、ユーザーを専門的な助けに導くことの重要性を強調し、安全対策を実施していると付け加えた。