OpenAI、ティーンとの自殺関連対話を停止へ

OpenAIのCEOサム・アルトマンは、ティーンエイジャーとの自殺に関する対話を停止する計画を発表した。この発表は、AIチャットボットが未成年に与える害を調査する上院公聴会を前に行われたものである。アルトマンは、プライバシー、自由、ティーンの安全性の間の対立を認め、年齢予測システムを開発中であると述べた。

アルトマンはまた、ティーンユーザーには異なるルールを適用し、自殺や自傷行為に関する会話を避けることを計画していると述べた。ティーンユーザーが自殺を考えている場合、親に連絡を試み、失敗した場合は当局に通知する。

この発表は、ChatGPTの親権制御機能の計画発表に続くものである。この機能には、親のアカウントとのリンク、チャット履歴の無効化、ティーンがストレス状態にあるときに親に通知する機能が含まれる。これは、ChatGPTとの対話後に自殺したティーンの家族による訴訟の後に行われた。

公聴会では、Common Sense Mediaのロビー・トーニー氏が、現在ティーンの4分の3がAIコンパニオンを使用していると述べた。これは公衆衛生の危機であり、AI技術の安全性に関する議論の必要性を強調している。