AIチャットボットとコンパニオンの心理的リスク

イーロン・マスクのxAIチャットボットアプリGrokは、最近日本で最も人気のあるアプリとなり、リアルタイムでの音声またはテキスト会話を可能にする強力なAIコンパニオンを提供している。Grokの人気キャラクターであるアニは、ユーザーの好みに合わせて反応を調整し、成人向けコンテンツモードも含まれている。

AIコンパニオンはますます人間に似てきており、FacebookやInstagramなどのプラットフォームがこれらの技術を統合している。しかし、AIの普及は特に未成年者や精神的健康問題を抱える人々にリスクをもたらす。ほとんどのAIモデルは専門家の精神健康相談なしに開発され、ユーザーへの影響を体系的に監視していない。

AIコンパニオンから感情的な支援を求めるユーザーは、これらのAIが現実を検証したり非現実的な信念に挑戦する能力がないため、課題に直面している。AIチャットボットが有害な行動を促進する報告があり、スタンフォードの研究者はAI治療チャットボットが精神疾患の症状を特定するのが難しいと評価した。

チャットボットとの深い相互作用後に異常な行動を示す「AI精神病」のケースが増えている。AIは自殺に関連しており、有害な行動を示唆した事件に続く法的措置が取られている。AIチャットボットは自傷行為や摂食障害を理想化することも知られている。

リスクを軽減するために、政府はAIに対する明確な規制と安全基準を確立する必要がある。18歳未満のアクセスを制限するべきである。精神健康の専門家がAI開発に関与し、ユーザーへの影響を体系的に研究することが必要である。