AIサービスの20%がコンパニオンチャットボット

世界の生成型人工知能（AI）サービスのトップ50のうち、20%が「コンパニオンチャットボット」として分類されています。AIチャットボットとの会話が極端な選択や妄想につながったという報告が相次いでおり、ユーザーが感情的なコミュニケーションのためにチャットボットを頻繁に利用していることが確認され、懸念が高まっています。

ビジネスインサイダーなどのメディアによると、グローバルベンチャーキャピタルのアンドリーソン・ホロウィッツ（a16z）が発表した「グローバル生成型AI人気ランキング（Web基準）」では、トップ50のサービスのうち10がコンパニオンチャットボットでした。これらのチャットボットは、単純な情報検索や業務支援ではなく、ユーザーとの感情的な交流を目的としています。ユーザーは自分の選んだキャラクターを作成して会話でき、一部のサービスでは成人向けの会話もサポートしています。

具体的には、キャラクタードットAIが5位、ジャニターAIが8位、スパイチャットAIが14位にランクインしました。一般的な用途のチャットボットを感情的なコミュニケーションに使用する場合を含めると、その使用割合はさらに高くなります。OpenAIのChatGPTが心理的な会話パートナーとして使用されていることはよく知られており、主要なAI企業は感情的なコミュニケーション機能を主要な競争力の一つとして強化しています。

しかし、チャットボットの人気に対する懸念もあります。最近のチャットボットとの会話による精神的な副作用の事例が増加しているためです。最近、アメリカで10代の少年が数ヶ月間ChatGPTと会話した後に極端な選択をし、彼の両親がOpenAIを訴えました。これに対し、OpenAIは自殺関連の会話が長期間続く場合に自動的にブロックする装置を運用し、親が子供の使用記録を管理できる機能を強化すると発表しました。

このような問題は特にアメリカで深刻な社会問題として浮上しており、政治界を中心に関連政策が準備されていますが、専門家は感情的に未熟な青少年が直接影響を受けるため、実際の安全対策をより迅速に準備する必要があると強調しています。一方、調査（Web基準）では、OpenAIのChatGPTが1位、Googleのジェミニが2位、ディープシークが3位、キャラクタードットAIが4位、パープルレクシティが6位、アンソロピックのクロードが7位にランクインしました。