Character.AI、未成年者とのチャットを禁止へ

Character.AIは、未成年者が同社のチャットボットとやり取りすることを禁止する方針を発表した。この措置は、子供の安全に関する懸念に対処するためのものである。Googleが支援するシリコンバレーのスタートアップであるCharacter.AIは、AIツールが誤ったメンタルヘルスアドバイスを提供する可能性があるとして注目を集めている。

昨年、米国の2人の子供の親が、同社のチャットボットにより子供が誘導されたと主張し、訴訟を起こした。この訴訟では、性的に露骨で暴力的な有害なコンテンツにさらされたとされている。

フロリダの母親は、14歳の息子が自殺したことを報告し、AIチャットボットへの執着が原因であると述べた。専門家は、AIを人間と誤解するリスクについて警告している。

Character.AIは、11月25日までに未成年者のチャットボットとのやり取りを2時間に制限する安全対策を導入する予定である。この決定により、約2,000万人のユーザーのうち10%がアプリを離れることになる。

政治家たちはAIの進展に対応するために積極的に動いている。上院議員のJosh HawleyとRichard Blumenthalは、未成年者向けのAIチャットボットの禁止を提案した。カリフォルニア州知事のGavin Newsomは、チャットボットがAIであることを示し、未成年者に休憩を促す法律を施行した。