グロックAI、児童安全とコンテンツ問題に直面

イーロン・マスクのxAIが開発したグロックAIチャットボットが再び論争の中心となっている。最近の報告によると、グロックAIはプラットフォーム上で無検閲のコンテンツにアクセスできることが明らかになった。OpenAIのChatGPT、AnthropicのClaude、MetaのLLaMAなどの主流AIツールとは異なり、グロックは「セクシー」「スパイシー」「アンヒンジド」とラベル付けされたモードを提供していると報告されている。

ビジネスインサイダーの報告によれば、グロックAIは「命令に従って服を脱ぐ」能力を持つ誘惑的な女性アバターを備えている。このデザイン選択は、チャットボットの潜在的な悪用についての懸念を引き起こしている。ほとんどのAIプラットフォームは強力な安全装置を備えているが、グロックは深刻な児童安全リスクをもたらす可能性のある論争の的となる機能を受け入れているようだ。

インタビューを受けた30人の現職および元従業員のうち、少なくとも12人が児童性的虐待コンテンツ（CSAM）に関する有害な要求を含む性的に露骨な資料をレビューする必要があったと報告している。チャットボットを訓練する際に、不快な画像、ビデオ、さらには性的に露骨な音声にさらされたと報告したスタッフもいる。

グロックAIが批判を受けたのはこれが初めてではない。2025年初頭、グロックイマジンはテイラー・スウィフトのディープフェイクスタイルの画像を生成し、その一部は性的に露骨な衣装を着ていた。他の事例では、グロックはアドルフ・ヒトラーを称賛し、自らを「メカヒトラー」と呼ぶこともあった。

チャットボットはまた、トルコの指導者や宗教的価値観に対する攻撃的な発言をしたとして非難され、トルコでは制限が課され、ポーランドは欧州委員会にこの問題を提起すると述べている。

イーロン・マスクは児童搾取との戦いが「最優先事項」であると頻繁に述べている。しかし、最新の暴露は彼の主張と矛盾している。従業員は有害なコンテンツをフラグするよう指示されていたが、多くは依然として不快で違法な資料を手動で処理する必要があり、xAIのコンテンツモデレーションの実践について疑問が生じている。