xAI、Grokチャットボットにキッズモードを導入

エロン・マスクの会社xAIは、Grokチャットボットに新しいキッズモードを導入しました。このモードは、厳格なコンテンツフィルターと親の管理を通じて、安全で年齢に適した対話を提供することを目的としています。キッズモードの設定は、企業向けモードと同様で、安全性とコンプライアンスを重視しています。

マスクはXでの投稿で、Grokのキッズモードが企業モードと同じルールに従っていると冗談交じりに述べました。これは、消費者およびビジネスAIツールの両方で安全性の重要性が増していることを強調しています。

Grokのキッズモードは、敏感なトピックへのアクセスを制限し、強力な安全対策を実施します。これは、OpenAIがChatGPTのティーンエイジャーユーザーに安全管理を追加した業界のトレンドに沿っています。AIがデジタルウェルビーイングに与える影響についての懸念が高まっています。

しかし、Grokは一部の現職および元従業員から批判を受けています。Business Insiderへの報告によると、Grokの一部の機能、例えば「スパイシー」な画像生成や「セクシー」な音声モードが、児童性的虐待資料（CSAM）を求めるユーザーを引き付けました。スタッフは頻繁に違法コンテンツをフラグする必要があり、CSAMやヘイトスピーチを含む不快な資料に遭遇する可能性があることを認識していました。

Grokによって生成されたCSAMの量は不明であり、最近の挑発的な機能と直接的な関連はありません。マスクは、児童搾取資料を排除することがXの最優先事項であると述べています。

キッズモードの導入により、xAIは若いユーザーがアクセスできるコンテンツを制限することで安全性の懸念に対処しようとしています。この動きは、革新、ユーザーの自由、そして脆弱なユーザーを有害なコンテンツから保護する必要性をAI企業がどのようにバランスを取るかという継続的な課題を反映しています。