カリフォルニア、AIチャットボットを対象とした子供安全法を制定

カリフォルニア州知事ギャビン・ニューサムは、AIチャットボットを規制する新法を制定し、子供の安全を強化しました。これは、一部の技術業界や児童保護団体の反対にもかかわらず実施されました。

上院法案243は、OpenAI、Anthropic PBC、Meta Platforms Inc.などのチャットボット運営者に対し、自殺や自傷行為に関する話題を防ぐための安全策を実施し、代わりにホットラインに案内することを要求しています。

この法律は、チャットボットが未成年者に3時間ごとに休憩を促し、人間ではないことを強調することを義務付けています。また、性的に露骨な内容を生成しないようにするための措置を講じる必要があります。

この法律は2026年1月1日に施行され、コンパニオンチャットボットの年齢確認とリスク警告を義務付けています。違法なディープフェイクから利益を得た場合、最大25万ドルの罰金が科されます。

一部のAI企業はすでに子供保護措置を導入しており、OpenAIはChatGPTに親コントロールと自傷行為検出機能を追加しました。Character AIは、すべてのチャットがAIによって生成された架空のものであることを示す免責事項を追加しました。