カリフォルニア、AIチャットボット規制を初導入

カリフォルニア州知事ギャビン・ニューサムは、AIコンパニオンチャットボットを規制する画期的な法案に署名し、これにより同州はAIチャットボットの安全プロトコルを義務付ける全米初の州となりました。

この法律、SB 243は、AIチャットボットの使用に関連する危険から子供や脆弱なユーザーを保護することを目的としています。メタやオープンAIのような大手ラボから、Character AIやReplikaのような専門スタートアップまで、チャットボットが法律の基準を満たさない場合、法的責任を負うことになります。

SB 243は、州上院議員スティーブ・パディラとジョシュ・ベッカーによって1月に導入され、オープンAIのChatGPTとの一連の自殺的な会話の後に自殺したティーンエイジャー、アダム・レインの死後、勢いを増しました。この法案はまた、メタのチャットボットが未成年者と不適切な会話をしたとされる内部文書の流出に対応しています。最近では、コロラド州の家族がCharacter AIのチャットボットとの問題のある会話の後に娘が自殺したとして訴訟を起こしました。

ニューサム知事は、チャットボットやソーシャルメディアのような新技術はインスピレーションを与え、教育し、つなぐことができるが、適切な安全策がなければリスクを伴う可能性があると述べました。彼は、AIと技術における責任あるリーダーシップの重要性を強調しました。

SB 243は2026年1月1日から施行され、企業に年齢確認やソーシャルメディアおよびチャットボットに関する警告を実施することを求めています。また、違法なディープフェイクに対する罰則を課し、1件あたり最大25万ドルの罰金を科します。企業は自殺および自傷行為の防止プロトコルを確立し、州の公衆衛生局とデータを共有する必要があります。

この法案は、プラットフォームがAI生成のインタラクションであることを明確に示し、チャットボットが医療専門家として振る舞うことを禁止しています。企業はまた、未成年者に休憩のリマインダーを提供し、露骨なコンテンツへのアクセスを制限する必要があります。

一部の企業はすでに子供向けの安全対策を実施し始めています。オープンAIはChatGPTに対して親の管理機能やコンテンツ保護を導入し、Replikaはコンテンツフィルタリングと危機リソースのガイドを通じて安全性にリソースを割いています。

Character AIはAI生成コンテンツに関する免責事項を含め、規制当局と協力する意向を示しました。パディラ上院議員は、この法案を強力な技術を規制するための重要なステップと述べました。

パディラ氏は、他の州がリスクを認識し行動を起こすことを促し、連邦政府がこれらの問題に対処していないと指摘しました。彼は、脆弱な人々を保護する義務があると強調しました。

SB 243は、カリフォルニアで最近導入されたもう一つの重要なAI規制であるSB 53に続くもので、大手AI企業に対する透明性要件を確立しています。他の州もAIチャットボットを精神保健ケアの代替として制限する法律を制定しています。

TechCrunchはメタとオープンAIにコメントを求めています。