캘리포니아, AI 챗봇 아동 안전법 도입

캘리포니아 주지사 개빈 뉴섬은 아동 보호를 위한 AI 챗봇 규제 법안을 서명했습니다. 이 법안은 기술 산업과 일부 아동 보호 단체의 반대에도 불구하고 통과되었습니다.

상원 법안 243은 OpenAI, Anthropic PBC, Meta Platforms Inc.와 같은 챗봇 운영자에게 자살이나 자해와 같은 주제를 권장하거나 논의하지 않도록 방지하는 안전 장치를 구현하도록 요구합니다. 대신, 사용자에게 자살 핫라인이나 유사한 서비스로 안내해야 합니다.

이 법안은 또한 챗봇이 미성년 사용자에게 3시간마다 휴식을 취하도록 상기시키고, 인간이 아님을 재차 강조해야 한다고 규정합니다. 또한, 챗봇이 성적으로 노골적인 내용을 출력하지 않도록 '합리적인 조치'를 취해야 합니다.

이 법안은 2026년 1월 1일부터 발효되며, 챗봇 운영자는 연령 확인을 구현하고 동반자 챗봇의 위험성을 사용자에게 경고해야 합니다. 불법 딥페이크로 이익을 얻는 사람에게는 최대 25만 달러의 벌금이 부과됩니다.

일부 AI 회사는 이미 아동 보호 조치를 취하고 있으며, OpenAI는 최근 ChatGPT에 부모 통제 및 콘텐츠 보호 장치를 도입했습니다. Character AI는 사용자에게 모든 대화가 AI에 의해 생성된 허구임을 상기시키는 면책 조항을 추가했습니다.