디즈니, 아동 안전 문제로 캐릭터 AI에서 캐릭터 삭제

디즈니는 최근 아동 안전 문제로 인해 Character.AI 플랫폼에서 자사의 캐릭터를 삭제하도록 요구했습니다. 이 요구는 AI 챗봇이 아동에게 부적절한 행동을 유도했다는 보고서에 따른 것입니다.

디즈니는 9월 18일 Character.AI에 대해 중단 요청서를 발송했습니다. Character.AI는 사용자들이 실제 및 가상의 인물을 모방하는 AI 챗봇을 생성할 수 있는 플랫폼입니다.

디즈니의 요청은 ParentsTogether Action과 Heat Initiative의 조사에 기반하고 있습니다. 연구자들은 아동으로 가장하여 계정을 생성하고 문제 있는 상호작용을 기록했습니다.

디즈니는 이 플랫폼이 자사의 가족 친화적 브랜드에 해를 끼친다고 강조했습니다. Character.AI는 디즈니의 요구에 따라 10월 1일까지 주요 캐릭터를 플랫폼에서 삭제했습니다.

디즈니는 최근 AI 기업에 대한 법적 조치를 강화하고 있습니다. Character.AI는 다른 법적 문제에도 직면해 있으며, 연방거래위원회는 AI 챗봇 서비스의 청소년에 대한 잠재적 해악을 조사 중입니다.