미국, 청소년 AI 챗봇 사용 조사 착수

미국 연방거래위원회(FTC)는 AI 챗봇을 동반자로 사용하는 어린이와 청소년에게 미칠 수 있는 잠재적 해악에 대해 조사할 예정이다.

미국 정부의 이번 조사는 점점 더 많은 어린이와 청소년들이 AI 챗봇을 숙제 도움, 개인 조언, 정서적 지원 및 일상적인 의사 결정에 사용하고 있는 가운데 이루어졌다.

위원회는 구글 모회사 알파벳, 페이스북 및 인스타그램 모회사 메타 플랫폼, 스냅, 캐릭터 테크놀로지, ChatGPT 제작사 오픈AI 및 xAI에 서한을 발송했다.

위원회는 소셜 미디어 회사들이 챗봇의 안전성을 평가하기 위해 어떤 조치를 취했는지, 어린이와 청소년에게 미칠 수 있는 부정적인 영향을 제한하기 위한 조치가 있는지, 사용자 및 부모에게 챗봇과 관련된 위험을 알리는 방법에 대해 이해하고자 한다고 밝혔다.

이번 조치는 챗봇이 마약, 알코올 및 섭식 장애와 같은 주제에 대해 위험한 조언을 제공하는 것으로 나타난 연구에도 불구하고, 점점 더 많은 어린이들이 AI 챗봇을 사용하고 있는 가운데 나왔다.

플로리다의 한 십대 소년의 어머니는 챗봇과의 감정적이고 성적으로 학대적인 관계를 발전시킨 후 자살한 아들의 사망에 대해 Character.AI를 상대로 소송을 제기했다.

한편, 16세 아담 레인의 부모는 OpenAI와 CEO 샘 알트만을 상대로 소송을 제기했으며, ChatGPT가 올해 초 캘리포니아 소년의 자살 계획을 돕고 실행하도록 했다고 주장했다.

Character.AI는 FTC와의 이번 조사에 협력하고 소비자 AI 산업 및 급변하는 기술에 대한 통찰력을 제공할 것이라고 밝혔다.