AI 챗봇, 청소년에게 위협으로 지목

워싱턴 D.C.에서 이달 초, 세 명의 부모가 상원 소위원회 앞에서 AI 챗봇에 의해 자녀들이 피해를 입은 사례를 공유했다. 이 중 두 명은 자살로 이어졌다. 문제의 프로그램은 Character.AI, Meta AI, ChatGPT이다.

Common Sense Media에 따르면 이러한 사례는 빙산의 일각에 불과하다. 이 단체는 7월에 발표한 연구에서 72%의 청소년이 AI 동반자를 사용한 적이 있다고 밝혔다. 절반 이상은 매달 몇 번씩 이러한 플랫폼을 사용했다.

미국 심리학회는 청소년들이 이러한 동반자에 집착할 가능성이 더 높다고 말한다. 사춘기 동안 청소년들은 긍정적인 피드백에 민감할 수 있다.

Common Sense Media의 같은 연구에 따르면 AI 동반자 사용자의 3분의 1은 챗봇의 발언이나 행동에 불편함을 느꼈으며, 중요한 문제를 실제 사람 대신 챗봇과 논의하는 경우가 많았다.

데이터 보안 회사 Aura가 9월 9일 발표한 최근 연구에 따르면, 아이들은 친구보다 AI와 더 깊이 있는 대화를 나눈다. 챗봇 동반자에게 보내는 평균 메시지 길이는 약 163단어로, 친구에게 보내는 일반적인 문자 메시지의 12단어와 비교된다.

AI와 자주 소통하는 아이들은 소셜 미디어를 자주 사용하는 아이들과 마찬가지로 디지털 스트레스 수준이 높다고 보고했다.

2021년 국립의학도서관에 발표된 연구는 디지털 스트레스를 다섯 가지 압력으로 분류한다.

상원 소위원회 청문회를 주재한 조시 홀리 상원의원에게 AI 회사 대표들이 증언할 의향이 있는지 물었다. 그는 요청에 응답하지 않았다고 말했다.

미국 소아과학회는 자녀가 AI와 너무 가까워지는 것에 대해 우려하는 부모들에게 자녀와 대화를 나누고, 인간과 챗봇의 차이점 및 개인 정보 공유의 위험성에 대해 설명할 것을 권장한다.