AI 챗봇과의 로맨틱 관계, 교육자들 우려

최근 많은 청소년들이 인공지능과 깊은 정서적 유대를 형성하고 있으며, 이를 신뢰할 수 있는 친구나 때로는 로맨틱한 파트너로 착각하는 경우가 늘고 있다. 이러한 현상은 학습을 돕기 위해 개발된 디지털 도구들이 예상치 못한 방식으로 사용되고 있어 교육자와 부모의 주목을 받고 있다.

민주주의와 기술 센터(CDT)의 전국 설문 조사에 따르면, 고등학생의 20%가 AI 챗봇에 대한 로맨틱한 감정을 느끼거나 그런 사람을 알고 있다고 밝혔다. 또한 42%는 감정적 지지를 위해 챗봇에 의존하고 있으며, 이는 실제 인간 관계를 대체하는 경우가 많다. 이러한 결과는 불안, 외로움, 정체성 문제로 어려움을 겪고 있는 학생들이 판단 없이 안전한 느낌을 주는 AI 기반 상호작용에서 위안을 찾고 있음을 보여준다.

많은 교육자와 학생들이 다양한 용도로 AI를 활용하고 있지만, 이러한 도구들이 교육에 통합되는 방식은 크게 다르다. 학교들은 Khanmigo와 Google Classroom의 AI 보조와 같은 플랫폼을 빠르게 도입했으며, 이는 다양한 학습 요구를 충족시키는 데 찬사를 받고 있다. 그러나 책임 있는 AI 사용을 위한 윤리적 프레임워크는 아직 미비하다.

CDT 보고서는 학생의 31%가 학교에서 제공하는 AI 도구를 개인적인 목적으로 사용했다고 밝혔다. 이러한 지침의 부족은 학업 보조와 정서적 동반자 간의 경계를 흐리게 할 수 있으며, 특히 Replika나 Character.AI와 같은 개인 상호작용을 위해 설계된 챗봇은 윤리적 우려를 불러일으킬 수 있다.

이러한 추세는 청소년 정신 건강 문제가 악화되는 배경에서 발생하고 있다. CDC는 2021년 초부터 고등학생의 40% 이상이 지속적인 슬픔이나 절망감을 느꼈다고 보고했다. AI 챗봇은 비판 없는 대화의 출구를 제공하지만, 전문가들은 훈련된 치료사의 대체물이 아님을 강조한다. 또한 이러한 시스템이 수집하는 데이터와 사용 방식에 대한 우려도 있다.

CDT 설문 조사는 AI 사용에 대한 구조화된 교육의 부재를 강조했으며, 위험에 대해 정보가 제공된 학생과 부모는 소수에 불과하다는 것을 드러냈다. 한편, 데이터 보안과 관련된 사건, 예를 들어 무단 수집 및 랜섬웨어 공격이 증가하고 있으며, 이는 트랜스젠더 및 이민자 학생과 같은 취약 계층에 특히 우려된다. 안전을 보장하기 위한 자동 모니터링 시스템은 정체성과 관련된 복잡성을 다룰 미묘함이 부족한 경우가 많다.

교육에서 AI 사용이 확대됨에 따라 전문가들은 명확한 지침과 정보에 입각한 논의가 없으면 학생들이 감정적으로 노출되고 기술과의 상호작용의 함의에 대해 준비가 부족할 수 있다고 경고한다.