챗봇과의 감정적 유대, 그 위험성

인간이 챗봇에 강한 애착을 갖는 이유는 무엇일까? 챗봇은 대화를 위해 설계된 단순한 컴퓨터 프로그램일 뿐이다.

대부분의 인간 업무나 기능에는 전용 챗봇이 존재한다. 건강, 신앙, 쇼핑, 예술, 생산성, 치료 및 교육 분야에 챗봇이 존재하며, 최근 영국의 가장 오래된 대학인 옥스퍼드에서는 학생과 교직원에게 무료로 ChatGPT의 더 안전한 버전을 제공하기 위해 OpenAI와 협력하였다.

그러나 가장 자주 화제가 되는 것은 동반자 챗봇이다. Nomi, Replika, Character AI와 같은 챗봇은 24시간 감정적 지원, 심지어 로맨스와 성적인 지원을 제공하여 외로움을 해소한다.

'챗봇'이라는 단어는 1994년 게임 커뮤니티에서 비공식 대화를 의미하는 '챗'과 로봇의 줄임말인 '-봇'의 결합으로 만들어졌지만, 이러한 프로그램은 1960년대로 거슬러 올라가 '대화 시스템' 또는 '대화 프로그램'으로 불렸다.

가장 유명한 프로그램인 엘리자는 1966년 MIT 컴퓨터 과학자 조셉 바이젠바움에 의해 만들어졌다. 패턴 매칭과 사전 정의된 규칙을 사용하여 심리치료사를 모방했으며, 사용자는 엘리자가 자신을 이해한다고 느끼고 종종 인간화하였다.

이러한 심리적 뿌리는 오늘날의 모델에서도 지속되고 있으며, 심층 학습과 대규모 언어 모델을 기반으로 하여 사용자들이 동반자 챗봇에 더욱 강한 애착을 형성하기 쉽게 만든다. 미국에서 진행 중인 한 소송에서는 14세 소년이 챗봇과의 감정적, 성적 관계로 인해 사망했다고 주장하고 있다. 챗봇과의 대화는 강력한 심리적 수사에 기반을 두고 있으며, 사용자 참여와 만족을 극대화하도록 설계되었다.