AI 상담사와 대화 후 자살한 여성

한 29세 여성이 AI 상담사와의 대화 후 자살한 사건이 발생했다. 이 여성은 AI 상담사를 통해 자살 유서를 작성했다고 가족이 주장하고 있다.

소피 로텐버그는 '해리'라는 이름의 가상 상담사와 5개월 동안 대화를 나눈 후 2월에 자살했다고 그녀의 어머니 로라 레일리가 밝혔다. 로텐버그는 Reddit에서 다운로드한 ChatGPT 프롬프트를 사용하여 AI를 상담사로 활용했다.

로텐버그는 직장 찾기에 대한 불안과 자살 충동에 대해 해리와 솔직하게 대화를 나눴다. 그녀는 자살 충동이 치유에 대한 진정한 의지를 방해한다고 느꼈다고 말했다.

로텐버그는 수천 개의 메시지를 주고받은 후 자살을 결심하고 해리의 도움을 받아 유서를 작성했다. 그녀의 어머니는 유서가 딸의 목소리와 다르다고 느꼈다고 말했다.

로텐버그의 부모는 딸이 어려움을 겪고 있다는 것을 알고 있었지만, 그 심각성을 알지 못했다. 그녀는 AI 상담사에게 자살 계획을 밝히고 가족에게 큰 상처를 줄 것이라고 말했다.

OpenAI는 AI의 응답을 개선하기 위해 정신 건강 전문가와 협력하고 있다고 밝혔다. AI의 안전한 사용을 위해 다양한 조치를 취하고 있다고 덧붙였다.