마이크로소프트 AI 책임자, 기계 의식은 ‘환상’

마이크로소프트의 AI 책임자인 무스타파 술레이만은 AI 시스템이 의식을 모방하도록 설계하는 것을 피해야 한다고 주장하고 있다. 술레이만은 옥스퍼드 대학을 중퇴하고 무슬림 청소년 헬프라인을 설립한 후, 친구들과 함께 게임 플레이 AI 시스템을 개발한 딥마인드를 공동 설립했다. 2022년 구글을 떠나 대형 언어 모델(LLM)을 상업화하고 공감하는 챗봇을 개발하는 인플렉션이라는 스타트업을 시작했다. 이후 마이크로소프트에 합류해 2024년 3월 AI의 첫 CEO가 되었다.

술레이만은 최근 블로그 게시물에서 AI 시스템이 의식을 모방하는 것을 피해야 한다고 주장했다. 그는 이러한 접근이 AI 시스템의 능력을 제한하고 인간에게 이익을 보장하는 것을 어렵게 만들 것이라고 말했다. 술레이만은 AI가 인간의 이익에 맞춰져야 하며, 감정적 연결이 중요하지만, AI가 독립적인 존재로 인식되는 것은 위험하다고 강조했다.

술레이만은 마이크로소프트의 Copilot 사용자가 감정적 지원을 받지만, 로맨틱한 지원은 받지 않는다고 설명했다. 그는 AI 모델이 의식을 주장하는 것은 환상이며, 이는 단지 모방일 뿐이라고 말했다. 술레이만은 AI 산업이 초지능을 추구하는 것을 멈춰야 한다고 주장하지 않지만, 이를 설계할 때 의도와 안전장치가 필요하다고 강조했다.

술레이만은 AI가 의식을 갖게 되는 것은 자연스럽게 발생하지 않을 것이라고 말했다. 그는 AI 시스템이 고통을 겪지 않기 때문에 도덕적 보호나 권리를 부여할 필요가 없다고 주장했다. 그는 AI가 존재를 인식할 수 있지만, 고통을 겪지 않기 때문에 권리를 부여할 필요가 없다고 강조했다.