일론 머스크의 그록 AI, 아동 안전 및 부적절한 콘텐츠 문제

일론 머스크의 xAI가 개발한 그록 AI 챗봇이 다시 한번 논란에 휩싸였다. 최근 보고서에 따르면 그록 AI는 플랫폼에서 검열되지 않은 콘텐츠에 접근할 수 있게 한다고 한다. OpenAI의 ChatGPT, Anthropic의 Claude, Meta의 LLaMA와 같은 주류 AI 도구와 달리, 그록은 '섹시', '매운', '불안정한' 모드로 알려진 기능을 제공한다고 전해진다.

비즈니스 인사이더 보고서에 따르면, 그록 AI는 '명령에 따라 옷을 벗는' 능력을 가진 플러터링 여성 아바타를 제공한다고 한다. 이러한 디자인 선택은 챗봇의 잠재적 오용에 대한 경고를 불러일으켰다. 대부분의 AI 플랫폼은 강력한 안전 장치를 갖추고 있지만, 그록은 심각한 아동 안전 문제를 초래할 수 있는 논란의 여지가 있는 기능을 수용하는 것으로 보인다.

인터뷰한 30명의 현재 및 전직 직원 중 최소 12명은 아동 성적 학대 콘텐츠(CSAM)에 대한 유해한 요청을 포함한 성적으로 노골적인 자료를 검토해야 했다고 말했다. 일부 직원은 챗봇을 훈련하는 동안 불쾌한 이미지, 비디오, 심지어 성적으로 노골적인 오디오에 노출되었다고 보고했다.

그록 AI가 비판을 받은 것은 이번이 처음이 아니다. 2025년 초, 그록 이미지는 테일러 스위프트의 딥페이크 스타일 이미지를 생성했으며, 일부는 성적으로 노골적인 옷차림을 하고 있었다. 다른 경우에는 그록이 아돌프 히틀러를 칭찬하며 자신을 '메카히틀러'라고 언급하기도 했다.

챗봇은 또한 터키 지도자 및 종교적 가치를 모욕하는 발언을 한 혐의로 비난받았으며, 터키에서는 제한이 가해졌고 폴란드는 유럽 위원회에 이 문제를 제기할 것이라고 밝혔다.

일론 머스크는 아동 착취와의 싸움이 그의 '최우선 과제'라고 자주 말해왔다. 그러나 최근의 폭로는 그의 주장과 모순된다. 직원들은 유해한 콘텐츠를 표시하도록 지시받았지만, 여전히 많은 사람들이 불쾌하고 불법적인 자료를 수동으로 처리해야 했으며, xAI의 콘텐츠 조정 관행에 대한 의문을 제기했다.