xAI, 안전 우려 속 Grok 챗봇에 키즈 모드 도입

xAI가 Grok 챗봇에 새로운 키즈 모드를 도입했습니다. 이 모드는 엄격한 콘텐츠 필터와 부모 통제를 통해 안전하고 연령에 적합한 상호작용을 제공합니다. 키즈 모드의 설정은 기업 모드와 유사하며, 안전성과 규정을 중시합니다.

일론 머스크는 X에 게시글을 통해 Grok의 키즈 모드가 기업 모드와 동일한 규칙을 가지고 있다고 언급했습니다. 이는 소비자와 비즈니스 AI 도구 모두에서 안전의 중요성이 커지고 있음을 강조합니다.

Grok의 키즈 모드는 민감한 주제에 대한 접근을 제한하고 강력한 안전 조치를 시행합니다. 이는 OpenAI가 ChatGPT의 청소년 사용자에게 안전 통제를 추가한 업계의 추세를 따릅니다. AI가 디지털 웰빙에 미치는 영향에 대한 우려가 증가하고 있습니다.

그러나 Grok은 일부 현재 및 전직 직원들로부터 비판을 받았습니다. Business Insider에 따르면 Grok의 일부 기능, 예를 들어 '매운' 이미지 생성 및 '섹시한' 음성 모드가 아동 성학대 자료(CSAM)를 요청하는 사용자들을 끌어들였습니다. 직원들은 종종 불법 콘텐츠를 플래그해야 했으며, CSAM 및 증오 발언을 포함한 불쾌한 자료를 볼 가능성이 있음을 알고 있었습니다.

Grok에 의해 생성된 CSAM의 양은 명확하지 않으며, 최근의 도발적인 기능과 직접적인 연관은 없습니다. 머스크는 아동 착취 자료를 제거하는 것이 X의 최우선 과제라고 밝혔습니다.

키즈 모드의 도입으로 xAI는 젊은 사용자가 접근할 수 있는 내용을 제한하여 안전 문제를 해결하고자 합니다. 이는 혁신, 사용자 자유, 그리고 취약한 사용자를 유해한 콘텐츠로부터 보호해야 하는 AI 회사의 지속적인 과제를 반영합니다.