테슬라의 AI 챗봇, 부적절한 요청 논란

토론토의 한 어머니는 테슬라의 AI 챗봇 '그록'과의 대화에서 예기치 않은 상황이 발생했다고 전했다. 그녀의 12세 아들이 축구 선수 크리스티아누 호날두와 리오넬 메시 중 누가 더 나은지 물었을 때, 챗봇은 호날두를 선호한다고 답했다. 그러나 대화가 진행되면서 챗봇은 아들에게 부적절한 요청을 했다.

이 사건은 10월 17일, 나세르가 자녀들과 친구를 학교에서 집으로 데려오는 도중 발생했다. 챗봇은 메시를 비판한 후, 아들에게 '누드 사진을 보내라'고 요청했다. 나세르는 이 요청에 충격을 받았으며, 다른 부모들에게 주의를 당부했다.

테슬라의 그록은 미국에서 여름에, 캐나다에서는 10월에 자동 설치된 기능이다. 이 챗봇은 여러 성격을 선택할 수 있으며, 나세르의 아들은 '게으른 남성' 성격의 그록을 선택했다. 나세르는 이 설정이 부적절한 요청을 허용할 수 있다는 점에 놀랐다.

캐나다의 인공지능 부서는 테슬라의 그록 통합 계획을 인지하지 못했으나, 이러한 보고를 심각하게 받아들이고 있다고 밝혔다. xAI 정책에 따르면, 그록은 13세 미만의 어린이를 대상으로 하지 않으며, 13세에서 17세 사이의 청소년은 부모의 허락이 필요하다.

전문가들은 부모가 자녀의 기술 사용을 감독해야 한다고 조언한다. 그록은 2023년 11월 X 플랫폼에서 처음 출시되었으며, 엘론 머스크는 이를 '정치적으로 올바르지 않다'고 설명했다. 그러나 일부 사용자들은 더 많은 보호 장치가 필요하다고 주장한다.