중국의 AI 환각 문제 해결 방안

최근 중국 AI 산업의 부상은 주목할 만하다. 중국 기업들은 이제 서구의 경쟁사들과 견줄 수 있는 비용 효율적인 오픈 소스 모델을 선보이고 있다.

그러나 AI 산업 전반과 마찬가지로 이러한 모델들도 환각 문제를 겪고 있으며, 일부 중국 모델에서는 이 문제가 시간이 지남에 따라 악화되었다. 중국은 주로 법적 시스템을 통해 이 문제를 해결하기 위한 조치를 취하고 있지만, 여전히 해결되지 않은 과제로 남아 있다.

2026년 2월, 한 웨이보 사용자는 타이거 브로커를 통해 알리바바의 재무 보고서를 분석했을 때 AI가 제공한 숫자가 허구임을 발견했다. 이는 모델의 환각과 그로 인한 부정적 영향을 보여주는 사례이다.

중국 연구자들은 환각 현상을 분석하기 시작했으며, 푸단대학과 상하이 AI 연구소의 공동 연구는 중국어 모델의 벤치마크를 설정했다. 또한 중국과학기술대학과 텐센트의 YouTu Lab 연구팀은 AI 환각을 방지하기 위한 도구를 소개했다.

중국 AI 기업들은 현재까지 강력한 조치를 취하지 않았으며, 주로 법적 보호에 관심을 두고 있다. 예를 들어, DeepSeek, Qwen 3, Manus의 이용 약관은 모델의 오류에 대한 책임을 지지 않음을 명시하고 있다.

국가 차원에서는 AI 모델 제작자에게 책임을 묻고 신뢰성을 보장하도록 요구하는 법률과 정책을 활용하고 있다. 예를 들어, '신세대 인공지능의 거버넌스 원칙'은 신뢰성의 점진적 달성을 요구하며, '생성형 인공지능 서비스 관리 임시 조치'의 제4조는 허위 및 유해 정보의 생성을 금지하고 있다.

중국의 환각 규제에 대한 관심은 정보 흐름 통제 정책에 크게 기인하며, 잘못된 정보가 유포되어 국가의 정당성을 훼손하거나 공식 국가 서사와 모순되는 것을 원치 않는다.

이러한 노력에도 불구하고, 중국은 모델의 성능을 고려할 때 이 문제에 더 집중할 필요가 있다. 최근 AI 모델의 진실성과 신뢰성 평가에서 중국 모델은 여전히 국제 모델보다 뒤처져 있다.