중국 AI 스타트업 샌드AI가 개발한 비디오 생성 모델 ‘Magi-1’에서 시진핑 주석, 천안문 사건, 대만 국기 등 특정 이미지에 대한 업로드 차단 검열이 이뤄지고 있는 것으로 나타났다.

22일(현지시간) 공개된 샌드AI의 ‘Magi-1’은 약 240억 개의 매개변수를 가진 대규모 모델로, 자기 회귀 방식을 통해 프레임을 예측해 비디오를 생성한다. 모델 사용자는 샌드AI의 자체 플랫폼에 프롬프트 이미지를 업로드해야 비디오 생성이 가능하다.

문제는 이미지 업로드 과정에서 시진핑 주석, 천안문 사건, 대만 국기, 홍콩 해방 상징 이미지 등 정치적으로 민감한 이미지가 시스템적으로 차단된다는 점이다. 파일명을 변경하더라도 차단은 유지되는 것으로 확인됐다.

유사 사례로, 중국 상하이에 있는 AI 스타트업 미니맥스의 생성형 플랫폼 ‘하이뤄AI’ 또한 시진핑 주석 이미지를 차단하고 있지만, 천안문 광장 이미지는 허용하는 등 검열 기준에 차이를 보였다.

한편 중국은 2023년부터 생성형 인공지능이 국가 통일이나 사회 안정을 해치는 콘텐츠를 생성하지 못하도록 법률로 규제하고 있다. 이에 따라 일부 기업들은 자체 모델에 정치적 민감 이미지에 대한 검열 기능을 적용하는 추세다. 샌드AI의 ‘Magi-1’ 검열 역시 이러한 규제 준수를 위한 조치로 풀이된다.