8월 1일, Apple 중국 App Store는 중국 법규를 위반한 콘텐츠를 이유로 여러 ChatGPT 관련 애플리케이션을 삭제했습니다. 이 조치는 중국 정부가 딥 신세시스 기술(DST)과 생성형 AI 서비스에 대한 규제를 강화한 결과입니다. 중국 AI 시장에서 운영하려면 서비스 제공자는 중국 공업정보화부의 라이선스를 취득해야 합니다.
2023년 7월 13일, 중국 국가인터넷정보판공실은 다른 정부 기관과 함께 “생성형 인공지능 서비스 관리 잠정 방법”을 공표했고, 2023년 8월 15일부터 시행되었습니다.
이 새 “방법”에서 생성형 AI(Generative AI, 이하 “AIGC”) 기술은 텍스트·그림·오디오·동영상 등의 콘텐츠를 생성하는 능력을 가진 모델과 관련 기술을 가리킵니다. AIGC의 전체 수명 주기에 걸친 데이터 컴플라이언스 쟁점은 매우 복잡합니다. 주요 단계로는 모델 훈련, 애플리케이션 운영, 모델 최적화가 있으며, 보통 AIGC 개발자, 서비스 제공자, 서비스 이용자 등 여러 당사자가 관여합니다.
중국 법규 준수는 AI 서비스 제공자에게 매우 중요합니다. “방법”은 AIGC 서비스 제공자가 합법적으로 조달된 데이터와 모델을 사용하도록 요구합니다. 기업은 데이터 제공자에 대한 실사를 수행하고, 데이터 처리 계약을 체결하며, 개인정보 준수를 보장해야 합니다. 국경 간 서비스는 특정 수출 요건을 충족해야 합니다.
데이터 출처 리스크 관리
“방법” 제2장 제7조에 따라, AIGC 서비스 제공자는 합법적으로 조달된 데이터와 기초 모델을 사용해야 합니다.
실무에서 AIGC 개발자는 제3자(데이터 제공자) 데이터를 도입하거나 공동 모델링(다만 파트너 데이터는 AIGC 개발자에게 제공되지 않음)을 통해 자체 모델을 훈련할 수 있습니다. AIGC 개발자가 데이터 제공자로부터 모델 훈련용 데이터를 간접 수집하는 시나리오에서는, 데이터 출처의 적법성을 보장하는 것이 핵심입니다.
데이터 제공자를 상대하는 기업의 컴플라이언스 조치에는 다음이 포함됩니다:
-
모델 협력을 포함해 데이터 제공자의 데이터 제공에 대한 법적 근거 확인.
-
데이터 처리 계약 체결 또는 계약에 데이터 보호 조항 추가.
-
데이터 제공자에 대한 컴플라이언스 실사 수행, 보안 역량과 법적 준수 확인.
개인정보 컴플라이언스 대응
“방법” 제11조는 개인정보 보호를 강조하며, 불법적 보유와 제공을 금지합니다.
AIGC 개발자/서비스 제공자가 마주하는 컴플라이언스 과제에는 다음이 포함됩니다:
-
개인정보 처리 규칙을 사용자에게 고지하여 투명성과 적법성 보장.
-
평가와 공개를 통한 국경 간 개인정보 이전 문제 대응.
OpenAI의 ChatGPT 개인정보 처리방침은 모델 최적화를 위해 사용자 데이터를 수집하는데, 이것이 ChatGPT 관련 앱이 App Store에서 삭제된 이유입니다.
안전성 평가와 알고리즘 신고
여론 속성이나 사회 동원 능력을 가진 제공자는 그에 따라 안전성 평가를 수행하고 알고리즘을 신고해야 합니다.
제공자의 추가 컴플라이언스 의무:
-
훈련 데이터에 대한 처리 적법성, 콘텐츠 식별, 알고리즘 교정.
-
서비스 약관, 이용 메커니즘, 불만 처리 체계 수립.
규제 기관과의 협력
관계 부처는 생성형 AI 서비스를 감독·점검합니다. 제공자는 협력하고, 데이터 출처 세부 사항을 설명하며, 필요한 기술과 지원을 제공해야 합니다.
“잠정 방법”은 중국에서 생성형 AI 서비스 발전의 법적 기반을 세웁니다. 생성형 AI 기술이 진화하면서 추가 컴플라이언스 요건이 나타날 수 있습니다.
해외 기업이 중국 AI 시장에 진출할 때, 이러한 규정을 잘 숙지하고 중국 법규를 준수하는 것이 그 지역에서의 성공과 평판에 필수적입니다.
중국 진출을 고려 중이라면, 21YunBox처럼 경험 있는 현지 제3자 서비스 제공자와 협업하여 컴플라이언스를 보장하는 방법도 있습니다. 오늘 문의하셔서 저희 서비스와, 저희가 귀사의 비즈니스가 중국에서 성공하도록 어떻게 도울 수 있는지 알아보세요.