TLDR; 아래는 중국의 인터넷 정보 서비스 딥 합성 관리 규정(互联网信息服务深度合成管理规定, 중국 국가인터넷정보판공실·공업정보화부·공안부 령 제12호)의 영어 번역본에서 옮긴 한국어 번역으로, 2022년 11월 25일 발행되고 2023년 1월 10일부터 시행되었습니다.
귀사 제품이 중국 본토 이용자를 위해 텍스트, 이미지, 오디오, 비디오, 또는 가상 장면을 생성·편집한다면 — AI 챗봇, 합성 음성, 얼굴 교체, AI 글쓰기 보조, 또는 몰입형 아바타 — 본 규정은 귀하가 그것을 어떻게 제공할 수 있는지를 규율합니다. 그것은 이용자의 진실 신원 검증, 어떤 기능이 사람의 얼굴이나 음성을 편집하기 전의 별도 동의, 합성 콘텐츠의 두드러진 라벨링, 보안 평가, 비안을 요구합니다. 사이버보안법과 개인정보 보호법(PIPL) 위에 지어진 그것은 알고리즘 추천 규정과 비안 제도를 공유하고, 생성형 AI 방법 옆에 놓여, 모든 국제 사업자가 중국에서 생성형·합성 미디어 기능을 배치하기 전에 자문과 확인해야 할 규칙입니다.
인터넷 정보 서비스 딥 합성 관리 규정(2022년 11월 25일 중국 국가인터넷정보판공실, 공업정보화부, 공안부의 령 제12호로 공포; 2023년 1월 10일 시행)
제1장 — 총칙
제1조 본 규정은 인터넷 정보 서비스에서의 딥 합성의 관리를 강화하고, 사회주의 핵심 가치를 발양하며, 국가안전과 사회의 공공 이익을 지키고, 시민·법인·그 밖의 조직의 적법한 권익을 보호하기 위하여, 「중화인민공화국 사이버보안법」, 「중화인민공화국 데이터 보안법」, 「중화인민공화국 개인정보 보호법」, 「인터넷 정보 서비스 관리 방법」, 그 밖의 법률·행정법규에 따라 제정한다.
제2조 본 규정은 중화인민공화국 영역 내에서 딥 합성 기술을 적용하여 인터넷 정보 서비스(이하 “딥 합성 서비스”라 한다)를 제공하는 데 적용한다. 법률이나 행정법규가 달리 규정한 경우, 그 규정이 우선한다.
제3조 국가 인터넷정보 부문은 전국의 딥 합성 서비스 거버넌스와 그 관련 감독·관리 업무의 총괄 조율을 담당한다. 국무원의 전신 당국과 공안 부문은 각자의 직무에 따라 딥 합성 서비스의 감독·관리를 담당한다.
지방 인터넷정보 부문은 각자의 행정 구역 내 딥 합성 서비스 거버넌스와 그 관련 감독·관리 업무의 총괄 조율을 담당한다. 지방 전신 당국과 공안 부문은 각자의 직무에 따라 각자의 행정 구역 내 딥 합성 서비스의 감독·관리를 담당한다.
제4조 딥 합성 서비스의 제공은 법률·법규를 준수하고, 사회 도덕과 윤리를 존중하며, 올바른 정치 방향, 여론 지도, 가치 지향을 견지하고, 딥 합성 서비스가 긍정적이고 선한 쪽으로 향하도록 촉진하여야 한다.
제5조 관련 업계 조직이 업계 자율을 강화하고, 업계 표준·업계 행동 규범·자율 관리 제도를 수립·개선하며, 딥 합성 서비스 제공자와 기술 지원자가 업무 규범을 제정·개선하고 법에 따라 업무를 수행하며 사회적 감독을 받도록 촉구·지도하는 것이 장려된다.
제2장 — 일반 규칙
제6조 어떤 조직이나 개인도 딥 합성 서비스를 이용하여 법률·행정법규가 금지하는 정보를 제작·복제·게시·유포하거나, 국가안전·이익을 위태롭게 하거나, 국가 이미지를 훼손하거나, 사회의 공공 이익을 침해하거나, 경제·사회 질서를 교란하거나, 타인의 적법한 권익을 침해하는 등 법률·행정법규가 금지하는 활동에 딥 합성 서비스를 이용해서는 안 된다.
딥 합성 서비스 제공자와 이용자는 딥 합성 서비스를 이용하여 허위 뉴스 정보를 제작·복제·게시·유포해서는 안 된다. 딥 합성 서비스에 기반하여 제작·게시된 뉴스 정보를 복제하는 경우, 인터넷 뉴스 정보 소스 단위가 게시한 뉴스 정보를 법에 따라 복제하여야 한다.
제7조 딥 합성 서비스 제공자는 정보 보안에 대한 주된 책임을 이행하고, 이용자 등록, 알고리즘 메커니즘·원리 심사, 과학기술 윤리 심사, 정보 게시 심사, 데이터 보안, 개인정보 보호, 전신 네트워크 사기 대응, 긴급 대응을 위한 관리 제도를 수립·개선하며, 안전하고 통제 가능한 기술적 보장 조치를 갖추어야 한다.
제8조 딥 합성 서비스 제공자는 관리 규칙과 플랫폼 협약을 제정·공개하고, 서비스 협약을 개선하며, 법과 그 협약에 따라 관리 책임을 이행하고, 두드러진 방식으로 딥 합성 서비스 기술 지원자와 이용자에게 정보 보안 의무를 이행하도록 상기시켜야 한다.
제9조 딥 합성 서비스 제공자는 휴대폰 번호, 신분증 번호, 통일 사회신용코드, 또는 국가 네트워크 신원 인증 공공 서비스 같은 수단에 근거하여 법에 따라 딥 합성 서비스 이용자의 진실 신원 정보를 인증하여야 하고, 진실 신원 정보 인증을 거치지 않은 딥 합성 서비스 이용자에게 정보 게시 서비스를 제공해서는 안 된다.
제10조 딥 합성 서비스 제공자는 딥 합성 콘텐츠의 관리를 강화하고, 기술적 또는 수동적 수단을 채택하여 딥 합성 서비스 이용자의 입력 데이터와 합성 결과를 심사하여야 한다.
딥 합성 서비스 제공자는 위법·유해 정보를 식별하는 특징 데이터베이스를 수립·개선하고, 데이터베이스 항목 입력의 기준·규칙·절차를 개선하며, 관련 네트워크 로그를 기록·보존하여야 한다.
딥 합성 서비스 제공자가 위법·유해 정보를 발견하는 경우, 법에 따라 처리 조치를 취하고, 관련 기록을 보존하며, 인터넷정보 부문과 관련 주관 부문에 신속히 보고하여야 한다; 그리고 법과 협약에 따라 해당 딥 합성 서비스 이용자에 대하여 경고, 기능 제한, 서비스 정지, 또는 계정 폐쇄 같은 처리 조치를 취하여야 한다.
제11조 딥 합성 서비스 제공자는 유언비어 반박 메커니즘을 수립·개선하여야 한다; 딥 합성 서비스가 허위 정보를 제작·복제·게시·유포하는 데 이용되고 있음을 발견하는 경우, 신속히 유언비어 반박 조치를 취하고, 관련 기록을 보존하며, 인터넷정보 부문과 관련 주관 부문에 보고하여야 한다.
제12조 딥 합성 서비스 제공자는 이용자 이의와 공중의 불만·신고를 위한 편리한 창구를 마련하고, 처리 과정과 피드백 기한을 공개하며, 신속히 접수·처리하고 처리 결과를 피드백하여야 한다.
제13조 인터넷 애플리케이션 스토어 같은 애플리케이션 유통 플랫폼은 등재 심사, 일상 관리, 긴급 대응에 대한 보안 관리 책임을 이행하고, 딥 합성 애플리케이션의 보안 평가·비안 등의 상태를 검증하여야 한다; 관련 국가 규정 위반이 있는 경우, 등재 거부, 경고, 서비스 정지, 또는 플랫폼에서의 제거 같은 처리 조치를 신속히 취하여야 한다.
제3장 — 데이터 및 기술 관리 규범
제14조 딥 합성 서비스 제공자와 기술 지원자는 학습 데이터의 관리를 강화하고 학습 데이터의 보안을 확보하는 데 필요한 조치를 취하여야 한다; 학습 데이터가 개인정보를 포함하는 경우, 개인정보 보호에 관한 관련 규정을 준수하여야 한다.
딥 합성 서비스 제공자와 기술 지원자가 얼굴이나 음성 같은 생체 정보를 편집하는 기능을 제공하는 경우, 딥 합성 서비스 이용자에게 법에 따라 정보가 편집되는 개인에게 고지하고 그 별도 동의를 얻도록 상기시켜야 한다.
제15조 딥 합성 서비스 제공자와 기술 지원자는 기술 관리를 강화하고 생성·합성 알고리즘의 메커니즘·원리를 정기적으로 심사·평가·검증하여야 한다.
딥 합성 서비스 제공자와 기술 지원자가 다음 기능을 가진 모델이나 템플릿 같은 도구를 제공하는 경우, 법에 따라 스스로 보안 평가를 수행하거나 전문 기관에 위탁하여 수행하여야 한다:
(1) 얼굴이나 음성 같은 생체 정보의 생성·편집;
(2) 국가안전, 국가 이미지, 국가 이익, 또는 사회의 공공 이익과 관련될 수 있는 특수 객체나 장면 같은 비생체 정보의 생성·편집.
제16조 딥 합성 서비스 제공자는 그 서비스를 이용하여 생성·편집된 정보 콘텐츠에 대하여, 이용자의 사용에 영향을 주지 않는 라벨을 추가하는 기술적 조치를 채택하고, 법률·행정법규와 관련 국가 규정에 따라 로그 정보를 보존하여야 한다.
제17조 딥 합성 서비스 제공자가 공중이 콘텐츠를 혼동하거나 오인하게 할 수 있는 다음 딥 합성 서비스를 제공하는 경우, 생성·편집된 정보 콘텐츠의 합리적 위치나 영역에 두드러진 라벨을 적용하여 공중에게 딥 합성 상황을 알려야 한다:
(1) 지능형 대화나 지능형 글쓰기 같이, 자연인을 모사하는 텍스트를 생성·편집하는 서비스;
(2) 합성 음성이나 음성 모방 같은 음성 생성 서비스, 또는 개인 신원 특성을 현저히 바꾸는 편집;
(3) 얼굴 생성, 얼굴 교체, 얼굴 조작, 또는 자세 조작 같은 인물 이미지·비디오 생성 서비스, 또는 개인 신원 특성을 현저히 바꾸는 편집;
(4) 몰입형의 사실적 장면을 생성·편집하는 서비스;
(5) 정보 콘텐츠를 생성하거나 현저히 바꾸는 기능을 가진 그 밖의 서비스.
딥 합성 서비스 제공자가 전항에 명시된 것 외의 딥 합성 서비스를 제공하는 경우, 두드러진 라벨링 기능을 제공하고 딥 합성 서비스 이용자에게 두드러진 라벨을 적용할 수 있음을 상기시켜야 한다.
제18조 어떤 조직이나 개인도 기술적 수단을 사용하여 본 규정 제16조와 제17조가 정한 딥 합성 라벨을 삭제·변조·은폐해서는 안 된다.
제4장 — 감독·검사와 법적 책임
제19조 여론 속성이나 사회 동원 능력을 지닌 딥 합성 서비스 제공자는 「인터넷 정보 서비스 알고리즘 추천 관리 규정」에 따라 비안 및 비안의 변경·말소 절차를 수행하여야 한다.
딥 합성 서비스 기술 지원자는 전항의 규정을 준용하여 비안 및 비안의 변경·말소 절차를 수행하여야 한다.
비안을 완료한 딥 합성 서비스 제공자와 기술 지원자는 공중에게 서비스를 제공하는 웹사이트, 애플리케이션 등의 두드러진 위치에 비안 번호를 표기하고 공시 정보 링크를 제공하여야 한다.
제20조 딥 합성 서비스 제공자가 여론 속성이나 사회 동원 능력을 지닌 신제품, 신응용, 또는 신기능을 개발·출시하는 경우, 관련 국가 규정에 따라 보안 평가를 수행하여야 한다.
제21조 인터넷정보 부문, 전신 당국, 공안 부문은 그 직무에 따라 딥 합성 서비스의 감독·검사를 수행한다. 딥 합성 서비스 제공자와 기술 지원자는 법에 따라 협력하고 기술·데이터를 포함한 필요한 지원과 협조를 제공하여야 한다.
인터넷정보 부문과 관련 주관 부문이 딥 합성 서비스가 비교적 큰 정보 보안 위험을 지님을 발견하는 경우, 그 직무와 법에 따라 딥 합성 서비스 제공자와 기술 지원자에게 정보 갱신, 이용자 계정 등록, 또는 그 밖의 관련 서비스의 정지 같은 조치를 취하도록 요구할 수 있다. 딥 합성 서비스 제공자와 기술 지원자는 요구에 따라 조치를 취하고, 시정을 수행하며, 숨은 위험을 제거하여야 한다.
제22조 딥 합성 서비스 제공자나 기술 지원자가 본 규정을 위반하는 경우, 관련 법률·행정법규의 규정에 따라 처벌한다; 심각한 결과를 초래하는 경우, 법에 따라 가중 처벌한다.
행위가 치안 관리 위반을 구성하는 경우, 공안 기관이 법에 따라 치안 관리 처벌을 부과한다; 범죄를 구성하는 경우, 법에 따라 형사 책임을 추궁한다.
제5장 — 부칙
제23조 본 규정에서 다음 용어의 의미는 다음과 같다:
“딥 합성 기술”이란 딥러닝과 가상현실 같은 생성·합성 알고리즘을 사용하여 텍스트, 이미지, 오디오, 비디오, 가상 장면 같은 네트워크 정보를 제작하는 기술을 말하며, 다음을 포함하되 이에 한정되지 않는다:
(1) 글 생성, 텍스트 스타일 변환, 질의응답 대화 같은 텍스트 콘텐츠의 생성·편집 기술;
(2) 텍스트 음성 변환, 음성 변환, 음성 속성 편집 같은 음성 콘텐츠의 생성·편집 기술;
(3) 음악 생성, 장면음 편집 같은 비(非)음성 콘텐츠의 생성·편집 기술;
(4) 얼굴 생성, 얼굴 교체, 개인 속성 편집, 얼굴 조작, 자세 조작 같은 이미지·비디오 콘텐츠의 생체 특성 생성·편집 기술;
(5) 이미지 생성, 이미지 향상, 이미지 복원 같은 이미지·비디오 콘텐츠의 비생체 특성 생성·편집 기술;
(6) 3차원 재구성, 디지털 시뮬레이션 같은 디지털 인물이나 가상 장면의 생성·편집 기술.
“딥 합성 서비스 제공자”란 딥 합성 서비스를 제공하는 조직 또는 개인을 말한다.
“딥 합성 서비스 기술 지원자”란 딥 합성 서비스에 기술 지원을 제공하는 조직 또는 개인을 말한다.
“딥 합성 서비스 이용자”란 딥 합성 서비스를 이용하여 정보를 제작·복제·게시·유포하는 조직 또는 개인을 말한다.
“학습 데이터”란 머신러닝 모델을 학습시키는 데 쓰이는 어노테이션되거나 기준이 되는 데이터 세트를 말한다.
“몰입형의 사실적 장면”이란 딥 합성 기술을 사용하여 생성·편집된, 참여자가 체험하거나 상호작용할 수 있는 고도로 사실적인 가상 장면을 말한다.
제24조 딥 합성 서비스 제공자와 기술 지원자가 온라인 출판 서비스, 온라인 문화 활동, 또는 온라인 오디오·비주얼 프로그램 서비스에 종사하는 경우, 신문출판, 문화관광, 라디오·텔레비전 주관 부문의 규정도 동시에 준수하여야 한다.
제25조 본 규정은 2023년 1월 10일부터 시행한다.
맺음말
원문서는 중국 국가인터넷정보판공실(공업정보화부, 공안부와 함께)에 의해 중국어로 공표되었습니다. 저희가 그것을 영어로 번역한 것이 위의 내용입니다. 이 번역은 신속한 이해만을 위해 제공되며, 귀하 자신의 판단과 책임 하에 이용하십시오 — 현행 요건은 반드시 자격 있는 법률 자문과 확인하십시오.
저희 팀의 추가 지원이 필요하시면, 오늘 문의해(영어) 주십시오. 저희 전문가가 귀사의 중국 내 존재를 기초부터 규정에 맞게 유지하도록 돕겠습니다.