Kurzfassung: Nachstehend finden Sie die deutsche Übersetzung von Chinas Bestimmungen zur Verwaltung der Tiefensynthese von Internet-Informationsdiensten (互联网信息服务深度合成管理规定, Anordnung Nr. 12 der Cyberspace-Verwaltung Chinas, des Ministeriums für Industrie und Informationstechnologie und des Ministeriums für öffentliche Sicherheit), veröffentlicht am 25. November 2022 und in Kraft seit dem 10. Januar 2023.
Wenn Ihr Produkt für Nutzer in Festlandchina Text, Bilder, Audio, Video oder virtuelle Szenen erzeugt oder bearbeitet — KI-Chatbots, synthetische Stimmen, Face-Swapping, KI-Schreibassistenten oder immersive Avatare —, regeln diese Bestimmungen, wie Sie es anbieten dürfen. Sie verlangen eine Echtidentitäts-Verifizierung der Nutzer, eine gesonderte Einwilligung, bevor eine Funktion das Gesicht oder die Stimme einer Person bearbeitet, eine auffällige Kennzeichnung synthetischer Inhalte, Sicherheitsbewertungen und Registrierung. Aufbauend auf dem Cybersicherheitsgesetz und dem Gesetz zum Schutz personenbezogener Informationen (PIPL), teilen sie ein Registrierungsregime mit den Bestimmungen zur Algorithmus-Empfehlung und stehen neben den Maßnahmen zur generativen KI als die Regeln, die jedes internationale Unternehmen mit Rechtsbeistand bestätigen sollte, bevor es generative oder synthetische Medienfunktionen in China einsetzt.
Bestimmungen zur Verwaltung der Tiefensynthese von Internet-Informationsdiensten (Verkündet am 25. November 2022 durch Anordnung Nr. 12 der Cyberspace-Verwaltung Chinas, des Ministeriums für Industrie und Informationstechnologie und des Ministeriums für öffentliche Sicherheit; in Kraft seit dem 10. Januar 2023)
Kapitel I — Allgemeine Bestimmungen
Artikel 1. Diese Bestimmungen werden im Einklang mit dem „Cybersicherheitsgesetz der Volksrepublik China“, dem „Datensicherheitsgesetz der Volksrepublik China“, dem „Gesetz zum Schutz personenbezogener Informationen der Volksrepublik China“, den „Maßnahmen zur Verwaltung von Internet-Informationsdiensten“ und anderen Gesetzen und Verwaltungsvorschriften formuliert, um die Verwaltung der Tiefensynthese in Internet-Informationsdiensten zu stärken, die zentralen sozialistischen Werte fortzuführen, die nationale Sicherheit und das öffentliche Interesse der Gesellschaft zu wahren und die legitimen Rechte und Interessen von Bürgern, juristischen Personen und anderen Organisationen zu schützen.
Artikel 2. Diese Bestimmungen gelten für die Anwendung von Tiefensynthese-Technologie zur Bereitstellung von Internet-Informationsdiensten (nachstehend „Tiefensynthese-Dienste“) innerhalb des Hoheitsgebiets der Volksrepublik China. Wo Gesetze oder Verwaltungsvorschriften etwas anderes bestimmen, sind jene Bestimmungen maßgeblich.
Artikel 3. Die nationale Cyberspace-Verwaltungsbehörde ist für die Gesamtkoordinierung der Governance von Tiefensynthese-Diensten und die damit verbundene Beaufsichtigungs- und Verwaltungsarbeit im ganzen Land zuständig. Die Telekommunikationsbehörde und die Behörde für öffentliche Sicherheit des Staatsrats sind im Einklang mit ihren jeweiligen Pflichten für die Beaufsichtigung und Verwaltung von Tiefensynthese-Diensten zuständig.
Lokale Cyberspace-Verwaltungsbehörden sind für die Gesamtkoordinierung der Governance von Tiefensynthese-Diensten und die damit verbundene Beaufsichtigungs- und Verwaltungsarbeit innerhalb ihrer jeweiligen Verwaltungsregionen zuständig. Lokale Telekommunikationsbehörden und Behörden für öffentliche Sicherheit sind im Einklang mit ihren jeweiligen Pflichten für die Beaufsichtigung und Verwaltung von Tiefensynthese-Diensten innerhalb ihrer jeweiligen Verwaltungsregionen zuständig.
Artikel 4. Die Bereitstellung von Tiefensynthese-Diensten hat Gesetze und Vorschriften einzuhalten, die gesellschaftliche Moral und Ethik zu achten, an der korrekten politischen Richtung, der Leitung der öffentlichen Meinung und der Werteausrichtung festzuhalten und Tiefensynthese-Dienste hin zum Positiven und Guten zu fördern.
Artikel 5. Einschlägige Branchenorganisationen werden ermutigt, die Selbstdisziplin der Branche zu stärken, Branchenstandards, Branchenverhaltenskodizes und Selbstregulierungs-Verwaltungssysteme zu errichten und zu verbessern und Anbieter von Tiefensynthese-Diensten und technische Unterstützer anzuhalten und anzuleiten, Geschäftsnormen zu formulieren und zu verbessern, ihr Geschäft im Einklang mit dem Gesetz zu betreiben und gesellschaftliche Aufsicht zu akzeptieren.
Kapitel II — Allgemeine Regeln
Artikel 6. Keine Organisation oder Einzelperson darf Tiefensynthese-Dienste nutzen, um durch Gesetze oder Verwaltungsvorschriften verbotene Informationen zu erstellen, zu reproduzieren, zu veröffentlichen oder zu verbreiten, oder Tiefensynthese-Dienste nutzen, um durch Gesetze oder Verwaltungsvorschriften verbotene Tätigkeiten auszuüben, etwa die Gefährdung der nationalen Sicherheit und Interessen, die Schädigung des nationalen Ansehens, die Verletzung des öffentlichen Interesses der Gesellschaft, die Störung der wirtschaftlichen und sozialen Ordnung oder die Verletzung der legitimen Rechte und Interessen anderer.
Anbieter von Tiefensynthese-Diensten und Nutzer dürfen Tiefensynthese-Dienste nicht nutzen, um falsche Nachrichteninformationen zu erstellen, zu reproduzieren, zu veröffentlichen oder zu verbreiten. Wo auf Grundlage von Tiefensynthese-Diensten erstellte und veröffentlichte Nachrichteninformationen reproduziert werden, sind die von einer Internet-Nachrichteninformationsquelleneinheit veröffentlichten Nachrichteninformationen im Einklang mit dem Gesetz zu reproduzieren.
Artikel 7. Anbieter von Tiefensynthese-Diensten haben ihre primäre Verantwortung für die Informationssicherheit umzusetzen, Verwaltungssysteme für die Nutzerregistrierung, die Überprüfung von Algorithmusmechanismen und -prinzipien, die wissenschafts- und technikethische Überprüfung, die Überprüfung der Informationsveröffentlichung, die Datensicherheit, den Schutz personenbezogener Informationen, die Bekämpfung von Telekommunikationsnetz-Betrug und die Notfallreaktion zu errichten und zu verbessern und sichere und kontrollierbare technische Schutzmaßnahmen zu haben.
Artikel 8. Anbieter von Tiefensynthese-Diensten haben ihre Verwaltungsregeln und Plattformkonventionen zu formulieren und zu veröffentlichen, ihre Dienstvereinbarungen zu verbessern, ihre Verwaltungsverantwortlichkeiten im Einklang mit dem Gesetz und mit jenen Vereinbarungen zu erfüllen und in auffälliger Weise technische Unterstützer und Nutzer von Tiefensynthese-Diensten daran zu erinnern, ihre Informationssicherheitspflichten zu übernehmen.
Artikel 9. Anbieter von Tiefensynthese-Diensten haben auf Grundlage von Mitteln wie Mobiltelefonnummern, Ausweisdokumentennummern, einheitlichen Sozialkreditcodes oder dem nationalen öffentlichen Dienst zur Netzwerkidentitätsauthentifizierung die Echtidentitätsinformationen der Nutzer von Tiefensynthese-Diensten im Einklang mit dem Gesetz zu authentifizieren und dürfen Nutzern von Tiefensynthese-Diensten, die keine Authentifizierung der Echtidentitätsinformationen durchlaufen haben, keine Informationsveröffentlichungsdienste bereitstellen.
Artikel 10. Anbieter von Tiefensynthese-Diensten haben die Verwaltung von Tiefensynthese-Inhalten zu stärken und technische oder manuelle Mittel zu übernehmen, um die Eingabedaten und Syntheseergebnisse der Nutzer von Tiefensynthese-Diensten zu überprüfen.
Anbieter von Tiefensynthese-Diensten haben eine Merkmalsdatenbank zur Identifizierung rechtswidriger und schädlicher Informationen zu errichten und zu verbessern, die Standards, Regeln und Verfahren für die Eingabe von Informationen in die Datenbank zu verbessern und die einschlägigen Netzwerkprotokolle aufzuzeichnen und aufzubewahren.
Wo ein Anbieter von Tiefensynthese-Diensten rechtswidrige oder schädliche Informationen entdeckt, hat er im Einklang mit dem Gesetz Behandlungsmaßnahmen zu ergreifen, die einschlägigen Aufzeichnungen aufzubewahren und der Cyberspace-Verwaltungsbehörde und den einschlägigen zuständigen Behörden umgehend Meldung zu erstatten; und hat im Einklang mit dem Gesetz und mit den Vereinbarungen gegen die einschlägigen Nutzer von Tiefensynthese-Diensten Behandlungsmaßnahmen zu ergreifen, etwa die Erteilung von Verwarnungen, die Einschränkung von Funktionen, die Aussetzung von Diensten oder die Schließung von Konten.
Artikel 11. Anbieter von Tiefensynthese-Diensten haben einen Mechanismus zur Gerüchtewiderlegung zu errichten und zu verbessern; wo sie entdecken, dass Tiefensynthese-Dienste genutzt werden, um falsche Informationen zu erstellen, zu reproduzieren, zu veröffentlichen oder zu verbreiten, haben sie umgehend Maßnahmen zur Gerüchtewiderlegung zu ergreifen, die einschlägigen Aufzeichnungen aufzubewahren und der Cyberspace-Verwaltungsbehörde und den einschlägigen zuständigen Behörden Meldung zu erstatten.
Artikel 12. Anbieter von Tiefensynthese-Diensten haben bequeme Einstiegspunkte für Nutzerbeschwerden und für öffentliche Beschwerden und Meldungen einzurichten, den Behandlungsprozess und die Fristen für Rückmeldungen zu veröffentlichen und die Ergebnisse der Behandlung umgehend anzunehmen, zu behandeln und rückzumelden.
Artikel 13. App-Vertriebsplattformen wie Internet-App-Stores haben ihre Sicherheitsverwaltungsverantwortlichkeiten für die Listungsüberprüfung, die routinemäßige Verwaltung und die Notfallreaktion umzusetzen und den Status der Sicherheitsbewertung, Registrierung und dergleichen von Tiefensynthese-Anwendungen zu überprüfen; wo ein Verstoß gegen einschlägige staatliche Bestimmungen vorliegt, haben sie unverzüglich Behandlungsmaßnahmen zu ergreifen, etwa die Verweigerung der Listung, die Erteilung von Verwarnungen, die Aussetzung von Diensten oder die Entfernung der Anwendung aus den Regalen.
Kapitel III — Normen für die Verwaltung von Daten und Technologie
Artikel 14. Anbieter von Tiefensynthese-Diensten und technische Unterstützer haben die Verwaltung der Trainingsdaten zu stärken und notwendige Maßnahmen zu ergreifen, um die Sicherheit der Trainingsdaten zu gewährleisten; wo die Trainingsdaten personenbezogene Informationen enthalten, haben sie die einschlägigen Bestimmungen zum Schutz personenbezogener Informationen einzuhalten.
Wo Anbieter von Tiefensynthese-Diensten und technische Unterstützer Funktionen zur Bearbeitung biometrischer Informationen wie Gesichter oder Stimmen bereitstellen, haben sie die Nutzer von Tiefensynthese-Diensten daran zu erinnern, im Einklang mit dem Gesetz die Einzelpersonen, deren Informationen bearbeitet werden, zu benachrichtigen und ihre gesonderte Einwilligung einzuholen.
Artikel 15. Anbieter von Tiefensynthese-Diensten und technische Unterstützer haben die Technologieverwaltung zu stärken und die Mechanismen und Prinzipien generativer Synthesealgorithmen regelmäßig zu überprüfen, zu bewerten und zu verifizieren.
Wo Anbieter von Tiefensynthese-Diensten und technische Unterstützer Werkzeuge wie Modelle oder Vorlagen bereitstellen, die die folgenden Funktionen haben, haben sie im Einklang mit dem Gesetz selbst eine Sicherheitsbewertung durchzuführen oder eine Fachinstitution damit zu beauftragen:
(1) Erzeugung oder Bearbeitung biometrischer Informationen wie Gesichter oder Stimmen;
(2) Erzeugung oder Bearbeitung nicht-biometrischer Informationen wie besondere Objekte oder Szenen, die die nationale Sicherheit, das nationale Ansehen, nationale Interessen oder das öffentliche Interesse der Gesellschaft betreffen können.
Artikel 16. Für mit seinen Diensten erzeugte oder bearbeitete Informationsinhalte hat ein Anbieter von Tiefensynthese-Diensten technische Maßnahmen zu ergreifen, um eine Kennzeichnung hinzuzufügen, die die Nutzung durch die Nutzer nicht beeinträchtigt, und hat Protokollinformationen im Einklang mit Gesetzen, Verwaltungsvorschriften und einschlägigen staatlichen Bestimmungen aufzubewahren.
Artikel 17. Wo ein Anbieter von Tiefensynthese-Diensten die folgenden Tiefensynthese-Dienste bereitstellt, die dazu führen können, dass die Öffentlichkeit verwirrt wird oder Inhalte falsch identifiziert, hat er an einer angemessenen Position oder in einem angemessenen Bereich des erzeugten oder bearbeiteten Informationsinhalts eine auffällige Kennzeichnung anzubringen, um die Öffentlichkeit auf die Tiefensynthese-Situation aufmerksam zu machen:
(1) Dienste zur Erzeugung oder Bearbeitung von Text, der eine natürliche Person simuliert, etwa intelligenter Dialog oder intelligentes Schreiben;
(2) Dienste zur Erzeugung von Stimme, etwa synthetisierte Stimmen oder Stimmimitation, oder zur Bearbeitung, die persönliche Identitätsmerkmale erheblich verändert;
(3) Dienste zur Erzeugung von Bildern oder Videos von Personen, etwa Gesichtserzeugung, Gesichtsaustausch, Gesichtsmanipulation oder Haltungsmanipulation, oder zur Bearbeitung, die persönliche Identitätsmerkmale erheblich verändert;
(4) Dienste zur Erzeugung oder Bearbeitung immersiver, realistischer Szenen;
(5) andere Dienste, die die Funktion haben, Informationsinhalte zu erzeugen oder erheblich zu verändern.
Wo ein Anbieter von Tiefensynthese-Diensten andere als die im vorstehenden Absatz genannten Tiefensynthese-Dienste bereitstellt, hat er eine Funktion zur auffälligen Kennzeichnung bereitzustellen und die Nutzer von Tiefensynthese-Diensten daran zu erinnern, dass sie eine auffällige Kennzeichnung anbringen können.
Artikel 18. Keine Organisation oder Einzelperson darf technische Mittel nutzen, um die in den Artikeln 16 und 17 dieser Bestimmungen vorgesehenen Tiefensynthese-Kennzeichnungen zu löschen, zu manipulieren oder zu verbergen.
Kapitel IV — Beaufsichtigung, Inspektion und rechtliche Haftung
Artikel 19. Anbieter von Tiefensynthese-Diensten, die Attribute der öffentlichen Meinungsbildung oder die Fähigkeit zur gesellschaftlichen Mobilisierung haben, haben die Registrierung und die Verfahren für die Änderung und Löschung der Registrierung im Einklang mit den „Bestimmungen zur Verwaltung der Algorithmus-Empfehlung in Internet-Informationsdiensten“ durchzuführen.
Technische Unterstützer von Tiefensynthese-Diensten haben die Registrierung und die Verfahren für die Änderung und Löschung der Registrierung unter Bezugnahme auf die Bestimmungen des vorstehenden Absatzes durchzuführen.
Anbieter von Tiefensynthese-Diensten und technische Unterstützer, die die Registrierung abgeschlossen haben, haben ihre Registrierungsnummer an auffälliger Stelle auf den Websites, Anwendungen und dergleichen anzugeben, über die sie der Öffentlichkeit Dienste bereitstellen, und einen Link zu den öffentlich offengelegten Informationen bereitzustellen.
Artikel 20. Wo ein Anbieter von Tiefensynthese-Diensten neue Produkte, neue Anwendungen oder neue Funktionen entwickelt und einführt, die Attribute der öffentlichen Meinungsbildung oder die Fähigkeit zur gesellschaftlichen Mobilisierung haben, hat er im Einklang mit einschlägigen staatlichen Bestimmungen eine Sicherheitsbewertung durchzuführen.
Artikel 21. Die Cyberspace-Verwaltungsbehörde, die Telekommunikationsbehörde und die Behörde für öffentliche Sicherheit haben im Einklang mit ihren Pflichten die Beaufsichtigung und Inspektion von Tiefensynthese-Diensten durchzuführen. Anbieter von Tiefensynthese-Diensten und technische Unterstützer haben im Einklang mit dem Gesetz mitzuwirken und den notwendigen Support und die notwendige Hilfe, einschließlich Technologie und Daten, bereitzustellen.
Wo die Cyberspace-Verwaltungsbehörde und die einschlägigen zuständigen Behörden entdecken, dass ein Tiefensynthese-Dienst ein verhältnismäßig großes Informationssicherheitsrisiko darstellt, können sie im Einklang mit ihren Pflichten und dem Gesetz vom Anbieter von Tiefensynthese-Diensten und vom technischen Unterstützer verlangen, Maßnahmen wie die Aussetzung von Informationsaktualisierungen, der Nutzerkontenregistrierung oder anderer damit verbundener Dienste zu ergreifen. Der Anbieter von Tiefensynthese-Diensten und der technische Unterstützer haben wie verlangt Maßnahmen zu ergreifen, Berichtigungen vorzunehmen und die verborgenen Gefahren zu beseitigen.
Artikel 22. Wo ein Anbieter von Tiefensynthese-Diensten oder ein technischer Unterstützer gegen diese Bestimmungen verstößt, wird er im Einklang mit den Bestimmungen der einschlägigen Gesetze und Verwaltungsvorschriften bestraft; wo schwerwiegende Folgen verursacht werden, wird er im Einklang mit dem Gesetz schwerer bestraft.
Wo das Verhalten einen Verstoß gegen die Verwaltung der öffentlichen Sicherheit darstellt, verhängt das Organ für öffentliche Sicherheit im Einklang mit dem Gesetz eine Strafe der Verwaltung der öffentlichen Sicherheit; wo eine Straftat vorliegt, wird die strafrechtliche Haftung im Einklang mit dem Gesetz verfolgt.
Kapitel V — Ergänzende Bestimmungen
Artikel 23. Die Bedeutungen der folgenden Begriffe in diesen Bestimmungen sind wie folgt:
„Tiefensynthese-Technologie“ bezeichnet Technologie, die generative Synthesealgorithmen wie Deep Learning und virtuelle Realität nutzt, um Netzwerkinformationen wie Text, Bilder, Audio, Video und virtuelle Szenen zu erzeugen, einschließlich, aber nicht beschränkt auf:
(1) Technologie zur Erzeugung oder Bearbeitung von Textinhalten, etwa Artikelerzeugung, Textstilkonvertierung und Frage-Antwort-Dialog;
(2) Technologie zur Erzeugung oder Bearbeitung von Sprachinhalten, etwa Text-zu-Sprache, Stimmkonvertierung und Stimmattribut-Bearbeitung;
(3) Technologie zur Erzeugung oder Bearbeitung nicht-sprachlicher Inhalte, etwa Musikerzeugung und Szenenklang-Bearbeitung;
(4) Technologie zur Erzeugung oder Bearbeitung biometrischer Merkmale in Bild- oder Videoinhalten, etwa Gesichtserzeugung, Gesichtsaustausch, Bearbeitung persönlicher Attribute, Gesichtsmanipulation und Haltungsmanipulation;
(5) Technologie zur Erzeugung oder Bearbeitung nicht-biometrischer Merkmale in Bild- oder Videoinhalten, etwa Bilderzeugung, Bildverbesserung und Bildwiederherstellung;
(6) Technologie zur Erzeugung oder Bearbeitung digitaler Personen oder virtueller Szenen, etwa dreidimensionale Rekonstruktion und digitale Simulation.
„Anbieter von Tiefensynthese-Diensten“ bezeichnet eine Organisation oder Einzelperson, die Tiefensynthese-Dienste bereitstellt.
„Technischer Unterstützer von Tiefensynthese-Diensten“ bezeichnet eine Organisation oder Einzelperson, die technischen Support für Tiefensynthese-Dienste bereitstellt.
„Nutzer von Tiefensynthese-Diensten“ bezeichnet eine Organisation oder Einzelperson, die Tiefensynthese-Dienste nutzt, um Informationen zu erstellen, zu reproduzieren, zu veröffentlichen oder zu verbreiten.
„Trainingsdaten“ bezeichnet die annotierten oder Benchmark-Datensätze, die zum Trainieren von Modellen des maschinellen Lernens verwendet werden.
„Immersive, realistische Szene“ bezeichnet eine hochrealistische virtuelle Szene, die mit Tiefensynthese-Technologie erzeugt oder bearbeitet wird und die Teilnehmer erleben oder mit der sie interagieren können.
Artikel 24. Wo Anbieter von Tiefensynthese-Diensten und technische Unterstützer Online-Veröffentlichungsdienste, Online-Kulturaktivitäten oder Online-audiovisuelle Programmdienste ausüben, haben sie zugleich die Bestimmungen der zuständigen Behörden für Presse und Verlagswesen, Kultur und Tourismus sowie Rundfunk und Fernsehen einzuhalten.
Artikel 25. Diese Bestimmungen treten am 10. Januar 2023 in Kraft.
Abschluss
Das Originaldokument wurde auf Chinesisch von der Cyberspace-Verwaltung Chinas (zusammen mit dem Ministerium für Industrie und Informationstechnologie und dem Ministerium für öffentliche Sicherheit) veröffentlicht; wir haben es ins Deutsche übersetzt, was Sie oben lesen. Diese Übersetzung dient ausschließlich dem schnellen Verständnis und sollte nach eigenem Ermessen und auf eigenes Risiko verwendet werden — bestätigen Sie die aktuellen Anforderungen stets mit qualifiziertem Rechtsbeistand.
Wenn Sie weitere Hilfe von unserem Team benötigen, kontaktieren Sie uns noch heute, und unsere Experten helfen Ihnen, Ihre Präsenz in China von Grund auf konform zu halten.