Kurzfassung: Nachstehend finden Sie die deutsche Übersetzung von Chinas Interimsmaßnahmen zur Verwaltung generativer KI-Dienste (生成式人工智能服务管理暂行办法, Anordnung Nr. 15 der Cyberspace-Verwaltung Chinas), verkündet am 10. Juli 2023 und in Kraft seit dem 15. August 2023.
Wenn Ihr Unternehmen der Öffentlichkeit in Festlandchina einen Chatbot, einen Schreibassistenten, einen Bildgenerator oder eine andere generative KI-Funktion anbietet, sind diese Maßnahmen die ersten nationalen Regeln des Landes, die entscheiden, ob ein solcher Dienst rechtmäßig betrieben werden darf — sie legen Pflichten zu Trainingsdaten, Inhaltsmoderation, Umgang mit personenbezogenen Informationen, Kennzeichnung KI-generierter Medien und, für Dienste, die die öffentliche Meinung prägen können, eine vorherige Sicherheitsbewertung und Algorithmus-Registrierung fest. Sie bauen unmittelbar auf dem Cybersicherheitsgesetz, dem Datensicherheitsgesetz und dem Gesetz zum Schutz personenbezogener Informationen (PIPL) auf. Sie verweisen zudem auf die Bestimmungen zur Tiefensynthese zur Inhaltskennzeichnung (Artikel 12) und die Bestimmungen zur Algorithmus-Empfehlung zur Algorithmus-Registrierung (Artikel 17).
Interimsmaßnahmen zur Verwaltung generativer KI-Dienste (Verkündet am 10. Juli 2023 durch Anordnung Nr. 15 der Cyberspace-Verwaltung Chinas und sechs weiterer Behörden; in Kraft seit dem 15. August 2023)
Kapitel I — Allgemeine Bestimmungen
Artikel 1. Diese Maßnahmen werden im Einklang mit dem „Cybersicherheitsgesetz der Volksrepublik China“, dem „Datensicherheitsgesetz der Volksrepublik China“, dem „Gesetz zum Schutz personenbezogener Informationen der Volksrepublik China“, dem „Gesetz der Volksrepublik China über den Fortschritt von Wissenschaft und Technologie“ und anderen Gesetzen und Verwaltungsvorschriften formuliert, um die gesunde Entwicklung und standardisierte Anwendung generativer künstlicher Intelligenz zu fördern, die nationale Sicherheit und das öffentliche Interesse der Gesellschaft zu wahren und die legitimen Rechte und Interessen von Bürgern, juristischen Personen und anderen Organisationen zu schützen.
Artikel 2. Diese Maßnahmen gelten für die Nutzung von Technologie der generativen künstlichen Intelligenz zur Bereitstellung von Diensten zur Erzeugung von Text, Bildern, Audio, Video und anderen Inhalten für die Öffentlichkeit innerhalb des Hoheitsgebiets der Volksrepublik China (nachstehend „generative KI-Dienste“).
Wo der Staat andere Bestimmungen über die Nutzung generativer KI-Dienste zur Ausübung von Tätigkeiten wie Nachrichtenveröffentlichung, Film- und Fernsehproduktion oder literarischem und künstlerischem Schaffen hat, sind jene Bestimmungen maßgeblich.
Diese Maßnahmen gelten nicht, wo Branchenorganisationen, Unternehmen, Bildungs- und wissenschaftliche Forschungseinrichtungen, öffentliche Kultureinrichtungen, einschlägige Fachinstitutionen und dergleichen Technologie der generativen künstlichen Intelligenz erforschen, entwickeln oder anwenden, ohne der Öffentlichkeit innerhalb Chinas generative KI-Dienste bereitzustellen.
Artikel 3. Der Staat hält an den Grundsätzen fest, der Entwicklung und der Sicherheit gleiche Bedeutung beizumessen und die Förderung von Innovation mit Governance im Einklang mit dem Gesetz zu verbinden; er ergreift wirksame Maßnahmen, um die innovative Entwicklung generativer künstlicher Intelligenz zu ermutigen, und wendet eine inklusive, umsichtige, abgestufte und kategorisierte Beaufsichtigung auf generative KI-Dienste an.
Artikel 4. Die Bereitstellung und Nutzung generativer KI-Dienste hat Gesetze und Verwaltungsvorschriften einzuhalten, die gesellschaftliche Moral und Ethik zu achten und die folgenden Bestimmungen zu beachten:
(1) Aufrechterhaltung der zentralen sozialistischen Werte und keine Erzeugung von durch Gesetze und Verwaltungsvorschriften verbotenen Inhalten, etwa Inhalten, die zum Umsturz der Staatsgewalt oder zur Beseitigung des sozialistischen Systems aufstacheln, die nationale Sicherheit und Interessen gefährden oder das nationale Ansehen schädigen, zur Abspaltung vom Land aufstacheln oder die nationale Einheit und soziale Stabilität untergraben, Terrorismus oder Extremismus propagieren, ethnischen Hass oder ethnische Diskriminierung propagieren oder Gewalt, Obszönität und Pornografie oder falsche und schädliche Informationen beinhalten;
(2) in den Prozessen des Algorithmusentwurfs, der Auswahl von Trainingsdaten, der Modellerzeugung und -optimierung, der Bereitstellung von Diensten und dergleichen Ergreifen wirksamer Maßnahmen, um Diskriminierung aufgrund von Ethnie, Überzeugung, Nationalität, Region, Geschlecht, Alter, Beruf, Gesundheit und dergleichen vorzubeugen;
(3) Achtung der Rechte des geistigen Eigentums und der Geschäftsethik, vertrauliche Behandlung von Geschäftsgeheimnissen und keine Nutzung von Vorteilen wie Algorithmen, Daten oder Plattformen zur Ausübung monopolistischen oder unlauteren Wettbewerbsverhaltens;
(4) Achtung der legitimen Rechte und Interessen anderer, keine Gefährdung der körperlichen oder geistigen Gesundheit anderer und keine Verletzung der Rechte am eigenen Bild, der Rufrechte, der Ehrrechte, der Privatsphärerechte und der Rechte und Interessen an personenbezogenen Informationen anderer;
(5) auf Grundlage der Merkmale des Diensttyps Ergreifen wirksamer Maßnahmen, um die Transparenz generativer KI-Dienste zu erhöhen und die Genauigkeit und Zuverlässigkeit der erzeugten Inhalte zu verbessern.
Kapitel II — Technologieentwicklung und Governance
Artikel 5. Die innovative Anwendung von Technologie der generativen künstlichen Intelligenz in allen Branchen und Bereichen wird ermutigt, ebenso die Erzeugung positiver, gesunder und erbaulicher hochwertiger Inhalte, die Erkundung und Optimierung von Anwendungsszenarien und der Aufbau eines Anwendungsökosystems.
Es wird Unterstützung für Branchenorganisationen, Unternehmen, Bildungs- und wissenschaftliche Forschungseinrichtungen, öffentliche Kultureinrichtungen, einschlägige Fachinstitutionen und dergleichen bei der Durchführung von Zusammenarbeit zu Angelegenheiten wie Innovation in der Technologie der generativen künstlichen Intelligenz, Entwicklung von Datenressourcen, Transformation und Anwendung sowie Risikoprävention geleistet.
Artikel 6. Eigenständige Innovation bei grundlegenden Technologien wie Algorithmen, Frameworks, Chips und unterstützenden Softwareplattformen der generativen künstlichen Intelligenz wird ermutigt, ebenso der auf Gleichheit und gegenseitigem Nutzen beruhende internationale Austausch und die internationale Zusammenarbeit und die Teilnahme an der Formulierung internationaler Regeln in Bezug auf generative künstliche Intelligenz.
Der Aufbau von Infrastruktur für generative künstliche Intelligenz und öffentlichen Plattformen für Trainingsdatenressourcen ist zu fördern. Die koordinierte gemeinsame Nutzung von Rechenleistungsressourcen ist zu fördern, und die Effizienz der Nutzung von Rechenleistungsressourcen ist zu verbessern. Die geordnete, abgestufte und kategorisierte Öffnung öffentlicher Daten ist zu fördern, und hochwertige öffentliche Trainingsdatenressourcen sind zu erweitern. Die Übernahme sicherer und vertrauenswürdiger Chips, Software, Werkzeuge, Rechenleistung und Datenressourcen wird ermutigt.
Artikel 7. Anbieter generativer KI-Dienste (nachstehend „Anbieter“) haben im Einklang mit dem Gesetz Trainingsdatenverarbeitungstätigkeiten wie Vortraining und Optimierungstraining durchzuführen und die folgenden Bestimmungen zu beachten:
(1) Nutzung von Daten und Basismodellen, die eine rechtmäßige Quelle haben;
(2) wo Rechte des geistigen Eigentums betroffen sind, keine Verletzung der Rechte des geistigen Eigentums, die andere im Einklang mit dem Gesetz genießen;
(3) wo personenbezogene Informationen betroffen sind, Einholung der Einwilligung der Einzelperson oder Einhaltung der anderen in Gesetzen und Verwaltungsvorschriften vorgesehenen Umstände;
(4) Ergreifen wirksamer Maßnahmen zur Verbesserung der Qualität der Trainingsdaten und zur Erhöhung der Authentizität, Genauigkeit, Objektivität und Vielfalt der Trainingsdaten;
(5) Einhaltung der anderen einschlägigen Bestimmungen von Gesetzen und Verwaltungsvorschriften wie des „Cybersicherheitsgesetzes der Volksrepublik China“, des „Datensicherheitsgesetzes der Volksrepublik China“ und des „Gesetzes zum Schutz personenbezogener Informationen der Volksrepublik China“ sowie der einschlägigen Aufsichtsanforderungen der betreffenden zuständigen Behörden.
Artikel 8. Wo im Zuge der Erforschung und Entwicklung von Technologie der generativen künstlichen Intelligenz eine Datenannotation durchgeführt wird, hat der Anbieter klare, konkrete und operable Annotationsregeln zu formulieren, die den Anforderungen dieser Maßnahmen entsprechen; hat Qualitätsbewertungen der Datenannotation durchzuführen und die Genauigkeit des annotierten Inhalts durch Stichproben zu überprüfen; und hat dem Annotationspersonal die notwendige Schulung bereitzustellen, um dessen Bewusstsein für die Achtung und Einhaltung des Gesetzes zu stärken, und hat das Annotationspersonal bei der standardisierten Durchführung der Annotationsarbeit zu beaufsichtigen und anzuleiten.
Kapitel III — Dienstspezifikationen
Artikel 9. Anbieter haben im Einklang mit dem Gesetz die Verantwortung als Produzenten von Online-Informationsinhalten zu tragen und die Pflichten zur Netzwerkinformationssicherheit zu erfüllen. Wo personenbezogene Informationen betroffen sind, haben sie im Einklang mit dem Gesetz die Verantwortung als Verarbeiter personenbezogener Informationen zu tragen und die Pflichten zum Schutz personenbezogener Informationen zu erfüllen.
Anbieter haben mit generativen KI-Dienstnutzern, die sich für ihre Dienste registrieren (nachstehend „Nutzer“), Dienstvereinbarungen zu schließen, die die Rechte und Pflichten beider Parteien festlegen.
Artikel 10. Anbieter haben die anwendbare Zielgruppe, die Umstände und die Nutzungszwecke ihrer Dienste festzulegen und offenzulegen, Nutzer anzuleiten, Technologie der generativen künstlichen Intelligenz wissenschaftlich und rational zu verstehen und im Einklang mit dem Gesetz zu nutzen, und wirksame Maßnahmen zu ergreifen, um zu verhindern, dass minderjährige Nutzer sich übermäßig auf generative KI-Dienste verlassen oder von ihnen abhängig werden.
Artikel 11. Anbieter haben ihre Schutzpflichten in Bezug auf die Eingabeinformationen und Nutzungsaufzeichnungen der Nutzer im Einklang mit dem Gesetz zu erfüllen; sie dürfen keine unnötigen personenbezogenen Informationen erheben, keine Eingabeinformationen und Nutzungsaufzeichnungen, die die Identität eines Nutzers identifizieren können, rechtswidrig zurückbehalten und keine Eingabeinformationen und Nutzungsaufzeichnungen der Nutzer rechtswidrig an andere bereitstellen.
Anbieter haben im Einklang mit dem Gesetz die Verlangen von Einzelpersonen auf Zugang, Kopie, Berichtigung, Ergänzung oder Löschung ihrer personenbezogenen Informationen und dergleichen zeitnah anzunehmen und zu behandeln.
Artikel 12. Anbieter haben erzeugte Inhalte wie Bilder und Videos im Einklang mit den „Bestimmungen zur Verwaltung der Tiefensynthese von Internet-Informationsdiensten“ zu kennzeichnen.
Artikel 13. Anbieter haben im Zuge ihrer Dienste sichere, stabile und kontinuierliche Dienste bereitzustellen und die normale Nutzung dieser Dienste durch die Nutzer sicherzustellen.
Artikel 14. Wo ein Anbieter rechtswidrige Inhalte entdeckt, hat er umgehend Behandlungsmaßnahmen wie das Stoppen der Erzeugung, das Stoppen der Übertragung und die Entfernung zu ergreifen; hat Maßnahmen wie Modelloptimierungstraining zur Berichtigung zu ergreifen; und hat den betreffenden zuständigen Behörden Meldung zu erstatten.
Wo ein Anbieter entdeckt, dass ein Nutzer generative KI-Dienste nutzt, um rechtswidrige Tätigkeiten auszuüben, hat er im Einklang mit dem Gesetz und der Vereinbarung Behandlungsmaßnahmen wie die Erteilung einer Verwarnung, die Einschränkung von Funktionen oder die Aussetzung oder Beendigung der Bereitstellung von Diensten für den Nutzer zu ergreifen; hat die einschlägigen Aufzeichnungen aufzubewahren; und hat den betreffenden zuständigen Behörden Meldung zu erstatten.
Artikel 15. Anbieter haben Beschwerde- und Meldemechanismen zu errichten und zu verbessern, bequeme Beschwerde- und Meldeportale einzurichten, die Behandlungsverfahren und die Fristen für Rückmeldungen zu veröffentlichen und öffentliche Beschwerden und Meldungen zeitnah anzunehmen und zu behandeln und die Ergebnisse der Behandlung rückzumelden.
Kapitel IV — Beaufsichtigung, Inspektion und rechtliche Haftung
Artikel 16. Die Behörden für Cyberspace-Angelegenheiten, Entwicklung und Reform, Bildung, Wissenschaft und Technologie, Industrie und Informationstechnologie, öffentliche Sicherheit, Rundfunk und Fernsehen, Nachrichten und Verlagswesen und dergleichen haben im Einklang mit ihren jeweiligen Verantwortlichkeiten und im Einklang mit dem Gesetz die Verwaltung generativer KI-Dienste zu stärken.
Die einschlägigen zuständigen Behörden des Staates haben in Reaktion auf die Merkmale der Technologie der generativen künstlichen Intelligenz und ihrer Dienstanwendungen in einschlägigen Branchen und Bereichen wissenschaftliche, der innovativen Entwicklung angemessene Aufsichtsmethoden zu verfeinern und entsprechende abgestufte und kategorisierte Aufsichtsregeln oder Leitlinien zu formulieren.
Artikel 17. Wer generative KI-Dienste mit Attributen der öffentlichen Meinungsbildung oder der Fähigkeit zur gesellschaftlichen Mobilisierung bereitstellt, hat im Einklang mit den einschlägigen Bestimmungen des Staates eine Sicherheitsbewertung durchzuführen und die Verfahren für die Algorithmus-Registrierung und für die Änderung und Löschung der Registrierung im Einklang mit den „Bestimmungen zur Verwaltung der Algorithmus-Empfehlung von Internet-Informationsdiensten“ durchzuführen.
Artikel 18. Wo ein Nutzer entdeckt, dass ein generativer KI-Dienst nicht den Bestimmungen der Gesetze, Verwaltungsvorschriften oder dieser Maßnahmen entspricht, hat der Nutzer das Recht, bei den betreffenden zuständigen Behörden Beschwerde einzureichen oder dies zu melden.
Artikel 19. Die betreffenden zuständigen Behörden haben im Einklang mit ihren Verantwortlichkeiten die Beaufsichtigung und Inspektion generativer KI-Dienste durchzuführen, und Anbieter haben im Einklang mit dem Gesetz mitzuwirken, indem sie wie verlangt die Quelle, den Umfang und die Art der Trainingsdaten, die Annotationsregeln, die Algorithmusmechanismen und -prinzipien und dergleichen erläutern und den notwendigen technischen, Daten- und sonstigen Support und die notwendige Hilfe bereitstellen.
Die an der Sicherheitsbewertung und der Beaufsichtigung und Inspektion generativer KI-Dienste beteiligten einschlägigen Institutionen und Personen haben im Einklang mit dem Gesetz die Staatsgeheimnisse, Geschäftsgeheimnisse, die persönliche Privatsphäre und personenbezogene Informationen, von denen sie bei der Erfüllung ihrer Pflichten Kenntnis erlangen, vertraulich zu behandeln und dürfen solche Informationen nicht offenlegen oder rechtswidrig an andere bereitstellen.
Artikel 20. Wo generative KI-Dienste, die ihren Ursprung außerhalb des Hoheitsgebiets der Volksrepublik China haben und Empfängern innerhalb des Hoheitsgebiets bereitgestellt werden, nicht den Bestimmungen der Gesetze, Verwaltungsvorschriften oder dieser Maßnahmen entsprechen, hat die staatliche Cyberspace-Verwaltungsbehörde die einschlägigen Institutionen zu benachrichtigen, technische Maßnahmen und andere notwendige Maßnahmen zu ergreifen, um die Angelegenheit zu behandeln.
Artikel 21. Wo ein Anbieter gegen die Bestimmungen dieser Maßnahmen verstößt, verhängen die betreffenden zuständigen Behörden Strafen im Einklang mit den Bestimmungen von Gesetzen und Verwaltungsvorschriften wie dem „Cybersicherheitsgesetz der Volksrepublik China“, dem „Datensicherheitsgesetz der Volksrepublik China“, dem „Gesetz zum Schutz personenbezogener Informationen der Volksrepublik China“ und dem „Gesetz der Volksrepublik China über den Fortschritt von Wissenschaft und Technologie“; wo Gesetze und Verwaltungsvorschriften keine solchen Bestimmungen enthalten, erteilen die betreffenden zuständigen Behörden im Einklang mit ihren Verantwortlichkeiten eine Verwarnung oder eine kursierende Rüge und ordnen Korrekturen innerhalb einer Frist an; wo Korrekturen verweigert werden oder die Umstände schwerwiegend sind, ordnen sie die Aussetzung der Bereitstellung der einschlägigen Dienste an.
Wo ein Verstoß gegen die Verwaltung der öffentlichen Sicherheit vorliegt, wird im Einklang mit dem Gesetz eine Strafe der Verwaltung der öffentlichen Sicherheit verhängt; wo eine Straftat vorliegt, wird die strafrechtliche Haftung im Einklang mit dem Gesetz verfolgt.
Kapitel V — Ergänzende Bestimmungen
Artikel 22. Die in diesen Maßnahmen verwendeten Begriffe haben die folgenden Bedeutungen:
(1) „Technologie der generativen künstlichen Intelligenz“ bezeichnet Modelle und zugehörige Technologien, die die Fähigkeit haben, Inhalte wie Text, Bilder, Audio und Video zu erzeugen.
(2) „Anbieter generativer KI-Dienste“ bezeichnet eine Organisation oder Einzelperson, die Technologie der generativen künstlichen Intelligenz nutzt, um generative KI-Dienste bereitzustellen (einschließlich der Bereitstellung generativer KI-Dienste durch Mittel wie die Bereitstellung einer programmierbaren Schnittstelle).
(3) „Generativer KI-Dienstnutzer“ bezeichnet eine Organisation oder Einzelperson, die generative KI-Dienste nutzt, um Inhalte zu erzeugen.
Artikel 23. Wo Gesetze oder Verwaltungsvorschriften vorsehen, dass die Bereitstellung generativer KI-Dienste die Erlangung einer einschlägigen Verwaltungslizenz erfordert, hat der Anbieter die Lizenz im Einklang mit dem Gesetz zu erlangen.
Ausländische Investitionen in generative KI-Dienste haben den Bestimmungen der einschlägigen Gesetze und Verwaltungsvorschriften über ausländische Investitionen zu entsprechen.
Artikel 24. Diese Maßnahmen treten am 15. August 2023 in Kraft.
Abschluss
Das Originaldokument wurde auf Chinesisch von der Cyberspace-Verwaltung Chinas veröffentlicht; wir haben es ins Deutsche übersetzt, was Sie oben lesen. Diese Übersetzung dient ausschließlich dem schnellen Verständnis und sollte nach eigenem Ermessen und auf eigenes Risiko verwendet werden — bestätigen Sie die aktuellen Anforderungen stets mit qualifiziertem Rechtsbeistand.
Wenn Sie weitere Hilfe von unserem Team benötigen, kontaktieren Sie uns noch heute, und unsere Experten helfen Ihnen, Ihre Präsenz in China von Grund auf konform zu halten.