Funktioniert Together AI in China? Prompts, Fine-Tuning-Daten, die Generative-KI-Meldung & Grenztransfer
Together AI bedient über 200 Open-Weight-Modelle und Fine-Tuning von Infrastruktur außerhalb des Festlands — seine eigene Doku bietet Datenresidenz-Bereitstellungen nur in EU-Regionen, ohne Festland-China-Region — jeder Prompt, jedes RAG-Dokument und jeder Fine-Tuning-Korpus, den Sie ihm senden, verlässt also China. Für ein China-gerichtetes Produkt ist die Entscheidung nicht, ob die API antwortet: Es ist, ob Ihre Daten rechtmäßig die Grenze überqueren dürfen, und ob ein öffentliches Generative-KI-Feature eine CAC-Meldung braucht. Ein Blick zuerst auf die Compliance: Residenz, grenzüberschreitende Daten, das Melde-Tor und der rechtmäßige China-KI-Weg.
Funktioniert Together AI in China?
Together AI hat keine Festland-China-Region — seine eigene Dokumentation bietet Datenresidenz-Bereitstellungen nur in EU-Regionen — es aus China zu erreichen, sendet also Ihre Prompts, Fine-Tuning-Daten und Ausgaben an Offshore-Infrastruktur, und dieser grenzüberschreitende Transfer, nicht Latenz, ist das Compliance-Problem.
Together AI ist eine Inferenz- und Fine-Tuning-Cloud für über 200 Open-Weight-Modelle (Llama, DeepSeek, Qwen, FLUX und mehr), betrieben von Infrastruktur außerhalb des Festlands; standardmäßig speichert es die Prompts, die Sie senden, und die Antworten, die Modelle zurückgeben. Ein Prompt, ein abgerufenes RAG-Dokument oder ein ganzer Fine-Tuning-Korpus trägt routinemäßig personenbezogene Information und Geschäftsgeheimnisse, es an Togethers Offshore-Inferenz zu senden, ist also ein PIPL-Grenztransfer (Art. 38–40: Mitteilung, eine gesonderte Einwilligung und ein Transfermechanismus). Ein öffentliches Generative-KI-Feature für Festland-Nutzer anzubieten, löst zudem eine CAC-Meldung unter den Interim Measures for the Management of Generative AI Services aus, die ein vorgelagerter API-Anbieter nicht für Sie hält — und ein chinesisches Modell wie DeepSeek oder Qwen von einem US-Rechenzentrum zu bedienen, ändert keines der Tore.
Dies ist eine Risikokarte, kein Richtspruch — klären Sie die Einzelheiten mit Rechtsbeistand. 21YunBox kartiert Ihre Exponierung, lokalisiert auf ein CAC-gemeldetes inländisches Modell oder eine In-China-Sovereign-Cloud (nie einen Weg zum Offshore-Modell) und liefert die China-gerichtete Oberfläche inländisch auf ICP-gemeldeter Infrastruktur aus. Unser China-Team kann Ihre Exponierung kartieren →
Compliance-Momentaufnahme
- ✕ Keine Festland-China-Region — Togethers Datenresidenz-Option ist nur EU, Inferenz offshore
- ! Prompts, RAG-Kontext & Fine-Tuning-Korpora verlassen China für Offshore-Inferenz (PIPL 38–40)
- ! Speichert Ihre Prompts & Antworten standardmäßig; Zero Data Retention ist Opt-in, standardmäßig aus
- ! Ein öffentliches Festland-Gen-KI-Feature braucht eine CAC-Meldung — der Anbieter meldet keine für Sie
- ! Ein chinesisches Modell (DeepSeek/Qwen) offshore zu bedienen, ändert keines der Tore
- ✓ 21YunBox lokalisiert ein CAC-gemeldetes inländisches/Sovereign-Modell & liefert es ICP-gemeldet im Land aus
Was die offizielle Together AI-Dokumentation über China sagt
| Fakt | Primärquelle |
|---|---|
| Standardmäßig speichert Together AI Ihre Prompts und die Antworten des Modells. Togethers Dokumentation gibt an, dass „ZDR is not enabled by default“ und dass „Unless your organization enables ZDR, Together stores the prompts you send and the responses models return.“ Zero Data Retention muss pro Organisation eingeschaltet werden; Ihre Daten zum Trainieren von Modellen zu nutzen, ist „a separate opt-in and is off by default.“ | Together AI Docs — Zero data retention (docs.together.ai), retrieved 2026-10-10 |
| Together bietet Datenresidenz-Bereitstellungen nur in EU-Regionen — es gibt keine Festland-China-Region. Seine Dokumentation sagt, Together „supports private networking and VPC-based deployments, including in EU regions, on dedicated endpoints,“ die einzigen Residenz-Regionen, die es benennt; seine Datenschutzrichtlinie fügt hinzu, dass Ihre Information „may be transferred to, and maintained on, computers located outside of your … country … where the data protection laws may differ.“ | Together AI Docs — Zero data retention, and Privacy Policy §2.5 (together.ai), retrieved 2026-10-10 |
| Die Prompts oder Daten eines Festland-Nutzers offshore zu senden, ist ein PIPL-Grenztransfer. Chinas Gesetz zum Schutz personenbezogener Informationen (Art. 38–40) verlangt von einem Verarbeiter, der personenbezogene Information aus dem Festland bewegt, Mitteilung zu geben, eine gesonderte Einwilligung einzuholen und einen Transfermechanismus zu nutzen — eine CAC-Sicherheitsbewertung, den CAC-Standardvertrag oder eine Zertifizierung. Die Pflicht sitzt bei Ihnen, nicht dem Modell-Anbieter. | Personal Information Protection Law of the PRC, Articles 38–40 (cac.gov.cn), retrieved 2026-10-10 |
| Ein öffentliches Generative-KI-Feature für das Festland braucht eine CAC-Meldung. Chinas Interim Measures for the Management of Generative AI Services (生成式人工智能服务管理暂行办法, CAC, in Kraft seit 15. Aug. 2023) regeln generative Inhaltsdienste, die der Öffentlichkeit innerhalb Chinas Territorium angeboten werden, mit Trainingsdaten-, Inhaltskennzeichnungs- und Personenbezogene-Information-Pflichten und einer Sicherheitsbewertung und Algorithmus-Meldung für Dienste, die die öffentliche Meinung formen können. Ein vorgelagerter API-Anbieter hält nichts davon für das Feature, das Sie bauen. | Interim Measures for the Management of Generative AI Services, CAC (cac.gov.cn), retrieved 2026-10-10 |
Quellen vom 21YunBox Compliance-Team am 10. Oktober 2026 geprüft.
Für ein Festlandchina-Publikum ist die erste Frage zu Together AI nicht, ob die API antwortet oder wie schnell ein Token zurückstreamt — es ist, ob das, was Sie dem Modell übergeben, rechtmäßig das Land verlassen darf, und ob das Feature, das Sie darauf bauen, eine chinesische Meldung braucht. Together AI ist eine Inferenz- und Fine-Tuning-Cloud, die über 200 Open-Weight-Modelle bedient — Llama, DeepSeek, Qwen, FLUX und mehr — von Infrastruktur außerhalb des Festlands; seine eigene Dokumentation bietet Datenresidenz-Bereitstellungen nur in EU-Regionen, und es gibt keine Together-Region oder -Gesellschaft innerhalb Chinas. Was Sie ihm senden, ist nie bloß eine Frage: Prompts, abgerufene Dokumente und ganze Fine-Tuning-Korpora tragen personenbezogene Information und, oft, Geschäftsgeheimnisse. Standardmäßig speichert Together sogar die Prompts, die Sie senden, und die Antworten, die das Modell zurückgibt. Die Entscheidung hier ist also eine Compliance-Entscheidung, keine Geschwindigkeitsentscheidung.
Together AI in China auf einen Blick
| Was es entscheidet | In Together AIs eigenen Worten — und Chinas Recht |
|---|---|
| Wo die Inferenz tatsächlich läuft | Together bedient Open-Modell-Inferenz, Fine-Tuning und GPU-Cluster von Infrastruktur außerhalb des Festlands. Seine eigene Doku bietet Datenresidenz-Bereitstellungen nur „in EU regions, on dedicated endpoints“ — es gibt keine Festland-China-Region. Selbst die chinesischen Open-Weight-Modelle, die es hostet (DeepSeek, Qwen), laufen von dieser Offshore-Infrastruktur, was einen Aufruf an sie nicht China-lokal macht. |
| Was Sie ihm senden, und warum es personenbezogene Information ist | Prompts, System-Kontext, abgerufene RAG-Dokumente, Fine-Tuning-Dateien (oft ein ganzer proprietärer Korpus) und die Ausgaben des Modells. Diese tragen routinemäßig Namen, Kontaktdetails, Konto- und Bestelldatensätze und die in Quellcode eingebetteten Geheimnisse — personenbezogene Information nach PIPL, und häufig Geschäftsgeheimnisse. Wo IDs, Finanz-, Gesundheits-, biometrische oder Minderjährigen-Daten erscheinen, ist das sensible personenbezogene Information nach PIPL Art. 28. |
| Die Prompts Ihrer China-Nutzer und Ihr Korpus = ein grenzüberschreitender Transfer | Von einem Nutzer im Festland an Togethers Offshore-Inferenz gesendet, ist jedes davon ein grenzüberschreitender Transfer personenbezogener Information nach PIPL (Art. 38–40): Mitteilung, eine gesonderte Einwilligung und ein Transfermechanismus — eine CAC-Sicherheitsbewertung, den CAC-Standardvertrag oder eine Zertifizierung. Standardmäßig speichert Together die Prompts, die Sie senden, und die Antworten, die Modelle zurückgeben; Zero Data Retention ist Opt-in und standardmäßig aus. |
| Das Generative-KI-Melde-Tor für ein öffentliches Festland-Feature | Einen öffentlich zugänglichen Generative-KI-Dienst innerhalb des Festlands anzubieten, löst Chinas Interim Measures for the Management of Generative AI Services aus (生成式人工智能服务管理暂行办法, CAC, in Kraft seit 15. Aug. 2023) — Trainingsdaten- und Inhaltskennzeichnungs-Pflichten, Handhabung personenbezogener Information und eine Sicherheitsbewertung und Algorithmus-Meldung für Dienste, die die öffentliche Meinung formen können. Ein vorgelagerter API-Anbieter hält nichts davon für Sie. |
| Erreichbarkeit ist nicht die Achse | Dass der Endpunkt antwortet, klärt nichts. Die Entscheidung dreht sich um den grenzüberschreitenden Transfer und das Melde-Tor oben — und die China-gerichtete Oberfläche, die das Feature trägt (die App, die Chat-UI, die API-Edge, die Ihre Festland-Nutzer ansteuern), ist selbst ein öffentlicher Dienst in China, sie braucht also eine ICP-Beian (备案) und rechtskonforme inländische Auslieferung. |
Keine Festland-Region, Ihre Prompts, Fine-Tuning-Daten und Ausgaben verlassen also das Land
Togethers Position wird davon gesetzt, wo es läuft, nicht durch einen Ladezeit-Test. Together AI ist ein US-Unternehmen; seine serverlose Inferenz läuft offshore, und seine Dokumentation bietet Datenresidenz-Bereitstellungen nur „in EU regions, on dedicated endpoints“ — es veröffentlicht keine Festland-China-Region und keinen inländischen Dienst dort. Ein aufschlussreiches Detail folgt aus dem Modell-Katalog: Together bedient populäre chinesische Open-Weight-Modelle — DeepSeek und Qwen darunter — aber von derselben Offshore-Infrastruktur. Ein Modell chinesischen Ursprungs von einem US- oder EU-Rechenzentrum zu betreiben, macht den Aufruf nicht China-lokal oder China-rechtskonform, denn was die Entscheidung regiert, ist, wo die Daten verarbeitet werden und unter wessen Meldung der Dienst angeboten wird, nicht, wo das Modell zuerst trainiert wurde.
Aus diesem Grund veröffentlicht diese Seite keine First-Party-China-Latenzzahl für Together: Eine an einem Tag von einem Aussichtspunkt erfasste Zahl würde nichts Dauerhaftes sagen, und Geschwindigkeit ist die falsche Achse für einen in einer anderen Jurisdiktion verarbeiteten Dienst. Es gibt keinen rechtmäßigen Weg, einen Offshore-Endpunkt in einen inländischen zu verwandeln; die produktive Frage ist eine andere — wie man generative KI rechtmäßig vor chinesische Nutzer stellt, auf Infrastruktur, die innerhalb des Landes sitzt.
Was Sie ihm senden, ist personenbezogene Information — und oft ein ganzer proprietärer Korpus
Ein Prompt ist selten bloß eine Frage. Auf Together senden Sie Prompts, System-Kontext, abgerufene RAG-Dokumente und — charakteristisch — Fine-Tuning-Dateien, die auf einen ganzen proprietären Korpus hinauslaufen können, plus die Ausgaben, die das Modell zurückgibt. Diese tragen routinemäßig Namen, Kontaktdetails, Bestell- und Kontodatensätze, interne Dokumente und, für KI-Coding und -Datenarbeit, Quellcode und die darin eingebetteten Zugangsdaten und PII. Nach Chinas Gesetz zum Schutz personenbezogener Informationen ist das personenbezogene Information, und vieles davon ist auch Geschäftsgeheimnis-Material. Wo ein Prompt oder ein Datensatz Behörden-IDs, Finanz-, Gesundheits- oder biometrische Daten oder irgendetwas über Minderjährige enthält, ist es sensible personenbezogene Information nach PIPL Art. 28, was die Handhabungs-Hürde weiter erhöht.
Zwei ehrliche Details zu Togethers eigener Handhabung. Standardmäßig speichert es die Prompts, die Sie senden, und die Antworten, die Modelle zurückgeben — Zero Data Retention ist eine pro-Organisation-Einstellung, die standardmäßig aus ist — und Ihre Daten zum Trainieren von Modellen zu nutzen, ist ein gesondertes Opt-in, das ebenfalls standardmäßig aus ist. Diese Kontrollen zählen, aber sie regeln, was Together behält, nicht wohin Ihre Daten gehen: Von einem Nutzer in China an Togethers Offshore-Inferenz gesendet, ist jeder Prompt, jedes Dokument und jede Fine-Tuning-Datei ein grenzüberschreitender Transfer personenbezogener Information nach PIPL, und die Pflicht sitzt bei Ihnen, dem Verarbeiter, nicht dem Modell-Anbieter. PIPL Art. 38–40 verlangen Mitteilung, eine gesonderte Einwilligung, getrennt von der Zustimmung des Nutzers zur Nutzung des Features, und einen Transfermechanismus — eine CAC-Sicherheitsbewertung, den CAC-Standardvertrag oder eine Zertifizierung. Für einen Betreiber kritischer Informationsinfrastruktur verlangt die Datenlokalisierungspflicht im Cybersicherheitsgesetz Art. 39 (vormals Art. 37) — die Cybersicherheitsgesetz-Novelle 2025, in Kraft 1. Januar 2026, nummerierte den Datenlokalisierungs-Artikel von 37 auf 39 um, Inhalt unverändert — dass personenbezogene Information und wichtige Daten innerhalb Chinas gespeichert werden, was ein Offshore-Endpunkt nicht erfüllen kann.
Das Melde-Tor — und warum das Trimmen der Retention die Tür nicht schließt
Angenommen, Sie klären die Datenfrage und wollen trotzdem einen „generate“-Button, einen Assistenten oder einen Chatbot vor Festland-Nutzern. Das erste Tor ist nicht, welches Modell Sie auf Together wählten — es ist, ob Sie überhaupt einen öffentlich zugänglichen Generative-KI-Dienst in China anbieten dürfen. Chinas Interim Measures for the Management of Generative AI Services (生成式人工智能服务管理暂行办法, Cyberspace Administration of China, in Kraft seit 15. August 2023) sind die nationalen Regeln, geschrieben für genau dies. Sie regeln das Bereitstellen von Diensten, die Text, Bilder, Audio und Video „to the public within the territory of the People’s Republic of China“ generieren, und sie setzen Pflichten zu Trainingsdaten, zur Kennzeichnung KI-generierter Inhalte (verstärkt durch die KI-Inhaltskennzeichnungs-Regeln 2025), zur Handhabung personenbezogener Information und — für Dienste, die die öffentliche Meinung formen können — eine vorherige Sicherheitsbewertung und eine Algorithmus-Meldung. Wo Ihr Feature zudem Inhalte rankt oder empfiehlt, kann auch die Algorithmus-Empfehlungs-Bestimmungen-Meldung gelten. Together, ein vorgelagerter API-Anbieter, hält keine dieser Meldungen für Sie; die Pflicht knüpft an den Betreiber an, der das Feature tatsächlich der Öffentlichkeit im Festland bereitstellt.
Deshalb schließt das Trimmen der Retention die Tür nicht. Zero Data Retention zu aktivieren, oder einen EU-Dedicated-Endpunkt zu wählen, ändert, was die Grenze überquert und wie lange es lebt — nicht, dass es überquert. Der Prompt reist weiterhin vom Festland zu Offshore-Infrastruktur, um bedient zu werden, die Residenz-Position ist unverändert, und die Meldepflicht auf einem öffentlichen Festland-Feature ist unberührt. Unter beidem ist die China-gerichtete Oberfläche, die das Feature trägt, selbst ein öffentlicher Dienst in China, sie trägt also eine ICP-Beian-Pflicht (备案) und braucht rechtskonforme, inländische Auslieferung wie jede andere China-gerichtete Property. Nichts davon dreht sich darum, wie schnell eine Completion zurückstreamt; es dreht sich darum, ob die Daten eine Rechtsgrundlage hatten, das Land zu verlassen, und ob das öffentliche Feature gemeldet ist. Diese Seite kartiert Exponierung; sie ist kein Richtspruch — ob und wie die Measures, PIPL und die ICP-Pflicht auf Ihr konkretes Feature zutreffen, ist etwas, das mit qualifiziertem Rechtsbeistand gegen das zu klären ist, was Sie tatsächlich ausliefern.
Der rechtmäßige Weg — kartieren, lokalisieren, liefern
Es gibt einen rechtmäßigen Weg, ein Together-artiges KI-Feature vor chinesische Nutzer zu stellen, und er hat eine Gestalt: Das Modell wird aus China heraus von einem Betreiber bedient, der die Meldungen hält, und die Daten bleiben auf einer rechtskonformen Grundlage. Weil Together bereits chinesische Open-Modelle offshore bedient, ist der Lokalisieren-Zug oft ein sauberer — kein Weg zurück zu Togethers Endpunkt, sondern dieselbe Klasse von Modell, im Land aufgestellt durch seinen inländischen Betreiber: ein CAC-gemeldetes inländisches Modell wie Alibabas Qwen (通义千问) oder Baidus Ernie (文心一言), oder ein In-China-Sovereign-Cloud-Angebot, betrieben von einem lizenzierten lokalen Betreiber — jedes vorbehaltlich seiner eigenen Verfügbarkeit und Bedingungen, die Sie mit dem Betreiber und mit Rechtsbeistand bestätigen, bevor Sie bauen.
Unter dieser Wahl sitzt der Teil, den 21YunBox besitzt, und er ist mehr als Beratung. Unser China-Team tut drei Dinge. Wir kartieren Ihre PIPL-Grenz-, Generative-KI-Melde-, Sensible-personenbezogene-Information- und ICP-Pflichten gegen Ihre Gesellschaft, Ihre Datenmengen und wer Ihre Nutzer sind. Wir lokalisieren — stellen ein CAC-gemeldetes inländisches Modell oder ein In-China-Sovereign-Cloud-Modell anstelle des Offshore-Together-Aufrufs auf und integrieren es, der Festland-Nutzer nicht rechtmäßig bedienen kann, mit eingewilligter, inländischer Verarbeitung und Speicherung für das, was auf chinesischem Boden bleiben muss (und selbstgehostet, wo die Lizenz eines Modells es erlaubt). Und wir liefern jede China-gerichtete Oberfläche — die App, die Chat-UI, die API-Edge, die Ihre Festland-Nutzer ansteuern — über ICP-gemeldete, inländische Infrastruktur, den 21YunBox Optimizer, vor dem Stack, den Sie bereits betreiben, ohne Neuaufbau und ohne zweite Codebasis. 21YunBox ist eine Compliance-Overlay und ein Partner zu den Anbietern, die Sie nutzen, keine Migration und kein Wettbewerber. Für einen Dienst ohne Festland-Region heißt lokalisieren, eine rechtmäßige China-legale Alternative aufzustellen, nie einen Weg zum Offshore-Modell: 21YunBox nutzt oder empfiehlt niemals irgendeine Form der Umgehung. Das Ergebnis ist ein Generative-KI-Feature, das rechtmäßig und rechtskonform für Ihre Nutzer in China läuft.
Compliance-Einschätzung anfordern →
Weiterführende Lektüre:
- Chinas Interim-Maßnahmen zur Verwaltung generativer KI-Dienste
- Grenzüberschreitende Datentransfers nach PIPL
- Wie man eine ICP-Beian für China erhält
- Chinas Cybersicherheitsgesetz — Datenlokalisierung (Art. 39)
Häufige Fragen
Ist Together AI in Festlandchina verfügbar?
Together AI ist erreichbar und von Entwicklern nutzbar, aber es läuft von Infrastruktur außerhalb des Festlands — seine eigene Doku bietet Datenresidenz-Bereitstellungen nur in EU-Regionen, und es veröffentlicht keine Festland-China-Region oder inländischen Dienst. Es aus China zu nutzen, bedeutet also, Ihre Prompts, abgerufenen Dokumente und Fine-Tuning-Korpora offshore zu senden statt an eine China-lokale Option. Ein chinesisches Open-Modell wie DeepSeek oder Qwen von einem US-Rechenzentrum zu bedienen, ändert das nicht. Es gibt keinen rechtmäßigen Weg, einen Offshore-Endpunkt in einen inländischen zu verwandeln, und 21YunBox nutzt oder empfiehlt niemals irgendeine Form der Umgehung.
Speichert Together AI meine Daten oder trainiert darauf?
Standardmäßig speichert Together die Prompts, die Sie senden, und die Antworten, die Modelle zurückgeben; Zero Data Retention ist eine pro-Organisation-Einstellung, die standardmäßig aus ist, und Ihre Daten zum Trainieren von Modellen zu nutzen, ist ein gesondertes Opt-in, das ebenfalls standardmäßig aus ist. Diese Kontrollen begrenzen, was Together behält — aber selbst mit aktiviertem Zero Data Retention reist die Anfrage weiterhin vom Festland zu Offshore-Inferenz, um bedient zu werden, der grenzüberschreitende Transfer und die Datenresidenz-Position sind also unverändert. Behandeln Sie die Einzelheiten als ein mit Rechtsbeistand zu bestätigendes Risiko.
Kann ich ein Together-AI-gestütztes Feature rechtmäßig Nutzern in China anbieten?
Ein öffentlich zugängliches Generative-KI-Feature im Festland anzubieten, löst eine Meldung bei der CAC unter den Interim Measures for the Management of Generative AI Services aus, plus KI-Inhaltskennzeichnung, und jeder Prompt oder Datensatz, der an Togethers Offshore-Inferenz gesendet wird, ist ein PIPL-Grenztransfer, der Mitteilung, eine gesonderte Einwilligung und einen Transfermechanismus braucht. Ein vorgelagerter API-Anbieter hält keine dieser Meldungen für Sie, ein Together-gestütztes Feature kann der Festland-Öffentlichkeit also im Allgemeinen nicht wie es ist angeboten werden. Der rechtmäßige Weg ist ein CAC-gemeldetes inländisches Modell oder ein In-China-Sovereign-Cloud-Modell, mit der Oberfläche, ausgeliefert auf ICP-gemeldeter Infrastruktur — bestätigen Sie Ihre genauen Pflichten mit Rechtsbeistand.
