EU-Wasserzeichen für KI-Texte: Ein Siegel, das nichts besiegelt

OpenAI rollt in den kommenden Wochen ein unsichtbares Text-Wasserzeichen für ChatGPT und Codex aus – allerdings ausschließlich für Nutzer in der Europäischen Union. Die Technologie namens textGrain soll KI-generierte Texte maschinell erkennbar machen und damit die Transparenzvorgaben des EU AI Act erfüllen, deren Kennzeichnungspflichten seit dem 2. August 2026 gelten. Klingt erst einmal nach konsequenter Regulierung, doch bei genauerem Hinsehen zeigen sich mal wieder erhebliche Schwächen: Das gesamte System ist nämlich so fragil, dass es vor allem die ehrlichen Nutzer trifft – und genau jene Akteure durchlässt, vor denen es eigentlich schützen soll.

Was OpenAI konkret plant

Das "textGrain" fügt keine unsichtbaren Zeichen in einen Text ein, sondern beeinflusst die Wahrscheinlichkeiten bei der Wortwahl des Modells. Über längere Passagen entsteht so ein statistisches Muster, das ein passender Detektor nachweisen kann – für menschliche Leser bleibt das Wasserzeichen unsichtbar. Ein sogenanntes Entropiebudget soll zudem begrenzen, wie stark die Wortvielfalt dadurch eingeschränkt wird. OpenAI hat parallel einen technischen Bericht veröffentlicht und versichert, interne Benchmarks zeigten angeblich keine spürbaren Qualitätseinbußen.

Weltweit bleibt das Feature für API-Kunden übrigens reine Option: Es muss aktiv zugeschaltet werden und ist standardmäßig deaktiviert. Der Detektor selbst ist zum Start zudem nicht öffentlich zugänglich – nur ausgewählte Forscher und Organisationen erhalten nach Einzelfallprüfung Zugriff, wie es der EU-Code of Practice für Transparenz vorsieht. Begründet wird die Zurückhaltung mit dem Risiko übersehener Wasserzeichen und falsch-positiver Ergebnisse.

Die Zahlen, die OpenAI selbst nennt – und die das Problem sind

OpenAI ist in seiner Dokumentation ungewöhnlich ehrlich, was die Grenzen des Systems angeht. Und diese Grenzen sind massiv:

• Bei einer Falsch-Positiv-Rate von einem Prozent erkennt der Detektor Texte mit 400 Token in rund 95 Prozent der Fälle. Bei 200 Token sinkt die Quote auf etwa 80 Prozent.
• Werden nur 10 Prozent der Wörter durch Synonyme ersetzt, fällt die Erkennungsrate von über 90 Prozent auf rund 66 Prozent.
• Werden hingegen 25 Prozent der Wörter getauscht, bleibt gerade noch eine Erkennungsrate von 17 Prozent.
• Kurze Texte und Themen mit wenig sprachlichem Spielraum wie Mathematik lassen sich deutlich schlechter identifizieren.

Man muss diese Zahlen nur einmal umgekehrt lesen: Ein Text, dessen Viertel paraphrasiert wurde, geht in fünf von sechs Fällen als "menschlich verfasst" durch. Das ist somit längst keine Kontrollinstanz mehr, das ist eher eine Zufallsauswahl mit gutem Gewissen. OpenAI selbst räumt zudem ein, dass ein fehlendes Wasserzeichen keineswegs menschliche Autorenschaft beweist und umgekehrt ein vorhandenes Wasserzeichen nichts über den Wahrheitsgehalt, die Urheberschaft oder den menschlichen Anteil an einem Text aussagt.

Das globale Schlupfloch: Geo-Blocking als Feigenblatt

Die vielleicht größte Schwäche steht schon im ersten Satz jeder Meldung: Das Wasserzeichen gilt nur in der EU. Wer also mit einem VPN über einen Server in den USA oder Singapur surft, generiert hingegen unmarkierte Texte. Der EU AI Act ist ein Marktregulierungsgesetz – er verpflichtet Anbieter, die in der EU Produkte bereitstellen, zur Einhaltung der Regeln. Ein lückenloses weltweites Absperrverfahren gegen VPN-Umgehungen verlangt das Gesetz hingegen nicht und OpenAI formuliert es selbst so, dass man "kein globales Standard-Feature" zum Launch machen wolle und sich in dieser regionalen Herangehensweise Raum für Erfahrungen aus der Praxis erhoffe.

Das Ergebnis ist wie so oft ein zweiklassiges System: EU-Nutzer erhalten standardmäßig vorsortierte, markierte KI-Texte, der Rest der Welt allerdings nicht. Für Desinformationskampagnen, die ohnehin zum Großteil über Botfarmen und ausländische Server laufen dürften, ist die EU-Kennzeichnungspflicht damit praktisch irrelevant. Der eigentliche Bumerang-Effekt: Anbieter außerhalb Europas haben keinen Anreiz mitzuziehen, weil statistische Wasserzeichen die Textqualität minimal negativ beeinflussen dürften – ein Wettbewerbsnachteil, den man sich in den USA oder China freiwillig nicht antuen wird.

Die "Waschstraße" direkt auf dem eigenen Schreibtisch

Doch selbst innerhalb der EU bricht die Kontrolle weiter auf. Mit den immer leistungsstärkeren, kompakten Open-Source-Modellen wie DeepSeek- oder Llama-Varianten, die über Tools wie Ollama oder LM Studio lokal auf handelsüblichen Gaming-PCs laufen, lässt sich KI-Text mittlerweile längst ohne jede aktive Serververbindung generieren. Und selbst ein markierter ChatGPT-Text lässt sich durch diese Maßnahme wohl in Sekunden "reinwaschen": Text einfügen, lokal umschreiben lassen, fertig. Das statistische Muster dürfte damit in vielen Fällen komplett zerschlagen sein und der Vorgang hinterlässt keine Spuren.

Die Open-Source-Realität lässt sich zudem nicht wegregulieren. Selbst wenn EU-Vorgaben Wasserzeichen-Module in quelloffene Modelle zwingen würden: Der Code ist einsehbar, und die weltweite Community entfernt solche Module in der Regel umgehend nach Veröffentlichung. Auf Plattformen wie Hugging Face stehen modifizierte Versionen quasi sofort bereit. Der AI Act setzt damit auf eine Kontrollarchitektur, die nur in einer Welt funktioniert, in der eine Handvoll Tech-Konzerne den exklusiven Zugang zu KI-Modellen über geschlossene Server kontrollieren – genau diese Welt verschwindet gerade.

Der gefährlichste Effekt: Bestrafung der Ehrlichen

Das eigentliche Problem ist aber wohl vor allem die soziale Dynamik die sie erzeugt. Stellen wir uns einmal kurz zwei Nutzer vor:

Nutzer A nutzt ChatGPT in der EU ganz regulär und lässt das Wasserzeichen im Text. Ein Prüfprogramm schlägt an. Nutzer A muss sich nun rechtfertigen – in der Schule, im Job, in der Redaktion. Nutzer B nutzt dieselbe KI, paraphrasiert ein Viertel des Textes oder generiert den Inhalt gleich über ein lokales Modell. Der Prüfer meldet: Menschlicher Text. Nutzer B erntet dann trotzdem das Lob.

Das EU Wasserzeichen-System macht also die Ehrlichen sichtbar und belohnt die, die einen einzigen Zwischenschritt investieren. Sicherheitsexperten warnen deshalb vor genau diesem "False Sense of Security": Ein Detektor, der auf umgangene Wasserzeichen mit "menschlich" antwortet, sagt nichts mehr über die Herkunft eines Textes aus – sondern nur noch, ob der Ersteller zu faul oder zu ehrlich war, ihn zu entfernen.

Hinzu kommt die Kehrseite der Statistik: Da die Muster rein mathematisch sind, werden zwangsläufig auch einige echte menschliche Texte falsch-positiv als "KI-generiert" eingestuft. Gegen einen solchen Verdacht gibt dann kaum eine Verteidigung, weil niemand beweisen kann, dass er einen Text selbst geschrieben hat. Aus Transparenz wird so im schlimmsten Fall ein Werkzeug für fälschliche Denunziation.

Die Wette auf den Brüssel-Effekt

Deshalb stellt sich die Frage warum die EU das trotzdem möchte? Die Rechnung dahinter ist wohl die gleiche wie bei DSGVO und dem USB-C-Zwang: Der sogenannte Brüssel-Effekt. Es ist also schlicht die Hoffnung, dass der Binnenmarkt mit über 450 Millionen Verbrauchern global Tech-Konzerne dazu bringt, europäische Standards weltweit zu übernehmen. Bei Hardware hat in der Vergangenheit relativ gut funktioniert. Bei Software und Texten ist die Wette hingegen deutlich riskanter, denn Geo-Blocking und VPN-Umgehung sind hier trivial einfach – und die Konkurrenz aus den USA und China spielt hier schlicht nicht mit. Der Digital Services Act verlagert zusätzlich Moderationspflichten auf Plattformen, aber auch deren Detektoren laufen auf denselben fragilen statistischen Fundamenten.

Verteidiger des Systems führen an, dass das Wasserzeichen das "Grundrauschen" an KI-Inhalten – automatisierte SEO-Texte, Spam-Mails, Fake-Bewertungen – herausfiltert, weil die Masse der Nutzer den Weg des geringsten Widerstands geht und kein VPN nutzt. Das ist wohl richtig, ändert aber nichts an der Kernlogik: Ein Werkzeug, das bewusst böswillige Akteure nicht aufhält, aber ehrliche Nutzer in Erklärungsnot bringt, schafft kein Vertrauen, sondern vor allem Misstrauen.

Fazit: Ein Herkunftssiegel, das nichts besiegelt

Am Ende bleibt ein nüchternes Bild. Die EU hat mit dem AI Act eine Kennzeichnungspflicht geschaffen, deren technisches Fundament – statistische Wasserzeichen – von OpenAI selbst als unzuverlässig bei kurzen, bearbeiteten oder restriktiven Texten beschrieben wird. Das System lässt sich per VPN, per Paraphrase oder per lokalem Modell in Sekunden umgehen, während der Detektor nicht einmal öffentlich verfügbar ist.

Dazu kommt eine wirtschaftliche Dimension, die in Brüsseler Debatten gerne ausgeblendet wird: Die Kennzeichnungspflicht trifft nicht alle gleich. Sie benachteiligt vor allem europäische KI-Anbieter, die ab dem ersten Tag gegen unregulierte Konkurrenten aus den USA und China antreten. KI ist aber ein globales Geschäft und ein amerikanischer Kunde zahlt für ein Textmodell, das er nebenan ohne Wasserzeichen und damit ohne potenzielle Qualitätseinbußen bekommt, kaum freiwillig Geld für eine EU-Variante, deren Ausgaben er zusätzlich noch als "KI-markiert" disqualifiziert.

Der theoretische Nutzerkreis eines europäischen Modells schrumpft damit nicht nur innerhalb der EU, sondern vor allem auf dem Weltmarkt, wo die Kennzeichnung als Makel gelesen wird. Wer ein KI-Unternehmen gründet, verlegt den Sitz wohl ziemlich sicher nach Delaware oder Singapur, entwickelt für den Weltmarkt – und die EU guckt (mal wieder) in die Röhre. Es ist schließlich kein Zufall, dass es in Europa kaum KI-Champions gibt. Das liegt nicht an fehlendem Talent der Menschen hierzulande, sondern vor allem daran, dass Gründer und Investoren die Kombination aus Compliance-Aufwand, Bußgeldrisiken bis zu 15 Millionen Euro und einem technisch "gebremsten" Produkt schlicht vermeiden – und in der Regel direkt wegziehen, bevor das erste Update ausgerollt ist.

Ausgerechnet OpenAI illustriert diese Dynamik nun selbst: Der Konzern baut die textGrain-Infrastruktur im Wesentlichen, um die europäische Bürokratie zu bedienen, hält das Feature im Rest der Welt standardmäßig deaktiviert – und räumt zugleich ein, dass der reale Nutzen wohl gegen null tendiert. Wer reguliert wird, weiß, dass die Regulierung nichts bewirkt. Wer regulieren will, sollte die Technologie, die er reguliert, zumindest verstehen - an diesem Punkt besteht bei vielen EU-Politikern offenkundig noch massiver Nachholbedarf.