Claude markiert KI-Texte nun unsichtbar und erntet Kritik

Anthropic stattet seine KI-Modelle ab sofort mit einem unsichtbaren Wasserzeichen für erzeugte Texte aus. Damit reagiert das Unternehmen auf neue EU-Vorgaben, die für mehr Transparenz beim Einsatz generativer KI sorgen sollen. Die Kennzeichnung soll laut dem Unternehmen allerdings weder Lesbarkeit noch Inhalt verändern, bleibt beim Kopieren eines Textes aber zunächst erhalten und kann so Hinweise auf dessen Ursprung liefern. Neue Claude-Modelle unterstützen die Technik bereits, ältere sollen folgen - die Markierung gilt weltweit und ist nicht auf die EU beschränkt.

Vor allem beim Einsatz von KI in Schule, Studium und Beruf könnte das Wasserzeichen eine Rolle spielen. Wer beispielsweise eine komplette Hausarbeit von Claude schreiben lässt und den Text unverändert übernimmt, soll künftig leichter erkannt werden können. Allerdings ist die Technik keineswegs fälschungssicher. Umfangreiche Überarbeitungen, Übersetzungen, Umformulierungen oder eine Mischung aus KI- und selbst geschriebenen Passagen können die Markierung entfernen. Auch Google arbeitet mit SynthID bereits an einer vergleichbaren Kennzeichnung für KI-generierte Texte.

Unter Claude-Nutzern sorgt die Neuerung dennoch für Diskussionen. Kritiker befürchten, dass selbst eine harmlose KI-Nutzung dadurch leichter auffallen könnte, etwa wenn ein Chatbot lediglich lange Dokumente zusammenfasst, Formulierungen verbessert oder bei einer Schreibblockade nach passenden Synonymen sucht. Entscheidend ist allerdings, dass das Wasserzeichen nicht automatisch in einem anschließend selbst verfassten Text auftaucht. Wer die Vorschläge nur als Grundlage nutzt und den Inhalt eigenständig formuliert, übernimmt die Markierung also nicht einfach.

Der größere Hintergrund ist die wachsende Bedeutung von KI im Alltag. Immer mehr Menschen lassen Texte erstellen, überarbeiten oder zusammenfassen, während Schulen und Hochschulen gleichzeitig nach Wegen suchen auch das eigenständige Arbeiten zu schützen. Das Wasserzeichen ist deshalb weniger als richtiger Beweis für Betrug gedacht, sondern vor allem als Werkzeug, um KI-generierte Inhalte nachvollziehbarer zu machen.

Kritik gibt es zudem an Anthropic selbst: Einige Nutzer finden es nämlich widersprüchlich, dass das Unternehmen seine eigenen KI-Ausgaben kennzeichnet, obwohl Claude mit großen Mengen an Trainingsmaterial entwickelt wurde, zu dem auch urheberrechtlich geschützte Werke gehörten. Am eigentlichen Zweck des Wasserzeichens ändert das jedoch wenig - da es vor allem darum geht die Entstehung transparenter erkennbar zu machen.