OpenAI kündigt unsichtbare Wasserzeichen für ChatGPT an
Chatbots schreiben Bewerbungen, Hausarbeiten und Produkttexte, oft ohne dass Leser es merken. Nun hat OpenAI, das US-Unternehmen hinter ChatGPT, unsichtbare Wasserzeichen für Texte seines Chatbots angekündigt, wie die Tagesschau am 22. Oktober berichtet. Seit Anfang August verlangt eine Regel im AI Act, dem KI-Gesetz der EU, maschinenlesbare Kennzeichen für KI-Inhalte. Erkennen lässt sich ein solches Zeichen laut einem Fachmann gut erst in Texten ab etwa 200 bis 300 Wörtern.
Das Verfahren nutzt aus, dass sich ein Inhalt oft verschieden formulieren lässt. Beim Schreiben bevorzugt das Modell bestimmte gleichbedeutende Wörter minimal, andere benachteiligt es, ähnlich einem leicht gezinkten Würfel. So entsteht ein statistisches Muster, das Leser nicht sehen. Prüfen kann es nur, wer den geheimen Schlüssel kennt. Sonst könnte jeder das Zeichen entfernen oder selbst erzeugen, erklärt Waldemar Berchtold vom Fraunhofer-Institut für Sichere Informationstechnologie in Darmstadt. Die Anbieter Anthropic und Google haben solche Wasserzeichen angekündigt oder nutzen sie teilweise schon.
Wer einen KI-Text umschreibt und eigenen Stil einbringt, verwischt laut Berchtold die Spur. Prüfverfahren liefern deshalb nur eine Wahrscheinlichkeit, keine Gewissheit. Detektoren der Anbieter würden vermutlich Sätze ausgeben wie: mit 80 Prozent Wahrscheinlichkeit von unserem Modell erstellt. Wie gut das Zeichen bei ChatGPT funktioniert und wer den Schlüssel außer OpenAI nutzen darf, geht aus dem Bericht nicht hervor.
Als Nächstes werden die KI-Anbieter laut dem Bericht eigene Detektoren bereitstellen, mit denen Verbraucher und Institutionen Texte auf ihren Ursprung prüfen können. Einen Termin dafür und für den Start des Wasserzeichens in ChatGPT nennt die Tagesschau nicht.
Die Karten zum Beitrag
aus dem Video, zum Vergrößern anklicken
Der Text erklärt sachlich, wie Wasserzeichen für KI-Texte funktionieren, nennt Quelle, Expertenstimme und Rechtsrahmen und legt offene Fragen und Grenzen des Verfahrens ehrlich dar.
Der Text stellt mit den Wasserzeichen eine konkrete Antwort auf unerkannte KI-Texte vor und erklärt das Prinzip verständlich mit dem Bild des gezinkten Würfels. Er stützt sich auf eine genannte Quelle, einen Fachmann des Fraunhofer-Instituts und die EU-Regel. Besonders stark ist die Ehrlichkeit über Grenzen: Umschreiben verwischt die Spur, Ergebnisse bleiben Wahrscheinlichkeiten, und Wirksamkeit, Schlüsselnutzung und Starttermin sind offen. Mehr Zahlen zur Trefferquote oder unabhängige Stimmen, etwa von Hochschulen oder Kritikern, könnten den Wert noch erhöhen.
KI-Einschätzung nach festen Kriterien. So bewerten wir →
