Künstliche Intelligenz schreibt viele Texte, die man oft nicht bemerkt. Um KI-generierte Inhalte erkennbar zu machen, will OpenAI künftig Wasserzeichen einsetzen, die zeigen, ob ein Text von KI stammt. Ein neues EU-Gesetz verlangt solche Kennzeichnungen, und KI-Anbieter wie Anthropic und Google haben bereits entsprechende Wasserzeichen angekündigt oder nutzen sie bereits. Die Technik nutzt sprachliche Freiräume, um den Text unauffällig zu markieren, ohne den Leser zu stören.
Wasserzeichen basieren auf der Tatsache, dass KI bei der Texterzeugung Wörter mit bestimmten Wahrscheinlichkeiten auswählt. Dabei wird der Wahrscheinlichkeitswürfel leicht manipuliert: Bestimmte Alternativwörter werden minimal bevorzugt, andere minimal benachteiligt. So entsteht ein statistisches Muster, das für Menschen und Maschinen nicht sichtbar ist. Die Anpassung wird für jedes Wort neu berechnet, wodurch die Veränderungen im Text insgesamt unsichtbar bleiben. Nur mit einem geheimen Schlüssel lässt sich das Wasserzeichen später erkennen.
Forscher wie Waldemar Berchtold warnen, dass Wasserzeichen nur bei Texten mit einer bestimmten Länge funktionieren. Ab etwa 200 bis 300 Wörtern ist die Technik effektiv, doch bei Veränderungen des Textes wird das Wasserzeichen ebenfalls verfälscht. Deshalb kann das Entschlüsselungsverfahren nur eine Wahrscheinlichkeit angeben, nicht eine Sicherheit. KI-Anbieter nutzen die Technik nicht nur, um EU-Vorgaben zu erfüllen, sondern auch, um ihre eigenen Texte zu identifizieren. In Zukunft werden sie sogar Detektoren anbieten, um Texte auf ihren Ursprung zu testen. Dabei wird eine Wahrscheinlichkeit angegeben, wie wahrscheinlich ein Text von KI stammt.
Künstliche Intelligenz schreibt viele Texte, die man oft nicht bemerkt. Um KI-generierte Inhalte erkennbar zu machen, will OpenAI künftig Wasserzeichen einsetzen, die zeigen, ob ein Text von KI stammt. Ein neues EU-Gesetz verlangt solche Kennzeichnungen, und KI-Anbieter wie Anthropic und Google haben bereits entsprechende Wasserzeichen angekündigt oder nutzen sie bereits. Die Technik nutzt sprachliche Freiräume, um den Text unauffällig zu markieren, ohne den Leser zu stören.
Wasserzeichen basieren auf der Tatsache, dass KI bei der Texterzeugung Wörter mit bestimmten Wahrscheinlichkeiten auswählt. Dabei wird der Wahrscheinlichkeitswürfel leicht manipuliert: Bestimmte Alternativwörter werden minimal bevorzugt, andere minimal benachteiligt. So entsteht ein statistisches Muster, das für Menschen und Maschinen nicht sichtbar ist. Die Anpassung wird für jedes Wort neu berechnet, wodurch die Veränderungen im Text insgesamt unsichtbar bleiben. Nur mit einem geheimen Schlüssel lässt sich das Wasserzeichen später erkennen.
Forscher wie Waldemar Berchtold warnen, dass Wasserzeichen nur bei Texten mit einer bestimmten Länge funktionieren. Ab etwa 200 bis 300 Wörtern ist die Technik effektiv, doch bei Veränderungen des Textes wird das Wasserzeichen ebenfalls verfälscht. Deshalb kann das Entschlüsselungsverfahren nur eine Wahrscheinlichkeit angeben, nicht eine Sicherheit. KI-Anbieter nutzen die Technik nicht nur, um EU-Vorgaben zu erfüllen, sondern auch, um ihre eigenen Texte zu identifizieren. In Zukunft werden sie sogar Detektoren anbieten, um Texte auf ihren Ursprung zu testen. Dabei wird eine Wahrscheinlichkeit angegeben, wie wahrscheinlich ein Text von KI stammt.