Forschende gehen von einem Wettlauf zwischen KI-Systemen zur Erzeugung und solchen zur Entdeckung künstlicher Texte aus (Heidt 2023).

Die meisten Forscher halten es je­doch für eine trügerische Hoffnung, dass die Herkunft eines mit Künstlicher Intel­ligenz (KI) generierten Textes technisch leicht erkennbar bleibt.

Mike Sharples hält den Kampf gegen KI-Texte mit technischen Mitteln für vergeblich: «Jedes hinreichend leistungsfähige Programm, das feststellen kann, ob ein Text von einem Menschen oder einer Maschine geschrieben wurde, kann von einem ebenso leistungsfähigen KI-Textgenerator in einem sinnlosen rechnerischen Wettrüsten überlistet werden.»

Der Untergang der klassischen Ghostwriter-Szene und der Anbieter von Plagiaterkennungssoftware ist wohl schon eingeläutet. Ein unvorstellbar mächtiges KI-Sprachmodell mit 175 Milliarden Parametern und dem sperrigen Namen „Generative Pretrained Transformer Model“ (kurz: GPT) von OpenAI aus San Francisco zeigt seine Sprengkraft immer deutlicher (aktuelle Version 3).

Die Entwicklung von Programmen zur Erkennung von KI-generierten Texten (wie z.B. GPT-Zero) wird ein Wettrüsten zwischen KI-Textgenerierung und KI-Texterkennung auslösen, da KI-Textgenerierungsprogramme die verfügbaren Erkennungsprogramme als zusätzlichen Filter / Trainingsmöglichkeit nutzen werden (GAN-Netzwerk mit Erkennungsalgorithmus als Diskriminator). Es wird somit vermutlich langfristig nicht möglich sein, computergenerierte Texte zuverlässig automatisiert erkennen zu können.

Wenn aber ein Algorithmus in der Lage ist, automatisch zu erkennen, ob ein Text von einem Menschen oder von einer Maschine geschrieben wurde, dann ist es auch möglich, eine Maschine zu bauen, die ihre Texte so formuliert, dass ein Detektor keinen Unterschied bemerkt. Ähnliche Funktionen sind bereits in die oben genannten Marketing-Tools integriert. Sie haben einen automatischen Plagiat-Checker an Bord. Dieser prüft die generierten Texte daraufhin, ob sie nicht Wort für Wort irgendwo anders abgeschrieben worden sind. Per KI lassen sich Texte daraufhin so lange umformulieren, bis der Plagiat-Checker grünes Licht gibt.

Wird es künftig möglich sein, menschliche und KI-generierte Texte zu unterscheiden? Die Erwartung, dass das Kriterium sprachlicher Unvorhersehbarkeit zur Unterscheidung beitragen könnte (Hannes Bajohr), erweist sich als trügerisch. Erstens beruht sämtliche Prosa auf „wiederholter Rede“, die erfahrene Schreiber durch einige regelhaft beschreibbare Analogien und Deviationen anreichern. Zweitens sind LLMs auch kreativen Sprachgebrauchs fähig. Es wäre falsch anzunehmen, wie in den Medien häufig durch das Bild des stochastischen Papageis suggeriert wurde, dass LLMs lediglich Wörter nach ihrer Auftretenswahrscheinlichkeit kombinieren; vielmehr können sie auch Konstruktionen analysieren und auf dieser Basis akzeptable neue Formen erzeugen.