/ en / Traditional / help

Beats Biblionetz - Aussagen

Jede automatisierte KI-Erkennung lässt sich auch automatisiert umgehen

iconDefinitionen

Der universelle TexterWenn aber ein Algorithmus in der Lage ist, automatisch zu erkennen, ob ein Text von einem Menschen oder von einer Maschine geschrieben wurde, dann ist es auch möglich, eine Maschine zu bauen, die ihre Texte so formuliert, dass ein Detektor keinen Unterschied bemerkt.
Von Hartmut Gieselmann in der Zeitschrift Der universelle Texter (2023) im Text Wer soll das alles lesen?

iconBemerkungen

ChatGPT und andere Computermodelle zur SprachverarbeitungForschende gehen von einem Wettlauf zwischen KI-Systemen zur Erzeugung und solchen zur Entdeckung künstlicher Texte aus (Heidt 2023).
Von Steffen Albrecht im Buch ChatGPT und andere Computermodelle zur Sprachverarbeitung (2023) im Text Auswirkungen von ChatGPT in Bildung und Forschung
Die meisten Forscher halten es je­doch für eine trügerische Hoffnung, dass die Herkunft eines mit Künstlicher Intel­ligenz (KI) generierten Textes technisch leicht erkennbar bleibt.
Von Heike Schmoll im Text Hausaufgaben machen mit ChatGPT? (2023)
Forschung & Lehre 7/23

Obwohl LLMs einen elaborierten Schreibstil noch nicht perfekt imitieren können, ist also zu erwarten, dass natürliche und künstliche Texte nunterscheidbar werden und der hybride Text zur Norm wird.

Von Dirk Siepmann in der Zeitschrift Forschung & Lehre 7/23 im Text Vom Akkordarbeiter zum Gutachter (2023)
Künstliche Intelligenz - Mehr als nur ein Hype?Mike Sharples hält den Kampf gegen KI-Texte mit technischen Mitteln für vergeblich: «Jedes hinreichend leistungsfähige Programm, das feststellen kann, ob ein Text von einem Menschen oder einer Maschine geschrieben wurde, kann von einem ebenso leistungsfähigen KI-Textgenerator in einem sinnlosen rechnerischen Wettrüsten überlistet werden.»
Von Reto U. Schneider in der Zeitschrift Künstliche Intelligenz - Mehr als nur ein Hype? (2023) im Text Darf der Computer die Seminararbeit schreiben?
Doris WeßelsDer Untergang der klassischen Ghostwriter-Szene und der Anbieter von Plagiaterkennungssoftware ist wohl schon eingeläutet. Ein unvorstellbar mächtiges KI-Sprachmodell mit 175 Milliarden Parametern und dem sperrigen Namen „Generative Pretrained Transformer Model“ (kurz: GPT) von OpenAI aus San Francisco zeigt seine Sprengkraft immer deutlicher (aktuelle Version 3).
Von Susanne Bach, Doris Weßels im Text Das Ende der Hausarbeit (2022)
Beat Döbeli HoneggerDie Entwicklung von Programmen zur Erkennung von KI-generierten Texten (wie z.B. GPT-Zero) wird ein Wettrüsten zwischen KI-Textgenerierung und KI-Texterkennung auslösen, da KI-Textgenerierungsprogramme die verfügbaren Erkennungsprogramme als zusätzlichen Filter / Trainingsmöglichkeit nutzen werden (GAN-Netzwerk mit Erkennungsalgorithmus als Diskriminator). Es wird somit vermutlich langfristig nicht möglich sein, computergenerierte Texte zuverlässig automatisiert erkennen zu können.
Von Beat Döbeli Honegger im Text ChatGPT & Schule (2023)
Der universelle TexterWenn aber ein Algorithmus in der Lage ist, automatisch zu erkennen, ob ein Text von einem Menschen oder von einer Maschine geschrieben wurde, dann ist es auch möglich, eine Maschine zu bauen, die ihre Texte so formuliert, dass ein Detektor keinen Unterschied bemerkt. Ähnliche Funktionen sind bereits in die oben genannten Marketing-Tools integriert. Sie haben einen automatischen Plagiat-Checker an Bord. Dieser prüft die generierten Texte daraufhin, ob sie nicht Wort für Wort irgendwo anders abgeschrieben worden sind. Per KI lassen sich Texte daraufhin so lange umformulieren, bis der Plagiat-Checker grünes Licht gibt.
Von Hartmut Gieselmann in der Zeitschrift Der universelle Texter (2023) im Text Wer soll das alles lesen?
DeepfakesDa sich die Qualität künstlich generierter Medien stetig verbessert, sind wir Menschen nicht mehr in der Lage, Deepfakes ohne Weiteres als solche zu erkennen, weshalb die Investition in KI-basierte Erkennungsprogramme durchaus sinnvoll ist. Doch dieser Ansatz hat natürlich auch seine Tücken. Die Erfassung von Deepfakes ist ein sich ständig weiterentwickelndes Katz-und-Maus-Spiel. Denn ebenso wie die Erkennungsprogramme werden natürlich auch Deepfakes immer besser. Rein theoretisch könnte die Qualität synthetisch generierter Medien sogar so gut werden, dass deren Erfassung unmöglich wird. Ob es wirklich so weit kommt, wird sich noch zeigen.
Von Nina Schick im Buch Deepfakes (2020) im Text Gleichgesinnte, vereinigt euch!
Forschung & Lehre 7/23Wird es künftig möglich sein, menschliche und KI-generierte Texte zu unterscheiden? Die Erwartung, dass das Kriterium sprachlicher Unvorhersehbarkeit zur Unterscheidung beitragen könnte (Hannes Bajohr), erweist sich als trügerisch. Erstens beruht sämtliche Prosa auf „wiederholter Rede“, die erfahrene Schreiber durch einige regelhaft beschreibbare Analogien und Deviationen anreichern. Zweitens sind LLMs auch kreativen Sprachgebrauchs fähig. Es wäre falsch anzunehmen, wie in den Medien häufig durch das Bild des stochastischen Papageis suggeriert wurde, dass LLMs lediglich Wörter nach ihrer Auftretenswahrscheinlichkeit kombinieren; vielmehr können sie auch Konstruktionen analysieren und auf dieser Basis akzeptable neue Formen erzeugen.
Von Dirk Siepmann in der Zeitschrift Forschung & Lehre 7/23 im Text Vom Akkordarbeiter zum Gutachter (2023)
Do AI detectors work?
  • In short, no, not in our experience. Our research into detectors didn't show them to be reliable enough given that educators could be making judgments about students with potentially lasting consequences.While other developers have released detection tools, we cannot comment on their utility.
  • Additionally, ChatGPT has no “knowledge” of what content could be AI-generated. It will sometimes make up responses to questions like “did you write this [essay]?” or “could this have been written by AI?” These responses are random and have no basis in fact.
  • To elaborate on our research into the shortcomings of detectors, one of our key findings was that these tools sometimes suggest that human-written content was generated by AI.
    • When we at OpenAI tried to train an AI-generated content detector, we found that it labeled human-written text like Shakespeare and the Declaration of Independence as AI-generated.
    • There were also indications that it could disproportionately impact students who had learned or were learning English as a second language and students whose writing was particularly formulaic or concise.
  • Even if these tools could accurately identify AI-generated content (which they cannot yet), students can make small edits to evade detection.
Von OpenAI im Text How can educators respond to students presenting AI-generated content as their own? (2023)

iconVorträge von Beat mit Bezug

iconZitationsgraph

Diese Grafik ist nur im SVG-Format verfügbar. Dieses Format wird vom verwendeteten Browser offenbar nicht unterstützt.

Diese SVG-Grafik fensterfüllend anzeigen

iconZeitleiste

icon19 Erwähnungen  Dies ist eine nach Erscheinungsjahr geordnete Liste aller im Biblionetz vorhandenen Werke, die das ausgewählte Thema behandeln.

iconAnderswo suchen  Auch im Biblionetz finden Sie nicht alles. Aus diesem Grund bietet das Biblionetz bereits ausgefüllte Suchformulare für verschiedene Suchdienste an. Biblionetztreffer werden dabei ausgeschlossen.

iconBiblionetz-History Dies ist eine graphische Darstellung, wann wie viele Verweise von und zu diesem Objekt ins Biblionetz eingetragen wurden und wie oft die Seite abgerufen wurde.