Wer lernt hier eigentlich?

Der geschlossene KI-Kreislauf in der akademischen Lehre und die Frage nach der Funktion von Texten

Die Debatte über KI-generierte Texte wird überwiegend als Detektions- und Kennzeichnungsproblem geführt: Wie erkennt man sie, wann müssen sie markiert werden? Dieser Beitrag argumentiert, dass diese Perspektive zu kurz greift. Entscheidend ist nicht die Herkunft eines Textes, sondern seine Funktion. Texte erfüllen zwei grundsätzlich verschiedene Zwecke: die Übertragung von Information (Produktfunktion) und die Erzeugung von Kompetenz beim Schreibenden (Prozessfunktion). Generative KI substituiert die Produktfunktion nahezu vollständig — und die Prozessfunktion überhaupt nicht. Aus dieser Asymmetrie folgt eine klare Trennlinie: In der technischen Dokumentation, im Pflichtenheft, in der Arbeitsprozessbeschreibung ist KI-Einsatz unter Verifikationsbedingungen nicht nur zulässig, sondern qualitätssteigernd. In der Lehre führt derselbe Einsatz zu einem geschlossenen Kreislauf — KI schreibt das Seminar, KI schreibt die Arbeit, KI bewertet die Arbeit — in dem kein Lernprozess mehr stattfindet und niemand mehr Verantwortung trägt. Der Beitrag ordnet das Phänomen im Mensch-Technik-Organisation-Rahmen (MTO) ein, prüft den Beitrag technischer Detektoren und der Transparenzpflichten nach Art. 50 KI-VO und leitet Gestaltungsempfehlungen ab.

Schlüsselwörter: Generative KI, Human Factors, MTO, Ironies of Automation, Verantwortungsdiffusion, Hochschuldidaktik, KI-Verordnung, Textdetektion


1. Problemaufriss
Die öffentliche Diskussion über KI-generierte Texte verläuft entlang dreier Fragen: Wie erkennt man sie? Wer muss sie kennzeichnen? Und: Sind sie schlechter als menschliche? Alle drei Fragen sind Stellvertreterfragen. Sie umgehen die eigentliche: Wozu ist der Text da?

Die Verwechslung ist folgenreich. Wer einen Text nur als Informationscontainer begreift, für den ist die Herkunft irrelevant, solange der Inhalt stimmt. Wer einen Text als Nachweis eines Denkprozesses begreift, für den ist die Herkunft alles, unabhängig vom Inhalt. Beide Auffassungen sind je für sich richtig — für unterschiedliche Textsorten. Der Fehler entsteht dort, wo dieselbe Regel auf beide angewandt wird.

Das prominenteste Beispiel für diesen Fehler ist die Hochschullehre. Dort ist ein Muster beobachtbar, das man als geschlossenen Kreislauf bezeichnen kann: Die Lehrkraft lässt Seminarunterlagen, Referatsthemen und Aufgabenstellungen von einem Sprachmodell erzeugen. Die Studierenden lassen Referat, Seminar- oder Projektarbeit von einem Sprachmodell erzeugen. Die Lehrkraft lässt die Arbeit von einem Sprachmodell bewerten. Das System ist formal intakt: Es werden Aufgaben gestellt, Texte produziert, Noten vergeben, Credit Points verbucht. Materiell ist es leer. Die Frage „Wer lernt hier?" hat keine Antwort mehr.
2. Die zwei Funktionen von Text
2.1 Produktfunktion
Ein Text hat Produktfunktion, wenn sein Wert vollständig im Ergebnis liegt. Eine Bedienungsanleitung ist gut, wenn die Nutzerin das Gerät danach bedienen kann. Ein Pflichtenheft ist gut, wenn es vollständig, widerspruchsfrei, prüfbar und nachverfolgbar ist. Eine Arbeitsprozessbeschreibung ist gut, wenn sie den Prozess so abbildet, dass er reproduzierbar ausgeführt werden kann. Bei diesen Textsorten ist die Frage nach dem Autor eine Frage der Haftung, nicht der Qualität.

Hier liegen die Stärken generativer Systeme präzise auf den bekannten Schwächen menschlicher Autoren: Vollständigkeit über lange Anforderungslisten, terminologische Konsistenz über hunderte Seiten, Ermüdungsfreiheit bei repetitiver Formulierungsarbeit, Abgleich gegen Normstrukturen. Die klassischen Fehlermuster technischer Dokumentation — vergessene Randbedingung, inkonsistente Benennung desselben Sachverhalts, implizites Expertenwissen, das nie expliziert wird — sind genau die Muster, gegen die ein Modell mit vollständigem Kontextzugriff robust ist.

Die Bedingung ist bekannt und nicht verhandelbar: Verifikation durch Fachexpertise und redaktionelle Verantwortung. Ein Modell kann nicht wissen, ob die Drehmomentangabe stimmt. Es kann wissen, dass an dieser Stelle üblicherweise eine Drehmomentangabe steht — und eine plausible erfinden. Halluzination ist im dokumentationsnahen Einsatz kein Randproblem, sondern das Kernrisiko, weil sie sich stilistisch nicht vom Rest unterscheidet. Der Prüfaufwand verschiebt sich damit vom Formulieren zum Verifizieren; er verschwindet nicht.

Bemerkenswert ist, dass genau diese Bedingung inzwischen regulatorisch kodifiziert ist (Abschnitt 4).
2.2 Prozessfunktion
Ein Text hat Prozessfunktion, wenn sein Wert im Schreiben liegt, nicht im Geschriebenen. Die Seminararbeit einer Studentin ist kein Beitrag zum Wissensbestand der Menschheit; niemand liest sie, um etwas über ihr Thema zu erfahren. Sie ist ein Instrument, mit dem die Studentin lernt, eine Fragestellung einzugrenzen, Literatur zu sichten, Widersprüche auszuhalten, ein Argument zu bauen und es gegen Einwände zu verteidigen. Das Produkt ist Abfallprodukt. Der Prozess ist das Produkt.

Für diese Funktion ist die Schwierigkeit des Schreibens kein Defekt, sondern die Wirkbedingung. Bjork und Bjork (2011) haben dies als desirable difficulties beschrieben: Lernbedingungen, die die kurzfristige Leistung verschlechtern und genau dadurch die langfristige Behaltensleistung und den Transfer verbessern. Wer die Schwierigkeit entfernt, entfernt die Wirkung. Ein Sprachmodell, das die Seminararbeit schreibt, ist in dieser Logik kein Werkzeug, sondern eine Umgehung des Wirkmechanismus — vergleichbar mit einem Fitnessgerät, das die Gewichte selbst hebt.

Erste empirische Befunde stützen dies. Bastani et al. (2024) zeigten in einem Feldexperiment mit über 900 Schülerinnen und Schülern, dass der Zugang zu einem GPT-basierten Tutor die Leistung während der Übungsphase deutlich verbesserte, in der anschließenden Prüfung ohne Zugang jedoch verschlechterte — außer bei einer Variante mit gezielt eingebauten pädagogischen Sicherungen. Kosmyna et al. (2025) berichten in einer neurophysiologischen Studie (EEG, kleine Stichprobe, Preprint — entsprechend vorsichtig zu interpretieren) reduzierte neuronale Konnektivität und schlechtere Erinnerung an den eigenen Text bei LLM-gestütztem Schreiben. Die Befundlage ist jung und dünn, aber sie zeigt konsistent in eine Richtung: Der Output steigt, die Kompetenz nicht.
2.3 Die Asymmetrie
Aus beidem folgt die zentrale These dieses Beitrags:

Generative KI substituiert die Produktfunktion von Text nahezu vollständig und die Prozessfunktion überhaupt nicht.

Wo Texte Produktfunktion haben, ist KI-Einsatz eine Frage der Qualitätssicherung. Wo Texte Prozessfunktion haben, ist KI-Einsatz eine Frage der Zweckzerstörung. Institutionen, die diese Unterscheidung nicht in ihren Regelwerken abbilden, produzieren entweder unnötige Verbote (in der Verwaltung) oder unbemerkte Entleerung (in der Lehre) — meist beides gleichzeitig.
3. Detektion: Was Technik leisten kann und was nicht
Der Reflex der Institutionen ist die Detektion. Technisch hat sich hier tatsächlich einiges bewegt. Der Detektor Pangram — im deutschsprachigen Raum durch mehrere Fälle in der Medienberichterstattung bekannt geworden — arbeitet nicht mit den klassischen Oberflächenmaßen Perplexity und Burstiness, sondern mit einem kontrastiven Trainingsansatz: Zu jedem menschlichen Dokument wird ein „synthetischer Spiegel" erzeugt, der Thema, Länge und Tonalität repliziert, aber von einem Frontier-Modell verfasst ist; aus dieser Gegenüberstellung lernt der Detektor die stilistischen Entscheidungen, die KI wiederkehrend trifft. Der Ansatz ist damit unabhängig von Wasserzeichen und Metadaten — praktisch relevant, weil Herkunftssignale in realen Workflows regelmäßig verlorengehen.

Die berichteten Kennzahlen sind beeindruckend, stammen aber überwiegend vom Anbieter: Für die aktuelle Modellgeneration werden 99,66 % korrekt erkannte KI-Texte und eine Falsch-Positiv-Rate von 0,0041 % genannt, entsprechend etwa einem Fehler pro 24.000 Dokumenten; gegenüber 13 gängigen „Humanizer"-Werkzeugen soll der KI-Anteil in 98,83 % der Fälle erkannt werden. Eine unabhängige Untersuchung der University of Chicago attestierte der Vorgängerversion bei mittellangen bis langen Texten praktisch verschwindende Fehlerraten und Robustheit gegen Umgehungsversuche — die Autoren warnten jedoch zugleich vor einem technischen Wettrüsten zwischen Detektoren, Modellen und Umgehungswerkzeugen.

Für die institutionelle Praxis sind vier Einschränkungen entscheidend:

Wahrscheinlichkeiten sind keine Beweise. Ein Score ist ein Hinweis, kein Urteil. Bei Entscheidungen über Personen — Prüfungsleistungen, Bewerbungen, Disziplinarverfahren — genügt ein einzelner Wert nicht.
Das Basisratenproblem. Eine Falsch-Positiv-Rate von 0,004 % klingt vernachlässigbar. Bei einer Universität mit 30.000 jährlich geprüften Arbeiten sind das dennoch mehrere Personen, die zu Unrecht unter Verdacht geraten — und für die Betroffenen ist die aggregierte Rate irrelevant.
Textsortenabhängigkeit. Kurze Texte, stark standardisierte Sprache und generisch formulierte Fachtexte sind systematisch schwerer zu klassifizieren. Ausgerechnet die normierte wissenschaftliche Prosa liegt nahe an dem Register, das Modelle am besten beherrschen.
Die Kategorie „KI-unterstützt" ist unscharf. Der Anbieter selbst räumt ein, dass die Grenzziehung zwischen leichter und moderater KI-Unterstützung „mehr Kunst als Wissenschaft" sei. Genau diese Grenze wäre aber die prüfungsrechtlich entscheidende.

Hinzu kommt ein struktureller Einwand: Detektion behandelt ein didaktisches Problem als Kontrollproblem. Andrej Karpathy etwa hält die Detektion von KI-Texten für grundsätzlich gescheitert und fordert stattdessen eine Transformation des Bildungssystems. Aus Human-Factors-Sicht ist dieser Einwand gewichtig: Ein Kontrollmechanismus, der von den Kontrollierten leicht umgangen werden kann und dessen Fehler die Ehrlichen härter treffen als die Unehrlichen, erzeugt vor allem Misstrauen — und verschiebt die Anpassungsleistung auf die Falschen.
4. Kennzeichnung: Art. 50 KI-VO und die redaktionelle Ausnahme
Regulatorisch ist die Lage seit kurzem präzise. Die Transparenzpflichten des Art. 50 der Verordnung (EU) 2024/1689 gelten seit dem 2. August 2026 und werden vom sogenannten Digital Omnibus ausdrücklich nicht verschoben; dieser betrifft nur die Hochrisiko-Regime nach Anhang III (Dezember 2027) und Anhang I (August 2028). Art. 50 bündelt vier eigenständige Pflichten: Offenlegung bei direkter Interaktion mit einem KI-System (Abs. 1), maschinenlesbare Kennzeichnung synthetischer Inhalte (Abs. 2), Information bei Emotionserkennung und biometrischer Kategorisierung (Abs. 3) sowie Kennzeichnung von Deepfakes und von KI-generierten Texten zu Angelegenheiten von öffentlichem Interesse (Abs. 4). Für Altsysteme besteht bei der maschinenlesbaren Markierung nach Abs. 2 eine Übergangsfrist bis zum 2. Dezember 2026; die Absätze 1, 3 und 4 gelten ohne Schonfrist.

Der für diesen Beitrag entscheidende Punkt ist die Ausnahme in Abs. 4: Die redaktionelle Ausnahme verlangt eine substanzielle menschliche Prüfung mit benannter redaktioneller Verantwortung; reines Korrekturlesen genügt nicht.

Damit hat der Gesetzgeber — vermutlich ohne es so zu intendieren — exakt die Unterscheidung aus Abschnitt 2 kodifiziert. Die Kennzeichnungspflicht entfällt nicht, weil der Text gut ist, sondern weil ein Mensch die Verantwortung übernommen hat. Das ist keine Qualitäts-, sondern eine Zurechnungsregel. Sie entspricht dem, was in der Sicherheitstechnik seit langem gilt: Ein Prüfstempel bescheinigt nicht Fehlerfreiheit, sondern benennt denjenigen, der bei Fehlern haftet.

Übertragen auf die Lehre ist die Analogie unbequem. Eine Prüfungsleistung ist definitionsgemäß eine Zurechnungserklärung: Die Kandidatin erklärt, dass die Leistung ihre ist. Ein KI-generierter und anschließend „substanziell geprüfter" Text erfüllt die redaktionelle Ausnahme des Art. 50 problemlos — und die Prüfungsordnung dennoch nicht. Der Grund ist genau die Funktionsdifferenz: Art. 50 schützt das Publikum vor Täuschung über die Herkunft. Die Prüfungsordnung schützt die Aussagekraft eines Kompetenznachweises. Das erste Schutzziel lässt sich durch nachgelagerte menschliche Prüfung erreichen, das zweite nicht.
5. Rezeption: Warum erkannte KI-Texte langweilen
Eine im erwähnten Podcast geäußerte Beobachtung verdient eigene Betrachtung: Wer erkenne, dass ein Text KI-generiert sei, verliere das Interesse am Weiterlesen. Das ist psychologisch gut erklärbar und hat wenig mit Textqualität zu tun.

Aufwand als Signal. Kommunikation ist immer auch Signalisierung von Investition. Ein handgeschriebener Brief transportiert dieselbe Information wie eine E-Mail und etwas grundlegend anderes daneben. Der Aufwand ist das Signal: Ich habe Zeit für dich aufgewendet. Sinkt der Erzeugungsaufwand gegen null, kollabiert das Signal — und mit ihm die Bereitschaft, Rezeptionsaufwand zu investieren. Die Asymmetrie ist das eigentliche Ärgernis: Der Leser wendet mehr Zeit für das Lesen auf, als der Schreiber für das Schreiben aufgewendet hat.

Verlust des Adressaten. Beim Lesen konstruieren wir ein Modell des Autors: Was will er? Was verschweigt er? Wo ist er unsicher? Diese Konstruktion ist ein wesentlicher Teil dessen, was Lesen interessant macht. Bei KI-Text läuft sie ins Leere — es gibt keine Absicht hinter dem Text, nur eine Absicht vor ihm, im Prompt. Das erlebte Vakuum wird als Langeweile beschrieben.

Attributionseffekt statt Qualitätsurteil. Studien zur Bewertung KI-generierter Inhalte zeigen wiederholt, dass dieselben Texte schlechter bewertet werden, wenn sie als KI-generiert gekennzeichnet sind. Die Kennzeichnung wirkt also nicht neutral-informierend, sondern als Abwertungssignal. Das ist regulatorisch bedeutsam: Eine Kennzeichnungspflicht ist keine bloße Transparenzmaßnahme, sondern greift in die Rezeption ein.

Für die Lehre folgt daraus eine schlichte, oft übersehene Konsequenz: Wenn Dozierende KI-generierte Arbeiten nicht mehr gerne lesen und Studierende KI-generierte Seminarunterlagen nicht mehr gerne lesen, dann bricht nicht nur die Lernwirkung weg, sondern auch die Aufmerksamkeit — auf beiden Seiten gleichzeitig.
6. Der geschlossene Kreislauf
6.1 Struktur
Der eingangs beschriebene Kreislauf hat vier Stationen:




Die vierte Zeile ist leer, und das ist der eigentliche Befund. In den ersten drei Stationen entsteht jeweils ein formal korrektes Artefakt. Die Kette der Artefakte ist lückenlos; die Kette der Kompetenzen ist unterbrochen.
6.2 Human-Factors-Einordnung
Das Muster ist aus der Automatisierungsforschung vertraut. Bainbridge (1983) beschrieb als Ironies of Automation, dass Automatisierung dem Menschen genau die Aufgaben abnimmt, an denen er seine Kompetenz erhält, und ihm die Aufgaben lässt, für die er ohne diese Kompetenz nicht mehr qualifiziert ist. Die Lehrkraft, die Arbeiten nur noch durch das Modell bewerten lässt, verliert die Fähigkeit, gute von schlechten Arbeiten zu unterscheiden — also genau die Fähigkeit, die sie zur Aufsicht über das Modell befähigen würde.

Parasuraman und Riley (1997) unterscheiden misuse (Übervertrauen), disuse (Untervertrauen) und abuse (Automatisierung ohne Berücksichtigung menschlicher Konsequenzen). Der beschriebene Kreislauf ist ein Lehrbuchfall von abuse: Die Automatisierung erfolgt entlang dessen, was technisch möglich und aufwandsseitig attraktiv ist, nicht entlang dessen, was die Funktion des Systems erhält. Lee und See (2004) würden ergänzen: Vertrauen ist hier nicht kalibriert, sondern gar nicht erst gebildet worden — es gibt keinen Rückkopplungspfad, über den sich Vertrauen kalibrieren könnte, weil niemand mehr prüft.

Im MTO-Rahmen (Mensch–Technik–Organisation) liegt der Kern des Problems eindeutig auf der O-Ebene. Weder die Technik noch die einzelnen Personen handeln dysfunktional: Die Lehrkraft optimiert unter Zeitdruck und hoher Prüfungslast, die Studierenden optimieren unter Abgabedruck und Bewertungsdruck. Beide reagieren rational auf eine Organisation, die Artefakte zählt und nicht Kompetenzen. Dörner (1989) hat für solche Konstellationen die Formulierung geprägt, dass Menschen die Lösung des Problems durch die Lösung des Bewertungsmaßstabs ersetzen. Wer Seitenzahlen, Abgabetermine und Notenschnitte misst, bekommt Seitenzahlen, Abgabetermine und Notenschnitte — mit oder ohne Lernprozess.
6.3 Verantwortungsdiffusion
Reasons Modell der latenten Fehlerbedingungen ist hier direkt anwendbar. Jede einzelne Barriere im System ist noch vorhanden: Es gibt eine Prüfungsordnung, eine Eigenständigkeitserklärung, eine Betreuung, eine Zweitkorrektur. Aber jede Barriere ist mit demselben Loch versehen — niemand prüft mehr selbst. Wenn alle Barrieren dasselbe Loch haben, sind sie keine unabhängigen Barrieren mehr, sondern eine.

Rechtlich verschärft Art. 50 KI-VO diese Lage eher, als sie zu entschärfen. Die Norm verlangt eine benannte redaktionelle Verantwortung. In der geschilderten Praxis ist niemand benannt: Die Lehrkraft verantwortet ein Gutachten, das sie nicht geschrieben hat, über eine Arbeit, die die Studierende nicht geschrieben hat, zu einer Aufgabe, die die Lehrkraft nicht formuliert hat. Die Zurechnungskette ist formal geschlossen und materiell an jedem Glied leer.
6.4 Der rekursive Aspekt
Ein letzter Punkt betrifft die Wissensbasis selbst. Shumailov et al. (2024) haben gezeigt, dass Modelle, die rekursiv auf von Modellen erzeugten Daten trainiert werden, degenerieren: Die Ränder der Verteilung verschwinden zuerst, das System konvergiert gegen den Mittelwert seiner eigenen Ausgaben. Wenn akademische Textproduktion in nennenswertem Umfang modellgeneriert ist und diese Texte wieder in Trainingskorpora einfließen, gilt der Mechanismus auch auf gesellschaftlicher Ebene. Das Ergebnis wäre nicht falsches Wissen, sondern durchschnittliches Wissen — die systematische Erosion genau der Randbereiche, in denen wissenschaftlicher Fortschritt entsteht.
7. Gestaltungsempfehlungen
Aus der Funktionsdifferenz lassen sich konkrete Regeln ableiten. Sie unterscheiden nicht nach Erlaubnis und Verbot, sondern nach Textfunktion.

Für Texte mit Produktfunktion (Dokumentation, Pflichtenheft, Prozessbeschreibung, Verwaltungstext):

KI-Einsatz freigeben und explizit regeln, statt ihn zu dulden. Undokumentierter Einsatz ist das eigentliche Risiko.
Verifikationspflicht statt Kennzeichnungsritual: Jede fachliche Aussage — Zahlen, Grenzwerte, Normverweise, Verantwortlichkeiten — wird gegen die Primärquelle geprüft. Der Prüfaufwand wird budgetiert, nicht wegoptimiert.
Benannte redaktionelle Verantwortung im Dokumentenkopf. Das erfüllt Art. 50 Abs. 4 und ist zugleich gute Praxis der technischen Dokumentation.
Modellzugriff auf verifizierte Primärquellen statt auf Modellwissen; Halluzinationsrisiko ist ein Architekturproblem, kein Promptproblem.

Für Texte mit Prozessfunktion (Prüfungsleistungen, Qualifikationsarbeiten):

Prüfungsformate an der Prozessfunktion ausrichten, nicht am Artefakt. Kolloquium, Verteidigung, mündliche Rückfrage zum eigenen Text, Bearbeitung unter Aufsicht, Bearbeitung an nicht-öffentlichen Daten. Wer den eigenen Text nicht verteidigen kann, hat ihn nicht geschrieben — das ist prüfbar, ohne Detektor.
KI-Einsatz nicht verbieten, sondern deklarieren und reflektieren lassen: Welche Prompts, welche Ergebnisse verworfen, welche Fehler des Modells gefunden? Die Fehlersuche im Modelloutput ist selbst eine wertvolle Kompetenzübung.
Detektoren allenfalls als Anlassindikator, nie als Beweismittel und nie als alleinige Entscheidungsgrundlage.
Auf Lehrendenseite dieselbe Regel wie auf Studierendenseite. Ein KI-generiertes Gutachten über eine Arbeit ist derselbe Vorgang wie eine KI-generierte Arbeit — mit dem Unterschied, dass er einseitig sanktioniert wird. Diese Asymmetrie ist auf Dauer nicht haltbar und untergräbt die Legitimität der Regeln.

Auf Organisationsebene:

Prüfungslast und Betreuungsrelationen als Ursache adressieren. Der Kreislauf entsteht nicht aus Unredlichkeit, sondern aus Überlastung. Solange eine Lehrkraft 120 Arbeiten pro Semester zu bewerten hat, ist die Automatisierung der Bewertung eine Frage der Zeit, nicht der Ethik.
Messgrößen von Artefakten auf Kompetenzen umstellen, so weit dies operationalisierbar ist. Was gezählt wird, wird produziert.
8. Fazit
Die Frage „Wie erkennt man KI-Texte?" ist die falsche Frage, weil sie technisch beantwortbar und praktisch folgenlos ist. Die Frage „Wozu ist dieser Text da?" ist die richtige, weil ihre Beantwortung unmittelbar festlegt, ob KI-Einsatz Qualität erzeugt oder Zweck zerstört.

Bei Produktfunktion — Bedienungsanleitung, Pflichtenheft, Prozessbeschreibung — ist generative KI ein leistungsfähiges Werkzeug, sofern Verifikation und benannte Verantwortung gesichert sind. Der Gesetzgeber hat diese Bedingung in der redaktionellen Ausnahme des Art. 50 Abs. 4 KI-VO praktisch wortgleich formuliert.

Bei Prozessfunktion — Lehre, Prüfung, Qualifikation — führt derselbe Einsatz zu einem geschlossenen Kreislauf, in dem Artefakte zirkulieren und keine Kompetenz mehr entsteht. Die Antwort auf die Titelfrage lautet dann: niemand. Und das macht nicht die Texte obsolet, sondern die Institution, die sie verlangt.

Die gute Nachricht ist, dass die Lösung nicht in besserer Detektionstechnik liegt, sondern in einer Rückbesinnung auf den Zweck. Ein Prüfungsformat, das voraussetzt, dass die Kandidatin ihren eigenen Gedankengang verteidigen kann, ist gegen generative KI immun — nicht weil es sie erkennt, sondern weil es sie nicht braucht.


Literatur
Bainbridge, L. (1983). Ironies of automation. Automatica, 19(6), 775–779.

Bastani, H., Bastani, O., Sungu, A., Ge, H., Kabakcı, Ö. & Mariman, R. (2024). Generative AI can harm learning (Working Paper). The Wharton School, University of Pennsylvania.

Bjork, E. L. & Bjork, R. A. (2011). Making things hard on yourself, but in a good way: Creating desirable difficulties to enhance learning. In M. A. Gernsbacher et al. (Hrsg.), Psychology and the real world (S. 56–64). Worth Publishers.

Dörner, D. (1989). Die Logik des Mißlingens. Strategisches Denken in komplexen Situationen. Rowohlt.

Endsley, M. R. (1995). Toward a theory of situation awareness in dynamic systems. Human Factors, 37(1), 32–64.

Kirschner, P. A., Sweller, J. & Clark, R. E. (2006). Why minimal guidance during instruction does not work. Educational Psychologist, 41(2), 75–86.

Kosmyna, N. et al. (2025). Your brain on ChatGPT: Accumulation of cognitive debt when using an AI assistant for essay writing tasks (Preprint). MIT Media Lab.

Lee, J. D. & See, K. A. (2004). Trust in automation: Designing for appropriate reliance. Human Factors, 46(1), 50–80.

Parasuraman, R. & Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human Factors, 39(2), 230–253.

Reason, J. (1990). Human error. Cambridge University Press.

Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R. & Gal, Y. (2024). AI models collapse when trained on recursively generated data. Nature, 631, 755–759.

Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-Verordnung), insbes. Art. 50.



Hinweis zur Entstehung: Dieser Text wurde unter Einsatz eines generativen Sprachmodells erstellt und vom Autor inhaltlich geprüft, überarbeitet und verantwortet (vgl. Art. 50 Abs. 4 KI-VO). Die genannten Kennzahlen zu Detektionsleistungen stammen, sofern nicht anders angegeben, vom jeweiligen Anbieter und sind nicht unabhängig verifiziert.