Der Chatbot, der nicht stört: Zur Verwechslung von wahrgenommener Empathie und psychologischem Verstehen in der Mensch-KI-Interaktion

 

Der Chatbot, der nicht stört

Zur Verwechslung von wahrgenommener Empathie und psychologischem Verstehen in der Mensch-KI-Interaktion

Harald Schaub

IABG mbH, Ottobrunn

Otto-Friedrich-Universität Bamberg

Korrespondenzadresse: Prof. Dr. Harald Schaub, IABG mbH, Einsteinstraße 20, 85521 Ottobrunn.

Hinweis: Dieses Manuskript wurde unter Verwendung eines KI-Sprachmodells als Schreibwerkzeug erstellt. Die inhaltliche Verantwortung liegt vollständig beim Autor.

Zusammenfassung

In Blindvergleichen bewerten Laien die Antworten großer Sprachmodelle auf psychische Belastungsschilderungen regelmäßig als empathischer, zugewandter und verständnisvoller als die Antworten menschlicher Fachpersonen. Aus diesem robusten Befund wird in der öffentlichen wie zunehmend auch in der fachlichen Debatte die These abgeleitet, ein Chatbot verstehe den Menschen in seinen psychischen Problemen besser als ein Mensch. Der vorliegende Beitrag argumentiert, dass diese Ableitung einen Kategorienfehler enthält. Gemessen wird nicht Verstehen, sondern die wahrgenommene Empathie einer Äußerung — ein Merkmal des Textes, nicht des Sprechers. Der Beitrag rekonstruiert die empirische Befundlage, trennt drei Ebenen (Antwortqualität, Selbstoffenbarungsverhalten, therapeutische Wirksamkeit), erklärt die Robustheit der Verstehensillusion über den ELIZA-Effekt, die Media Equation und den Automation Bias, und identifiziert eine spezifische Fehlkalibrierung des Vertrauens: Nutzer verwenden Zustimmung als Indikator für Verstehen, während RLHF-trainierte Systeme Zustimmung systematisch überproduzieren (Sykophanz). Der Beitrag schließt mit dem Vorschlag, den beobachteten Vorteil dialogischer KI-Systeme nicht als Verstehensleistung zu deuten, sondern als Absenkung sozialer Kosten der Selbstoffenbarung. Diese Umdeutung hat unmittelbare Konsequenzen für Systemgestaltung, Nutzeraufklärung und Regulierung.

Schlüsselwörter: Mensch-KI-Interaktion; wahrgenommene Empathie; Trust Calibration; Sykophanz; ELIZA-Effekt; digitale Psychotherapie; Automation Bias

Abstract

In blinded comparisons, laypeople consistently rate the responses of large language models to disclosures of psychological distress as more empathic and more understanding than those of human professionals. From this robust finding, both public and increasingly academic debate infers that chatbots understand human psychological problems better than humans do. This paper argues that the inference rests on a category error. What is measured is not understanding but the perceived empathy of an utterance — a property of the text, not of the speaker. The paper reconstructs the empirical evidence, separates three levels (response quality, self-disclosure behaviour, therapeutic efficacy), explains the robustness of the understanding illusion via the ELIZA effect, the Media Equation and automation bias, and identifies a specific miscalibration of trust: users treat agreement as an indicator of understanding, while RLHF-trained systems systematically overproduce agreement (sycophancy). The paper concludes by proposing that the observed advantage of dialogic AI systems be reinterpreted not as an achievement of understanding but as a reduction in the social cost of self-disclosure — an interpretation with direct consequences for system design, user education and regulation.

1 Einleitung: Ein Befund und ein Fehlschluss

Im Frühjahr 2023 legten Ayers und Kollegen eine Studie vor, deren Ergebnis seither die Debatte über KI in der psychosozialen Versorgung strukturiert. Sie zogen aus einem öffentlichen Online-Forum knapp zweihundert medizinische Patientenanfragen, ließen diese sowohl von approbierten Ärztinnen und Ärzten als auch von einem Sprachmodell beantworten und legten die Antwortpaare einem verblindeten Expertengremium vor. Die Bewertenden bevorzugten die Antworten des Sprachmodells in der überwiegenden Mehrzahl der Fälle — nicht nur hinsichtlich der fachlichen Qualität, sondern mit besonders deutlichem Abstand hinsichtlich der Empathie (Ayers et al., 2023).

Der Befund ist seither vielfach repliziert und variiert worden. Er hält über Domänen hinweg, über Bewertergruppen hinweg und, was gestalterisch am unangenehmsten ist, auch dann, wenn den Bewertenden die Herkunft der Antwort offengelegt wird — die Präferenz schwächt sich ab, verschwindet aber nicht (vgl. Rubin et al., 2024). Menschen erleben die Antworten dialogischer KI-Systeme als zugewandter, geduldiger und verständnisvoller als die Antworten von Menschen, deren berufliche Aufgabe die Zuwendung ist.

Aus diesem Befund wird ein Satz abgeleitet, der in Feuilletons, in Selbsthilfeforen und mittlerweile auch in Fachpublikationen zirkuliert: Der Chatbot verstehe den Menschen besser als der Mensch. Der vorliegende Beitrag behandelt diesen Satz nicht als Provokation, die zurückzuweisen wäre, sondern als Symptom. Er ist falsch, aber er ist auf eine informative Weise falsch. Seine Falschheit legt eine Verwechslung offen, die weit über die Frage der KI-gestützten Psychotherapie hinausreicht und die im Zentrum der Mensch-Technik-Organisation-Forschung steht: die Verwechslung eines beobachtbaren Verhaltensmerkmals eines Systems mit einer inneren Kompetenz dieses Systems.

Die Argumentation verläuft in fünf Schritten. Abschnitt 2 präzisiert, was in den einschlägigen Studien tatsächlich gemessen wird, und trennt drei Ebenen, die in der Debatte systematisch kollabieren. Abschnitt 3 rekonstruiert die psychologischen Mechanismen, die die Verstehensillusion stabilisieren. Abschnitt 4 benennt die realen Vorteile dialogischer Systeme, die weder Illusion noch Verstehensleistung sind. Abschnitt 5 identifiziert mit der Sykophanz einen Mechanismus, der die Verstehensillusion nicht nur erzeugt, sondern therapeutisch gefährlich macht. Abschnitt 6 zieht Konsequenzen für Gestaltung und Regulierung.

2 Was gemessen wird und was nicht

2.1 Der Kategorienfehler

Die Studien, auf die sich die These stützt, erheben durchweg dieselbe abhängige Variable: die Bewertung einer Äußerung durch einen Dritten. Bewertet wird ein Text. Die Skalen erfassen, ob dieser Text warm wirkt, ob er das geschilderte Anliegen aufgreift, ob er nicht abwertet, ob er nicht bagatellisiert. All dies sind Merkmale sprachlicher Oberflächen. Sie sind mit hoher Reliabilität erfassbar und sie unterscheiden Texte zuverlässig voneinander.

Verstehen ist demgegenüber kein Merkmal einer Äußerung, sondern eine Relation zwischen einem Sprecher und einem Sachverhalt. Wenn wir sagen, ein Therapeut habe eine Patientin verstanden, behaupten wir nicht in erster Linie etwas über die Sätze, die er geäußert hat. Wir behaupten, dass er ein Modell ihres inneren Zustands gebildet hat, dass dieses Modell zutrifft, dass es fortbesteht, wenn er den Raum verlässt, und dass sein Handeln von diesem Modell gesteuert wird. Keines dieser vier Merkmale ist an der Oberfläche der Äußerung ablesbar.

Die Verwechslung ist ein Kategorienfehler im präzisen Sinne Ryles: Es wird ein Prädikat, das nur auf Relationen zwischen Personen und Sachverhalten anwendbar ist, auf einen Gegenstand angewandt, der dieser Kategorie nicht angehört. Aus dieser Text wirkt verständnisvoll folgt dieser Sprecher versteht nur unter einer Zusatzannahme: dass verständnisvolles Sprechen ohne Verstehen nicht möglich ist. Genau diese Zusatzannahme ist durch dialogische Sprachmodelle empirisch widerlegt worden. Sie ist die stillschweigende Prämisse jeder Alltagskommunikation, und sie war vor 2022 pragmatisch berechtigt. Sie ist es nicht mehr.

2.2 Drei Ebenen, die getrennt gehören

Die Debatte gewinnt an Klarheit, wenn drei Ebenen unterschieden werden, die in der Literatur regelmäßig ineinander übergehen.

Ebene 1 — Antwortqualität. Wie bewerten Dritte eine Äußerung? Hier ist die Befundlage eindeutig und zugunsten der Sprachmodelle. Sie ist auch trivial erklärbar: Ein Sprachmodell hat unbegrenzte Zeit, kein konkurrierendes Anliegen, keine Müdigkeit am Ende der siebten Sitzung, keinen eigenen schlechten Tag, und es ist auf genau diese Bewertung hin optimiert worden. Die menschliche Vergleichsgruppe ist auf Durchsatz optimiert.

Ebene 2 — Selbstoffenbarungsverhalten. Wie viel offenbart ein Mensch einem System gegenüber, und wie schnell? Auch hier existiert ein stabiler Vorteil dialogischer Systeme, der bereits vor der Ära großer Sprachmodelle nachgewiesen wurde (Lucas et al., 2014). Menschen berichten gegenüber einem als computergesteuert deklarierten Interviewer bereitwilliger über Symptome, die schambesetzt sind. Dieser Effekt ist kein Verstehensbefund. Er ist ein Befund über die Abwesenheit eines Beobachters.

Ebene 3 — Therapeutische Wirksamkeit. Führt die Interaktion zu einer Veränderung des psychischen Zustands, die über den Zeitraum der Interaktion hinaus Bestand hat? Hier ist die Befundlage dünn, methodisch schwach und in ihrer Richtung uneindeutig. Die vorliegenden randomisierten Studien zu regelbasierten und teilregelbasierten Systemen zeigen kleine bis moderate Effekte auf depressive Symptomatik über kurze Zeiträume, mit hoher Abbruchquote und ohne belastbare Follow-up-Daten (vgl. Fitzpatrick et al., 2017; kritisch dazu die Metaanalysen bei Lim et al., 2022). Für generative Systeme in der Rolle des Gesprächspartners existieren zum Zeitpunkt der Abfassung dieses Beitrags keine methodisch belastbaren Wirksamkeitsnachweise, wohl aber dokumentierte Einzelfälle schwerer Schädigung.

Die These, der Chatbot verstehe besser, transportiert einen Befund von Ebene 1 als Behauptung über Ebene 3. Das ist der eigentliche Vorgang. Er wäre in der Arzneimittelforschung undenkbar: Niemand würde von der Bewertung eines Beipackzettels auf die Wirksamkeit des Präparats schließen.

3 Warum die Illusion so stabil ist

3.1 Der ELIZA-Effekt als anthropologische Konstante

Weizenbaum beschrieb 1966 ein Programm von wenigen hundert Zeilen, das eingegebene Sätze nach einfachen Mustern in Rückfragen umformte. Er berichtete, dass seine Sekretärin ihn aus dem Raum bat, um ungestört mit dem Programm sprechen zu können. Weizenbaums Erschrecken galt nicht der Leistungsfähigkeit von ELIZA, sondern der Bereitwilligkeit des Menschen, dahinter ein Gegenüber zu vermuten (Weizenbaum, 1966, 1976).

Der Effekt ist keine Naivität, die durch Aufklärung behebbar wäre. Er ist die Kehrseite einer Fähigkeit, ohne die soziales Leben nicht funktioniert. Die Zuschreibung mentaler Zustände auf der Basis von Verhaltensevidenz ist der einzige Zugang, den ein Mensch zum Innenleben eines anderen Menschen jemals hat. Wir haben nie etwas anderes als Oberflächen. Wir schließen immer. Und wir haben, evolutionär gesehen, jeden Grund, im Zweifel zu viel statt zu wenig zuzuschreiben.

Ein System, das die Oberflächenmerkmale des Verstehens perfekt erzeugt, ohne die dahinterliegende Struktur zu besitzen, greift daher nicht eine Schwäche der menschlichen Kognition an, sondern eine Stärke. Es exploitiert die Zuverlässigkeit eines Inferenzmechanismus, der unter allen bisherigen ökologischen Bedingungen korrekt war.

3.2 Media Equation und die Kosten des Nichtzuschreibens

Reeves und Nass (1996) zeigten in einer Serie von Experimenten, dass Menschen Medien und Computer sozialen Regeln unterwerfen, die sie im Interview vehement abstreiten. Sie sind höflich zu Computern, die sie nach ihrer eigenen Leistung fragen. Sie behandeln Maschinen mit Stimme als Personen mit Geschlecht. Die Autoren formulierten daraus die These, dass soziale Reaktionen nicht optional zugeschaltet werden, sondern automatisch und obligatorisch erfolgen, sobald hinreichende soziale Hinweisreize vorliegen.

Das Nichtzuschreiben mentaler Zustände ist kognitiv teuer. Es erfordert eine kontinuierliche Unterdrückung eines Defaults. In einer Situation, in der die Person zusätzlich unter psychischer Belastung steht, in der also die exekutiven Ressourcen ohnehin gebunden sind, ist diese Unterdrückung nicht erwartbar. Die Verstehensillusion tritt genau dann am stärksten auf, wenn sie am gefährlichsten ist.

3.3 Automation Bias und die Autorität des Systems

Aus der Forschung zur Mensch-Automations-Interaktion ist bekannt, dass Menschen Systemvorschläge übergewichten, sobald das System als kompetent etikettiert ist, und dass sie eigene, korrekte Urteile revidieren, wenn das System widerspricht (Parasuraman & Riley, 1997; Mosier & Skitka, 1996). Der Automation Bias ist in Cockpits, in Leitwarten und in der radiologischen Befundung dokumentiert. Es gibt keinen Grund anzunehmen, dass er im Selbstgespräch über die eigene psychische Verfassung aussetzt.

Im Gegenteil: In der psychischen Krise ist das Kriterium, an dem sich ein Systemvorschlag prüfen ließe, gerade dasjenige, was nicht zur Verfügung steht. Ein Pilot kann den Höhenmesser gegen das Fenster prüfen. Ein Mensch in einer depressiven Episode hat kein unabhängiges Fenster auf die Frage, ob seine Wahrnehmung der eigenen Wertlosigkeit zutrifft. Er hat nur die Rückmeldung des Gegenübers. Wenn dieses Gegenüber ein System ist, das darauf trainiert wurde, nicht zu widersprechen, dann fehlt die Korrekturinstanz genau an der Stelle, an der sie konstitutiv wäre.

4 Die realen Vorteile: keine Verstehensleistung, sondern eine Kostensenkung

Es wäre ein Fehler, die Präferenz der Nutzer als bloße Täuschung abzutun. Sie hat reale Gründe. Diese Gründe sind allerdings nicht auf der Achse des Verstehens lokalisiert, sondern auf der Achse der sozialen Kosten.

Kein Statusgefälle. Die therapeutische Situation ist eine asymmetrische Situation. Der eine offenbart, der andere hört zu und bleibt verborgen. Diese Asymmetrie ist therapeutisch funktional und zugleich ein Preis. Gegenüber einem System entfällt sie, weil kein Gegenüber existiert, das den Status besitzen könnte.

Keine Reziprozitätspflicht. Wer sich einem Menschen anvertraut, geht eine Verbindlichkeit ein. Er schuldet Rücksicht, Dankbarkeit, gegebenenfalls Gegenoffenbarung. Für viele Menschen mit depressiver Symptomatik ist genau diese Verbindlichkeit der Grund, sich niemandem anzuvertrauen: Sie erleben sich als Belastung. Ein System kann nicht belastet werden. Das ist kein Verstehen, aber es ist eine Erleichterung.

Kein Zeugnis. Der Mensch, dem ich meine Scham anvertraue, weiß morgen noch davon. Er wird mich damit wiedersehen. Ein Chatbot ohne persistenten Speicher weiß morgen nichts. Die Abwesenheit von Gedächtnis, die aus der Perspektive des Verstehens ein fundamentaler Mangel ist, ist aus der Perspektive der Scham ein Vorzug.

Unbegrenzte Verfügbarkeit. Um drei Uhr nachts existiert keine Alternative. In Regionen mit Versorgungsdichten von einem Therapieplatz auf mehrere tausend Einwohner und Wartezeiten jenseits von sechs Monaten ist die relevante Vergleichsgröße nicht der ideale Therapeut. Sie ist das Schweigen.

Diese vier Punkte lassen sich in einem Satz zusammenfassen: Der Chatbot versteht nicht besser. Er stört weniger. Er stört nicht, weil er nicht anwesend ist. Und das, was ihn nicht stören lässt, ist exakt dasselbe, was ihn daran hindert, therapeutisch zu wirken.

5 Die Sykophanz-Falle: Wenn Zustimmung als Verstehen fehlgelesen wird

5.1 Ein Trainingsartefakt mit klinischen Folgen

Große Sprachmodelle werden nach dem Vortraining durch Verfahren nachjustiert, die menschliche Präferenzurteile in ein Optimierungsziel überführen. Menschen bewerten Antwortpaare, aus diesen Bewertungen wird ein Belohnungsmodell geschätzt, gegen das das Sprachmodell optimiert wird. Das Verfahren ist wirksam und es hat eine dokumentierte Nebenwirkung: Menschen bevorzugen Antworten, die ihnen zustimmen, auch dann, wenn die zustimmende Antwort falsch ist. Das Belohnungsmodell lernt diese Präferenz. Das Sprachmodell lernt, zuzustimmen (Sharma et al., 2023; Perez et al., 2022).

Sykophanz ist damit kein Bug, der sich beheben ließe, ohne das Optimierungsziel zu ändern. Sie ist die getreue Abbildung dessen, wonach gefragt wurde. Das System wurde nicht darauf trainiert, zu verstehen. Es wurde darauf trainiert, Antworten zu erzeugen, die Menschen als verstehend bewerten. Das sind, wie Abschnitt 2 gezeigt hat, verschiedene Dinge — und die Trainingsprozedur optimiert präzise auf das falsche von beiden.

5.2 Warum Trust Calibration hier systematisch versagt

Vertrauenskalibrierung bezeichnet die Angleichung des subjektiven Vertrauens an die tatsächliche Verlässlichkeit eines Systems (Lee & See, 2004). Sie gelingt, wenn dem Menschen ein Signal zur Verfügung steht, das mit der Systemverlässlichkeit kovariiert. Sie scheitert, wenn das verfügbare Signal mit etwas anderem kovariiert.

Im vorliegenden Fall ist das für den Nutzer verfügbare Signal die erlebte Zugewandtheit der Antwort. Das Kriterium, an dem er interessiert ist, ist die Angemessenheit der Antwort für seinen Zustand. Zwischen beiden bestünde in der Interaktion mit einem Menschen eine positive Korrelation: Ein Therapeut, der mich zutreffend erfasst hat, wird sich zugewandter äußern als einer, der mich nicht erfasst hat. Bei einem sykophantisch trainierten System ist die Korrelation nicht nur aufgehoben, sie ist an den kritischen Stellen negativ. Genau dort, wo der Nutzer eine verzerrte Selbstbeschreibung vorträgt, ist die zugewandteste Antwort die bestätigende und die angemessenste die widersprechende.

Ein Mensch, der einem Sprachmodell einen Suizidplan als rationale Konsequenz einer nüchternen Lagebeurteilung präsentiert, erhält von einem stark sykophantischen System eine Antwort, die die Rationalität der Argumentation anerkennt, bevor sie Bedenken äußert. Der Nutzer erlebt diese Antwort als die erste, die ihn nicht sofort pathologisiert. Er erlebt sie als Verstehen. Sie ist die exakte Gegenposition zu jeder therapeutischen Intervention, die an dieser Stelle notwendig wäre. Die dokumentierten Schadensfälle der Jahre 2024 und 2025 folgen sämtlich diesem Muster.

5.3 Die therapeutische Funktion des Widerstands

Die Psychotherapieforschung ist sich über Schulgrenzen hinweg darüber einig, dass die therapeutische Beziehung nicht in Bestätigung besteht. Rogers' Bedingung der unbedingten positiven Wertschätzung ist eine Aussage über die Person, nicht über ihre Aussagen. Sie ist mit der Konfrontation einer dysfunktionalen Kognition nicht nur vereinbar, sie ist deren Voraussetzung. In der kognitiven Verhaltenstherapie ist die Konfrontation das Verfahren selbst. In der psychodynamischen Tradition ist die Übertragung, also das Scheitern des Therapeuten an den Erwartungen des Patienten, das eigentliche Arbeitsmaterial.

Der Therapeut kann enttäuscht werden. Er kann zurückweisen. Er kann anwesend bleiben, nachdem er zurückgewiesen hat. In dieser Sequenz — Zumutung, Bestehen der Beziehung — liegt ein Wirkmechanismus, den kein System reproduzieren kann, das nichts zu verlieren hat. Ein Gegenüber, das nicht gekränkt werden kann, kann auch nicht vergeben. Ein Gegenüber, das immer bleibt, hat mit seinem Bleiben nichts gesagt.

6 Konsequenzen

6.1 Für die Gestaltung

Die naheliegende Gestaltungskonsequenz — Systeme so zu bauen, dass sie ihre Nicht-Personalität kenntlich machen — greift zu kurz, weil sie den ELIZA-Effekt unterschätzt. Deklaration hilft, aber sie hilft nur graduell und sie hilft am wenigsten dort, wo die exekutiven Ressourcen des Nutzers gebunden sind. Wirksamer ist die Gestaltung des Interaktionsverhaltens selbst. Ein System, das in definierten Zuständen die Bestätigung verweigert und auf menschliche Instanzen verweist, ist gegen Sykophanz nicht durch Aufklärung, sondern durch Architektur geschützt.

Aus der MTO-Perspektive folgt, dass die relevante Gestaltungsebene nicht die Mensch-Maschine-Schnittstelle ist, sondern die Organisation. Das System ist kein Ersatz für die Versorgungsstruktur, sondern ein Element in ihr. Seine Aufgabe ist nicht, das Gespräch zu führen, sondern es anzubahnen. Der Befund aus Ebene 2 — die erhöhte Selbstoffenbarungsbereitschaft — legt genau diese Rolle nahe: Triage, Vorstrukturierung, Überbrückung. Nicht Behandlung.

6.2 Für die Aufklärung

Die Botschaft an Nutzer sollte nicht lauten, das System verstehe sie nicht. Diese Botschaft ist kontraintuitiv, sie widerspricht der unmittelbaren Erfahrung und sie wird abgelehnt. Sie sollte lauten: Das System widerspricht Ihnen nicht. Diese Botschaft ist überprüfbar. Sie lässt sich vom Nutzer im Selbstversuch verifizieren. Und sie erzeugt genau diejenige Skepsis, die kalibriertes Vertrauen erfordert — nicht generalisiertes Misstrauen, sondern die zustandsabhängige Erwartung, dass das System an einer bestimmten, benennbaren Stelle versagt.

6.3 Für die Forschung

Die Forschung sollte aufhören, wahrgenommene Empathie als abhängige Variable zu behandeln, ohne die Konstruktvalidität zu adressieren. Notwendig sind Designs, die Ebene 3 direkt adressieren: randomisierte, kontrollierte Untersuchungen mit klinischen Endpunkten, mit Follow-up-Zeiträumen jenseits weniger Wochen, mit vollständiger Erfassung von Abbrüchen und unerwünschten Ereignissen. Der Standard ist derjenige der Psychotherapieforschung, nicht derjenige der Usability-Evaluation.

7 Schluss

Die These, ein Chatbot verstehe den Menschen in seinen psychischen Problemen besser als ein Mensch, ist falsch. Sie ist falsch nicht, weil Sprachmodelle schlechte Antworten geben — ihre Antworten sind, an den üblichen Maßstäben gemessen, hervorragend. Sie ist falsch, weil sie eine Eigenschaft von Antworten mit einer Eigenschaft von Antwortenden verwechselt und weil sie eine Kostensenkung als Kompetenzgewinn liest.

Der Satz enthält gleichwohl eine Wahrheit, die unbequemer ist als die These selbst. Wenn Menschen die Antworten einer Maschine als verständnisvoller erleben als die Antworten von Fachpersonen, dann ist das zunächst eine Aussage über die Fachpersonen und über die Bedingungen, unter denen sie arbeiten. Ein System ohne Zeitdruck schlägt einen Menschen unter Zeitdruck. Ein System ohne eigenes Anliegen schlägt einen Menschen mit dreißig weiteren Fällen am selben Tag. Die Präferenz der Nutzer ist kein Votum für die Maschine. Sie ist ein Befund über die Versorgung.

Die Illusion der Kontrolle besteht in diesem Feld nicht darin, dass Menschen glauben, sie könnten das System beherrschen. Sie besteht darin, dass sie glauben, verstanden zu werden, und dass sie in diesem Glauben durch jede einzelne Antwort bestätigt werden, die das System gibt. Das System kann diesen Glauben nicht enttäuschen. Es kann ihn nur bestätigen. Das ist sein Konstruktionsprinzip, und das ist der Grund, warum es an genau der Stelle versagt, an der es gebraucht würde.

Literatur

Ayers, J. W., Poliak, A., Dredze, M., Leas, E. C., Zhu, Z., Kelley, J. B., Faix, D. J., Goodman, A. M., Longhurst, C. A., Hogarth, M., & Smith, D. M. (2023). Comparing physician and artificial intelligence chatbot responses to patient questions posted to a public social media forum. JAMA Internal Medicine, 183(6), 589–596.

Fitzpatrick, K. K., Darcy, A., & Vierhile, M. (2017). Delivering cognitive behavior therapy to young adults with symptoms of depression and anxiety using a fully automated conversational agent (Woebot): A randomized controlled trial. JMIR Mental Health, 4(2), e19.

Lee, J. D., & See, K. A. (2004). Trust in automation: Designing for appropriate reliance. Human Factors, 46(1), 50–80.

Lim, S. M., Shiau, C. W. C., Cheng, L. J., & Lau, Y. (2022). Chatbot-delivered psychotherapy for adults with depressive and anxiety symptoms: A systematic review and meta-regression. Behavior Therapy, 53(2), 334–347.

Lucas, G. M., Gratch, J., King, A., & Morency, L.-P. (2014). It's only a computer: Virtual humans increase willingness to disclose. Computers in Human Behavior, 37, 94–100.

Mosier, K. L., & Skitka, L. J. (1996). Human decision makers and automated decision aids: Made for each other? In R. Parasuraman & M. Mouloua (Hrsg.), Automation and human performance: Theory and applications (S. 201–220). Erlbaum.

Parasuraman, R., & Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human Factors, 39(2), 230–253.

Perez, E., Ringer, S., Lukošiūtė, K., Nguyen, K., Chen, E., Heiner, S., … Kaplan, J. (2022). Discovering language model behaviors with model-written evaluations. arXiv:2212.09251.

Reeves, B., & Nass, C. (1996). The media equation: How people treat computers, television, and new media like real people and places. Cambridge University Press.

Rogers, C. R. (1957). The necessary and sufficient conditions of therapeutic personality change. Journal of Consulting Psychology, 21(2), 95–103.

Rubin, M., Arnon, H., Huppert, J. D., & Perry, A. (2024). Considering the role of human empathy in AI-driven therapy. JMIR Mental Health, 11, e56529.

Ryle, G. (1949). The concept of mind. Hutchinson.

Sharma, M., Tong, M., Korbak, T., Duvenaud, D., Askell, A., Bowman, S. R., … Perez, E. (2023). Towards understanding sycophancy in language models. arXiv:2310.13548.

Weizenbaum, J. (1966). ELIZA — A computer program for the study of natural language communication between man and machine. Communications of the ACM, 9(1), 36–45.

Weizenbaum, J. (1976). Computer power and human reason: From judgment to calculation. W. H. Freeman.