Künstliche Intelligenz: Ethikrat empfiehlt strenge Vorgaben in der Medizin

Der Deutsche Ethikrat stellt strenge Anforderungen an die Verwendung Künstlicher Intelligenz (KI) in der Medizin: Unter anderem hält er die Nutzung von Anwendungen maschinellen Lernens, deren Entschei­dungs­findung technisch nicht mehr nachvollziehbar ist, für in vielen Kontexten nicht vertretbar. Das betrifft einen Großteil hoch entwickelter KI-Programme.

(Quelle/Mehr Infos: https://www.aerzteblatt.de/nachrichten)

Voreingenommenheit von Algorithmen

Auszug aus https://www.silicon.de/41703666/datenethik-und-kuenstliche-intelligenz

„Was diese Vorurteile nach sich ziehen können, zeigt ein Fall beim Retail-Giganten Amazon. Das Unternehmen entwickelte einen Prototyp-Algorithmus unter Verwendung von Mitarbeiterdaten der letzten 10 Jahre, um eingehende Bewerbungen zu beurteilen und die besten Mitarbeiter:innen auf der Grundlage früherer Leistungsindikatoren einzustellen. KI ist eine Mustererkennungsmaschine, die auf Basis historischer Daten eine ganz bestimmte Aufgabe erfüllt. Dabei ist zu beachten, dass heute in Deutschland nur 17 Prozent der Beschäftigten im Technologiebereich weiblich sind. Wenn man ein KI-Modell mit 1.000 Datenpunkten von erfolgreichen Mitarbeiter:innen füttert und 83 Prozent dieser erfolgreichen Mitarbeiter:innen ein ähnliches Merkmal aufweisen, stellt sich die Frage, was dann das offensichtlichste Muster ist?

In diesem Fall zeigte das statistische Muster, dass mehr Männer als Frauen in ihrer Rolle erfolgreich waren. Dies lag daran, dass mehr Männer als Frauen tatsächlich in diesen Rollen beschäftigt waren. Während wir als Menschen wissen, dass dies ein eindeutiges und negatives Vorurteil ist, hat das KI-Modell Muster in den Daten, mit denen es gefüttert wurde, hervorgehoben – und letztlich Bewerbungen mit dem Begriff „Frauen“ oder „Frauenschachclub“ abgewertet. Amazon beendete das Projekt.“

Was ist KI-Engineering?

Artificial Intelligence (AI) bzw. Künstliche Intelligenz (KI) im Engineering richtig anwenden

KI-Engineering hat zum Ziel, Künstliche Intelligenz (KI) und maschinelles Lernen (ML), vergleichbar dem klassischen Engineering, ingenieursmäßig nutzbar zu machen. KI-Engineering ist eine junge Disziplin, die KI-Grundlagenforschung und Ingenieurswissenschaften verbindet. Neben der Vorhersehbarkeit von KI-Verhalten und KI-Entscheidungen geht es bei KI-Engineering auch um die Sicherheit KI-basierter Systeme. Es wird ein Standard-Vorgehensmodell für KI-Engineering entwickelt, das die Erklärbarkeit von Entscheidungen, aber auch die Einbindung von Vor- und Expertenwissen in datengetriebene Lösungen unterstützt.

Es geht vor allem darum, KI für Ingenieure beherrschbar zu machen. Ziel ist, KI- und ML-Methoden für typische Anforderungen sozio-technischer Systeme bzw. für typische Vorgehensweisen von Ingenieuren nutzbar zu machen, auch in sicherheitskritischen Anwendungen.

KI-Engineering etabliert sich als eine neue Disziplin, welche die Informatik sowie datenbasierte Modellbildung und Optimierung mit dem Systems Engineering und klassischen Ingenieurdisziplinen verbindet.

So gibt es z.B. ein neues Kompetenzzentrum für KI-Engineering (CC-KING) am Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB (https://www.iosb.fraunhofer.de/) oder Projekte zur Absicherung von KI-basierten Systemen im Innovationszentrum der IABG (https://www.iabg.de/safeai) oder einen neuen Studiengang in AI-Engineering an der Hochschule Magdeburg-Stendal (https://www.ai-engineering.ovgu.de/).

HF versus CRM: Was ist Human Factors im Vergleich zu Crew Ressource Management*)?

Gute Kenntnisse der Human Factors, d. h. der menschlichen Psychologie, sind essenziell für die Konzeption und Durchführung von Crew Ressource Management

Human Factors (HF) ist das theoretische und methodische Wissen der Psychologie und Crew Ressource Management (CRM) ist die praktische Anwendung dieses Wissens für das Training von z.B. Piloten und Systembedienern. Human Factors ist eine Disziplin, die häufig für die Untersuchung und Begründung von Unfallursachen herangezogen wird. Human Factors beschreibt und untersucht aber nicht nur die Ursachen von Human Errors, sondern auch die Chancen und Möglichkeiten für die Entwicklung von Human Performance.

CRM ist die Basis zur Schulung und Verbesserung der nicht-technischen Fertigkeiten von z.B. Luftfahrzeugbesatzungen, um Flugunfällen aufgrund menschlichen Versagens vorzubeugen. Themen sind Kommunikation, Kooperation, situative Aufmerksamkeit, Führungsverhalten und Entscheidungsfindung. Arbeits-, Aufgaben- und Verantwortungsaufteilung, Ansprechen von möglichen Problemen („Speak up“) und stressresistente Methoden zur strukturierten Entscheidungsfindung werden im Hinblick auf eine sichere Aufgabenbewältigung – insbesondere in kritischen Situationen – geschult.

Grundlage dafür sind die Erkenntnisse und Methoden der kognitiven und Sozialpsychologie.

Ausgehend von den Anfängen in der (militärischen) Luftfahrt werden die Themen Human Factors und Crew Ressource Management in vielen Branchen und von vielen Anbietern genutzt, z.B. Lufthansa Aviation Training (https://www.lufthansa-aviation-training.com), Human Factors – Team HF (Human Factors – Team HF (team-hf.de), IABG Safety & Security Academy (http://www.academy.iabg.de), Studiengang Human Factors an der TU Berlin (https://www.humanfactors.tu-berlin.de/), TU Chemnitz (https://www.tu-chemnitz.de/hsw/studium/humanfactors/), TUM München (https://www.tum.de/studium/studienangebot/detail/ergonomie-human-factors-engineering-master-of-science-msc)

*) HF, wie CRM sind Akronyme für viele Konzepte: https://de.wikipedia.org/wiki/HF, https://de.wikipedia.org/wiki/CRM

Sicherheit und Menschliche Freiheiten

Jenseits von "sicher gehen" nach der Pionierin der Familientherapie der Therapeutin Virginia Satir

Nicht "auf sicher gehen", sondern selbstbestimmt handeln und denken. Diese Idee der Familientherapie findet sich, in abgewandelter Form, auch im Bereich "Safety" wieder bei Übergang von Safety-I zu Safety-II

Die Freiheit zu sehen und zu hören, was im Moment wirklich da ist,
– anstatt das, was sein sollte, gewesen ist oder erst sein wird.

Die Freiheit, das auszusprechen, was ich wirklich fühle und denke,
– und nicht das, was von mir erwartet wird.

Die Freiheit, zu meinen Gefühlen zu stehen,
– und nicht etwas anderes vorzutäuschen.

Die Freiheit, um das zu bitten, was ich brauche,
– anstatt immer erst auf Erlaubnis zu warten.

Die Freiheit, in eigener Verantwortung Risiken einzugehen,
– anstatt immer nur auf „Nummer sicher zu gehen“ und nichts Neues zu wagen.

(Quellen: https://de.wikipedia.org/wiki/Virginia_Satir ; https://www.linkedin.com/posts/harald-schaub_fatale-irrt%C3%BCmer-zu-cyber-security-und-der-activity-6952925547999993856-1r_8?utm_source=linkedin_share&utm_medium=member_desktop_web)

Fatale Irrtümer zu Cyber-Security und der fundamentale Attributionsfehler

𝐈𝐫𝐫𝐭𝐮𝐦 1: Es trifft nur die anderen.
𝐈𝐫𝐫𝐭𝐮𝐦  2: Angriffe auf oder aus der Supply Chain spielen keine große Rolle
𝐈𝐫𝐫𝐭𝐮𝐦  3: Unsere Mitarbeiter haben ausreichend Security Awareness.
𝐈𝐫𝐫𝐭𝐮𝐦  4: Der Art und Umfang unsere Sicherheitsprüfung reichen aus.
𝐈𝐫𝐫𝐭𝐮𝐦  5: Penetration-Tests kann unsere IT nebenher machen.
𝐈𝐫𝐫𝐭𝐮𝐦  6: Für den Notfall haben wir unsere Back-Ups.

Die Grundannahme ist, dass man selbst nicht betroffen bzw. alles getan hat und die anderen, die es getroffen hat, einfach nicht sorgfältig, nicht smart, nicht nachhaltig waren, sich zu schützen.
(Vergl. https://www.channelpartner.de/a/sechs-gaengige-fehlannahmen-zu-cyber-security,3341148) 

In der Psychologie bezeichnet man dieses Verhalten auch als den 𝒇𝒖𝒏𝒅𝒂𝒎𝒆𝒏𝒕𝒂𝒍𝒆𝒏 𝑨𝒕𝒕𝒓𝒊𝒃𝒖𝒕𝒊𝒐𝒏𝒔𝒇𝒆𝒉𝒍𝒆𝒓  (Attribution = Zuschreibung von Ursachen). 

Menschen überschätzen den Einfluss dispositionaler Faktoren und unterschätzen den Einfluss von situativen und externen Faktoren unterschätzen, wenn es darum geht bei anderen Entscheidern irgendetwas zu erklären. Dies variiert danach, ob man eigens oder fremdes Verhalten und ob man Erfolg oder Misserfolg erklären will.
(Vergl. https://www.spektrum.de/lexikon/psychologie/attributionsfehler-fundamentaler/1590)

Problemlöseteams: Gemeinsamkeiten und Unterschiede von operativen und Designteams

Technologie hat einen starken Einfluss auf die Arbeit von operativen und Designteams. Um zu verstehen, wie sie mit neuen Fähigkeiten und neuen Unternehmungen umgehen, muss man die Merkmale der Aufgaben, die Teams zu bewältigen haben, betrachten. Eine gleichbleibend hohe Leistung von operativen und Designteams basiert auf ausgeprägten Strategien zur Aufgabenbewältigung und einer gut strukturierten Wissensbasis, die es den Experten ermöglichen, ihre Handlungen an die verschiedenen Aufgabencharakteristika und -anforderungen anzupassen, um zukünftige Entwicklungen adäquat zu antizipieren und auf Situationsveränderungen zu
reagieren.

Der Aufbau gemeinsamer mentaler Modelle ist die zentrale Phase der Handlungsregulation von Problemlöseteams [Schaub 1997, 2007], [Goldschmidt 2007]. Designteams benötigen, wie operative Teams, gemeinsame mentale Modelle für verschiedene Arten von Teams die in komplexen technischen Systemen agieren [Langan-Fox et al. 2004].

Es gibt belegbare Unterschiede in den mentalen Modellen von operativen Teams und Designteams [Badke-Schaub et al. 2007]. Die Bedeutung der kontextuellen Merkmale der Aufgabe für die Leistung legt nahe, dass die Anpassung an die spezifischen betrieblichen Anforderungen für die Leistung wesentlich ist. Waller [1999] belegt diese Erwartung und berichtet, dass das Ausmaß, in dem operative Teams, z. B. Cockpitbesatzungen [Mathieu et al. 2000], Kraftwerksbetreiber [Waller et al. 2004] oder Astronauten [Musson et al. 2004], sich besonders an neue Situationen auf neue Situationen durch das Verhalten der Besatzung unter bestimmten Aufgabenbedingungen vorhergesagt werden kann, z. B. "Suchen und Übertragung von Informationen", "Priorisierung von Aufgaben" und "Verteilung von Aufgaben".

Der Umgang mit Neuem ist ein Aufgabenmerkmal, das operative Teams manchmal, Konstruktionsteams jedoch häufig bewältigen müssen. Neuartigkeit ist ein Schlüsselfaktor für kritische Situationen, in denen Problemlösungsteams (oder nicht zeigen) ihre Fähigkeit, Probleme zu lösen, unter Beweis stellen [Badke-Schaub und Frankenberger 1999].

Die Forschung über die Leistung von Experten zeigt, dass beständige Spitzenleistungen auf ausgeprägten Strategien und einer hochstrukturierten Wissensbasis beruhen, die es Experten ermöglichen, ihre Handlungen an kritischen Aufgabenmerkmalen und der Arbeitsbelastung anzupassen, zukünftige Entwicklungen richtig zu antizipieren und angemessen zu reagieren, wenn sich die Situation ändert (adaptive Expertise, [Holyoak 1991]).

Folglich definieren Ericsson und Lehmann [1996] Fachwissen als die maximale Anpassung an Aufgabenbeschränkungen.

Adaptive Expertenteams haben ein spezifisches Wissen: Sie wissen um die Bedingungen für eine erfolgreiche Ausführung der Aufgabe hinsichtlich der situativen Einschränkungen für bestimmte Handlungen. Um die Bedeutung der Aufgabencharakteristika zu verstehen, muss typische Herausforderungen, mit denen Problemlösungsteams (operative Teams und Designteams) konfrontiert sind, verstehen. Diese Herausforderungen stehen meist im Zusammenhang mit der Reduzierung von Komplexität auf verständliche und umsetzbare Dimensionen. 

Problemlösungsteams müssen vor allem eine gemeinsame Zielsetzung und ein gemeinsames Verständnis der Aufgabe haben. Obwohl sich Designteams und operative Teams in bestimmten Aspekten unterscheiden, ist die Art und Weise, wie sie mit Komplexität umgehen und eine überschaubare Darstellung ihrer Aufgabe aufbauen, weitgehend ähnlich.

Teams müssen:

·    Ihre Probleme finden und definieren. Das bedeutet, dass sie ihre Ziele und ihre Aufgabenstellung aufeinander abstimmen müssen.

·    Intuition und Rationalität bei der Entscheidungsfindung miteinander verbinden. Das bedeutet vor allem, dass die Teammitglieder (sich selbst und dem Team gegenüber) ihre Strategien, ihr Wissen und ihre Annahmen erklären müssen.

·    Ambiguität tolerieren und mit unerwarteten Ereignissen umgehen. Vor allem müssen die Teammitglieder ihre emotionalen Reaktionen kontrollieren.

·    Geeignete Maßnahmen zum Umgang mit neuartigen Situationen entwickeln. Neuartigkeit kann für operative Teams ein Risiko und für Designteams eine Chance darstellen.

·    Sowohl Operateure als auch Designer müssen neue Situationen oder Situationselemente als neu erkennen und damit ihr besonderes Potenzial für Innovation oder Risiko erkennen.

·    Mit Stress und Zeitdruck umgehen. Zeitmangel ist ein Standardmerkmal der modernen Welt. Jedes Arbeitsteam, jeder Designer, Operateur oder Problemlöser muss mit begrenzter Zeit zurechtkommen. 

Die Betonung dieser Faktoren ist in Bezug auf Design- oder operative Teams unterschiedlich. Aber Problemlösungsteams müssen sich im Allgemeinen mit diesen Herausforderungen auseinandersetzen, um eine pragmatische Sicht auf ihre Aufgaben (mentales Modell der Aufgabe) sowie eine realistische Sicht der Fähigkeiten des Teams (mentales Modell des Teams) aufzubauen. 

 

Veröffentlicht in: Proceedings of the DESIGN 2014 13th International Design Conference

Die Anfänge der Künstlichen Intelligenz – eine psychologische Perspektive

„Eine Simulation ist dem nachgeahmten Verhalten nur in gewissenGrenzen isomorphDas gegenseitige Einvernehmen besteht gewöhnlich darin, dass von der Maschine nicht verlangt wird, das Verhalten per se, sondern die Aufzeichnung des Psychologen davon zu simulieren.“ Und weiter:„Eine Simulation ist dann erfolgreich, wenn der Organismus und die Maschine vertauscht werden können, ohne dass sich spezifizierte Situationsaspekte ändern.“ (Miller, Galanter & Pribram (1973, S.51)

 

In diesem Text wird ein Blick auf das Thema „Künstliche Intelligenz“ aus psychologischer Perspektive geworfen. Zwei wichtige Themen werden dabei angesprochen, zum einen die Erfassung von Denken durch den Turing-Test, zum anderen der Eliza-Effekt, der das Phänomen benennt, dass die Möglichkeiten von Artefakten typischerweise überschätzt werden. 

Die Menschen haben sich selbst den wissenschaftlichen Namen ‚weiser Mensch‘ (Homo sapiens) gegeben, weil die intellektuellen Fähigkeiten so wichtig für das menschliche Selbstverständnis sind. Damit hebt sich der Mensch nicht nur von der Tierwelt ab, sondern auch von seinen menschlichen Vorläufern. Die Gattung Homo hat sich vor etwa fünf Millionen Jahren von der Gattung Australopithecus getrennt. Der „moderne“ Mensch Homo sapiens sapiens (besonders weise) trat vermutlich vor etwa 90000 Jahren auf. Seit dieser Zeit hat sich die biologische Grundausstattung nicht mehr wesentlich verändert. 

 

Die Evolution hat viele Millionen Jahre gebraucht, um autonome, intelligente Lebewesen zu schaffen. Die Forschung zur Künstlichen Intelligenz (KI) will dies innerhalb eines viel kürzeren Zeitraums wiederholen. KI versucht intelligente Einheiten, Agenten und Systeme, zu konstruieren. Dafür gibt es mehrere Gründe. Ein Anspruch ist, mehr über den Menschen zu erfahren. Aber anders als Philosophie und Psychologie baut die KI mehr oder weniger intelligente Systeme. Diese intelligenten Systeme sind nicht nur wissenschaftlich, sondern auch gesellschaftlich interessant. So erscheinen immer mehr Produkte auf dem Markt, die von der KI-Forschung beeinflusst sind. Diese intelligenten Produkte werden zunehmend Einfluss auf das Leben und die Zivilisation nehmen. 

 

Newell (1990) definiert Intelligenz als das Ausmaß der Annäherung eines Systems an ein knowledge-level System: Perfekte Intelligenz wird definiert als die Fähigkeit, all das Wissen, welches ein System hat, auch tatsächlich zur Problemlösung oder Zielerreichung einzusetzen.  

KI interessiert sich im Grunde für die Frage, wie es mit scheinbar unzureichender Hardware (z.B. dem langsam arbeitenden, kleinen menschlichen Gehirn, aber auch Computern) möglich ist, sinnvoll in einer komplexen Welt zu agieren. Dass dies den Menschen möglich ist und ebenfalls auch Computern - wenn auch in bescheidenen Ansätzen -, steht außer Frage. Die Evolution hat mit der Entwicklung der menschlichen Informationsverarbeitung gezeigt, welche außerordentliche Leistungen erreicht werden können. 

KI ist eine vergleichsweise junge Wissenschaft, der Gründungszeitpunkt wird üblicherweise mit der Dartmouth Konferenz von 1956 identifiziert. Die Entwicklung der Computertechnologie in den 50er Jahren führte dazu, dass die jahrtausendalte Frage nach der menschlichen Intelligenz, die bislang vor allem von Philosophen und Psychologen bearbeitet wurde, nun auch unter einem technischen Gesichtspunkt gesehen wurde. Die Euphorie war groß, man glaubte, in kürzester Zeit elektronische Supergehirne bauen zu können, die die sprichwörtliche Einsteinsche Intelligenz weit hinter sich lassen würden. Der anfängliche Optimismuss wurde nicht bestätigt, nichtsdestotrotz ist die KI heute eine etablierte Wissenschaft, die in unterschiedlichen Bereichen Anwendung findet. 

Wie aber lässt sich KI definieren? Definitionen fokussieren zumeist vier Aspekte: intelligente Denkprozesse, intelligentes Verhalten, menschliche Intelligenz, Intelligenz „per se“. 

 

• Haugeland, 1985: „The exciting new effort to make computers think  machines with minds, in the full and literal sense”. 
• Charniak & McDermott, 1991: „The study of mental faculties through the use of computational models”. 
• Winston, 1992: „The study of the computations that make it possible to perceive, reason, and act”. 
• Kurzweil, 1990: „The art of creating machines that perform functions that require intelligence when performed by people”. 
• Rich & Knight, 1991: „The study of how to make computers do things at which, at the moment, people are better”. 
• Schalkoff, 1990: „A field of study that seeks to explain and emulate intelligent behaviour in terms of computational processes”. 
• Luger & Stubblefield, 1993: „The branch of computer science that is concerned with the automation of intelligent behaviour”. 

 

Aus diesen Definitionen lassen sich vier Ziele der KI ableiten. 

Die Beschäftigung mit  

• Systemen, die sich wie Menschen verhalten; 
• Systemen, die denken wie Menschen; 
• Systemen, die rational denken; 
• Systemen, die sich rational verhalten.  

Der Turing-Test ist ein Beitrag zu dem Ansatz „Systeme, die sich wie Menschen verhalten“. Dieser Test wurde von Alan Turing (1950, deutsch 1994) vorgeschlagen und ermöglicht eine operationale Definition von Denken. Das Ziel des Tests ist es, dass Menschen, die mittels eines Terminals mit zwei Partnern kommunizieren, mit diesen sprechen und diese befragen können, feststellen sollen, welcher der Gesprächspartner männlich oder weiblich ist, wobei der Mann sich verstellen, und die Frau dem Befrager helfen soll. Turing nannte den Test deshalb auch Imitationsspiel. Der Part eines der Gesprächsteilnehmer wird von einem Computer übernommen, und der Test läuft darauf hinaus, ob der Befragte den Computer als „Nichtmensch“ erkennt oder nicht. Gelingt es dem Computer, sich als Mensch auszugeben, wäre der „Intelligenztest“ bestanden.  

Ein Computer braucht eine Reihe komplexer Fähigkeiten, um den Test bestehen zu können: Kommunikationsmöglichkeit in natürlicher Sprache, Wissensrepräsentation (auch Alltagswissen), Wissensverarbeitung und Lernen. Turing sah die tatsächliche, physikalische Interaktion mit dem System als irrelevant für die Frage der Denkfähigkeit an, und deshalb sollte der menschliche Untersucher und das menschliche oder technische System nur vermittelt kommunizieren. Ein erweiterter Turing-Test verlangt darüber hinaus, dass auch die sensorischen und motorischen Fähigkeiten des Systems zu testen sind, also der Computer über Wahrnehmungs- und Handlungsmöglichkeiten verfügen musss (Computer Vision und Robotics). 

Turing wagte in dem genannten Artikel eine Prognose: „Meiner Meinung nach wird es in ca. 50 Jahren möglich sein, Rechenmaschinen mit einer ungefähren Speicherkapazität von der Größe 109 zu programmieren, die das Imitationsspiel so vollendet spielen, dass die Chancen, nach einer fünfminütigen Fragezeit die richtige Identifizierung herauszufinden, für einen durchschnittlichen Fragesteller nicht höher als sieben zu zehn stehen.“ 

Turing versucht mögliche Einwände gegen die Sinnhaftigkeit der Frage nach dem Denkvermögen von Maschinen zu begegnen. Dazu führt er verschiedene Argumente an, die möglicherweise vorgebracht werden könnten und versucht, diese zu entkräften. 

Theologischer Einwand: ‚Denken ist eine Funktion der unsterblichen menschlichen Seele. Gott gab Mann und Frau eine unsterbliche Seele, jedoch weder einem anderen Lebewesen noch einer Maschine. Insofern kann weder Tier noch Maschine denken.‘ Turing hält diese Form theologischer Einwände für überholt. 

Vogel-Strauß-Einwand: Da die Konsequenzen denkender Maschine beängstigend sind, wollen wir lieber hoffen, dass sie dies nicht können. Turing geht auf das Argument nur in ironischer Weise ein.

 

Mathematischer Einwand: Da es mathematisch zeigbar eine Reihe von Dingen gibt, die diskrete Maschinen nicht können (z.B. Gödel Theorem), können sie im Denken dem Menschen nicht gleichen, da dieser diesen Beschränkungen nicht unterliegt. Da für den Menschen lediglich behauptet wird, dass er solchen Beschränkungen nicht unterliege und darüber hinaus das menschliche Denken trotzdem häufig fehlerhaft ist, lässt Turing dieses Argument nicht gelten. 

Bewusstseins Argument: Eine Maschine kann nur wie der Mensch denken, wenn sie wirklich weiß, was sie denkt, sich wirklich über Erfolge freut etc., und dieses nicht nur als technischen Kunstgriff eingebaut hat. Was heißt wirklich? Dieses Argument impliziert, dass man nur dann wirklich weiß, ob eine Maschine „richtig“ denkt, wenn man die Maschine selbst ist. Das gleiche Problem ergibt sich aber auch bereits bei der Frage, ob die Mitmenschen denken. Auch dies musss man seinem Gegenüber glauben, auch hier kann man prinzipiell nicht dessen Standpunkt einnehmen. 

Argument verschiedener Unfähigkeiten: Es wird argumentiert, dass eingestanden wird, dass die Maschine all das tun kann, was vorgegeben wird. Aber es gebe eine Fähigkeit X, die sie nicht habe (z.B. liebevoll sein, Erdbeereis mögen, etwas wirklich Neues tun, etc.). Turing sieht in diesem Argument zum einen eine Übergeneralisierung der Erfahrung mit Maschinen, nach dem Schema, weil ein Kühlschrank dies nicht kann, können Maschinen dies prinzipiell nicht. Zum anderen hält er dieses Argument für eine Variante des Bewusstseins Arguments. 

Lady Lovelace Einwand: Lady Lovelace liefert detaillierte Informationen zur Analytischen Maschine von Babbage. In diesem Bericht schreibt sie „Die Analytische Maschine erhebt keinen Anspruch, irgendetwas zu erzeugen. Sie kann all das tun, wofür wir die entsprechenden Durchführungsbefehle geben können.“ Der Einwand besteht in der Behauptung, dass eine Maschine nie etwas wirklich Neues tun könne, da sie nur das tut, was man ihr vorher einprogrammiert hat. Dieser Einwand ist äquivalent mit der Behauptung, dass eine Maschine einen niemals überraschen könne. Was natürlich nicht stimmt. Der typische Trugschluss, der gemacht wird, besteht darin, dass man annimmt, wenn man eine Sache verstanden hätte (z.B. den Aufbau einer Maschine), dann können auch alle Folgen vorhergesagt werden. Dies ist nachweisbar nicht richtig. 

Stetigkeit im Nervensystem: Eine Maschine, die mit diskreten Zuständen arbeitet, wie dies alle Digitalcomputer tun, ist nicht in der Lage, das Verhalten des Nervensystems nachzuahmen. Das Nervensystem arbeitet nicht digital, so dass auch keine diskreten Zustandsübergänge stattfinden. Veränderungen im Nervensystem sind stetig. An dieser Stelle müssen Maschinen scheitern, da sie mit ihrer digitalen Arbeitsweise Stetigkeit nicht abbilden können. Turing argumentiert, dass zwar ein System, welches mit stetigen Zuständen arbeitet, sich von einem solchen mit diskreten Zuständen unterscheiden wird. Dies ist aber insofern irrelevant, da sich das diskrete dem stetigen System beliebig annähern kann. 

Unmöglichkeit der Festsetzung von Verhaltensregeln: Es ist unmöglich, für alle denkbaren Situationen Verhaltensregeln aufzustellen. Weder das Verhalten des Menschen noch das einer Maschine ist durch Regeln derart bestimmt, dass für jede erdenkliche Situation eine Regel existiert. Vielmehr sind Menschen und Maschinen durch allgemeine Verhaltensgesetzmäßigkeiten determiniert, die es dem System zum einen erlauben, in verschiedenen, auch neuen Situationen zu reagieren, und die es zum anderen praktisch unmöglich machen, das Verhalten dieser Systeme vorherzusagen. 

Für Turing stellen die philosophischen Überlegungen letztlich kein Problem dar, er beschäftigt sich lieber mit der Frage, wie ein Computer für das Imitationsspiel zu programmieren wäre. Dabei führt er nicht aus, wie das Programm aussehen könnte, sondern wie das Programm in den Computer hineinkommt. Er unterstellt dabei, dass man einem solchen Computer sehr viel einprogrammieren müsse. Damit dies nicht an der Unzulänglichkeit und vor allem Langsamkeit des manuellen Programmierens scheitert, erscheint ihm die Idee einer belehrbaren Maschine am naheliegendsten. Er stellt dazu die Analogie zum lernenden Kind her, dem seiner Meinung wenig genetisch vorgegeben ist, außer den Möglichkeiten zum Lernen und Erfahrung machen. Das Kind wie der Computer seien wie ein großer Notizblock mit vielen, aber noch leeren Blättern. Turing macht es sich hier wohl zu einfach. Die Idee der Tabula Rasa hat sich als zu simples Modell menschlicher Entwicklung erwiesen. 

 

Hinsichtlich der Frage, wie Menschen mit einem Computer umgehen, und wie sie sich im Rahmen eines Turing-Tests verhalten würden, ist der sogenannte Eliza-Effekt von besonderem Interesse, da er zeigt, dass nicht nur die tatsächlichen Fähigkeiten eines Computers eine Rolle bei den Interaktionen mit Menschen spielen, sondern dass den vermeintlichen Fähigkeiten eine große Bedeutung zu kommt. 

Weizenbaum (1966) wollte mit seinem Programm Eliza im Wesentlichen den tiefen Glauben an die Möglichkeiten des Computers erschüttern. Er bildetet dazu die Argumentationsweise von Gesprächspsychotherapeuten gegenüber ihren Klienten nach. Erstaunlicherweise vertrauten aber viele Personen Eliza ihre Probleme trotz des Wissens an, dass es sich nicht um einen menschlichen Therapeuten, sondern nur um ein Computerprogramm handelt. Sie behandelten also dieses Programm bzw. den das Programm ausführenden Computer so, als habe er menschliche Fähigkeiten. Die tatsächlichen Fähigkeiten von Eliza sind sehr bescheiden. Das Programm beginnt einen Dialog über ein Computerterminal mit einer Person, wobei Eliza den Part des Gesprächstherapeuten einnimmt. Die Sätze, die Eliza formuliert, sind entweder Paraphrasierungen der Sätze des „Klienten“ (diese Paraphrasierungen sind in der englischen Sprache relativ simpel zu programmieren), Standardsätze, die in Hinblick auf ein Schlüsselwort im Satz des „Klienten“ ausgewählt wurden oder belanglose Floskeln. 

Nachfolgend ist ein kurzer Ausschnitt aus einem „Gespräch“ mit Eliza wiedergegeben. Elizas Fragen beginnen unmittelbar am Anfang der Zeile, die Antworten des „Klienten“ beginnen mit „>„. 

 

Hello. I am Eliza. How can I help you? 

> Yes. I am Harald. 

 

You seem quite positive. 

> Yes and no. I would like to talk about computers. 

 

Do computers worry you? 

> Not really. 

 

I am not sure I understand you fully. 

> Computers are not a problem for me. 

 

Why do you mention computers? 

> I think, you are a computer. 

 

What do you think machines have to do with your problem? 

> 

 

Eliza sucht nach Schlüsselworten und bildet daraus mehr oder weniger sinnvolle Sätze. Eine Regel von Eliza könnte z.B. folgendermaßen aussehen: 

 

rules([[remember,5],[ 

[1,[_,you,remember,Y],0, 

[do,you,often,think,of,Y,?], 

[does,thinking,of,Y,bring,anything,else,to,mind,?], 

[what,else,do,you,remember,?], 

[why,do,you,remember,Y,just,now,?], 

[what,in,the,present,situation,reminds,you,of,Y,?], 

[what,is,the,connection,between,me,and,Y,?]], 

[2,[_,do,i,remember,Y],0, 

[did,you,think,'I',would,forget,Y,?], 

[why,do,you,think,i,should,recall,Y,now,?], 

[what,about,Y,?], 

[equal,[what,0]], 

[you,mentioned,Y,.]]. 

 

Dies bedeutet, wenn das Wort „remember“ gefunden wird und eines der weiteren Schlüsselworte in den Mustersätzen ([_,you,remember,Y] bzw. [_,do,i,remember,Y]) vorhanden ist, kann eine entsprechende Antwort erzeugt werden, wobei das Substantiv an der Stelle Y übernommen wird, und so scheinbar der semantische Bezug zur Aussage des Klienten hergestellt ist. 

 

> Sometimes I remember Eliza. 

Do you often think of Eliza? 

 

Eliza versteht also definitiv nichts. Typischerweise gibt es keine gut funktionierende, deutsche Eliza-Version, da in der deutschen Sprache die Wortersetzung, die Eliza verwendet, auf Grund der komplizierteren Grammatik nicht funktioniert. Eliza ordnet die Schlüsselworte des Klienten über eine Tabelle mit Regeln und einem Zufallsgenerator einer Standardphrase zu und gibt diese aus. Diese Tabelle stellt die beliebig veränderbare Wissensbasis von Eliza dar. Eliza ist sicher nicht künstlich intelligent (je nachdem, was man unter Intelligenz verstehen will). Aber der Eliza-Effekt zeigt deutlich, wie Menschen mit anderen kommunizieren: Menschen neigen offensichtlich dazu, sehr viel in den anderen hineinzuinterpretieren. Der Eliza-Effekt tritt auf, obschon die Leute im Prinzip um die rudimentären Fähigkeiten wissen.  

Weizenbaum hat dieser Effekt sehr nachhaltig beschäftigt, und er widmete sich der Aufgabe, vor allzu großer Leichtgläubigkeit gegenüber Computer zu warnen. Betrachtet man den Siegeszug der Computer, haben seine Warnungen offensichtlich kaum auf die Entwicklung im Computerbereich gewirkt. 

 

Der Ansatz des kognitiven Modellierens verfolgt die Idee, Systeme zu konstruieren, die wie Menschen denken. Dieser Versuch steht vor einer schwierigen Frage: Wie denken Menschen? Das diesbezügliche Wissen aus Introspektion und psychologischen Experimenten ist eher gering. In der KI wird u.a. versucht, allgemeine Problemlösemethoden zu finden, die unabhängig von dem jeweiligen Realitätsbereich sind (‚domain independent’). Die Arbeitsgruppen um Allen Newell und Herbert Simon haben diesen Ansatz begonnen und bis heute weitergeführt (vergl. auch Newell, 1973b). 

Newell & Simon (1963, auch Ernst & Newell 1969), stellten den Allgemeinen Problemlöser vor (General Problem Solver, GPS). Die Idee bei diesem System ist, Probleme als allgemeine Transformationen mittels einer bestimmten Menge von Regeln zwischen Zuständen zu konzeptualisieren. Sogar die Weiterentwicklung von GPS selbst wurde als ein in dieser Form darstellbares Problem thematisiert. GPS war, gemessen an dem Ziel eines Allgemeinen Problemlösers, kein Erfolg, da sich die unterschiedlichen Probleme der realen Welt nicht in einfacher Transformation formaler Ausdrücke abbilden lassen. Trotzdem war der GPS das erste System, welches in der Tat die allgemeine Problemstruktur aus Zielen, Zwischenzielen und Transformationen von dem konkreten Realitätsbereich trennte.  

Der GPS hat sehr nachhaltig die KI und die Kognitive Psychologie beeinflusst mit den zentralen Konzepten und Ideen, die Newell und Simon verwendeten. Diese sind:  

• die Implementierung einer psychologischen Theorie als Computersimulationsprogramm, 
• die Verwendung von Produktionen (wenn-dann-Regeln) zur Spezifikation kognitiver Modelle und  
• die Konzeptualisierung psychischer Prozesse als Informationsverarbeitungsprozesse, die Verhalten als Funktion von Gedächtnis- und Kontrollprozessen beschreiben. 
• Auch die Methode zur Überprüfung war innovativ, nämlich der Vergleich des Verhaltens der Computersimulation psychischer Prozesse mit menschlichem Verhalten bei der gleichen Aufgabe. 

 

Mit dem GPS wurde versucht, eine basale Menge von Prozessen zu definieren, die bei möglichst vielen, unterschiedlichen Problemen zum Einsatz kommen können. Eine der Schwierigkeiten dabei ist die Definition des Problemraums (‚problem space’, s. auch Klix, 1971), der durch das zu erreichende Ziel und die möglichen Transformationen festgelegt ist. Zum Durchschreiten dieses Problemraums verwendete GPS die Mittel-Ziel-Analyse (‚means-end-analysis’). Bei der Mittel-Ziel-Analyse wird das Endziel, wenn es nicht direkt erreicht werden kann, in Zwischenziele zerlegt, die dann nacheinander gelöst werden. Dabei werden einige basale Lösungsregeln verwendet, z.B. ‚wandle ein Objekt in ein anderes um‘; ‚reduziere die Unterschiede zwischen zwei Objekten‘; ‚wende einen Operator auf ein Objekt an‘. Eines der zentralen Elemente des GPS ist eine Operatortabelle, die angibt, welche Operatoren in der gegebenen Situation mit welchem Ergebnis möglich sind. 

Obwohl der GPS als Allgemeiner Problemlöser gedacht war, läßt er sich im Grunde nur auf wohldefinierte Probleme, wie Logik- oder Geometrieaufgaben oder Schach anwenden. 

Newell hat die Idee allerdings nie aufgegeben. Auch der Nachfolger des GPS, Soar (Laird, Newell & Rosenbloom, 1987), versucht, ein Allgemeiner Problemlöser zu sein, allerdings mit einer elaborierten Darstellung von Situationen und Zuständen. 

Der wichtigste Beitrag der KI-Forschung zur Theorienbildung für psychologische Phänomene ist die Konzeptualisierung psychischer Prozesse als Informationsverarbeitungsprozesse und die Möglichkeit der Implementierung psychologischer Theorien als Computersimulationsprogramme. 

Psychologische Aspekte komplexer sozio-technischer Systeme

Vernünftigerweise vorhersehbare Handlungs- und Entscheidungsfehler müssen im Systemdesign und in den Anwendungsbedingungen des Systems berücksichtigt werden.

Komplexe sozio-technische Systeme weisen eine Reihe von Merkmalen auf, die Menschen besondere Schwierigkeiten beim Führen, Steuern und Kontrollieren komplexer Maschinen, wie z.B. Fahrzeugen, Flugzeugen oder Kraftwerken, bereiten. Dies kann direkt und indirekt zu Denk- und Entscheidungsfehlern führen. Ein sozio-technisches System besteht aus Menschen und verknüpften Technologien, welche in einer bestimmten Weise strukturiert sind, um ein spezifisches Ergebnis zu produzieren. Die Merkmale, die Menschen bei der Systembedienung besondere Fehler bereiten und in der Fehlerforschung immer wieder genannt werden, sind Komplexität, Vernetztheit, Dynamik, Intransparenz, Polytelie und Neuartigkeit.

Wenn im Folgenden von sozio-technischen Systemen gesprochen wird, sind z.B. die Cockpits von Flugzeugen gemeint, die Leitwarten von Kraftwerken oder Fabriken, aber auch Autos, Lastwagen, Lokomotiven und militärische Fahrzeuge. Es sind alle Situationen gemeint, wo Menschen Maschinen steuern, bedienen, lenken oder sonst wie kontrollieren.

Komplexität: Es gibt eine große Anzahl von Parametern bei der Steuerung moderner technischer Systeme, die alle wichtig sind und beachtet werden müssen. Da das in begrenzter Zeit nicht möglich ist, müssen Operateure, Piloten, Systembediener Schwerpunkte bilden. Mögliche Denk- und Entscheidungsfehler resultieren aus dem inadäquaten Umgang mit der Schwerpunktbildung (entweder zu rigide an einem Schwerpunkt festhalten oder keinen Schwerpunkt bilden).

Vernetztheit: Die Parameter des Systems sind mit anderen Systemparametern und Variablen der Systemumgebung vielfältig verbunden. Vieles beeinflusst sich wechselseitig. Der Gewichtstrimm eines Flugzeuges, die Geschwindigkeit, Wetterbedingungen, der Kurs beeinflussen sich. In einem vernetzten System kann kaum nur eine Sache gemacht werden. Wird ein Parameter verändert, dann verändern sich andere Faktoren sichtbar und oft unsichtbar mit. Wenn bei einem Fahrzeug zu viel Gewicht zugeladen wird, dann verändert sich als Nebenwirkung das Brems- und Kurvenverhalten, was man aber erst merkt, wenn man bremsen muss.

Daraus ergibt sich die Notwendigkeit, beim Entscheiden Neben- und Fernwirkungen  (was passiert neben der Hauptwirkung zusätzlich oder was passiert später) zu beachten. Mögliche Denk- und Handlungsfehler resultieren vor allem aus dem Nichtbeachten von Neben- und Fernwirkungen und dem ausschließlichen Berücksichtigen der Hauptwirkung.

Dynamik: Alle sozio-technischen Systeme sind eigendynamische Systeme, d.h. ein Teil der Systemparameter verändert sich auch ohne direkten Eingriff des Systembedieners, Piloten, Users. Die Dynamik ergibt sich oft aus der Vernetztheit der Parameter, z.B. wenn diese aus positiven und negativen Rückkopplungen bestehen. Aus der Eigendynamik entsteht häufig Zeitdruck und die Notwendigkeit der Prognose der Zukunft: Wie sich die Parameter des Systems, wie sich das Verhalten des Fahrzeuges, wie sich die Eigenschaften des Flugzeuges verändern werden. Mögliche Denk- und Handlungsfehler resultieren aus keinen oder falschen Prognosen. So werden typischerweise exponentielle Entwicklungen nur linear extrapoliert und es wird unzureichend - zu schwach oder zu heftig - gehandelt.

Intransparenz: Die meisten komplexen sozio-technischen Systeme sind für den Nutzer nicht vollständig durchschaubar. Es gibt oft Systemparameter, die eigentlich beachtet werden müssten, die aber nicht zugänglich sind, weil sie nicht messbar sind, weil sie nur durch den Systemadministrator erfasst werden, oder auch weil der Nutzer gar nicht weiß, dass es diesen Parameter überhaupt gibt. Eine Reihe von Unfällen in der Luftfahrt in den letzten Jahren beruht darauf, dass die Flugzeuge Eigenschaften und Parameter hatten (bzw. im Rahmen von Weiterentwicklungen neu hatten), die den Piloten nicht bekannt waren.

Der Systemnutzer muss (oder sollte) ein mentales Modell des Systems haben, um geeignete Indikatoren zu finden, wenn wichtige Systemfunktionen oder komplexes Systemverhalten nicht direkt erfasst werden können. Mögliche Denk- und Handlungsfehler resultieren aus der Verwendung falscher Indikatoren, oder zu stark simplifizierter Modelle des jeweiligen Systems.

Polytelie: Bei der Steuerung eines technischen Systems, sei es ein Flugzeug, ein Fahrzeug, ein Kraftwerk, ist das Handeln notwendigerweise auf mehr als ein Ziel hin ausgerichtet. Es soll beispielsweise ein bestimmtes Reiseziel, möglichst schnell, sicher und kosteneffizient erreicht werden. Dabei soll die Umweltbelastung und der Energieverbrauch gering sein und der Komfort für die Passagiere hoch. Viele dieser Ziele sind nicht miteinander verträglich, d.h. sie widersprechen sich (z.B. Schnelligkeit und Energieverbrauch). Daraus leitet sich die Notwendigkeit ab, dass durch den Operateur, Nutzer, Pilot Ziele balanciert und hierarchisiert werden. Manche Ziele in komplexen sozio-technischen Systemen können nur vage formuliert werden, z.B. als Komparative; etwas soll besser, schneller, günstiger werden. Wie das zu erreichende Ziel konkret aussehen soll, ist möglicherweise unklar. Unklare Ziele erschweren das Handeln für den Nutzer, da sich aus ihnen kaum ergibt, welche Maßnahmen konkret zu ergreifen sind. Mögliche Denk- und Handlungsfehler resultieren u.a. daraus, dass Ziele nicht konkretisiert werden, und damit Zielwidersprüche und -inkompatibilitäten nicht erkannt werden.

Neuartigkeit: Manche Aspekte in komplexen sozio-technischen Systemen sind, zumindest zum Teil, neuartig, sei es neue Hardware, die verbaut wurde, sei es Software, die ein Update erfahren hat, seien es veränderte Prozesse und Prozeduren oder neuartige Umweltfaktoren.

Der Systembediener kann nicht alle neuartigen Strukturen und Parameter kennen bzw. antizipieren. Aus der - potenziellen - Neuartigkeit von Teilen des Systems ergibt sich die Anforderung zur Analyse des Systems, zur Hypothesenbildung und zur Exploration. Mögliche Problemlösefehler resultieren aus dem Nichterkennen der Neuartigkeit und aus einer reduzierten oder falschen Hypothesenbildung über Systemfunktionen oder Zusammenhänge.

Die Forderungen, die sich aus diesen Erkenntnissen ableiten, sind im Grunde trivial: Überall wo Menschen Maschinen bedienen, bei jedem sozio-technischen System, muss das System so konstruiert und betrieben werden, dass die menschlichen Stärken und Schwächen beim Umgang mit Komplexität, Vernetztheit, Dynamik, Intransparenz, Polytelie und Neuartigkeit angemessen einkalkuliert werden. Vernünftigerweise vorhersehbare Handlungs- und Entscheidungsfehler müssen im Systemdesign und in den Anwendungsbedingungen des Systems berücksichtigt werden.