Posts

Vernünftigerweise vorhersehbare Miss- und Fehlbedienung von neuen KI-Features

Bild
Die Entwicklung und Einführung neuer Features künstlicher Intelligenz (KI) erfordern zunehmend eine gründliche Berücksichtigung möglicher menschlicher Miss- und Fehlbedienungen. Gemäß dem Prinzip der vernünftigerweise vorhersehbaren Miss- und Fehlbedienung („Reasonably Foreseeable Misuse“; ISO 12100:2010) sind Entwickler und Designer dazu verpflichtet, nicht nur die intendierte Nutzung ihrer Systeme zu berücksichtigen, sondern auch vorhersehbare fehlerhafte oder absichtliche Fehlbedienungen zu antizipieren (International Organization for Standardization, 2010). Dies gilt insbesondere für KI-Systeme, deren Verhalten komplex, adaptiv und teilweise intransparent für Nutzer sein kann (Mittelstadt et al., 2016). Psychologische Forschung zeigt deutlich, dass menschliches Verhalten oft durch Heuristiken, kognitive Verzerrungen und begrenzte kognitive Ressourcen geprägt ist, was zu unbeabsichtigten Fehlbedienungen oder sogar bewussten Manipulationen führt (Kahneman, 2011; Reason, 1990). Bei KI...
Mehr »

Künstliche Intelligenz in der Anlagen- und Prozesstechnik: Auswirkungen auf Sicherheitstechnik und Mensch-Technik-Interaktion

Bild
Abstract Die Anwendung Künstlicher Intelligenz (KI) in der Anlagen- und Prozesstechnik revolutioniert nicht nur die Steuerung und Überwachung technischer Systeme, sondern transformiert auch die Mensch-Technik-Interaktion (MTI) in sicherheitskritischen Kontexten. Dieser Beitrag untersucht die technischen, psychologischen und organisationalen Implikationen dieser Entwicklung und analysiert, wie KI zur Erhöhung der technischen Sicherheit beitragen kann. Gleichzeitig werden neue Herausforderungen für Vertrauen, Verantwortung und Resilienz in sozio-technischen Systemen diskutiert. Ziel ist eine interdisziplinäre Einordnung aktueller Entwicklungen und eine differenzierte Betrachtung der Chancen und Risiken im Kontext von Safety-Management und Human Factors. 1. Einleitung Mit dem Einzug KI-basierter Verfahren in die Anlagen- und Prozesstechnik entsteht ein neues technisches Paradigma: intelligente Systeme übernehmen nicht nur repetitive, sondern zunehmend auch diagnostische, prognostische u...
Mehr »

Agentic AI und die Zukunft der Customer Experience: Eine psychologisch-technologische Betrachtung

Bild
Die Einführung von „Agentic AI“ – also KI-Systemen, die über eigene Zielverfolgung, adaptive Entscheidungsfähigkeit und proaktive Handlungsweisen verfügen – eröffnet neue Dimensionen für die Gestaltung der Customer Experience (CX). Im Gegensatz zu traditionellen, reaktiven KI-Systemen, die primär auf vorgegebene Reiz-Reaktions-Muster angewiesen sind, agieren agentische KI-Modelle mit einem höheren Maß an Autonomie, was tiefgreifende Auswirkungen auf Wahrnehmung, Vertrauen, Bindung und letztlich das Kundenerlebnis hat. Aus psychologischer Perspektive lässt sich Agentic AI mit Konzepten wie Intentionalität, Theory of Mind und sozialer Attribution verknüpfen. Menschen neigen dazu, Systemen, die konsistent und zielgerichtet handeln, agency zuzuschreiben – also eine eigene Handlungsfähigkeit. In der Interaktion mit solchen Systemen verändert sich die kognitive und emotionale Bewertung: Nutzer erwarten nicht nur Funktionalität, sondern auch „Verständnis“ im Sinne sozialer Intelligenz. Das ...
Mehr »

Innovationspsychologie

Die Innovationspsychologie untersucht das Erleben und Verhalten von Individuen und Gruppen während des gesamten Innovationsprozesses. Sie verbindet Erkenntnisse aus der Allgemeinen Psychologie, Sozialpsychologie und Differentiellen Psychologie, um zu verstehen, wie neue Ideen entstehen, bewertet und umgesetzt werden. Dieser Artikel bietet einen Überblick über zentrale Theorien und empirische Befunde der Innovationspsychologie. Begriffsklärung: Innovation Innovation bezeichnet die Einführung neuer oder deutlich verbesserter Produkte, Dienstleistungen, Prozesse oder Geschäftsmodelle. Im Gegensatz zur bloßen Erfindung erfordert Innovation die erfolgreiche Umsetzung und Verbreitung einer Neuerung am Markt oder innerhalb einer Organisation. Der Innovationsprozess umfasst typischerweise die Phasen der Ideengenerierung, Bewertung, Implementierung und Diffusion. Theoretische Grundlagen der Innovationspsychologie 1. Kreativitätstheorien Kreativität bildet die Grundlage für die Generieru...
Mehr »

KI und Interaktion zum Menschen

Bild
Als Psychologe beschäftige ich mich täglich mit der Interaktion zwischen Mensch und Technik. Und ehrlich gesagt – die Begegnungen zwischen Mensch und Künstlicher Intelligenz sind oft ein wenig wie ein erstes Date. Anfangs herrscht große Begeisterung, schnell gefolgt von Ernüchterung und gelegentlichen Missverständnissen. Was dabei herauskommt, ist meistens eine Mischung aus Faszination, Frustration und Humor.   Lassen Sie uns gemeinsam einen psychologischen Blick auf diese ungewöhnliche Beziehung werfen.   Es heißt oft: „Technik (und damit auch KI) macht keine Fehler.“ Doch genau hier liegt ein grundlegendes Missverständnis. KI macht durchaus Fehler – sogar ziemlich spektakuläre. Wenn ich Siri frage, ob ich heute einen Regenschirm brauche, und sie antwortet: „Das Wetter in Sydney ist sonnig bei 28 Grad“, dann klingt das zwar beneidenswert, hilft mir aber in Bamberg nur begrenzt. Überraschenderweise liegt die Ursache solcher Fehler selten in der KI selbst, sondern darin, wie wi...
Mehr »

Gehirnoptimiertes Arbeiten: Ein integrativer Ansatz aus Psychologie und Physiologie

Die zunehmende kognitive Belastung moderner Arbeitswelten stellt hohe Anforderungen an unser Gehirn – insbesondere an Aufmerksamkeit, Entscheidungsfähigkeit, Kreativität und emotionale Regulation. Gehirnoptimiertes Arbeiten bezeichnet einen integrativen Ansatz, der sowohl psychologische als auch physiologische Bedingungen so gestaltet, dass geistige Leistungsfähigkeit erhalten, gefördert und regeneriert werden kann. Dabei geht es nicht um biohacking im Sinne technischer Selbstoptimierung, sondern um die Ausrichtung von Arbeitsbedingungen und -gewohnheiten an den neurobiologischen Grundlagen menschlichen Arbeitens. Psychologische Grundlagen Aus kognitionspsychologischer Sicht benötigt das Gehirn regelmäßig Erholungsphasen, um Leistung aufrechtzuerhalten. Besonders die exekutiven Funktionen – also die Fähigkeit zur Zielverfolgung, Impulskontrolle und Handlungsplanung – sind störanfällig gegenüber Dauerstress und Multitasking (Diamond, 2013). Zudem belegt die Theorie der „kognitiven Erm...
Mehr »

Keine Sicherheitspolitik ohne Psychologie!

Die sicherheitspolitische Politikberatung, wie sie Karl-Heinz Kamp im vorliegenden Arbeitspapier ( Kamp, 2025 ) beschreibt, steht exemplarisch für die Komplexität der Beziehungen zwischen politischen Entscheidungsträgern, wissenschaftlichen Experten und der breiten Öffentlichkeit. Obwohl Kamp die Herausforderungen, Defizite und notwendigen Verbesserungen überzeugend und nachvollziehbar skizziert, fehlt eine entscheidende Betrachtungsebene: die psychologische Dynamik, die alle Beteiligten maßgeblich prägt. Ohne ein tiefgehendes Verständnis dieser psychologischen Mechanismen kann eine erfolgreiche Sicherheitspolitik letztlich nicht gewährleistet werden – eine These, die sich zusammenfassend so zuspitzen lässt: Es gibt keine effektive Sicherheitspolitik ohne Psychologie. Zunächst zeigt das Arbeitspapier anschaulich, wie politische Entscheidungsprozesse vielfach nicht rein rational, sondern häufig von menschlichen Faktoren wie Wahrnehmungsverzerrungen, Gruppendynamiken und individuellen D...
Mehr »