Mensch und Digitalisierung

Die Entwicklung und Einführung neuer Features künstlicher Intelligenz (KI) erfordern zunehmend eine gründliche Berücksichtigung möglicher menschlicher Miss- und Fehlbedienungen. Gemäß dem Prinzip der vernünftigerweise vorhersehbaren Miss- und Fehlbedienung („Reasonably Foreseeable Misuse“; ISO 12100:2010) sind Entwickler und Designer dazu verpflichtet, nicht nur die intendierte Nutzung ihrer Systeme zu berücksichtigen, sondern auch vorhersehbare fehlerhafte oder absichtliche Fehlbedienungen zu antizipieren (International Organization for Standardization, 2010). Dies gilt insbesondere für KI-Systeme, deren Verhalten komplex, adaptiv und teilweise intransparent für Nutzer sein kann (Mittelstadt et al., 2016). Psychologische Forschung zeigt deutlich, dass menschliches Verhalten oft durch Heuristiken, kognitive Verzerrungen und begrenzte kognitive Ressourcen geprägt ist, was zu unbeabsichtigten Fehlbedienungen oder sogar bewussten Manipulationen führt (Kahneman, 2011; Reason, 1990). Bei KI...

Abstract Die Anwendung Künstlicher Intelligenz (KI) in der Anlagen- und Prozesstechnik revolutioniert nicht nur die Steuerung und Überwachung technischer Systeme, sondern transformiert auch die Mensch-Technik-Interaktion (MTI) in sicherheitskritischen Kontexten. Dieser Beitrag untersucht die technischen, psychologischen und organisationalen Implikationen dieser Entwicklung und analysiert, wie KI zur Erhöhung der technischen Sicherheit beitragen kann. Gleichzeitig werden neue Herausforderungen für Vertrauen, Verantwortung und Resilienz in sozio-technischen Systemen diskutiert. Ziel ist eine interdisziplinäre Einordnung aktueller Entwicklungen und eine differenzierte Betrachtung der Chancen und Risiken im Kontext von Safety-Management und Human Factors. 1. Einleitung Mit dem Einzug KI-basierter Verfahren in die Anlagen- und Prozesstechnik entsteht ein neues technisches Paradigma: intelligente Systeme übernehmen nicht nur repetitive, sondern zunehmend auch diagnostische, prognostische u...

Die Einführung von „Agentic AI“ – also KI-Systemen, die über eigene Zielverfolgung, adaptive Entscheidungsfähigkeit und proaktive Handlungsweisen verfügen – eröffnet neue Dimensionen für die Gestaltung der Customer Experience (CX). Im Gegensatz zu traditionellen, reaktiven KI-Systemen, die primär auf vorgegebene Reiz-Reaktions-Muster angewiesen sind, agieren agentische KI-Modelle mit einem höheren Maß an Autonomie, was tiefgreifende Auswirkungen auf Wahrnehmung, Vertrauen, Bindung und letztlich das Kundenerlebnis hat. Aus psychologischer Perspektive lässt sich Agentic AI mit Konzepten wie Intentionalität, Theory of Mind und sozialer Attribution verknüpfen. Menschen neigen dazu, Systemen, die konsistent und zielgerichtet handeln, agency zuzuschreiben – also eine eigene Handlungsfähigkeit. In der Interaktion mit solchen Systemen verändert sich die kognitive und emotionale Bewertung: Nutzer erwarten nicht nur Funktionalität, sondern auch „Verständnis“ im Sinne sozialer Intelligenz. Das ...

Die Innovationspsychologie untersucht das Erleben und Verhalten von Individuen und Gruppen während des gesamten Innovationsprozesses. Sie verbindet Erkenntnisse aus der Allgemeinen Psychologie, Sozialpsychologie und Differentiellen Psychologie, um zu verstehen, wie neue Ideen entstehen, bewertet und umgesetzt werden. Dieser Artikel bietet einen Überblick über zentrale Theorien und empirische Befunde der Innovationspsychologie. Begriffsklärung: Innovation Innovation bezeichnet die Einführung neuer oder deutlich verbesserter Produkte, Dienstleistungen, Prozesse oder Geschäftsmodelle. Im Gegensatz zur bloßen Erfindung erfordert Innovation die erfolgreiche Umsetzung und Verbreitung einer Neuerung am Markt oder innerhalb einer Organisation. Der Innovationsprozess umfasst typischerweise die Phasen der Ideengenerierung, Bewertung, Implementierung und Diffusion. Theoretische Grundlagen der Innovationspsychologie 1. Kreativitätstheorien Kreativität bildet die Grundlage für die Generieru...