Das Paper „Effects of Explanations in Human-AI Interaction: A Systematic Review and Framework for Future Research on Explainable AI“ von Philipp Reinhard, Mahei Li, Christoph Peters und Jan Marco Leimeister ist in dem Journal “Information Systems Frontiers” erschienen.

Das Journal „Information Systems Frontiers“ konzentriert sich auf wissenschaftliche Beiträge, die sich mit der Schnittstelle zwischen Informationssystemen und Informationstechnologie aus analytischer, verhaltenswissenschaftlicher sowie technologischer Perspektive befassen.

Die Studie widmet sich der Frage, wie Erklärungen in der Interaktion zwischen Menschen und Künstlicher Intelligenz wirken und welche Konsequenzen sie für Wahrnehmung, Vertrauen und Nutzung von KI-Systemen haben. Insbesondere durch aktuelle Entwicklungen im Bereich generativer KI und agentischer KI gewinnen Transparenz und Nachvollziehbarkeit zunehmend an Bedeutung. Gleichzeitig fehlt es bislang an einem konsistenten Verständnis darüber, wie Erklärungen tatsächlich auf Nutzerinnen und Nutzer wirken und welche realen Folgen daraus entstehen.

Um diese Forschungslücke zu adressieren, führten die Forschenden ein systematisches Literaturreview von 107 experimentellen Nutzerstudien im Bereich Explainable AI (XAI) durch. Ziel war es, bestehende Erkenntnisse zur Mensch-KI-Interaktion zu strukturieren und die Wirkungszusammenhänge von Erklärungen systematisch aufzuarbeiten.

Auf Basis des Stimulus-Organism-Response-Consequences-(S-O-R-C)-Modells entwickelten die Autorinnen und Autoren ein konzeptionelles Rahmenwerk, das beschreibt, wie unterschiedliche Formen von Erklärungen Nutzerwahrnehmungen beeinflussen und welche Verhaltensweisen sowie nachgelagerten Effekte daraus resultieren. Die Studie zeigt dabei, dass Forschung zu XAI bislang häufig fragmentiert ist und zentrale Wirkmechanismen nur unzureichend integriert betrachtet werden.

Darüber hinaus identifiziert die Arbeit fünf zentrale Forschungsrichtungen für zukünftige Untersuchungen. Diese adressieren insbesondere die Herausforderungen neuer KI-Systeme wie Large Language Models und KI-Agenten sowie die zunehmende Delegation von Entscheidungen und Aufgaben an KI-Systeme.

Mit ihrem Framework leisten die Forschenden einen wichtigen Beitrag zur Weiterentwicklung der Explainable-AI-Forschung und schaffen eine Grundlage, um menschzentrierte und transparente KI-Systeme künftig gezielter zu gestalten.

Der vollständige Artikel ist unter folgendem Link zugänglich: https://link.springer.com/article/10.1007/s10796-026-10716-4

Reinhard, P., Li, M.M., Peters, C. & Leimeister, J. M. (2026). Effects of Explanations in Human-AI Interaction: A Systematic Review and Framework for Future Research on Explainable AI. Inf Syst Front. doi.org/10.1007/s10796-026-10716-4