Veröffentlichung neuer Forschungsergebnisse zu Vertrauen in KI-basierten Coaching-Systemen in der Fachzeitschrift Behaviour & Information Technology.

Die Forschungsarbeit „Do human trust models transfer to AI? A necessary condition analysis of interpersonal trust antecedents in large language model-based coaching“ von Sophia Meywirth, Andreas Janson und Matthias Söllner wurde in der renommierten Fachzeitschrift Behaviour & Information Technology veröffentlicht. Die Zeitschrift zählt mit einem CiteScore von 5,9 zu den führenden internationalen Publikationsorganen im Bereich menschenzentrierter Informationssysteme, User Experience und den gesellschaftlichen Auswirkungen digitaler Technologien und ist im Q1-Ranking wissenschaftlicher Fachzeitschriften gelistet.

Mit der zunehmenden Verbreitung anthropomorph gestalteter, auf Large Language Models (LLMs) basierender Coaching-Systeme für gesundheitsbezogene Verhaltensänderungen gewinnt die Frage an Bedeutung, ob die Vertrauensmechanismen zwischen Menschen auch auf KI-Systeme übertragbar sind. Die Studie untersucht daher, ob und in welchem Ausmaß die aus der zwischenmenschlichen Vertrauensforschung bekannten Faktoren Fähigkeit (Ability), Wohlwollen (Benevolence) und Integrität (Integrity) das Vertrauen sowie die Nutzungsabsicht gegenüber LLM-basierten Fitness- und Ernährungscoachings beeinflussen.

Die Ergebnisse der Necessary Condition Analysis zeigen, dass die wahrgenommene Integrität des Systems eine zentrale Voraussetzung sowohl für die wahrgenommene Nützlichkeit als auch für die Nutzungsabsicht von LLM-basierten Coaching-Systemen darstellt. Darüber hinaus beeinflusst die wahrgenommene Fähigkeit des Systems die Einschätzung seiner Nützlichkeit signifikant. Entgegen etablierter Modelle des zwischenmenschlichen Vertrauens konnte jedoch kein notwendiger oder signifikanter Einfluss von Wohlwollen festgestellt werden. Die Ergebnisse stellen damit bestehende Annahmen der Vertrauensforschung teilweise infrage und verdeutlichen, dass sich nicht alle Mechanismen zwischenmenschlichen Vertrauens unmittelbar auf KI-Systeme übertragen lassen.
Die Studie liefert wichtige Implikationen für die Gestaltung vertrauenswürdiger anthropomorpher KI-Systeme. Sie zeigt, wie menschliche Vertrauensmechanismen gezielt genutzt werden können, ohne die Besonderheiten der Mensch-KI-Interaktion aus dem Blick zu verlieren. Damit leistet die Forschungsarbeit einen wichtigen Beitrag zur Entwicklung effektiver und vertrauenswürdiger KI-basierter Coaching- und Assistenzsysteme.

Die Veröffentlichung unterstreicht die internationale Sichtbarkeit der Forschung des WISE-Teams an der Schnittstelle von Künstlicher Intelligenz, Human-Computer Interaction, Nutzerverhalten und Design digitaler Systeme.