17.02.2026 | Pressemitteilung

KI als Fachkollege: Vertrauen entsteht im Zusammenspiel von Mensch und Maschine

Vertrauen in Künstliche Intelligenz (KI) entsteht nicht immer durch smarte Algorithmen, sondern entwickelt sich schrittweise, wenn die Systeme in soziale Interaktionen eingebettet werden. Das zeigt eine gemeinsame Studie des Wirtschaftswissenschaftlers Prof. Dr. André Hanelt, Leiter des Fachgebiets Management der Digitalen Transformation der Universität Kassel, und Forschenden der Technischen Universitäten Darmstadt und Dortmund sowie der Goethe-Universität Frankfurt. Untersucht wurde das Vertrauen von Finanzberaterinnen und Finanzberatern in sogenannte Robo Advisors, also KI-Systeme, die mit Anlegerinnen und Anlegern interagieren und automatisiert Portfolios verwalten.

Bild: Privat
Prof. Dr. André Hanelt, Leiter des Fachgebiets Management der Digitalen Transformation der Universität Kassel.

Im Zentrum der Forschung steht die bislang wenig untersuchte Dreiecks-Konstellation zwischen KI-Systemen, menschlichen Fachexpertinnen und -experten und deren Kunden. „Wir wissen bereits einiges über die Faktoren, die das Vertrauen direkter KI-Nutzerinnen und -Nutzer beeinflussen. Wir wissen aber sehr wenig darüber, wie menschliche Expertinnen und Experten, wie z.B. Ärztinnen und Ärzte oder Anwältinnen und Anwälte, Vertrauen gegenüber KI in ihrem Tätigkeitsbereich entwickeln, wenn sie solche Technologien nicht selbst nutzen, sondern ihren Klienten empfehlen“, so Hanelt. Im Rahmen der Untersuchung fanden die Forschenden heraus, dass die menschlichen Expertinnen und Experten die KI-Systeme insbesondere dahingehend bewerten, inwieweit sie die Beziehungen zu ihren Klientinnen und Klienten zu beeinflussen scheinen. „In Kontexten, in denen es für Menschen um viel geht, wie etwa im Bereich Geld oder Gesundheit, kommt es weniger auf die technische Ausgestaltung oder die Fähigkeiten von KI-Systemen an, sondern darauf, inwieweit sie in soziale Interaktionen eingebettet sind und sich in solche einbetten lassen“, erklärt Hanelt. „Wenn dies gegeben ist, kann Vertrauen schrittweise aufgebaut werden.“ Die Fallstudie basiert auf einer mehr als fünfjährigen Untersuchung und umfasst 89 Interviews sowie umfangreiches Sekundärmaterial und Beobachtungen bei einer großen traditionellen Bank, die einen Robo-Advisor entwickelt und neben ihren menschlichen Finanzberaterinnen und Finanzberatern eingeführt hat.

In der Studie haben die Expertinnen und Experten die KI zunächst sehr skeptisch beurteilt und von ihren Klientinnen und Klienten ferngehalten. Durch die Schaffung von abgesicherten Kontexten, die intensive und persönliche Begleitung durch menschliche KI-Beratende vor und während dem Klienten-Kontakt sowie eigenständiges Testen der KI-Systeme durch die Expertinnen und Experten erlaubten, entstand über die Zeit ein hohes Maß an Vertrauen, welches sich schließlich in einer Art Arbeitsteilung zwischen menschlichen Expertinnen bzw. Experten und den KI-Systemen zeigte. Somit bleiben Expertinnen und Experten für ihre Kunden und ihre Heimatunternehmen weiterhin sehr relevant.

Laut den Autoren der Studie fällt der Dreiecks-Konstellation, bestehend aus der KI, menschlichen Expertinnen bzw. Experten sowie deren Klientinnen und Klienten, eine wichtige Rolle bei der weiteren Verbreitung von KI zu. So seien es künftig in immer weiteren professionellen Bereichen wie Medizin, Recht oder Finanzen menschliche Expertinnen und Experten in eben solchen Konstellationen, die Umfang, Art und Nutzung von KI durch andere Menschen, für die sie eine professionelle Verantwortung haben, beeinflussen und damit die Diffusion entsprechender Systeme mitprägen. Die Studie liefert damit wichtige Einsichten für die wirksame Integration von KI in Kontexte, die bislang und auch zukünftig stark von der persönlichen Interaktion zwischen Expertinnen bzw. Experten und ihren Klientinnen und Klienten geprägt sind. 

Die Studie wurde im Journal Management Information Systems Quarterly (MISQ) zur Veröffentlichung akzeptiert: https://misq.umn.edu/misq/article-abstract/doi/10.25300/MISQ/2025/18041/3622/Opening-The-Network-of-Trust-How-Domain-Experts-in?redirectedFrom=fulltext 

 

Was heißt das zusammengefasst? 

  • Menschliche Expertinnen und Experten mit professioneller Verantwortung für Andere (z.B. in der Finanzberatung) bewerten KI-Systeme insbesondere dahingehend, wie stark sie die Beziehungen zu ihren Klientinnen und Klienten zu beeinflussen scheinen.
  • Entscheidend ist weniger die technische Ausgestaltung oder Leistungsfähigkeit von KI-Systemen als vielmehr, wie gut sie in soziale Interaktionen eingebettet sind und sich dort integrieren lassen. So kann Vertrauen schrittweise entstehen.
  • Abgesicherte Rahmenbedingungen, die enge Begleitung durch menschliche KI-Beratende und das eigenständige Testen der Systeme führen mit der Zeit zu einem hohen Maß an Vertrauen und zu einer Art Arbeitsteilung zwischen Expertinnen bzw. Experten und KI-Systemen.
  • Dadurch bleiben Expertinnen und Experten für ihre Kunden und ihre Heimatunternehmen weiterhin sehr relevant.