Eine Studie von Prof. Dr. André Hanelt, die er gemeinsam mit Forschern der Technischen Universitäten Darmstadt und Dortmund sowie der Goethe Universität Frankfurt erstellt hat, wurde im weltweit renommierten Journal Management Information Systems Quarterly (MISQ) akzeptiert. Bei MISQ handelt es sich um das im Bereich Wirtschaftsinformatik am besten bewertete Journal gemäß Ranking des Verbandes der Hochschullehrinnen und Hochschullehrer für Betriebswirtschaftslehre.
Gegenstand der Studie (Titel „Opening The Network of Trust: How Domain Experts in Triadic Relationships Build Trust in AI-Based Counterparts“) ist ein jahrelanges Forschungsprojekt zum Vertrauen in Künstliche Intelligenz (KI) im Kontext der persönlichen Finanzberatung. Die Studie untersucht dabei das Vertrauen von menschlichen Finanzberatern in so genannte Robo Advisors, also KI-Systeme die mit Anlegerinnen und Anlegern interagieren und automatisiert Portfolios verwalten.
Im Rahmen der Untersuchung fanden die Forscher heraus, dass die menschlichen Expertinnen und Experten die KI-Systeme insbesondere dahingehend bewerten, inwieweit sie die Beziehungen zu ihren Klienten zu beeinflussen scheinen. In der Studie haben die Expertinnen und Experten die KI zunächst sehr skeptisch beurteilt und von ihren Klienten ferngehalten. Durch die Schaffung von abgesicherten Kontexten, die intensive und persönliche Begleitung durch menschliche KI-Beratende vor und während dem Klienten-Kontakt sowie eigenständiges Testen der KI-Systeme durch die Expertinnen und Experten erlaubten, entstand über die Zeit ein hohes Maß an Vertrauen, welches sich schließlich in einer Art Arbeitsteilung zwischen menschlichen Expertinnen bzw. Experten und den KI-Systemen zeigte. Die Studie leistet damit wichtige Einsichten für die wirksame Integration von KI in Kontexte, die bislang und auch zukünftig stark von der persönlichen Interaktion zwischen Expertinnen bzw. Experten und ihren Klienten geprägt sind.