The implications of conversing with intelligent machines in everyday life for people´s beliefs about algorithms, their communication behavior and their relationship building

Kommunikation mit Maschinen nimmt sowohl an Qualität als auch an Quantität stetig zu. Dies bleibt nicht ohne Auswirkungen auf die menschliche Kommunikationskultur, die mentalen Modelle der Nutzer und das Knüpfen von Beziehungen. Das von der Volkswagenstiftung geförderte Projekt „The implications of conversing with intelligent machines in everyday life for people´s beliefs about algorithms, their communication behavior and their relationship building“ untersucht vor diesem Hintergrund, wie Sprachassistenten weiterentwickelt, in ihrer Wirkung empirisch überprüft und ethisch und rechtlich bewertet werden können. Gemeinsam werden Gestaltungsvorschläge entwickelt, um Vorteile der Technologie zu stärken und ihre Risiken zu minimieren. Das Projekt ist Teil der Förderinitiative „Künstliche Intelligenz – Ihre Auswirkungen auf die Gesellschaft von morgen“ der VolkswagenStiftung.

Projektpartner sind neben der der Projektgruppe verfassungsverträgliche Technikgestaltung an der Universität Kassel Sozialpsychologen der Universität Duisburg-Essen (Konsortialführer), Ethiker der Evangelischen Hochschule Nürnberg und Informatiker der Universität Bielefeld. Die Forschungsfragen adressieren die Themen Transparenz, Kommunikation, und Beziehungsbildung. Das Projekt nimmt dabei eine Lebensspannen-Perspektive ein, die verletzliche Gruppen wie Kinder und Senioren miteinbezieht. Das Projekt startete zum 1.4.2019 und wird eine Laufzeit von vier Jahren haben.

Um die aufgeworfenen Forschungsfragen zu beantworten, werden drei Szenarien bearbeitet. Diese adressieren unterschiedliche Applikationen, Nutzergruppen und die drei Ebenen von Transparenz, Kommunikation und Beziehung. In allen Szenarien kommt maschinelles Lernen zum Einsatz, um die Interaktion zwischen Mensch und Maschine zu optimieren. Das erste Szenario adressiert Kinder in der Interaktion mit sprechenden Geräten und somit die verletzlichste Gruppe. Hinsichtlich der technischen Entwicklungen wird gefragt, wie ein KI-System transparent und selbsterklärend für Kinder gestaltet werden kann. Der Fokus der im Szenario durchzuführenden empirischen Studien (drei Studien mit 160 Kindern im Alter von 7-10 Jahren) und der ethischen Analysen liegt auf der Beziehungsbildung. In Labor- und Feldstudien interagieren die Kinder mit einem erweiterten handelsüblichen Sprachassistenten zur Auswahl von Musik und Hörspielen. Die juristischen Analysen widmen sich der Frage, wie die besonders verletzliche Gruppe Minderjähriger informierte Zustimmung geben sowie das System selbstbestimmt nutzen kann.

Das zweite Szenario analysiert die Interaktion von Erwachsenen mit einer Gesundheitsapp, die über eine konversationale Schnittstelle gesundheitsbezogene Vorschläge macht. Die technischen Arbeiten adressieren, wie maschinelles Lernen für Empfehlungen genutzt werden kann, indem die Algorithmen erklärbar und transparenter gemacht werden (für Forschende und Nutzende). Empirische Forschung (drei Studien mit 150 Erwachsenen) fokussiert vor allem die mentalen Modelle, die Nutzende vom System ausbilden – in Abhängigkeit von deren Transparenz. Die ethischen Analysen reflektieren, welches mentale Modell über das System angemessen ist, während aus rechtswissenschaftlicher Sicht Fragen Art und Weise der Informationsgabe, des selbstbestimmten Handeln und der Einwilligung im Vordergrund stehen.

Im dritten Szenario werden Senioren im Kontext von Ambient Assisted Living betrachtet. Hier steht die Kommunikation mit einem virtuellen Agenten im Vordergrund, der mit der Planung der täglichen Termine hilft. Technische Arbeiten konzentrieren sich auf die Kombination von Machine Learning (Reinforcement Learning) mit klassischen Methoden der Dialogmodellierung. Empirisch werden zwei Studien (mit 55 Senioren über 60 Jahren) durchgeführt, die aufzeigen sollen, inwiefern die Senioren sich sprachlich an das System anpassen. Zudem wird auch hier thematisiert, welche Arten von Beziehungen gebildet werden. Ethische und juristische Analysen fokussieren die Problematik artifizieller Systeme in Pflegebereichen.

Zusätzlich wird eine Langzeitbefragung durchgeführt, an der 100 Familien über drei Jahre teilnehmen, die Sprachassistenten im häuslichen Umfeld nutzen. Die teilnehmenden Familien werden zweimal im Jahr zu Nutzungsmustern, Evaluation, mentalen Modellen, emotionalen Reaktionen und Beziehungsbildung befragt.
Das Projekt wird ferner durch einen Citizen Science-Ansatz ergänzt. Durch die hohe gesellschaftliche Bedeutung der Thematik soll die Öffentlichkeit nicht nur als Teilnehmende an den empirischen Studien beteiligt werden, sondern als aktive Laienwissenschaftler, die im Rahmen von Workshops und weiteren Studien relevante Fragen stellen und Antworten geben können.

Universität Duisburg-Essen, Sozialpsychologie - Medien und Kommunikation:
Prof. Dr. Nicole Krämer (Koordination)

Universität Bielefeld, Sociable Agents Group und Machine Learning Group:
Prof. Dr.-Ing. Stefan Kopp und Prof. Dr. Barbara Hammer

Evangelische Hochschule Nürnberg:
Prof. Dr. Arne Manzeschke

Förderung:
VolkswagenStiftung

Laufzeit:
April 2019 – März 2023

Projektverantwortlicher:
Prof. Dr. Alexander Roßnagel

Ansprechpartnerin:
Dr. Christian Geminn

Homepage:
www.impact-projekt.de