Projektabschluss 2024

Kurzbeschreibung:

Das Projekt quantifiziert und evaluiert Konzentrationsphänomene in hochdimensionalen Daten, welche oftmals assoziiert werden mit dem Begriff „Dimension Curse“ oder auch „Fluch der Dimension“. So heißt das Zusammenspiel einer Vielzahl von Effekten, die auftreten, wenn maschinelle Lernverfahren auf hochdimensionale Daten angewendet werden, etwa bei Tumoren in der Medizin. Bisher kann dieses Phänomen noch nicht mit Algorithmen erkannt werden. Es ist daher offen, inwieweit es Ergebnisse wissenschaftlicher Anwendungen entscheidend beeinflusst hat.

Ziel des Projektes „Dimension Curse Detector“ ist es, den Einfluss des Konzentrationsphänomens offenzulegen. Dafür werden algorithmisch berechenbare Dimensionsfunktionen entwickelt und prototypisch implementiert. Der Dimensionsfluch ist in Data Science und Machine Learning ein Sammelbegriff für eine Vielzahl von Phänomenen, die von hochdimensionalen Daten ausgeprägt werden, insbesondere die Konzentration von Bewertungs- und Distanzfunktionen. Dieser Aspekt wird oft nur anekdotisch gefasst, was zu einer Vielzahl von empirisch abgeleiteten Empfehlungen führte, die jedoch mathematisch unfundiert als auch widersprüchlich sind. Um den wissenschaftlichen sowie ökonomischen Einsatz von Methoden der Künstlichen Intelligenz auch für zukünftige, erwartbar hochdimensionale, Daten sicherzustellen, ist das Erkennen sowie die Quantifizierung des Dimensionsfluchs notwendig. Nur so ist es möglich, im Sinne von Explainable AI die auf Basis dieser Daten getroffenen Entscheidungen transparent und damit einer bewussten Reflexion und diskursiven Argumentation zugänglich zu machen. Der Dimension Curse Detector soll in diesem Sinn ein Werkzeug für die Gestaltung gesellschaftlich wünschenswerter IT-Anwendungen werden.

Unternehmen, die digitale Produkte oder Dienstleistungen vermarkten, stehen oft vor dem Dilemma, dass ihr Interesse und ihr Bedarf an Kundendaten dem Wunsch der Kundinnen und Kunden nach Privatheit entgegensteht. Für Verbraucherinnen und Verbraucher bedeutet es einen Eingriff in ihre Selbstbestimmungsrechte, wenn sie zu viele Daten preisgeben müssen oder durch digitale Überwachung in ihrem Verhalten unbemerkt gelenkt werden. Im Projekt FAIRDIENSTE wird dieser Strukturkonflikt zum Anlass genommen, verschiedene Wege der fairen Vermittlung von Werten im Zuge der Geschäftsmodellgestaltung mit soziologischen und  (wirtschafts-)informatischen Ansätzen auszuloten und in Beziehung zu setzen. Entwickelt und praxisnah getestet werden soll so eine multidimensionale Methodik der „Ko-Valuation“, d. h. der kooperativen Wertevermittlung, die Unternehmen dabei hilft, ihre wirtschaftlichen Geschäftsmodelle mit Gesichtspunkten datenökonomischer Fairness in Einklang zu bringen.

Projektpartner
Das Projekt ist eine Kooperation der Fachgebiete Soziologische Theorie (Prof. Dr. Jörn Lamla, Verbundkoordination), Partizipative IT-Gestaltung (Prof. Dr. Claude Draude) sowie Wissensverarbeitung (Prof. Dr. Gerd Stumme) an der Universität Kassel, dem Institut für Wirtschaftinformatik und Neue Medien an der Ludwig-Maximilians-Universität München (Prof. Dr. Thomas Hess), dem Unternehmen BurdaForward (Dr. Richard Weber, München) sowie dem Institut für Technik und Journalismus (Miriam Ruhenstroth, Berlin).

Kurzbeschreibung:

Die hochumstrittene Frage der Zuweisung von Daten(-rechten) hat Auswirkungen auf Zugangsoptionen und beeinflusst damit unsere Möglichkeiten, Daten möglichst effektiv und gemeinwohlverträglich zu nutzen. Die Projektgruppe hinterfragt daher traditionelle Vergabe- und Zugangsvorgaben. Sie untersucht zum einen konkrete Möglichkeiten, wie der Datenzugang so gestaltet werden kann, dass er akteursübergreifende Verantwortung widerspiegelt und einzelne Datenanbieter weder überfordert noch überschätzt. Zum anderen ist vor dem Hintergrund systematisch-philosophischer Konzeptionen von „Rechten“ zu fragen, inwieweit Datenzugänge ein sinnvolles Anwendungsfeld bilden, um traditionelle Subjektvorstellungen und darauf aufbauende Rechtsvorstellungen zu modifizieren.

Projektbeteiligte:
Sprecher: Prof. Dr. Steffen Augsberg, Justus-Liebig-Universität Gießen
stellvertretende Sprecherin: Prof. Dr. Anne Riechert, Frankfurt University of Applied Sciences

Technische Universität Darmstadt (Prof. Dr. Marcus Düwell, Prof. Dr. Petra Gehring)
Universität Kassel (Prof. Dr. Gerrit Hornung, LL.M.)
Gothe-Universität Frankfurt am Main (Prof. Dr. Doris Schweitzer)

Kurzbeschreibung:

Unsere Arbeitswelt ist bereits heute stark von algorithmischer Entscheidungsfindung („Algorithmic Decision-Making“, ADM) geprägt, z. B. in Mitarbeiter-Rekrutierungsprozessen, bei der Steuerung von Arbeitskräften im Arbeitsalltag oder in der Unterstützung von menschlichen Entscheidungsträgern bei komplexen Fragestellungen.

Neben den großen Potenzialen von ADM für Unternehmen und staatliche Organisationen bestehen enorme Herausforderungen darin, dass Entscheidungen zu Ungunsten von Arbeitskräften getroffen werden – in Form von Ungleichbehandlung, Autonomieverlust, Exklusion oder sogar zunehmender Prekarisierung. Hieraus ergibt sich die folgende forschungsleitende Fragestellung: Wie müssen durch ADM geprägte Arbeitskontexte ausgestaltet werden, um einen verantwortungsbewussten Umgang mit Arbeitskräften zu befördern? Welche technischen, organisatorischen und regulatorischen Rahmenbedingungen sollten dabei gesetzt werden?

Der Fokus unserer Untersuchung von verantwortungsbewusster ADM in der Arbeitswelt von morgen liegt auf drei Aspekten:

• der Analyse der Auswirkungen von ADM auf Arbeitsprozesse und -inhalte sowie auf die Selbstbestimmung und Lebensverhältnisse von Arbeitskräften
• der Untersuchung von Mensch-Maschine-Arbeitskonfigurationen und ihrer verantwortungsbewussten Ausgestaltung für die Arbeitswelt der Zukunft
• der Analyse und Einordnung organisatorischer, rechtlicher und regulatorischer Rahmenbedingungen für eine verantwortungsbewusste Ausgestaltung von Arbeitskontexten der Zukunft