Forschung
Das Fachgebiet Partizipative IT-Gestaltung (PIT) erforscht die Entwicklung von Designlösungen, theoretischen Konzepten und Methoden, die partizipative interdisziplinäre Ansätze zur Gestaltung von IT- und KI-Systemen fördern. Unser Ziel ist es, wissenschaftliche und gestalterische Fortschritte zu ermöglichen, die von Fairness und sozialer Gerechtigkeit in soziokulturellen Veränderungen durch die Digitalisierung geprägt sind. Unsere Forschung ist im Bereich der Mensch-Computer-Interaktion und angrenzenden Bereichen angesiedelt, einschließlich der Interaktionen zwischen menschlichen und KI-Systemen wie z. B. Benutzererfahrung (und algorithmische Erfahrung) von KI, Benutzerfreundlichkeit, Erklärbarkeit, Transparenz, Lesekompetenz, Kontrollierbarkeit, Aufgabenverteilung zwischen Mensch und Computer, nutzbare Sicherheit, Zugänglichkeit, Ethik und Werte.
Die Allgegenwärtigkeit der digitalen Technologie in allen Lebensbereichen bedeutet, dass technologische Entwicklung und sozialer Wandel untrennbar miteinander verwoben sind. Die Informatik ist in zunehmendem Maße auf das Fachwissen der SSH angewiesen. Aufgrund der unterschiedlichen theoretischen Grundlagen und Wissenschaftskulturen kann die Zusammenarbeit zwischen den technischen Wissenschaften und den Sozialwissenschaften eine Herausforderung darstellen. Die Forschung am Fachgebiet von PIT bietet einen kollaborativen und translationalen Raum für Sozial- und Geisteswissenschaften (SSH) und Informatik/HCI, der zwischen Konnektivität, Integration, kritischer Analyse und Reflexion oszilliert. Das Hauptaugenmerk liegt auf der Untersuchung der algorithmischen Bedingungen mit dem Schwerpunkt auf Fragen der Partizipation und der Handlungsfähigkeit, einschließlich der Frage, wie und für wen Handlungsfähigkeit und Partizipation in und durch IT-Systeme und digitale Dienste zugänglich sind. Wichtig ist, dass unsere Forschung über die oft rein kritische oder nur kommentierende Rolle hinausgeht, die die Sozial- und Geisteswissenschaften in den Debatten um die Digitalisierung spielen, hin zu einer gerechteren und inklusiveren Transformation von soziotechnischen Systemdesignansätzen durch interdisziplinäre Perspektiven. Damit verbindet die Forschung am Fachgebiet PIT auch zwei Forschungsschwerpunkte der Universität Kassel - sozialverträgliche IT-Gestaltung und Geschlechterforschung - und thematisiert die soziale Nachhaltigkeit neuer Technologien und Digitalisierungsformen.
Unsere Forschung verbindet theoretisch fundierte Forschung mit gestaltungsorientierten Ansätzen.
Zu den Schwerpunkten gehören:
- Partizipation und Handlungsfähigkeit in IT/AI-Systemen durch die Stärkung des bürgerschaftlichen Engagements, z. B. durch den Einsatz von Forschung durch Design und Design-for-all-Ansätzen;
- demokratische Werteorientierung in IT/AI-Systemen, z. B. durch wertsensitive Gestaltungsmethodik;
- Modelle und praktische Anwendung von Interaktions-, Informations- und Schnittstellendesign, die (1) und (2) integrieren.
Für weitere Informationen siehe auch unsere aktuellen Forschungsprojekte und Publikationen.
Laufende Forschungsprojekte
Künstliche Intelligenz (KI) wird in immer mehr Bereichen eingesetzt. Welche Daten wie verwendet werden, verstehen jedoch nur noch wenige. Ein internationales Forschungsprojekt unter Beteiligung der Universität Kassel möchte Transparenz schaffen.
Das Projekt „AI Forensics: Accountability through Interpretability in Visual AI Systems" konzentriert sich dabei auf den Einsatz von Bild-Systemen. „Gerade der Bereich der Gesichtserkennung wächst immer weiter. Beispielsweise wird in den USA eine KI mit Gesichtserkennung benutzt, um potenzielle Gefährder zu erkennen. Was der allgemeinen Sicherheit dient, ist gleichzeitig auch ein Eingriff in Persönlichkeitsrechte. Wir möchten Entscheidungen der KI-Entscheidungen nachvollziehbar machen“, erläutert die Projektbeteiligte Prof. Dr. Claude Draude vom Wissenschaftlichen Zentrum für Informationstechnik-Gestaltung der Universität Kassel.
Ziel ist eine frei für die Öffentlichkeit zugängliche Internetplattform, die große Datensätze erschließbar macht. Modelle des maschinellen Lernens sollen so analysierbar und verstehbar gemacht werden. „Nutzende können zum Beispiel ein Bild hochladen und eine automatische Untersuchung aktivieren. Das System überprüft, ob das Bild bereits in einem Datensatz ist (Datensatz-Forensik), wie es in einem Modell verwendet wurde (Modell-Forensik), und wo und zu welchem Zweck (Anwendungsforensik). Der Umfang dieser Fähigkeiten variiert von Modell zu Modell und veranschaulicht unterschiedliche Grade von Transparenz und Interpretierbarkeit auf dem Spektrum der für die Forschung verfügbaren Modelle“, erklärt Draude.
Initiative „Künstliche Intelligenz“ der VolkswagenStiftung
Gefördert wird das Vorhaben im Rahmen der Initiative „Künstliche Intelligenz“ der VolkswagenStiftung. Es hat eine Laufzeit von drei Jahren und wird mit 1,5 Millionen Euro unterstützt. Neben der Universität Kassel sind das Institut für Künstliche Intelligenz und Medienphilosophie der Staatlichen Hochschule für Gestaltung in Karlsruhe, das Department of Computer Science der Durham University in Großbritannien sowie das Department of Germanic and Slavic Studies der University of California in Santa Barbara (USA) beteiligt. Technische Partner sind das Steinbuch Centre for Computing am Karlsruher Institut für Technologie (KIT) und das NVIDIA CUDA Forschungszentrum an der Durham University.
Mit ihrer Initiative stärkt die VolkswagenStiftung die fach- und länderübergreifende Forschung zur verantwortungsvollen Weiterentwicklung von Systemen Künstlicher Intelligenz (KI). Sieben Projektkonsortien aus den Gesellschafts- und Technikwissenschaften fördert sie in diesem Rahmen nun mit insgesamt 9,8 Mio. Euro.
Kontakt: Claude Draude & Goda Klumbytė
Unternehmen, die digitale Produkte oder Dienstleistungen vermarkten, stehen oft vor dem Dilemma, dass ihr Interesse und ihr Bedarf an Daten von Kund*innen dem Wunsch der Kund*innen nach Privatheit entgegensteht. Für Verbraucher*innen bedeutet es einen Eingriff in ihre Selbstbestimmungsrechte, wenn sie zu viele Daten preisgeben müssen oder durch digitale Überwachung in ihrem Verhalten unbemerkt gelenkt werden. Im Projekt "Faire digitale Dienste: Ko-Valuation in der Gestaltung datenökonomischer Geschäftsmodelle (FAIRDIENSTE)" wird dieser Strukturkonflikt zum Anlass genommen, verschiedene Wege der fairen Vermittlung von Werten im Zuge der Geschäftsmodellgestaltung mit soziologischen und (wirtschafts-)informatischen Ansätzen auszuloten und in Beziehung zu setzen. Erstens wird untersucht, inwiefern sich unterschiedliche Werte in eine ökonomische Sprache der Preise übersetzen und fair verrechnen lassen (Verrechnung). Zweitens wird herausgearbeitet, wie Unternehmen ihre ökonomische Gestaltungsmacht nutzen können, um Wertkonflikte zu kanalisieren (Design). Drittens wird geprüft, inwiefern die Aushandlung von Wertkonflikten über Social-Media-Elemente ausgelagert werden kann, um unter den Nutzer*innen eine Kultur der Fairness zu befördern (Kultivierung). Entwickelt und praxisnah getestet werden soll so eine multidimensionale Methodik der „Ko-Valuation“, d. h. der kooperativen Wertevermittlung, die Unternehmen dabei hilft, ihre wirtschaftlichen Geschäftsmodelle mit Gesichtspunkten datenökonomischer Fairness in Einklang zu bringen.
Das Projekt ist eine Kooperation der Fachgebiete Soziologische Theorie (Prof. Dr. Jörn Lamla, Verbundkoordination), Partizipative IT-Gestaltung (Prof. Dr. Claude Draude) sowie Wissensverarbeitung (Prof. Dr. Gerd Stumme) an der Universität Kassel, dem Institut für Digitales Management und Neue Medien an der Ludwig-Maximilians-Universität München (Prof. Dr. Thomas Hess), dem Unternehmen BurdaForward (Dr. Richard Weber, München) sowie dem Institut für Technik und Journalismus (Miriam Ruhenstroth, Berlin). Weitere Informationen zum Projekt finden sich auf den Webseiten des ITeG.
Teilvorhaben Partizipative IT-Gestaltung
Das Teilvorhaben von PIT nimmt insbesondere die Design-Ebene in den Blick. Diese untersucht, inwiefern durch Einsatz von ökonomischer Organisations- und Gestaltungsmacht mit technischen Mitteln der Trennung und Verkopplung eine faire Koexistenz verschiedener Wertordnungen realisiert werden kann. Hierzu werden die Potenziale von IT-basierten Werkzeugen erforscht, welche bei der Entwicklung fairer digitaler Dienste unterstützend sein können. Fairness und demokratische Werteorientierung im Kontext digitaler Dienste berühren nicht nur Fragen der Vermittlung und der Regulation, sondern sie stellen auch eine Herausforderung für die Informationstechnik-Gestaltung selbst dar. In der Informatik gibt es verschiedene Gestaltungsverfahren, die dezidiert werteorientierte Entwicklung zum Ziel haben oder, für die, wie beim partizipativen Design, eine Demokratisierung von digitalen Artefakten und ein Empowerment von Nutzer*innen grundlegend sind. Ziel des Teilvorhabens ist es, an diese Gestaltungsrichtungen anzuknüpfen und sie für den Gegenstand des Gesamtvorhabens nutzbar und anwendbar zu machen. D.h. vorhandene Methoden der partizipativen IT-Entwicklung müssen im Hinblick auf faire Geschäftsmodelle aktualisiert, sowie vorhandene IT-Werkzeuge geprüft und ggf. weiterentwickelt werden. Der besondere Fokus des Teilvorhabens liegt auf dem Umschlagplatz technischer Entwicklung und gesellschaftlicher, normativer Werte.
Die beteiligten Personen des Fachgebiets Partizipative IT-Gestaltung sind Claude Draude, Viktoria Horn sowie ehemals Nana Kesewaa Dankwa und Nils Knoth.
Das interdisziplinäre Projekt der Fachbereiche Elektrotechnik/Informatik sowie Mathematik und Naturwissenschaften und der Stabsstelle Gleichstellung zielt darauf ab, die Integration von Genderaspekten in die Lehre der MINT-Fächer sowie eine geschlechtergerechte Wissenschafts- und Hochschulkultur zu entwickeln. Aus einer intersektionalen Perspektive heraus wird zudem untersucht, wie Lehre in und über MINT inklusiv und zugänglich gestaltet werden kann.
Gefördert wird das Projekt durch das Professorinnenprogramm III des Bundes und der Länder.
Kooperation
Partizipative IT-Gestaltung (FB 16 Elektrotechnik/Informatik)
Prof. Dr. Claude Draude
Lisa Marie Bläsing, M.A.
Didaktik der Physik (FB 10 Mathematik und Naturwissenschaften)
Prof. Dr. Rita Wodzinski
Stabsstelle Gleichstellung
Dr. Sylke Ernst
Abgeschlossene Forschungsprojekte
Das von der VW Stiftung geförderte Forschungsprojekt "Re:Coding Algorithmic Culture" war ein interdisziplinäres Projekt der Fachgebiete Gender/Diversity in Informatiksystemen (Universität Kassel), Soziologie der Diversität (Universität Kassel) und Visuelle Kommunikation (Kunsthochschule Kassel). Das ursprünglich bis Februar 2021 geförderte Projekt wurde von der VW Stiftung bis November 2021 mit dem erweiterten Modul "Re:Coding Algorithmic Cultures of the Pandemic - The Example of Social Distancing" verlängert.
Projektbeschreibung
Die Projektbeteiligten gehen der Frage nach, wie durch algorithmisch basierte Sammlungen, Klassifikationenen und Interpretationen von Daten bestehende gesellschaftliche Ungleichheiten/Diskriminerungen fortgeschrieben werden – und auch irritiert, wenn nicht sogar umgeschrieben werden können. Forschungsformate sind Hackathons, Game Jams, Coding-Workshops, partizipatorische Design Labs, Design Noir Experimente, Performances, Ausstellungen sowie Video- und Textanalysen. Diese interdisziplinären Labs sollen kritisches, queer-feministisches, antirassistisches und dekoloniales Wissens im digital-realen Raum weitertreiben.
Website: r-calc.net
Kontakt: Loren Britton
Das Verbundprojekt UPdATE wurde durch die Programmlinie Zukunft der Universität Kassel gefördert.
Projektbeschreibung
Warum gibt es bei der Studienfachwahl für Lehramt bzw. Soziale Arbeit und in den Technik- und Naturwissenschaften trotz des enormen gesellschaftlichen Wandels und zahlreicher bildungspolitischer Maßnahmen immer noch deutlich ungleiche Präferenzen von Frauen und Männern? Zur Beantwortung dieser leitenden Frage nach einer verfestigten Ungleichheitsrelation leistet das als Kooperation zwischen Sozial- und Technikwissenschaften konzipierte Forschungsprojekt theoretische und empirische Vorarbeiten für den Antrag einer DFG-Forschungsgruppe. Hierfür kooperieren erstmalig Fachgebiete aus Forschungsfeldern, die sich bislang wenig zur Kenntnis genommen haben (Geschlechtersoziologie, Empirische Bildungsforschung, Geschlechtertheoretische Technikforschung) und eine Schwerpunktbildung an den Schnittstellen von Bildungs- und Hochschulforschung, Geschlechterforschung und Technikforschung ansteuern.
Im Verbundprojekt werden bislang verstreute internationale Forschungsbefunde gebündelt sowie - auf der Basis der Arbeitsschwerpunkte der beteiligten Fachgebiete - empirische Daten zu den genannten Studiengängen (Lehramt, Soziale Arbeit, Technik- und Naturwissenschaften) generiert. Geplant sind eine qualitative und eine quantitative Befragung von Studierenden und Lehrenden, eine wissenssoziologische Dokumentenanalyse zu Maßnahmen, die den Anteil des jeweils unterrepräsentierten Geschlechts erhöhen sollen, sowie eine Actor-Network-Analyse und teilnehmende Beobachtung zu geschlechterbezogenen Tätigkeitsbezügen und Materialisierungsprozessen von Fachkulturen. Ziel des Forschungsprojekts ist die Entwicklung eines geschlechtertheoretisch und empirisch fundierten Forschungsansatzes, der erstmalig sozial- und technikwissenschaftliche Studienfächer systematisch vergleichend untersucht. Auf diesen Ansatz nehmen alle Teilprojekte des im Anschluss geplanten Verbundes (interdisziplinäre DFG-Forschungsgruppe) Bezug, um Ursachen und Hintergründe für ungleiche Präferenzen bei der Studienfachwahl zu erklären.
Kooperation
Soziologie sozialer Differenzierung und Soziokultur (FB 01 Humanwissenschaften)
Prof. Dr. Mechthild Bereswill (Koordination)
Gabriele Lumpp, M.A.
Gender/Diversity in Informatiksystemen (FB 16 Elektrotechnik/Informatik)
Prof. Dr. Claude Draude
Lisa Marie Bläsing, M.A.
Empirische Bildungsforschung (FB 01 Humanwissenschaften)
Prof. Dr. Hans Peter Kuhn
Josefine Spitzner, M.A.
Das Forschungsprojekt AG SoMa wurde durch die Programmlinie Zukunft der Universität Kassel gefördert.
Projektbeschreibung
Unter dem Arbeitsbegriff Social Machines werden im weitesten Sinne Technologien verstanden, die eine Verschmelzung von digitalen, meist webbasierten Techniken mit den vielschichtigen Dynamiken sozialer Interaktion, Organisation und Strukturbildung bedeuten. Durch die Verknüpfung von algorithmischen Berechnungen und sozialer Intelligenz sowie den fortschreitenden Versuchen einer datenbasierten Identifikation sozialer Zusammenhänge und Dynamiken stellen sie Keimzellen, Aushandlungsorte und Projektionsflächen gegenwärtiger und zukünftiger digitaler Gesellschaftsgestaltung dar. Vor dem Hintergrund von Berichten über die Reproduktion sozialer Ungleichheiten durch die fortschreitenden datenbasierten Algorithmisierung alltäglicher und weitreichender Entscheidungen werden die negativen Potentiale dieser Technologie deutlich.
In dem Teilprojekt soll in Kooperation mit Arbeitsgruppen aus den Fachbereichen Sozialwissenschaften, Wirtschaftswissenschaften und Elektrotechnik/Informatik ein Verständnis dieser Technologien gewonnen, ihre möglichen Folgen und normativen Implikationen abgeschätzt und alternative, gesellschaftlich wünschenswerte Alternativen entworfen werden.
Kontakt: Phillip Lücking, M.Sc.
Das Forschungsprojekt INTeGER wurde durch die Universität Kassel gefördert.
Projektbeschreibung
INTeGER konzentriert sich auf die Frage, welche Rolle die Intersektionalität von Geschlecht bei der Entwicklung von Innovationen im Bereich der Informatik spielt. Gerade weil ein Geschlechter-Bias in der Informatik als Hindernis für Innovation und sozial verantwortliches IT-Design identifiziert wurde (es gibt zahlreiche Beispiele in der Forschung, die von Algorithmen und maschinellem Lernen bis hin zu Spracherkennungstechnologien reichen), ist mehr interdisziplinäre Forschung erforderlich, die Gender Studies, Wissenschafts- und Technologieforschung und Informatik verbindet.
Das Projekt ist konzipiert, sich entlang zweier Richtungen (oder einer Kombination aus beiden) zu entwickeln:
- Innovationen in der Informatik und ihre geschlechtsspezifischen Aspekte: Was ist der Prozess der Innovation in der Informatik, was wird als Innovation in der Informatik verstanden und wie werden diese Idee und dieser Prozess durch das Geschlecht beeinflusst?
- Geschlechtsspezifische Methodologien in der Informatik: Welche Methoden und Methodologien sind in der Informatik am weitesten verbreitet und wie sind sie mit intersektionalen Vorstellungen von Geschlecht verknüpft?
Kontakt: Nana Kesewaa Dankwa
Dieses Projekt wurde durch das Hessische Ministerium für Wissenschaft und Kunst (HMWK) und speziell durch den Forschungsschwerpunkt "Dimensionen der Kategorie Geschlecht – Frauen- und Geschlechterforschung in Hessen" gefördert.
Projektbeschreibung
Das Hauptziel dieses Forschungsprojekts besteht darin, die vorherrschenden Modi und Praktiken der Wissens- und Artefaktproduktion in der Informatik durch cyberfeministische und feministische neumaterialistische Linsen zu überdenken und auf der Grundlage dieser Überarbeitung innovative theoretische und methodologische Ansätze in der Informatik zu entwickeln. Dazu gehört es, die in den Computertechnologien eingebetteten Machtgefälle zu hinterfragen und die der Informatik zugrunde liegenden epistemologischen Rahmen kritisch zu untersuchen. Konkret geht es um folgende Fragen: Welche konzeptionellen Vorstellungen liegen der Informatik zugrunde und wie (re)produzieren sie Machtdynamiken? Wie sind die Theorien der Informatik vergeschlechtlicht? Wie können Erkenntnisse aus feministischen neuen materialistischen und cyberfeministischen Perspektiven dazu beitragen, die in der Informatik üblichen Methoden und Theorien neu zu kontextualisieren?
Das Projekt wird drei Denkrichtungen als Quellen für methodologische und theoretische Innovationen in der Informatik untersuchen: theoretische Prämissen und Praktiken des Cyberfeminismus; die neuen Entwicklungen in den feministischen Wissenschafts- und Technologiestudien und der feministischen Philosophie, insbesondere die Forschung, die sich unter dem Banner des "Neuen Materialismus" zusammengefunden hat; sowie kritisches und feministisches Computing. Dazu gehört die Untersuchung cyberfeministischer aktivistischer und theoretischer Arbeiten sowie ihrer Historiographien, die Analyse, inwieweit sie das kritische Computing und die feministische Computing-Praxis von heute widerspiegeln und zu ihnen in Beziehung stehen, sowie die Ausarbeitung von Vorschlägen für die Entwicklung von Theorien und Methoden in der Informatik, die in der feministischen Theorie und dem Neuen Materialismus verwurzelt sind.
Das Hauptergebnis des Projekts ist die Erstellung eines Überblicks über den aktuellen Stand dieser Entwicklungen in Form eines Weißbuchs und die Konsolidierung eines Netzwerks von Wissenschaftler*innen und Praktiker*innen vor Ort, die an der Schnittstelle zwischen feministischer Theorie und Informatik arbeiten. Das Projekt umfasst auch die Organisation von mindestens vier Forschungslabortreffen mit Gastredner*innen. Die Ergebnisse und Diskussionen dieser Treffen dienen sowohl als Grundlage für ein White Paper als auch als Mittel, um Wissenschaftler*innen zusammenzubringen, die an kritischer und feministischer Informatik interessiert sind. Dies baut auf der Idee auf, dass für die Konstruktion nachhaltiger Imaginationen für und von der (technologisch vermittelten) Zukunft zunächst ein kollektives Subjekt gebildet werden muss, das zu einer solchen kreativen, theoretisch informierten und praxisorientierten Imagination fähig ist und darin investiert.
Kritische Forschungsschwerpunkte:
- Theoretische Prämissen und Vorschläge des Cyberfeminismus, einschließlich cyberfeministischer Historiographien und der Geschichte der Informatik (wie z.B. alternative Konzeptualisierungen von Information und aktivistische Ansätze, die Kunst und Computertechnologie-Design zur Emanzipation nutzen);
- Neumaterialistische theoretische Prämissen, soweit sie sich auf digitale Technologien und alternative materiell-diskursive methodologische Ansätze beziehen;
- Theoretische Ansprüche, die sich aus kritischen und feministischen Computerpraktiken und -methodologien ergeben;
- Methodologische Innovationen in der Informatik, die sich aus den oben genannten Denkansätzen zusammensetzen lassen.
Projektleitung: Goda Klumbytė