Forschung (neu)

Die Forschung von PIT beschäftigt sich mit der Entwicklung von Designlösungen, theoretischen Konzepten und Methoden, die partizipative interdisziplinäre Ansätze zur Gestaltung von IT- und KI-Systemen fördern. Unser Ziel ist es, wissenschaftliche und gestalterische Fortschritte zu ermöglichen, die Fairness und soziale Gerechtigkeit bei den soziokulturellen Veränderungen durch die Digitalisierung fördern. Unsere Forschung ist im Bereich der Mensch-Computer-Interaktion und angrenzenden Bereichen angesiedelt, einschließlich der Interaktionen zwischen menschlichen und KI-Systemen, wie z. B. Benutzererfahrung (und algorithmische Erfahrung) von KI, Benutzerfreundlichkeit, Erklärbarkeit, Transparenz, Lesekompetenz, Kontrollierbarkeit, Aufgabenverteilung zwischen Mensch und Computer, nutzbare Sicherheit, Zugänglichkeit, Ethik und Werte.

Die Allgegenwärtigkeit der digitalen Technologie in allen Lebensbereichen bedeutet, dass technologische Entwicklung und sozialer Wandel untrennbar miteinander verwoben sind. Die Informatik ist in zunehmendem Maße auf das Fachwissen der SSH angewiesen. Aufgrund der unterschiedlichen theoretischen Grundlagen und Wissenschaftskulturen kann die Zusammenarbeit zwischen den technischen Wissenschaften und den Sozialwissenschaften eine Herausforderung darstellen. Die Forschung am FG/von PIT bietet einen kollaborativen und translationalen Raum für Sozial- und Geisteswissenschaften (SSH) und Informatik/HCI, der zwischen Konnektivität, Integration, kritischer Analyse und Reflexion oszilliert. Das Hauptaugenmerk liegt auf der Untersuchung der algorithmischen Bedingungen mit dem Schwerpunkt auf Fragen der Partizipation und der Handlungsfähigkeit, einschließlich der Frage, wie und für wen Handlungsfähigkeit und Partizipation in und durch IT-Systeme und digitale Dienste zugänglich sind. Wichtig ist, dass unsere Forschung über die oft rein kritische oder nur kommentierende Rolle hinausgeht, die die Sozial- und Geisteswissenschaften in den Debatten um die Digitalisierung spielen, hin zu einer gerechteren und inklusiveren Transformation von soziotechnischen Systemdesignansätzen durch interdisziplinäre Perspektiven. Damit verbindet die Forschung am FG PIT auch zwei Forschungsschwerpunkte der Universität Kassel - sozialverträgliche IT-Gestaltung und Geschlechterforschung - und thematisiert die soziale Nachhaltigkeit neuer Technologien und Digitalisierungsformen.

Unsere Forschung verbindet theoretisch fundierte Forschung mit gestaltungsorientierten Ansätzen.

Zu den Schwerpunkten gehören:

  1. Partizipation und Handlungsfähigkeit in IT/AI-Systemen durch die Stärkung des bürgerschaftlichen Engagements, z.B. durch den Einsatz von Forschung durch Design und Design for all-Ansätzen;
  2. demokratische Werteorientierung in IT/AI-Systemen, z.B. durch wertsensitive Gestaltungsmethodik;
  3. Modelle und Realisierungen von Interaktions-, Informations- und Schnittstellendesign, die (1) und (2) integrieren.

Für weitere Informationen siehe auch unsere aktuellen Forschungsprojekte und Publikationen.

Laufende Forschungsprojekte

Künstliche Intelligenz (KI) wird in immer mehr Bereichen eingesetzt. Welche Daten wie verwendet werden, verstehen jedoch nur noch wenige. Ein internationales Forschungsprojekt unter Beteiligung der Universität Kassel möchte Transparenz schaffen.

Das Projekt „AI Forensics: Accountability through Interpretability in Visual AI Systems" konzentriert sich dabei auf den Einsatz von Bild-Systemen. „Gerade der Bereich der Gesichtserkennung wächst immer weiter. Beispielsweise wird in den USA eine KI mit Gesichtserkennung benutzt, um potenzielle Gefährder zu erkennen. Was der allgemeinen Sicherheit dient, ist gleichzeitig auch ein Eingriff in Persönlichkeitsrechte. Wir möchten Entscheidungen der KI-Entscheidungen nachvollziehbar machen“, erläutert die Projektbeteiligte Prof. Dr. Claude Draude vom Wissenschaftlichen Zentrum für Informationstechnik-Gestaltung der Universität Kassel.

Ziel ist eine frei für die Öffentlichkeit zugängliche Internetplattform, die große Datensätze erschließbar macht. Modelle des maschinellen Lernens sollen so analysierbar und verstehbar gemacht werden. „Nutzende können zum Beispiel ein Bild hochladen und eine automatische Untersuchung aktivieren. Das System überprüft, ob das Bild bereits in einem Datensatz ist (Datensatz-Forensik), wie es in einem Modell verwendet wurde (Modell-Forensik), und wo und zu welchem Zweck (Anwendungsforensik). Der Umfang dieser Fähigkeiten variiert von Modell zu Modell und veranschaulicht unterschiedliche Grade von Transparenz und Interpretierbarkeit auf dem Spektrum der für die Forschung verfügbaren Modelle“, erklärt Draude.

Initiative „Künstliche Intelligenz“ der VolkswagenStiftung

Gefördert wird das Vorhaben im Rahmen der Initiative „Künstliche Intelligenz“ der VolkswagenStiftung. Es hat eine Laufzeit von drei Jahren und wird mit 1,5 Millionen Euro unterstützt. Neben der Universität Kassel sind das Institut für Künstliche Intelligenz und Medienphilosophie der Staatlichen Hochschule für Gestaltung in Karlsruhe, das Department of Computer Science der Durham University in Großbritannien sowie das Department of Germanic and Slavic Studies der University of California in Santa Barbara (USA) beteiligt. Technische Partner sind das Steinbuch Centre for Computing am Karlsruher Institut für Technologie (KIT) und das NVIDIA CUDA Forschungszentrum an der Durham University.

Mit ihrer Initiative stärkt die VolkswagenStiftung die fach- und länderübergreifende Forschung zur verantwortungsvollen Weiterentwicklung von Systemen Künstlicher Intelligenz (KI). Sieben Projektkonsortien aus den Gesellschafts- und Technikwissenschaften fördert sie in diesem Rahmen nun mit insgesamt 9,8 Mio. Euro.

Kontakt: Claude Draude

Unternehmen, die digitale Produkte oder Dienstleistungen vermarkten, stehen oft vor dem Dilemma, dass ihr Interesse und ihr Bedarf an Daten von Kund*innen dem Wunsch der Kund*innen nach Privatheit entgegensteht. Für Verbraucher*innen bedeutet es einen Eingriff in ihre Selbstbestimmungsrechte, wenn sie zu viele Daten preisgeben müssen oder durch digitale Überwachung in ihrem Verhalten unbemerkt gelenkt werden. Im Projekt "Faire digitale Dienste: Ko-Valuation in der Gestaltung datenökonomischer Geschäftsmodelle (FAIRDIENSTE)" wird dieser Strukturkonflikt zum Anlass genommen, verschiedene Wege der fairen Vermittlung von Werten im Zuge der Geschäftsmodellgestaltung mit soziologischen und (wirtschafts-)informatischen Ansätzen auszuloten und in Beziehung zu setzen. Erstens wird untersucht, inwiefern sich unterschiedliche Werte in eine ökonomische Sprache der Preise übersetzen und fair verrechnen lassen (Verrechnung). Zweitens wird herausgearbeitet, wie Unternehmen ihre ökonomische Gestaltungsmacht nutzen können, um Wertkonflikte zu kanalisieren (Design). Drittens wird geprüft, inwiefern die Aushandlung von Wertkonflikten über Social-Media-Elemente ausgelagert werden kann, um unter den Nutzer*innen eine Kultur der Fairness zu befördern (Kultivierung). Entwickelt und praxisnah getestet werden soll so eine multidimensionale Methodik der „Ko-Valuation“, d. h. der kooperativen Wertevermittlung, die Unternehmen dabei hilft, ihre wirtschaftlichen Geschäftsmodelle mit Gesichtspunkten datenökonomischer Fairness in Einklang zu bringen.

Das Projekt ist eine Kooperation der Fachgebiete Soziologische Theorie (Prof. Dr. Jörn Lamla, Verbundkoordination), Partizipative IT-Gestaltung (Prof. Dr. Claude Draude) sowie Wissensverarbeitung (Prof. Dr. Gerd Stumme) an der Universität Kassel, dem Institut für Digitales Management und Neue Medien an der Ludwig-Maximilians-Universität München (Prof. Dr. Thomas Hess), dem Unternehmen BurdaForward (Dr. Richard Weber, München) sowie dem Institut für Technik und Journalismus (Miriam Ruhenstroth, Berlin).

Teilvorhaben Partizipative IT-Gestaltung

Das Teilvorhaben von GeDIS nimmt insbesondere die Design-Ebene in den Blick. Diese untersucht, inwiefern durch Einsatz von ökonomischer Organisations- und Gestaltungsmacht mit technischen Mitteln der Trennung und Verkopplung eine faire Koexistenz verschiedener Wertordnungen realisiert werden kann. Hierzu werden die Potenziale von IT-basierten Werkzeugen erforscht, welche bei der Entwicklung fairer digitaler Dienste unterstützend sein können. Fairness und demokratische Werteorientierung im Kontext digitaler Dienste berühren nicht nur Fragen der Vermittlung und der Regulation, sondern sie stellen auch eine Herausforderung für die Informationstechnik-Gestaltung selbst dar. In der Informatik gibt es verschiedene Gestaltungsverfahren, die dezidiert werteorientierte Entwicklung zum Ziel haben oder, für die, wie beim partizipativen Design, eine Demokratisierung von digitalen Artefakten und ein Empowerment von Nutzer*innen grundlegend sind. Ziel des Teilvorhabens ist es, an diese Gestaltungsrichtungen anzuknüpfen und sie für den Gegenstand des Gesamtvorhabens nutzbar und anwendbar zu machen. D.h. vorhandene Methoden der partizipativen IT-Entwicklung müssen im Hinblick auf faire Geschäftsmodelle aktualisiert, sowie vorhandene IT-Werkzeuge geprüft und ggf. weiterentwickelt werden. Der besondere Fokus des Teilvorhabens liegt auf dem Umschlagplatz technischer Entwicklung und gesellschaftlicher, normativer Werte.

Die beteiligten Personen des Fachgebiets GeDIS sind Claude Draude, Viktoria Horn sowie ehemals Nana Kesewaa Dankwa und Nils Knoth.

Das interdisziplinäre Projekt der Fachbereiche Elektrotechnik/Informatik sowie Mathematik und Naturwissenschaften und der Stabsstelle Gleichstellung zielt darauf ab, die Integration von Genderaspekten in die Lehre der MINT-Fächer sowie eine geschlechtergerechte Wissenschafts- und Hochschulkultur zu entwickeln.

Kooperation

Partizipative IT-Gestaltung (FB 16 Elektrotechnik/Informatik)

Prof. Dr. Claude Draude
Lisa Marie Bläsing, M.A.

Didaktik der Physik (FB 10 Mathematik und Naturwissenschaften)

Prof. Dr. Rita Wodzinski

Stabsstelle Gleichstellung

Dr. Sylke Ernst

Abgeschlossene Forschungsprojekte

Unter dem Arbeitsbegriff Social Machines werden im weitesten Sinne Technologien verstanden, die eine Verschmelzung von digitalen, meist webbasierten Techniken mit den vielschichtigen Dynamiken sozialer Interaktion, Organisation und Strukturbildung bedeuten. Durch die Verknüpfung von algorithmischen Berechnungen und sozialer Intelligenz sowie den fortschreitenden Versuchen einer datenbasierten Identifikation sozialer Zusammenhänge und Dynamiken stellen sie Keimzellen, Aushandlungsorte und Projektionsflächen gegenwärtiger und zukünftiger digitaler Gesellschaftsgestaltung dar. Vor dem Hintergrund von Berichten über die Reproduktion sozialer Ungleichheiten durch die fortschreitenden datenbasierten Algorithmisierung alltäglicher und weitreichender Entscheidungen werden die negativen Potentiale dieser Technologie deutlich.

In dem Teilprojekt soll in Kooperation mit Arbeitsgruppen aus den Fachbereichen Sozialwissenschaften, Wirtschaftswissenschaften und Elektrotechnik/Informatik ein Verständnis dieser Technologien gewonnen, ihre möglichen Folgen und normativen Implikationen abgeschätzt und alternative, gesellschaftlich wünschenswerte Alternativen entworfen werden.

Kontakt

Phillip Lücking, M.Sc.

This project is supported by the grant from the Hessisches Ministerium für Wissenschaft und Kunst (HMWK) and specifically the research focus on „Dimensionen der Kategorie Geschlecht - Frauen- und Geschlechterforschung in Hessen“

Project convenor: Goda Klumbytė

The main objective of this research project is to revisit the dominant modes and practices of knowledge and artefact production in computer science through cyberfeminist and feminist new materialist lenses, and to produce innovative theoretical and methodological approaches in computing based on this revision. This will entail interrogating the power differentials embedded in computing technologies, and critically examining the epistemological frameworks that underpin computer science. Namely, it asks: what are the underlying conceptual notions in computer science and how do they (re)produce power dynamics? How are computer science theories gendered? How can insights from feminist new materialist and cyberfeminist perspectives help re-contextualize the methodologies and theories that are commonplace in computing?

The project will look at three bodies of thought as sources for methodological and theoretical innovation in computing: theoretical premises and practices of cyberfeminism; the new developments in feminist science and technology studies and feminist philosophy, namely the research that has been clustering under the banner of “new materialism”; and critical and feminist computing. This will entail investigating cyberfeminist activist and theoretical work as well as their historiographies, analysing how it reflects and relates to the critical computing and feminist computing practices today, and drawing up propositions for developing theories and methodologies in computer science that are rooted in feminist theory and new materialism.

The main outcome of the project will be to produce the state of the art overview of these developments in a form of a white paper and to consolidate a network of local scholars and practitioners working at the intersection of feminist theory and computing. The project also entails organising at least four research lab meetings with guest speakers. The findings and discussions of those meetings will serve both as a basis for a white paper as well as a means to bring together scholars that are interested in critical and feminist computation. This is building on the idea that in order to construct sustainable imaginaries for and of the (technologically mediated) future, one needs first to form a collective subject capable of and invested in such a creative, theoretically informed and practice-driven imagination.

Critical research foci:

  • Theoretical premises and suggestions of cyberfeminism, including cyberfeminist historiographies and history of computing (such as alternative conceptualisations of information and activist approaches that utilise art and computer technology design for emancipation);
  • New materialist theoretical premises to an extent as they relate to digital technologies and alternative material-discursive methodological approaches;
  • Theoretical claims stemming from critical and feminist computing practices and methodologies;
  • Methodological innovations in computing that can be synthesized from the aforementioned bodies of thought.

CF+ Lab Meetings

INTeGER focuses on interrogating the role that gender intersectionality plays in producing innovation in the field of computing. Precisely because gender bias in computing has been identified as preventing innovation and socially responsible IT design (examples abound in research spanning from algorithms and machine learning, to speech recognition technologies), more interdisciplinary research that bridges gender studies, science and technology studies and computer science is needed.

The project is designed to develop along two directions (or a combination of both):

  • Innovations in computer science and its gendered aspects: what is the process of innovation in computing, what is understood as innovation in computing, and how this idea and process is affected by gender.
  • Gendered methodologies in computing: what are the methods and methodologies that are most prominent in computer sciences and how they interlink with intersectional notions of gender.

Contact: Nana Kesewaa Dankwa

INTeGER User Case Study

Warum gibt es bei der Studienfachwahl für Lehramt bzw. Soziale Arbeit und in den Technik- und Naturwissenschaften trotz des enormen gesellschaftlichen Wandels und zahlreicher bildungspolitischer Maßnahmen immer noch deutlich ungleiche Präferenzen von Frauen und Männern? Zur Beantwortung dieser leitenden Frage nach einer verfestigten Ungleichheitsrelation leistet das als Kooperation zwischen Sozial- und Technikwissenschaften konzipierte Forschungsprojekt theoretische und empirische Vorarbeiten für den Antrag einer DFG-Forschungsgruppe. Hierfür kooperieren erstmalig Fachgebiete aus Forschungsfeldern, die sich bislang wenig zur Kenntnis genommen haben (Geschlechtersoziologie, Empirische Bildungsforschung, Geschlechtertheoretische Technikforschung) und eine Schwerpunktbildung an den Schnittstellen von Bildungs- und Hochschulforschung, Geschlechterforschung und Technikforschung ansteuern.

Im Verbundprojekt werden bislang verstreute internationale Forschungsbefunde gebündelt sowie - auf der Basis der Arbeitsschwerpunkte der beteiligten Fachgebiete - empirische Daten zu den genannten Studiengängen (Lehramt, Soziale Arbeit, Technik- und Naturwissenschaften) generiert. Geplant sind eine qualitative und eine quantitative Befragung von Studierenden und Lehrenden, eine wissenssoziologische Dokumentenanalyse zu Maßnahmen, die den Anteil des jeweils unterrepräsentierten Geschlechts erhöhen sollen, sowie eine Actor-Network-Analyse und teilnehmende Beobachtung zu geschlechterbezogenen Tätigkeitsbezügen und Materialisierungsprozessen von Fachkulturen. Ziel des Forschungsprojekts ist die Entwicklung eines geschlechtertheoretisch und empirisch fundierten Forschungsansatzes, der erstmalig sozial- und technikwissenschaftliche Studienfächer systematisch vergleichend untersucht. Auf diesen Ansatz nehmen alle Teilprojekte des im Anschluss geplanten Verbundes (interdisziplinäre DFG-Forschungsgruppe) Bezug, um Ursachen und Hintergründe für ungleiche Präferenzen bei der Studienfachwahl zu erklären.

Kooperation

Soziologie sozialer Differenzierung und Soziokultur (FB 01 Humanwissenschaften)

Prof. Dr. Mechthild Bereswill (Koordination)
Gabriele Lumpp, M.A.

Gender/Diversity in Informatiksystemen (FB 16 Elektrotechnik/Informatik)

Prof. Dr. Claude Draude
Lisa Marie Bläsing, M.A.

Empirische Bildungsforschung (FB 01 Humanwissenschaften)

Prof. Dr. Hans Peter Kuhn
Josefine Spitzner, M.A.

Das von der VW Stiftung geförderte Forschungsprojekt "Re:Coding Algorithmic Culture" ist ein interdisziplinäres Projekt der Fachgebiete Gender/Diversity in Informatiksystemen (Universität Kassel), Soziologie der Diversität (Universität Kassel) und Visuelle Kommunikation (Kunsthochschule Kassel). Das ursprünglich bis Februar 2021 geförderte Projekt wurde von der VW Stiftung bis November 2021 mit dem erweiterten Modul "Re:Coding Algorithmic Cultures of the Pandemic - The Example of Social Distancing" verlängert.

Die Projektbeteiligten gehen der Frage nach, wie durch algorithmisch basierte Sammlungen, Klassifikationenen und Interpretationen von Daten bestehende gesellschaftliche Ungleichheiten/Diskriminerungen fortgeschrieben werden – und auch irritiert, wenn nicht sogar umgeschrieben werden können. Forschungsformate sind Hackathons, Game Jams, Coding-Workshops, partizipatorische Design Labs, Design Noir Experimente, Performances, Ausstellungen sowie Video- und Textanalysen. Diese interdisziplinären Labs sollen kritisches, queer-feministisches, antirassistisches und dekoloniales Wissens im digital-realen Raum weitertreiben.

Website: r-calc.net

Kontakt: Loren Britton