Deepfakes: Universität Kassel forscht zu besseren Schutzmechanismen

Deepfakes – also mithilfe Künstlicher Intelligenz erzeugte oder manipulierte Bild-, Ton- und Videoinhalte – verbreiten sich aufgrund fortschreitender Deep-Learning-Verfahren zunehmend und verändern den digitalen Kommunikationsraum. Sie können Persönlichkeitsrechte verletzen, politische Diskurse beeinflussen und das Vertrauen in digitale Medien schwächen.

„Ziel ist es, die Möglichkeiten zur Wahrnehmung von Grund- und Persönlichkeitsrechten im digitalen Raum zu verbessern. Dafür prüfen wir, wie wirksam bestehende rechtliche Regelungen im Umgang mit Deepfakes sind“, sagt der Projektverantwortliche Priv.-Doz. Dr. Christian Geminn vom Fachbereich Wirtschaftswissenschaften der Universität Kassel.

Im Vorhaben arbeiten Partner aus Rechts-, Sozial- und Technikwissenschaften zusammen. Sie untersuchen die gesellschaftlichen und rechtlichen Folgen missbräuchlicher Deepfakes und leiten daraus Handlungsempfehlungen sowie Vorschläge für mögliche Weiterentwicklungen ab.

Die Universität Kassel wirkt über die Gruppe „verfassungsverträgliche Technikgestaltung (provet)“ am Wissenschaftlichen Zentrum für Informationstechnik-Gestaltung (ITeG) mit. Sie analysiert und bewertet insbesondere die relevanten gesetzlichen Vorschriften zum Schutz vor missbräuchlicher Nutzung von Deepfake-Technologien. Zudem beteiligt sie sich aus rechtswissenschaftlicher Perspektive an der Planung und Durchführung empirischer Studien zur Frage, wie wirksam Abhilfemaßnahmen für Betroffene durchgesetzt werden können. Auf Basis dieser Ergebnisse und einer zusammengeführten Analyse des Rechtsrahmens werden Vorschläge für eine mögliche Regulierung entwickelt.

Die Koordination übernimmt das Fraunhofer-Institut für System- und Innovationsforschung (ISI) in Karlsruhe. Weitere Partner sind die Universität Tübingen (Internationales Zentrum für Ethik in den Wissenschaften (IZEW) sowie das Karlsruher Institut für Technologie (Institut für Technikfolgenabschätzung und Systemanalyse, ITAS).

Das Vorhaben läuft über drei Jahre und soll den Schutz der Privatsphäre sowie die wirksame Durchsetzung von Rechten im digitalen Raum stärken.

Weitere Projektinfos finden Sie auf der Seite des Fachgebiets Öffentliches Recht, IT-Recht und Umweltrecht. 

Kontakt:
Priv.-Doz. Dr. Christian Geminn
Institut für Wirtschaftsrecht
Tel.: +49 561 804-6088
E-Mail: c.geminn[at]uni-kassel[dot]de 

Leon Francis
Institut für Wirtschaftsrecht
Tel.: +49 561 804-6007
E-Mail: l.francis[at]uni-kassel[dot]de

Was heißt das zusammengefasst?

• Forschung für Rechtssicherheit: Die Universität Kassel untersucht im Verbundprojekt „DEEP-PRISMA“, wie Persönlichkeitsrechte im digitalen Raum besser vor Manipulationen durch Deepfakes geschützt werden können.
• Analyse und Regulierung: Das interdisziplinäre Team bewertet die Wirksamkeit bestehender Gesetze und erarbeitet konkrete Handlungsempfehlungen für Politik und Regulierung, um die Verbreitung missbräuchlicher KI-Inhalte einzudämmen.
• Starke Förderung: Das dreijährige Vorhaben wird vom Bundesministerium für Forschung, Technologie und Raumfahrt gefördert und bündelt Expertise aus Rechts-, Sozial- und Technikwissenschaften.