Mit in den letzten Jahren zunehmender Datenverfügbarkeit hat sich ein Repertoire entwickelt, das nicht nur Nutzen bringt, sondern ebenso großes Missbrauchspotenzial. Eine äußerst aktuelle und sensible Thematik ist hierbei die Generierung von sog. „Deepfakes“, die erstmalig im Jahr 2017 auf der Plattform „reddit“ Erwähnung fanden. Die Präsenz dieser durch Künstliche Intelligenz erzeugten oder manipulierten Bild-, Ton- oder Videoinhalte nimmt nachweislich zu und stellt eine reelle Bedrohung für die Persönlichkeitsrechte der Bürger:innen und das Vertrauen in digitale Medien dar.

Abseits der Verwendung für schadlose Unterhaltungs- und Kunstzwecke und im Allgemeinen förderliche Zwecke werden diverse Rechtsgebiete berührt, sodass vornehmlich den Auswirkungen von Deepfake-Technologien auf den Gebieten des Delikts-, Urheber-, Plattform-, Datenschutz-, Verfassungs-, Straf- und Strafprozessrechts besondere Aufmerksamkeit gilt.

Das übergeordnete Ziel des Verbundprojektes „Privatheit und weitere Rechte der Bürgerinnen und Bürger schützen vor Missbrauch durch Deepfakes (DEEP-PRISMA)“ besteht daher darin, die Bedingungen zur Wahrnehmung des Rechtes auf informationelle Selbstbestimmung und verwandter Rechte im Kontext von Deepfakes zu verbessern. Hierfür ist es zunächst notwendig, die Auswirkungen missbräuchlicher Deepfakes zu untersuchen und sowohl bestehende Rechte als auch Regulierungen zum Missbrauchsschutz mithilfe mehrschichtiger empirischer Erhebungen einer systematischen Effektivitätsprüfung zu unterziehen. Darauf aufbauend sollen im interdisziplinären Austausch Handlungsempfehlungen zur Rechtewahrnehmung und -durchsetzung abgeleitet und Vorschläge für Reformüberlegungen entwickelt werden. 

Das Vorhaben leistet somit einen Beitrag zur Stärkung der Grundrechte und Sicherung der Privatsphäre sowie Persönlichkeitsrechte im Zusammenhang mit Technologien der Künstlichen Intelligenz. Daneben fördert das Projekt eine souveräne Technikgestaltung nach demokratischen Maßstäben und sorgt zugleich für ein erweitertes Verständnis im individuellen Umgang mit Daten.

Das Projekt wird vom Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) gefördert. Die Laufzeit beträgt drei Jahre (02/2026-01/2029).

Verbundpartner: 

• Fraunhofer Institut für System- und Innovationsforschung (ISI), Karlsruhe (Koordination)
• Universität Tübingen – Internationales Zentrum für Ethik in den Wissenschaften (IZEW)
• Universität Karlsruhe – Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)
• Universität Kassel – Fachgebiet Öffentliches Recht, Projektgruppe verfassungsverträgliche Technikgestaltung (provet) 

Weitere Informationen finden Sie auf den Internetseiten des IZEW und des KIT. 

Finanzierung:
Bundesministerium für Forschung, Technologie und Raumfahrt 

Laufzeit:
Februar 2026 - Januar 2029 

Projektverantwortlicher:
Priv.- Doz. Dr. Christian Geminn 

Ansprechpartner:
Leon Francis