Videonutzung in der Adoleszenz: Manipulation, Propaganda, Information und Resilienz (VAMPIR)

Videobasierte Desinformationen und Deepfakes können vornehmlich Jugendliche gefährden. Zu einer raschen und massenhaften Verbreitung tragen heute vor allem Videoplattformen wie TikTok bei, die besonders bei jungen Menschen beliebt sind. Die schnelle und algorithmisch geförderte Verbreitung kurzer Videos ermöglicht es, falsche oder verzerrte Informationen rasch einer großen Zielgruppe zugänglich zu machen. Besonders problematisch sind emotionalisierte Inhalte sowie KI-generierte Deepfakes, die täuschend echt wirken und zur politischen Einflussnahme, Verleumdung oder Meinungsmanipulation genutzt werden können. Außerdem können Influencer diese Inhalte gezielt verbreiten, häufig ohne ihre Motive oder Finanzierungsquellen offenzulegen, was durch ihre Reichweite bei Jugendlichen ein erhebliches Manipulationspotenzial birgt. 

Das interdisziplinäre Verbundprojekt

Im Rahmen des Verbundprojekts „Videonutzung in der Adoleszenz: Manipulation, Propaganda, Information und Resilienz (VAMPIR)“ sollen technische, gesellschaftliche und rechtliche Maßnahmen untersucht werden, um videobasierten Desinformationen und Deepfakes entgegenzuwirken. Kernziele sind die Identifikation und Analyse von Desinformationsstrategien sowie die Entwicklung KI-gestützter Verfahren zur Erkennung von Deepfakes. Außerdem soll erforscht werden, wie sich visuell vermittelte Desinformation psychologisch von textbasierter unterscheidet und welche Wirkungen sie speziell auf Jugendliche hat. Schließlich wird der Rechtsrahmen für die Erkennung und Bekämpfung von videobasierter Desinformation und Deepfakes untersucht. Aufbauend auf den Ergebnissen sollen gemeinsame Handlungsempfehlungen für Gesetzgeber und Plattformbetreiber entwickelt werden, wozu auch Strategien zur Stärkung der Medienkompetenz Jugendlicher zählen.

Das Konsortium besteht aus den folgenden Partnern:

Das Konsortium hat bereits in vergangenen Forschungsprojekten zusammengearbeitet, bei denen die Erkennung und Bekämpfung von Desinformation im Fokus lag (DORIAN und DYNAMO). Im Rahmen des Projekts VAMPIR wird das Konsortium mit einer Reihe assoziierter Partner, unter anderem aus dem Bildungsbereich, zusammenarbeiten. Dadurch sollen insbesondere praxisgerechte Lösungen entwickelt und wissenschaftliche Erkenntnisse in Lehrmaterial integriert werden.

Das rechtswissenschaftliche Teilvorhaben

Dem rechtswissenschaftlichen Teilvorhaben obliegt es, Vorschläge für rechtliche Maßnahmen zu entwickeln, die mit den empirischen Ergebnissen der Partnerdisziplinen im Einklang stehen. 

Die Universität Kassel untersucht zunächst die rechtlichen Möglichkeiten des Datenzugangs bei Vermittlungsdiensten für Forschende und beantragt die Zulassung des Projektkonsortiums zu relevanten Diensten (vgl. Art. 40 DSA). Außerdem werden datenschutzrechtliche Anforderungen an die Projektinfrastruktur bestimmt und der besondere Schutzbedarf Minderjähriger ermittelt. Hierbei erfolgt eine enge Zusammenarbeit mit dem Fraunhofer SIT, um bestehende Lösungen zur Erkennung von Deepfakes datenschutzrechtlich zu bewerten und den Privacy-by-Design-Ansatz zu evaluieren. 

Den Schwerpunkt des rechtswissenschaftlichen Teilprojekts bildet die Analyse und Bewertung des rechtlichen Rahmens für die Erkennung und Bekämpfung von videobasierter Desinformation und Deepfakes. Betrachtet werden zunächst Anforderungen des deutschen Verfassungsrechts und EU-Primärrechts. Sodann werden spezifische Vorschriften des aktuellen Sekundärrechts der EU untersucht (z.B. DSA, DSGVO, KI-Verordnung, AVMD-Richtlinie). Auf nationaler Ebene sind vor allem das DDG, der Medienstaatsvertrag und der Jugendmedienschutz-Staatsvertrag zu berücksichtigen. Zu bewerten ist insbesondere, ob die genannten Rechtsakte hinreichend konkrete Vorgaben zum Schutz von Jugendlichen vor videobasierter Desinformation enthalten, wobei auch Vorschriften zu Altersbeschränkungen sowie Risikomanagementpflichten vertieft analysiert werden. Zudem sollen Vorgaben der KI-Verordnung untersucht werden, etwa die Pflichten zur Kennzeichnung von synthetischen Inhalten und Deepfakes. Auch Soft-Law-Instrumente (z.B. Leitlinien, Verhaltenskodizes und Krisenprotokolle) sowie nationale Einrichtungen der regulierten Selbstkontrolle sind in die Untersuchung des Rechtsrahmens einzubeziehen, ebenso wie das Zusammenspiel staatlicher und privater Regulierung (hybride Governance). Weiterhin werden Umsetzung und Aufsicht der Vorschriften evaluiert sowie aktuelle EU-Verfahren gegen sehr große Online-Plattformen (z.B. TikTok, Meta, X) und vergleichende Analysen zu Drittstaaten durchgeführt. 

Schließlich sollen rechtspolitische Reformvorschläge bewertet werden (z.B. Reform der KI-Verordnung, Entwurf des Digital Fairness Acts und Gesetzesinitiativen zur Strafbarkeit von Deepfakes). Dabei wird insbesondere ermittelt, welche Spielräume für nationalstaatliche Regelungen verbleiben, um gegen videobasierte Desinformation und Deepfakes vorzugehen.

Aufbauend auf diesen Untersuchungen sollen Vorschläge für rechtliche Maßnahmen erarbeitet werden, die auf den empirischen Erkenntnissen der Partnerdisziplinen basieren. Hierbei sollen sowohl präventive als auch repressive Maßnahmen eruiert werden, die auf den besonderen Schutzbedarf Jugendlicher zugeschnitten sind. 

Förderung und weitere Informationen

VAMPIR wird vom Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) mit 2,07 Mio. Euro gefördert (Förderkennzeichen: 16KIS2498K – 16KIS2502). Die Laufzeit beträgt drei Jahre (1. April 2026 bis 31. März 2029).

Weitere Informationen finden Sie auf der Internetseite des BMFTR.

Projektinfos

Finanzierung:
Bundesministerium für Forschung, Technologie und Raumfahrt

Laufzeit:
April 2026 - März 2029

Projektverantwortlicher:
Prof. Dr. Gerrit Hornung, LL.M.

Ansprechpartnerin:
Tahireh Panahi