Die freie demokratische Willensbildung wird zunehmend durch Desinformationen, die in Messenger-Diensten (z.B. WhatsApp und Telegram) verbreitet werden, herausgefordert, wie sich im Fall der massenhaften Verbreitung von falschen, ungenauen oder irreführenden Informationen in Bezug auf die Covid-19-Pandemie zeigte („Infodemie“).

Im Gegensatz zu öffentlichen Beiträgen in sozialen Netzwerken und quasi-journalistischen Plattformen, findet die Kommunikation durch Messenger-Dienste überwiegend im Unsichtbaren statt (sog. „Dark social“). Prägend für diese Verbreitungsform ist auch, dass der Informationsfluss schnell, direkt und massenhaft zwischen Einzelpersonen, als auch in Gruppen, Kanälen und Broadcasts erfolgt.

Um den hochdynamischen Gegenstand der digitalen Desinformation umfassend zu untersuchen, fand im Verbundprojekt DYNAMO eine interdisziplinäre Zusammenarbeit von Forschenden der Informatik, Journalistik, Sozialpsychologie und Rechtswissenschaften statt.

Aufbauend auf bisherige Forschungsergebnisse der Projektpartner im Bereich der digitalen Desinformation wurden im Projekt DYNAMO Messenger-Dienste und dort verwendete Formate wie Audio- und Videonachrichten fokussiert. Zunächst erfolgte eine Auswahl von Themen mit hohem Desinformationspotential und die Identifikation relevanter Kanäle. Sodann wurde eine automatisierte Datenerhebung vorgenommen, wobei der Datenschutz durch eine Privacy-by-Design-Infrastruktur gesichert wurde. Auf dieser Grundlage konnten Verbreitungsmuster innerhalb Messenger sowie von Messengern in andere Medien erkannt werden. Zudem wurden Nutzungspraktiken, emotionale Komponenten sowie Eigenschaften von Desinformationen bestimmt, die zu einer besonders starken Verbreitung führen. Im nächsten Schritt wurden gesellschaftliche, technische und juristische Maßnahmen zur Bekämpfung von Desinformationen untersucht.

Die Universität Kassel, Fachgebiet Öffentliches Recht, IT-Recht und Umweltrecht, widmete sich der rechtswissenschaftlichen Untersuchung des Gegenstands.

Dabei wurden verfassungsrechtliche Grundprobleme, die mit den Dynamiken der digitalen Desinformation einhergehen, erörtert. Insbesondere wegen der Privatheit einiger Verbreitungsräume und Unsichtbarkeit des Informationsflusses stellten sich im Vergleich zu öffentlich zugänglichen sozialen Medien und quasi-journalistischen Plattformen neue rechtliche Fragestellungen im Hinblick auf eine grundrechtskonforme Erkennung und Bekämpfung von Desinformation. So waren Grundrechte, wie das Fernmeldegeheimnis, Meinungsfreiheit, Wissenschaftsfreiheit und Berufsfreiheit als auch das Demokratieprinzip, dessen Grundvoraussetzung die freie Willensbildung ist, in einen optimalen Ausgleich zu bringen.

Weitere zentrale Fragestellungen stellten sich in Bezug auf die rechtliche Verantwortlichkeit der Messenger-Dienst-Anbieter und die Rechtmäßigkeit der sog. „Community Standards“.

Zudem wurden die Auswirkungen und Effektivität rechtlicher Maßnahmen untersucht. Während des Projektverlaufs haben sich wesentliche Änderungen des Rechtsrahmens für Desinformation in Messenger-Diensten ergeben. Zu Beginn des Projekts stellten vor allem nationale Regelungen wie das Telekommunikationsgesetz, Telemediengesetz, Netzwerkdurchsetzungsgesetz und der Medienstaatsvertrag zentrale Rechtsquellen der Untersuchungen dar. Im weiteren Projektverlauf wurden zahlreiche neue Verordnungen und Rechtsakte, insb. auf EU-Ebene, verabschiedet und sind teilweise bereits in Geltung getreten. Insb. der Digital Services Act (DSA) nimmt mittlerweile eine Schlüsselrolle in der Plattformregulierung der EU ein und soll Desinformation entgegenwirken. Von Bedeutung sind außerdem die Verordnung über die Transparenz und das Targeting politischer Werbung (TT-VO), das EU-Medienfreiheitsgesetz (EMFA) sowie das Gesetz über Künstliche Intelligenz (KI-VO) und der im Jahr 2022 überarbeitete EU-Verhaltenskodex gegen Desinformation. 

Das Forschungsprojekt DYNAMO zeigte, dass der mittlerweile weitgehend harmonisierte EU-Rechtsrahmen die öffentlichen Funktionen von Messenger-Diensten nun besser berücksichtigt als zuvor. Jedoch enthalten die aktuellen Vorschriften nur wenige Maßnahmen, die direkt gegen Desinformation wirken können. 

Außerdem wurden Ideen für weitere Regulierungsinstrumente konzipiert. Untersucht wurden vor allem Chancen und Risiken des sog. Prebunkings als Maßnahme gegen Desinformation in Messenger-Diensten. Prebunking ist ein Überbegriff, der präventive Maßnahmen umfasst, die darauf abzielen, Individuen vor dem Einfluss von Falschinformationen zu schützen und die Resilienz gegen Desinformation zu stärken. 

Die Projektkoordination erfolgte durch das Fraunhofer-Institut für Sichere Informationstechnologie SIT (Prof. Steinebach). Weitere Projektpartner waren die Universität Duisburg-Essen, Sozialpsychologie (Prof. Krämer), und die Hochschule der Medien Stuttgart, Journalistik (Prof. Bader und Prof. Rinsdorf).

Weitergehende Informationen zu DYNAMO finden sich auf dem Internetauftritt des Ministeriums.

Finanzierung:
Bundesministerium für Bildung und Forschung

Laufzeit:
September 2021 - Dezember 2024

Projektverantwortlicher: 
Prof. Dr. Gerrit Hornung, LL.M.

Mitarbeiterin: 
Tahireh Panahi