Desinformation aufdecken und bekämpfen (DORIAN)

Forschungsfeld

Soziale Netzwerke, Blogs und Nachrichtenportale werden heute von verschiedensten Mediendienstleistern, von politischen Parteien und von Privatbürgern genutzt, um Nachrichten zu verbreiten oder zu beziehen. Dabei werden die Internet-basierten Kommunikationsplattformen aber auch zur gezielten Verbreitung von Falschmeldungen (Fake News) eingesetzt. Diese in Täuschungsabsicht über das Internet und insbesondere Social Media verbreiteten Meldungen sollen die öffentliche Meinungsbildung beeinflussen. Falschmeldungen, die die öffentliche Stimmung anheizen und in eine bestimmte Richtung lenken sollen, als gezieltes Mittel im Wahlkampf eingesetzt werden und die Gesellschaft spalten sollen, sind eine Gefahr für den Prozess der freien demokratischen Willensbildung.

Ziele des Forschungsprojekts

Ziel des interdisziplinären Forschungsprojekts DORIAN ist die Erforschung des Phänomens Desinformation und Meinungsmanipulation im Internet im Spannungsfeld zwischen freier Meinungsäußerung, Privatheitsschutz und Zensur. Die Projektpartner entwickeln mögliche rechtskonforme Methoden und praxistaugliche Handlungsempfehlungen zur Aufdeckung und Bekämpfung von Desinformation im Internet, die sich an die Bürgerinnen und Bürger und die verschiedenen Akteure aus Politik, Medien und Wissenschaft richten.

Mit dem umfassenden interdisziplinären Ansatz sollen auch technische Lösungen zur automatisierten Erkennung und Bekämpfung von Desinformation und Meinungsmanipulation im Internet aufgezeigt werden, die medienpsychologisch sinnvoll sind und im Einklang mit dem Recht auf freie Meinungsäußerung, der Pressefreiheit, dem Zensurverbot und dem Datenschutzrecht stehen.

Dazu werden Ansätze zur wirksamen Bekämpfung von Meinungsmanipulationen konzeptioniert und evaluiert. Wesentliche Herausforderung in diesem Zusammenhang ist die effektive Erkennung von Desinformation, etwa anhand von Merkmalen wie Tenor, Inhalt, Quelle und Verbreitungswege der Online-Beiträge (z.B. unter Verwendung von Social Bots als soziotechnische Infrastruktur). Es wird auch untersucht, wie die Menschen beim Prozess der Meinungsbildung in sozialen Netzwerken Falschinformationen wahrnehmen und auf entsprechende Warnmeldungen und Entfernung der Fake News reagieren.

Teilvorhaben: Rechtsverträgliche Gestaltung und Anwendung

Für die Bearbeitung der rechtlichen Fragestellungen bei der Erforschung von Strategien und Mechanismen zur Aufdeckung und Bekämpfung von Desinformation ist die "Projektgruppe verfassungsverträgliche Technikgestaltung" (provet) im Wissenschaftlichen Zentrum für Informationstechnik-Gestaltung der Universität Kassel (ITeG) unter der Leitung von Prof. Dr. Alexander Roßnagel zuständig. Sie wird aus rechtswissenschaftlicher Perspektive untersuchen, welche Regulierungsansätze im Hinblick auf Desinformation im Internet zur Verfügung stehen und wer Adressat von Regelungen sein kann.

Dazu wird ermittelt, inwieweit Desinformationen gegen die geltende Rechtsordnung verstoßen und wie rechts- und datenschutzkonform gegen sie vorgegangen werden kann. Zudem werden Vorschläge erarbeitet, wie das geltende Recht konsequent angewendet werden kann. Neben der Auswertung bereits bestehender oder beschlossener Regulierungsansätze, wie das umstrittene Netzwerkdurchsetzungsgesetz (NetzDG), wird nach neuen Modellen zur Fortentwicklung des Rechtsrahmens gesucht, die bei der Bekämpfung von Desinformation im Internet die Meinungsfreiheit und informationelle Selbstbestimmung wahren. In diesem Zusammenhang stellt sich zum Beispiel die Frage, ob und inwiefern bestimmte Formen von Desinformation unter Strafe gestellt oder Löschpflichten für Plattformbetreiber modifiziert werden sollten. Außerdem soll überprüft werden, inwieweit Desinformation mittels Microtargeting, das auf der Verarbeitung personenbezogener Daten der Adressaten der Information beruht, zulässig ist.

Projektpartner

Fraunhofer-Institut für Sichere Informationstechnologie (SIT):

(Koordination)

Universität Duisburg-Essen, Medienpsychologie (Uni DUE):

Hochschule der Medien Stuttgart, Journalistik (HdM):

Projektverlauf

04.09.2017   Pressemitteilung der Universität Kassel
25.09.2017 Berichterstattung B. Ludwig, „Kampf gegen Fake News: Uni Kassel ist an Forschung zum Thema beteiligt“, HNA
Oktober 2017 Projektvorstellung L. Löber, „DORIAN: Forschungsprojekt wird Desinformation im Internet aufdecken und bekämpfen“, ZD-Aktuell 2017, 05795
06.10.2017 Veranstaltung Kick-Off Workshop in Darmstadt
Dezember 2017 Interview „Ein Mittel gegen Fake News”, Interview mit Prof. Dr. Alexander Roßnagel, publik 04/2017, S. 6 ff.
08.02.2018 Veranstaltung Arbeitsworkshop in Darmstadt
26.04.2018 Vortrag L. Löber und L. Rösner, „Phänomen Fake News: Falschmeldungen im digitalen Zeitalter“, Grimmwelt Kassel
13.04.2018 u.
08.06.2018
  Teilnahme von Prof. Dr. A. Roßnagel u. L. Löber an Workshops der Bertelsmann Stiftung und MedWatch „Systematisierung und Identifizierung von schädlichen Gesundheitsinformationen“ und „Strategien gegen gefährliche Gesundheitsinformationen“, Gütersloh
03.07.2018 Veranstaltung Arbeitsworkshop in Stuttgart
21.09.2018 Veranstaltung Arbeitsworkshop in Duisburg
15.11.2018 Veröffentlichung Policy Paper DORIAN „Desinformation aufdecken und bekämpfen. Handlungsempfehlungen“
21.11.2018 Vortrag Prof. Dr. A. Roßnagel, „Fake News im digitalen Zeitalter“, wissenschaftlicher Impuls zum politischen Nachtgebet am Buß- und Bettag, Adventskirche Kassel
Dezember 2018 Veröffentlichung L. Löber/L. Rösner, „Fakt oder Fake? – Falschinformationen im digitalen Zeitalter aus medienpsychologischer und rechtlicher Perspektive“, in: Grimmwelt Kassel (Hrsg.), Sagen! Vom Erzählen zwischen Antike und digitalem Zeitalter, 2018, S. 87-97
Februar 2019 Veröffentlichung L. Löber/A. Roßnagel, „Das Netzwerkdurchsetzungsgesetz in der Umsetzung. Bilanz nach den ersten Transparenzberichten“, in: MMR 2019, S. 71-76
11.03.2019 Berichterstattung „Mehr Schutz vor ,Fake News‘. Kasseler Forscher empfehlen konkrete Schritte gegen Desinformation im Netz“, HNA, S. 12
April 2019   Teilnahme von Prof. Dr. A. Roßnagel als Sachverständiger an Anhörung des BMWi zur Kennzeichnung von Social Bots
29.04.2019 Veranstaltung Arbeitsworkshop in Darmstadt
15.05.2019 Vortrag Prof. Dr. A. Roßnagel, „Desinformation im Internet erkennen und bekämpfen“, Vortragsreihe „Smart Days – Digitalisierung stellt sich vor“ von „Der Paritätische“ und der Stadt Kassel, Haus der Sozialwirtschaft, Kassel
03.06.2019 Veranstaltung Arbeitsworkshop in Darmstadt
August 2019 Veröffentlichung L. Löber/A. Roßnagel, „Kennzeichnung von Social Bots. Transparenzpflichten zum Schutz integrer Kommunikation“, in: MMR 2019, S. 493-498
  Veröffentlichung L. Löber/A. Roßnagel, „Desinformation aus der Perspektive des Rechts“, in: Bader, K./Krämer, N./Roßnagel, A./Steinebach, M. (Hrsg.), Desinformation aufdecken und bekämpfen, Nomos, Baden-Baden 2019, i.E.