Des­in­for­ma­ti­on auf­de­cken und be­kämp­fen (DO­RI­AN)

For­schungs­feld

Soziale Netzwerke, Blogs und Nachrichtenportale werden heute von verschiedensten Mediendienstleistern, von politischen Parteien und von Privatbürgern genutzt, um Nachrichten zu verbreiten oder zu beziehen. Dabei werden die Internet-basierten Kommunikationsplattformen aber auch zur gezielten Verbreitung von Falschmeldungen (Fake News) eingesetzt. Diese in Täuschungsabsicht über das Internet und insbesondere Social Media verbreiteten Meldungen sollen die öffentliche Meinungsbildung beeinflussen. Falschmeldungen, die die öffentliche Stimmung anheizen und in eine bestimmte Richtung lenken sollen, als gezieltes Mittel im Wahlkampf eingesetzt werden und die Gesellschaft spalten sollen, sind eine Gefahr für den Prozess der freien demokratischen Willensbildung.

Zie­le des For­schungs­pro­jekts

Ziel des interdisziplinären Forschungsprojekts DORIAN ist die Erforschung des Phänomens Desinformation und Meinungsmanipulation im Internet im Spannungsfeld zwischen freier Meinungsäußerung, Privatheitsschutz und Zensur. Die Projektpartner entwickeln mögliche rechtskonforme Methoden und praxistaugliche Handlungsempfehlungen zur Aufdeckung und Bekämpfung von Desinformation im Internet, die sich an die Bürgerinnen und Bürger und die verschiedenen Akteure aus Politik, Medien und Wissenschaft richten.

Mit dem umfassenden interdisziplinären Ansatz sollen auch technische Lösungen zur automatisierten Erkennung und Bekämpfung von Desinformation und Meinungsmanipulation im Internet aufgezeigt werden, die medienpsychologisch sinnvoll sind und im Einklang mit dem Recht auf freie Meinungsäußerung, der Pressefreiheit, dem Zensurverbot und dem Datenschutzrecht stehen.

Dazu werden Ansätze zur wirksamen Bekämpfung von Meinungsmanipulationen konzeptioniert und evaluiert. Wesentliche Herausforderung in diesem Zusammenhang ist die effektive Erkennung von Desinformation, etwa anhand von Merkmalen wie Tenor, Inhalt, Quelle und Verbreitungswege der Online-Beiträge (z.B. unter Verwendung von Social Bots als soziotechnische Infrastruktur). Es wird auch untersucht, wie die Menschen beim Prozess der Meinungsbildung in sozialen Netzwerken Falschinformationen wahrnehmen und auf entsprechende Warnmeldungen und Entfernung der Fake News reagieren.

 

Teil­vor­ha­ben: Rechts­ver­träg­li­che Ge­stal­tung und An­wen­dung

Für die Bearbeitung der rechtlichen Fragestellungen bei der Erforschung von Strategien und Mechanismen zur Aufdeckung und Bekämpfung von Desinformation ist die "Projektgruppe verfassungsverträgliche Technikgestaltung" (provet) im Wissenschaftlichen Zentrum für Informationstechnik-Gestaltung der Universität Kassel (ITeG) unter der Leitung von Prof. Dr. Alexander Roßnagel zuständig. Sie wird aus rechtswissenschaftlicher Perspektive untersuchen, welche Regulierungsansätze im Hinblick auf Desinformation im Internet zur Verfügung stehen und wer Adressat von Regelungen sein kann.

Dazu wird ermittelt, inwieweit Desinformationen gegen die geltende Rechtsordnung verstoßen und wie rechts- und datenschutzkonform gegen sie vorgegangen werden kann. Zudem werden Vorschläge erarbeitet, wie das geltende Recht konsequent angewendet werden kann. Neben der Auswertung bereits bestehender oder beschlossener Regulierungsansätze, wie das umstrittene Netzwerkdurchsetzungsgesetz (NetzDG), wird nach neuen Modellen zur Fortentwicklung des Rechtsrahmens gesucht, die bei der Bekämpfung von Desinformation im Internet die Meinungsfreiheit und informationelle Selbstbestimmung wahren. In diesem Zusammenhang stellt sich zum Beispiel die Frage, ob und inwiefern bestimmte Formen von Desinformation unter Strafe gestellt oder Löschpflichten für Plattformbetreiber modifiziert werden sollten. Außerdem soll überprüft werden, inwieweit Desinformation mittels Microtargeting, das auf der Verarbeitung personenbezogener Daten der Adressaten der Information beruht, zulässig ist.

Pro­jek­t­in­fos

Förderung:
Bundesministerium für Bildung und Forschung (BMBF)

Laufzeit:
August 2017 - September 2019

Projektverantwortlicher:
Prof. Dr. Alexander Roßnagel

Ansprechpartner:
Paul Christopher Johannes LL.M.
Ass. iur. Lena Isabell Löber

Pro­jekt­part­ner

Fraunhofer-Institut für Sichere Informationstechnologie (SIT):

(Koordination)

Prof. Dr. rer.-nat. Michael Waidner

 

Universität Duisburg-Essen, Medienpsychologie (Uni DUE):

Prof. Dr. Nicole Krämer

 

Hochschule der Medien Stuttgart, Journalistik (HdM):

Pro­jekt­ver­lauf

  • Pressemitteilung der Universität Kassel. (04.09.2017)
  • Berichterstattung B. Ludwig, „Kampf gegen Fake News: Uni Kassel ist an Forschung zum Thema beteiligt“, HNA. (25.09.2017)
  • Projektvorstellung L. Löber, „DORIAN: Forschungsprojekt wird Desinformation im Internet aufdecken und bekämpfen“, ZD-Aktuell 2017, 05795. (Oktober 2017)
  • Veranstaltung Kick-Off Workshop in Darmstadt. (06.10.2017)
  • Interview „Ein Mittel gegen Fake News”, Interview mit Prof. Dr. Alexander Roßnagel, publik 04/2017, S. 6 ff. (Dezember 2017).
  • Veranstaltung Arbeitsworkshop in Darmstadt. (08.02.2018)
  • Vortrag L. Löber und L. Rösner, „Phänomen Fake News: Falschmeldungen im digitalen Zeitalter“, Grimmwelt Kassel. (26.04.2018)
  • Teilnahme von Prof. Dr. A. Roßnagel u. L. Löber an Workshops der Bertelsmann Stiftung und MedWatch „Systematisierung und Identifizierung von schädlichen Gesundheitsinformationen“ und „Strategien gegen gefährliche Gesundheitsinformationen“, Gütersloh. (13.04.2018 u. 08.06.2018)
  • Veranstaltung Arbeitsworkshop in Stuttgart. (03.07.2018)
  • Veranstaltung Arbeitsworkshop in Duisburg. (21.09.2018)
  • Veröffentlichung Policy Paper DORIAN „Desinformation aufdecken und bekämpfen. Handlungsempfehlungen“. (15.11.2018)
  • Vortrag Prof. Dr. A. Roßnagel, „Fake News im digitalen Zeitalter“, wissenschaftlicher Impuls zum politischen Nachtgebet am Buß- und Bettag, Adventskirche Kassel. (21.11.2018)
  • Veröffentlichung L. Löber/L. Rösner, „Fakt oder Fake? – Falschinformationen im digitalen Zeitalter aus medienpsychologischer und rechtlicher Perspektive“, in: Grimmwelt Kassel (Hrsg.), Sagen! Vom Erzählen zwischen Antike und digitalem Zeitalter, 2018, S. 87-97. (Dezember 2018)
  • Veröffentlichung L. Löber/A. Roßnagel, „Das Netzwerkdurchsetzungsgesetz in der Umsetzung. Bilanz nach den ersten Transparenzberichten“, in: MMR 2019, S. 71-76. (Februar 2019)
  • Berichterstattung „Mehr Schutz vor ,Fake News‘. Kasseler Forscher empfehlen konkrete Schritte gegen Desinformation im Netz“, HNA, S. 12. (11.03.2019)
  • Teilnahme von Prof. Dr. A. Roßnagel als Sachverständiger an Anhörung des BMWi zur Kennzeichnung von Social Bots. (April 2019)
  • Veranstaltung Arbeitsworkshop in Darmstadt. (29.04.2019)
  • Vortrag Prof. Dr. A. Roßnagel, „Desinformation im Internet erkennen und bekämpfen“, Vortragsreihe „Smart Days – Digitalisierung stellt sich vor“ von „Der Paritätische“ und der Stadt Kassel, Haus der Sozialwirtschaft, Kassel. (15.05.2019)
  • Veranstaltung Arbeitsworkshop in Darmstadt. (03.06.2019)
  • Veröffentlichung L. Löber/A. Roßnagel, „Kennzeichnung von Social Bots. Transparenzpflichten zum Schutz integrer Kommunikation“, in: MMR 2019, S. 493-498. (August 2019)
  • Veröffentlichung Prof. Dr. A. Roßnagel als Hauptautor des Impulspapiers „Gefährdung demokratischer Willensbildung durch Desinformation“, Wissenschaftliche Arbeitsgruppe Nationaler Cyber-Sicherheitsrat. (Dezember 2019)
  • Veröffentlichung L. Löber/A. Roßnagel, „Desinformation aus der Perspektive des Rechts“, in: Steinebach, M./Bader, K./Rinsdorf, L./Krämer, N./Roßnagel, A. (Hrsg.), Desinformation aufdecken und bekämpfen. Interdisziplinäre Ansätze gegen Desinformationskampagnen und für Meinungspluralität, Nomos, Baden-Baden 2020, S. 149-194. (Januar 2020)
  • Veröffentlichung L. Löber, „Abschluss des Forschungsprojekts ‚Desinformation aufdecken und bekämpfen‘ (DORIAN)“, ZD-Aktuell 2020, 06980. (Februar 2020)
  • Rundfunksendung Prof. Dr. A. Roßnagel im Podcast von M. Schramm, „Meinungsmacher im Netz: Die Macht der Social Media“, ausgestrahlt in der Sendereihe „IQ - Wissenschaft und Forschung“ in Bayern2, am 7.5.2020 von 18:05 - 18:30 Uhr. (Mai 2020)
  • Berichterstattung „Forschung gegen Desinformation im Internet“, Nachricht des BMBF vom 14.07.2020. (Juli 2020)