Dossier Digitale Desinformation bpb.de Dossier: Digitale Desinformation (Erstellt am 30.09.2021) 2 Einleitung Im Vorfeld von Wahlen stellt sich zunehmend die Frage, welchen Einfluss haben Bots und andere Formen automatisierter Kommunikation auf Meinungsbildung und Wahlentscheidung? Wer kontrolliert den Diskurs in den sozialen Medien? Spielt sich die Diskussion überhaupt noch dort ab? Nutzerinnen und Nutzer wandern zunehmend zu anderen Angeboten ab, in denen gar nicht mehr öffentlich kommuniziert wird. Führt die Verlagerung der Kommunikation in die geschlossene Kanäle der Messenger-Dienste zum Tod der digitalen politischen Öffentlichkeit? Mehr dazu im Dossier "Digitale Desinformation". bpb.de Dossier: Digitale Desinformation (Erstellt am 30.09.2021) 3 Inhaltsverzeichnis 1. Desinformation und Bundestagswahl 2021 5 1.1 Bundestagswahl und digitale Desinformation IV 6 1.2 Bundestagswahl und digitale Desinformation III 8 1.3 Bundestagswahl und digitale Desinformation II 11 1.4 Das Narrativ vom Wahlbetrug 14 1.5 Hybride Bedrohung als internationale Herausforderung 17 1.6 Selbstverpflichtungen für einen fairen digitalen Wahlkampf 20 1.7 Transparenz als Mittel gegen die digitale Verbreitung von Desinformation 24 1.8 Bundestagswahl und digitale Desinformation I 28 2. Desinformation - Der globale Blick 31 2.1 Podcast: Netz aus Lügen – Der Hack (1/7) 33 2.2 Impressum 48 3. Was ist Digitale Desinformation 49 3.1 Desinformation: Vom Kalten Krieg zum Informationszeitalter 50 3.2 Von der Aufmerksamkeits-Ökonomie zur desinformierten Gesellschaft? 54 3.3 Fake News als aktuelle Desinformation 58 3.4 Propaganda 4.0 von Europas Rechtspopulisten 62 4. Meinungsbildung- und Informationsvermittlung unter Bedingungen digitaler Desinformation 66 4.1 Microtargeting und Manipulation: Von Cambridge Analytica zur Europawahl 67 4.2 Von der Schwierigkeit, Fake News zu regulieren: Frankreichs Gesetzgebung gegen die 71 Verbreitung von Falschnachrichten im Wahlkampf 4.3 Bürger oder Bots? Automatisierte Kommunikation im Bundestagswahlkampf 2017 75 4.4 Die Medienlogik der Informationsintermediäre und ihre Bedeutung für Meinungsbildung 80 5. Digitale Desinformation und Soziale Medien 85 5.1 Warnen oder Löschen: Wie sollen Plattformen mit Falschmeldungen verfahren? 86 5.2 Über die "Messengerisierung" der Politik 91 5.3 Neue Herausforderung "Dark Social"? 94 5.4 Social Bots: Zwischen Phänomen und Phantom 98 5.5 Relevanz und Regulierung von Social Bots 102 bpb.de Dossier: Digitale Desinformation (Erstellt am 30.09.2021) 4 6. Wie umgehen mit Digitaler Desinformation? 106 6.1 Lügen im Netz: Sich davor schützen und andere aufklären 107 6.2 Kritische Medienkompetenz als Säule demokratischer Resilienz in Zeiten von "Fake News" 111 und Online-Desinformation 6.3 Strategien der Europäischen Union gegen Desinformation 115 6.4 Katz-und-Maus-Spiel mit Desinformation: Die Möglichkeiten und Grenzen von Faktenchecks 120 6.5 Wahlmanipulation: Diese Schutzmaßnahmen treffen Internetkonzerne 124 7. Presseschau zur Europawahl 2019: Digitale Desinformation und Fake News 128 7.1 Presseschau vom 30.5. 131 7.2 Presseschau vom 29.5. 134 7.3 Presseschau vom 28.5. 137 7.4 Presseschau vom 27.5. 140 7.5 Presseschau vom 24.5. 143 7.6 Presseschau vom 23.5. 149 7.7 Presseschau vom 22.5. 152 7.8 Presseschau vom 21.5. 155 7.9 Presseschau vom 20.5. 159 7.10 Presseschau vom 17.5. 162 7.11 Presseschau vom 16.5. 165 7.12 Presseschau vom 15.5. 168 7.13 Presseschau vom 14.5. 171 7.14 Presseschau vom 13.5. 174 7.15 Presseschau vom 10.5. 177 7.16 Presseschau vom 9.5. 180 7.17 Presseschau vom 8.5. 183 7.18 Presseschau vom 7.5. 186 7.19 Presseschau vom 6.5. 189 7.20 Presseschau vom 3.5. 192 8. Redaktion 195 bpb.de Dossier: Digitale Desinformation (Erstellt am 30.09.2021) 5 Desinformation und Bundestagswahl 2021 3.9.2021 Mit welchen Desinformationskampagnen ist vor der Bundestagswahl 2021 zu rechnen? Was sind typische Narrative und Fake News? Welche Rollen spielen Medien, soziale Netzwerke und Messenger- Dienste? Wer klärt auf und begegnet den Falschinformationen rund um die Wahl? Mehr dazu im Schwerpunkt Desinformation und Bundestagswahl 2021. bpb.de Dossier: Digitale Desinformation (Erstellt am 30.09.2021) 6 Bundestagswahl und digitale Desinformation IV Von Erik Meyer 23.9.2021 ist Politikwissenschaftler und arbeitet als freier Journalist und Dozent zur Digitalisierung in Politik, Pop und Erinnerungskultur. Er ist Autor von „Zwischen Partizipation und Plattformisierung: Politische Kommunikation in der digitalen Gesellschaft“ (2019) Ein wöchentlicher Rückblick auf Berichte zum Thema und Inhalte sowie Formate auf Social- Media-Plattformen und in Messenger-Diensten. Was gibt es dazu für Faktenchecks und Einschätzungen aus Wissenschaft und Zivilgesellschaft? Facebook löscht Beiträge der "Querdenken-Bewegung" (© picture-alliance, empics) Die aktuelle Verlautbarung von Facebook zur Entfernung neuer Arten von bedrohlichen Netzwerken (https://about.fb.com/de/news/2021/09/entfernung-neuer-arten-von-bedrohlichen-netzwerken/) steht zwar nur indirekt mit der Bundestagswahl in Verbindung, ist im Kontext der Diskussion um digitale Desinformation aber bemerkenswert. Bisher stand beim Kampf gegen eine illegitime Einflussnahme auf die Meinungsbildung häufig "koordiniertes nicht-authentisches Verhalten" im Fokus, also die Irreführung durch bei Bedarf massenhaft automatisiert agierender Fake Accounts. Nun geht Facebook auch gegen authentische Konten von Nutzerinnen und Nutzern vor, wenn diese eine "koordinierte Schädigung der Gesellschaft" verursachen können. Der Präzedenzfall betrifft die "Querdenken- Bewegung", die sich im Zuge des Protests gegen die Pandemie-Politik in Deutschland formiert hat: "Wir haben ein Netzwerk von Facebook- und Instagram-Konten, -Seiten und -Gruppen entfernt, deren Mitglieder*innen in koordinierter Weise wiederholt gegen unsere Gemeinschaftsstandards verstoßen haben. Hierzu zählen die Veröffentlichung von gesundheitsbezogenen Falschinformationen, Hassrede und Anstiftung zur Gewalt. Die Inhalte bergen in der vorliegenden Form das Potenzial, in reale Gewalt bpb.de Dossier: Digitale Desinformation (Erstellt am 30.09.2021) 7 umzuschlagen und auch in anderer Form gesellschaftlichen Schaden anzurichten." Plattform-Politik Facebook hatte bereits bei der US-Präsidentschaftswahl von seinem digitalen Hausrecht Gebrauch gemacht, um der aus irreführenden Beiträgen resultierenden Gewalt angemessen zu begegnen. In diesem Kontext gilt die "Deplattformisierung", also der dauerhafte Ausschluss von der Plattform, als Ultima Ratio. Bevor Plattformen zu derartigen Maßnahmen greifen, werden jedoch zuerst andere Verfahren der Moderation angewendet, wie die Reduzierung der Reichweite von einzelnen Postings, deren Entfernung oder Kennzeichnung mit Warnhinweisen und die unmittelbare Ansprache und Aufforderung entsprechendes Verhalten zu unterlassen. Erst wenn diese Maßnahmen scheitern, greifen Plattformen zu temporären Sperrungen oder Demonetarisierung, also dem Ausschluss aus den Werbeprogrammen. Die Löschung von knapp 150 Facebook-Konten und Gruppen, die der Querdenken-Bewegung zugeordnet werden, wird allerdings kontrovers diskutiert. Lisa Hegemann kommentiert bei Zeit Online (https://www.zeit.de/digital/internet/2021-09/querdenker-facebook-gruppen-sperrung-soziale-medien- kritik) : "Auch wenn man Facebooks Reaktion als verspätet abtun kann: Der Gedanke dahinter ist durchaus der richtige. Denn indem das soziale Netzwerk die Reichweite zerstörerischer Stimmen eingrenzt, sie teils ganz von der Plattform verbannt, verhindert es die weitere Verbreitung von Falschinformationen, Verschwörungstheorien und Hetze. Dass Facebook aber im Alleingang entscheidet, welche Beiträge solche Maßnahmen treffen, wann und wie die aussehen, das ist der falsche Weg." Noch entschiedener lehnt Markus Reuter bei Netzpolitik.org (https://netzpolitik.org/2021/ deplatforming-von-querdenken-massenloeschungen-sind-kein-grund-zum-jubeln/) das "Deplatforming von Querdenken" durch Facebook ab: "Es hat nichts mit Demokratie und Rechtsstaatlichkeit zu tun, wenn ein marktdominantes Unternehmen nach seinen Regeln irgendwelchen gesellschaftlichen Gruppen einseitig die Öffentlichkeit entzieht. Hier fehlt die Transparenz. (...) Jetzt probiert das Unternehmen aus, wie so eine Massenlöschung ankommt – und suggeriert gleichzeitig vor der Bundestagswahl, es würde irgendwie verantwortungsvoll handeln." Monitoring sozial-medialer Mechanismen Facebook kommt mit seinem verschärften Vorgehen auch einer Forderung diverser zivilgesellschaftlicher Initiativen nach. Die Nichtregierungsorganisation "Democracy Reporting International" (DRI), die den Wahlkampf in den sozialen Medien in Kooperation mit dem Tagesspiegel mittels eines Dashboard zur Bundestagswahl 2021 (https://interaktiv.tagesspiegel.de/lab/social- media-dashboard-bundestagswahl-2021/) beobachtet, hatte unter anderem das koordinierte Teilen etwa von aggressiven Videos durch organisierte Verbreitungsnetzwerke problematisiert, ohne dass diese Vorgehensweise auf Anhieb als inauthentisch charakterisiert werden kann. Neues Angebot der bpb Im neuen Podcast der bpb "Netz aus Lügen - Die globale Macht von Desinformation" wird das Phänomen Desinformation in sieben Episoden besprochen. Dabei soll mit einem Blick über den Tellerrand das Themenfeld der Falsch- und Desinformation weltweit betrachtet werden. Die Reise führt dabei von Europa über Asien bis nach Nordamerika und es zeigt sich, dass trotz unterschiedlicher lokaler Kontexte viele Gemeinsamkeiten existieren. Im Podcast werden so strukturelle und gesamtgesellschaftliche