Abstract

Spätestens seit dem „Sturm auf das Kapitol“ infolge eines von Donald Trump vorangetriebenen Narratives des Wahlbetrugs sind die Gefahren, die von Desinformation ausgehen können, klar erkennbar. Eine Gegenstrategie, die global mehr und mehr Anwendung findet, besteht in Faktenchecks, d.h. der journalistischen Überprüfung von Faktizität beanspruchenden Behauptungen. Diese Arbeit untersucht zwei Hauptkritikpunkte an dieser Praxis: (1) Die vermeintliche Einflusslosigkeit auf das Faktenwissen der Bevölkerung und (2) die fehlende Reichweite, um diejenigen Menschen zu erreichen, die von Desinformation am stärksten betroffen sind. Die Analyse zeigt, dass Faktenchecks zwar selten das Wahlverhalten oder tieferliegende Einstellungen von Bürger:innen verändern können, aber durchaus für ein verbessertes Faktenwissen sorgen. Auch wenn sich Sorgen über Echokammern und Filterblasen als überzogen erweisen, kann nicht zweifelsfrei angenommen werden, dass alle Bevölkerungsgruppen gleichermaßen mit Faktenchecks in Kontakt kommen. Faktenchecks bleiben daher notwendigerweise lediglich ein Puzzleteil einer ganzheitlichen Strategie gegen Desinformation und Populismus.

Schlagwörter: Desinformation; Fake News; Faktenchecks; Debunking; Populismus

Einleitung

Unter den vielen Lügen Donald Trumps während seiner vierjährigen Amtszeit als Präsident der USA (Kessler, 2021; Dale, 2021) hatte eine besonders weitreichende Folgen: Die Behauptung, die Präsidentschaftswahl 2020 sei manipuliert worden und Trump selbst der wahre Wahlsieger. Immer wieder durch Tweets und öffentliche Aussagen genährt, kulminierte dieses Narrativ bei der Amtseinführung des neuen Präsidenten Joe Biden in dem Angriff eines radikalisierten und entfesselten Mobs aus Trump-Unterstützer:innen auf das Kapitol in Washington D.C. (Leatherby, 2021). Teile der Menge drangen gewaltsam in das Regierungsgebäude ein, um die Auszählung der electoral votes und die Bestätigung von Bidens Wahlsieg zu verhindern. Erst Stunden später konnte die Sicherheit im Gebäude wiederhergestellt werden. Fünf Menschen starben im Zusammenhang mit den Ausschreitungen (Levenson, 2021), über 100 wurden verletzt (Schmidt & Broadwater, 2021).

Der „Sturm auf das Kapitol“ ist nur eines von vielen Beispielen dafür, wie es populistischen Akteur:innen gelingt, mithilfe von Lügen und Desinformation Menschenmassen aufzustacheln und in eine gewünschte Bahn zu lenken. Zwar hätten die fanatischen Trump-Anhänger:innen möglicherweise auch ohne dessen Behauptungen eines angeblichen Wahlbetrugs einen Grund gefunden, ihrer unterliegenden Wut und Frustration Ausdruck zu verleihen – doch unbestreitbar setzte Trump selbst auf die Effektivität von Desinformation, indem er bereits vor der Wahl Zweifel an deren korrekter Durchführung säte (Vazquez & Judd, 2021). Diese Zweifel schürte er bis zur Wahl unter anderem durch objektiv unhaltbare Angriffe auf die Briefwahl, um daraus schließlich den konkreten Vorwurf des Wahlbetrugs zu entwickeln und an seine Unterstützer:innen zu appellieren, die Ausrufung Bidens zum neuen Präsidenten zu verhindern (Inskeep, 2021). Dieses Vorgehen zeigt die Relevanz von Desinformation für populistische Erfolgsstrategien und die Gefahr, die von ihr ausgehen kann.1 Deutlich wird damit auch die Notwendigkeit, funktionierende Gegenstrategien auszuarbeiten, um den Effekt von Lügen und „Fake News“ zu minimieren.

Eine mögliche solche Strategie liegt im Widerlegen von Falschinformationen (Debunking) durch Faktenchecks. Diese Praxis ist nach Anfängen in den USA (u.a. FactCheck, PolitiFact) vor einigen Jahren auch in Deutschland angekommen und wird mittlerweile von vielen verschiedenen Organisationen und Plattformen durchgeführt – zu den bekanntesten zählen der „Faktenfinder“ der Tagesschau, das investigative Recherchenetzwerk Correctiv und der dpa-Faktencheck. Dabei werden Behauptungen in Form von populären Gerüchten, Aussagen von Politiker:innen, Online-Inhalten und Verschwörungserzählungen auf ihren Wahrheitsgehalt überprüft und die Rechercheergebnisse als Artikel veröffentlicht. Meist wird eine Bewertung der jeweiligen Behauptung in „richtig“ oder „falsch“ vorgenommen, teilweise auch mit Abstufungen.2

Ob Faktenchecks ihrem Anspruch, Falschinformationen wirksam zurückzudrängen und für ein besseres Faktenverständnis in der Bevölkerung zu sorgen, gerecht werden können, ist jedoch umstritten. In einem Hintergrundartikel zu ihrer Arbeit schreibt die Redaktion von Correctiv: „Wissenschaftliche Studien zeigen [...], dass Menschen sich von Fakten überzeugen lassen. Faktenchecks wirken“ (Echtermann et al., 2020). Auf der Gegenseite stehen kritische Stimmen aus der Fachliteratur, die wie Sängerlaub (2020) bestimmte Aspekte des Fact-Checking problematisieren oder wie Larsen (2019) das Konzept per se als kontraproduktiv ansehen. Kritikpunkte sind dabei unter anderem die geringe Reichweite von Faktenchecks (Robertson et al., 2020), ihr fehlender langfristiger Einfluss auf individuelle Einstellungen (Nyhan et al., 2020), eine mögliche Voreingenommenheit beziehungsweise Subjektivität von Faktencheckern selbst (Marietta et al., 2015; Uscinski und Butler, 2013) und ein möglicher Backfire-Effekt, der die Salienz von Falschinformationen konträr zur Intention nur noch verstärkt (Barrera et al., 2020). Gestützt wird eine negative Perspektive auf Faktenchecks von der Beobachtung, dass diese in vielen Fällen die Folgen von Desinformation nicht verhindern konnten – siehe den erwähnten „Sturm auf das Kapitol“.

Sind diese Kritikpunkte an Faktenchecks berechtigt und würden sie die normative Forderung nach Einstellung solcher Formate rechtfertigen? Oder haben Faktenchecks tatsächlich eine positive Wirkung und sollten weiterhin gegen Desinformation eingesetzt werden? In dieser Arbeit analysiere ich Fachliteratur zu Desinformation, Faktenchecks und diesbezüglich relevanten sozialpsychologischen Effekten, um zu evaluieren, ob und inwiefern Faktenchecks eine wirksame Gegenstrategie zu Desinformation darstellen. Notwendigerweise wird dabei auch auf Funktion, Formen und Charakteristika von Desinformation einzugehen sein.

Faktenchecks gegen Desinformation: Zwei Kritikstränge

Ich orientiere mich im Folgenden an der von Lewandowsky et al. (2020) vorgenommenen kategorialen Unterscheidung zwischen Falschinformationen als Überbegriff für intentionsunabhängig falsche Informationen, Desinformation als absichtlich täuschende falsche Informationen und Fake News als solche Fehlinformationen, die in Gestalt einer Nachricht auftreten.3 Unter dem Begriff Faktencheck verstehe ich journalistische Formate in Gestalt einer reaktiven Überprüfung von Behauptungen, mit dem Ziel Falschinformationen zu widerlegen.4 Die grundsätzliche Möglichkeit einer solchen Widerlegung setzt eine Auffassung von „Wahrheit“ voraus, die von der Existenz einer für alle Menschen hinreichend ähnlich empfundenen Wirklichkeit ausgeht und Wahrheit als Korrespondenz mit dieser definiert. Verbunden ist damit mitnichten ein erkenntnistheoretischer Zertismus, sondern vielmehr die Anerkennung der lebensweltlichen Verständigungspraxis, die auf Faktizität beanspruchenden Konsensen basiert. Diese Konsense hängen von einer menschlichen, nicht objektiv aber intersubjektiv zugänglichen Wirklichkeit ab, an welche bestmögliche Annäherung erstrebt wird.5 Wie durch Desinformation gezielt versucht wird, die Existenz genau solch einer intersubjektiv erfassbaren Wirklichkeit in Zweifel zu ziehen, wird im letzten Teil der Arbeit eingehender beleuchtet.

Die Kritik am Konzept des Faktenchecks konzentriert sich im Wesentlichen auf zwei Problemstellungen: Einerseits wird argumentiert, dass Faktenchecks nicht zu der Bevölkerungsgruppe durchdringen, die besonders von Desinformation betroffen ist, also bestimmte Tatsachenbehauptungen fälschlicherweise für wahr hält. Stattdessen bestehe das Publikum von Faktenchecks vornehmlich aus Personen, die populistischen Akteur:innen ohnehin weniger stark zugeneigt sind. Der andere Kritikpunkt bezieht sich auf die Berichtigung von Falschinformationen (Debunking) selbst, deren Überzeugungswirkung (besonders bei Einbettung in einen Faktencheck) infrage gestellt wird. Befürchtet wird außerdem, dass das Debunking sogar einen gegenteiligen, das heißt den Glauben an die Falschinformation verstärkenden, Effekt auf Personen haben könnte, die von der Falschinformation überzeugt und nicht bereit sind, ihr Weltbild aufzugeben oder zumindest zu hinterfragen. Diese beiden Vorbehalte gegen Faktenchecks werde ich im Folgenden als Hypothesen betrachten und anhand einer Analyse der Fachliteratur evaluieren, um zu einer Bewertung zu gelangen, ob Faktenchecks eine wirksame Gegenstrategie zu Falsch- und insbesondere Desinformation darstellen.

Die Wirkung von Faktenchecks auf individuelle Überzeugungen und Einstellungen

Flynn et al. (2017) schreiben über die Wirkung von Berichtigungen falscher Informationen: „[…] misperceptions often continue to influence policy debates after they have been debunked“ (S. 129). Diese Beobachtung gibt Anlass zur Hypothese 1 dieser Arbeit, dass Faktenchecks keinen relevanten Einfluss auf Faktenwissen und Meinungen der Bürger:innen haben – und im schlimmsten Fall sogar einen kontraproduktiven Effekt hervorrufen: In bestimmten Fällen könnten Menschen, nachdem sie berichtigt wurden, nur noch stärker von der falschen Information überzeugt sein (Lewandowsky et al., 2017, S. 355). Auch könnte die Wiederholung von Falschinformationen durch Faktenchecks dazu führen, dass deren Reichweite noch größer wird als sie ohnehin schon ist (Barrera et al., 2020).

Überzeugungswirkung

Für die Wirkungslosigkeit von Faktenchecks als Mittel gegen Falsch- und Desinformation scheint ein einflussreiches Konzept der Sozialpsychologie zu sprechen: die sogenannte Motivierte Kognition (u.a. Kunda, 1990). Demzufolge ziehen Menschen aus der ihnen zur Verfügung stehenden Evidenz meist diejenigen Schlüsse, zu denen sie gelangen wollen. Moderiert wird dieser Effekt durch die Fähigkeit, vor sich selbst eine passende Erklärung für den jeweiligen Schluss zu finden (Rationalisierung). Damit lässt sich zum Beispiel die wachsende Skepsis gegenüber der Wissenschaft erklären: lieber werden wissenschaftliche Erkenntnisse infrage gestellt, als die eigene Position aufzugeben (Hendricks & Vestergaard, 2018, S. 130-131). Faktenchecks befinden sich nicht außerhalb des Rationalisierungsspiels – ihre Inhalte müssen genauso geglaubt werden wollen wie alle anderen Behauptungen. Dass Menschen ihre Einstellung oder Überzeugung ändern statt schlicht den Faktencheck als unglaubwürdig zurückzuweisen, erscheint vor dem Hintergrund der Motivierten Kognition unwahrscheinlich.

Die Ergebnisse einer während des französischen Präsidentschaftswahlkampfs 2017 durchgeführten Studie von Barrera et al. (2020) stützen diese Vermutung: Studienteilnehmer:innen, denen Falschinformationen beinhaltende Aussagen von Marine Le Pen vorgelegt wurden, zeigten sich stärker von der Kandidatin überzeugt als die Kontrollgruppe, die nicht mit diesen Aussagen konfrontiert wurde – und zwar unabhängig davon, ob ihnen ein korrespondierender Faktencheck zur Verfügung gestellt wurde oder nicht. In einem ähnlichen Experiment während der US-Präsidentschaftswahl 2016 zeigen Nyhan et al. (2020), dass weder Trump- noch Clinton-Unterstützer:innen ihre Kandidatenpräferenz nach Konfrontation mit einem Faktencheck anpassten. Barrera et al. (2020) kommen deshalb zu dem Schluss, Faktenchecks seien „completely ineffective in undoing the persuasion effect of populist arguments based on alternative facts“ (S. 11).

Allerdings bedeutet dies nicht, dass Faktenchecks gar keine Wirkung hätten: In beiden Studien zeigten die Teilnehmer:innen nach Kontakt mit dem Faktencheck ein besseres Faktenwissen. Barrera et al. (2020) schließen daraus: „[…] [F]act checking can correct biases in factual knowledge introduced by politically-charged alternative facts“ (S. 18). Dabei ist es nicht einmal relevant, ob der Faktencheck sich auf einen präferierten oder gegnerischen Kandidaten bezieht (Nyhan et al., 2020, S. 957). Das verbesserte Faktenwissen übersetzt sich dann jedoch nicht in ein verändertes Wahlverhalten – was auf einen sogenannten continued-influence effect (Lewandowsky et al., 2012) hindeutet: „[…] despite being corrected, [...] people by and large continue to rely at least partially on information they know to be false“ (Lewandowsky et al., 2017, S. 355). Allerdings finden die genannten Studien ihre Grenzen in der einmaligen Durchführung des Experiments: Es scheint unplausibel anzunehmen, dass jemand die Kandidatenpräferenz aufgrund einer einzigen oder nur weniger aufgedeckter Falschaussagen ändert – der mehrmalige Kontakt mit Korrekturen von Falschaussagen könnte dagegen stärkere Effekte zeigen (Nyhan et al., 2020, S. 957). Auch merken Lewandowsky et al. (2020, S. 6) an, dass die Wahlentscheidung in weniger polarisierten Kontexten durchaus vom Wahrheitsgehalt der Aussagen von Politiker:innen beeinflusst wird.

Backfire-Effekte

Über die Frage hinaus, ob Faktenchecks grundsätzlich das Potenzial haben, Falschinformationen unglaubwürdig erscheinen zu lassen, gibt es Befürchtungen über eine mögliche kontraproduktive Wirkung: „In some circumstances, when the correction challenges people’s worldviews, belief in false information may ironically even increase“ (Lewandowsky et al., 2017, S. 355). Fordert eine Korrektur ihr existierendes Weltbild heraus, so die Annahme, sind einige Menschen von den Falschinformationen, welche dieses Weltbild stützen, nur noch stärker überzeugt (Sippit, 2019, S. 4; Sängerlaub, 2020, S. 318; Lewandowsky et al., 2020, S. 9). Swire et al. (2017a) nennen dieses Phänomen Worldview-Backfire-Effekt. Zudem deuten Erkenntnisse aus der sozialpsychologischen Literatur auf mögliche Negativeffekte von Faktenchecks allein durch die Wiederholung der Falschinformation hin: Da einerseits der bloße Kontakt (mere exposure) mit einem Objekt tendenziell die Einstellung eines Menschen gegenüber diesem Objekt verbessert (Zajonc, 1968) und andererseits Vertrautes eher für wahr gehalten wird (Illusory Truth Effect; Dechêne et al., 2010), könnte die erhöhte Salienz, die die Falschinformation durch den Faktencheck erlangt, die Wirkung der Falschinformation ungewollt befördern (Barrera et al., 2020, S. 18). Die Literatur spricht hier vom Familiarity-Backfire-Effekt (Lewandowsky et al., 2020; Swire et al., 2017b; Ecker et al., 2020).

Nachdem die von Backfire-Effekten ausgehende Gefahr zunächst als hoch eingeschätzt wurde (Lewandowsky et al., 2020, S. 9), stellen neuere Studien sowohl ihren Einfluss als auch ihre Verbreitung infrage (Nyhan et al., 2020; Sippit, 2019; Ecker et al., 2020). Ein Worldview-Backfire-Effekt scheint wenn überhaupt nur dann aufzutreten, wenn das die Falschinformation betreffende Thema stark mit der politischen Identität des Individuums verwoben ist (Swire et al., 2017a, S. 17). Insgesamt ist der Effekt jedoch empirisch kaum nachzuweisen (Nyhan et al., 2020) und eher die Ausnahme denn die Norm (Sippit, 2019, S. 21). Auch ein Familiarity-Backfire-Effekt ließ sich in mehreren Studien nicht bestätigen (Ecker et al., 2020; Swire et al., 2017a) – es besteht sogar die Vermutung, Faktenchecks seien ohne Wiederholung der Falschinformation weniger effektiv (Lewandowsky et al., 2020, S. 10; Ecker et al., 2020, S. 21), da die fehlende Verbindung zur widerlegten Falschinformation die Salienz des Faktenchecks vermindert und die Identifizierung eines Konflikts (d.h. das Erkennen, dass der Faktencheck einer bestimmten Information widerspricht) erschwert (Swire et al., 2017b, S. 1957). Die Hypothese 1 kann daher zurückgewiesen werden.

Die limitierte Reichweite von Faktenchecks

Die meisten Studien, die sich mit der Wirksamkeit von Faktenchecks beschäftigen, testen den Einfluss von Kontakt mit Korrekturen beziehungsweise richtigstellenden Informationen, auf die Überzeugungen eines Individuums. Die exposure gegenüber Faktenchecks wird damit also vorausgesetzt. Was aber, wenn diese in der Realität von verschiedenen Faktoren abhängt und nicht einfach als gegeben angenommen werden kann? Hypothese 2 besagt, dass Faktenchecks gar nicht erst dort „ankommen“, wo sie benötigt werden, und deswegen gegen Desinformation ineffektiv sind. Empirische Evidenz für diese Annahme liefern unter anderem Robertson et al. (2020), die für die USA zeigen, dass Faktenchecks vor allem von liberal eingestellten Personen konsultiert werden. Auch Sängerlaub (2020, S. 317) argumentiert, Faktenchecks erreichten „über ihre Webseite zwar viele Nutzer:innen, finden damit aber nicht dort statt, wo Falschinformationen in der Regel geteilt werden“. In anderen Worten: Wenn jemand einmal von „etablierten Medien“ auf alternative Informationskanäle umgeschwenkt ist, wird er oder sie auf Faktenchecks in diesen „etablierten Medien“ nicht mehr stoßen.

Hintergrund dieser Hypothese sind insbesondere zwei gesellschaftliche Phänomene, die mit der Digitalisierung erneuerte Relevanz erlangt haben (Zuiderveen Borgesius et al., 2016, S. 2-3): Die Herausbildung von sogenannten Echokammern und Filterblasen. Jaster und Lanius (2020, S. 69) definieren Echokammern als „homogen[e] Gruppen [...], in denen sich ausschließlich Gleichdenkende untereinander austauschen“. Die Ursachen für ihre Entstehung finden sich in der Sozialpsychologie: Allgemein werden Informationen, die der eigenen Meinung zuwiderlaufen, aufgrund des Confirmation Bias (Wason, 1990; Weber et al., 2020) weniger wahrgenommen als solche, die der eigenen Meinung entsprechen. Hinzu kommt die Neigung des Menschen zur Vermeidung kognitiver Dissonanz (Jaster & Lanius, 2020, S. 74): Menschen gehen Behauptungen wider ihren Überzeugungen tendenziell aus dem Weg, um den unangenehmen mentalen Zustand, zwei kontradiktorischen Behauptungen ausgesetzt zu sein, zu vermeiden (Festinger, 1957; Kunda, 1990, S. 483-484; Hendricks & Vestergaard, 2018, S. 128). Aus diesem Grund umgeben sich Menschen gerne mit „Gleichgesinnten“ – anderslautende Meinungen haben es dagegen schwer, adäquat angehört oder überhaupt wahrgenommen zu werden.6

Die Digitalisierung macht die Bildung von Echokammern besonders einfach: Durch die niedrige Hürde für mediale Partizipation im Internet (Penney, 2017, S. 2) ist das Informationsangebot so breit geworden, dass Nutzer:innen sich ihre Nachrichtenauswahl, anders als in Zeiten der Vorherrschaft von wenigen Zeitungen und Fernsehsendern, selber zusammenstellen können – und zwar aus einem Nachrichtenpool, der zu einem Großteil nicht vor Veröffentlichung redaktionell geprüft wurde (Sängerlaub, 2020, S. 312). Außerdem scheinen „soziale Netzwerke“ und Foren der ideale Raum für das Finden von Gleichdenkenden sowie gegenseitige Meinungsbestätigung und -bestärkung zu sein (Jaster & Lanius, 2020, S. 77-81). Damit erleichtern sie das Ausblenden von anderen Meinungen und verhindern potenziell Austausch über verschiedene Gruppen hinweg.

Filterblasen bezeichnen im Gegensatz zu Echokammern denjenigen Selektionsbias, der nicht im Individuum selbst auftritt, sondern durch Algorithmen herbeigeführt wird (Jaster & Lanius, 2020, S. 71). Besonders drastisch zeigt sich dieser Bias in einer Studie von Epstein und Robertson (2015), die für unentschiedene Wähler:innen eine Änderung der Wahlpräferenz um 20% allein aufgrund verschiedener Google-Suchergebnisse ausmachen (Zuiderveen Borgesius et al., 2016, S. 9). Auch im Zusammenhang mit individualisierten News-Feeds, Facebook und anderen „digitalen Räumen, die den Nutzern vorrangig jene Inhalte präsentieren, die ihren bestehenden Interessen entsprechen und damit ihre Einstellungen zu diesen verstärken“ (Jaster & Lanius, 2020, S. 72), wird Besorgnis über Filterblasen geäußert.

Neuere Studien (u.a. Zuiderveen Borgesius et al., 2016; Bruns, 2017) deuten jedoch darauf hin, dass die Bedeutung von Filterblasen im öffentlichen Diskurs überschätzt wird (Jaster & Lanius, 2020, S. 72-74; Sängerlaub, 2020, S. 319). Demnach durchdringt die Personalisierung das Internet (noch) nicht so weit, dass der Kontakt mit fremden Ansichten eliminiert wird (Zuiderveen Borgesius et al., 2016, S. 10). Selbst auf Facebook, das häufig als Negativbeispiel angeführt wird, werden durchschnittlichen Nutzer:innen regelmäßig Inhalte angezeigt, die von deren eigenen politischen Ansichten abweichen (Jaster & Lanius, 2020, S. 73). Bruns (2019) stellt deshalb fest: „If there is a filter at all, then, it is not the algorithmic filter postulated by the ‘filter bubble’ concept […] – rather, the more critical filter exists [...] in our heads“ (S. 10). Zu einem ähnlichen Schluss kommen Jaster und Lanius (2020), die das Problem statt in Filterblasen in der „Vermeidung kognitiver Dissonanz und den daraus resultierenden Echokammern“ (S. 74) verorten. Doch auch Echokammern sind der empirischen Evidenz zufolge „nicht der Normalfall“ (Sängerlaub, 2020, S. 319) beziehungsweise zumindest nicht die gesamte Wahrnehmung einnehmend: „[…] [E]ven if people self-select consonant content, they may well be confronted with conflicting content as well“ (Zuiderveen Borgesius et al., 2016, S. 6-7). Auch scheint sich die Präferenz für die eigene Meinung bestätigende Informationen nicht automatisch in aktive Vermeidung der Wahrnehmung widersprechender Informationen zu übersetzen (Guess et al., 2018; Zuiderveen Borgesius et al., 2016, S. 6). Guess et al. (2018, S. 15) sowie Dubois und Blank (2018) nennen die Besorgnis über Echokammern daher „overstated“.

Doch selbst wenn Echokammern weniger stark verbreitet sind als befürchtet, würde es für die Bestätigung der Hypothese ausreichen, wenn sich die für Faktenchecks relevante Zielgruppe von äußeren Einflüssen isoliert. Dass diese Möglichkeit nicht von der Hand zu weisen ist, verdeutlicht eine Studie der Stiftung Neue Verantwortung von 2021, laut der 24% der Befragten der These zustimmen würden, „dass die Bevölkerung von den Medien systematisch belogen wird“ (Meßmer et al., 2021, S. 5 und 95). Hinwendung zu „alternativen Medien“ und Gruppenbildung sind die wahrscheinliche Folge. Dubois und Blank (2018) können zeigen, dass politisch uninformierte Menschen, die eine geringe Mediennutzung aufweisen, am wahrscheinlichsten in eine Echokammer geraten – wenn es sich dabei mit 8% der Bevölkerung auch um eine recht geringe Anzahl handelt. In solchen Gefilden können Falschinformationen ungehindert gedeihen, ohne von widersprechenden Informationen herausgefordert zu werden (Jaster & Lanius, 2020, S. 70).7

Die Hypothese, dass Faktenchecks diejenigen sozialen Gruppen nicht erreichen, die von Desinformation besonders stark betroffen sind, kann mit den bisherigen Erkenntnissen weder mit Sicherheit bestätigt noch zurückgewiesen werden. Während der Einfluss von Echokammern und Filterblasen gesamtgesellschaftlich gering ist, mag es Gruppen geben, die sich von „etablierten Medien“ und damit auch Faktenchecks isolieren. Dies macht Faktenchecks nicht per se obsolet, doch es wirft die Frage nach deren realistischem Zielpublikum auf.

Faktenchecks als Bestandteil einer Gegenstrategie zu Desinformation

Die bisherige Analyse hat gezeigt, dass (1) Faktenchecks durchaus einen positiven Effekt auf das Faktenwissen von Personen haben, die mit ihnen in Kontakt kommen, wenn auch dieser Effekt selten zur Änderung des Wahlverhaltens oder der tieferliegenden Einstellungen und Haltungen führt, und dass kontraproduktive Folgen in Form von Backfire-Effekten die Ausnahme sind. Zudem sind (2) Sorgen, dass Faktenchecks aufgrund von Echokammern und Filterblasen wirkungslos bleiben, zwar übertrieben, doch es kann nicht garantiert werden, dass diejenigen Personen, die besonders anfällig für Desinformation sind, mit Faktenchecks in Berührung kommen. Diese Ergebnisse haben zwei wichtige Implikationen für den Umgang mit Faktenchecks: Einerseits ist eingehendere Forschung notwendig, wie Verhaltensänderungen und Wahlentscheidungen zustande kommen; andererseits sollte die Frage nach der Rolle von Faktenchecks im öffentlichen Diskurs und nach ihrer Zielgruppe gestellt werden.

Dass eine Änderung des Faktenwissens nicht automatisch auch zu einer Änderung des Wahlverhaltens führt, deckt sich mit den Befunden von Achen und Bartels (2017), nach denen die individuelle Wahlentscheidung nicht primär von issues, sondern von Parteibindungen und Loyalitäten abhängt. In vielen Fällen übernehmen Menschen sogar unreflektiert die Positionen „ihrer“ Partei – ein Erklärungsansatz dafür, warum es in den Experimenten von Nyhan et al. (2020) und Barrera et al. (2020) nicht zu veränderten Kandidatenpräferenzen kam: Konträr zur populären Demokratievorstellung werden in vielen Fällen nicht erst die Fakten evaluiert und dann die passenden Kandidat:innen ausgewählt, sondern umgekehrt. Die weitere Forschung muss sich mit der Frage auseinandersetzen, wie diese Parteibindungen und Loyalitäten entstehen und welche Rolle Fakten dabei spielen. Um mit Faktenchecks auf mehr als die Wissensebene durchzuschlagen, ist es zudem notwendig zu verstehen, wie und warum Menschen langfristig ihre Einstellungen und ihr Verhalten ändern.

Dem Problem der fehlenden Reichweite kann neben Versuchen, Echokammern zu durchbrechen8, durch eine Orientierung weg von durch Desinformation beeinflussten Menschen als primäre Zielgruppe beigekommen werden – hin zu Menschen ohne klare ideologische Vorprägung zum jeweiligen Thema, und Menschen, die von den tatsächlichen Fakten überzeugt sind, denen aber die Argumente zu ihrer Verteidigung fehlen. Verschiedenen Umfragen zufolge gibt ein beträchtlicher Teil der Bevölkerung an, Probleme bei der Unterscheidung von wahren und falschen Informationen zu haben.9 Laut der sozialpsychologischen Verfügbarkeitsheuristik (Weber et al., 2020) wird bei Abwesenheit einer starken Präferenz oft dasjenige Urteil gewählt, das anhand der verfügbaren Informationen am einfachsten zu bestätigen ist. Diese Informationen können Faktenchecks bereitstellen und damit verhindern, dass den Produzent:innen von Desinformation das Feld überlassen wird. Einem möglichen „Abrutschen“ in Verschwörungserzählungen und Echokammern könnte so vorgebeugt werden. Auch zeigen Henry et al. (2021), dass Faktenchecks signifikant die Bereitschaft verringern, falsche Informationen online zu teilen. Dies deutet darauf hin, dass Faktenchecks durchaus eine Rolle bei der Ausbremsung von Falschinformationen spielen können, auch wenn nicht direkt auf diejenigen Personen abgezielt wird, die bereits von Falschinformationen überzeugt sind. Nicht übersehen werden sollte außerdem die Bedeutung von Faktenchecks für den Journalismus und politische Eliten: Die Bereitstellung einer geprüften Faktenbasis kann sowohl Journalist:innen dabei helfen, die ungewollte Weiterverbreitung von Falschinformationen zu vermeiden, als auch Politiker:innen, Entscheidungen auf der Basis von bestätigten Fakten zu treffen. Wenn Faktenchecks selbst dann zum Beispiel von großen Tageszeitungen aufgegriffen werden, ergibt sich eine Vergrößerung der Reichweite automatisch (Sängerlaub, 2020, S. 317).

Wenn diese Faktoren und Zielgruppen berücksichtigt werden, sind Faktenchecks zweifellos ein wichtiges Element einer wirksamen Gegenstrategie zu Desinformation. Gleichwohl müssen Faktenchecks bestimmte handwerkliche Maßgaben erfüllen, um den an sie gesetzten Anspruch zu erfüllen (Uscinski et al., 2013; Amazeen, 2013; Larsen, 2019): Weder dürfen nicht-faktische Aussagen wie Prognosen und Nominaldefinitionen überprüft werden, noch sind Rankings zum Beispiel des Formats „Welche:r Politiker:in lügt am meisten?“ aufgrund der fehlenden Vergleichbarkeit und des aus der Unmöglichkeit, alle Behauptungen zu überprüfen, resultierenden Selektionsbias als sinnvoll anzusehen. Zudem müssen größtmögliche Neutralität, Transparenz und Unabhängigkeit angestrebt werden (Blum, 2018).

Die Grenzen von Faktenchecks: Desinformation ohne Wahrheitsanspruch

Ins Leere laufen Faktenchecks gegen solche Desinformation, die nicht mit dem Ziel verbreitet wird, Menschen von einer alternativen Realität zu überzeugen, sondern zum Zweck der Verwirrung und Verunsicherung oder der Selbstbestätigung und Abgrenzung eingesetzt wird. Frankfurt (2005) bezeichnet Äußerungen dieser Form mit dem Begriff Bullshit: Sie werden getroffen, um bestimmte „Ziele zu erreichen, und zwar unabhängig davon, ob diese Behauptungen wahr oder falsch sind“ (Jaster & Lanius, 2020, S. 31). Für den „Bullshitter“ selbst spielt es keine Rolle, ob er oder sie die Behauptung für wahr hält oder nicht – ein Beispiel par excellence ist die Aussage des AfD-Pressesprechers Lüth: „Wenn die Message stimmt, ist es uns eigentlich egal, woher das Ganze kommt oder wie es erstellt wurde. Dann ist es auch nicht so tragisch, dass es Fake ist“ (Zit. n. Jaster & Lanius, 2020, S. 83).

Für Lewandowsky et al. (2017) bestehen die gefährlichen Folgen von „Bullshit“ in dem Verlust eines generellen Faktenbewusstseins: „There is evidence that the presence of misinformation causes people to stop believing in facts altogether“ (S. 355). Wenn ununterbrochen sich gegenseitig widersprechende Informationen auf den Bürger und die Bürgerin einprasseln, werden die Existenz einer intersubjektiven Realität in Zweifel gezogen und Fakten als legitimes Element des politischen Diskurses unterminiert (Zywietz, 2018, S. 117) – ein generelles Misstrauen gegenüber Fakten breitet sich aus (Jaster & Lanius, 2020, S. 85-87). In dieser Strategie gehen Populist:innen sogar so weit, dass selbst die eigenen Aussagen oft miteinander unvereinbar sind (LeTourneau, 2020). Ziel ist es einerseits, von der so erzeugten Unsicherheit und Verwirrung zu profitieren (Hendricks & Vestergaard, 2018, S. 118), und andererseits, Fakten per se aus der Politik zu verbannen oder zumindest zu einem Randphänomen zu degradieren (Hendricks & Vestergaard, 2018, S. 170). An ihre Stelle treten reine Interessen und Präferenzen (Nida-Rümelin, 2006, S. 7) oder Narrative, welche auf die gefühlte Wahrheit abzielen und nach folgender Logik funktionieren: „Selbst wenn es diese eine Vergewaltigung nicht gegeben hat oder dieses eine ungeheuerliche Statement der Grünen-Politikerin erfunden sein sollte, so stehen sie doch illustrativ und pointiert für die vielen anderen Ereignisse dieser Art oder die Misere insgesamt“ (Zywietz, 2018, S. 123-124). Ob eine bestimmte Information wahr oder falsch ist, spielt dann keine Rolle mehr – Faktenchecks sind daher an dieser Stelle machtlos.

Die zweite Form von Desinformation, die von Wahrheitsansprüchen losgelöst ist, erfüllt laut Zywietz (2018) eine „phatische Funktion“: Es handelt sich um „Verweisgesten, die lediglich eine rituelle und expressive, illustrative oder gar nur dekorative Funktion erfüllen“ (Zywietz, 2018, S. 118-119). Falschinformationen werden demnach auch verbreitet und geteilt, um Gruppenidentitäten zu stärken und sich von anderen Gruppen abzugrenzen (Hendricks & Vestergaard, 2018, S. 132-135) – selbst wenn die beteiligten Personen „wissen, dass sie entweder keine Ahnung haben oder sich sogar der Falschheit des geäußerten Standpunkts bewusst sind“ (Jaster & Lanius, 2020, S. 76). Auch hier sind die Äußerungen also „nicht länger darauf angelegt [...], überhaupt wahrheitsfähig zu sein“ (Zywietz, 2018, S. 119). Ob die Aussagen von einem Faktencheck berichtigt werden oder nicht, ist für ihren Einsatz zur Selbstvergewisserung und Identitätsbildung irrelevant.

Faktenchecks sind aus diesen Gründen beileibe kein „Allheilmittel“, wie Sängerlaub (2020, S. 321) richtig schreibt. Da die Korrektur von Falschinformationen notwendigerweise lediglich Symptombehandlung sein kann und, wie im letzten Kapitel gezeigt wurde, nicht gegen alle Formen von Desinformation wirkt, muss darüber hinaus das Vertrauen in demokratische Institutionen gestärkt werden, um Desinformation von Grund auf den Wind aus den Segeln zu nehmen – auch, weil Faktenchecks selbst von diesem Vertrauen abhängig sind (Sängerlaub, 2020, S. 317). Zudem ist die Stärkung des sozialen Zusammenhalts essenziell (Decker & Lewandowsky, 2017, S. 37; Stroud, 2010, S. 571-572), um Polarisierung infolge von Desinformation zu vermeiden. Ob Faktenchecks tatsächlich nicht die Erwartungen erfüllen, die an sie gestellt werden (Sängerlaub, 2020, S. 321), ist hingegen eher eine Frage realistischer Erwartungen. Als Korrektur illegitimerweise Faktizität beanspruchender Behauptungen sind Faktenchecks, wie diese Arbeit gezeigt hat, sowohl zweckmäßig als auch einflussreich, und sollten deswegen Teil einer ganzheitlichen Strategie gegen Falsch- und Desinformation sein.

Literaturverzeichnis

Achen, C. H. & Bartels, L. (2017): Democracy for Realists: Why Elections Do Not Produce Responsive Government, Princeton University Press.

Amazeen, M. A. (2013). Making A Difference? A Critical Assessment of Fact-Checking in 2012. New America Foundation. https://static.newamerica.org/attachments/10215-making-a-difference/Amazeen_-A_Critical_Assessment_of_Factchecking.4a3289cb3fcd4a8faf0d94f40ebcdc35.pdf

Barrera, O., Guriev, S., Henry, E. & Zhuravskaya, E. (2020). Facts, alternative facts, and fact checking in times of post-truth politics. Journal of Public Economics 182, 1–19. https://doi.org/10.1016/j.jpubeco.2019.104123

Blum, R. (2020). Fakten, Fake News und Wahrheitssuche: Wer checkt die Faktenchecker? In M. Prinzing, B. S. Debatin & N. Köberer (Hrsg.), Kommunikations- und Medienethik reloaded? Wegmarken für eine Orientierungssuche im Digitalen (S. 251–260). Nomos. https://doi.org/10.5771/9783748905158-251

Breyer-Mayländer, T. (2017): Ein Quantum Wahrheit: Postfaktischer Populismus als Herausforderung für unsere repräsentative Demokratie, Books on Demand.

Bruns, A. (2019). Filter Bubble. Internet Policy Review

CORRECTIV. (2018). Wie wir arbeiten: Unsere Faktencheck-Bewertungsskala. https://correctiv.org/faktencheck/ueber-uns/2018/10/04/unsere-bewertungsskala/

Dale, D. (2021, 16.01.). The 15 most notable lies of Donald Trump's presidency. CNN politics. https://edition.cnn.com/2021/01/16/politics/fact-check-dale-top-15-donald-trump-lies/index.html

Dechêne, A., Stahl, C., Hansen, J. & Wänke, M. (2010). The Truth About the Truth: A Meta-Analytic Review of the Truth Effect. Personality and Social Psychology Review, 14(2), 238–257. https://doi.org/10.1177/1088868309352251

Decker, F. & Lewandowsky, M. (2017). Rechtspopulismus in Europa: Erscheinungsformen, Ursachen und Gegenstrategien. Zeitschrift für Politik, 64(1), 21–38. https://doi.org/10.5771/0044-3360-2017-1-21

Dubois, E. & Blank, G. (2018). The echo chamber is overstated: the moderating effect of political interest and diverse media. Information, Communication & Society, 21(5), 729–745. https://doi.org/10.1080/1369118X.2018.1428656

Echtermann, A., Eckert, T. & Schubert, B. (2020): Warum Demokratie Faktenchecks braucht. CORRECTIV. https://correctiv.org/top-stories/2020/07/09/warum-demokratie-faktenchecks-braucht/

Ecker,U. K. H., Lewandowsky, S. & Chadwick, M. (2020). Can Corrections Spread Misinformation to New Audiences? Testing for the Elusive Familiarity Backfire Effect. Cognitive Research: Principles and Implications, 5(1), 1–25. https://doi.org/10.1186/s41235-020-00241-6

Epstein, R. & Robertson, R. E. (2015). The Search Engine Manipulation Effect (SEME) and Its Possible Impact on the Outcomes of Elections, in: Proceedings of the National Academy of Sciences, 112(33), E4512–E4521. https://doi.org/10.1073/pnas.1419828112

Festinger, L. (1957). A Theory of Cognitive Dissonance. Stanford University Press.

Flynn, D. J., Nyhan, B. & Reifler, J. (2017). The Nature and Origins of Misperceptions: Understanding False and Unsupported Beliefs About Politics. Political Psychology, 38(1), 127–150. https://doi.org/10.1111/pops.12394

Frankfurt, H. G. (2005). On Bullshit. Princeton University Press. https://doi.org/10.1515/9781400826537

Guess, A., Lyons, B., Nyhan, B. & Reifler, J. (2018). Avoiding the echo chamber about echo chambers: Why selective exposure to like-minded political news is less prevalent than you think. Researchgate. https://www.researchgate.net/publication/330144926_Avoiding_the_echo_chamber_about_echo_chambers_Why_selective_exposure_to_like-minded_political_news_is_less_prevalent_than_you_think

Hendricks, V. F. & Vestergaard, M. (2018). Postfaktisch: Die neue Wirklichkeit in Zeiten von Bullshit, Fake News und Verschwörungstheorien (T. Borchert, Übers.). Blessing.

Henry, E., Zhuravskaya, E. & Guriev, S. (2021): Checking and Sharing Alt-Facts. Online-Vorabpublikation. https://doi.org/10.2139/ssrn.3597191 .

Inskeep, S. (2021, 08.02.). Timeline: What Trump Told Supporters For Months Before They Attacked. National Public Radio. https://www.npr.org/2021/02/08/965342252/timeline-what-trump-told-supporters-for-months-before-they-attacked?t=1627377885955

Jaster, R. & Lanius, D. (2019). Die Wahrheit schafft sich ab: Wie Fake News Politik machen. Reclam.

Kessler, G. (2021, 24.01.). Trump made 30,573 false or misleading claims as president: Nearly half came in his final year. The Washington Post. https://www.washingtonpost.com/politics/how-fact-checker-tracked-trump-claims/2021/01/23/ad04b69a-5c1d-11eb-a976-bad6431e03e2_story.html

Kunda, Z. (1990). The Case for Motivated Reasoning. Psychological Bulletin, 108(3), 480-498.

Landesanstalt für Medien NRW. (2019). Ergebnisbericht: forsa-Befragung zu Fake News. https://www.medienanstalt-nrw.de/fileadmin/user_upload/lfm-nrw/Service/Pressemitteilungen/Dokumente/2019/forsa_LFMNRW_FakeNews2019_Ergebnisbericht_final.pdf

Larsen, P. (2019). Faktencheck in der Politik. Ein problematischer Problemlöser. INDES 2019(4), 138-148.

Leatherby, L., Ray, A., Singhvi, A., Triebert, C., Watkins, D. & Willis, H. (2021, 12.01.). How a Presidential Rally Turned Into a Capitol Rampage. The New York Times.

LeTourneau, N. (2020, 18.02.). The Lies Aren‘t Meant To Be Consistent. Washington Monthly. https://washingtonmonthly.com/2020/02/18/the-lies-arent-meant-to-be-consistent/

Levenson, E., Vera, A. & Kallingal, M. (2021, 08.01.). What We Know about the 5 Deaths in the Pro-Trump Mob That Stormed the Capitol. CNN. https://edition.cnn.com/2021/01/07/us/capitol-mob-deaths/index.html

Lewandowsky, S., Ecker, U. K. H., Seifert, C. M., Schwarz, N. & Cook, J. (2012). Misinformation and Its Correction: Continued Influence and Successful Debiasing. Psychological Science in the Public Interest, 13(3), 106–131. https://doi.org/10.1177/1529100612451018

Lewandowsky, S., Ecker, U. K. & Cook, J. (2017). Beyond Misinformation: Understanding and Coping with the “Post-Truth” Era. Journal of Applied Research in Memory and Cognition, 6(4), 353–369. https://doi.org/10.1016/j.jarmac.2017.07.008

Lewandowsky, S., Cook, J., Ecker, U. K. H., Albarracín, D., Amazeen, M. A., Kendeou, P., Lombardi, D., Newman, E. J., Pennycook, G., Porter, E., Rand D. G., Rapp, D. N., Reifler, J., Roozenbeek, J., Schmid, P., Seifert, C. M., Sinatra, G. M., Swire-Thompson, B., van der Linden, S., Vraga, E. K., Wood, T. J., Zaragoza, M. S. (2020). Widerlegen, aber richtig (B. Winkler & T. Lubitz, Übers.). Databrary.

Mansholt, M. (2021, 01.03.). "Das hat sektenähnliche Strukturen": Eine Expertin erklärt, wie QAnon die Verschwörungsszene eroberte. Stern. https://www.stern.de/digital/online/expertin-ueber-qanons-erfolg---das-hat-sektenaehnliche-strukturen--30394808.html

Marietta, M., Barker, D. C. & Bowser, T. (2015). Fact-Checking Polarized Politics: Does The Fact-Check Industry Provide Consistent Guidance on Disputed Realities? The Forum, 13(4). https://doi.org/10.1515/for-2015-0040

Meßmer, A., Sängerlaub, A. & Schulz, L. (2021): „Quelle: Internet“? Digitale Nachrichten- und Informationskompetenzen der deutschen Bevölkerung im Test. Stiftung Neue Verantwortung. https://www.stiftung-nv.de/sites/default/files/studie_quellei
nternet.pdf

Nida-Rümelin, J. (2006). Demokratie und Wahrheit. C.H. Beck.

Nyhan, B., Porter, E., Reifler, J. & Wood, T. J. (2020). Taking Fact-Checks Literally But Not Seriously? The Effects of Journalistic Fact-Checking on Factual Beliefs and Candidate Favorability. Political Behavior, 42(3), 939–960. https://doi.org/10.1007/s11109-019-09528-x

Penney, J. (2017). The Citizen Marketer: Promoting Political Opinion in the Social Media Age. Oxford University Press.

Robertson, C. T., Mourão, R. R. & Thorson, E. (2020). Who Uses Fact-Checking Sites? The Impact of Demographics, Political Antecedents, and Media Use on Fact-Checking Site Awareness, Attitudes, and Behavior. The International Journal of Press/Politics, 25(2), 217–237. https://doi.org/10.1177/1940161219898055

Sängerlaub, A. (2020). Fakten versus Fakes: Was Fact-Checking als Maßnahme gegen Desinformation leisten kann und was nicht. In R. Hohlfeld, M. Harnischmacher, E. Heinke, L. Lehner & M. Sengl (Hrsg.), Fake News und Desinformation: Herausforderungen für die vernetzte Gesellschaft und die empirische Forschung (S. 311–325). Nomos. https://doi.org/10.5771/9783748901334

Scheit, H. (1987). Wahrheit Diskurs Demokratie: Studien zur ‚Konsensustheorie der Wahrheit‘. Alber.

Schmidt, M. & Broadwater, L. (2021, 11.02.). Officers’ Injuries, Including Concussions, Show Scope of Violence at Capitol Riot. The New York Times. https://www.nytimes.com/2021/02/11/us/politics/capitol-riot-police-officer-injuries.html

Sippitt, Amy (2019). The Backfire Effect: Does It Exist? And Does It Matter for Factcheckers? Full Fact.

Statista (2018). Eigenwahrnehmung bei der Differenzierung von Fake News in ausgewählten Ländern 2018: Glauben Sie, dass Sie echte Nachrichten und Fake News unterscheiden können? https://de.statista.com/statistik/daten/studie/922436/umfrage/eigenwahrnehmung-bei-der-differenzierung-von-fake-news-in-ausgewaehlten-laendern/

Stroud, N. J. (2017). Selective Exposure Theories. In K. Kenski & K. H. Jamieson (Hrsg.), The Oxford Handbook of Political Communication (Bd. 1, S. 531–548). Oxford University Press. https://doi.org/10.1093/oxfordhb/9780199793471.013.009_update_001

Swire, B., Berinsky, A. J., Lewandowsky, S. & Ecker, U. K. H. (2017a). Processing Political Misinformation: Comprehending the Trump Phenomenon. Royal Society Open Science, 4(3), 160802. https://doi.org/10.1098/rsos.160802

Swire, B., Ecker, U. K. H. & Lewandowsky, S. (2017b). The Role of Familiarity in Correcting Inaccurate Information. Journal of Experimental Psychology: Learning, Memory, and Cognition, 43(12), 1948–1961. https://doi.org/10.1037/xlm0000422

Uscinski, J. E. & Butler, R. W. (2013). The Epistemology of Fact Checking. Critical Review, 25(2), 162–180. https://doi.org/10.1080/08913811.2013.843872

Vazquez, M. & Judd, D. (2021, 24.06.). Trump Predicts 'Most Corrupt Election' in US History While Making False Claims about Mail-in Voting. CNN politics. https://edition.cnn.com/2020/06/23/politics/donald-trump-mail-voter-fraud-most-corrupt-election/index.html

Wason, P. C. (1960). On the Failure to Eliminate Hypotheses in a Conceptual Task. Quarterly Journal of Experimental Psychology, 12(3), 129-140. https://doi.org/10.1080/17470216008416717

Weber, S. & Knorr, E. (2020). Kognitive Verzerrungen und die Irrationalität des Denkens. In M. Appel (Hrsg.), Die Psychologie des Postfaktischen: Über Fake News, „Lügenpresse“, Clickbait & Co (S. 103–115). Springer Berlin Heidelberg. https://doi.org/10.1007/978-3-662-58695-2_10

Zajonc, R. B. (1968). Attitudinal Effects of Mere Exposure. Journal of Personality and Social Psychology Mongraph Supplement, 9(2), 1-27.

Zuiderveen Borgesius, F., Trilling, D., Moeller, J., Bodó, B., de Vreese, C. H. & Helberger, N. (2016). Should We Worry About Filter Bubbles? Internet Policy Review, 5(1), 1-16. http://dx.doi.org/10.14763/2016.1.401

Zywietz, B. (2018). F wie Fake News – Phatische Falschmeldungen zwischen Propaganda und Parodie. In K. Sachs-Hombach & B. Zywietz (Hrsg.), Aktivismus- und Propagandaforschung: Fake News, Hashtags & Social Bots (S. 97–131). Springer Fachmedien. https://doi.org/10.1007/978-3-658-22118-8_5