12/ 2024 EXPERTISEN FÜR DEMOKRATIE PROJEKT GEGEN RECHTS Alles Wahrheit oder nicht(s)? Wegweiser zum Umgang mit Desinformation Karolin Schwarz Irreführende Propaganda und Lügen begegnen uns regelmäßig online. Neu sind sie nicht, weder im Netz noch abseits davon. Aber in Zeiten, in denen gesellschaftliche Debatten sich häufig in sozialen Netzwerken abspielen, deren Algorithmen nicht auf den Wahrheitsgehalt ihrer Inhalte ausgerichtet sind, sondern darauf, User_innen möglichst lange auf den Plattformen zu halten, verbreiten sich Unwahrheiten schneller und der Produktionsaufwand ist häufig gering. Besonders in Krisenzeiten – also beispielsweise im Fall von Krieg, Wirtschaftskrise oder Katastrophe – werden Falschmeldungen gestreut, um Unsicherheit zu verbreiten und zu spalten. Auch im Wahlkampf spielt Desinformation, durch aus dem Kontext gerissene Zitate oder auch in Form von Fakes, die durch künstliche Intelligenz(KI) generiert wurden, immer wieder eine Rolle, etwa um die Wahl als solche in Zweifel zu ziehen oder Politiker_innen oder Parteien zu attackieren. Viele Menschen in Deutschland und darüber hinaus nehmen Desinformation als Bedrohung wahr. Falschbehauptungen zielen zum Beispiel auf demokratische Institutionen, unsere Gesundheit und die Gesellschaft als Ganzes ab. Sie sollen Misstrauen wecken, Wut und Angst schüren und werden zudem auch zum persönlichen und politischen Vorteil genutzt. Die zunehmende Polarisierung unserer politischen Debatten wird so weiter verstärkt. Gleichzeitig teilen viele Nutzer_innen unbedacht oder mit voller Absicht ungeprüfte Informationen und tragen zur „Fake Flut“ bei. Um diesen Bedrohungen angemessen begegnen zu können, ist es wichtig, das Phänomen in seiner Vielseitigkeit zu verstehen. Diese Handreichung soll dafür einige Ansatzpunkte und Hilfsmittel liefern. 1.„You’re Fake News” Geht es um Falschbehauptungen, begegnet man einer Reihe unterschiedlicher Begriffe, wie Falschmeldungen, Misinformation, Fehlinformation oder auch Fake News. Ein kurzer Überblick: Als Misinformation bezeichnet man Falschmeldungen , die ohne Absicht verbreitet werden. Dabei handelt es sich zum Beispiel um Satire, die ernst genommen wird, durch Missverständnisse entstandene Gerüchte oder journalistische Fehler. Als deutsche Übersetzung des eher im Englischen genutzten Begriffs hat sich Fehlinformation etabliert. Desinformation bezeichnet hingegen eine absichtlich gestreute Falschmeldung oder Lüge. Dazu gehört auch, wenn jemand Bilder oder Videos manipuliert oder per künstlicher Intelligenz generiert, um Menschen absichtlich zu täuschen. Der Begriff Fake News wiederum ist aus verschiedenen Gründen umstritten. Beispielsweise haben sich verschiedene populistische und rechtsextreme Politiker_innen den Begriff angeeignet, um Berichterstattung von Medien anzugreifen, die nicht falsch, sondern unbequem ist.

2 EXPERTISEN FÜR DEMOKRATIE 12 / 2024 Zudem ist der Begriff mehrdeutig: Fragt man Menschen, was sie unter„Fake News“ verstehen, erhält man sehr unterschiedliche Antworten. Während die einen journalistische Fehler oder ernst genommene Satire als„Fake News“ verstehen, denken andere bei dem Begriff eher an bewusst gestreute Falschbehauptungen, also Desinformation. Und nicht jede Desinformation kommt als journalistisches Produkt daher, sondern wird einfach als Kettennachricht auf WhatsApp oder aus dem Zusammenhang gerissenes Bild oder Video in sozialen Medien verbreitet. oder Amoklauf, einer Naturkatastrophe, in Kriegen oder auch am Tag einer Wahl, bevor alle Stimmen ausgezählt sind. Außerdem nutzen zum Beispiel Rechtsextremist_innen diese Lücken, indem sie Begriffe nutzen, die nur innerhalb ihrer Szene gebräuchlich sind. Sucht man bei Suchmaschinen nach solchen Begriffen, stößt man dann in der Regel vor allem auf einschlägige Quellen. Bei der Trump-Wahl waren das bspw. Worte wie„stolen“ oder „rigged“, die eine unsachgemäße Wahl unterstellten. 3. Praktische Tipps& Tools 2. Warum funktioniert das? Dass Menschen an Fehlinformationen glauben, kann verschiedene Gründe haben. Viele Falschmeldungen funktionieren deshalb so gut, weil sie Wut oder Angst schüren und dadurch der Impuls ausgelöst wird, die Falschmeldungen weiterzuverbreiten, zum Beispiel als Warnung oder weil Feindbilder bedient werden. Inhalte, die Wut oder Angst auslösen, führen eher zu Handlungen, in sozialen Medien also entsprechend zu Likes, Kommentaren oder Shares, als Inhalte, die uns in positiver Weise ansprechen. Das trifft besonders auf Menschen zu, die ohnehin wütend sind. + » Durchatmen Desinformation ist häufig so verfasst, dass sie unmittelbare Reaktionen auslösen soll. Es kann schon helfen, kurz einen Moment innezuhalten und die Meldung einer kurzen Plausibilitätsprüfung zu unterziehen. Die wichtigsten Fragen sind dann: Gibt es weitere Quellen? Benutzt die Meldung eine aufwiegelnde und emotionalisierende Sprache? Woher kommt die Meldung? Welches Motiv könnte hinter einer Meldung stecken? Der Übergang zu„Hate Speech“, also Hassrede und Hetze, ist gerade dann fließend, wenn politische Gegner_innen oder Minderheiten im Zentrum der Falschbehauptungen stehen. Oftmals zielt Desinformation zudem auf existierende Konflikte ab, um zu polarisieren und vermeintlich Schuldige für komplexe Probleme zu markieren. Menschen neigen auch dazu, Informationen, die ihrem eigenen Weltbild entsprechen, für wahr zu halten und eher nach Informationen zu suchen, die in ihr Weltbild passen. Dieser Mechanismus wird als „Confirmation Bias“ oder Bestätigungsfehler bezeichnet. Hinzu kommen strukturelle Bedingungen im Internet: Falschmeldungen und Desinformation profitieren auch von einem Phänomen, das Michael Golebiewski und danah boyd als„Data Voids“ beschreiben. Dabei handelt es sich um Informationslücken, die entstehen, weil zum Beispiel über ein Ereignis noch keine gesicherten Informationen vorliegen, also unmittelbar nach einem Anschlag + Eine Studie zu Covid19-Meldungen hat das bspw. einmal messbar gemacht, vgl. https://misinforeview.hks.harvard.edu/ article/anger-contributes-to-the-spread-of-covid-19-misinformation/ » Faktenchecks suchen Es ist nicht selten, dass Fakes Monate oder sogar Jahre später erneut verbreitet werden. In solchen Fällen kann es helfen, nach Faktenchecks zu suchen. Dabei hilft es, eine Meldung, die man überprüfen möchte, in wenige Stichpunkte zusammenzufassen. Es kann sich auch lohnen, zusätzlich noch„Fake“ oder„Faktencheck“ in die Suche aufzunehmen. Es gibt außerdem eine Suchmaschine(Fact Check Explorer) für Faktenchecks von Fact-Checking-Teams in vielen Ländern der Erde. » Suche optimieren Die meisten Suchmaschinen bieten Optionen zur Verfeinerung der Suche. Setzt man beispielsweise einen

FRIEDRICH-EBERT-STIFTUNG 3 Namen oder einen Satz in Anführungszeichen, wird die Wortkombination in genau dieser Reihenfolge auf Webseiten gesucht. So lässt sich zum Beispiel herausfinden, ob ein online verbreitetes Zitat tatsächlich von der Person stammt, der es zugeschrieben wird. Oder ob eine als Screenshot verbreitete Schlagzeile tatsächlich so in der Zeitung stand. Wer nach“Suchoperatoren” oder„search operators“ sucht, findet weitere Optionen, wie zum Beispiel die Suche auf bestimmten Webseiten oder nur nach Ergebnissen mit bestimmten Dateitypen. » Bilderrückwärtssuche Bilderrückwärtssuchen erfüllen im Allgemeinen zwei Funktionen: Sie suchen nach weiteren Orten, an denen ein bestimmtes Bild zu finden ist. Und sie suchen nach Bildern, die einem Bild optisch ähneln. Man kann zum Beispiel nach Screenshots oder Bildern suchen, die man in sozialen Netzwerken oder Messengern gesehen hat. Auch mit Screenshots von Videos lassen sich oft gute Ergebnisse erzielen – wenn auf dem Bild genügend Details zu erkennen sind. Es kann sich auch lohnen, verschiedene Anbieter zu nutzen, da diese oft völlig unterschiedliche Ergebnisse liefern. Anbieter sind z.B. Google, Bing, Yandex oder TinEye. » Fake-Accounts& Bots erkennen Mit Fake-Accounts oder automatisierten Konten wird immer wieder künstlich Stimmung erzeugt. Ein Hinweis auf Bots oder andere Automation kann es beispielsweise sein, wenn derselbe Text immer und immer wieder in Kommentaren verbreitet wird oder ein Konto ungewöhnlich schnell auf Posts oder Kommentare reagiert und die Antworten nicht immer zum ursprünglichen Inhalt passen. Fake-Accounts nutzen immer wieder Fotos von Bilddatenbanken. In dem Fall kann eine Bilderrückwärtssuche nützlich sein. Ein Blick auf den Account und die Inhalte, die gepostet und geteilt werden, kann in jedem Fall helfen, ihn besser einzuschätzen. Im Zweifel gilt: Lieber nicht interagieren oder ggf. auch als Fake-Account melden, wenn man sicher ist. » KI-Bilder erkennen Künstliche Intelligenz und Werkzeuge zur Erzeugung von Bildern und Videos werden immer besser. Trotzdem gibt es einige Anhaltspunkte, auf die man achten kann. Zum Beispiel sehen viele Details oft merkwürdig aus: Da wachsen Pizzaschachteln, Fenster, Zäune oder Arme in Bildern ineinander oder Stimmen in Videos klingen monotoner als gewöhnlich und sobald sich der Kopf einer Person bewegt, wackelt das Bild verdächtig. Außerdem sollte man sich fragen, ob es weitere Aufnahmen geben könnte: Als ein Foto verbreitet wurde, das eine Explosion am US-Verteidigungsministerium zeigen sollte, gab es kein einziges Bild oder Video aus einer anderen Perspektive— obwohl dieser Ort nicht gerade verlassen ist. » Kritisch mit Erkennungstools umgehen Inzwischen haben sich einige kommerzielle Anbieter etabliert, die Tools zur Erkennung von KI-generierten Inhalten wie Text, Bilder, Videos oder Audios anbieten. In Tests liegen die Ergebnisse dieser Tools bei derselben Dateivorlage aber nicht selten weit auseinander. Es lohnt sich deshalb immer, diese Tools und ihre Ergebnisse zu hinterfragen und nach weiteren Hinweisen Ausschau zu halten. » Schnell UND sicher sein Je schneller man auf eine Falschbehauptung reagiert, desto eher besteht die Möglichkeit, ihre Verbreitung einzudämmen oder mehr Reichweite für die Fakten zu erzeugen. Allerdings sollte man sich absolut sicher sein, dass die recherchierten Fakten stimmen und vorsichtig

4 EXPERTISEN FÜR DEMOKRATIE 12 / 2024 Foto: © Andi Weiland mit Zuschreibungen an Urheber_innen oder Verbreiter_ innen umgehen, wenn die Lage nicht klar ist. Falsche Zuschreibungen oder Fehler nützen sonst vor allem denen, die einen Fake zuvor gestreut haben. » Auf Wiederholungen verzichten Über die Autorin Je öfter wir Menschen eine Behauptung hören, desto wahrscheinlicher ist es, dass sie sich in unseren Köpfen festsetzt. Dabei ist nicht unbedingt wichtig, wie hoch ihr Wahrheitsgehalt ist. Will man eine Desinformation widerlegen, ist es sinnvoll, direkt zu Beginn klar zu machen, dass man über eine Falschbehauptung berichtet. Hier hat sich der Begriff des„Truth Sandwich“, also Wahrheitssandwich, etabliert: Am besten beginnt man damit, klarzustellen, dass es um eine Fehlinformation geht und endet einen Post oder Artikel nach der Wiederholung der Falschbehauptung dann auch wieder mit der Korrektur. Weiterlesen: Die Suchmaschine für Faktenchecks: Fact Check Explorer https://toolbox.google.com/factcheck/explorer/search/ list:recent;hl=de?hl=de Ein Spiel, bei dem man selbst erfolgreich Fakes verbreiten lernt www.getbadnews.com/books/german/ E-Bert: Ein FES-Chatbot zum Argumentieren-Üben gegen Fake News und Hetze https://www.fes.de/politischeakademie/e-bert Ein Quiz, bei dem man KI-generierte Bilder erkennen muss: https://detectfakes.kellogg.northwestern.edu/ Und noch ein Quiz: www.realornotquiz.com/ „Data Voids” von Michael Golebiewski und danah boyd https://datasociety.net/library/data-voids/ #Faktenfuchs:„Die fünf häufigsten Gerüchte zu Wahlen” www.br.de/nachrichten/bayern/die-fuenf-haeufigstengeruechte-zu-wahlen-ein-faktenfuchs,TosTR7V Bellingcat:„Testing AI or Not: How Well Does an AI Image Detector Do Its Job?” www.bellingcat.com/resources/2023/09/11/testing-aior-not-how-well-does-an-ai-image-detector-do-its-job/ Ingrid Brodnig:„Lügen im Netz” www.brandstaetterverlag.com/buch/luegen-im-netz/ Karolin Schwarz arbeitet als Autorin, Trainerin und Beraterin in Berlin. Ihre Arbeitsschwerpunkte sind Desinformation, digitale Erscheinungsformen des Rechtsextremismus, Rechtsterrorismus sowie die Schnittstelle zwischen Internet und Gesellschaft. Sie hat als Sachverständige im Bundestag und im Prozess gegen den Terroristen von Halle ausgesagt und mehrere Jahre als Journalistin über ihre Themen berichtet. Darüber hinaus hat sie mehrere Jahre Social-Media-Plattformen beraten und unterstützt, mit Rechtsextremismus, Terrorismus, Desinformation und Verschwörungsideologien umzugehen. Ihr Projekt Hoaxmap, das Falschmeldungen über Geflüchtete und Menschen mit Migrationsgeschichte sichtbar machte, wurde für mehrere Journalistenpreise nominiert. Im Februar 2020 ist ihr Buch„Hasskrieger: Der neue globale Rechtsextremismus“ im Herder Verlag erschienen. Website: karolinschwarz.de Kontakt: hallo@karolinschwarz.de IMPRESSUM HERAUSGEGEBEN VON: Franziska Schröter, Projekt gegen Rechts(FES PBD/DGI) TEXT: Karolin Schwarz LEKTORAT: Franziska Schröter GESTALTUNG: Typografie  ·  im  ·  Kontext © Friedrich-Ebert-Stiftung 2024 · Hiroshimastraße 17 · 10785 Berlin ISBN 978-3-98628-668-2 www.fes-gegen-rechtsextremismus.de Eine gewerbliche Nutzung der von der FES herausgegebenen Medien ist ohne schriftliche Zustimmung durch die FES nicht gestattet. Publikationen der Friedrich-EbertStiftung dürfen nicht für Wahlkampfzwecke verwendet werden. Die in dieser Publikation zum Ausdruck gebrachten Ansichten sind nicht notwendigerweise die der Friedrich-Ebert-Stiftung. Das Projekt »Gegen Rechts« im Referat DGI/ Abt. PBD der Friedrich-EbertStiftung bietet kontinuierlich Veranstaltungen, Publikationen und Seminare zu aktuellen Erscheinungsformen von Rechtsextremismus und Rechtspopulismus sowie zu effektiven Gegenstrategien an. In der Publikationsreihe Impulse gegen Rechtsextremismus werden die Ergebnisse wichtiger Veranstaltungen zusammengefasst. Sie wird ergänzt durch Expertisen für Demokratie , die ausgewählte Analysen und Fachbeiträge zu aktuellen Fragestellungen in der Auseinandersetzung mit Rechtsextremismus bieten. Wenn Sie bis jetzt noch nicht in unserem Verteiler sind und zukünftige Ausgaben der beiden Reihen erhalten möchten, senden Sie bitte eine E-Mail mit Ihren Kontaktdaten an: forum.rex@fes.de. Mehr Informationen zur Arbeit der FES für Demokratie und gegen Rechtsextremismus finden Sie unter: www.fes-gegen-rechtsextremismus.de