Jonas Schützeneder, Michael Graßl, Klaus Meier Grenzen überwinden, Chancen gestalten KI im journalistischen Newsroom – Bestandsaufnahme, Perspektiven und Empfehlungen für Journalismus und Politik AUF EINEN BLICK • KI und Automatisierung stellen entscheidende Herausforderungen für den Journalismus dar. • Die Bestandsaufnahme zeigt: KI unterstützt im Newsroom bereits über den kompletten Produktionsprozess hinweg, von der Recherche bis zur Distribution. • Vier Empfehlungen an Redaktionen und Medienpolitik:(1) technisch-optimistische Redaktionskultur schaffen,(2) redaktionelle Leitlinien und Orientierung etablieren,(3) Plattformen kontrollieren und Innovationen fördern,(4) Medienkompetenz der Gesellschaft stärken. Künstliche Intelligenz(KI), Algorithmen und Automatisierung prägen seit einigen Jahren die gesellschaftliche und politische Debatte. Blickt man auf Aussagen ganz unterschiedlicher Fachdisziplinen zum Thema, wird schnell deutlich: Die Frage ist nicht, ob KI unsere Gesellschaft und die einzelnen Teilbereiche verändert und verändern wird, sondern auf welche Weise dies geschieht. Der Meilenstein der KI-Entwicklung ist als solcher womöglich noch überhaupt nicht sichtund identifizierbar. Häufig sprechen wir deshalb über die Potenziale der Chancen, Folgen und Risiken von KI – und nicht nur über die bereits eingesetzten Systeme. Aus Perspektive der Journalismusforschung greift dieser FES impuls die Frage auf, wie KI den Journalismus verändert. Dabei wird eine aktuelle Bestandsaufnahme mit realistischen Szenarien künftiger Möglichkeiten verknüpft: Welche KI-Elemente werden auf welche Weise im redaktionellen Alltag eingesetzt, und welche Aufgaben sind konkret betroffen? Welche Probleme werden dadurch gelöst? Aber auch: Welche neuen Probleme handeln sich Redaktionen damit eventuell ein? Wir nehmen dazu eine technisch-optimistische Perspektive ein, die Konstantin Dörr bereits 2016 theoretisiert und mit folgender Feststellung versehen hat: Algorithmen, Automatisierung und KI werden zu einem unverzichtbaren Teil im Portfolio aller Medienmarken werden. Dennoch muss jede Form der Weiterentwicklung auch auf mögliche Risiken und Nebenwirkungen geprüft und KI als große gesellschaftliche Aufgabe und komplexer Veränderungsprozess verstanden werden. Wir bewerten daher den redaktionellen Einsatz von KI auch unter ethischen Grundsätzen und nutzen diesen Blickwinkel für die abschließende Zusammenstellung von Handlungsempfehlungen. Eines sei gleich vorweg betont: Wir kümmern uns in diesem FES impuls um Journalismus als aktuelle Berichterstattung, also als redaktionell geprüfte und möglichst unabhängige Beobachtung gesellschaftlich relevanter Ereignisse und Themen.„KI in den Medien“ im Allgemeinen wäre dagegen noch viel weiter zu fassen – unter Berücksichtigung der vielen Gefahren für eine aufgeklärte Öffentlichkeit, die zum Beispiel darin liegen, dass politische Akteur_innen durch Nutzung von KI-Tools Text, Audio, Bild und Video sehr realistisch in großer Geschwindigkeit manipulieren und propagandistisch verbreiten. Eng damit verbunden sind Verzerrungen und Echokammern durch KI-getriebe Personalisierungen in Social Media. Unter diesen Gesichtspunkten liefert unser Beitrag zunächst eine Hinführung zu Thema und Begrifflichkeiten(1), trägt dann aktuelle Beispiele entlang verschiedener journalistischer Dimensionen zur Bestandsaufnahme von KI-Nutzung zusammen(2), diskutiert ethische Leitplanken(3) und leitet daraus praxisnahe und konstruktive Empfehlungen für Journalismus und Medienpolitik ab(4). 1. ZWISCHEN KI UND HYSTERIE: EINE KURZE EINORDNUNG DER BEGRIFFE UND DEBATTEN Über(zu) lange Zeit haben Beteiligte in Journalismus und Medien den Einfluss und das Potenzial von KI vor allem im Grenzen überwinden, Chancen gestalten— FES impuls 1

Kontext automatischer Textproduktion gedacht und diskutiert. 1 Dadurch ist bei der Definition mehr Verwirrung als konkretes Wissen entstanden – insbesondere in der journalistischen Praxis. In den vergangenen Jahren hat das Thema aber in Politik, Praxis und Wissenschaft deutlich mehr Aufmerksamkeit erhalten, und eine große Menge an Studien und Theoriearbeiten ist national und international erschienen. 2 Zunächst sei festgehalten: Nicht jede Form computerbasierter Einflüsse oder Automatisierung ist mit KI gleichzusetzen. Die reine Automatisierung der Textproduktion, bislang vor allem in datengetriebenen Bereichen wie Börse, Sport oder Wetter vollzogen, hat nichts mit dem fortgeschrittenen Verständnis von KI zu tun. 3 Die Vielfalt an Programmen und Initiativen ist mittlerweile nur noch ansatzweise zu überblicken, auch weil die Entwicklungsgeschwindigkeit rasant zugenommen hat und täglich neue Anwendungen, Updates oder Kooperationen verkündet werden. Neben den individuellen Anpassungen und Eigenkreationen aus der Medienbranche selbst, dominieren vor allem die großen und weltweit zugänglichen Angebote die Diskussionen über KI, was insbesondere für ChatGPT(Generative Pre-Trained Transformer) gilt. Die bekannteste Version der sogenannten Large Language Models basiert auf Millionen von Trainingsdaten, die nicht einfach nur inhaltlich durchsucht und verarbeitet werden. Das Sprachmodell generiert hier einen neuen Text auf Grundlage der Wahrscheinlichkeit, mit der bestimmte Wörter in bestimmten Kontexten der Trainingsdaten aufeinanderfolgen. Es adaptiert also auf Basis großer Textdaten„menschliche Sprache“, bildet daraus eigene Texte und wird daher als generatives Sprachmodell bezeichnet. Während KI als„Dachbegriff“ für alle Formen Künstlicher Intelligenz genutzt wird, handelt es sich bei generativer KI um Anwendungen, die aktiv eigene Inhalte(beispielsweise Texte, Bilder, Audios) erstellen können. Im Journalismus werden solche Anwendungen genutzt, um auf kreative Weise im„Gespräch“ mit ChatGPT Gedanken zu neuen Themen zu sortieren oder um Überschriften, Teaser und Zusammenfassungen vorgeschlagen zu bekommen. Die Antworten sind allerdings nicht immer sachlich korrekt: ChatGPT„lügt“ zwar nicht oder „erfindet bewusst“ oder„manipulativ“ Geschichten. Es lässt sich aber sagen, dass die KI auf Basis von Wahrscheinlichkeiten„halluziniert“. Alles in allem muss man KI zunächst aus der technischen Perspektive verstehen. Dazu hilft folgende Definition: „KI ist ein technisch-fundierter, individuell angepasster und durch permanentes Feedback/Testen trainierter Pool verschiedener Tools in ständiger Weiterentwicklung. Durch den permanenten Lerneffekt können diese Tools im Journalismus auf verschiedenen Ebenen und im gesamten journalistischen Produktionsprozess unterstützend zum Einsatz kommen.“ 4 Ähnlich nähern sich auch Scott Brennen und seine Kollegen in ihrer Definition an und sprechen von KI(im englischen Original Artificial Intelligence – AI) als Zusammenstellung von Ideen, Technologien und technischen Systemen, die Aufgaben übernehmen, deren Lösung lange Zeit menschliche Intelligenz erforderte. 5 Um überhaupt zu dieser Form computerbasierter Entscheidungen und Lösungen zu kommen, braucht es Algorithmen, die als technische Werkzeuge eine automatische Lösung für Probleme erarbeiten. Algorithmen sind so gesehen eine Art Gebrauchsanweisung, die schrittweise Abläufe und Entscheidungsmuster festlegen(z. B. Social-Media-Algorithmen, die für jede Person individuelle Inhalte auf Basis des bisherigen Nutzungsverhalten anzeigen).„Intelligente“ Anwendungen helfen im Journalismus vor allem bei der Organisation alltäglicher Arbeitsabläufe und können mit jedem einzelnen Verfahren lernen, die eigenen Entscheidungen zu verbessern. Insbesondere gilt das in den Bereichen Recherche/Themenfindung, Verifikation, Produktion, Archivierung, Distribution und Analyse(siehe Kapitel 2), zu deren Veranschaulichung im Folgenden aktuelle Anwendungen und Praxisbeispiele dargestellt werden. Denn trotz aller Skepsis, Apathie und Hysterie gegenüber dem Einsatz von KI im journalistischen Arbeitsalltag, zeigt sich in den vergangenen Jahren auch auf empirischer Basis, dass KI den Journalismus nachhaltig beeinflussen und verändern wird. Die Verantwortlichen haben das längst erkannt: Eine internationale Befragung des Reuters Instituts für Journalismusforschung der Universität Oxford mit über 200 Personen aus der Managementebene in Medienunternehmen zeigte schon 2020: Für 69 Prozent der Befragten war KI die wichtigste Herausforderung der kommenden Jahre(vgl. Newman et al. 2021). Die 5G-Technologie lag mit 18 Prozent der Nennungen deutlich dahinter auf Rang zwei. Nur zwei Jahre später sagten bei Wiederholung der Umfrage 28 Prozent der 303 Befragten, dass KI mittlerweile ein regulärer Bestandteil ihrer Arbeit sei, und 39 Prozent, dass sie in diesem Bereich experimentieren(Newman et al. 2023). Beim Blick auf weitere wissenschaftliche Erkenntnisse aus Deutschland zeigt sich die Befürchtung, dass der Medienmarkt und die politischen Bedingungen hierzulande angesichts der Entwicklungen in Asien und den USA bereits ins Hintertreffen gelangt sein könnten. 6 Nicht nur deshalb kann abgeleitet werden: Der Journalismus der Gegenwart und Zukunft sollte KI als Assistenz begreifen, er muss das Thema als ständige Diskussion über Chancen und Risiken aufnehmen und auch entlang der medienethischen Debatte Bewusstsein und Lösungen schaffen. Einen kleinen Beitrag hierzu soll auch die folgende Zusammenstellung aktueller Entwicklungen und Anwendungsbeispiele liefern. 2. BESTANDSAUFNAHME: EIN AKTUELLER BLICK AUF KI IM JOURNALISMUS Die Bestandsaufnahme zeigt eindeutig: KI unterstützt im Newsroom entlang der kompletten Wertschöpfungskette eines journalistischen Produkts: angefangen als Trend-Finder oder Unterstützung in der Recherche, als Hilfe bei der Transkription von Interviews, als Formulierungshilfe oder Produzentin von automatisiert erstellten Texten bis hin zur Analyse von Nutzungszahlen. Um die unterschiedlichen Einsatzmöglichkeiten von KI im Journalismus noch greifbarer zu machen, gliedern wir verschiedene Beispiele entlang des klassischen Herstellungsprozesses eines journalistischen ProGrenzen überwinden, Chancen gestalten— FES impuls 2

Beispiele für den Einsatz von KI im Journalismus entlang der redaktionellen Prozesse Abb. 1 Recherche Verifikation Produktion Archivierung Distribution Analyse Datenanalyse Bild-, Video- und Audioanalyse Sprachanalyse Trendanalyse Übersetzungsprogramme Transkription Verifikation von (Deep)Fakes und zugespieltem Material Bild-, Video- und Audioanalyse automatisierte Texte, Bilder, Audios& Videos Textzusammenfassungen Sprachsynthese Korrektur Transkription Untertitelung Metadatenanreicherung Verschlagwortung für Text, Bild, Audio Transkription Empfehlungssysteme Kommentarmoderation Hatespeech Sprachassistenten& Chatbots Accessibility: einfache Sprache, Vertonung Analyse von Zielgruppen, Reichweite Social-MediaMonitoring Tipp- und Impulsgeber für neue Recherche QUELLE: eigene Darstellung. dukts: Recherche, Verifikation, Produktion, Archivierung, Distribution und Analyse(siehe Abbildung 1). 2.1. RECHERCHE Künstliche Intelligenz ist bereits seit Jahren in der journalistischen Recherche im Einsatz, zunächst um vor allem große Datenmengen(Stichwort: Big Data) zu analysieren. Als eines der bekanntesten Beispiele sind die Panama Papers zu nennen, die ohne technische Unterstützung bei einer Datenmenge von 2,6 Terabyte(und insgesamt 11,5 Millionen Dokumenten) nie hätten ausgewertet werden können. 7 Mittlerweile leisten KI-Tools aber auch kleinteilige und individuelle Unterstützung bei der Recherche im journalistischen Alltag: Sie helfen bei der Verschriftlichung von Interviews und weiteren Audiodateien(sogenannte Speech-to-Text-Anwendungen) oder bei der Sichtung fremdsprachiger Quellen, z. B. mithilfe des Onlineübersetzers DeepL. KI-Tools bieten aber nicht mehr nur Unterstützung in der akuten Recherche eines bestimmten Themas, sondern auch im vorhergehenden Schritt – der Themenfindung. Angebote wie Dataminr eröffnen die Möglichkeit, durch ihre KI-Software einen grenzenlosen Umfang von Daten(z. B. auf Social Media, aber auch andere öffentlich zugängliche Daten) mehr oder weniger in Echtzeit auszuwerten und im Hinblick auf besondere Ereignisse oder Trends zu analysieren. Redaktionen können auf diese Weise wie durch eine Art Frühwarnsystem oder Alarm schneller auf Themen reagieren. So nutzte beispielsweise Radio Free Europe derartige KI-Technologien, um zu Beginn des russischen Angriffs auf die Ukraine im Frühjahr 2022 Indizien und Informationen über einen möglichen zusätzlichen Angriff Russlands auf die Republik Moldau zu bewerten. 8 Deutlich wird an dieser Stelle aber auch die Limitierung von KI in ihrer Funktion als Assistenz für den Journalismus: Die Entscheidung, ob ein Thema oder ein Ereignis wirklich von(öffentlicher) Relevanz ist, trifft am Ende die Redaktion. Die KI liefert im Zuge der Recherche Indizien, Anregungen und Datenanalysen und so die Chance, den Blick in der Themenauswahl und-recherche zu erweitern und dabei gleichzeitig effizienter zu agieren. 2.2. VERIFIKATION UND DEEPFAKE Desinformation ist eines der größten Probleme in der digitalen Medienwelt, insbesondere auf Social-Media-Plattformen: Auf persönlicher Ebene können Menschen diskreditiert werden, auf gesellschaftlicher Ebene wird öffentliche Meinung manipuliert. Der„Faktencheck“ hat sich als zusätzliche Aufgabe in Redaktionen entwickelt, denn ein demokratischer Diskurs ist nur auf einer gemeinsamen Basis anerkannter Fakten möglich. 9 Große Herausforderungen sind insbesondere die sogenannten Deepfakes, also realistisch wirkende Fälschungen von Bild-, Video- und Audiomaterial, in denen Authentizität vorgegaukelt und Glaubwürdigkeit erzeugt werden kann. So können mit KI-Tools zum Beispiel Gesichter digital ausgetauscht oder Stimmen erzeugt werden, die vom Original oft nicht mehr unterschieden werden können. 10 Die Verifikation von Fotos und Videos spielt in Nachrichtenredaktionen zudem eine große Rolle, wenn zugespieltes Material von umstrittenen Großereignissen überprüft werden muss, zum Beispiel bei Demonstrationen, Anschlägen oder Kriegshandlungen. Bei der Identifikation und Richtigstellung von Deepfakes wenden Redaktionen ganz unterschiedliche Technologien an, häufig spezialisierte Suchmaschinen oder spezielle AnGrenzen überwinden, Chancen gestalten— FES impuls 3

wendungen von Google; alles in allem handelt es sich dabei um Tools, die mal mehr oder mal weniger auf KI-Technologien basieren. 11 Wenn die technischen Manipulationsmöglichkeiten für Bild, Video und Audio künftig noch einfacher zu bedienen sind und noch ausgefeilter arbeiten, wird es ein Katz-Maus-Spiel, wessen Technik schneller auf aktuellem Stand ist – die der Manipulierenden oder die der Verifizierenden. Allerdings können Videos auch von journalistischen Redaktionen in begründeten Ausnahmefällen mit KI-Tools bewusst verändert werden. Dies geschieht vor allem, um Quellen und Anonymität zu schützen, indem zum Beispiel Gesichter ausgetauscht oder Avatare eingesetzt werden. 12 Hier kommt es besonders darauf an, dass die Veränderungen transparent gekennzeichnet und gegenüber dem Publikum gut begründet werden(vgl. zu den ethischen Anforderungen beim redaktionellen KI-Einsatz Kapitel 3). 2.3. PRODUKTION Das wohl bekannteste Anwendungsfeld von KI im Journalismus ist der Bereich der Produktion. Seit der Veröffentlichung von ChatGPT durch das Unternehmen OpenAI im Herbst 2022 ist ein regelrechter Hype rund um generative KI ausgebrochen. Dabei war die automatisierte Produktion von Texten bereits zuvor Thema in Redaktionen: Mithilfe von Angeboten wie Retresco wurden seit Jahren einfache Texte wie Börsenmeldungen, Wahl- oder Sportergebnisse automatisiert erstellt. Nach anfänglichen Schwierigkeiten existieren im Bereich der Textautomatisierung mittlerweile ausgereifte und„schlüsselfertige” Lösungen, die bereits um weitere Fähigkeiten wie eine Grammatikprüfung oder Unterstützung bei der Suchmaschinenoptimierung erweitert werden. 13 Auch im Zusammenspiel aus Text und Bild liefert KI-Unterstützung erste Impulse, wie ein Experiment aus dem Sommer 2023 zeigte: 14 Die Lokalzeitungen Ostfriesen-Zeitung, Volksstimme und Neue Osnabrücker Zeitung veröffentlichten ihre Titelseiten jeweils mit und ohne KI-Unterstützung – mit positiven Resultaten, weil die KI-Schlagzeilen und-Grafiken als deutlich kreativer und bunter wahrgenommen wurden. Mit der neuen Generation von öffentlich zugänglicher generativer KI(wie z. B. ChatGPT) haben sich weitere Unterstützungstätigkeiten entwickelt, die sich nicht mehr rein auf die Produktion, sondern vermehrt auch auf die Recherche ausweiten: Die Zusammenfassung von langen Texten und Dokumenten, das Generieren von Überschriften oder SocialMedia-Beiträgen oder das Ausgeben von Bestandsaufnahmen zu bestimmten Themen assistieren im journalistischen Alltag. Diese zunehmende Ausweitung von Funktionen einzelner KI-Anwendungen auf verschiedene journalistische Tätigkeitsfelder wird auch am Beispiel der sogenannten Klimazentrale der Stuttgarter Zeitung deutlich. 15 Hier werden die Rechercheerkenntnisse, die genutzten Quellen und automatisierte Produktion vernetzt: Mithilfe von Daten u. a. des Deutschen Wetterdienstes werden Messergebnisse von 14 Wetterstationen rund um Stuttgart ausgewertet und automatisiert mit ihren historischen Werten verglichen. Die Klimazentrale ist damit beides, Recherche- und Produktionstool in einem. Das Beispiel der Stuttgarter Klimazentrale verdeutlicht einen weiteren Entwicklungsstrang von KI im Journalismus, der an dieser Stelle kurz aufgegriffen wird: KI-Tools werden zunehmend auch in datenjournalistischen Projekten eingesetzt oder speziell für diese neu entwickelt. KI und Datenjournalismus sind aber nicht gleichzusetzen, sondern als zwei unterschiedliche Herangehensweisen zu betrachten. Verkürzt können die Unterschiede zwischen beiden mit den Worten von Steffen Kühne, der im AI+ Automation Lab des Bayerischen Rundfunks tätig ist, wie folgt zusammengefasst werden:„KI ist eine Technologie und Datenjournalismus ein Prozess, der sich aber auch teilweise der Methoden der Künstlichen Intelligenz bedienen kann“(Graßl et al. 2022: 11). So kann einerseits der Datenjournalismus durch Softwareentwicklung innovative KI-Technologie hervorbringen, andererseits kann neue KI-Technologie den Datenjournalismus auf eine höhere Stufe heben. Längst beschränkt sich der Einsatz von KI im Bereich der Produktion nicht mehr rein auf Text: Die automatisierte Produktion von Videos ist technologisch ebenfalls weit fortgeschritten, auch die automatisierte Produktion von Audiobeiträgen hat sich in den vergangenen Jahren massiv weiterentwickelt, so bieten z. B. immer mehr Nachrichtenseiten auch eine Audioversion eines Artikels zum Hören an, häufig automatisiert erstellt mithilfe eines KI-Tools. Die Dynamik im Audiobereich ist ein gutes Beispiel dafür, dass die Entwicklungen im Feld der Produktion stetig fließend und nicht abgeschlossen sind. Im Sommer und Herbst 2023 wurden in Deutschland die ersten„KI-Radios“ gestartet, die ohne Menschen im Programm auskommen und mit computergenerierten Inhalten betrieben werden. So scannt die KI das Netz nach bestimmten Begriffen, um aktuelle(und regionale) Nachrichten generieren zu können, eine Stimme aus einem KI-gesteuerten Stimmengenerator übernimmt dann die Moderation. 16 In der Regel werden die Inhalte vor der Ausstrahlung durch Menschen überprüft(vgl. auch dazu die ethischen Anforderungen beim redaktionellen KI-Einsatz in Kapitel 3). 2.4. ARCHIVIERUNG Dass die Reduktion von KI im Journalismus rein auf die Produktion zu kurz gedacht ist, zeigt der Einsatz von KI in weiteren redaktionellen Abläufen. So wird KI vermehrt auch zur Archivierung journalistischer Beiträge genutzt. Texte, Interviews, Radio- oder Fernsehbeiträge werden in der Regel intern archiviert, um sie zum Beispiel für spätere Recherchen oder Produktionen wieder nutzen zu können. Dieser aufwendige Prozess kann im Zuge der Digitalisierung und dank KI-Technologie zunehmend automatisiert werden: MetaDaten, also Daten wie Veröffentlichungsform(z. B. Text, Audiobeitrag, Videobeitrag), Ressort(z. B. Politik, Wirtschaft, Sport) oder Datum werden von einer KI automatisch ausgelesen, ausgefüllt und auf diese Weise abgespeichert. Die händische Eingabe durch die Redaktion entfällt. Derartige Verschlagwortungshilfen sind für Texte, Bilder/Videos(z. B. durch Gesichtserkennung) und Audio im Einsatz. Zudem testen Medienhäuser, wie bestehende Archive mithilfe von KITechnologie schneller und einfacher zugänglich gemacht Grenzen überwinden, Chancen gestalten— FES impuls 4

werden können. So könnte die KI beispielsweise darauf trainiert werden, bestehendes Archivmaterial nach bestimmten Vorgaben automatisiert zu durchsuchen, und so der Redaktion die aufwändige händische Recherche abnehmen. Experimentiert wird in diesem Zuge auch mit KI-Programmen, die Dialekte in Deutschland besser verstehen können. Ein Beispiel ist das Projekt„Oachkatzl“(„Eichhörnchen“) des Bayerischen Rundfunks, das durch die Entwicklung eines eigenen KI-Modells die Transkription bayerischer Dialekte verbessern will(vgl. Lederle 2020). 2.5. DISTRIBUTION Darüber hinaus setzen Redaktionen und Medienhäuser KI auch für die Distribution, also die Vertreibung ihrer produzierten Inhalte, ein. Wesentliche Entwicklungen in diesem Bereich laufen unter dem Schlagwort Personalisierung. Personalisierung wird in Redaktionen vor allem in zwei Stoßrichtungen gedacht. Zum einen werden personalisierte Inhalte an die Nutzenden ausgespielt: Alle Nutzenden bekommen z. B. in der Nachrichten-App oder auf einer Nachrichtenseite individuell thematisch zugeschnittene Artikel oder Beiträge empfohlen. Diese empfohlenen Artikel werden von einer KI im Hintergrund gesteuert und ausgespielt, die KI wertet die bisherigen Nutzungsgewohnheiten der einzelnen Personen aus und produziert mit diesem Wissen ein passgenaues Angebot für jede_n Nutzende_n(prinzipiell ähnlich, wie es auch Social-Media-Plattformen mit ihren Algorithmen praktizieren). Ein anderes Beispiel für Personalisierung in der Distribution der Inhalte ist das Regional-Update des Bayerischen Rundfunks: Mithilfe einer Künstlichen Intelligenz werden Radionachrichten automatisiert nach Regionen sortiert, geschnitten und stündlich neu zusammengestellt. 17 So ist es für die Nutzenden möglich, sich je nach gewünschter Region, ausgewähltem Umkreis, Zeitspanne oder auch Themenschwerpunkten einen eigenen Nachrichten-Mix aus Regionalnachrichten zusammenzustellen. Zum anderen helfen KI-Lösungen bei der individuellen Preisgestaltung digitaler Bezahlmodelle, wie es bereits einige Regionalmedien(z. B. Oberpfalz Medien) getestet haben. Das heißt: Nicht alle Menschen bekommen den gleichen Preis für ein Digital-Abo angeboten. Stattdessen errechnet die KI, z. B. über einen sogenannten Score, individuell für jede Person die Wahrscheinlichkeit eines Abo-Abschlusses und bietet dementsprechend ein Preismodell an. Je nach Strategie der Redaktion oder des Medienhauses kann die KI auch auf andere Messwerte ausgerichtet werden, z. B. durch die Einordnung des/der Nutzenden in eine bestimmte Gruppe, der wiederum bestimmte Abonnementmodelle angeboten werden. Dabei wird KI nicht nur zur Steigerung der Abonnementzahlen eingesetzt, sondern auch zur Vermeidung von Kündigungen: Durch KI-Lösungen, wie sie z. B. die Frankfurter Allgemeine Zeitung entwickelt hat, wird für jede Person individuell eine Kündigungswahrscheinlichkeit berechnet. Dementsprechend kann die Zielgruppe mit hoher Kündigungswahrscheinlichkeit präventiv angesprochen und so gegebenenfalls vom Verbleib im Abonnement überzeugt werden. Unter den Bereich der Distribution zählen wir an dieser Stelle auch die Interaktion, also den Austausch mit dem Publikum, der sich durch die Digitalisierung massiv verstärkt hat und z. B. in Kommentarspalten auf der eigenen Website oder unter Social-Media-Beiträgen der Redaktionen stattfindet. Dadurch ist(nicht nur) für den Journalismus ein ganz neues Arbeitsfeld entstanden: das Community Management. Auch hier kann KI die Redaktionen unterstützen. Durch KI wird die Abarbeitung von Onlinekommentaren erleichtert, indem beispielsweise die Kommentare vorab durch die KI klassifiziert oder vorsortiert werden. Der Mitteldeutsche Rundfunk(MDR) und der Bayerische Rundfunk(BR) haben beispielsweise ein Tool entwickelt, dass die Aufmerksamkeit der Social-Media-Redaktion zuerst auf die Kommentare lenken soll, in denen die Redaktion direkt angesprochen wird(Mongil et. al 2022). Dadurch können bei Fragen schneller passende Ansprechpersonen gesucht und gefunden werden. Es können aber auch problematische Kommentare zügiger zur Kontrolle gebracht oder sogar automatisch gelöscht werden. 2.6. ANALYSE An die Veröffentlichung der Beiträge und Inhalte schließt sich deren Analyse an. Gemessen und analysiert werden kann im Bereich digitaler Angebote z. B. die Reichweite eines Beitrags, also wie viele Personen den Beitrag gesehen haben. Darüber hinaus kann aber auch gemessen werden, wie lange die Personen auf einem Beitrag verweilen, wann sie abbrechen oder wie sie auf den Beitrag gelangt sind(über soziale Netzwerke, Suchmaschinen, andere Homepages etc.). Die KI unterstützt auf Basis dieser(und weiterer Daten) bei der genaueren Ansprache von Zielgruppen, bei der Personalisierung oder durch abgestimmte Empfehlungssysteme. Zum Bereich der Analyse zählt aber auch das Social-Media-Monitoring, als das Sichten sozialer Netzwerke nach Auffälligkeiten, Trends oder Ungewöhnlichem. An dieser Stelle schließt sich wiederum der Kreislauf des Produktionsprozesses: Die Erkenntnisse aus der Analyse sind gleichzeitig wieder Anregung und Impuls für neue Themen und Beiträge. Auch in diesem Bereich experimentieren mehrere Verlage mit sogenannten„ArtikelScores” mithilfe von KI. Dadurch entstehen für einzelne Artikel vergleichbare Kennzahlen(basierend u. a. auf Verweildauer, Diskussionsintensität, Anregung zum Abonnementabschluss), die eine wertvolle Ergänzung zu reinen Klickzahlen liefern und damit auch die Entwicklung neuer Formate voranbringen. Die aufgeführten Beispiele in den sechs Anwendungsfeldern zeigen: Obwohl das Potenzial von KI im Journalismus längst nicht ausgeschöpft ist und wir uns gewissermaßen erst von der Startlinie los bewegt haben, steht die Entwicklung bzw. der Einsatz von KI-Technologie im Newsroom nicht mehr ganz am Anfang. Die Redaktionen greifen einerseits auf bestehende Technologie oder Tools von externen Anbietern zurück(z. B. DeepL, ChatGPT, Google-Angebote), entwickeln aber auch selbst Tools und KI-Lösungen für spezifische redaktionelle Anwendungen(siehe u. a. die genannten Beispiele in den vorangegangenen Kapiteln). Die zentrale Herausforderung ist also nicht mehr: Wie baue ich eine KI-Anwendung? Sondern: Wie integriere ich sie in meinen Redaktionsalltag? Eine Lösung hierfür könnte die Etablierung neuer SchnittGrenzen überwinden, Chancen gestalten— FES impuls 5

stellen zwischen Technologie und Redaktionen sein, beispielsweise in Form neuer Stellen. Darüber hinaus – und hier wird die politische Dimension von KI im Journalismus deutlich – wirkt neben technischen Herausforderungen vor allem die unsichere Rechtslage in Bezug auf den Einsatz von KI als zentrale Herausforderung und als Innovationshemmnis. Ungeklärte rechtliche Rahmenbedingungen werden z. B. bei einer Befragung von Medienunternehmen in Bayern als größtes Hemmnis bei der Entwicklung von KI genannt, zudem gelten ethische Fragestellungen als größtes Risiko bei der Nutzung. 18 Wie steht es also um die Ethik in Bezug auf KI im Journalismus? 3. ETHISCHE LEITPLANKEN BEIM REDAKTIONELLEN EINSATZ VON KI Im Jahr 2023 fanden sich in Bezug auf KI immer wieder mediale Schlagzeilen wie„Das Ende der Wahrheit“. 19 Ja noch mehr: Es mehrten sich Stimmen, die davor warnen, Künstliche Intelligenz könnte die Menschheit zerstören. Mit dabei war zum Beispiel Geoffrey Hinton, der als einer der Pioniere der Künstlichen Intelligenz gilt und auch im Bereich der angewandten Forschung wichtige Publikationen veröffentlicht hat. Seine Kündigung bei Google im April 2023 begründete er damit, dass er nun vor den Gefahren seiner Schöpfung warnen könne. 20 Er verglich sich als KI-Forscher mit Robert Oppenheimer, dem Erfinder der Atombombe. Er meint damit, dass Menschen sehr Schlimmes mit KI anrichten können. Zugleich ist indes die Kritik an solchen Untergangsszenarien gewachsen: 21 Solche Szenarien schreiben dieser Technologie Fähigkeiten zu, die sie derzeit nicht hat. Sie lenken dadurch von den aktuellen Problemen ab und schüren zugleich Ängste, was dazu führt, dass Menschen die Risiken von KI nur schwer realistisch einschätzen können. Dadurch hat sich eine große Skepsis breit gemacht – und das Publikum hat diese generelle Skepsis gegenüber KI auf den Einsatz von KI im Journalismus übertragen. Bei einer repräsentativen Befragung im Juli 2023 in der Schweiz gaben nur 29 Prozent der Befragten an, dass sie Texte lesen würden, die vollständig von KI erstellt wurden, und 55 Prozent Texte, die mit Unterstützung von KI geschrieben wurden. 22 Es fand sich also keine mehrheitliche Akzeptanz von KI im Journalismus. 61 Prozent stimmen der Aussage zu, dass sich die Berichterstattungsqualität durch den Einsatz von KI verschlechtern würde. Bemerkenswert ist die geringe Kenntnis des Potenzials zur Eindämmung von Falschnachrichten durch KI: Im Gegenteil meinen 67 Prozent, dass der Einsatz von KI im Journalismus das Aufkommen von Falschnachrichten erhöhe. Aufklärung ist also wichtig: zum einen über den genauen Einsatz und die Potenziale von KI im Journalismus, zum anderen über die tatsächlichen Risiken. Offensichtlich ist vielen Menschen nicht klar, wo die Unterschiede und Gefahren zwischen KI-Einsatz im Journalismus und in anderen öffentlichen Kommunikationsformen wie PR, Werbung, Marketing, Kommunikation auf Social-Media-Plattformen oder gar Propaganda liegen. Ethikräte und vor allem auch Redaktionen selbst müssen darüber sprechen, wie KI im Journalismus konkret genutzt wird. Zudem ist offenzulegen, wo und wie Grenzen des KI-Einsatzes gesehen und gezogen werden können. Transparenz im Journalismus, also das Sprechen über die eigenen Arbeitsweisen und redaktionellen Routinen, wird damit zunehmend wichtiger – auch und gerade im Hinblick auf den Einsatz von KI. Der Deutsche Presserat beschäftigt sich zwar schon länger mit der Thematik, 23 hat aber bislang den Pressekodex noch nicht um Richtlinien zum Einsatz von KI im Journalismus ergänzt. Das ist einerseits nachvollziehbar, weil ein Pressekodex keine Details regeln kann und offen gegenüber technologischen Entwicklungen sein muss; er kann nicht laufend überarbeitet werden. Andererseits liegen mittlerweile vielfältige Erfahrungen im Umgang mit KI vor, sodass die Zeit reif wäre, den Pressekodex zukunftsfähig zu ergänzen. Der Schweizer Presserat erweiterte in einer Mitteilung im August 2023 im Hinblick auf den KI-Einsatz die Sorgfaltspflicht: 24 „Journalistinnen und Journalisten sind immer und vollumfänglich verantwortlich für die Inhalte, die sie publizieren, unabhängig davon, welche Programme sie verwenden.“ Zur Transparenz schrieb der Schweizer Presserat 25 :„Der Einsatz von bildgenerierenden KI-Werkzeugen in der journalistischen Produktion muss transparent gemacht werden. Der Presserat prüft, welche Regeln für den Einsatz von künstlicher Intelligenz bei der Arbeit mit Texten gelten sollen.“ Gerade der ethisch verantwortliche Umgang mit KI beim Texten scheint also noch umstritten und mit einer grundsätzlichen, knappen Regel kaum greifbar. Einen Schritt weiter ging der Deutsche Journalistenverband(DJV) in einem Positionspapier im April 2023, in dem es unter anderem heißt:„Der DJV befürwortet und unterstützt die Entwicklung von Zertifizierungen von KI-Systemen, die im journalistischen Bereich eingesetzt werden“(DJV 2023). Auch die Deutsche Journalistinnen- und JournalistenUnion(dju) formulierte im September 2023 ähnliche Forderungen, ebenso der Medienrat der Bayerischen Landeszentrale für neue Medien(BLM) im Oktober 2023 und Reporter ohne Grenzen im November 2023(DJU 2023; BLM 2023; Reporter without Borders 2023). Die Idee der Zertifizierung meint, dass KI-Systeme vor ihrem Einsatz von einer unabhängigen Organisation einer technischen, rechtlichen und ethischen Prüfung unterzogen werden, ob sie bestimmte Anforderungen erfüllen. Allerdings wurde diese Idee bislang kaum konkret aufgegriffen, geschweige denn umgesetzt, wohl weil es ein komplexes Unterfangen wäre, das mit dem technischen Fortschritt kaum mithalten könnte. Zudem gelten Forderungen wie beispielsweise nach Ausgewogenheit und Diskriminierungsfreiheit zwar als Maßstab für redaktionelles Handeln, sind aber nicht zertifizierbar, weil die Qualität zwar quantitativ messbar und kodierbar ist 26 , aber nicht deren Bewertung, die von Erwartungen und Anforderungen abhängt. 27 Was alles in allem aber sehr sinnvoll ist: In eigenen redaktionellen Leitlinien sollten Redaktionen die Leitplanken für den Einsatz von KI-Tools formulieren, laufend überprüfen und fortschreiben. Die Redaktion als Institution der Medienethik(Meier 2014) ist im digitalen Zeitalter zunehmend wichtiger geworden – und damit auch redaktionelle Leitlinien, die dem eigenen Publikum Verantwortungsübernahme und Transparenz signalisieren und damit das Vertrauen in Grenzen überwinden, Chancen gestalten— FES impuls 6

die eigene Leistung erhöhen können. 28 Eine der ersten Redaktionen in Deutschland, die solche Richtlinien formulierte, war im November 2020 das AI+ Automation Lab des Bayerischen Rundfunks. 29 Im April 2023 folgte die dpa(Raabe 2023) und in den Monaten danach eine ganze Reihe von Redaktionen überregionaler Qualitätsmedien oder Boulevardmedien genauso wie regionaler Medien. Inzwischen liegt eine Vielzahl solcher Richtlinien weltweit vor, die sich zwar in vielen Punkten ähneln, aber im Detail unterschiedliche Schwerpunkte setzen und einzelne Lücken haben. 30 Der enorme Zuwachs an redaktionellen Richtlinien seit Mitte 2023 ist nicht nur der Versuch, gegenüber dem Publikum mehr Vertrauen in die redaktionelle Verwendung von KI-Tools aufzubauen, sondern auch eine Antwort auf Unsicherheiten in den Redaktionen selbst: In einer Befragung von 105 Redaktionen in 46 Ländern zwischen April und Juli 2023 äußerten mehr als 60 Prozent der Befragten Bedenken hinsichtlich der ethischen Auswirkungen der KI-Integration auf den Journalismus(Beckett/Yaseen 2023). Massive Bedenken und Sorgen spielen auch in der im November 2023 von Reporter ohne Grenzen veröffentlichten„Paris Charter on AI and Journalism“ eine tragende Rolle(Reporter without Borders 2023): KI-Systeme hätten das Potenzial, die globale Informationslandschaft zu revolutionieren und Informationsbeschaffung, Wahrheitssuche, Geschichtenerzählen und Verbreitung von Ideen erheblich zu verändern; sie stellten eine neue Kategorie von Technologien dar, die wie keine andere in der Lage sei, sich mit menschlichem Denken, Wissen und Kreativität zu vermischen. Aus den redaktionellen Richtlinien, Stellungnahmen von Verbänden und Organisationen sowie aus allgemeinen ethischen Diskursen um die Risiken von KI können vor allem die zwei folgenden Grundsätze für den Einsatz von KI im Journalismus zusammengefasst werden. Über allem steht das Idealbild, dass die Redaktionen ihren Journalismus durch den Einsatz von KI verbessern möchten und ein Mehrwert für das Publikum oder die redaktionellen Abläufe entstehen soll – aber dass zugleich auch ethische Risiken benannt, reflektiert und vermieden werden. 1 Sorgfaltspflicht: Die publizistische Verantwortung für alle Inhalte liegt bei der Redaktion, kann also nicht an ein KI-Tool abgegeben werden. Auch Zuliefernde von Technik und Datenbanken müssen überprüft werden – beispielsweise auf etwaige Eigeninteressen. Übernehmen Zuliefernde eine eigene publizistische Verantwortung, könnte das ähnlich gehandhabt werden wie bei der Nutzung von Nachrichtenagenturen in Form der geteilten Verantwortung. Große Datensätze, die im Einzelnen nicht geprüft werden können, müssen zumindest einer Plausibilitätsprüfung unterzogen werden. Auch die Integrität und Qualität von Trainingsdaten muss laufend geprüft werden,„insbesondere um Vorurteilen in den Daten(algorithmic bias) entgegenzuwirken und gesellschaftliche Vielfalt abzubilden“, heißt es zum Beispiel in den KI-Richtlinien des Bayerischen Rundfunks. 31 Die vermeintliche Neutralität von KI ist eine medienethische Falle: Bei automatisierter Empfehlung und Personalisierung muss redaktionell immer auf Vielfalt und Inklusion geachtet werden, um keinen Bias, Vorurteile oder Filterblasen zu schaffen oder zu verstärken. Und die Verantwortung darf im Laufe der Zeit nicht abnehmen: Wer gute Erfahrungen mit KITools macht, läuft Gefahr, deren Output nicht mehr kritisch zu hinterfragen. 2 Transparenz: Die am meisten diskutierte ethische Frage ist die Forderung nach Kennzeichnung, wenn eine KI an der Erstellung von Inhalten mitgewirkt hat. Es wäre hilfreich, wenn sich branchenweite Standards zur Kennzeichnung vereinbaren ließen, die für das Publikum Orientierung bieten und das Vertrauen in Journalismus stärken. Allerdings gehen die Meinungen auseinander und Konsens ist nicht in Sicht: Soll jeder assistierende Einsatz von KI beim Verfassen von Texten – zum Beispiel als Formulierungsunterstützung von Überschriften, Teasern oder Zusammenfassungen oder als Korrektur- oder Übersetzungshilfe – gekennzeichnet werden? Dann müsste wohl bald jeder Text markiert werden, wenn solche Unterstützung in den Textverarbeitungsprogrammen zur Normalität wird. Auch wenn eine Software bestimmte Texte komplett generiert(z. B. bei Wetter, Börse oder Sport), die auf durch Menschen geprüften Datensätzen beruhen, ist Kennzeichnung bislang nicht üblich. Nutzt die KI allerdings zur Textgenerierung ungeprüfte Daten, so müsste eine Kennzeichnung zur Pflicht werden, zum Beispiel wenn die KI Beiträge von Nutzenden auf Social-Media-Plattformen durchsucht und daraus eigene Nachrichten erzeugt. Auch der Einsatz von KI zur Generierung von Bild, Audio oder Video muss gekennzeichnet werden, weil die Manipulationsmöglichkeiten und Glaubwürdigkeitseffekte – aufgrund von (möglicherweise vorgespielter) Authentizität – dann noch größer sind als bei reinem Text. Im Journalismus sollte ein KI-generierter Inhalt nie so tun, als ob ihn ein Mensch gesprochen bzw. erzeugt hätte, sondern muss eindeutig gekennzeichnet werden. Auch und vor allem, wenn es künftig „täuschend“ ähnlich klingt, wenn z. B. eine bekannte, aber künstlich erzeugte Moderationsstimme personalisierte Inhalte verbreitet. Bei aller Transparenz gilt ein weiterer Grundsatz: Kennzeichnung allein bringt Unsicherheit und kaum Orientierung. Deshalb muss bei einer Kennzeichnung immer eine verständliche Erklärung mitgeliefert werden, was, wie und warum automatisiert wurde. Der Mehrwert für Nutzende oder zumindest für die redaktionellen Prozesse muss erkennbar und nachvollziehbar sein. Zusätzlich zu diesen beiden Grundsätzen wird gefordert, dass beim Erheben von Daten auf Datenschutz und Datensparsamkeit geachtet wird. So sollten zum Beispiel beim Sammeln von Nutzungsspuren – etwa zum Zweck des automatisierten und personalisierten Ausspielens von Inhalten – die Daten anonymisiert oder pseudonymisiert werden. Rechtlich und ethisch diskutiert wird zudem das Urheberrecht generativer KI, die auf urheberrechtlich geschütztes Trainingsmaterial zugreift, ohne dass die entsprechenden Quellen davon wissen oder gar honoriert werden. Das Problem wird sich verschärfen, wenn generative KI nicht nur Sprache erzeugt(wie aktuell ChatGPT), sondern etwa in Kombination mit Suchmaschinen auch den Anspruch hat, geprüftes Wissen zu verarbeiten und zu präsentieren – und damit auch konkrete journalistisch oder wissenschaftlich produzierte Inhalte weiterverbreitet. Grenzen überwinden, Chancen gestalten— FES impuls 7

4. HANDLUNGSEMPFEHLUNGEN Aufbauend auf dieser Zusammenstellung aktueller Beispiele, Potenziale und Diskussionen von KI im journalistischen Newsroom sollen abschließend konkrete Ableitungen und Handlungsempfehlungen folgen. Was mögliche Anforderungen an die Medienpolitik betrifft, sind zunächst drei Ebenen zu unterscheiden: • KI im Allgemeinen: Mit diesem Impuls wird keine Abschätzung über die Entwicklung von KI im Allgemeinen gegeben. Selbst die Einschätzungen führender Personen in großen KI-Unternehmen in den USA gehen im Jahr 2023 stark auseinander: Optimistisch wird die Technologie als hilfreich und praktisch gelobt, die pessimistische Sichtweise fürchtet eine dem Menschen überlegene„Superintelligenz" und damit eine Gefahr für die Menschheit, die streng reguliert und kontrolliert werden muss(vgl. z. B. Brühl/Hurtz 2023). Die EU hat mit dem sogenannte AI Act eine Einordnung in Risikogruppen dieser Technologien vorgenommen und Anregungen zur Regulierung gegeben, die allerdings auch sehr weitreichend formuliert sind und in einigen Aspekten von Deutschland, Frankreich und Italien abgelehnt werden, weil die Regierungen dieser Länder mehr für Selbstverpflichtung bei der Entwicklung von KI-Grundtechnologien als für gesetzliche Regulierungen plädieren. 32 • KI in der digitalen Medienwelt: Die Manipulationsund Propagandamöglichkeiten beim Einsatz künftiger KITools sind groß. Sie reichen von Meinungsmanipulation über soziale Überwachung und Bewertungen menschlichen Handelns bis zur biometrischen Identifizierung und Möglichkeiten der Kontrolle von Menschen in allen Lebenslagen. Die Anwendung von KI-Grundtechnologien in diesen Bereichen muss deshalb in Gesetzen reguliert werden, was in der EU weitgehend unumstritten, aber noch nicht umgesetzt ist. • KI im Journalismus: In KI-Tools, die journalistische Redaktionen einsetzen, steckt viel hilfreiches Potenzial, journalistische Arbeit zu erleichtern und zu optimieren – sofern die Redaktionen zwingend die Sorgfaltspflicht einhalten und dem Publikum die verwendeten Tools transparent und verständlich erklären. In diesem Bereich sehen wir also keinen Bedarf nach übergeordneter Regulierung – zumindest nicht bei den Anwendungen, die aktuell und auf absehbare Zeit verwendet werden. Dies entspricht auch der gängigen demokratischen Praxis, durch die der Staat die Medien- und Kommunikationsfreiheit achtet und Journalismus einer Selbstkontrolle unterworfen ist. Auf Basis dieser Differenzierung und der dargestellten Beispiele geben wir folgende vier Empfehlungen – die ersten beiden in Richtung journalistischer Redaktionen und die letzten beiden in Richtung Medienpolitik: 1 Technisch-optimistische Redaktionskultur schaffen: Dieser Impuls zeigt, dass einige Tools redaktionelle Abläufe optimieren und einfache Tätigkeiten übernehmen, andere wiederum journalistische Kreativität fördern oder neue Darstellungsformen ermöglichen. Wieder andere Anwendungen stärken die Beziehung zum Publikum. Die hier aufgezeigte Zusammenstellung aktueller Anwendungen verdeutlicht, dass Journalismus und Medien die zunehmenden Potenziale von KI-Tools nicht ignorieren können und daher auch kein Abwarten oder Abblocken möglich ist. Vielmehr geht es zunächst darum, eine technisch-optimistische Redaktionskultur zu schaffen, gemeinsam mit offener Neugier auf die rasante Entwicklung zu blicken, unter guter Moderation und bei Bedarf mit externer Unterstützung aktiv auszuprobieren sowie die Learnings, Potenziale und Schwächen immer wieder neu zu diskutieren. 2 Redaktionelle Leitlinien und Orientierung etablieren: Unkenntnis und damit Unsicherheit sowohl beim Publikum als auch bei Mitarbeitenden in Redaktionen über mögliche Risiken von KI-Anwendungen im Journalismus hemmen derzeit die Entwicklung, aber auch eine realistische Einschätzung ethischer Probleme. Redaktionen sind deshalb gefordert, aufzuklären und öffentlich konkret zu erklären, welche Tools zu welchem Zweck eingesetzt werden und wo die Grenzen liegen: Verantwortung und Sorgfaltspflicht müssen immer bei der Redaktion bleiben. Branchenweit könnte eine Ergänzung des Pressekodex hilfreich sein – insbesondere könnte der Presserat an Standards zur Kennzeichnung mitwirken. Skeptisch wird dagegen die Forderung nach Zertifizierungen von KI-Tools gesehen, weil sie wahrscheinlich den technischen Entwicklungen nicht nachkommen können und weil journalistische Qualität nicht zertifizierbar ist. 3 Plattformen kontrollieren und Innovationen im Journalismus fördern: Die größten Risiken bei der Anwendung von KI im Medienbereich liegen außerhalb des Journalismus – vor allem auf den Social-Media-Plattformen, die von sich aus noch zu wenig unternehmen, um zum Beispiel manipulierende und demokratiegefährdende Inhalte wie Desinformation, Hassrede und Echokammern durch verzerrende Personalisierungen zu verhindern. Der deutschen, europäischen und internationalen Medienpolitik fällt effektive Regulierung der Plattformen aus verschiedenen Gründen schwer, dennoch liegt es auf der Hand, dass die Initiativen nicht aufhören dürfen. Zugleich muss öffentliche Aufklärung durch einen freien und hochwertigen Journalismus gestärkt werden – als ein Gegengewicht auf Basis von Recherche, Faktencheck und Aufklärung. Es gibt eine Reihe von Vorschlägen, wie wir als Gesellschaft, gegebenenfalls auch mit Steuermitteln, Journalismus stärken können. 33 Im Kontext dieses Impulses kommt es vor allem auf Innovationsförderung an, also zum Beispiel durch eine weitere Förderung öffentlicher Media Labs 34 oder durch öffentliche Fonds für Innovationen im Journalismus, die wettbewerblich vergeben werden. 35 Es ist empirisch erwiesen, dass Innovationen im Journalismus seine Leistungen für die Demokratie stärken. 36 4 Medienkompetenz der Gesellschaft stärken: Politik, Medienbranche, Wissenschaft und Bildung sind gemeinsam gefragt, an einer Stärkung der Medienkompetenz aller MenGrenzen überwinden, Chancen gestalten— FES impuls 8

schen mitzuarbeiten. Dazu gibt es zwar eine Vielzahl wertvoller Initiativen, jedoch sind Unkenntnis und Unsicherheit noch weit verbreitet: vom grundlegenden Unterscheiden (Was ist Journalismus? Was ist Propaganda, Werbung und PR?) bis zum speziellen Wissen(Was kann KI, und wo liegen die Risiken?). Dazu braucht es gezielte Medienkompetenzförderung, beginnend in Schulen. Darüber hinaus sind aber auch aktive politische Debatten und Lösungen gefordert, dargestellt und hinterfragt durch den Journalismus. Und darüber hinaus braucht es die alltagsnahe Auseinandersetzung in Unternehmen, Vereinen und Familien. Alle sind dabei gefragt, die Politik kann hierfür einerseits selbst mit gutem (Diskurs)Beispiel vorangehen und gleichzeitig aktiv Formen und Programme fördern, die an dieser Stelle für Aufklärung und Wissen sorgen. ENDNOTEN 11 Vgl. hierzu den Überblick in Meier et al.(2021): Unter dem vielfach zitierten Begriff„Roboter-Journalismus“ wurden zu Beginn fast nur automatisch produzierte Texte als Chance oder Problem oberflächlich diskutiert. 12 Aufgrund der Fülle an Publikationen sei hier lediglich exemplarisch auf die aktuellen Studien und Veröffentlichungen von Vogler et al. (2023), Schäfer(2023), Porlezza et al.(2022), Cools/Diakopoulos (2023), Kawk et al.(2022) und Dörr(2023) verwiesen. Diese und alle weiteren Quellen in folgenden Endnoten finden sich im Literaturverzeichnis. 13 Vgl. hierzu den Einblick in die Wahlberichterstattung von Spiegel Online(2021): Aus den offiziellen Wahldaten und Ergebnissen wurden bis in den kleinsten Wahlkreis hinein automatisch die Kurzmeldungen mit den wichtigsten Aussagen produziert. 14 Siehe hierzu die ausführlichere Herleitung in Graßl et al.(2022). 15 Siehe hierzu die Quelle von Brennen et al.(2018). 16 Das zeigt z. B. eine international vergleichende Studie zu Innovationen im Journalismus, siehe Graßl et al.(2022). Dabei wurde insbesondere deutlich, dass im Vergleich zur internationalen Konkurrenz wesentlich weniger Forschung(in Form von Professuren und Publikationen), aber auch weniger Kapital innerhalb der Unternehmen besteht. 17 Die Panama Papers wurden 2016 von über 380 Journalist_innen(u. a. initiiert von der Süddeutschen Zeitung) recherchiert, die durch ihre Veröffentlichung nicht nur zu über 1 Milliarde Euro an Steuernachzahlungen, sondern auch zu zerbrochenen Regierungen(z. B. in Island) führten. Siehe hierzu: panamapapers.sueddeutsche.de. 18 Siehe hierzu die Case Study von Dataminr(2023). 19 Siehe hierzu das 2023 erschienene Whitepaper der Deutschen Presseagentur dpa zum Faktencheck im Zeitalter der KI(dpa 2023). 10 Im Juni 2023 kursierte beispielsweise ein Video auf Social Media, in dem die Kindernachrichtensendung„Logo!“ gefälscht dazu aufrief, „Demokratieschädlinge per App zu melden“ – die Sendung sollte durch das Deepfake-Video diskreditiert werden(vgl. ZDF 2023). 11 Das Journalismus-Lab der Landesanstalt für Medien NordrheinWestfalen zeigt in einem Handbuch ausführlich, wie jede_r diese Verifikationstools anwenden kann(vgl. Landesanstalt für Medien NRW 2023). Gleiches gilt für eine Darstellung des ZDF-Verifizierers Jörn Ratering über seine wichtigsten Tools im Alltag(siehe hierzu Ratering 2022). 12 So nutzte beispielsweise die British Broadcasting Corporation(BBC) eine KI, um für die Dokumentation„Hong Kong’s Fight for Freedom“ die Gesichter von Personen einer regierungskritischen Demonstration in Hongkong durch andere zu ersetzen, um einerseits die Identität der Demonstrierenden zu schützen, andererseits aber gleichzeitig ihre Gesichtsbewegungen und emotionalen Ausdrücke zu erhalten. Ein ähnliches Beispiel findet sich in der ARD-Redaktion von Y-Kollektiv, die in der Reportage„Geständnisse eines Neonazis“ den Protagonisten mit einem Avatar ersetzte. 13 Vgl. z. B. die Softwarelösung von Retresco: https://www.textengine. io/en/. 14 Siehe hierzu das Experiment der Lokalzeitungen, zusammengefasst in Journalist(2023). 15 Zur Klimazentrale der Stuttgarter Zeitung: https://www.stuttgarterzeitung.de/klimazentrale. 16 Exemplarisch sei hier z. B. auf Radio Helgoland(vgl. Kring 2023), bigGPT oder Absolut Radio AI verwiesen. 17 Vgl. dazu ausführlicher Brandl(2023). Das Regional-Update gilt als wichtiger Meilenstein auf dem Weg zu einem noch individuelleren Informationsangebot durch den Bayerischen Rundfunk. Ausgehend von den Erkenntnissen soll das Programm schrittweise weiterentwickelt werden. 18 Vgl.„KI-Studie: Chancen, Risiken und Perspektiven für Medien” von XPLR: MEDIA in Bavaria. Die Studie zeigt auf Basis einer großen Befragung, dass die bayerische Medienszene bereits großflächig auf KI-Angebote zurückgreift und diese insbesondere im Bereich Textproduktion und Verifizierung nutzt. 19 Vgl. den Spiegel- Titel vom 8.7.2023. 20 Zum Beispiel im Gespräch mit der New York Times am 1.5.2023 (vgl. Metz 2023). Hier wird insbesondere auf die große Gefahr von hyperintelligenten Computersystemen verwiesen, die sich irgendwann aufgrund der Dominanz gegenüber„menschlicher Intelligenz“ nicht mehr kontrollieren ließen. 21 Vgl. zum Beispiel den Kommentar von Adrian Kreye(2023) in der Süddeutschen Zeitung: Die Worst-Case-Szenarien seien bislang zwar laut und vielfältig, aber kaum durch Studien und fundierte Vorhersagen untermauert. 22 Die Befragung ist veröffentlicht im„Jahrbuch Qualität der Medien 23“(vgl. Vogler et al. 2023). 23 Siehe hierzu die Diskussion im März 2022(Deutscher Presserat 2022: 11). 24 Vgl. die Regeln für den Einsatz von KI im Journalismus Schweizer Presserat(2023). 25 Siehe hierzu die Erklärung des Presserats: https://presserat.ch/journalistenkodex /erklaerung /. 26 Siehe das„Jahrbuch Qualität“, das seit vielen Jahren am fög in der Schweiz erscheint. 27 Bemühungen zur Zertifizierung journalistischer Qualität konnten sich deshalb nicht durchsetzen, vgl. zuletzt den Vorschlag eines „Qualitätssiegels“ als eine Art TÜV für publizistische Angebote von Reporter ohne Grenzen im Jahr 2021(siehe Journalism Trust Initiative 2023). 28 Siehe weiterführend dazu von Körner 2024 und Heim/ChanOlmsted 2023. 29 Zu den KI-Richtlinien im Bayerischen Rundfunk siehe im Literaturverzeichnis Bayerischer Rundfunk(2020). Hier wird KI nicht als Selbstzweck, sondern als gemeinschaftliche Aufgabe zur Verbesserung des Journalismus beschrieben. Es soll um die Auslotung des idealen Zusammenspiels von menschlicher und künstlicher Intelligenz diskursiv gerungen werden. 30 Siehe weiterführend dazu von Becker et al.(2023) sowie Cools/ Diakopoulos(2023). Grenzen überwinden, Chancen gestalten— FES impuls 9

31 Zu den KI-Richtlinien im Bayerischen Rundfunk siehe im Literaturverzeichnis Bayerischer Rundfunk(2020). 32 Zur Verordnung vgl. Europäische Kommission(2021). Zur Kritik aus Deutschland vgl. den„Digitalgipfel 2023“ der Bundesregierung. 33 Siehe zum Beispiel einen Vorschlag zur Innovationsförderung im Lokaljournalismus(Buschow 2022) oder zur wettbewerblichen Vergabe von Journalismusförderung nach dem Vorbild von Forschungsförderung(Latos et al. 2023). 34 Siehe zum Beispiel das Media Lab Bayern, das Journalismus Lab NRW oder das Medieninnovationszentrum Babelsberg. Durch diese Labs werden innovative Projekte gefördert, sie bilden damit eine Schnittstelle zwischen Politik und Medienbranche. Gleichzeitig sind diese Einrichtungen wertvolle Vernetzungsmöglichkeiten für Forschung und Praxis. 35 Siehe zum Beispiel die Wiener Medieninitiative(https://medieninitiative.wien/). Dieses Projekt fördert journalistische Start-ups nicht nur finanziell, sondern bietet darüber hinaus ein Netzwerk und regelmäßige Weiterbildungsangebote für die Geförderten. 36 Siehe Meier et al.(2024). Innovationen sind unabdingbar für die Weiterentwicklung des Journalismus. Ein großer Teil der Journalismus- und Medieninnovationen ist überhaupt erst entstanden, weil im Kontext der demokratischen Funktionen Optimierungsbedarf festgestellt wurde(beispielsweise bei großen internationalen Investigativformaten und Zusammenschlüssen verschiedener Medienmarken, siehe Panama-Papers-Beispiel oben). LITERATURVERZEICHNIS Bayerischer Rundfunk 2020: Unsere KI-Richtlinien im Bayerischen Rundfunk, https://www.br.de/extra/ai-automation-lab/ki-ethik-100.html (30.11.2023). Becker, Kim Björn; Simon, Felix M.; Crum, Christopher 2023: Policies in Parallel? A Comparative Study of Journalistic AI Policies in 52 Global News Organisations, unveröffentlichter Pre-Print, https://www. researchgate.net/profile/Kim-Becker-7/publication/372536221_New_ game_new_rules_An_investigation_into_editorial_guidelines_for_dealing_with_artificial_intelligence_in_the_newsroom/ links/64bd455fc41fb852dd957c86(30.11.2023). Beckett, Charlie; Yaseen, Mira 2023: Generating Change: A Global Survey of What News Organisations Are Doing With AI, London, https://www.journalismai.info/s/Generating-Change-_-The-JournalismAI-report-_-English.pdf(30.11.2023). BLM 2023: Leitlinien des Medienrats zu KI im Journalismus, https:// www.blm.de/files/pdf2/ki-leitlinien.pdf(30.11.2023). Brandl, Max 2023: Publikumszentrierte News mit KI: Wie Künstliche Intelligenz uns hilft, Regionalnachrichten neu zu denken, https://medium.com/br-next/publikumszentrierte-news-mit-ki-84ae932f6304 (30.11.2023). Brennen, Scott; Howard, Philip; Nielsen, Rasmus Kleis 2018: An Industry-Led Debate: How UK Media Cover Artificial Intelligence, Factsheet Reuters Institute for the Study of Journalism. Brühl, Jannis; Hurtz, Simon 2023: Wie der Rauswurf von Sam Altman die KI-Welt verändert, https://www.sueddeutsche.de/wirtschaft/ kuenstliche-intelligenz-open-ai-ki-sam-altman-microsoft-1.6306252 (30.11.2023). Buschow, Christopher 2022: Innovationsförderung im Lokaljournalismus, in: Kaltenbrunner, Andy et al.(Hrsg.): Der Journalismus-Report VII: Lokaljournalismus und Innovation, Wien, S. 102–115. Caswell, David; Dörr, Konstantin 2017: Automated Journalism 2.0: Event-Driven Narratives – From Simple Descriptions to Real Stories, in: Journalism Practice 12(4), S. 477–496. Cools, Hannes; Diakopoulos, Nick 2023: Towards Guidelines for Guidelines on the Use of Generative AI in Newsrooms, in: medium.com. https://generative-ai-newsroom.com/towards-guidelines-for-guidelineson-the-use-of-generative-ai-in-newsrooms-55b0c2c1d960 (30.11.2023). Dataminr 2023: Case Study: Radio Free Europa, https://www.dataminr.com/resources/case-study/radio-liberty-uses-dataminr-to-tell-stories-in-countries-without-a-free-press(30.11.2023). Deutsche Presse-Agentur 2023: Faktencheck auf neuem Terrain: Medienkompetenz stärken und Desinformation bekämpfen im Zeitalter der KI, dpa Whitepaper, https://www.presseportal.de/pm/8218/5600929 (30.11.2023). Deutscher Journalisten-Verband 2023: Positionspapier bezüglich des Einsatzes Künstlicher Intelligenz im Journalismus, https://www.djv. de/ fileadmin/user_upload/ INFOS/ Themen/ Medienpolitik/ DJV-Positionspapier_KI_2023-04.pdf(30.11.2023). Deutscher Presserat 2022: Jahresbericht 2022, Berlin. DJU 2023: Generische KI im Journalismus, https://dju.verdi.de/ueberuns/nachrichten/++co++7b088aa6-5623-11ee-880a-001a4a160111 (30.11.2023). Dörr, Konstantin 2016: Mapping the Field of Algorithmic Journalism, in: Digital Journalism 4(6), S. 700–722. Dörr, Konstantin 2023: Algorithmische Werkzeuge: Chancen und Herausforderungen für den Journalismus, in: Meier, Klaus; Neuberger, Christoph(Hrsg.): Journalimusforschung: Stand und Perspektiven, Baden-Baden, 3. Aufl., S. 203–222. Grenzen überwinden, Chancen gestalten— FES impuls 10

Europäische Kommission 2021: Zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz(Gesetz über Künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union, https://eur-lex. europa.eu /legal-content/ DE/ T X T/ HTML/?uri= CELEX:52021PC0206&from=DE(30.11.2023). fög – Forschungszentrum Öffentlichkeit und Gesellschaft(Hrsg.) 2023: Jahrbuch Qualität der Medien 2023, Schwabe. Graßl, Michael; Schützeneder, Jonas; Meier, Klaus 2022: Künstliche Intelligenz als Assistenz: Bestandsaufnahme zu KI im Journalismus aus Sicht von Wissenschaft und Praxis, in: Journalistik 5(1), S. 3–27. Heim, Steffen; Chan-Olmsted, Sylvia 2023: Consumer Trust in AI–Human News Collaborative Continuum: Preferences and Influencing Factors by News Production Phases, in: Journalism and Media 4(3), S. 946–965. Jang, Wonseok; Kwak, Dae Hee; Bucy, Erik 2022: Knowledge of Automated Journalism Moderates Evaluations of Algorithmically Generated News, New Media& Society. Journalism Trust Initiative 2023: About JTI, https://www.journalismtrustinitiative(30.11.2023). Journalist 2023: 101 Prompts für die bessere Seite eins?, https://www. journalist.de/startseite/detail/article/101-prompts-fuer-die-bessere-seite-eins(30.11.2023). Körner, Theresa 2024: Generalisiertes Vertrauen in automatisierten Journalismus: Bedeutung und Einflussfaktoren auf das Vertrauen deutscher Leser:innen, Wiesbaden. Kreye, Andrian 2023: Keine Panik vor der KI, https://www.sueddeutsche.de/meinung/ki-google-harari-hinton-mensch-kommentar1.5838300?reduced=true(30.11.2023). Kring, Oliver 2023:„The Rock“: Radio Helgoland: Erstes Radio ohne Menschen, https://www.ndr.de/nachrichten/schleswig-holstein/TheRock-Radio-Helgoland-Erstes-Radio-ohne-Menschen,radiohelgoland100.html(30.11.2023). Landesanstalt für Medien NRW 2023: Digitale Verifikation: Tools und Tipps für den redaktionellen Alltag, https://www.journalismuslab. de/2023/03/21/handbuch-digitale-verifikation-fuer-den-redaktionellenalltag/(30.11.2023). Latos, Maria; Lobigs, Frank; Wormer, Holger 2023: Peer-Based Research Funding as a Model for Journalism Funding, in: journalism, online first, http://www.doi.org/10.1177/14648849231215662 (30.11.2023). Lederle, Johannes 2020: Oachkatzl: Training und Benchmarking von KI-basierten Audio-Mining-Systemen auf bayerische Dialekte, https:// www.vfm-online.de/newcomerforum/preistraeger/info7_2020-2_S3338.pdf(30.11.2023). Meier, Klaus 2014: Die Redaktion als Institution der Medienethik, Wiesbaden. Meier, Klaus; Schützeneder, Jonas; Graßl, Michael 2021: KI als Anwendung im Journalismus: Zwischen Misstrauen und Aufklärung, https://ki-campus.org/blog/ki-im-journalismus(30.11.2023). Meier, Klaus; Graßl, Michael; García‐Avilés, Jose Alberto; Mondejar, Dámaso; Kaltenbrunner, Andy; Lugschitz, Renée; Porlezza, Colin; Mazzoni, Petra; Wyss, Vinzenz; Saner, Mirco 2024: Innovations in Journalism as Complex Interplay: Supportive and Obstructive Factors in International Comparison, in: Media and Communication 12 (7.443), https://doi.org/10.17645/mac.7443(30.11.2023). Metz, Cade 2023:„The Godfather of A.I.“ Leaves Google and Warns of Danger Ahead, in: New York Times, 1.5.2023, New York. Mongil, Jaime Avalos; Gawlik, Philipp; Paul, Martin; Pfeiffer, Jörg 2022: What’s There, What’s Missing, https://interaktiv.br.de/ai-detect-newsroom-mentions-in-comments/(30.11.2023). Newman, Nic 2021: Journalism, Media, and Technology Trends and Predictions 2021, https://reutersinstitute.politics.ox.ac.uk/sites/default/ files/2021-06/Digital_News_Report_2021_FINAL.pdf(30.11.2023). Newman, Nic 2023: Digital News Report 2023, https://reutersinstitute. politics.ox.ac.uk/sites/default/files/2023-06/Digital_News_Report_2023.pdf(30.11.2023). Pauly, Marcel 2021: So lassen wir Dutzende Wahlkreisanalysen automatisiert schreiben, https://www.spiegel.de/backstage/ltw-in-badenwuerttemberg-und-rheinland-pfalz-2021-automatisierte-wahlkreis-analysen-a-701c2ffb-c0a9-4ffb-8575-ac27c2184a0e(30.11.2023). Porlezza, Colin; Pranteddu, Laura; Mazzoni, Petra 2022: The Governance of Artificial Intelligence in Public Service Media: A Comparative Analysis, Federal Office of Communications(OFCOM). Raabe, Sebastian 2023: Offen, verantwortungsvoll und transparent – Die Guidelines der dpa für Künstliche Intelligenz, https://innovation. dpa.com/2023/04/03/kuenstliche-intelligenz-fuenf-guidelines-der-dpa/ (30.11.2023). Ratering, Jörn 2022: Zwischen Geotags und Gesichtserkennung: KI in der Verifikation, in: Communicatio Socialis 55(3), S. 360–366. Reporter without Borders 2023: Paris Charter on AI and Journalism, https://rsf.org/sites/default/files/medias/file/2023/11/Paris%20charter%20on%20AI%20in%20Journalism.pdf(30.11.2023). Schäfer, Mike 2023: The Notorious GPT: Science Communication in the Age of Artificial Intelligence, in: Journal of Science Communication 22(2). Schweizer Presserat 2023: Regeln für den Einsatz von KI im Journalismus, 11.8.2023, https://presserat.ch/mm_ki/(30.11.2023). Stuttgarter Zeitung 2023: Klimazentrale, https://www.stuttgarter-zeitung.de/klimazentrale(30.11.2023). Süddeutsche Zeitung 2016: Panama Papers, https://panamapapers. sueddeutsche.de(30.11.2023). Vogler, Daniel; Eisenegger, Mark; Fürst, Silke; Udris, Linards; Ryffel, Quirin; Rivière, Maude; Schäfer, Mike 2023: Künstliche Intelligenz in der journalistischen Nachrichtenproduktion: Wahrnehmung und Akzeptanz in der Schweizer Bevölkerung, in: fög – Forschungszentrum Öffentlichkeit und Gesellschaft(Hrsg.): Jahrbuch Qualität der Medien 2023, Schwabe, S. 33–45. XPLR: MEDIA in Bavaria 2023: KI-Studie: Chancen, Risiken und Perspektiven für Medien, https://www.xplr-media.com/de/studien/ki-studie. html(30.11.2023). ZDF 2023: Deepfake: Gefälschtes logo-Video, https://www.zdf.de/ nachrichten/panorama/deepfake-logo-video-faelschung-ki-kuenstlicheintelligenz-100.html(30.11.2023). Grenzen überwinden, Chancen gestalten— FES impuls 11

ZU DEN AUTOREN: Prof. Dr. Jonas Schützeneder ist Inhaber der Professur für Journalismus und digitale Innovation an der Hochschule Magdeburg-Stendal. 2020/21 war er Fellow am KI Campus(Berlin) zum Thema KI im Journalismus. Prof. Dr. Michael Graßl ist Professor für Journalismus und Medienmanagement an der Hochschule Macromedia(Campus München). Er ist Initiator des Podcasts„KI im Journalismus“(KI-Campus-Original). Prof. Dr. Klaus Meier ist Inhaber des Lehrstuhls für Journalistik mit Schwerpunkt Innovation und Transformation, zudem seit 2021 Vizepräsident für Studium und Lehre an der Katholischen Universität Eichstätt-Ingolstadt. 2020/21 war er Fellow am KI Campus(Berlin) zum Thema KI im Journalismus. IMPRESSUM Januar 2024 © Friedrich-Ebert-Stiftung Herausgeberin: Abteilung Analyse, Planung und Beratung Godesberger Allee 149, 53175 Bonn Fax 0228 883 9205 www.fes.de/apb Für diese Publikation ist in der FES verantwortlich: Julia Bläsius, Abteilung Analyse, Planung und Beratung Bestellungen/Kontakt: apb-publikation@fes.de Die in dieser Publikation zum Ausdruck gebrachten Ansichten sind nicht notwendigerweise die der Friedrich-Ebert-Stiftung. Eine gewerbliche Nutzung der von der FES herausgegebenen Medien ist ohne schriftliche Zustimmung durch die FES nicht gestattet. Publikationen der Friedrich-Ebert-Stiftung dürfen nicht für Wahlkampfzwecke verwendet werden. Titelilmotiv:© picture alliance/ZUMAPRESS.com| Chris Walker/Chicago Tribune ISBN 978-3-98628-512-8 Grenzen überwinden, Chancen gestalten— FES impuls 12