Briefing Paper Maßnahmen und Strategien zur Bekämpfung von Hate Speech auf europäischer Ebene – ein Überblick Hanna Gleiß& Sina Laubenstein

Briefing Paper| Maßnahmen und Strategien zur Bekämpfung von Hate Speech auf europäischer Ebene – ein Überblick Einleitung Die digitale Konferenz Unboxing Hate Speech: Europäische Impulse für Respekt und Solidarität im Netz wird von der Friedrich-Ebert-Stiftung, gemeinsam mit dem Auswärtigen Amt sowie dem Bundesministerium der Justiz und für Verbraucherschutz, organisiert und umgesetzt. Der Kampf gegen Hass und Hetze im Internet ist ein Schwerpunkt, den Deutschland im Rahmen des Vorsitzes im Ministerkomitee des Europarats setzt. Dieses Briefing Papier soll einen Überblick über aktuelle Studien mit Analysen und Vorschlägen zur europäischen Regulierung von Hass im Netz geben. Zudem sollen Initiativen und politische Maßnahmen des Europarates zur Bekämpfung von Hassrede und Schwerpunkte des deutschen Vorsitzes im Ministerkomitee des Europarates zum Thema Hassrede erläutert werden. Abschließend wird eine Auswahl von Ansätzen und Forderungen erläutert, welche die(europäische) Zivilgesellschaft, die sich gegen Hate Speech engagiert, an die Politik richtet. empfohlen: Dadurch würden die Entwicklung innovativer Maßnahmen sowie das gegenseitige Verständnis gefördert. Allerdings sollten dabei auch die Herausforderungen möglicher Kooperationen beachtet werden, z. B. hinsichtlich existierender Machtgefälle zwischen den verschiedenen Akteur_innen Bewahrung von Unabhängigkeit insbesondere der Zivilgesellschaft. Letztlich sollten bei der Entwicklung sogenannter Governance Tools die Perspektive und die Bedarfe der Betroffenen stärker in den Fokus gerückt werden. Verfügbar via: https://rm.coe.int/models-of-governance-of-online-hate-speech/16809e671d — Europäisches Parlament, 2020: Hate Speech and Hate Crime in the EU and the Evaluation of Online Content Regulation Approaches (1) Aktuelle Studien zu Hate Speech aus europäischer(und internationaler) Perspektive Europarat, 2020: Models of Governance of Online Hate Speech In der komparativen Studie des Europarats werden unterschiedliche regulatorische Maßnahmen der verschiedenen Mitgliedstaaten zum Umgang mit Hass und Hetze im Internet untersucht, darunter das NetzDG(Netzwerkdurchsetzungsgesetz) aus Deutschland oder auch die seinerzeit geplante Avia Bill aus Frankreich. Zudem werden freiwillige Maßnahmen der Social-Media-Unternehmen evaluiert. Auf Basis der Analyse werden Empfehlungen an politische Akteur_innen formuliert, darunter unter anderem die Standardisierung der Regelungen auf EU-Ebene, jedoch unter Berücksichtigung nationaler Kontexte und Herausforderungen. Zudem wird eine stärkere Zusammenarbeit zwischen Regierungen, Unternehmen und der Zivilgesellschaft Die Studie, die vom Ausschuss für bürgerliche Freiheiten, Justiz und Inneres des Europäischen Parlaments(kurz: LIBE Komitee) in Auftrag gegeben wurde, zeigt auf, dass Hassrede und Hasskriminalität europäische Gesellschaften angreifen, indem sie individuelle Rechte, Menschenwürde und die Gleichheit bedrohen. Dadurch würden Spannungen zwischen sozialen Gruppen verstärkt, der öffentliche Frieden und die öffentliche Ordnung gestört und ein friedliches Zusammenleben gefährdet. In einer vergleichenden Analyse werden regulatorische Maßnahmen von EU-Mitgliedstaaten untersucht, denn bislang fehlt es an angemessenen Mitteln auf EU-Ebene. Die brauche es aber, um existierende Standards zu schützen und Gegenmaßnahmen im Umgang mit Hassrede und Hasskriminalität effektiv umzusetzen. Die Studie empfiehlt konkrete Maßnahmen, um effektiv auf Hass und Hetze in der EU zu reagieren, darunter unter anderem das Sanktionieren politischer Parteien und Persönlichkeiten, wenn sie gegen Menschenrechte und demokratische Prinzipien verstoßen. Des Weiteren brauche es die Verbreitung eigener Narrative, das Engagement auf lokaler Ebene sowie eine 2

Briefing Paper| Maßnahmen und Strategien zur Bekämpfung von Hate Speech auf europäischer Ebene – ein Überblick grenzüberschreitende und konsequente Rechtsdurchsetzung. Darüber hinaus müsse die Forschung zu den psychischen und sozialen Folgen von Hate Speech intensiviert werden. European Centre for Minority Issues, 2019: Words that Hurt(1): Normative and Institutional Considerations in the Regulation of Hate Speech in Europe Verfügbar via: https://www.europarl.europa. eu/RegData/etudes/STUD/2020/655135/IPOL_ STU(2020)655135_EN.pdf — Vereinte Nationen, 2019: Report of the Special Rapporteur on the Promotion and Protection of the Right to Freedom of Opinion and Expression David Kaye(Sonderberichterstatter der Vereinten Nationen für Meinungsfreiheit bis Juli 2020) erläutert in seinem Bericht, dass die Gesetzgebung der internationalen Menschenrechte einen Standard setzt, der als Rahmen für regulatorische Maßnahmen zum Umgang mit Hass im Netz von Regierungen wie auch von Unternehmen zum Schutz der Menschenrechte im Netz beachtet werden sollte. Dies sei insbesondere in Anbetracht zunehmender Forderungen nach einer Regulierung von OnlineHassrede relevant. Unter anderem betont Kaye, dass der Schutz der Menschenrechte auch online gewahrt werden müsse. Es dürfe jedoch keine speziellen Kategorien von Online-Hassrede geben, deren Strafen höher seien als die von Offline-Hasskriminalität. Unabhängige gerichtliche Mechanismen müssen eingerichtet oder gestärkt werden, um Betroffene nachhaltig zu unterstützen. Zudem sollen die Unternehmen ihre Maßnahmen an die Internationalen Menschenrechte koppeln. Des Weiteren fordert Kaye die Entwicklung von Instrumenten, welche die individuelle Selbstbestimmung, Sicherheit und freie Meinungsäußerung fördern, darunter beispielsweise Aufklärungsarbeit, Gegenrede-Kampagnen sowie Fortbildungen und Trainings. Verfügbar via: https://www.undocs.org/A/74/486 — In ihrem ersten Arbeitspapier einer mehrteiligen Reihe diskutiert Dr. Kyriaki Topidi vom Europäischen Zentrum für Minderheitenfragen(kurz: ECMI) das Dilemma europäischer Politik zwischen der Regulierung von Online-Hassrede und-Belästigung und dem Schutz der Meinungsfreiheit. In ihrem Papier zeigt Topidi auf, in welchem Spannungsfeld sich die Debatte um die Regulierung von Hassrede bewegt – und beschreibt die Herausforderungen für Politik und Rechtsdurchsetzung, die mit unklaren bis vagen Definitionen von Schlüsselbegriffen einhergehen. In ihrer Zusammenfassung betont sie, dass neben legaler Regulierung weitere Maßnahmen ergriffen werden müssen: Als zentralen Baustein sieht sie die Bildung zu Werten wie Toleranz, Menschenrechten, kulturellen Unterschieden und Gleichheit an, denn nur so etabliere sich innerhalb der Gesellschaft ein„Abwehrmechanismus” gegen Hate Speech. Weitere zentrale Aspekte umfassen Gegenrede- sowie Empowerment-Maßnahmen. Verfügbar via: https://www.ecmi.de/fileadmin/ user_upload/WP__118_Words_that_Hurt__1_.pdf — European Centre for Minority Issues, 2019: Words that Hurt(2): National and International Perspectives on Hate Speech Regulation In ihrem zweiten Arbeitspapier untersucht Dr. Kyriaki Topidi vom Europäischen Zentrum für Minderheitenfragen(kurz: ECMI) den internationalen legalen und regulatorischen Rahmen im Umgang mit Hate Speech, mit besonderem Fokus auf Maßnahmen, die durch zwanzig europäische Länder ergriffen wurden. In einer vergleichenden Analyse zeigt sie nicht nur die unterschiedlichen Herangehensweisen auf, sondern stellt gleichzeitig auch fest, woran es länderübergreifend mangelt: Zwar erkennt sie an, dass es Regelungen braucht, die den jeweiligen 3

Briefing Paper| Maßnahmen und Strategien zur Bekämpfung von Hate Speech auf europäischer Ebene – ein Überblick sozio-ökonomischen Hintergrund berücksichtigen, nichtsdestotrotz fehle es an einem europäischen Verständnis von Konzepten und Maßnahmen, so Topidi. Die vagen und unklaren Definitionen und synonyme Verwendung von Schlüsselbegriffen würden für Verwirrung in der Strafverfolgung sorgen. Des Weiteren fehle es an spezialisierten Staatsanwaltschaften, um Ausmaß und Charakteristiken von Hassrede im Netz zu enthüllen. Daraus ergebe sich, unter anderem, dass betroffene Menschen und Menschengruppen Hass im Netz weniger häufig zur Anzeige bringen – entsprechend seien offizielle Statistiken zum Phänomen nur bedingt aussagekräftig. Schlussendlich fordert sie zudem die stärkere Berücksichtigung der Perspektive von Betroffenen bei der Entwicklung und Umsetzung von Maßnahmen. Verfügbar via: https://www.ecmi.de/fileadmin/ user_upload/WP__119_Words_that_Hurt__2__ ECMI.pdf — Europäisches Parlament, 2018: Cyber Violence and Hate Speech Online Against Women In dieser Studie, die vom Ausschuss für die Rechte der Frau und die Gleichstellung der Geschlechter (kurz: FEMM) des Europäischen Parlaments in Auftrag gegeben wurde, wird das Phänomen der digitalen Gewalt und der Online-Hassrede gegenüber Frauen in der EU untersucht. Neben den Ursachen von digitaler Gewalt werden auch deren Folgen für Frauen analysiert. Der Bericht zeigt auf, dass zwar jede zehnte Frau in der EU bereits Erfahrungen mit digitaler Gewalt gemacht hat, das Problem aber noch nicht hinreichend beachtet, geschweige denn bearbeitet wird. Entsprechend formuliert die Studie folgende Forderungen: Neben einer verstärkten Datenerhebung und intensivierten Forschung zu digitaler Gewalt, um das Ausmaß des Phänomens in der EU zu verstehen, braucht es die Verabschiedung einer allgemeinen Richtlinie über Gewalt an Frauen, mit dem Fokus auf digitaler Gewalt und Hass im Netz. Des Weiteren wird die verstärkte Zusammenarbeit der EU-Mitgliedstaaten in der Verfolgung von und im Umgang mit digitaler Gewalt und Online-Hassrede empfohlen. Verfügbar via: https://op.europa.eu/de/publication-detail/-/publication/1ccedce6-c5ed-11e89424-01aa75ed71a1 — Article 19, 2018: Responding to‘Hate Speech’: Comparative Overview of six EU Countries Der Bericht der zivilgesellschaftlichen Organisation Article 19 bietet einen vergleichenden Überblick über die rechtlichen Rahmenbedingungen und Maßnahmen im Umgang mit Hass im Netz in sechs EU-Ländern, darunter Deutschland, Großbritannien, Italien, Polen, Österreich und Ungarn. Die Länder unterscheiden sich in ihrer Geschichte und Kultur, gemein ist ihnen jedoch die signifikante Zunahme von Hassrede im Netz und damit einhergehend, zumindest in manchen Ländern, die Zunahme von Hasskriminalität. Im Fazit zieht Article 19 den Schluss, dass alle analysierten Länder zwar das Phänomen Hate Speech auf legaler und regulatorischer Ebene angehen, es aber eine Überprüfung und Angleichung braucht. Die Initiative empfiehlt daher, dass relevante nationale Gesetze, insbesondere im Strafrecht, mit dem internationalen Menschenrechtsstandard abgeglichen und entsprechend angepasst werden sollten. Des Weiteren sollten Justiz, Strafverfolgungsbehörden und öffentliche Einrichtungen regelmäßige Trainings zu relevanten Menschenrechtsstandards in Bezug auf Hate Speech erhalten. Zudem wird betont, dass Verfahren und der Umgang mit Hass im Netz stärker die Perspektive und Bedarfe der Betroffenen in den Fokus rücken sollten. Letztlich sieht die Initiative auch Beamt_innen und Politiker_innen, aber ebenso die Medien in der Verantwortung im Umgang mit Hate Speech, für Toleranz und Vielfalt. Verfügbar via: https://www.article19.org/wp-content/uploads/2018/03/ECA-hate-speech-compilation-report_March-2018.pdf 4

Briefing Paper| Maßnahmen und Strategien zur Bekämpfung von Hate Speech auf europäischer Ebene – ein Überblick Natalie Alkiviadou, 2018: The Legal Regulation of Hate Speech: The International and European Frameworks (2) Initiativen und Maßnahmen des Europarats im Umgang mit Hate Speech In ihrem Beitrag analysiert Natalie Alkiviadou die internationalen und europäischen Instrumente zur legislativen Regulierung von Hass im Netz, darunter u. a. den Internationalen Pakt über bürgerliche und politische Rechte(ICCPR, kurz: UN-Zivilpakt), das Internationale Übereinkommen zur Beseitigung jeder Form von Rassismus(ICERD), die Europäische Menschenrechtskonvention(EMRK), den Rahmenbeschluss zur strafrechtlichen Bekämpfung bestimmter Formen und Ausdrucksweisen von Rassismus und Fremdenfeindlichkeit sowie das Zusatzprotokoll zum Übereinkommen über Computerkriminalität des Europarats. Ihre Analyse zeigt auf, dass es weder auf internationaler noch europäischer Ebene einen gemeinsamen Ansatz zur Definition und zum Umgang mit Hate Speech gibt. Des Weiteren würden sich bisherige Instrumente und Regularien nur auf bestimmte Formen von Hate Speech konzentrieren, aber nicht das Phänomen in Gänze abdecken: Dadurch entstehe eine “Hierarchie von Hate Speech”, die u. a. sexistische, homo- und transphobe Hassrede nicht beinhalte. Des Weiteren fordert sie, dass die EU sowie der Europarat Maßnahmen aufgreifen und implementieren sollten, um Hassrede, die zwar noch nicht strafrechtlich relevant, aber dennoch schädigend ist, zu begegnen – dies brauche es für eine umfassende Regulierung von Hate Speech, schließt Alkiviadou. Verfügbar via: http://clok.uclan. ac.uk/23118/7/23118%20Politicka_misao_4_2018_203_229_ALKIVIADOU.pdf Hassrede im vermeintlich rechtsfreien Raum des Internets verstößt gegen grundlegende Rechte der Europäischen Menschenrechtskonvention (EMRK), greift die Diskussionskultur unserer demokratischen, pluralistischen Gesellschaft an und drängt Menschen aus dem öffentlichen Raum. Der Europarat hat schon lange erkannt, dass Hassrede durch die Anonymität und die Möglichkeiten des Internets einen sehr großen Wirkungsraum erhält und die zahlreichen betroffenen Menschen, die u. a. wegen ihrer sexuellen Orientierung, ihres Geschlechts, ihrer Konfession, ihrer Behinderung oder ihres(beruflichen) Engagements Hate Speech erfahren, geschützt werden müssen. In den vergangenen Jahren hat der Europarat deshalb vielfältige Initiativen, Maßnahmen und Ansätze verfolgt, um Hate Speech entgegenzuwirken, darunter vertragliche Ansätze, politische wie auch Monitoring-Maßnahmen, genauso wie pädagogische, informative und interkulturelle Initiativen. Zentral für die Aktivitäten des Europarats zu Hate Speech ist die Europäische Menschenrechtskonvention(EMRK): Denn Hass und Hetze, online wie offline, stellen eine Bedrohung dar – für die Demokratie, unsere europäische Gesellschaft und die Menschenrechte. Neben Empfehlungen und Forderungen an die Mitgliedstaaten, implementiert der Europarat auch eigene Projekte und Initiativen, um Hassrede und Diskriminierung zu bekämpfen und Inklusion zu stärken. Nennenswert ist hier insbesondere die Initiative No Hate Speech Movement, die vor allem von und mit jungen Menschen und Aktivist_innen gestaltet wird und das Engagement zum Phänomen Hate Speech nicht nur auf internationaler Ebene, sondern auch in den Mitgliedstaaten maßgeblich mitbestimmt hat(siehe unten). Aus diesem Grund hat der Europarat nicht nur als erste internationale und zwischenstaatliche Institution eine offizielle Definition für Hate Speech 5

Briefing Paper| Maßnahmen und Strategien zur Bekämpfung von Hate Speech auf europäischer Ebene – ein Überblick verabschiedet. Die politischen Organe des Europarats, darunter die Parlamentarische Versammlung des Europarates(kurz: PACE), der Kongress der Gemeinden und Regionen des Europarates sowie das Ministerkomitee des Europarates, haben auch Empfehlungen verabschiedet, um europaweit Menschenrechtsstandards zu setzen, den Mitgliedstaaten des Europarats im Umgang mit Hate Speech zu helfen und Betroffene zu unterstützen. Das Thema Hassrede und Diskriminierung wird weiterhin auch in den Bereichen Bildung, Sport, Rechte der Roma/ Romnja, Gleichstellung der Geschlechter, sexuelle Orientierung und Gender sowie Medien und Internet-Governance vom Europarat aus bearbeitet. — Welche Rolle spielen Regelungen und Maßnahmen zum Umgang mit Hate Speech auf europäischer Ebene? Regelungen und Maßnahmen auf europäischer Ebene sind wegweisend – nicht nur für europäische Länder, sondern auch auf globaler Ebene. Unter anderem überprüft der Europäische Gerichtshof für Menschenrechte(EGMR) die Anwendung der Europäischen Menschenrechtskonvention. Dessen Urteile erlauben es, Fragen von Menschenrechten auch in Zusammenhang mit Hassrede aufzugreifen und zu verstehen. So hat der EGMR eine umfassende Rechtsprechung zu Hassrede und Anstachelung zu Gewalt entwickelt und dabei die vermeintlich konkurrierenden Grundsätze zu Meinungsfreiheit und dem Schutz vor Diskriminierung ausgeglichen. Unter anderem betont der EGMR die Notwendigkeit einer„strengen Politik”(strong policies) im Kampf gegen Rassismus als Grundlage zur Einschränkung von Hassrede. Des Weiteren beobachtet die Europäische Kommission gegen Rassismus und Intoleranz(ECRI), eine unabhängige Kommission des Europarats, die Verbreitung von und den Umgang mit Rassismus, Antisemitismus, Intoleranz und Diskriminierung in den Mitgliedstaaten des Europarats und spricht Empfehlungen aus. Auf dieser Grundlage verabschiedete die Kommission beispielsweise 2015 die Allgemeine Politik-Empfehlung Nr. 15 Über die Bekämpfung von Hassrede, um die Mitgliedstaaten zu einem resoluten und effizienten Umgang mit Hate Speech aufzurufen. In regelmäßigen MonitoringTerminen wird in den jeweiligen Ländern überprüft, wie sich die Lage verändert und ob etwaige Empfehlungen umgesetzt wurden. Die Ergebnisse aus diesen Gesprächen und Beobachtungen werden publiziert und zugänglich gemacht – und sind häufig richtunggebend für die weitere Arbeit in den jeweiligen Ländern, sowohl auf politischer Ebene als auch für die Zivilgesellschaft. Die ECRI, aber auch der Europarat sehen insbesondere in Bezug auf Unterstützung der von Hate Speech Betroffenen Handlungsbedarf in den verschiedenen Mitgliedstaaten. Das umfasst nicht nur das Monitoring von Hassrede, sondern auch Beratung, Gegenrede sowie die strafrechtliche Verfolgung. Dies geht aus dem jährlichen Bericht der Kommission hervor, genauso wie aus den jeweiligen Landesberichten. Bereits 2003 hatte der Europarat zudem das Zusatzprotokoll zum Übereinkommen über Computerkriminalität betreffend die Kriminalisierung mittels Computersystemen begangener Handlungen rassistischer und fremdenfeindlicher Art verabschiedet, in dem sich die unterzeichnenden Mitgliedstaaten verpflichten, entsprechende Rechtsvorkehrungen zum Umgang mit Hate Speech im Netz zu erlassen und sicherzustellen, dass diese auch umgesetzt werden. — Welche konkreten Initiativen verfolgt der Europarat aktuell? 2020 hat der Europarat einen Expert_innenausschuss zur Bekämpfung von Hassrede(übersetzt: Expert Committee on Combating Hate Speech) initiiert. Bestehend aus 16 Expert_innen, hat der Ausschuss den Auftrag/das Mandat, einen Empfehlungsentwurf des Ministerkomitees des Europarats an die Mitgliedstaaten vorzubereiten, um eben diesen sowie weiteren Interessensgruppen im 6

Briefing Paper| Maßnahmen und Strategien zur Bekämpfung von Hate Speech auf europäischer Ebene – ein Überblick Bereich Hate Speech konkrete Leitlinien zu geben. Der Europarat erkennt an, dass Hassrede in allen Mitgliedstaaten eine dringende Herausforderung darstellt – und es umfassende Empfehlungen für die Politik, aber auch das Engagement der Zivilgesellschaft braucht. Der Entwurf des Ausschusses soll einen umfassenden Ansatz zur Bekämpfung von Hassreden, online wie offline, innerhalb des Rahmens der Menschenrechte, basierend auf der Rechtsprechung des Europäischen Gerichtshofs für Menschenrechte sowie weiteren Berichten des Europarats, enthalten. Des Weiteren soll der Entwurf auf den bestehenden Standards und Praktiken des Europarats zur Bekämpfung von Hassrede sowie den Erfahrungen des No Hate Speech Movements aufbauen sowie praktische Instrumente berücksichtigen. Zudem soll der Entwurf des Ausschusses legislative, institutionelle und regulatorische Rahmenbedingungen berücksichtigen. Etwaige Empfehlungen sollten auf verschiedenen Ebenen wirken, darunter unter anderem auf administrativer, rechtlicher und Policy-Ebene. Zudem hat der Europarat 2020 auch den Expert_innenausschuss für freie Meinungsäußerung und digitale Technologien(übersetzt: Committee of Experts on Freedom of Expression and Digital Technologies) etabliert. Diese interdisziplinäre Gruppe konzentriert sich zwar nicht primär auf Hate Speech, untersucht aber die Auswirkungen digitaler Technologien und Künstlicher Intelligenz auf die freie Meinungsäußerung. Dies tangiert entsprechend auch die Diskussion um Hassrede im Internet und deren Gefahr für Meinungsfreiheit und die Menschenrechte insgesamt, da insbesondere die Risiken der Ungleichbehandlung und Diskriminierung von Menschen durch Künstliche Intelligenz (KI) bearbeitet werden sollen. In den nächsten zwei Jahren wird der Expert_innenausschuss einen Empfehlungsentwurf des Ministerkomitees des Europarats an die Mitgliedstaaten zu den Auswirkungen digitaler Technologien auf die Meinungsfreiheit aufsetzen. Darin sollen unter anderem Leitlinien für die Mitgliedstaaten enthalten sein, einerseits um Chancen und Möglichkeiten digitaler Technologien und KI bestmöglich zu nutzen, andererseits aber auch, um auf Herausforderungen umfassend zu reagieren und die europäischen Demokratien zu stärken und zu schützen. Zudem arbeitet der Ausschuss an einem Leitfaden für die Mitgliedstaaten zu Methoden der Moderation von Inhalten. Entsprechend der Allgemeinen Politik-Empfehlung Nr. 15 der Europäischen Kommission gegen Rassismus und Intoleranz(ECRI), hebt der Europarat die Relevanz des Vorgehens der einzelnen Mitgliedstaaten im Kampf gegen Hate Speech hervor, unter Berücksichtigung ihrer jeweiligen nationalen Kontexte. 2019 hat der Europarat deshalb damit begonnen, entsprechende Strategien der Mitgliedstaaten zu sammeln und sichtbar zu machen – und so ihre strategischen Fähigkeiten im Umgang mit der zunehmenden Verbreitung von Hassrede zu verbessern. Die Abbildung nationaler Ansätze soll auch der Entwicklung eines umfassenden und kohärenten Ansatzes, im Rahmen der Menschenrechte, auf internationaler Ebene dienen, um nachhaltige Ergebnisse und Effekte zu erzielen. 2019 verabschiedete das Ministerkomitee des Europarats zudem die gemeinsame Erklärung zu den Erfolgen und Erfahrungen des zugänglich machte, gleichzeitig äußerte es aber auch Sorge über die zunehmende Verbreitung von Hass und Hetze. Aus diesem Grund wurde beschlossen, Maßnahmen und Erkenntnisse des No Hate Speech Movements fortzusetzen: unter anderem durch Projekte im Bereich Bildung, aber auch durch die Entwicklung neuer Projekte zur Medien- und Informationskompetenz. Zudem sind viele nationale Ableger des No Hate Speech Movements weiterhin aktiv(u. a. in Deutschland und Italien), genauso haben die Aktivist_innen ein unabhängiges No-Hate-Speech-Netzwerk gegründet, um die internationale Vernetzung und Zusammenarbeit der Bewegung weiterhin sichtbar zu machen, zu stärken und – vor allem – fortzusetzen. 2018 verabschiedete das Ministerkomitee des Europarats außerdem die Recommendation CM/ Rec(2018)2 on the roles and responsibilities of 7

Briefing Paper| Maßnahmen und Strategien zur Bekämpfung von Hate Speech auf europäischer Ebene – ein Überblick internet intermediaries, die sich mit der Verantwortung von Plattformanbietern im Internet befasst. Seit 2014 verabschiedet die Parlamentarische Versammlung des Europarates(PACE) in steter Regelmäßigkeit Resolutionen, um die Mitgliedstaaten zum Handeln aufzufordern. Zuletzt wurde 2019 die Resolution zur Rolle und Verantwortung von Politiker_innen bei der Bekämpfung von Hassreden und Intoleranz verabschiedet, mit Empfehlungen an die Mitgliedstaaten. Unter anderem empfiehlt PACE die Einrichtung von Foren für Diskussion und Austausch in den nationalen Parlamenten der Mitgliedstaaten, ähnlich der No Hate Parliamentary Alliance der Parlamentarischen Versammlung des Europarats. Darüber hinaus ruft PACE die Mitgliedstaaten erneut dazu auf, die Allgemeine Politik-Empfehlung Nr. 15 von ECRI umzusetzen. Des Weiteren setzen die eigens vom Europarat koordinierten und initiierten Projekte häufig auf der zivilgesellschaftlichen Ebene an, um Menschenrechte und demokratische Werte zu schützen – und von Hate Speech Betroffene zu unterstützen. Im Rahmen der Inklusions- und Antidiskriminierungsabteilung des Europarats werden beispielsweise verschiedene Projekte, in Zusammenarbeit mit zivilgesellschaftlichen Organisationen, koordiniert: Eines dieser Projekte ist WE CAN for human rights speech, das mit Partner_innen aus Belgien, Deutschland, Italien und Rumänien umgesetzt wird. Ziel des Projekts ist es, Organisationen und junge Aktivist_innen im Umgang mit Hassrede im Netz zu stärken und entsprechende Instrumente zur Verfügung zu stellen. Weitere Vorhaben und Projekte konzentrieren sich, unter anderem, auf Georgien, die Westbalkanländer sowie die Länder der Östlichen Partnerschaft. (3) Welche Ziele verfolgt Deutschland im Rahmen des deutschen Vorsitzes im Ministerkomitee des Europarats zum Thema Hate Speech? Der deutsche Vorsitz im Ministerkomitee des Europarats soll vor allem dazu genutzt werden, die zentralen Grundpfeiler des Europarats – Menschenrechte, Demokratie und Rechtsstaatlichkeit – im europäischen Raum weiter zu festigen. Ein besonderer Blick wird dabei auch auf die Einhaltung der Menschenrechte im Internet gerichtet. Die gewählten Schwerpunkte lauten: Stärkung der Institutionen des Europarats zum Schutz der Menschenrechte, Schutz von Minderheiten, Bekämpfung von Hass und Hetze im Internet, Erarbeitung von Menschenrechtsstandards im Bereich technologischer Entwicklungen wie Künstlicher Intelligenz(KI). Ziel bei allen Themen ist die Erarbeitung gemeinsamer Regeln. Auch Gemeinden und Regionen werden als wichtige Partner_innen gesehen, um die gemeinsamen Ziele und Prioritäten zu erreichen. Um Menschenrechtsstandards insbesondere auch im Internet durchsetzen zu können, setzt der deutsche Vorsitz des Ministerkomitees auf die lückenlose Einhaltung der Europäischen Menschenrechtskonvention(EMRK), deren Einhaltung durch den Europäischen Gerichtshof für Menschenrechte (EGMR) beobachtet wird. Durch die Rechtsprechung des EGMR sind bereits erfolgreich Menschenrechtsverletzungen geahndet worden. Allerdings gilt es, noch einige Defizite zu bearbeiten: Manche Mitgliedstaaten haben Urteile des EGMR nach wie vor nicht umgesetzt, darüber hinaus ist die Europäische Union(EU) der EMRK nicht beigetreten, was eine Lücke im Schutz der Menschenrechte in Europa darstellt. An diesen Stellen möchte sich Deutschland in der Rolle als Vorsitz im Ministerkomitee des Europarats engagieren. Deutschland erkennt den Europarat als zentralen Standardsetzer an und möchte im Rahmen des 8

Briefing Paper| Maßnahmen und Strategien zur Bekämpfung von Hate Speech auf europäischer Ebene – ein Überblick Vorsitzes insbesondere die Regulierung Künstlicher Intelligenz sowie die Beteiligung von jungen Menschen fördern(beispielsweise durch die 3rd European Youth Work Convention im Dezember 2020). Damit unterstützt Deutschland die bisherigen Bemühungen des Europarats(s. o.). Außerdem will Deutschland, im Rahmen des Vorsitzes des Ministerkomitees, die Arbeit des bereits erwähnten Expert_innenkomitees des Europarats zur Bekämpfung von Hassrede bei der Erarbeitung von politischen und rechtlichen Empfehlungen für die Mitgliedstaaten unterstützen. Lösungen werden auf mehreren Ebenen angestrebt: gesetzliche Regelungen für Betreiber_innen sozialer Netzwerke, Bildungsprogramme für Erwachsene und Jugendliche sowie strafrechtliche Konsequenzen für Täter_ innen. Die Erfahrungen aus Deutschland bezüglich des Netzwerkdurchsetzungsgesetzes(NetzDG), aus dem Bundesprogramm„Demokratie leben!” und der Strafgesetzgebung sollen dabei in die Prozesse einfließen. Im Rahmen des deutschen Vorsitzes soll die Ratifizierung der Istanbul-Konvention zur Verhütung und Bekämpfung von Gewalt gegen Frauen durch Staaten, die noch nicht Mitglied sind, weiter vorangetrieben werden. Außerdem will Deutschland Überzeugungsarbeit leisten: Staaten, die eine Kündigung der Konvention zur Diskussion gestellt haben, sollen weiterhin an ihr festhalten. Staaten, die unterzeichnet, aber bislang nicht ratifiziert haben, sollen die Konvention ratifizieren. Gerade im Kontext der Corona-Pandemie haben Befragungen und Studien in einigen Ländern gezeigt, dass die Fallzahlen häuslicher Gewalt angestiegen sind, wodurch verstärkter Handlungsbedarf entsteht. Die Istanbul-Konvention deckt teilweise deutlich mehr Formen von Gewalt gegen Frauen ab als nationale Gesetzgebungen und verpflichtet Vertragsstaaten dazu, auch bei Rückzug von Aussagen oder Strafanzeigen Maßnahmen zu ergreifen. Zum 10. Jahrestag der Zeichnungsauflegung soll eine hochrangige Konferenz am 11. Mai 2021 ausgerichtet werden. Eine Zwischenbewertung der Strategie des Europarats für die Gleichstellung der Geschlechter 2018–2023 soll den Fortschritt und die Herausforderungen auf dem Weg der Geschlechtergleichstellung evaluieren. Des Weiteren will Deutschland im Rahmen des Vorsitzes das Empowerment und die Stärkung von Minderheiten fördern, denn trotz des Rahmenabkommens(„Framework Convention for the Protection of National Minorities”) werden Angehörige von Minderheiten in den Mitgliedstaaten des Europarats weiterhin diskriminiert. Für den deutschen Vorsitz im Ministerkomitee ist es ein Anliegen, das System des Minderheitenschutzes in Europa weiter zu stärken und für aktuelle und zukünftige Herausforderungen fit zu machen. Minderheitenschutz ist ein Querschnittsthema, das in andere Vorsitzthemen wie die Bekämpfung von Hassrede im Internet, aber auch den Umgang mit Künstlicher Intelligenz mit einbezogen wird. Ein besonderer Schwerpunkt des deutschen Vorsitzes liegt auf der größten, transnationalen Minderheit in Europa – den Roma. Mit dem European Roma Institute for Arts and Culture(ERIAC) in Berlin hat der Europarat eine wichtige Anlaufstelle für Kulturschaffende geschaffen, die dabei hilft, mit den Mitteln der Kultur Vorurteile abzubauen und eine positiv besetzte Roma-Identität zu fördern. ERIAC ist ein wichtiger Partner des deutschen Vorsitzes im Ministerkomitee. Auch die Gleichberechtigung der LSBTTIQ-Community(lesbisch, schwul, bisexuell, transgender, transsexuell, intersexuell, queer) in Europa soll vorangetrieben werden. (4) Was bleibt aus der Perspektive der Zivilgesellschaft zu tun? Das Engagement gegen Hassrede, jegliche Formen von menschenverachtenden Ideologien und für den Schutz der Menschenrechte sind komplexe Themenfelder. Sie erfordern Antworten auf unterschiedlichen Ebenen, von unterschiedlichen Akteur_innen. Immer mehr politische Akteur_innen haben in den letzten Jahren erkannt, dass Hassrede im Netz und weitere Phänomene von digitaler 9

Briefing Paper| Maßnahmen und Strategien zur Bekämpfung von Hate Speech auf europäischer Ebene – ein Überblick Gewalt ernste und weitreichende Bedrohungen für unsere freien Gesellschaften und Demokratien darstellen. Wir leben in heterogenen offenen Gesellschaften. Wir brauchen starke Narrative für eine plurale, offene Gesellschaft, in der ein respektvolles Miteinander(auch im Netz) gelebt und die Vielfalt wertgeschätzt wird. Was bleibt zu tun? Welche Forderungen stellen zivilgesellschaftliche Akteur_innen, die sich gegen Hate Speech engagieren und welche Maßnahmen sollen ergriffen werden? Welche Erfahrungen aus der Praxis müssen berücksichtigt werden? Nachfolgend wird eine Auswahl von Ansätzen und Forderungen dargestellt, die aus der(europäischen) Zivilgesellschaft an die Politik/politischen Akteur_innen gerichtet werden. Damit soll ein Einblick in die zivilgesellschaftliche Diskussion zur Bekämpfung von Hate Speech gegeben werden, der keinen Anspruch auf Vollständigkeit erhebt. Ganz grundsätzlich: nationaler Raum, entsprechend sind nationale Lösungen nur bedingt effektiv. Als Inspiration kann der EU-Kodex gegen Hassrede im Internet dienen. Allerdings müssen Kritikpunkte und Learnings aufgegriffen werden, u. a. bezüglich der Selbstverpflichtung der Unternehmen, da beispielsweise einige Unternehmen und Plattformen nicht teilnehmen und entsprechend nicht evaluiert werden. Schutz von Betroffenen: Viele Ansätze und Maßnahmen richten sich an von Hass und Hetze betroffene Menschen, gehen aber zu oft an deren Bedürfnissen und Lebensrealität vorbei. Deshalb braucht es: –  konsequente Einbeziehen von Betroffenen bei der Entwicklung, Umsetzung und Bewertung aller Maßnahmen.  konkrete Antirassismus-/Antidiskriminierungspolitik sowie abgestimmte Maßnahmen und die umfassende Evaluierung von neuen und bereits bestehenden Angeboten. –  Ideologien sind eine Haltung und brauchen ganzheitliche Ansätze. Best practices müssen international ausgetauscht werden. Dazu braucht es Formate und Angebote für den internationalen Austausch, für Praktiker_innen und Aktivist_innen – für die Menschen, die sich tagtäglich mit Hass und Hetze im Netz auseinandersetzen. –  alle müssen selbstkritisch gegen eigene Vorurteile und Rassismen angehen, dies ist ein lebenslanger Lernprozess. –  benötigen Solidarität, seien es ein Like, ein positives Statement über sie, konkrete Hilfestellung, Spenden, Zusammenarbeit. Das Gefühl, nicht alleine gelassen zu sein und das auch ganz praktisch zu spüren, ist essentiell. –  braucht europäisch(und international) abgestimmte Maßnahmen. Das Internet ist kein –  zentrale Beratungsstelle für Opfer digitaler Gewalt: Um akute Bedrohungen effektiver zu entschärfen, bedarf es der langfristigen Förderung und des Ausbaus von zentralen Instanzen in den jeweiligen Ländern, die den Kontakt zwischen Hilfesuchenden, Netzwerken, Strafverfolgung und Hilfsangeboten organisieren und leicht zugänglich sind. Polizei und Strafverfolgung müssen diese Institutionen kennen. –  gerichtliche Mechanismen, die eingerichtet oder gestärkt werden sollten, um Betroffene nachhaltig und effektiv zu unterstützen. –  Stellen innerhalb von Institutionen, wie z. B. der Polizei, bei denen anonyme Beschwerden oder Hinweise zu z. B. extremistischem Gedankengut innerhalb der Institution möglich sind. – (ehrenamtliches) kommunales Enga10

Briefing Paper| Maßnahmen und Strategien zur Bekämpfung von Hate Speech auf europäischer Ebene – ein Überblick gement, das stärker geschützt werden muss. Doxxing und andere Angriffe führen häufig zum Rückzug. Engagierte und andere Betroffene brauchen schnellen Zugang zu Behörden(z. B. wenn es um Melderegistersperren oder Ähnliches geht) und zu Plattformen(z. B. Awareness-Teams für schnelle Unterstützung bei Hacks etc.). –  Empowerment-Angebote, Teilhabe und geschützte Räume für marginalisierte Gruppen. Pädagogische Arbeit und politische Bildung: Wie bewegen wir uns im Netz? Wie können wir Gesellschaft und Demokratie aktiv im Netz mitgestalten? Wie sieht digitale Zivilcourage aus? Diese Fragen müssen ein zentraler Bestand­teil in der Bildungsarbeit sein. Dafür muss man: –  Internet als öffentlichen Raum ernst nehmen und Fortbildungsangebote für alle Altersgruppen schaffen. –  als integralen Bestandteil in (Fort-)Bildungskonzepten verstehen und in Lehrpläne aufnehmen. –  und Empowermenttrainings schaffen und fördern, um Werkzeuge zur Gegenrede an die Hand zu geben. Strafverfolgung im Netz Das Internet wird von vielen nach wie vor als rechtsfreier Raum verstanden. Dieses Gefühl verstärkt sich insbesondere dadurch, dass Hass und Hetze häufig keine Konsequenzen nach sich ziehen und Täter_innen nicht nur ermutigt, sondern auch bestätigt werden. Deshalb braucht es Ressourcen, um Menschenfeindlichkeit und Hassrede, die strafrechtlich relevant sind, auch entsprechend zu ahnden: –  Hetze und Menschenfeindlichkeit existieren nicht nur im Internet, doch treten sie hier in besonderem Maße zutage. Es braucht die nötigen Ressourcen an Personal, Finanzen, technischer Ausstattung und Expertise(Weiterbildungen), um digitalen Phänomenen angemessen zu begegnen. Geltendes Recht – welches nur für analoge Phänomene gedacht war – muss ggf. angepasst werden, um der digitalen Eskalationsdynamik adäquat entgegentreten zu können. –  zu Werten wie Toleranz, Menschenrechten, kulturellen Unterschieden und Gleichheit für alle Altersgruppen schaffen. Nur so etabliert sich innerhalb der Gesellschaft Resilienz gegen Hate Speech und Extremismus. –  bedarf mehr Ressourcen bei Anwält_innen, Polizei und in Gerichten sowie einer kontinuierlichen Weiterbildung zu digitalen Phänomenen, aber auch zu Diskriminierungsformen generell, u. a. Sexismus, Antiziganismus, Rassismus u. v. m. –  Bildung weiterdenken und stetig an neue Kontexte und Lebensrealitäten anpassen: Das Internet ist dynamisch und schnelllebig, es ist wichtig, dass politische Bildung Schritt hält und Schritt halten kann. Dazu bedarf es entsprechender Förderung und Ressourcen. –  werden spezialisierte Staatsanwaltschaften benötigt, um Ausmaß und Charakteristiken von Hassrede im Netz zu enthüllen und koordinierte Hasskampagnen erkennen zu können. Regulierung der Social-Media-Diensteanbieter: –  schaffen, die über Herausforderungen und Gefahren im Netz aufklären, darunter Hate Speech, aber auch Verschwörungsmythen. Genauso bedarf es Aufklärung zu relevanten(und auch neuen) Akteur_innen im Netz und deren Strategien, u. a. QAnon. Neben Maßnahmen auf politischer und rechtlicher Ebene, müssen und sollen auch die sozialen Netzwerke in die Pflicht genommen werden und mehr Verantwortung tragen. 11

Briefing Paper| Maßnahmen und Strategien zur Bekämpfung von Hate Speech auf europäischer Ebene – ein Überblick –  müssen einfach zu finden und zu bedienen sein. Hinweise zur Unterstützung von Betroffenen und nationale Anlaufstellen sollten prominent platziert sein(Vorbild: Anlaufstellen für Suizid-Gefährdete oder Infos zu Covid). –  sollen die Unternehmen ihre Maßnahmen an die internationalen Menschenrechte koppeln und regelmäßig die Umsetzung der eigenen Standards evaluieren und aktualisieren. –  von Werbung auf den Plattformen: Extremistische Inhalte bzw. Inhalte von extremistischen Akteur_innen sollten nicht die Möglichkeit haben, beworben zu werden. Eine Art der Regulierung kann bzgl. politischer Werbung bei vielen Plattformen, darunter u. a. Twitter, beobachtet werden. –  der Kommentarfunktion technisch ermöglichen: Sollte eine Moderation der Kommentare unmöglich sein, muss die Option zur Deaktivierung der Kommentarfunktion auf großen Social-Media-Webseiten eingeräumt werden. –  Rücksprache mit unabhängigen Expert_innen sollten die Unternehmen das Deplatforming von extremistischen Akteur_innen vornehmen. Dazu müssen allerdings umfassende und überprüfbare Standards geschaffen werden, um das Recht auf Meinungsfreiheit zu schützen. Weiterhin sollten die Plattformen Maßnahmen/Schritte einführen, um Reichweiten von extremistischen Akteur_innen einzuschränken – es gibt kein Recht auf Reichweite. –  ist notwendig, sowohl für die Unternehmen als auch für Politik und Zivilgesellschaft, extremistische Ökosysteme zu verstehen, um über Plattformen hinweg zu denken und zu agieren. Hass und Hetze organisieren sich nicht­auf den sogenannten Mainstream-Plattformen – umso wichtiger und notwendiger ist also der Blick über bereits bestehende Netzwerke hinaus. –  Unternehmen müssen ihre Entscheidungen zur Löschung von Inhalten sowie auch Mechanismen transparent kommunizieren, um aufzuzeigen, ob Maßnahmen zum Umgang mit Hass und Hetze auf den Plattformen funktionieren. Es ist klar, dass die Unternehmen keine internen Informationen nach außen weitergeben wollen. Dazu muss und soll es auch nicht kommen, da die Gefahr besteht, dass sich Täter_innen die Informationen nutzbar machen können. Jedoch sollten Expert_innen und Wissenschaftler_innen Zugriff haben, um Vergleiche ziehen zu können und Wirkungsweisen von Maßnahmen umfassend zu evaluieren. Nur so können Regulierungsmaßnahmen geschaffen werden, die effektiv sind. –  braucht eine Verbesserung der Zusammenarbeit zwischen Strafverfolgungsbehörden und den Diensteanbietern – denn bislang scheitert die Rechtsdurchsetzung häufig daran, dass die Diensteanbieter Auskunftsersuchen nicht nachkommen. Vielmehr werden Ermittlungsbehörden an ausländische Stellen verwiesen, mit dem Vermerk, dass die angeforderten Daten im Ausland liegen. –  allen vorgeschlagenen Maßnahmen und Forderungen ist der Datenschutz der Nutzer_innen zentral: Wer die Zivilgesellschaft auf seiner Seite haben will, muss sensibel sein, wenn es um Freiheitsrechte und Datenschutz geht. Community Management und Moderation Solange Hassrede in den Kommentarspalten unwidersprochen bleibt, so lange fühlen sich Täter_innen bestätigt – und verbreiten weiter Hass. Analysen und Studien zeigen: Moderation wirkt. –  zur Moderation: Reichweitenstarke Seitenbetreiber_innen müssen ihrer Verantwortung mindestens durch eine Selbstverpflichtung zur Moderation gerecht werden. Dafür braucht es personelle Ressourcen und regelmäßige Weiterbildungen zu Diskriminierungsformen sowie Möglichkeiten der Gegenrede. Zudem sollten reichweitenstarke Unternehmen und Medienhäuser für ihre Mitarbeiter_innen Anlaufstellen 12

Briefing Paper| Maßnahmen und Strategien zur Bekämpfung von Hate Speech auf europäischer Ebene – ein Überblick und Beratung am Arbeitsplatz anbieten, um diese zu unterstützen. –  sollten die inhaltliche Vielfalt fördern, indem sie über verschiedene Gruppen oder Communitys berichten und die Perspektiven dieser Gruppen oder Gemeinschaften widerspiegeln. Sie sollten darauf achten, im Kontext und in einer sachlichen und sensiblen Art und Weise zu berichten. Sie sollten vermeiden, durch negative Stereotype von Einzelpersonen und Gruppen Vorurteile zu schüren.  Medienhäuser und Verlage sollten Aussagen von Personen der Öffentlichkeit nicht ungeprüft reproduzieren, sondern einordnen oder mit Faktenchecks versehen. Als Beispiel lohnt sich der Blick auf die USA: Die US-amerikanischen Medien haben, im Rahmen des Präsidentschaftswahlkampfs, regelmäßig Faktenchecks veröffentlicht – ein Vorgehen, das von der US-amerikanischen Zivilgesellschaft als effektiv betrachtet wurde. Daten analysieren und Forschung ermöglichen Es braucht Zahlen, Fakten, Wissen als gute Basis für eine informierte Politik und als Grundlage für Handlungsempfehlungen. Es bedarf aktueller Analysen und Forschung für ein dynamisches und sich rasant veränderndes Themenfeld. Wirkung von digitalem Hass sind immer noch zu wenig erforscht: Ein Grund hierfür ist eine zu restriktive, privatwirtschaftliche Kontrolle über Daten. Verantwortliche Forschung muss ermöglicht werden. – Technologische Innovation und innovative Formate müssen geschaffen und gefördert werden, um gemeinsam an Lösungen für den Umgang mit Hassrede und Extremismus zu arbeiten(Beispiel: HackDays/Hackathons). Zivilgesellschaft einbeziehen und Engagement fördern: Eine engagierte Zivilgesellschaft fungiert als demokratisches Korrektiv in polarisierten Öffentlichkeiten. Die Möglichkeiten zivilgesellschaftlichen Engagements langfristig und unbürokratisch zu fördern, ist Aufgabe von Politik. Die Zivilgesellschaft muss an Lösungen beteiligt werden: –  Förderung von Initiativen und Projekten, um die Zivilgesellschaft zu unterstützen und die Demokratie nachhaltig zu stärken. –  Austausch mit der Zivilgesellschaft muss von der Politik gesucht und gefördert werden: Aus der Praxis, in die Politik – nur so können funktionierende Maßnahmen geschaffen werden. – Es werden eine verstärkte Datenerhebung und intensivierte Forschung zu Hass und Hetze im Netz, aber auch zu“verwandten” Phänomenen wie digitaler Gewalt benötigt, um das Ausmaß der Phänomene besser zu verstehen. Dies gilt ebenso für weitere Diskriminierungsformen. – Das Monitoring extremistischer Szenen, insbesondere auf weniger regulierten Plattformen, muss gefördert und verstetigt werden, um Täter_innen und ganze Netzwerke sowie deren Arbeitsweise zu identifizieren und zu analysieren. – Datenschnittstellen für wissenschaftliche Analysen bereitstellen: Ausbreitung, Koordination und 13

Briefing Paper| Maßnahmen und Strategien zur Bekämpfung von Hate Speech auf europäischer Ebene – ein Überblick Studien& Linkliste Alle Links zuletzt abgerufen am 11. Januar 2021. Europarat, 2020: Models of Governance of Online Hate Speech, verfügbar unter: https:// rm.coe.int/models-of-governance-of-online-hatespeech/16809e671d Europäisches Parlament, 2020: Hate Speech and Hate Crime in the EU and the Evaluation of Online Content Regulation Approaches, verfügbar unter: https://www.europarl.europa.eu/RegData/etudes/ STUD/2020/655135/IPOL_STU(2020)655135_ EN.pdf Europarat, 2020: Mapping National Responses to Hate Speech in Spain, verfügbar unter: https:// rm.coe.int/mapping-national-responses-to-hatespeech-spain-final/16809e682f Europäische Kommission, 2020: The EU Code of Conduct on Countering Illegal Hate Speech Online, verfügbar unter: https://ec.europa.eu/info/policies/ justice-and-fundamental-rights/combatting-discrimination/racism-and-xenophobia/eu-code-conductcountering-illegal-hate-speech-online_de Parlamentarische Versammlung des Europarats, 2019: Resolution 2275, The Role and Responsibilities of Political Leaders in Combating Hate Speech and Intolerance, verfügbar unter: http://assembly.coe.int/nw/xml/XRef/XrefXML2HTML-EN.asp?fileid=27636&lang=en Vereinte Nationen, 2019: Promotion and Protection of the Right to Freedom of Opinion and Expression, verfügbar unter: https://www.undocs.org/A/74/486 European Centre for Minority Issues, 2019: Working Paper: Words that Hurt(1): Normative and Institutional Considerations in the Regulation of Hate Speech in Europe, verfügbar unter: https://www.ecmi.de/fileadmin/user_upload/ WP__118_Words_that_Hurt__1_.pdf European Centre for Minority Issues, 2019: Working Paper: Words that Hurt(2): National and International Perspectives on Hate Speech Regulation, verfügbar unter: https://www.ecmi.de/fileadmin/ user_upload/WP__119_Words_that_Hurt__2__ ECMI.pdf Europäisches Parlament, 2018: Cyber Violence and Hate Speech Online Against Women, verfügbar unter: https://op.europa.eu/de/publication-detail/-/publication/1ccedce6-c5ed-11e8-9424-01aa75ed71a1 Article 19, 2018: Responding to‘Hate Speech’: Comparative Overview of six EU Countries, verfügbar unter: https://www.article19.org/wp-content/ uploads/2018/03/ECA-hate-speech-compilation-report_March-2018.pdf Natalie Alkiviadou, 2018: The Legal Regulation of Hate Speech: The International and European Frameworks. Croatian Political Science Review, 55(4). pp. 203 – 229. Verfügbar unter: http:// clok.uclan.ac.uk/23118/7/23118%20Politicka_misao_4_2018_203_229_ALKIVIADOU.pdf Europäische Kommission gegen Rassismus und Intoleranz, 2015: Allgemeine Politikempfehlung der ECRI über die Bekämpfung von Hassrede, verfügbar unter: https://rm.coe.int/ecri-general-policy-recommendation-no-15-on-combating-hate-speechgerm/16808b5b00(Deutsch) oder https://rm.coe. int/ecri-general-policy-recommendation-no-15-oncombating-hate-speech/16808b5b01(Englisch) Europarat, 2018: Recommendation CM/Rec(2018)2 on the Roles and Responsibilities of Internet Intermediaries, verfügbar unter: https://search. coe.int/cm/Pages/result_details.aspx?ObjectID=0900001680790e14 Europarat, 2011: Convention on Preventing and Combating Violence Against Women and Domestic Violence(Istanbul Convention), verfügbar unter: https://www.coe.int/web/istanbul-convention/home Europarat, 2003: Zusatzprotokoll zum Übereinkommen über Computerkriminalität betreffend die Kriminalisierung mittels Computersystemen 14

Briefing Paper| Maßnahmen und Strategien zur Bekämpfung von Hate Speech auf europäischer Ebene – ein Überblick begangener Handlungen rassistischer und fremdenfeindlicher Art, verfügbar unter: https://www. coe.int/en/web/conventions/full-list/-/conventions/ rms/090000168008160e Europarat, 1997: Empfehlung Nr. R(97) 20 des Ministerkomitees an die Mitgliedstaaten zu Hassrede, verfügbar unter: https://rm.coe.int/1680505d5b Weiterführende Literatur Europäische Kommission gegen Rassismus und Intoleranz; auf der nachfolgenden Website können die Berichte zu den jeweiligen Ländern abgerufen werden: https://www.coe.int/en/web/europeancommission-against-racism-and-intolerance/country-monitoring Europarat, 1995: Framework Convention for the Protection of National Minorities, verfügbar unter: https://www.coe.int/en/web/conventions/full-list/-/ conventions/rms/090000168007cdac Europarat, 1953: Konvention zum Schutze der Menschenrechte und Grundfreiheiten, verfügbar unter: https://www.coe.int/de/web/conventions/ full-list/-/conventions/treaty/005 Institut für Demokratie und Zivilgesellschaft, 2020: Hate not found?! Das Deplatforming der extremen Rechten und seine Folgen, verfügbar unter: https://www.das-nettz.de/publikationen/hate-notfound-deplatforming-far-right-and-its-consequences Institute for Strategic Dialogue, 2020: The Online Ecosystem of the German Far Right, verfügbar unter: https://www.das-nettz.de/publikationen/online-ecosystem-german-far-right Institute for Strategic Dialogue, 2019: Hate Speech and Radicalisation Online, verfügbar unter: https:// www.isdglobal.org/wp-content/uploads/2019/06/ ISD-Hate-Speech-and-Radicalisation-Online-EnglishDraft-2.pdf Weitere Publikationen auf Deutsch und Englisch findet ihr hier: https://www.das-nettz.de/publikationen 15

Briefing Paper| Maßnahmen und Strategien zur Bekämpfung von Hate Speech auf europäischer Ebene – ein Überblick Autorinnen Hanna Gleiß, Projektleitung, Das NETTZ- Vernetzungsstelle gegen Hate Speech (betterplace lab gGmbH) Sina Laubenstein Medina, Projektleitung, No Hate Speech Movement (Neue deutsche Medienmacher*innen e.V.) Hanna Gleiß ist Politikwissenschaftlerin und arbeitet seit 2017 beim Berliner think-and-do-tank betterplace lab gGmbH(www.betterplace-lab.org), wo sie das Projekt"Das NETTZ- Vernetzungsstelle gegen Hate Speech"(www.das-nettz.de) leitet. Das NETTZ stärkt die Akteurslandschaft der digitalen Zivilcourage. Es vernetzt Initiativen gegen Hassrede, stärkt den Wissenstransfer innerhalb der Zivilgesellschaft sowie mit Politik und fördert Innovation. Seit 2018 ist Hanna Project Fellow des ISD und seit 2019 Mitglied im Lenkungsausschuss des Forschungsprojekts DIDAT(Digitale Daten als Gegenstand eines transdisziplinaren Prozesses). Zuvor arbeitete sie als Projektleitung im Bereich Völkerverständigung bei der Robert Bosch Stiftung. Schwerpunkte waren Projekte in den Themen Konfliktprävention, Verständigung, Medien sowie der Aufbau der Robert Bosch Academy. Sina Laubenstein ist Politikwissenschaftlerin und arbeitet seit 2016 bei den Neuen deutschen Medienmacher*innen. Dort leitet sie das Projekt„Die Würde des Menschen ist unfassbar- No Hate Speech“, das, unter anderem, die Umsetzung der Europarats-Initiative„No Hate Speech Movement in Deutschland“ umfasst. Darüber hinaus arbeitet sie mit dem Europarat im Rahmen des gemeinsamen Projekts„WE CAN for human rights speech“ zusammen, das mit Projektpartner_innen aus Belgien, Italien und Rumänien umgesetzt wird. Sie schreibt Beiträge zu den Themen„Digitale Zivilcourage“ und„Hass im Netz“, berät zivilgesellschaftliche und politische Akteur_innen zu Strategien im Umgang mit Extremismus und Hate Speech Online und ist international als Expertin im Themenfeld anerkannt. — 16

Impressum Herausgeberin: Friedrich-Ebert-Stiftung/ Forum Politik und Gesellschaft Hiroshimastraße 17 10785 Berlin www.fes.de/forumpug Autorinnen: Hanna Gleiß, Das NETTZ- Vernetzungsstelle gegen Hate Speech(betterplace lab gGmbH) Sina Laubenstein, No Hate Speech Movement(Neue deutsche Medienmacher*innen e.V.) Redaktion: Alina Fuchs, Kristin Linke und Yvonne Lehmann, Friedrich-Ebert-Stiftung Friedrich-Ebert-Stiftung e.V., Vorsitzender des Vorstandes: Martin Schulz. Geschäftsführendes Vorstandsmitglied: Dr. Roland Schmidt, Mitglied der Geschäftsführung: Dr. Sabine Fandrych, Godesberger Allee 149, D-53175 Bonn, Tel.+49(0)228/883-0, Berliner Anschrift: Hiroshimastr. 17, 10785 Berlin, info@fes.de