NEUE TECHNOLOGIEN AM ARBEITSPL ATZ TARIFVERHANDLUNGEN ZU KI UND ALGORITHMISCHEM MANAGEMENT IM EUROPÄISCHEN DIENSTLEISTUNGSSEKTOR Simona Brunnerová, Daniela Ceccon, Barbora Holubová, Marta Kahancová, Katarína Lukáčová, Gabriele Medas Diese Studie wurde in Zusammenarbeit zwischen dem FES-Kompetenzzentrum Zukunft der Arbeit und UNI Europa durch das Central European Labour Studies Institute(CELSI) und der WageIndicator Foundation erstellt.

Inhalt KURZFASSUNG 3 EINLEITUNG 4 1 AKTUELLES WISSEN ZU KI IN TARIFVERHANDLUNGEN UND TARIFVERTRÄGEN 6 1.1 Beispiele aus Italien und dem Vereinigten Königreich ................................. 6 1.2 Beispiel aus Spanien ............................................................................. 7 2 ERGEBNISSE DER UMFRAGE UNTER MITGLIEDSORGANISATIONEN VON UNI EUROPA 8 2.1 Die allgemeine Relevanz von KI-bezogenen Tarifverhandlungen .................. 8 2.2 Themen, die in KI-bezogenen Tarifverhandlungen behandelt werden ........... 8 2.3 Relevanz bestimmter Themen in KI-bezogenen Tarifverhandlungen ............. 12 2.4 Bestehende Tarifverträge mit KI-bezogenen Themen ................................. 16 2.5 Gründe für das Fehlen von KI-Bestimmungen in Tarifverträgen .................... 17 2.6 Andere Tools und Maßahmen im Zusammenhang mit KI ............................ 17 3 ANNOTATION, KODIERUNG UND ANALYSE DER INHALTE VON TARIFVERTRÄGEN 18 3.1 Analyse der Tarifverträge ....................................................................... 19 3.2 KI-bezogene Inhalte in Tarifverträgen ...................................................... 21 4 SCHLUSSFOLGERUNGEN UND GEWONNENE ERKENNTNISSE 24 LITERATURVERZEICHNIS 26 ANHÄNGE 27 1 Stichprobe der Online-Umfrageantworten unter Mitgliedsorganisationen von UNI Europa ................................................................................... 27 2 Weitere Erkenntnisse aus der Online-Umfrage der Mitgliedsorganisationen von UNI Europa ................................................................................... 28 3 KI-bezogene Inhalte in Tarifverträgen ...................................................... 30 1

FRIEDRICH-EBERT-STIFTUNG – Tarifverhandlungen zu KI und algorithmischem Management im europäischen Dienstleistungssektor ABBILDUNGSVERZEICHNIS Abbildung 1: Relevanz der KI-bezogenen Tarifverhandlungen........................................................................................ 9 Abbildung 2: Wahrgenommene Auswirkungen von KI-bezogenen Verhandlungen auf die Belegschaft, die Arbeits­ platzqualität und die Ausbildung.............................................................................................................. 9 Abbildung 3: Wahrgenommene Auswirkungen von KI-bezogenen Verhandlungen auf die Rechte der Gewerkschaften.................................................................................................................................................... 10 Abbildung 4: Meinungen zu Verhandlungen über den Einsatz von KI im Einstellungsprozess, bei der Arbeitsorganisation und bei der Bewertung von Arbeitnehmenden............................................................................... 11 Abbildung 5: Meinungen zum Einsatz von KI-Tools zur Überwachung von Arbeitnehmenden in Tarifverhandlungen.... 11 Abbildung 6: Meinungen zum Datenschutz bei Tarifverhandlungen............................................................................... 12 Abbildung 7: Von Gewerkschaften verhandelte KI-bezogene Themen........................................................................... 13 Abbildung 8: KI-Themen, über die nicht verhandelt wurde, über die die Gewerkschaften jedoch verhandeln möchten. 14 Abbildung 9: KI-bezogene Themen, über die die Gewerkschaften nicht verhandeln möchten....................................... 15 Abbildung 10: KI-bezogene Themen, die in Tarifverträgen enthalten sind........................................................................ 16 Abbildung 11: Welche Instrumente und Maßnahmen setzt Ihre Gewerkschaft außer Tarifverhandlungen ein, um das Bewusstsein zu schärfen und die Mitglieder zu schulen?.......................................................................... 17 Abbildung 12: Anzahl der Tarifverträge, in denen die Einführung von KI und/oder AM am Arbeitsplatz behandelt wird.. 19 Abbildung 13: Branchenverteilung der Tarifverträge, in denen die Einführung von KI und/oder AM am Arbeitsplatz be­handelt wird......................................................................................................................................... 19 Abbildung 14: Prozentsatz der analysierten Verträge, die sich auf bestimmte Themen beziehen...................................... 20 Abbildung 15: Aufnahme von künstlicher Intelligenz(KI) und algorithmischem Management(AM) am Arbeitsplatz in die Kollektivverträge verschiedener Länder................................................................................................ 21 Abbildung 16: Position der Befragten in der Gewerkschaft.............................................................................................. 28 Abbildung 17: Mitwirken der Gewerkschaft der Befragten bei Tarifverhandlungen.......................................................... 28 Abbildung 18: Gewerkschaften und ihre Verhandlungspartner nach Ländern.................................................................. 29 Abbildung 19: Ebene, auf der der Tarifvertrag abgeschlossen wurde................................................................................ 30 TABELLENVERZEICHNIS Tabelle 1: Gründe für das Fehlen von KI-Bestimmungen in Tarifverträgen........................................................................ 17 Tabelle 2: Relevante Variablen im Annotationssystem der WageIndicator-Tarifvertragsdatenbank.................................... 18 Tabelle 3: Anzahl der Verträge, die Klauseln zu relevanten Themen enthalten, sowie die Jahre, in denen die Verträge in Kraft getreten sind....................................................................................................................................... 20 Tabelle 4: Anzahl der Antworten nach Ländern............................................................................................................... 27 Tabelle 5: Anzahl der Antworten in der Umfrage nach Branchen.................................................................................... 28 Tabelle 6: Gewerkschaften und ihre Verhandlungspartner nach Ländern........................................................................ 29 Tabelle 7: Beispiele für andere Tarifverträge, die KI-bezogene Bestimmungen enthalten(wie von den Umfrageteil­ nehmer:innen angegeben).............................................................................................................................. 30 ABKÜRZUNGSVERZEICHNIS AAMS AM DSGVO IKT KI TV TV-Verhandlungen Artificial Intelligence and Algorithmic Management Systems (dt.: algorithmische KI-Managementsysteme) Algorithmisches Management Datenschutz-Grundverordnung Informations- und Kommunikationstechnologien Künstliche Intelligenz Tarifvertrag Tarifvertragsverhandlungen 2

Kurzfassung Kurzfassung Künstliche Intelligenz(KI) wird zusehends in verschiedenen Branchen in Form von algorithmischem Management, Chatbots, Geopositionierung und anderen Prozessen eingesetzt. Unter KI versteht man dabei maschinenbasierte Systeme, die mit wenig menschlichem Input und geringer menschlicher Aufsicht Prognosen erstellen, Empfehlungen geben und Entscheidungen treffen können. Um die Herausforderungen zu verstehen, die durch die zunehmende Nutzung von KI im Personalmanagement entstehen, wird im Rahmen dieses Berichts die aktuelle Situation bei Tarifverhandlungen hinsichtlich der Nutzung von KI-Tools durch Arbeitgeber_innen im Vergleich zu Arbeitnehmenden, insbesondere im Dienstleistungssektor, untersucht. Die Ergebnisse basieren auf Sekundärforschung, einer Originalbefragung von 148 Gewerkschaftsvertreter_innen, die UNI Europa in 32 Ländern angehören, sowie einer Analyse von 31 Tarifverträgen, die bereits Bestimmungen zum Einsatz von KI enthalten. Die Ergebnisse spiegeln aktuelle Erfahrungen, allgemeine Meinungen zu Verhandlungen über Herausforderungen im Zusammenhang mit KI sowie erwartete Gewerkschaftsmaßnahmen zu Verhandlungen in diesem Bereich wider. Außerdem werden positive Beispiele für KI-bezogene Klauseln in Tarifverträgen genannt. Die Analyse führte zu folgenden zentralen Schlussfolgerungen: – Verhandlungen zu KI sind erst im Entstehen und sind nicht so weit verbreitet wie Verhandlungen zu anderen Aspekten der Arbeitsbedingungen. – Von den 90 Umfrageantworten gaben nur 20 % der Gewerkschaften an, einen Tarifvertrag zu haben, in dem KI-bezogene Aspekte auf Organisations- oder Branchen­ ebene thematisiert werden. Das impliziert, dass die Mehrheit der Gewerkschaften(69 %) keine Tarifverträge haben, in denen KI thematisiert wird, und 11 % nichts von solchen Abkommen wissen. – Bestehende Tarifverträge beziehen sich zumeist allgemein auf den Einsatz von Technologie. Einige Verträge (z. B. in Italien, Deutschland, Norwegen und Spanien) dienen jedoch als Beispiele für detailliertere Regeln und Vereinbarungen zum Recht auf Nichterreichbarkeit, zu digitalen Rechten von Arbeitnehmenden am Arbeitsplatz, zur Informationsweitergabe und zur geschäftlichen Steuerung. – Mit dem zunehmenden Einsatz von Technologie am Arbeitsplatz ist zu erwarten, dass Tarifverhandlungen zum Thema KI an Relevanz gewinnen. 42 % der Mitgliedsorganisationen von UNI Europa, die an der Umfrage teilgenommen haben, führen bereits Diskussionen und Verhandlungen zu verschiedensten Themen im Zusammenhang mit KI, auch wenn es sich dabei nicht um Tarifverhandlungen im engeren Sinn handelt. Die Gewerkschaften setzen auf Fragen des Datenschutzes, der Privatsphäre der Arbeitnehmenden, der Auswirkungen von KI auf die Arbeitszeit, die Überwachung von Aktivitäten der Arbeitnehmenden und der automatisierten Schichtplanung. – Bei den entstehenden Tarifverhandlungen zu KI-bezo­ genen Themen priorisieren die Gewerkschaften Verhandlungen zum Recht der Arbeitnehmenden, durch automatische Prozesse getroffene Entscheidungen anzufechten, und ihr Recht auf Beratung durch externe Datenexpert_innen. Außerdem besteht unter den Gewerkschaften der starke Wunsch, ein Recht auf Information und Beratung zum Einsatz und zur Bewertung von KI-Tools zu haben. 3

FRIEDRICH-EBERT-STIFTUNG – Tarifverhandlungen zu KI und algorithmischem Management im europäischen Dienstleistungssektor Einleitung Künstliche Intelligenz(KI) wird zunehmend in verschiedenen Branchen in Form von algorithmischem Management, Chatbots, Geopositionierung und anderen Prozessen eingesetzt. Die Definitionen von KI variieren jedoch. Eine Definition von KI ist, dass man darunter maschinenbasierte Systeme versteht, die mit wenig menschlichem Input und geringer menschlicher Aufsicht Prognosen erstellen, Empfehlungen geben und Entscheidungen treffen können. Die hochrangige Expert_innengruppe für Künstliche Intelligenz hat eine deutlich komplexere Definition ausgearbeitet: »Systeme der künstlichen Intelligenz(KI-Systeme) sind vom Menschen entwickelte Softwaresysteme(und gegebenenfalls auch Hardwaresysteme), die in Bezug auf ein komplexes Ziel auf physischer oder digitaler Ebene handeln, indem sie ihre Umgebung durch Datenerfassung wahrnehmen, die gesammelten strukturierten oder unstrukturierten Daten interpretieren, Schlussfolgerungen daraus ziehen oder die aus diesen Daten abgeleiteten Informationen verarbeiten, und über das bestmögliche Handeln zur Erreichung des vorgegebenen Ziels entscheiden. KI-Systeme können entweder symbolische Regeln verwenden oder ein numerisches Modell erlernen, und sind auch in der Lage, die Auswirkungen ihrer früheren Handlungen auf die Umgebung zu analysieren und ihr Verhalten entsprechend anzupassen(High-Level Expert Group on Artificial Intelligence, 2019).« In einigen Fällen wird KI als synonym für algorithmisches Management bezeichnet. Es herrscht eine gewisse Skepsis gegenüber der wahren Natur einiger Technologie-Tools, die als KI bezeichnet werden. Es gibt einige Zweifel, ob es sich tatsächlich um KI oder nur um einfache algorithmische Management-Tools handelt. In jedem Fall geben algorithmische KI-Managementsysteme(AAMS) am Arbeitsplatz Anlass zu Bedenken hinsichtlich Datenschutz, Privatsphäre, Machtverhältnisse und Menschenrechte. Insbesondere besteht die Gefahr, dass AAMS Arbeitnehmende und ihre personenbezogenen Daten unrechtmäßig überwachen, eine Kluft zwischen Führungskräften und Arbeitnehmenden beim Zugang zu Wissen schaffen, die Arbeit bis zum Bruchpunkt(oder darüber hinaus) beschleunigen und operative Entscheidungen zu Leistungsmanagement, Vergütung von Arbeitnehmenden oder sogar zu Einstellungen und Entlassungen ohne ausreichende menschliche Aufsicht treffen. Darüber hinaus sind KI- und algorithmische Management-Tools oft sogenannte »Black-Box-Technologien«, die Techniken des maschinellen Lernens verwenden, um Daten zu evaluieren, Empfehlungen auszusprechen und Entscheidungen zu treffen. Die Studie ist Teil eines umfassendes Forschungsprojektes von Friedrich-Ebert-Stiftung(FES) und UNI Europa, um die zunehmende Bedeutung von AAMS für europäische Arbeitnehmende hinsichtlich der Tarifverhandlungen zu unter­ suchen und sicherzustellen, dass die Arbeitnehmerseite Kontrolle über diese neuen, sich ausbreitenden Tools bekommt. Um die oben genannten Herausforderungen anzugehen, sensibilisieren UNI Europa und das FES Kompetenzzentrum Zukunft der Arbeit aktiv Arbeitnehmende und Gewerkschaften. Frühere Arbeiten(Holubová et al. 2022) zeigen, wie wichtig es ist, spezifische Beispiele dazu zu sammeln, zu analysieren und zu präsentieren, wie Tarifverträge ein wichtiges Steuerungsinstrument sind, um Arbeitnehmende zu schützen und Herausforderungen hinsichtlich der KI anzusprechen. Angesichts der oben genannten Bedürfnisse hat der vorliegende Bericht zwei Ziele: – Darstellung der aktuellen Situation bei Tarifverhandlungen hinsichtlich der Nutzung von KI-Tools durch Arbeitgeber_innen im Vergleich zu Arbeitnehmenden insbesondere im Dienstleistungssektor. Das Forschungsteam führte dazu eine Umfrage unter Mitgliedern von UNI Europa durch und präsentiert hier die Ergebnisse als aktuelle Erfahrungen, allgemeine Meinungen zu Verhandlungen über Herausforderungen im Zusammenhang mit KI sowie erwartete Gewerkschaftsmaßnahmen zu Verhandlungen in diesem Bereich. – Analyse von 31 bestehenden Tarifverträgen, die bereits Bestimmungen zum Einsatz von KI enthalten, und Vorstellung dieser als Best-Practice-Beispiele für eine weitere Nutzung und Verbreitung unter Gewerkschaften. Die analysierten Bestimmungen adressieren Themen wie Datenschutz, Überwachung, Einstellung oder automatische Arbeitsorganisation sowie Regeln für die Einführung neuer Technologien. Dazu wird in diesem Bericht die folgende Methodik angewendet: – Sekundärrecherche, um bestehende Publikationen und Literatur zur Relevanz von KI bei Tarifverhandlungen zu identifizieren; 4

– Durchführung einer Umfrage unter Mitgliedsorganisationen von UNI Europa, um Daten zu Tarifverhandlungen mit KI-bezogenen Regeln und Vereinbarungen zu sammeln; – Analyse der Inhalte bestehender Tarifverträge, die Bestimmungen zum Einsatz von KI enthalten. Die Forschungsergebnisse ergänzen eine bestehende globale Traifvertragsdatenbank, und die gesammelten Tarifverträge wurden auf verschiedene KI-bezogene Variablen kodiert. Dies ermöglicht nationalen Gewerkschaften, auf bewährte Vorgehensweisen im europäischen Dienstleistungsbereich zuzugreifen und diese Vereinbarungen und Bestimmungen in ihren eigenen Verhandlungen zu verwenden. Für die Zwecke des Projekts und insbesondere der Umfrage wurde die Definition von KI vereinfacht und bezieht sich auf eine Vielzahl an technologischen Tools und Techniken zur Remote-Verwaltung von Arbeitskräften, die auf Datenerfassung und Überwachung von Arbeitnehmenden basieren, um automatisierte oder halbautomatisierte Entscheidungen zu treffen(Mateescu& Nguyen, 2019). Der Bericht ist wie folgt aufgebaut: Zunächst erfolgt ein kurzer Überblick über die Literatur zum Einsatz von künstlicher Intelligenz(KI) in Tarifvertragsverhandlungen(TV-Verhandlungen), bei Tarifverträgen(TV) und zu anderen ähnlichen Tools. Im zweiten Kapitel werden die Ergebnisse einer Online-­ Umfrage präsentiert, die von April bis September 2023 unter Mitgliedsorganisationen von UNI Europa durchgeführt wurde. Im Rahmen dieser Umfrage sollte die Relevanz von Verhandlungen in Bezug auf KI bewertet werden und Tarifverträge mit KI-bezogenen Vereinbarungen identifiziert werden. Das abschließende dritte Kapitel fasst die Ergebnisse aus der Kodierung und Analyse der Inhalte von 31 Tarifverträgen mit KI-bezogenen Klauseln zusammen. Der Bericht schließt mit einem Überblick über die Ergebnisse und gewonnenen Erkenntnisse. Einleitung 5

FRIEDRICH-EBERT-STIFTUNG – Tarifverhandlungen zu KI und algorithmischem Management im europäischen Dienstleistungssektor 1 AKTUELLES WISSEN ZU KI IN TARIFVERHANDLUNGEN UND TARIFVERTRÄGEN Da sich moderne Branchen kontinuierlich weiterentwickeln, setzen immer mehr Arbeitsplätze auf die Fähigkeiten und das Potenzial von künstlicher Intelligenz(KI)(Schwartz et al. 2023). Algorithmische Managementsysteme werden für eine Vielzahl von Aufgaben – von der Einstellung und Schulung über Zeitplanung bis hin zur Leistungsbeurteilung – eingesetzt. Darüber hinaus sind sie ein integraler Bestandteil bei der Automatisierung von Aufgaben, die zuvor von menschlichen Arbeitnehmenden erledigt wurden, obwohl diese Algorithmen möglicherweise nicht ausgereift sind. Diese Systeme werden oft als Tools vermarktet, die die Effizienz steigern und die Objektivität verbessern, indem der Faktor Mensch und die damit verbundene Subjektivität reduziert werden (Schwartz et al. 2023). Es ist jedoch nicht ungewöhnlich, dass diese Algorithmen bestehende Disparitäten und Verzerrungen fortführen oder sogar intensivieren. De Stefano und Taes (2023) argumentieren, dass unter anderem Bedenken hinsichtlich des Potenzials für algorithmische Voreingenommenheit, des unfairen Umgangs mit Daten von Mitarbeitenden und Eingriffe in die Privatsphäre bestehen. Über die festgelegten Arbeitszeiten hinaus können sich Überwachungstools auf Aktivitäten von Arbeitnehmenden auswirken und die ständige Überwachung könnte psychologische und soziale Risiken verstärken. Tarifverhandlungen und proaktive Initiativen von Gewerkschaften sind ein integraler Aspekt, um die Rechte der Beschäftigten zu wahren und die Vorteile, die KI-gestützte Managementtools mit sich bringen, gerechter aufzuteilen(De Stefano& Taes, 2023; Aloisi& De Stefano, 2021). Angesichts des frühen Entwicklungsstadiums, in dem sich die Technik befindet, der eingeschränkten Erfahrung und der erheblichen Unsicherheiten hinsichtlich der zukünftigen Entwicklung stehen Gewerkschaften derzeit vor der dringenden und herausfordernden Aufgabe, neue Rechtsvorschriften und ethische Richtlinien für die Nutzung von KI am Arbeitsplatz auszuarbeiten(Krzywdzinski et al. 2022). Gewerkschaftsvertreter_innen müssen sich nicht in allen aufkommenden Technologien umfassendes Fachwissen aneignen, um ihre Mitglieder effektiv vertreten zu können. Stattdessen sollten sie sich hauptsächlich darauf konzentrieren, mögliche Probleme oder Bedenken für derzeitige und zukünftige Mitglieder zu erkennen. Sie sollten sich dafür einsetzen, dass Arbeitgeber_innen die notwendigen Zusicherungen, Informationen, Erklärungen und Protokolle bereitstellen, die das Vertrauen der Mitarbeitenden in einen ordnungsgemäßen, verantwortungsvollen Einsatz dieser Technologien stärken (Prospect, 2021). 1.1 BEISPIELE AUS ITALIEN UND DEM VEREINIGTEN KÖNIGREICH KI wird bereits in mehreren Ländern in Tarifverhandlungen einbezogen. Es wurden zahlreiche Initiativen ergriffen, um den Prozess von Tarifverhandlungen und den anschließenden Abschluss von Tarifverträgen zu vereinfachen. 2018 haben sich die Gewerkschaften FILCAMS-CGIL und FISASCAT-CISL in Italien mit Partesa, einer Tochtergesellschaft der Heineken-­Gruppe, über die Nutzung der Smartphone-Anwendung Telematics geeinigt. Diese App wurde entwickelt, um zu überwachen, ob Fahrer_innen die Vorschriften einhalten, die Sicherheit zu verbessern und auf das Verhalten und den emotionalen Zustand von Fahrer_innen zu reagieren. Gemäß den gesetzlichen Bestimmungen ist der Einsatz von Überwachungs-Tools auf bestimmte Zwecke beschränkt, zu denen auch die Erreichung von Produktivitätszielen, die Gewährleistung der Sicherheit und die Wahrung von Vermögenswerten des Unternehmens zählen. Darüber hinaus müssen solche Geräte vor ihrer Einführung von den zuständigen Gewerkschaften oder Betriebsräten genehmigt werden(UNI Global Union, 2023). Ein weiteres gutes Beispiel für eine Einigung über algorithmisches Management ist jene der GMB-Gewerk­schaft mit dem Unternehmen Hermes im Vereinigten Königreich. Die Vereinbarung wurde 2019 verhandelt und bezieht sich auf algorithmische Verfahren, die das Unternehmen einsetzt, um seine Flotte an Lieferfahrer_innen zu überwachen. Obwohl es sich dabei nicht um umfassende Verhandlungen zum algorithmischen Management des Unternehmens handelt, muss das Unternehmen sein automatisiertes Zahlungssystem ändern, um sicherzustellen, dass die Arbeitnehmenden mindestens das Mindestgehalt erhalten und zeitnah verdiente Boni bekommen, ohne diese rückwirkend einfordern zu müssen. Außerdem haben die Gewerkschaften im Rahmen der Vereinbarung die Möglichkeit, Gesundheits- und Sicherheitsbewertungen von Vorfällen durchzuführen, sodass sie Fälle aufzeigen können, in denen algorithmisches Management Sicherheitsbedenken aufwirft. Es wird auch ein Mechanismus für Arbeitnehmende eingeführt, um von der Technologie getroffene Entscheidungen anfechten zu können(Collins& Atkinson, 2023). 6

Aktuelles Wissen zu KI in Tarifverhandlungen und Tarifverträgen Nach fast einem Jahr Streitigkeiten haben auch die Communication Workers Union(die Gewerkschaft der Telekommunikationsmitarbeitenden) und die Royal Mail Group(der nationale Postdienst) im Vereinigten Königreich eine erfolgreiche Vereinbarung zu algorithmischem Management abgeschlossen. Im Abschnitt»Technologie« wurden Bestimmungen zum Schutz aktueller Löhne und Arbeitszeiten für den Fall festgelegt, dass neue Verfahren eingeführt werden. So soll sichergestellt werden, dass menschliche Entscheidungen weiterhin ein zentraler Bestandteil des Betriebs bleiben (RMG& CWU, 2020). In ihrem Arbeitspapier zum Einsatz von KI-Systemen heben die Nordic Financial Unions auch hervor, dass es unerlässlich ist, diese zweckmäßig zu konzipieren und so einzuführen, dass sie menschliche Fähigkeiten lediglich ergänzen und unterstützen, anstatt diese gänzlich zu ersetzen(Nordic Financial Unions, 2022). 1.2 BEISPIEL AUS SPANIEN In Spanien unterzeichnete das führende Telekommunikationsunternehmen Telefonica mit den Gewerkschaften, die die Arbeitnehmer_innenseite vertreten, Unión General de Trabajadores(Allgemeiner Verband der Arbeitnehmenden, UGT) und Comisiones Obreras(Kommission der Arbeitnehmenden, CCOO), eine nationale Vereinbarung über das Recht auf Nichterreichbarkeit(Telefónica, 2018). In der ganzen EU gibt es Bestrebungen, die öffentliche Politik in Bezug auf KI bei der Regulierung von Arbeit zu gestalten. Spanien gilt in Bezug auf Arbeit, die über Plattformen abgewickelt wird, als führendes Land in der EU. 2021 hat Spanien ein bahnbrechendes Gesetz zum algorithmischen Management erlassen. Das Gesetz 12/2021, besser bekannt als»Ley Rider« (das»Reitergesetz«) basiert auf einer Vereinbarung zwischen der Gewerkschaft CCOO und UGT, der Arbeitgeber_innenorganisation CEOE(Spanischer Verband der Unternehmensorganisationen) und CEPYME(Spanischer Verband der kleinen und mittelgroßen Unternehmen) sowie der spanischen Regierung(Rodríguez, 2022; Eurofound, 2021). Das kürzlich erlassene Gesetz füllt im Wesentlichen die Lücken in der DSGVO, in der Tarif- und Gewerkschaftsaspekte am Arbeitsplatz ausgelassen wurden. Das Gesetz stärkt Gewerkschaften und besagt, dass Unternehmen die Arbeitnehmendenvertretungen über Kriterien, Vorschriften und Anweisungen zu Algorithmen oder KI-Systemen informieren müssen, die Einfluss auf Entscheidungsfindung haben und die Arbeitsbedingungen sowie den Zugang zu Beschäftigung(u. a. durch Profiling) beeinflussen können. Das impliziert, dass der Betriebsrat das Recht hat, nicht nur zu erfahren, ob es einen Algorithmus gibt, der Einfluss auf die Arbeitsbedingungen und Beschäftigung hat, sondern er auch berechtigt ist, die Funktionsweise des Algorithmus zu verstehen(Todolí-Signes, 2021). 7

FRIEDRICH-EBERT-STIFTUNG – Tarifverhandlungen zu KI und algorithmischem Management im europäischen Dienstleistungssektor 2 ERGEBNISSE DER UMFRAGE UNTER MITGLIEDSORGANISATIONEN VON UNI EUROPA Die Online-Umfrage»Umfrage zu Tarifverträgen im Zusammenhang mit künstlicher Intelligenz« richtet sich an Gewerkschaftsfunktionär_innen oder-vertreter_innen, die direkt in Tarifverhandlungen involviert sind oder fundiertes Wissen zu Tarifverträgen von Mitgliedsorganisationen von UNI Europa haben. Bei dieser Umfrage wurde die Relevanz von KI bei Tarifverhandlungen und in bestehenden Tarifverträgen mit Klauseln zur KI sowie die Gründe für ein Fehlen von KI-­ Klauseln in Tarifverträgen untersucht. Ziel der Umfrage war auch, andere Tools und Maßnahmen im Zusammenhang mit KI neben Tarifverträgen zu ermitteln. Die Umfrage wurde nicht anonymisiert, um die Gewerkschaften und ihre Meinung und Erfahrung mit KI-bezogenen Tarifverhandlungen zu identifizieren. Die Daten wurden im Zeitraum vom 24. Mai 2023 bis zum 19. September 2023 erhoben. Die Umfrage wurde in sechs Sprachen(Englisch, Rumänisch, Italienisch, Deutsch, Spanisch, Französisch) durchgeführt, um die Antwortrate zu erhöhen. Die Befragten durften die Sprache selbst wählen. Die Vertreter_innen von UNI Europa schickten den Link zur Umfrage an Mitgliedsorganisationen in 43 Ländern innerhalb und außerhalb der EU und versendeten außerdem wiederholte Erinnerungen, in denen zur Teilnahme an der Umfrage aufgefordert wurde. Die Umfrage richtete sich hauptsächlich an den Dienstleistungssektor, insbesondere in den Bereichen Agenturen, Pflege, Reinigung und Sicherheit, Handel, Finanzen, Informations- und Kommunikationstechnik, Medien, Unterhaltung, Glücksspiel, Post und Logistik sowie Tourismus. Insgesamt wurden 148 Antworten von Gewerkschafter_innen aus 32 Ländern erfasst. Die in der Analyse am stärksten vertretenen Länder sind Frankreich(14 %), Belgien (13 %), Dänemark(6 %), Italien(6 %) und Norwegen (6 %). Die Antworten anderer Länder betrugen weniger als 6 %. 1 när_innen. Betriebsratsvorsitzende oder Betriebsratsmitglieder waren mit 11 % die am wenigsten vertretene Gruppe. In Bezug auf die Beteiligung der Befragten an Tarifverhandlungen gab der Großteil an, direkt an Tarifverhandlungen beteiligt zu sein(71 %), während 22 % nicht direkt beteiligt waren, aber über die Verhandlungen informiert waren. Der Rest waren Mitglieder von größeren Verhandlungsteams oder Berater_innen. Die Befragten, die nicht an Verhandlungen beteiligt waren, machten 3 % der insgesamt 148 Befragten aus. Nach der Neukategorisierung der offenen Fragen waren die am stärksten vertretenen Branchen die Informations- und Kommunikationstechnologie, Finanzen, Post und Logistik, Handel und Medien. Die Option»Sonstige« umfasste Branchen, die nicht von UNI Europa, sondern von anderen Gewerkschaftsverbänden(z. B. Metallurgie und öffentlicher Sektor) abgedeckt werden. 2.1 DIE ALLGEMEINE RELEVANZ VON KI-BEZOGENEN TARIFVERHANDLUNGEN Bei der Umfrage wurde untersucht, wie relevant KI-Themen bei Tarifverhandlungen sind. 62 % der Befragten geben an, dass der Einsatz von KI-Systemen ein wichtiges Thema bei den Tarifverhandlungen ist. 47 % der Befragten Gewerkschaften sprachen bei Tarifverhandlungen KI-­ bezogene Themen an, während bei 22 % die Seite der Arbeitgeber_innen das Thema aufgriff. Weitere 47 % der Befragten geben an, dass der Einsatz von KI-S­ ystemen für die Arbeitgeber_innen, mit denen sie verhandeln, ein wichtiges Thema bei den Tarifverhandlungen ist. 42 % der Befragten bestätigten, dass sie zu verschiedenen Themen im Zusammenhang mit KI verhandelten.[Abbildung 1] Was die Position der an der Umfrage beteiligten Gewerkschafter_innen betrifft, so waren die Hälfte der Befragten nationale Gewerkschaftsfunktionär_innen(49 %). 28 % sind branchenspezifische Gewerkschaftsfunktionär_innen, und 13 % sind lokale/regionale Gewerkschaftsfunktio1 Detaillierte Beschreibung der Stichprobe im Anhang 2.2 THEMEN, DIE IN KI-BEZOGENEN TARIFVERHANDLUNGEN BEHANDELT WERDEN Die Umfrageergebnisse konzentrieren sich auf die Themen bei Verhandlungen im Kontext der KI, wie Arbeitszeit, Schulung zu KI-Tools, Arbeitskräfte- und Arbeitsplatzqualität, Rechte von Arbeitnehmenden sowie Einstellung und Arbeitsorganisation. Im Rahmen der Umfrage wurden auch 8

Ergebnisse der Umfrage unter Mitgliedsorganisationen von UNI Europa Abbildung 1: Relevanz der KI-bezogenen Tarifverhandlungen(N= 90, in%) Für unsere Gewerkschaft it der Einsatz von KI-Systemen ein relevantes Thema bei den Tarifverhandlungen. Für die Arbeitgebenden, mit denen wir Verhandeln, ist der Einsatz von KI-Systemen ein relevantes Thema bei den Tarifverhandlungen. Unsere Gewerkschaft spricht KI-bezogene Themen bei Tarifverhandlungen an. Unsere Gewerkschaft führt Verhandlungen zu Themen in Zusammenhang mit KI. Die Arbeitgebenden, die unsere Verhandlungspartner sind, sprachen KI-bezogene Themen bei Tarifverhandlungen an. 0 62 30 47 39 47 46 42 46 22 70 10 20 30 40 50 60 70 80 90 100 Ich stimme zu Ich stimme nicht zu Ich weiß es nicht F7: Bitte geben Sie an, wie Sie zu den folgenden Aussagen stehen:»Ich stimme voll und ganz zu«,»Ich stimme zu«,»Ich stimme nicht zu«, »Ich stimme überhaupt nicht zu« und»Ich weiß es nicht«. Hinweis: Die Optionen»Ich stimme voll und ganz zu« und»Ich stimme zu« werden zu»Ich stimme zu« zusammengefasst, während»Ich stimme nicht zu« und»Ich stimme überhaupt nicht zu« zu»Ich stimme nicht zu« zusammengefasst werden. Abbildung 2: Wahrgenommene Auswirkungen von KI-bezogenen Verhandlungen auf die Belegschaft, die Arbeitsplatzqualität und die Ausbildung(N= 90, in%) Auswirkungen auf Arbeitszeiten/ Recht auf Nichterreichbarkeit 27 Schulung des Personals zu neuen KI-Tools 22 54 10 60 9 Auswirkungen von KI-Systemen auf die Arbeitsbelastung/-intensität 22 57 11 Schulung von Führungskräften zu neuen KI-Tools Auswirkungen des Einsatzes von KI-Tools auf die Anzahl der Jobs/Mitarbeitenden; Notwendigkeit, Sozialpläne auszuhandeln 18 59 14 18 54 19 0 10 20 30 40 50 60 70 80 90 100 Wir verhandeln zu diesem Thema Wir verhandeln nicht zu diesem Thema, möchten es aber gern tun Wir verhandeln nicht zu diesem Thema und möchten es auch nicht tun Ich weiß es nicht F8: Bitte geben Sie an, wie die Auswirkungen von KI auf die Belegschaft hinsichtlich Anzahl und Qualität der Jobs und hinsichtlich des Schulungsbedarfs bei Ihren Tarifverhandlungen thematisiert werden. Geben Sie an, welche Option am ehesten auf die folgenden Aussagen zutrifft. empfundene Auswirkungen und Meinungen zu diesen Themen untersucht, basierend darauf, ob die Gewerkschaften bereits über KI-bezogene Themen verhandelt hatten oder dies möchten bzw. ob darüber nicht verhandelt wird und kein Interesse daran besteht. KI verhandeln und dies auch nicht wünschen, empfinden die größten Auswirkungen der KI auf die Anzahl der Arbeitsplätze und Sozialpläne(19 %) und die kleinsten Auswirkungen auf die Schulung von Personal zu neuen KI-Tools(9 %). [Abbildung 2] Diejenigen, die bereits über KI verhandelt haben, sehen die größten Auswirkungen der KI bei der Arbeitszeit(z. B. das Recht auf Nichterreichbarkeit)(27 %), bei Schulungen von Personal zu neuen KI-Tools(22 %) und bei Arbeitsbelastung und Arbeitsintensität(22 %). Diejenigen, die darüber nicht verhandeln, es aber gerne tun würden, geben als größte Auswirkung jene auf die Schulung von Personal zu neuen KI-Tools(60 %), auf Schulungen von Führungskräften(59 %) und auf Arbeitsbelastung und Arbeitsintensität(57 %) an. Gewerkschaften, die nicht über Die Befragten konnten auch andere Auswirkungen von Verhandlungen zu KI-bezogenen Themen nennen: – KI wird vor allem in Betriebsvereinbarungen mit Betriebsräten auf Unternehmensebene verhandelt. Das Thema KI rückt zunehmend in den Fokus. – Allgemeine Diskussionen darüber, wann KI ein gutes Tool ist und wann nicht, und wie sie einzuführen und mit ihr zu interagieren ist. – Auswirkungen auf die Transparenz. 9

FRIEDRICH-EBERT-STIFTUNG – Tarifverhandlungen zu KI und algorithmischem Management im europäischen Dienstleistungssektor Abbildung 3: Wahrgenommene Auswirkungen von KI-bezogenen Verhandlungen auf die Rechte der Gewerkschaften(N= 90, in%) Beteiligung von Arbeitnehmern/Gewerkschaften an DatenschutzFolgenabschätzung Recht auf Information/Konsultation über Einsatz und Bewertung von KI-Instrumenten Recht auf Information/Konsultation zur Gestaltung von KIInstrumenten(vor der Einführung) 33 31 23 48 11 52 9 59 9 Recht auf Beratung durch externe Datenexperten 19 60 12 Recht auf Aufhebung von auf automatisierten Verfahren basierenden Entscheidungen 13 68 9 0 10 20 30 40 50 60 70 80 90 100 Wir verhandeln zu diesem Thema Wir verhandeln nicht zu diesem Thema, möchten es aber gern tun Wir verhandeln nicht zu diesem Thema und möchten es auch nicht tun Ich weiß es nicht F9: Bitte geben Sie an, wie die Rechte von Gewerkschaften hinsichtlich KI in Ihren Tarifverhandlungen thematisiert werden. Geben Sie an, welche Option am ehesten auf die folgenden Aussagen zutrifft. – Datenethik in Bezug auf KI. – KI ersetzt kein Personal in unserer Branche. – Wenn wir die Nutzung von KI-Tools nicht blockieren können, möchten wir über die Nutzungsweise verhandeln können. – Das Unternehmen bereitet gerade Arbeiten mit KI-Tools vor, sodass dies in Zukunft relevant werden könnte, aber derzeit ist es noch kein Thema. – Arbeitgeber_innen, die KI nur für Profite einsetzen, ohne an die Gesundheit der Mitarbeitenden(sowohl psychisch als auch körperlich) zu denken. Bei den Auswirkungen von KI-bezogenen Verhandlungen über Gewerkschaftsrechte unterscheiden sich die Antworten zwischen jenen, die bereits darüber verhandeln, und jenen, die das gerne tun möchten. Diejenigen, die bereits über KI verhandeln, sehen die größten Auswirkungen auf die Beteiligung der Gewerkschaften am Datenschutz und bei der Folgenabschätzung(33 %) sowie beim Recht auf Informationen über KI-Tools(31 %). Umgekehrt sehen jene Gewerkschaften, die gerne über KI verhandeln möchten, die größten Auswirkungen beim Recht, eine Entscheidung anzufechten, die automatisch getroffen wurde(68 %) sowie beim Recht auf Beratung durch externe Datenexpert_innen(60 %).[Abbildung 3] In der nächsten Phase wurde gefragt, wie die Nutzung von KI im Einstellungsprozess, bei der Arbeitsorganisation und der Bewertung von Arbeitnehmenden in Tarifverhandlungen thematisiert wird. 23 % der Befragten gaben an, dass sie über den Einsatz von KI bei der Schichtplanung und bei automatisierten Bewertungen von Arbeitnehmenden hinsichtlich Ergebnissen und Leistungszielen verhandeln(22 %). Die­ jenigen, die nicht darüber verhandeln, es aber gerne täten, sehen die relevantesten Verhandlungen im Bereich von automatisierten Hintergrundüberprüfungen von Bewerber_innen in sozialen Medien(59 %) und bei automatisierten Lebenslauf-Überprüfungen oder Bewerbungsgesprächen im Rahmen des Einstellungsprozesses(58 %).[Abbildung 4] Weitere Angaben der Befragten: – Mit heutigem Stand ist dies irrelevant, da die Unternehmen diese nicht einsetzen möchten. Wir sind aber darauf vorbereitet, dass dies in Zukunft ein Thema sein wird, und werden dann verlangen, in die Diskussionen sowie in die Bedingungen einbezogen zu werden, die einer Einführung zugrunde liegen. Ich habe daher die Option »Wir verhandeln zu diesem Thema« gewählt. – Wir arbeiten mit Menschen für Menschen. – Der Betriebsrat kümmert sich um diese Themen. In den offenen Fragen gaben die Befragten weitere Informationen an: – Auf Unternehmensebene werden immer mehr Regeln und Arrangements/Betriebsvereinbarungen getroffen. – Die Verhandlungen basieren hier nicht auf einem Tarifvertrag, sondern einer Betriebsvereinbarung. – Wenn wir die Nutzung von KI-Tools nicht blockieren können, möchten wir über die Nutzungsweise verhandeln können. – Wir haben strenge nationale Datenschutzbestimmungen. Die Meinungen zum Einsatz von KI-Tools zur Überwachung von Arbeitnehmenden in Tarifverhandlungen zeigen, dass die Gewerkschaften hauptsächlich über Software verhandeln, die die Aktivitäten von Beschäftigten physisch oder digital aufzeichnet(26 %), sowie über den Zugriff auf E-Mails und Nachrichten von Mitarbeitenden(22 %). Umgekehrt sehen diejenigen, die über KI verhandeln möchten, die Nutzung von Wearables/Geräten mit Sensoren zum Sammeln von Informationen als wichtigsten Verhandlungspunkt(54 %), während jene, die bereits über KI verhandeln, die Verhandlungen zu KI-Systemen für die sprachliche und visuelle Erkennung und Verarbeitung als am wichtigsten erachten(52 %). [Abbildung 5] 10

Ergebnisse der Umfrage unter Mitgliedsorganisationen von UNI Europa Abbildung 4: Meinungen zu Verhandlungen über den Einsatz von KI im Einstellungsprozess, bei der Arbeitsorganisation und bei der Bewertung von Arbeitnehmenden(N= 90, in%) Planung von Arbeitsschichten 23 49 18 Automatisierte Bewertung von Arbeitnehmenden anhand Ergebnissen 22 und Leistungszielen Automatisierte Bewertung von Arbeitnehmenden basierend auf Bewertungen von Verbraucher:innen 16 51 51 16 20 Team-/Aufgabenzuweisung, Algorithmus zur Verteilung von Aufträgen 14 54 20 Algorithmische Managementsysteme, um Jahresurlaube zu 13 56 22 genehmigen/abzulehnen, Krankheitsurlaube zu protokollieren usw. Automatisierte Hintergrundprüfung von Bewerber:innen in sozialen Medien 8 59 21 Automatisiertes Lebenslauf-Screening oder automatisierte Vorstellungsgespräche 8 58 20 0 10 20 30 40 50 60 70 80 90 100 Wir verhandeln zu diesem Thema Wir verhandeln nicht zu diesem Thema, möchten es aber gern tun Wir verhandeln nicht zu diesem Thema und möchten es auch nicht tun Ich weiß es nicht F10: Bitte geben Sie an, wie der Einsatz von KI bei Einstellungsprozessen, bei der Arbeitsorganisation und bei der Beurteilung von Arbeitnehmenden in Ihren Tarifverhandlungen thematisiert wird. Geben Sie an, welche Option am ehesten auf die folgenden Aussagen zutrifft. Abbildung 5: Meinungen zum Einsatz von KI-Tools zur Überwachung von Arbeitnehmenden in Tarifverhandlungen(N= 90, in%) Software zur physischen oder digitalen Verfolgung von Arbeitstätigkeiten(z. B. Geolokalisierung, Überwachung von Tastenanschlägen) 26 46 20 Zugriff auf E-Mails und Nachrichten von Mitarbeitenden 22 42 27 Wearables/Geräte mit Sensoren zum Sammeln von Informationen 18 54 20 Sprachanalyse(z. B. in Contact Centern) 14 47 23 Systeme zum Erstellen automatischer Antworten(z. B. Chatbots) 11 50 24 KI-Systeme zur sprachlichen oder visuellen Erkennung und Verarbeitung 11 52 21 0 10 20 30 40 50 60 70 80 90 100 Wir verhandeln zu diesem Thema Wir verhandeln nicht zu diesem Thema, möchten es aber gern tun Wir verhandeln nicht zu diesem Thema und möchten es auch nicht tun Ich weiß es nicht F11: Bitte geben Sie an, wie KI-Tools für die Überwachung von Arbeitnehmenden und andere Fälle in Ihren Tarifverhandlungen thematisiert werden. Geben Sie an, welche Option am ehesten auf die folgenden Aussagen zutrifft. 11

FRIEDRICH-EBERT-STIFTUNG – Tarifverhandlungen zu KI und algorithmischem Management im europäischen Dienstleistungssektor Abbildung 6: Meinungen zum Datenschutz bei Tarifverhandlung(N= 90, in%) Einhaltung der relevanten Privatsphäre-/Datenschutzgesetze Sammeln, Verarbeiten, Speichern und Nutzen von personenbezogenen Daten von Arbeitnehmenden Einschränkungen bei der Weitergabe personenbezogener Daten von Arbeitnehmenden Bereitstellung von Informationen über KI-Systeme in einfacher, verständlicher Sprache 0 43 34 41 38 39 40 20 58 10 20 30 40 50 60 70 16 14 13 13 80 90 100 Wir verhandeln zu diesem Thema Wir verhandeln nicht zu diesem Thema, möchten es aber gern tun Wir verhandeln nicht zu diesem Thema und möchten es auch nicht tun Ich weiß es nicht F12: Bitte geben Sie an, wie das Thema Datenschutz in Ihren Tarifverhandlungen thematisiert wird. Geben Sie an, welche Option am ehesten auf die folgenden Aussagen zutrifft. Das letzte Bündel von arbeitsbezogenen Aspekten im Zusammenhang mit Datenschutz zeigte folgende Ergebnisse. Datenschutz ist das häufigste Thema, über das die in der Umfrage befragten Gewerkschaften bereits verhandeln. Dabei konzentriert man sich meistens auf die Einhaltung von Privatsphäre/Datenschutzgesetze(43%) und auf das Sammeln, Verarbeiten, Speichern und Nutzen von personenbezogenen Daten der Arbeitnehmenden. Diejenigen, die über KI verhandeln möchten, sehen die Bereitstellung von Informationen über KI-Systeme in einfacher, verständlicher Sprache am relevantesten an(58 %).[Abbildung 6] Zusätzliche Informationen: – Gesetze und Regeln im Zusammenhang mit der DSGVO und dem Datenschutz geben uns Optionen. – Das ist kein Thema bei Tarifverhandlungen. – Der Betriebsrat kümmert sich um diese Themen, und wir haben ausreichende Datenschutzbestimmungen und -vereinbarungen. 2.3 RELEVANZ BESTIMMTER THEMEN IN KI-BEZOGENEN TARIFVERHANDLUNGEN Indem alle KI-bezogenen Themen in einer Liste zusammengefasst wurden, konnte die Relevanz von KI-Themen separat für jene Gewerkschaften untersucht werden, die bereits dazu verhandelten, sowie für jene, die dies nicht tun, aber es gerne möchten, und für jene, die nicht zu diesem Thema verhandeln möchten. KI-bezogene Themen, die derzeit hauptsächlich im Fokus der Gewerkschaften stehen, betreffen Datenschutz und Privatsphäre der Arbeitnehmenden. Die am nächst häufigsten verhandelten Themen betreffen die Auswirkungen von KI auf Arbeitszeiten, die Überwachung von Aktivitäten der Arbeitnehmenden sowie die automatisierte Schichtplanung. Die am wenigsten verhandelten Themen unter Gewerkschafter_innen betreffen den Einstellungsprozess.[Abbildung 7] Die Reihenfolge der KI-bezogenen Themen, die noch nicht verhandelt wurden, aber als Verhandlungsthemen gewünscht werden, unterscheiden sich von jenen, die bereits verhandelt wurden. Die Reihenfolge der Themen kann auch als »Wunschliste« gesehen werden, die die Gewerkschaften in Zukunft verhandeln möchten und für die sie gerne konkrete Bestimmungen in die Tarifverträge aufnehmen möchten. Das am häufigsten gewünschte Thema betrifft die Rechte der Arbeitnehmenden, insbesondere das Recht darauf, durch automatisierte Prozesse getroffene Entscheidungen anzufechten, sowie das Recht auf Beratung durch externe Datenexpert_innen. Außerdem besteht ein großer Wunsch nach einem Recht auf Information und Beratung zur Nutzung und Bewertung von KI-Tools. Weitere wichtige Themen sind Schulungen von Mitarbeitenden zu neuen KI-Tools sowie automatisierte Hintergrundüberprüfungen der Social-Media-Profile von Bewerber_ innen.[Abbildung 8] Die Themen, bei denen weder verhandelt wird noch der Wunsch danach besteht, könnten auf die nachrangige Relevanz von KI-bezogenen Aspekten unter Gewerkschaften hinweisen. Andererseits könnte dies auch darauf schließen lassen, das KI-Themen bislang nicht als Bedrohung für Arbeitnehmende gesehen werden oder dass Gewerkschaften über das Thema nur begrenzt informiert sind. Die am wenigsten relevanten Themen bei Verhandlungen in Bezug auf KI sind der Zugriff auf E-Mails und Nachrichten von Mitarbeitenden, Systeme für die Erstellung automatischer Antworten(z. B. Chatbots) und Sprachanalyse(z. B. in Contact-Centern).[Abbildung 9] 12

Ergebnisse der Umfrage unter Mitgliedsorganisationen von UNI Europa Abbildung 7: Von Gewerkschaften verhandelte KI-bezogene Themen(N= 507, in%) Wir verhandeln zu diesem Thema Einhaltung der relevanten Privatsphäre-/Datenschutzgesetze Sammeln, Verarbeiten, Speichern und Nutzen von personenbezogenen Daten von Arbeitnehmenden Einschränkungen bei der Weitergabe personenbezogener Daten von Arbeitnehmenden Recht auf Beratung durch externe Datenexpert:innen Auswirkungen von KI-Systemen auf Arbeitszeit/Recht auf Nichterreichbarkeit Software zur physischen oder digitalen Verfolgung von Arbeitstätigkeiten (z. B. Geolokalisierung, Überwachung von Tastenanschlägen) Planung von Arbeitsschichten Zugriff auf E-Mails und Nachrichten von Mitarbeitenden Automatisierte Bewertung von Arbeitnehmenden anhand Ergebnissen und Leistungszielen Recht auf Information/Beratung zum Einsatz und zur Bewertung von KI-Tools Recht auf Information/Beratung zu KI-Tools(vor der Einführung) Schulung von Mitarbeitenden zu neuen KI-Tools Auswirkungen von KI-Systemen auf die Arbeitsbelastung/-intensität Bereitstellung von Informationen über KI-Systeme in einfacher, verständlicher Sprache Wearables/Geräte mit die Sensoren zum Sammeln von Informationen Recht auf Aufhebung einer Entscheidung aufgrund einer automatisierten Entscheidungsfindung Beteiligung von Arbeitnehmenden/Gewerkschaften an der Folgenabschätzung hinsichtlich Datenschutz Schulung von Führungskräften zu neuen KI-Tools Auswirkungen des Einsatzes von KI-Tools auf die Anzahl der Jobs/Mitarbeitenden; Notwendigkeit, Sozialpläne auszuhandeln Automatisierte Bewertung von Arbeitnehmenden basierend auf Bewertungen von Verbraucher:innen Sprachanalyse(z. B. in Contact Centern) Team-/Aufgabenzuweisung, Algorithmus zur Verteilung von Aufträgen Algorithmische Managementsysteme, um Jahresurlaube zu genehmigen/ abzulehnen, Krankheitsurlaube zu protokollieren usw. Systeme zum Erstellen automatischer Antworten(z. B. Chatbots) KI-Systeme zur sprachlichen oder visuellen Erkennung und Verarbeitung Automatisierte Hintergrundprüfung von Bewerber:innen in sozialen Medien Automatisiertes Lebenslauf-Screening oder automatisierte Vorstellungsgespräche 4,7 4,7 4,5 4,1 3,9 3,9 3,9 3,9 3,9 3,9 3,6 3,2 3,2 3,2 3,2 3,2 2,8 2,6 2,6 2,4 2,0 2,0 1,4 1,4 Hinweis: Zusammengeführte Antworten für F9–F12 für jene Gewerkschaften, die über KI-bezogene Themen verhandeln 7,7 7,3 6,9 13

FRIEDRICH-EBERT-STIFTUNG – Tarifverhandlungen zu KI und algorithmischem Management im europäischen Dienstleistungssektor Abbildung 8: KI-Themen, über die nicht verhandelt wurde, über die die Gewerkschaften jedoch verhandeln möchten(N= 1286, in%) Wir verhandeln nicht zu diesem Thema, möchten es aber gern tun Recht auf Aufhebung einer Entscheidung aufgrund einer automatisierten Entscheidungsfindung Recht auf Beratung durch externe Datenexpert:innen Schulung von Mitarbeitenden zu neuen KI-Tools Automatisierte Hintergrundprüfung von Bewerber:innen in sozialen Medien Recht auf Information/Beratung zu KI-Tools(vor der Einführung) Schulung von Führungskräften zu neuen KI-Tools Automatisiertes Lebenslauf-Screening oder automatisierte Vorstellungsgespräche Auswirkungen von KI-Systemen auf die Arbeitsbelastung/-intensität Algorithmische Managementsysteme, um Jahresurlaube zu genehmigen/ abzulehnen, Krankheitsurlaube zu protokollieren usw. Einhaltung der relevanten Privatsphäre-/Datenschutzgesetze Wearables/Geräte mit die Sensoren zum Sammeln von Informationen Team-/Aufgabenzuweisung, Algorithmus zur Verteilung von Aufträgen Auswirkungen von KI-Systemen auf Arbeitszeit/Recht auf Nichterreichbarkeit Auswirkungen des Einsatzes von KI-Tools auf die Anzahl der Jobs/Mitarbeitenden; Notwendigkeit, Sozialpläne auszuhandeln KI-Systeme zur sprachlichen oder visuellen Erkennung und Verarbeitung Recht auf Information/Beratung zum Einsatz und zur Bewertung von KI-Tools Automatisierte Bewertung von Arbeitnehmenden anhand Ergebnissen und Leistungszielen Automatisierte Bewertung von Arbeitnehmenden basierend auf Bewertungen von Verbraucher:innen Systeme zum Erstellen automatischer Antworten(z. B. Chatbots) Planung von Arbeitsschichten Beteiligung von Arbeitnehmenden/Gewerkschaften an der Folgenabschätzung hinsichtlich Datenschutz Bereitstellung von Informationen über KI-Systeme in einfacher, verständlicher Sprache Sprachanalyse(z. B. in Contact Centern) Sammeln, Verarbeiten, Speichern und Nutzen von personenbezogenen Daten von Arbeitnehmenden Software zur physischen oder digitalen Verfolgung von Arbeitstätigkeiten (z. B. Geolokalisierung, Überwachung von Tastenanschlägen) Einschränkungen bei der Weitergabe personenbezogener Daten von Arbeitnehmenden Zugriff auf E-Mails und Nachrichten von Mitarbeitenden 4,7 4,2 4,2 4,1 4,1 4,1 4,0 4,0 3,9 3,8 3,8 3,8 3,8 3,8 3,7 3,7 3,6 3,6 3,5 3,4 3,3 3,3 3,3 3,2 3,2 3,0 3,0 Hinweis: Zusammengeführte Antworten für F9–F12 für jene Gewerkschaften, die über KI-bezogene Themen nicht verhandeln, dies jedoch gern tun möchten 14

Ergebnisse der Umfrage unter Mitgliedsorganisationen von UNI Europa Abbildung 9: KI-bezogene Themen, über die die Gewerkschaften nicht verhandeln möchten(N= 398, in%) Wir verhandeln nicht zu diesem Thema und möchten es auch nicht tun Zugriff auf E-Mails und Nachrichten von Mitarbeitenden Systeme zum Erstellen automatischer Antworten(z. B. Chatbots) Sprachanalyse(z. B. in Anrufzentralen) Algorithmische Managementsysteme, um Jahresurlaube zu genehmigen/ abzulehnen, Krankheitsurlaube zu protokollieren usw. KI-Systeme zur sprachlichen oder visuellen Erkennung und Verarbeitung Automatisierte Hintergrundprüfung von Bewerber:innen in sozialen Medien Wearables/Geräte mit die Sensoren zum Sammeln von Informationen Software zur physischen oder digitalen Verfolgung von Arbeitstätigkeiten (z. B. Geolokalisierung, Überwachung von Tastenanschlägen) Automatisierte Bewertung von Arbeitnehmenden basierend auf Bewertungen von Verbraucher:innen Team-/Aufgabenzuweisung, Algorithmus zur Verteilung von Aufträgen Automatisiertes Lebenslauf-Screening oder automatisierte Vorstellungsgespräche Auswirkungen des Einsatzes von KI-Tools auf die Anzahl der Jobs/Mitarbeitenden; Notwendigkeit, Sozialpläne auszuhandeln Planung von Arbeitsschichten Einhaltung der relevanten Privatsphäre-/Datenschutzgesetze Automatisierte Bewertung von Arbeitnehmenden anhand Ergebnissen und Leistungszielen Sammeln, Verarbeiten, Speichern und Nutzen von personenbezogenen Daten von Arbeitnehmenden Schulung von Führungskräften zu neuen KI-Tools Bereitstellung von Informationen über KI-Systeme in einfacher, verständlicher Sprache Einschränkungen bei der Weitergabe personenbezogener Daten von Arbeitnehmenden Recht auf Beratung durch externe Datenexpert:innen Beteiligung von Arbeitnehmenden/Gewerkschaften an der Folgenabschätzung hinsichtlich Datenschutz Auswirkungen von KI-Systemen auf die Arbeitsbelastung/-intensität Auswirkungen von KI-Systemen auf Arbeitszeit/Recht auf Nichterreichbarkeit Recht auf Aufhebung einer Entscheidung aufgrund einer automatisierten Entscheidungsfindung Recht auf Information/Beratung zum Einsatz und zur Bewertung von KI-Tools Recht auf Information/Beratung zu KI-Tools(vor der Einführung) Schulung von Mitarbeitenden zu neuen KI-Tools 6,0 5,5 5,3 5,0 4,8 4,8 4,5 4,5 4,5 4,5 4,5 4,3 4,0 3,5 3,5 3,3 3,3 3,0 3,0 2,8 2,5 2,5 2,3 2,0 2,0 2,0 2,0 Hinweis: Zusammengeführte Antworten für F9–F12 für jene Gewerkschaften, die über KI-bezogene Themen nicht verhandeln und dies auch nicht möchten 15

FRIEDRICH-EBERT-STIFTUNG – Tarifverhandlungen zu KI und algorithmischem Management im europäischen Dienstleistungssektor 2.4 BESTEHENDE TARIFVERTRÄGE MIT KI-BEZOGENEN THEMEN Von den 90 Antworten gaben 20 % der Gewerkschaften an, einen Tarifvertrag zu haben, in dem KI-bezogene Aspekte auf Organisations- oder Branchenebene thematisiert werden. Dies ist nur eine Minderheit der Gewerkschaften, da 69 % jener Gewerkschaften, die die Umfrage ausgefüllt haben, keinen Tarifvertrag haben und 11 % es nicht wissen. Die Tarifvertragsebene, Branchen- und Multi-Arbeitgeber_ innen-E­ bene und sogar die Organisationsebene machen jeweils 25 % aus. Ein Tarifvertrag an einem Arbeitsplatz wurde nur in 6 % der Antworten genannt. Die Befragten fügten auch zusätzliche Kommentare hinzu: – Nationale Grundvereinbarung zwischen Arbeitgeber_ innen und Gewerkschaftsverbänden. Abbildung 10: KI-bezogene Themen, die in Tarifverträgen enthalten sind(N= 176, in%) Einhaltung der relevanten Privatsphäre-/Datenschutzgesetze Sammeln, Verarbeiten, Speichern und Nutzen von personenbezogenen Daten von Arbeitnehmenden Einschränkungen bei der Weitergabe personenbezogener Daten von Arbeitnehmenden Auswirkungen von KI-Systemen auf Arbeitszeit/Recht auf Nichterreichbarkeit Beteiligung von Arbeitnehmenden/Gewerkschaften an der Folgenabschätzung hinsichtlich Datenschutz Schulung von Mitarbeitenden zu neuen KI-Tools Recht auf Information/Beratung zum Einsatz und zur Bewertung von KI-Tools Recht auf Aufhebung einer Entscheidung aufgrund einer automatisierten Entscheidungsfindung Schulung von Führungskräften zu neuen KI-Tools Sprachanalyse(z. B. in Contact Centern) Zugriff auf E-Mails und Nachrichten von Mitarbeitenden Automatisierte Bewertung von Arbeitnehmenden anhand Ergebnissen und Leistungszielen Team-/Aufgabenzuweisung, Algorithmus zur Verteilung von Aufträgen Planung von Arbeitsschichten Recht auf Information/Beratung zu KI-Tools(vor der Einführung) Recht auf Beratung durch externe Datenexpert:innen Auswirkungen von KI-Systemen auf die Arbeitsbelastung/-intensität Systeme zum Erstellen automatischer Antworten(z. B. Chatbots) KI-Systeme zur sprachlichen oder visuellen Erkennung und Verarbeitung Automatisierte Bewertung von Arbeitnehmenden basierend auf Bewertungen von Verbraucher:innen Algorithmische Managementsysteme, um Jahresurlaube zu genehmigen/abzulehnen, Krankheitsurlaube zu protokollieren usw. Auswirkungen des Einsatzes von KI-Tools auf die Anzahl der Jobs/Mitarbeitenden; Notwendigkeit, Sozialpläne auszuhandeln Bereitstellung von Informationen über KI-Systeme in einfacher, verständlicher Sprache Wearables/Geräte mit die Sensoren zum Sammeln von Informationen 1,1 Software zur physischen oder digitalen Verfolgung von Arbeitstätigkeiten(z. B. Geolokalisierung, Überwachung von Tastenanschlägen) 1,1 Automatisierte Hintergrundprüfung von Bewerber:innen in sozialen Medien 1,1 Automatisiertes Lebenslauf-Screening oder automatisierte Vorstellungsgespräche 1,1 F15–F19: Welche der folgenden Themen werden im Tarifvertrag erwähnt? 16 4,5 4,0 4,0 3,4 3,4 3,4 3,4 3,4 3,4 3,4 3,4 2,8 2,8 2,8 2,8 2,8 2,3 7,4 7,4 6,8 6,3 5,7 5,7

Ergebnisse der Umfrage unter Mitgliedsorganisationen von UNI Europa Abbildung 11: Welche Instrumente und Maßnahmen setzt Ihre Gewerkschaft außer Tarifverhandlungen ein, um das Bewusstsein zu schärfen und die Mitglieder zu schulen?(N= 86, in%) Konsultation zur Erleichterung neuer Gesetze(z. B. Recht auf Nichterreichbarkeit) 49 Richtlinien-/Strategiepapiere zu KI 36 Schulungen/Workshops zu den Risiken von KI 36 Initiativen von Sozialpartnern(z. B. gemeinsame Erklärungen, Projekte) 30 Richtlinien zur Datenfolgenabschätzung 30 Sonstiges(bitte angeben) 22 Checklisten zu ethischer KI 21 Checklisten oder Richtlinien zur Einführung und Nutzung von KI bei der Arbeit 19 F25: Welche Instrumente und Maßnahmen(außer Tarifverhandlungen) setzt Ihre Gewerkschaft ein, um das Bewusstsein für KI zu schärfen und ihre Mitglieder zu schulen sowie die Risiken im Zusammenhang mit der KI-Nutzung zu minimieren? – Auf nationaler Branchen- und Unternehmensebene und manchmal auch auf Arbeitsplatzebene. – Wir haben noch nichts mit dem Arbeitgeber_innen unterzeichnet. Die im Tarifvertrag genannten Themen entsprechen den KI-Themen, die von den Gewerkschafter_innen verhandelt wurden. Die häufigsten Bestimmungen im Bereich KI, die in Tarifabkommen zu finden sind, beziehen sich auf den Schutz personenbezogener Daten und der Privatsphäre der Beschäftigten: Einschränkungen bei der Weitergabe personenbezogener Daten von Arbeitnehmenden, Sammeln, Verarbeiten, Speichern und Nutzen von personenbezogenen Daten der Arbeitnehmenden sowie Einhaltung von relevanten Privatsphäre-/Datenschutzgesetzen. [Abbildung 10] Mehrere Befragte legten den vollständigen Text der spezifischen Bestimmungen vor. Diese werden in Abschnitt 3.2 dieses Berichts analysiert, der speziell diesen gewidmet ist. Tabelle 1: Gründe für das Fehlen von KI-Bestimmungen in Tarifverträgen Gründe Es wurde gerade erst begonnen, KI zu besprechen oder darüber zu verhandeln und einen Tarifvertrag zu erstellen Noch nicht notwendig, es gibt andere Prioritäten Arbeitgeber_innen hat sich geweigert, über KI zu sprechen Bisher fehlende Informationen zu KI Kompetenzen, Ressourcen oder entsprechende Gesetzgebung fehlen Nutzung weiter gefasster Vorschriften zur Minderung der Bedrohung durch KI Mangelnde Transparenz zur KI-Nutzung im Unternehmen Anzahl der zugehörigen Antworten 17 12 7 5 5 4 3 2.5 GRÜNDE FÜR DAS FEHLEN VON KI-BESTIMMUNGEN IN TARIFVERTRÄGEN Im Rahmen der Umfrage wurde untersucht, aus welchen Gründen keine Bedingungen in Bezug auf KI in Tarifverträgen vorhanden sind(F24). Aus den mehr als 60 offenen Antworten wurden die folgenden Gründe kategorisiert: Weitere Antworten waren»Ich weiß es nicht« oder das völlige Fehlen von Tarifverhandlungen. 2.6 ANDERE TOOLS UND MASSAHMEN IM ZUSAMMENHANG MIT KI Klammert man Tarifverhandlungen aus, nutzen Gewerkschaften hauptsächlich Beratungen, um neue Gesetze zu erleichtern(49 %), Strategiepapiere zu KI(36 %) und Schulungen/Workshops zu den Risiken von KI(36 %)(siehe Abbildung 11). Laut der aktuellen Umfrage werden Checklisten oder Richtlinien zur Einführung und Nutzung von KI am Arbeitsplatz am seltensten verwendet(19 %). 17

FRIEDRICH-EBERT-STIFTUNG – Tarifverhandlungen zu KI und algorithmischem Management im europäischen Dienstleistungssektor 3 ANNOTATION, KODIERUNG UND ANALYSE DER INHALTE VON TARIFVERTRÄGEN Neben der Analyse der Umfrage erfassten die Autor_innen 31 Tarifverträge, die Bestimmungen zum Einsatz von KI enthalten. Diese Tarifverträge wurden in die bereits bestehende globale WageIndicator-Tarifvertragsdatenbank aufgenommen. Es wurde ein spezielles Codesystem entwickelt(siehe Tabelle 2), das dann für die Analyse der 31 untersuchten Tarifverträge eingesetzt wurde. Die folgenden Karten und Diagramme berücksichtigen Verträge, die sich spezifisch auf die Einführung künstlicher Intelligenz(KI) und/oder von algorithmischem Management(AM) am Arbeitsplatz beziehen( newtech_aiam= 1). Da ein Vertrag ausgeschlossen wurde, beträgt die Anzahl der Verträge in der endgültigen Stichprobe 30. Die Karte in Abbildung 12 zeigt die geografische Verteilung von Tarifverträgen, die bei der Analyse berücksichtigt wurden. Das Land mit den meisten Tarifverträgen in der Stichprobe ist Spanien(hier wurden 15 Tarifverträge für die Stichprobe gesammelt). Die Stichprobe umfasst 8 Tarifverträge aus Deutschland, 3 aus Italien sowie vier Länder mit je einem Vertrag(Finnland, Norwegen, Schweiz und das Vereinigte Königreich). Tabelle 2: Relevante Variablen im Annotationssystem der WageIndicator-Tarifvertragsdatenbank Abfrage-ID newtech_trigger newtech_aiam newtech_topics Frage-Label Sind im Vertrag Referenzen auf die Einführung moderner Technologien(darunter künstliche Intelligenz und algorithmisches Management) am Arbeitsplatz zu finden? * Unter KI(künstlicher Intelligenz) werden im Allgemeinen maschinenbasierte Systeme verstanden, die mit wenig menschlichem Input und geringer menschlicher Aufsicht Prognosen erstellen, Empfehlungen geben und Entscheidungen treffen können. Unter AM(algorithmischem Management) wird die Delegation von Managementfunktionen an algorithmische und automatisierte Systeme verstanden. Bezieht sich der Vertrag speziell auf die Einführung von künstlicher Intelligenz(KI) und/oder von algorithmischem Management(AM) am Arbeitsplatz? In welchen der folgenden Themen wird KI/AM erwähnt? (Sie können mehr als eine Option wählen.) Bitte seien Sie so genau wie möglich. Antworten(Code und Label) 0= Nein 1= Ja 0= Nein 1= Ja 11= Auswirkungen von KI/AM-Systemen auf Arbeitszeit und Recht auf Nichterreichbarkeit 22= Schulung von Mitarbeitenden und/oder Führungskräften zu neuen KI-Tools(einschließlich zu den Risiken im Kontext der KI-Nutzung) 33= Einsatz von KI/AM im Einstellungsprozess, bei der Arbeitsorganisation und bei der Bewertung von Arbeitnehmenden 44= Beteiligung von Arbeitnehmenden/Gewerkschaften am Datenschutz 66= Beteiligung von Arbeitnehmenden/Gewerkschaften bei der Einführung neuer Technologien 77= Einhaltung der relevanten Gesetze zum Schutz von Privatsphäre und Daten 88= KI/AM-Tools zur Überwachung und Beaufsichtigung von Arbeitern(z. B. Software/Geräte zur Verfolgung physischer oder digitaler Arbeitstätigkeiten) 55= Andere Themen −9= Nicht angegeben 18

Annotation, Kodierung und Analyse der Inhalte von Tarifverträgen Abbildung 12: Anzahl der Tarifverträge, in denen die Einführung von KI und/oder AM am Arbeitsplatz behandelt wird Anzahl der Tarifverträge, die sich auf die Einführung von KI/AM am Arbeitsplatz beziehen. 0 15 Schweden Norwegen 1 Finnland 1 Vereinigtes Königreich 1 Deutschland 8 Schweiz Frankreich 1 Spanien 15 Italien 3 Polen Weißrussland Ukraine Quelle: WageIndicator-Tarifvertragsdatenbank, abgerufen im November 2023. N= 30 Sieht man sich die Branchenaufteilung der Tarifverträge in der Stichprobe an, sind die Produktion(6 Tarifverträge) und die Informations- und Kommunikationstechnologie-Dienste (6 Tarifverträge) am häufigsten vertreten, gefolgt von Finanzdienstleistungen, Banken und Versicherungen(4 Tarifverträge). Zwei der Verträge(einer aus Norwegen und einer aus Spanien) beziehen sich auf keine bestimmte Branche(siehe Abbildung 13). 3.1 ANALYSE DER TARIFVERTRÄGE Abbildung 14 zeigt den Prozentsatz der Verträge, die Klauseln zu diesem Thema enthalten. Die häufigsten KI-Themen, die in den Tarifverträgen behandelt werden, beziehen sich auf Schulungen von Mitarbeitenden und/oder Führungskräften zu neuen KI-Tools(22 Verträge) sowie auf die Einbindung von Mitarbeitenden/Gewerkschaften bei der Einführung neuer Technologien(18 Verträge). Die Analyse der KI-bezogenen Bestimmungen und das Jahr, in dem die jeweiligen Tarifverträge in Kraft traten(siehe Tabelle 3), zeigen, dass KI-Themen in den letzten Jahren und insbesondere ab 2021 an Relevanz gewannen. Das gilt insbesondere dann, wenn man sich die Bestimmungen zu Schulungen von Mitarbeitenden und/oder Führungskräften zu neuen KI-Tools ansieht. Die Einbindung von Mitarbeitenden/­ 19 Abbildung 13: Branchenverteilung der Tarifverträge, in denen die Einführung von KI und/oder AM am Arbeitsplatz behandelt wird. Sektoren Herstellung 9 IKT-Dienste 6 Finanzdienstleistungen, Banken, Versicherungen 4 Transport, Logistik, Kommunikation 3 Nicht spezifiziert 2 Gastgewerbe, Catering, Tourismus 2 Einzelhandel 1 Verlagswesen, Druckerei, Medien 1 Rechts- und Marktberatung, Unternehmensaktivitäten 1 Land- und forstwirtschaft, Fischerei 1 Quelle: WageIndicator-Tarifvertragsdatenbank, abgerufen im November 2023. N= 30

FRIEDRICH-EBERT-STIFTUNG – Tarifverhandlungen zu KI und algorithmischem Management im europäischen Dienstleistungssektor Abbildung 14: Prozentsatz der analysierten Verträge, die sich auf bestimmte Themen beziehen. Schulung von Mitarbeitenden und/oder Führungskräften zu neuen KI-Tools(einschließlich zu den Risiken im Kontext der KI-Nutzung) Beteiligung von Arbeitnehmenden/Gewerkschaften bei der Einführung neuer Technologien Auswirkungen von KI/AM-Systemen auf Arbeitszeit und Recht auf Nichterreichbarkeit Andere Themen Einhaltung der relevanten Privatsphäre-/Datenschutzgesetze Beteiligung von Arbeitnehmenden/Gewerkschaften am Datenschutz Nicht angegeben 10,34% (3 TV) KI/AM-Tools zur Überwachung und Beaufsichtigung von Arbeiter_ innen(z. B. Software/Geräte zur Verfolgung physischer oder digitaler Arbeitstätigkeiten) 10,34% (3 TV) Einsatz von KI/AM im Einstellungsprozess, im Rahmen der Arbeitsorganisation und bei der Bewertung von Arbeitnehmenden 3,45% (1 TV) 0 10 20 30 75,86% (22 TV) 62,07% (18 TV) 48,28% (14 TV) 48,28% (14 TV) 41,38% (12 TV) 37,93% (11 TV) 40 50 60 70 80 90 100 100%= alle Tarifverträge, in denen die Einführung von Kl und/oder AM am Arbeitsplatz thematisiert wird Quelle: WageIndicator-Tarifvertragsdatenbank, abgerufen im November 2023. N= 30 Tabelle 3: Anzahl der Verträge, die Klauseln zu relevanten Themen enthalten, sowie die Jahre, in denen die Verträge in Kraft getreten sind 2018 2019 2020 2021 2022 2023 Schulung von Mitarbeitenden und/oder Führungskräften zu neuen KI-Tools (einschließlich zu den Risiken im Kontext der KI-Nutzung) Beteiligung von Arbeitnehmenden/Gewerkschaften bei der Einführung neuer Technologien 1 2 3 5 6 5 2 3 3 2 6 2 Auswirkungen von KI/AM-Systemen auf Arbeitszeit und Recht auf Nichterreichbarkeit 3 1 2 3 5 Andere Themen 2 2 2 1 4 3 Einhaltung der relevanten Privatsphäre-/Datenschutzgesetze 2 3 2 1 3 1 Beteiligung von Arbeitnehmenden/Gewerkschaften am Datenschutz 2 2 2 3 2 Nicht angegeben KI/AM-Tools zur Überwachung und Beaufsichtigung von Arbeitnehmenden (z. B. Software/Geräte zur Verfolgung physischer oder digitaler Arbeit). Einsatz von KI/AM im Einstellungsprozess, im Rahmen der Arbeitsorganisation und bei der Bewertung von Arbeitnehmenden Gesamt 1 2 1 1 1 1 3 4 4 5 7 6 Quelle: WageIndicator-Tarifvertragsdatenbank, abgerufen im November 2023. N= 30 20

Annotation, Kodierung und Analyse der Inhalte von Tarifverträgen Abbildung 15: Aufnahme von künstlicher Intelligenz(KI) und algorithmischem Management(AM) am Arbeitsplatz in die Kollektivverträge verschiedener Länder. 6 Anzahl der Tarifverträge, die sich auf die Einführung von KI/AM am Arbeitsplatz beziehen. 5 4 Finnland Deutschland Italien 3 Norwegen Spanien 2 Schweiz Vereinigtes Königreich 1 0 2018 2019 2020 2021 2022 2023 Quelle: WageIndicator-Tarifvertragsdatenbank, abgerufen im November 2023. N= 30 Gewerkschaften bei der Einführung neuer Technologien wurde 2022 dreimal häufiger thematisiert als im Jahr davor und im Jahr danach. Die Auswirkungen von AAMS-­Systemen auf die Arbeitszeit und das Recht auf Nichterreichbarkeit haben in den letzten beiden Jahren, vor allem im Jahr 2023, ebenfalls an Aufmerksamkeit gewonnen. Dabei zeigt sich, wie die Politikgestaltung auf EU-Ebene auch Tarifverhandlungen in bestimmten Mitgliedsstaaten und Branchen beeinflusst hat, da das Recht auf Nichterreichbarkeit in politischen Diskursen auf EU-Ebene ausführlich behandelt wurde. Andere Themen, wie z. B. die Datenschutzgesetzgebung oder der Einsatz von KI für die Überwachung von Arbeitnehmenden, haben in den letzten Jahren keine besondere Aufmerksamkeit erhalten. Abbildung 15 zeigt schließlich, wann künstliche Intelligenz (KI) und algorithmisches Management(AM) am Arbeitsplatz in den einzelnen Ländern in Tarifverträge aufgenommen wurden. 3.2 KI-BEZOGENE INHALTE IN TARIFVERTRÄGEN In diesem Abschnitt stellen wir einige Tarifverträge vor, die gute Beispiele für Regeln und Bestimmungen zum Einsatz von KI sind. Diese Bestimmungen können auch in anderen Fällen/Branchen/Ländern als Maßstab für Tarifverhandlungen dienen. Die nachstehend zusammengefassten Bestimmungen stammen(a) aus den in Abschnitt 2 präsentierten Umfrageergebnissen sowie(b) aus der Inhaltsanalyse von 31 Tarifverträgen, die Bestimmungen zum Einsatz von KI enthalten. Die Bestimmungen dreier Tarifverträge werden genauer dargestellt, gefolgt von einer Übersicht weiterer Tarifverträge mit KI-bezogenen Klauseln. Box 1, Norwegen: Grundvereinbarung für die Jahre 2018–2021 zwischen NHO und LO mit Änderungen Dieser Vertrag wurde zwischen dem norwegischen Unternehmerverband(NHO) und dem norwegischen Gewerkschaftsbund(LO) abgeschlossen und betrifft alle zugehörigen Verbände, Gewerkschaften und Unternehmen. Er greift die Chancen und Schwierigkeiten des Einsatzes von KI am Arbeitsplatz auf und betont die Einhaltung gesetzlicher Bestimmungen. Die Privatsphäre und Würde der Mitarbeitenden stehen an erster Stelle, wodurch solide KI-Methoden, die Einbeziehung von Arbeitnehmendenvertreter_innen sowie die Vermeidung von Voreingenommenheit erforderlich sind. Der Vertrag verweist auf Kapitel 9 des Arbeitsschutzgesetzes zu Kontrollmaßnahmen, laut dem bedeutende Änderungen der Absprache mit dem Betriebsrat bedürfen. Unternehmen müssen ihre Mitarbeitenden über den Betriebsrat zu Plänen und Entscheidungen über Kontrollmaßnahmen informieren, die auf technologischen, finanziellen, Sicherheits- und Gesundheitsaspekten basieren können. Eingeführte Kontrollmaßnahmen dürfen das notwendige Maß nicht überschreiten und müssen durch den Betrieb und die Anforderungen des jeweiligen Unternehmens sachlich begründet sein. Mitarbeitende oder Gruppen von Mitarbeitenden müssen bei der Durchführung von Kontrollmaßnahmen gleich behandelt werden. Bevor solche Maßnahmen ergriffen werden, müssen die Unternehmensführung und der Betriebsrat einzeln und gemeinsam sicherstellen, dass Mitarbeitende über den Zweck und die praktischen Konsequenzen der Maßnahmen informiert werden, unter anderem darüber, wie diese durchgeführt werden und wie lange sie voraussichtlich eingesetzt werden. Wenn Kontrollmaßnahmen personenbezogene Daten betreffen, müssen Fragen zur Aufbewahrungsfrist, ▶▶ 21

FRIEDRICH-EBERT-STIFTUNG – Tarifverhandlungen zu KI und algorithmischem Management im europäischen Dienstleistungssektor ▶▶  Speicherung, Löschung usw. mit dem Betriebsrat besprochen und unter Einhaltung des Datenschutzgesetzes und anderer geltender Bestimmungen geklärt werden. In regelmäßigen Abständen müssen die Parteien die eingesetzten Kontrollmaßnahmen evaluieren. Wenn eine der Parteien des jeweiligen Unternehmens es wünscht, muss eine lokale Vereinbarung über die Gestaltung sowie die Einführung der Kontrollmaßnahmen des Unternehmens und deren Einsatzbereich angestrebt werden. Wenn keine Einigung erzielt werden kann, muss jede Partei ihren Fall bei den Hauptorganisationen, dem norwegischen Unternehmerverband(NHD) und dem norwegischen Gewerkschaftsbund(LO) vorbringen(Weitere Details siehe Anhang). Quelle: Umfrageantwort Hinsichtlich spezifischer AAMS-bezogener Inhalte in Tarifverträgen gibt es ein anschauliches Beispiel aus Deutschland aus dem Jahr 2020: Die Konzernvertriebsvereinbarung über die Einführung und den Einsatz von Systemen der Künstlichen Intelligenz von IBM. Dieser Tarifvertrag stellt ein umfassendes Regularium verschiedener KI-bezogener Themen dar. Der Volltext ist hier verfügbar: https://wageindicator.de/ arbeitsrecht/datenbank-der-tarifvertrage/konzernbetriebs vereinbarung-uber-die-einfuhrung-und-den-einsatz-vonsystemen-der-kunstlichen-intelligenz-artificial-intelligence Der Tarifvertrag für Angestellte in der Informations- und Kommunikationstechnik in Finnland, der 2023 abgeschlossen wurde und vom 3. März 2023 bis 31. März 2025 gültig ist, ist besonders interessant, da er die Einrichtung einer Arbeitsgruppe zur Zukunft der IKT-Arbeit auch in Hinsicht auf KI vorsieht. Die Parteien sollen eine Arbeitsgruppe einrichten, um den Dialog über die Arbeitsperspektiven in der Informations- und Kommunikationstechnologie fortzusetzen, der bei vorherigen Verhandlungsperioden begonnen wurde. Die Parteien sollen zudem Unternehmen ermutigen, diesen Dialog auf Arbeitsplatzebene in Hinblick auf verbesserte Produktivität, Wettbewerbsfähigkeit sowie Wohlbefinden des Personals und Kompetenzen der Mitarbeitenden fortführen. Die folgenden Themen sollen unter anderem während der Vertragslaufzeit besprochen werden: – Auswirkungen von Digitalisierung, Robotik und KI auf die Arbeit von Angestellten – Veränderungen der Nachfrage nach Expertise durch Änderungen im Arbeitsleben und das Erkennen von zukünftigem Bedarf an Fachwissen – Erhaltung der Arbeitsfähigkeit, insbesondere unter zukünftigen Umständen und den zentralen Faktoren, die zur Bewältigung der Arbeit beitragen. 2023 entstanden in Spanien ebenfalls mehrere Tarifverträge, die Bestimmungen über den Einsatz von KI enthalten. In den meisten Fällen findet sich nur ein kurzer/allgemeiner Hinweis auf KI. Beispielsweise wurde im Abschnitt zu Gesundheit und Sicherheit eine Klausel hinzugefügt, in der die Entstehung von Technologie berücksichtigt wird, oder der Abschnitt für Gewerkschaften wurde um eine Klausel ergänzt, die vorgibt, dass die Gewerkschaft über neue Arbeitsweisen zu informieren und zu beraten ist. Digitale Rechte am Arbeitsplatz und das Recht auf Nichterreichbarkeit zählen zu den Themen, die häufiger in Tarifverträgen thematisiert werden. Einen detaillierten Einblick in Tarifverträge, in denen digitale Rechte behandelt werden, ist in Box 2 zu finden. Der spanische Tarifvertrag»Colectivo de Empresa de Fundación Tekniker«(2023–2024) ist aufgrund seiner Bestimmungen über das Recht auf Nichterreichbarkeit besonders interessant (siehe Box 3). Box 2, Spanien SIMA-FSP Fundación Servicio Interconfederal de Mediación y Arbitraje F.S.P. ist ein Vertrag aus dem Jahr 2021, der aus einer Mediation zwischen der Federación de Servicios CCOO, FSC-CCOO y FeSMC-UGT und TAKEAWAY EXPRESS SPAIN, S.L.(JUST EAT) entstanden ist. Artikel 68, in dem es um digitale Rechte geht, sieht unter anderem vor, dass Arbeitnehmende am Arbeitsplatz folgende digitale Rechte haben. a) Recht auf digitale und berufliche Nichterreichbarkeit: Arbeitnehmende haben das Recht auf digitale Nichterreichbarkeit, um außerhalb der konventionellen Arbeitszeiten die Wahrung ihrer Ruhe- und Erholungszeiten, bewilligten Abwesenheit und Urlaube sowie ihrer persönlichen und familiären Privatsphäre sicherzustellen. Folglich darf das Unternehmen außerhalb der Arbeitszeiten nicht mit Arbeitnehmenden kommunizieren, es sei denn, außergewöhnliche Umstände machen dies erforderlich, oder um den wöchentlichen Arbeitsplan mitzuteilen. Die unterzeichnenden Parteien sind der Ansicht, dass digitale Nichterreichbarkeit ein wichtiger Aspekt ist, der zur Gesundheit der Arbeitnehmenden beiträgt, da so unter anderem technologische Ermüdung oder Stress reduziert und die Arbeitsumgebung und die Arbeitsqualität verbessert werden. (Weitere Details im Anhang) Quelle: https://tusalario.es/leys-laborales/base-de-datos-deconvenios-colectivos/convenio-takeaway-express-spain-s-l-justeat-2021-2023 Die Bestimmungen sind zugänglich unter: https://wage indicator.fi/tyooikeus/tyoehtosopimustietokanta/thecollective-agreement-for-salaried-employees-in-the-ictsector-2023-2025-final 22

Annotation, Kodierung und Analyse der Inhalte von Tarifverträgen Box 3, Spanien: Colectivo de Empresa de Fundación Tekniker(2023–2024) Dieser Tarifvertrag enthält einen langen Artikel über das Recht auf Nichterreichbarkeit. Diese Klausel gilt als umfangreichste der 31 analysierten Tarifverträge. Unter Einhaltung des Rechts auf digitale Nichterreichbarkeit wurde dieser Handlungsrahmen festgelegt, um Ruhe- und Erholungszeit für alle Mitarbeitenden von Tekniker zu garantieren und ihre persönliche und familiäre Privatsphäre ungeachtet des Ortes oder der Art des Arbeitstags zu gewähren. Dies ist für Tekniker und alle Mitarbeitenden obligatorisch. 1. Geltungsbereich: Tekniker garantiert nach Beendigung des Arbeitstags allen Arbeitnehmenden das Recht auf digitale Nichterreichbarkeit. Alle Mitarbeitenden von Tekniker haben das Recht, nicht auf Kommunikationsversuche zu reagieren, unabhängig vom verwendeten Medium(E-Mail, Messaging-Apps, Telefon usw.), sobald ihr Arbeitstag beendet ist, es sei denn, es treffen Umstände wie in Punkt 4 dieses Dokuments zu. Digitale Nichterreichbarkeit ist ein anerkanntes und formalisiertes Recht, jedoch keine Verpflichtung. Personen, die außerhalb des üblichen Arbeitstags kommunizieren, können dies frei tun, erhalten jedoch möglicherweise erst zu einem anderen Zeitpunkt während des Arbeitstags eine Antwort. 2. Ordnungsgemäße Nutzung von Computermedien: Alle Mitarbeitenden von Tekniker sind verpflichtet, die für sie zur Verfügung gestellten Computer und technologischen Medien zu nutzen, und unter anderem für ordnungsgemäße Ruhe- und Erholungszeiten zu sorgen, indem die Nutzung besagter Medien für Arbeitszwecke abseits des Arbeitstags vermieden oder auf ein Minimum reduziert wird. Daher können die Mitarbeitenden unter Berufung auf das Recht auf digitale Nichterreichbarkeit die bereitgestellten Kommunikationsgeräte nach Ende ihres Arbeitstags trennen und sind nicht verpflichtet, auf Nachrichten oder Anrufe außerhalb der Arbeitszeit (außer wie erforderlich) zu reagieren, wie in Klausel 4 unten dargelegt. Personen mit Führungsverantwortung für ein Team müssen die Richtlinien für digitale Nichterreichbarkeit besonders einhalten und dürfen keine Reaktion auf Kommunikationsversuche, die an Personen im Zentrum außerhalb der Arbeitszeiten gesendet werden, verlangen. Daher haben die Empfänger_innen der Kommunikation das Recht, auf diese außerhalb der Arbeitszeiten zu Ruhe- und Erholungszeiten erfolgte Kommunikation nicht zu reagieren. 3. Ort und Tag: Das Recht auf digitale Nichterreichbarkeit wird an jedem Arbeitsplatz(einschließlich für Telearbeit) und außerhalb des üblichen oder im Falle von Telearbeit oder gemeinsamer Abstimmung festgelegten alternativen Arbeitstags festgelegt. Dies schließt auch Urlaubszeiten, Tage für die Abwicklung persönlicher Angelegenheiten, bewilligte Abwesenheitstage, Krankschreibung, Freistellungen oder Ähnliches ein. Bei Abwesenheit von der Arbeit sind alle Personen verpflichtet, eine Warnmeldung per E-Mail(»Abwesenheitsnotiz«) zu hinterlassen, in denen die Kontaktdaten derjenigen Kolleg_innen zu finden sind, die während der Abwesenheit antworten, sowie das voraussichtliche Beginn- und Enddatum der Abwesenheitsperiode. (Weitere Details im Anhang) Quelle: https://tusalario.es/leys-laborales/base-de-datos-deconvenios-colectivos/boletiofgipuzkoa-jueves-a-17-de-agostode-2023 23

FRIEDRICH-EBERT-STIFTUNG – Tarifverhandlungen zu KI und algorithmischem Management im europäischen Dienstleistungssektor 4 SCHLUSSFOLGERUNGEN UND GEWONNENE ERKENNTNISSE Dieser Bericht zeigt neue empirische Belege für den aktuellen Stand der Tarifverhandlungen zum Thema KI und algorithmisches Management. Die Belege spiegeln die Ansichten und Erfahrungen der Mitgliedsorganisationen von UNI Europa im Dienstleistungsbereich in Europa wider, und stellen gemeinsam mit der Analyse der spezifischen Tarifverträge, die KIbezogene Bestimmungen enthalten, auch für andere Länder und Branchen einen guten Maßstab oder Ausgangspunkt für Verhandlungen zu Überwachung von Arbeitnehmenden mithilfe von KI dar. 2 Die Umfrage zeigt, dass 42 % der Mitgliedsorganisationen von UNI Europa zu verschiedenen Themen im Zusammenhang mit KI verhandeln. Die Gewerkschaften fokussieren sich hinsichtlich KI auf Themen wie Datenschutz und Privatsphäre der Arbeitnehmenden. Die am zweithäufigsten verhandelten Themen sind die Auswirkungen der KI auf Arbeitszeiten, die Überwachung der Aktivitäten von Arbeitnehmenden sowie die automatisierte Schichtplanung. Andererseits ist der Einstellungsprozess das am wenigsten verbreitete Verhandlungsthema unter Gewerkschaftsmitgliedern. Die Reihenfolge der KI-bezogenen Themen, die noch nicht verhandelt wurden, unterscheidet sich von jener, die bereits verhandelt wurden. Diese Reihenfolge kann als»Wunschliste« für zukünftige Gewerkschaftsverhandlungen gesehen werden und umfasst spezifische Bestimmungen im Tarifvertrag. Das am häufigsten gewünschte Thema betrifft die Rechte der Arbeitnehmenden, insbesondere das Recht, durch automatisierte Prozesse getroffene Entscheidungen anfechten zu können, sowie das Recht auf Beratung durch externe Datenexpert_innen. Außerdem besteht der starke Wunsch, ein Recht auf Information und Beratung zum Einsatz und zur Bewertung von KI-Tools zu haben. Weitere zentrale Themen sind Schulungen von Mitarbeitenden zu neuen KI-Tools sowie automatisierte Hintergrundüberprüfungen der SocialMedia-Profile von Bewerber_innen. hinweisen. Andererseits könnte dies auch darauf schließen lassen, das KI-Themen bislang nicht als Bedrohung für Arbeitnehmende gesehen werden oder dass Gewerkschaften über das Thema nur begrenzt informiert sind. Die am wenigsten relevanten Themen bei Verhandlungen in Bezug auf KI sind der Zugriff auf E-Mails und Nachrichten von Mitarbeitenden, Systeme für die Erstellung automatischer Antworten(z. B. Chatbots) und Sprachanalyse(z. B. in Contact Centern). Von den 90 Antworten gaben nur 20 % der Gewerkschaften an, einen Tarifvertrag zu haben, in dem KI-bezogene Aspekte auf Organisations- oder Branchenebene thematisiert werden. Das zeigt, dass die meisten Gewerkschaften(69 %) keine Tarifverträge haben, in denen KI thematisiert wird, und 11 % nichts von solchen Verträgen wissen. Der am häufigsten in solchen Vereinbarungen thematisierte Aspekt ist der Schutz der personenbezogenen Daten und der Privatsphäre von Arbeitnehmenden. Zu den Bestimmungen gehören Einschränkungen bei der Weitergabe personenbezogener Daten von Arbeitnehmenden, für das Sammeln, Verarbeiten, Speichern und Nutzen ihrer personenbezogenen Daten sowie für die Einhaltung relevanter Gesetze zum Schutz von Privatsphäre und Daten. Es scheint, dass es mehrere Gründe dafür gibt, warum KI-­ Bestimmungen in Tarifverträgen fehlen. Erstens hielt das Thema KI erst kürzlich in den Diskurs und in Verhandlungen Einzug, sodass noch nicht genügend Zeit für das Erstellen eines umfassenden Tarifvertrags war. Zweitens erachten Gewerkschaften KI-bezogene Bestimmungen möglicherweise nicht für notwendig, die Seite der Arbeitgeber_innen ist nicht gewillt, solche Aspekte zu thematisieren, es gibt nicht genügend Ressourcen, um diese Themen im Detail anzusprechen oder es gibt dringendere Anliegen. Schlussendlich hat sich die Seite der Arbeitgeber_innen vielleicht geweigert, über KI zu diskutieren, und es gibt möglicherweise einen Mangel an Informationen zu diesem Thema. Die Themen, bei denen weder verhandelt wird noch der Wunsch danach besteht, könnten auf die nachrangige Relevanz von KI-bezogenen Aspekten unter Gewerkschaften 2 Der zweite Arbeitsbereich ist eine Studie über»KI und Algorithmisches Management im Europäischen Dienstleistungssektor: Verbreitung, Funktionen und ein Leitfaden für Verhandlungen«, erstellt von Steven Rolf von der Business School an der University of Sussex. Über die Tarifverträge hinaus setzen Gewerkschaften hauptsächlich auf Beratungen, um die Entwicklung neuer Gesetze zum Thema KI zu unterstützen. Häufig werden auch Grundsatzpapiere zu KI und Schulungen/Workshops eingesetzt, die die mit KI verbundenen Risiken thematisieren. Checklisten oder Richtlinien für die Einführung und Nutzung von KI am Arbeitsplatz werden seltener verwendet. 24

Die Inhaltsanalyse der Tarifverträge zeigt, dass KI gerade in den letzten Jahren als relevantes Verhandlungsthema etabliert hat und die Tarifverträge zunehmend Vorgaben zu KI enthalten. Zwar sind einige davon nur allgemeine Hinweise zur Nutzung von Technologien, dennoch konnte die Untersuchung mehrere Tarifverträge identifizieren, die als Beispiele für detailliertere Richtlinien hinsichtlich des Rechts auf Nichterreichbarkeit, der digitalen Rechte von Arbeitnehmenden am Arbeitsplatz, Informationsweitergabe und geschäftliche Steuerung dienen können. Zusammenfassend lässt sich feststellen, dass Verhandlungen zu KI erst im Entstehen sind und noch nicht so weit verbreitet sind wie Bestimmungen zu anderen Aspekten der Arbeitsbedingungen. Die Gewerkschaften haben jedoch bereits damit begonnen, sich mit KI und algorithmischem Management zu befassen. Angesichts des zunehmenden Einsatzes von Technologien und der aktuellen Ansichten der Gewerkschaften hinsichtlich Verhandlungen zu KI-bezogenen Bestimmungen ist zu erwarten, dass Tarifverhandlungen zum Thema KI in Zukunft relevanter werden und es mehr solcher Tarifverträge geben wird. Die Bereitstellung guter Beispiele für Tarifverträge, in denen die Nutzung von KI bereits geregelt ist, kann als Orientierung für die Entwicklung dieser Verhandlungsthemen dienen und dabei informierte Entscheidungen von Parteien fördern, die in vielen Ländern an den Verhandlungen beteiligt sind. 25

FRIEDRICH-EBERT-STIFTUNG – Tarifverhandlungen zu KI und algorithmischem Management im europäischen Dienstleistungssektor Literaturverzeichnis Aloisi, A.,& De Stefano, V.(2021). Essential jobs, remote work and digital surveillance: addressing the COVID-19 pandemic panopticon. International Labour Review, 1–31. doi:10.1111/ilr.12219 Collins, P.,& Atkinson, J.(2023). Worker voice and algorithmic management in post-Brexit Britain. Transfer: European Review of Labour and Research, 29(1), 37–52. doi:10.1177/10242589221143068 De Stefano, V.,& Taes, S.(2023). Algorithmic management and collective bargaining. Transfer: European Review of Labour and Research, 29(1), 21–36. doi:10.1177/10242589221141055 Eurofound.(2021). Riders’ law(Initiative), Record number 2449. Platform Economy Database. Dublin. Retrieved from https://apps.eurofound.europa. eu/platformeconomydb/riders-law-105142 High-Level Expert Group on Artificial Intelligence.(2019). A definition of AI: Main capabilities and disciplines. European Commission. Retrieved from https://ec.europa.eu/futurium/en/system/files/ged/ai_hleg_ definition_of_ai_18_december_1.pdf Mateescu, A.,& Nguyen, A.(2019). EXPLAINER: Algorithmic Management in the Workplace. Data& Society. Retrieved from https://datasociety. net/wp-content/uploads/2019/02/DS_Algorithmic_Management_ Explainer.pdf Nordic Financial Unions.(2022). Artificial intelligence in the Nordic finance sector: risks, challenges, and opportunities for finance employees. Retrieved from https://nordicfinancialunions.org/wp-content/uploads/ NFU-Position-Paper-Artificial-intelligence-in-the-Nordic-finance-sector.pdf Prospect.(2021). Digital technology: Guide for union representatives. Retrieved from https://library.prospect.org.uk/download/2022/00121 RMG& CWU.(2020, December 18). KEY PRINCIPLES FRAMEWORK AGREEMENT. Rodríguez, L.(2022, January 13). First collective agreement for platform workers in Spain. Social Europe. Retrieved from https://www.socialeurope. eu/first-agreement-for-platform-workers-in-spain Telefónica.(2018, November 23). Telefónica recognises the right of its employees to digitally disconnect. Retrieved from https://www.telefonica. com/en/communication-room/press-room/telefonica-recognises-the-rightof-its-employees-to-digitally-disconnect/ Todolí-Signes, A.(2021). Spanish riders law and the right to be informed about the algorithm. European Labour Law Journal, 12(3), 399–402. doi:10.1177/20319525211038327 UNI Global Union.(2023, May 12). ALGORITHMIC MANAGEMENT: OPPORTUNITIES FOR COLLECTIVE ACTION. Retrieved from https:// uniglobalunion.org/wp-content/uploads/Algorithmic-ManagementOpportunities-for-Collective-Action.pdf 26

Anhänge ANHÄNGE 1. STICHPROBE DER ONLINE-UMFRAGEANTWORTEN UNTER MITGLIEDSORGANISATIONEN VON UNI EUROPA Tabelle 4: Anzahl der Antworten nach Ländern Land Frankreich Belgien Dänemark Italien Norwegen Großbritannien Irland Rumänien Österreich Niederlande Spanien Finnland Deutschland Schweden Island Israel Kroatien Tschechische Republik Ungarn Luxemburg Schweiz Türkei % 13,51 % 12,84 % 6,08 % 6,08 % 6,08 % 5,41 % 4,73 % 4,73 % 4,05 % 4,05 % 4,05 % 3,38 % 3,38 % 2,70 % 2,03 % 0,68 % 1,35 % 1,35 % 1,35 % 1,35 % 1,35 % 1,35 % Anzahl der Antworten 20 19 9 9 9 8 7 7 6 6 6 5 5 4 3 3 2 2 2 2 2 2 ▶▶ Land Bulgarien Estland Lettland Malta Polen Portugal Slowakei Zypern Albanien Griechenland Litauen Slowenien Kosovo Bosnien-Herzegowina Serbien Moldau Monaco San Marino Ukraine Russische Föderation Belarus Königreich Bahrain % 0,68 % 0,68 % 0,68 % 0,68 % 0,68 % 0,68 % 0,68 % 0,68 % 0,68 % 0,00 % 0,00 % 0,00 % 0,00 % 0,00 % 0,00 % 0,00 % 0,00 % 0,00 % 0,00 % 0,00 % 0,00 % 0,00 % 99,35 % Anzahl der Antworten 1 1 1 1 1 1 1 1 1 0 0 0 0 0 0 0 0 0 0 0 0 1 148 27

FRIEDRICH-EBERT-STIFTUNG – Tarifverhandlungen zu KI und algorithmischem Management im europäischen Dienstleistungssektor Tabelle 5: Anzahl der Antworten in der Umfrage nach Branchen(N= 148, in%) Branche IKT-Branche(Information, Technologie und Dienstleistungen) Finanzwesen Post und Logistik Handel Sonstiges Medien und Unterhaltung(Druck, Fernsehen, Radio, Internetübertragung usw.) Agenturarbeit Reinigung und Sicherheitsdienste Grafik und Verpackung Pflege(stationäre und häusliche Pflege) Tourismus Glücksspiel(Casinos, Lotterien, Wettbüros und andere Glücksspielunternehmen) Haar und Schönheit Gesamt F5: In welcher Branche führen Sie Tarifverhandlungen? Anzahl der Antworten 36 24 23 17 14 12 5 5 5 3 2 1 1 148 % 24,3 16,2 15,5 11,5 9,5 8,1 3,4 3,4 3,4 2,0 1,4 0,7 0,7 100,0 2. WEITERE ERKENNTNISSE AUS DER ONLINE-UMFRAGE DER MITGLIEDSORGANISATIONEN VON UNI EUROPA Abbildung 16: Position der Befragten in der Gewerkschaft (N= 148, in%) 60% 49 50% Abbildung 17: Mitwirken der Gewerkschaft der Befragten bei Tarifverhandlungen(N= 148, in%) 80% 71 70% 40% 30% 60% 28 50% 20% 13 11 10% 0% Nationaler Lokale:r/ regionale:r BranchenBetriebsratsGewerkschaftsGewerkschafts- gewerkschaftsvorsitzende:r/ funktionär:in funktionär:in funktionär:in Betriebsratsmitglied F3: Welche Position haben Sie in der Gewerkschaft? Gewerkschafter_innen konnten den Namen des Arbeitgebenden oder des Unternehmens preisgeben, mit dem sie verhandelten. Nicht alle gaben ihre Gegenseite bei den Verhandlungen an. Die Mehrheit gab jedoch den Namen des Unternehmens an. Die folgende Tabelle enthält Beispiele für Sozialpartner, die am Verhandlungsprozess beteiligt sind. 40% 30% 22 20% 10% 3 0% Ich bin direkt Ich bin nicht Ich bin überan den Tarifverdirekt an den haupt nicht handlungen Tarifverhandlungen an den Tarifverbeteiligt beteiligt, bin handlungen aber über die beteiligt Verhandlungen informiert F4: Wie sind Sie an Tarifverhandlungen beteiligt? 5 Sonstiges (bitte angeben) 28

Anhänge Tabelle 6: Gewerkschaften und ihre Verhandlungspartner nach Ländern Land Italien Belgien Niederlande Belgien Frankreich Dänemark Norwegen Rumänien Dänemark Frankreich Frankreich Schweden Norwegen Frankreich Deutschland Bulgarien Belgien Österreich Schweiz Irland Frankreich Niederlande Spanien Gewerkschaft Slc Cgil CSC-ACV Transcom Culture FNV ACV Puls FO Communication Finansforbundet Fellesforbundet Federatia FAIR-MEDIASIND HK Privat SYNEE FO Banques Schwedische Gewerkschaft der Handelsbeschäftigten, Handels HK i Norge FEC FO ver.di Bund der Kommunikationsgewerkschaften ACOD – CGSP GPF – Gewerkschaft der Post- und Fernmeldebediensteten syndicom – Gewerkschaft Medien und Kommunikation Communications Workers’ Union(CWU) Ireland Fo FNV UGT Arbeitgebender/Unternehmen CCNL Telecomunicazioni In verschiedenen Gewerkschaften IT-Hardware-Branche E.a. Ricoh, Xerox, Canon, Fujitsu, HPE, Konica Minolta, Acer, Kyocera, Toshiba Handel LA POSTE Finansforbundet Nationaler Arbeitgeberverband FAIR-MEDIASIND Dansk Industri, Dansk Erhverv und andere große nationale Arbeitgeberorganisationen Pôle emploi Up Coop Verhandlungen auf Branchen- und Unternehmensebene Virke and Norges Hovedorganisasjon(NHO) Secteur Banques et Sociétés Financières IBM, Kyndryl, Tui Infotech, T- Systems … BG Post PLC bpost Österreichische Post AG Swisscom Eir, Vodafone, Circet Bpmed PostNL Telefónica Abbildung 18: Gewerkschaften und ihre Verhandlungspartner nach Ländern 80% 69 70% 60% 50% 40% 30% 20 20% 11 10% 0% Ja Nein Ich weiß es nicht F13: Gibt es einen Tarifvertrag zu KI-bezogenen Themen in Ihrer Organisation/Branche? 29

FRIEDRICH-EBERT-STIFTUNG – Tarifverhandlungen zu KI und algorithmischem Management im europäischen Dienstleistungssektor Abbildung 19: Ebene, auf der der Tarifvertrag abgeschlossen wurde(N= 16, in%) Auf Branchenebene(Verhandlungen im Namen der gesamten Branche) Auf Multi-Arbeitgebenden-Ebene(Tarifverhandlungen mit Vertreter:innen mehrerer Arbeitgebender) Auf Unternehmens-/Organisationsebene(Verhandlungen mit einem einzelnen Arbeitgebenden und mehreren Arbeitsplätzen, z. B. in einer Bank mit mehreren Tochtergesellschaften) Sonstiges(bitte angeben) Auf Arbeitsplatz-Ebene(Tarifverhandlungen nur an einem Arbeitsplatz) 0 F14: Auf welcher Ebene wurde der Tarifvertrag abgeschlossen? 25 25 25 19 6 5 10 15 20 25 30 Tabelle 7: Beispiele für andere Tarifverträge, die KI-bezogene Bestimmungen enthalten(wie von den Umfrageteilnehmer:innen angegeben) – Convenio colectivo BANCA XXIV – Tarifvertrag für Telenor zwischen dem norwegischen Unternehmerverband(NHO) auf der einen Seite und dem norwe­ gischen Gewerkschaftsbund(LO) und der norwegischen Elektriker:innen- und IT-Arbeitnehmergewerkschaft(EL og IT Forbundet) auf der anderen Seite – »Gesamtarbeitsvertrag Swisscom: Swisscom achtet das Recht der Mitarbeitenden, während ihrer Freizeit nicht erreichbar zu sein.« – V ACUERDO PARA EL EMPLEO Y LA NEGOCIACIÓN COLECTIVA(V AENC) – TAKEAWAY EXPRESS SPAIN, S.L.(JUST EAT) – Openreach Service Delivery Transformation – Verhaltenskodex für GPS-Technologie – Wie bereits erwähnt haben wir keinen spezifischen Abschnitt zu KI, sondern einen allgemeiner gefassten Text zu Beteiligung bei der Einführung neuer Tools sowie einen Abschnitt über die Beteiligung und Einschränkungen bei der Weitergabe und Verwendung von Daten, die die Arbeit von Arbeitnehmenden betrifft. – Ccnl Telecomunicazioni – Handelsoverenskomsten LO/NHO Service og Handel – Landsoverenskomsten LO/Virke – Settore TLC – HST initiiert Tarifverhandlungen in Combis 3. KI-BEZOGENE INHALTE IN TARIFVERTRÄGEN Box 1, Norwegen(Fortsetzung) Neben den oben genannten Bestimmungen enthält dieser Tarifvertrag auch eine zusätzliche Rahmenvereinbarung über die technologische Entwicklung und computergestützte Systeme(IV). Die Hauptorganisation der Wirtschaft und die Nationale Organisation Norwegen vereinbaren, dass diese Rahmenvereinbarung bei der Planung, Einführung und Nutzung von Technologie und von computergestützten Systemen herangezogen werden muss. Die Rahmenvereinbarung basiert auf Teil A der Hauptvereinbarung und stellt keine Einschränkungen dessen dar. Darüber hinaus vereinbaren die Parteien, dass die Bedingungen der Vereinbarung abhängig von der Größe des Unternehmens angemessen umgesetzt werden müssen, ohne die Absichten des Vertrags zu schwächen. In dieser Vereinbarung umfasst der Begriff»Technologie« alle Technologien für Produktions-(auch Automatisierungs-), Verwaltungs- und Managementsysteme. Die Vereinbarung schließt Technologien und Systeme ein, die bei der Planung und Umsetzung der Arbeit sowie für die Speicherung und Nutzung personenbezogener Daten verwendet werden, die für die Mitarbeitenden der Unternehmen gelten, vgl. Hauptvereinbarung§ 9–11. Ferner wird festgelegt, dass die Vereinbarung neben computergestützten Systemen auch für signifikante technologische Änderungen und Fälle gilt, in denen solche Änderungen wichtig für die Mitarbeitenden und ihre Arbeitsbedingungen sind. Wenn ein Unternehmen ein Computersystem plant und einführt, muss dessen Einsatzbereich klar definiert sein. Andere Einsatzbereiche von Systemen dürfen nur nach Absprache mit dem Betriebsrat festgelegt werden. In angemessenem Ausmaß muss der Betriebsrat das Fachwissen des Unternehmens in Absprache mit der Unternehmensführung nutzen. Bei Bedarf kann der Betriebsrat – im Einvernehmen mit der Unternehmensführung und über seine Hauptorganisation – externe Beratung in diesem Bereich einholen. Die Kosten einer ▶▶ 30

Anhänge ▶▶  solchenExpertenberatung sind, sofern nicht im Voraus anders vereinbart, vom Unternehmen zu tragen. Bevor das Unternehmen eine endgültige Entscheidung über die System- und/oder Technologieauswahl im festgelegten Bereich der Vereinbarung trifft, müssen die Parteien besprechen, wie die Mitarbeitenden an der Entwicklung und/oder Auswahl einer solchen Technologie mitwirken können. Auch der Schulungs- und Umschulungsbedarf muss geklärt werden. Dabei wird besonderes Augenmerk auf die Weiterentwicklung der beruflichen Kompetenzen und Arbeitsinhalte der einzelnen Personen gelegt. Box 2, Spanien(Fortsetzung) b) Recht auf Privatsphäre und die Nutzung digitaler Geräte am Arbeitsplatz: Digitale Geräte, die den Arbeitnehmenden vom Unternehmen bereitgestellt werden, dienen ausschließlich beruflichen Zwecken, sodass die Privatnutzung solcher Geräte untersagt ist. Das Unternehmen darf auf Inhalte zugreifen, die aus der Nutzung digitaler Medien stammen, die den Arbeitnehmenden bereitgestellt werden, um zu überprüfen, ob die in Arbeits- oder Rechtsvorschriften festgelegten Bedingungen eingehalten werden und um die Integrität der Geräte zu gewährleisten. Die Nutzung technologischer Tools darf in allen Fällen kontrolliert werden, die dem Prinzip der Verhältnismäßigkeit entsprechen und die Würde der Arbeitnehmenden wahren. All dies unterliegt dem Recht der Arbeitnehmenden auf den Schutz ihrer Privatsphäre bei der Nutzung digitaler Geräte, die vom Unternehmen bereitgestellt werden. c) Recht auf Privatsphäre gegen Verwendung von Videogeräten, Überwachung und Tonaufnahmen am Arbeitsplatz im Fall von Kameras oder Videokamerasystemen sowie Video- und Tonaufzeichnungssystemen für die Personalkontrolle. f) Informationen über digitale Arbeitsmittel: Neben den oben genannten, sowohl die Algorithmuskommission als auch alle Mitarbeitenden des Unternehmens. Sie werden angemessen über digitale Tools, die in Ihrem Umfeld verwendet werden, die Arbeit und mögliche verbundene Gesundheitsrisiken informiert. Außerdem müssen Mitarbeitende bei Gesprächen vorab informiert werden, ob sie mit einem Chatbot oder einer Person sprechen. Alle Gespräche werden aufgezeichnet und für einen Zeitraum von drei Monaten für Arbeitnehmende aufbewahrt und später gelöscht. Die Gespräche, die von einem Chatbot geführt werden, dürfen nicht zur Sanktionierung von Personen herangezogen werden. 4. Förderung bewährter Verfahren: Tekniker führt Sensibilisierungsmaßnahmen über das Recht auf digitale Nichterreichbarkeit durch, um über einen notwendigen Schutz dieses Rechts unter Berücksichtigung sowohl arbeitsbezogener als auch persönlicher Umstände zu informieren und/oder schulen. Dazu werden die erforderlichen Informationen bereitgestellt, um Verständnis ▶▶ ▶▶  dafür zu schaffen und die spätere Anwendung zu fördern. Alle Abteilungen müssen verantwortungsvoll mit Informationen und Kommunikationstechnologien in den ihnen unterstellten Teams umgehen. Als Reaktion auf Situationen, die sofortige Aufmerksamkeit benötigen könnten, und trotz des Rechts auf Nichterreichbarkeit, wird es als notwendig erachtet, dass gewisse Positionen auch in Ruhe- und Erholungszeiten erreichbar bleiben. Diese Positionen sind: – Leiter:in für Personal und Organisation, – Leiter:in für Wirtschaft, Finanzen oder allgemeine:r Leiter:in, – Informations- und IT-Infrastrukturmanager:in. – Wartungspersonal. Wenn solche Ausnahmefälle die Aktivität der angegebenen Personen rechtfertigen und deren Ruhe- und Erholungszeit unterbrechen, gilt diese Zeit als effektive Arbeitszeit und die Bestimmungen müssen dem Tekniker-Vertrag entsprechen. 5. Ausnahmegründe: Trotz des Rechts auf digitale Nichterreichbarkeit, das für alle und auch für Führungskräfte gilt, rechtfertigen gewisse Aktivitäten oder der Verdacht auf kritische Umstände, dass manche Personen ausfindig gemacht werden und reagieren. Dies gilt insbesondere für Situationen, in denen eine Nichtbeachtung der Dringlichkeit zu schwerwiegenden Beeinträchtigungen des Geschäftsbetriebs führen könnte, deren plötzlich eintretende Brisanz eindeutig eine sofortige Reaktion erfordert, oder für Situationen, die ein ernsthaftes Risiko für Personen, Ausrüstung oder Einrichtungen des Zentrums darstellen könnten, sowie für Fälle, in denen es notwendig ist, auf dringende Kontaktanfragen von Behörden, Notdiensten oder von Tekniker beauftragten privaten Sicherheitsdiensten zu reagieren. 31

IMPRESSUM ÜBER DIE AUTOR_INNEN IMPRESSUM Dr. Marta Kahancová ist Mitbegründerin und Geschäftsführerin des Central European Labour Studies Institute (CELSI) und außerordentliche Professorin für öffentliche Ordnung an der Comenius Universität, Fakultät für Sozial- und Wirtschaftswissenschaften, Bratislava, Slowakei. Herausgeberin: Friedrich-Ebert-Stiftung e. V. Kompetenzzentrum Zukunft der Arbeit Cours Saint Michel 30e I 1040 Brüssel I Belgien Dr. Barbora Holubová ist Senior Researcherin bei CELSI in Bratislava. Dr. Tobias Mörschel, Direktor, FES Kompetenzzentrum Zukunft der Arbeit Simona Brunnerová ist Junior Researcherin bei CELSI in Bratislava. Inhaltliche Verantwortung und Redaktion: Oliver Philipp, FES Kompezenzzentrum Zukunft der Arbeit Katarína Lukáčová ist Researcherin bei CELSI in Bratislava. Daniela Ceccon ist Dirketorin für Daten bei der Wage­ Indicator Foundation. Für mehr Informationen zum Kompetenzzentrum Zukunft der Arbeit, siehe: https://futureofwork.fes.de/ Design: Petra Strauch/Barbora Novotna Gabriele Medas ist Leiter der Tarifvertragsdatenbank bei der WageIndicator Foundation. ÜBER CELSI Das Central European Labour Studies Institute(CELSI) ist ein gemeinnütziges Forschungsinstitut mit Sitz in Bratislava, Slowakei. Es fördert die multidisziplinäre Forschung über die Funktionsweise von Arbeitsmärkten und Institutionen, Arbeit und Organisationen, Unternehmen und Gesellschaft, Ethnizität und Migration im wirtschaftlichen, sozialen und politischen Leben der modernen Gesellschaften. CELSI ist bestrebt, einen Beitrag zum internationalen wissenschaftlichen Diskurs zu leisten. In seiner angewandten Forschung und politischen Analyse legt CELSI einen Schwerpunkt auf die mittel- und osteuropäischen Länder. Die in dieser Publikation zum Ausdruck gebrachten Ansichten sind nicht notwendigerweise die der Friedrich-Ebert-­ Stiftung e. V.(FES). Eine gewerbliche Nutzung der von der FES herausgegebenen Medien ist ohne schriftliche Zustimmung durch die FES nicht gestattet. Publikationen der FES dürfen nicht für Wahlkampfzwecke verwendet werden. ISBN: 978-3-98628-554-8 © 2024 ÜBER WAGEINDICATOR Die WageIndicator Foundation ist eine globale, unabhängige, gemeinnützige Organisation, die Informationen über Mindestl­öhne, Lebenshaltungskosten, existenzsichernde Löhne, Arbeitsgesetze, Gig- und Plattformarbeit sowie Tarifverträge in 206 Ländern weltweit sammelt, analysiert und verbreitet. Ihre Aufgabe ist es, die Transparenz auf dem Arbeitsmarkt zu verbessern, damit Arbeitnehmende, Arbeitgeber_innen, Gewerkschaften und andere Interessengruppen fundierte Entscheidungen treffen können. www.fes.de/bibliothek/fes-publikationen