FES PARIS SOZIALER DIALOG UND KÜNSTLICHE INTELLIGENZ Tarifverhandlungen zum Einsatz von KI und algorithmischem Management im Dienstleistungssektor Marta Kahancová Dezember 2024 KONTEXT Künstliche Intelligenz(KI) bezieht sich auf maschinengestützte Systeme, die in der Lage sind, Vorhersagen, Empfehlungen oder Entscheidungen mit einem Minimum an menschlichem Input oder Aufsicht zu treffen. Die Definition von KI kann vereinfacht werden und umfasst algorithmische ManagementTools, die es zum Beispiel im Personalmanagement oder bei der Arbeitsplatzüberwachung ermöglicht, automatisierte oder halbautomatisierte Entscheidungen zu treffen. Der Einsatz von KI am Arbeitsplatz gibt daher im Hinblick auf Datenschutz, Privatsphäre, Machtverhältnisse und Menschenrechte Grund zur Sorge. Das Kompetenzzentrum zur Zukunft der Arbeit der Friedrich-Ebert-Stiftung in Brüssel sowie der europäische Gewerkschaftsbund UNI Europa untersuchen in ihrer neuen Studie die Präferenzen der Gewerkschaften und den aktuellen Stand der Tarifverhandlungen in Bezug auf den Einsatz von KI-gestützten Instrumenten durch die Arbeitgeber_innen für die Arbeitnehmer_innen in den europäischen Dienstleistungssektoren. Die Analyse stützt sich auf zwei Daten-Quellen: – eine Online-Umfrage unter 148 Gewerkschafts­ vertreter_innen in 32 Ländern, die UNI Europa angeschlossen sind – Analyse von 31 Tarifverträgen, die Regelungen zum Einsatz von KI enthalten. Die Umfrageergebnisse bündeln den derzeitigen Erfahrungsschatz und die Präferenzen der Gewerkschaften, ihre Einstellung zu Verhandlungen über KI-bezogene Herausforderungen, die erwarteten gewerkschaftlichen Maßnahmen zum Durchbruch bei Verhandlungen zu KI-Anwendungen und best practice-Beispiele für KI-Klauseln in Tarifverträgen. WICHTIGSTE ERGEBNISSE Tarifverhandlungen zum Einsatz der künstlichen Intelligenz sind ein noch junges Feld und längst nicht so weit verbreitet wie Verhandlungen über die herkömmlichen Arbeitsbedingungen. Die Umfrage beantwortet haben 90 Gewerkschafter_innen. Davon gaben nur 20 % an, dass sie schon über einen Tarifvertrag verfügen, der AI-bezogene Aspekte auf Arbeitgeber- oder Branchenebene beinhaltet. 69% der befragten Gewerkschaften haben noch keine Tarifverträge mit KI-Bezug und 11 % sind nicht darüber informiert, dass es solche Tarifabschlüsse bereits gibt. Sofern Tarifverträge Bestimmungen zum Einsatz von KI am Arbeitsplatz enthalten, beziehen sich diese meist auf(a) Mitarbeiter_innenschulungen zu neuen KI-Tools, einschließlich der mit dem Einsatz von KI verbundenen Risiken;(b) die Beteiligung der Gewerkschaften an der Einführung neuer Technologien; und(c) Arbeitszeitregelungen. Die Mehrzahl der analysierten Tarifverträge enthalten bislang nur allgemeine Verweise auf die Nutzung von Technologie. Doch mehrere Vereinbarungen in Italien, Deutschland, Norwegen und Spanien können als Beispiele dienen für detailliertere Regeln und Vereinbarungen. Darin wurden Vereinbarungen getroffen wie das Recht auf Abschalten, digitale Rechte der Arbeitnehmer_innen am Arbeitsplatz, Informationsaustausch und Leistungskontrolle. 1

Prozentanteile der verhandelten KI-Regelungen in den 31 analysierten Tarifverträgen(TV) Schulungen zu KI-Tools f. Mitarbeiter_innen u./o. Führungskräfte (inkl. Sensibilisierung f. KI-bezogene Risiken) Mitwirkung von Mitarbeitenden/ Gewerkschaften bei der Einführung von KI-Tools Auswirkungen der KI/ des algorythmischen Managements(aM) auf Arbeitszeiten und das Recht auf Abschalten Andere Themen Einhaltung des geltenden gesetzlichen Datenschutzes Mitwirkung von Mitarbeitenden / Gewerkschaften bei der Umsetzung des Datenschutzes Nicht näher definiert KI / aM-Tools zur Arbeitnehmenden- und Arbeitsplatz-Überwachung(bspw. Software oder Geräte zur Bewegungsund Leistungsüberwachung) Einsatz von KI / aM-Tools in Bewerbungsverfahren, bei der Arbeitsorganisation und zur Leistungsbewertung 10,34% (3 TV) 10,34% (3 TV) 3,45% (1 TV) 0 10 20 30 75,86% (22 TV) 62,07% (18 TV) 48,28% (14 TV) 48,28% (14 TV) 41,38% (12 TV) 37,93% (11 TV) 40 50 60 70 80 90 100 100%= alle TV, die sich auf die Einführung von Kl und/oder aM am Arbeitsplatz beziehen Quelle: WageIndicator Collective Agreement Database, abgerufen im Nov. 2023, N= 30 MUSTERTARIFVERTRAG MIT KI-BEZOGENEN BESTIMMUNGEN Als eine Mustervereinbarung kann die im Jahr 2020 in Deutschland abgeschlossene IBM Konzernbetriebsvereinbarung über die Einführung und den Einsatz von Systemen der Künstlichen Intelligenz dienen. Sie regelt den Umfang der KI-Anwendung in der Mitarbeiter_innenführung. Die Vereinbarung sieht ausdrücklich vor, dass der Einsatz von KI die Entscheidungen im Unternehmen verbessern, aber keinesfalls menschliche Entscheidungen ersetzen soll. Sie beschreibt außerdem das Ausmaß potenzieller Schäden, die der Einsatz von KI den Arbeitnehmenden zufügen kann und kategorisiert verschiedene KI-Tools von»kein Schaden« bis»hoher Schaden«. Sie kategorisiert zudem den Transparenzgrad von KITools und beschreibt, wie die unterschiedlichen Gruppen von Arbeitnehmenden von den regulatorischen Bestimmungen betroffen sind. Die Vereinbarung sieht die Einführung eines KI-Ethikrates vor, der für das Monitoring und die Weiterentwicklung der Vereinbarung zuständig ist. Der vollständige Text der Vereinbarung findet sich hier: https://wageindicator.de/ arbeitsrecht/datenbank-der-tarifvertrage/konzernbetriebsvereinbarung-uber-die-einfuhrung-und-den-einsatz-von-systemen-der-kunstlichen-intelligenz-artificial-intelligence AUSBLICK UND VORRANGIGE THEMEN FÜR DIE GEWERKSCHAFTEN Es ist anzunehmen, dass Tarifverhandlungen über KI-bezo­ gene Themen an Bedeutung gewinnen werden. 42 % der befragten UNI Europa-Mitglieder waren bereits in Diskussionen und Verhandlungen über diverse KI-bezogene Themen beteiligt, wobei diese nicht zwangsläufig in Tarifverhandlungen oder-abschlüsse resultierten(Stand des Jahres 2023). Zu den für Gewerkschaften vorrangigen Themen gehören: – das Recht der Arbeitnehmenden, von automatisierten Systemen getroffene Entscheidungen anzufechten und sich von externen Datenexperten beraten zu lassen; – Datenschutz, Schutz der Privatsphäre der Arbeitnehmer_innen, Auswirkungen der KI auf die Arbeitszeiten, Überwachung der Tätigkeiten, automatische Planung von Arbeitsschichten. Die Gewerkschaften betonen nachdrücklich die Notwendigkeit eines Rechts auf Information und Konsultation vor Einsatz und Bewertung von KI-Tools sowie die Schulungen für Personal und Management für den Einsatz KI-gestützter Instrumente. Themen, die in der Rangfolge des Verhandlungs-Interesses der Gewerkschaften weit unten rangieren, sind der Zugriff auf E-Mails der Arbeitnehmenden, Sprachanalysen oder der Einsatz von Chatbots anstelle von Menschen. 2

EMPFEHLUNGEN FÜR GEWERKSCHAFTEN Zur Stärkung der Kompetenz der Gewerkschafter_innen bei Verhandlungen über KI-relevante Themen, wird als Schlußfolgerung der Studie empfohlen, dass sich Gewerkschaften intensiv mit Vereinbarungen vertraut machen, die bereits KI-relevante Bestimmungen enthalten. Da 11 % der Befragten sich solcher Vereinbarungen nicht bewußt waren und 69 % noch keinen Tarifvertrag mit KI- Bestimmungen verhandelt haben, ist es ratsam bereits existierende Erfahrungen zu nutzen. Gewerkschafter_innen können sich von der branchen- und länderübergreifenden Zusammenarbeit inspirieren lassen, um Mustervereinbarungen zu finden, die sie an ihre spezifischen Bedürfnisse anpassen können. Gewerkschaften können bei Ihren Bemühungen weiterhin auf zwei Ebenen ansetzen: – Unternehmen: Betriebsvereinbarungen aushandeln, die spezifisch auf die Bedürfnisse der Arbeitnehmenden im Unternehmen zugeschnitten sind; – Nationale und europäische Gesetzgebung: Transparenz beim Einsatz von KI-Instumenten im Personalmanagement fordern, außerdem die Bewertung von Arbeitnehmerrisiken sowie die faire und transparente Koexistenz von algorithmischen und menschlichen Entscheidungen, mit Begrenzung des potenziellen Schadens für Arbeitnehmerrechte. Dieses Ziel kann z. B. durch grenzüberschreitende gewerkschaftliche Zusammenarbeit und vertiefte Gespräche zum EU-Gesetz zur künstlichen Intelligenz erreicht werden. Sowie durch die gemeinsame Forderung nach einer Richtlinie zur Regulierung des Einsatzes von KI am Arbeitsplatz. – BERICHT UND REFERENZ Tarifverhandlungen über KI und algorithmisches Management in europäischen Dienstleistungs­ sektoren Simona Brunnerová, Daniela Ceccon, Barbora Holubová, Marta Kahancová, Katarína Lukáčová, Gabriele Medas. – Brüssel: Friedrich-Ebert-Stiftung, Kompetenzzentrum zur Zukunft der Arbeit, 2024. – 29 Seiten= 3,5 MB PDF-File. –(Neue Technologien am Arbeitsplatz) Elektronische Ausgabe: Brüssel: FES, 2024 ISBN 978-3-98628-550-0 https://library.fes.de/pdf-files/ bueros/bruessel/21074.pdf 3

ÜBER DIE AUTORIN Marta Kahancová ist Mitbegründerin und Direktorin des Central European Labour Institute(CELSI). Sie ist außerordentliche Professorin für öffentliche Politik an der Comenius-Universität, Bratislava. KONTAKT Friedrich-Ebert-Stiftung Frankreich 41 bis, bd. de la Tour-Maubourg 75007| Paris| France Tel.+33(0)1 45 55 09 96 Fax:+33(0)1 45 55 85 62 https://paris.fes.de info.france@fes.de Weitere Publikationen des Pariser Büros der Friedrich-Ebert-Stiftung: Argumente der radikalen Rechten entkräften: Eine praktische Handreichung/ Friedrich-EbertStiftung; EXPO. – Stockholm: Friedrich-EbertStiftung Nordic Countries; EXPO-Stiftung,[2024]. Einheitssacht.: Let empathy drive your dialogue. – Electronic ed.: Stockholm: FES, 2024 Quitzow, Rainer; Lentschig, Hannah Die deutsche Wasserstoffstrategie Deutschlands Industriestandort im Rahmen der globalen Energietransformation sichern Paris, September 2024 Glaise, Nayla; Trubert, Matthieu Das Recht auf Abschalten in Frankreich Licht- und Schattenseiten der gesetzgeberischen Regulierung von Arbeitszeiten im digitalen Zeitalter Paris, Juli 2024 Bellais, Renaud; Nicolas, Axel Die Verteidigungspolitik nach der»Zeitenwende« Der französische Ansatz Paris, November 2023 Martiné, Sophie Kernkraft in Frankreich Entwicklung und aktuelle Debatte Paris, April 2023 Schreiber, Benjamin Frankreichs Streit um die Rentenreform Fünf Argumente aus gewerkschaftlicher Perspektive Paris, April 2023 Angst vor der Bombe Eine Umfrage in Deutschland, Frankreich, Lettland und Polen Wien, Januar 2023 Bristielle, Antoine; Robert, Max-Valentin Der Rassemblement National im französischen Parlament Eine Zwickmühle für die demokratischen Parteien Paris, Dezember 2022 Sen, Milan Die Verteidigung unserer Werte Eine französische Umfrage im Kontext des Krieges in der Ukraine Paris, November 2022 Clergeau, Christophe; Faure, Olivier; Guillaume, Sylvie Grundstein für ein neues europäisches Projekt Olaf Scholz’ Prager Rede Paris, November 2022 Clavaud; Amandine Die Covid-Pandemie in Frankreich Eine Bewährungsprobe für Frauenrechte Paris, 2022 Elsässer, Lea; Schäfer, Armin Ungleiche Demokratien: wer sitzt(nicht) im Parlament? Die soziale Zusammensetzung der Parlamente in fünf OSZE-Ländern Wien, Juni 2022 Proust, Sarah Die Zukunft der Büroarbeit in Europa Ergebnisse einer Umfrage zu den Folgen der Corona-Krise Paris, März 2023 Noblecourt, Michel Gewerkschaften und Rechtspopulismus in Europa Länderstudie Frankreich Bonn, Februar 2023 Carbonnier, Clément; Palier, Bruno Macrons Sozialpolitik Eine Bilanz seiner ersten Amtsperiode Paris, Juni 2022 Kerrouche, Éric Krise der Demokratie Analysen und Antworten der sozialistischen Partei Frankreichs Paris, Juni 2022 4