Programmierte Werte Plädoyer für die Verankerung europäischer Werte in der Technologieentwicklung Paul F. Nemitz I n heutiger Wissenschaft und aufklärender politischer Bildung müssen wir aufzeigen, wie die Freiheit der Einzelnen und die Funktionsfähigkeit der Demokratie im Zeitalter der Künstlichen Intelligenz gesichert werden können, unter gleichzeitiger Nutzung der neuen Technologien im Interesse des Gemeinwohls in Europa und darüber hinaus. Wir brauchen eine wertebezogene und zweckhafte Steuerung von Technologieentwicklung und Technologieeinsatz angesichts gewaltiger Herausforderungen für die Menschheit. Die Glaubwürdigkeit der individuellen Freiheit und der Demokratie als oberste Werte ist in Verruf geraten, da sie bisher weder in der Lage waren, die Klimakatastrophe und andere menschen-gemachte Katastrophen abzuwenden, noch den Trend zu einer gerechteren und nachhaltigeren Gesellschaft, wie er seit den 1970er bis 1990er Jahren zu beobachten war, weiter zu intensivieren oder wenigstens aufrecht zu erhalten. Auch zeigen die hohen Raten des wirtschaftlichen Wachstums in Ländern wie Polen, Ungarn und China, dass die alte Gleichung von liberaler Demokratie und wirtschaftlichem Wohlstand nicht mehr gilt. Als Alternativen sind der populistisch autokratische und der technologische Absolutismus, die eine Steuerung der Gesellschaft und der Einzelnen nach dem Führerprinzip oder durch technologische Systeme anstelle von Demokratie und Freiheit setzen wollen, auf dem Vormarsch. Die USA sind zunehmend über die eigene Demokratie desillusioniert. Der Kongress wirkt wie paralysiert und scheint zur Gesetzgebung nicht mehr in der Lage. Im Weißen Haus regiert ein unberechenbarer Lügner. Die Politik ist gelähmt und die Antwort der Technik ist mehr Technik: Die technische Intelligenz arbeitet an neuen Steuerungs- und Problemlösungssystemen wie die dezentrale, angeblich herrschaftsfreie Blockchain, und einer ethisch basierten, hochleistungsfähigen Künstlichen Intelligenz. Von diesen Systemen erhofft man sich Antworten auf all die Probleme, die die Politik offenbar nicht lösen kann. Die bereits weit entwickelte Kritik aus Forschung und Zivilgesellschaft an den neuen Steuerungssystemen der Künstlichen Intelligenz und der Blockchain geht dabei induktiv anhand von Fallbeispielen vor, die Fehlentwicklungen der Technologie aufzeigen, um so zu einer Systemoptimierung zu gelangen. Forschung reduziert sich dabei oft auf ein nachforschendes Verstehen der spezifischen Entwicklungen und Anwendungen, die insbesondere aus den Laboren der dominanten Firmen der Tech-Industrie an die Öffentlichkeit dringen oder bereits am Markt sind. Dieser induktiven Methode, die sicher ihre Berechtigung hat und zu einer Optimierung der Steuerungs- und Orientierungsleistung für die zukünftige Technologieentwicklung und Nutzung beitragen kann, muss ein Versuch einer deduktiven Theorie von Demokratie und Freiheit in der technischen Welt an die Seite treten. Es braucht die Einschreibung europäischer Werte in Recht und Technik Eine solche Theorie muss sicherstellen, dass europäische Werte wie Rechtsstaatlichkeit, Grundrechte und Solidaritätselemente der Technologieentwicklung und Nutzung zu Grunde liegen. Das kann dann in der Praxis auch bedeuten, dass Unternehmen dazu verpflichtet werden müssen, wertebezogene Technologien zu entwickeln, wie bei der Datenschutz-Grundverordnung(DSGVO) geschehen. In manchen Fällen lassen sich aber auch freiwillige Vereinbarungen treffen, wie die Selbstverpflichtungen großer Internetfirmen zur Bekämpfung von Hass und Gewalt sowie Desinformation und Propaganda zeigen. Um zu verstehen, warum das nötig ist, hilft ein Blick in die Geschichte der philosophischen Begründung von individueller Freiheit und der Definition dessen, was es heißt, Mensch zu sein(im Unterschied zur Maschine) und wie sich das Verständnis von Bewusstsein, Denken, Fühlen und Entscheiden vom individuellen zum kollektiven und kommunikativen hin entwickelt hat. Wir sollten zeigen, dass der Mensch nicht auf Logik und Optimierung reduziert werden kann und darf, und dass Freiheit immer auch Widerständigkeit gerade gegen solchen Tendenzen beinhaltet und beinhalten muss. Gleichzeitig müssen wir uns die Entwicklung der Demokratie und die Erfahrung mit nicht demokratischer Gesellschaftssteuerung, wie wir sie bereits in Platons

FRIEDRICH-EBERT-STIFTUNG PROGRAMMIERTE WERTE 2 Philosophenstaat, dem die Steuerungsambition mittels künstlicher Intelligenz und dem damit verbundenen Optimierungs- und Perfektionsstrebens wahrscheinlich am nächsten kommt, in Erinnerung rufen. Faschismus und Kommunismus des 20. Jahrhunderts, in denen durch Netzwerke eine Kommunikations- und Informationshoheit mit dem Ziel totaler Kontrolle und manipulativer Ausrichtung der Einzelnen auf die Ziele des Staates angestrebt wurden, sind Vorläufer der Nutzung modernster Überwachungs- und Manipulationstechnologien in China. Dennoch darf nicht vergessen werden, dass auch europäische Regierungen das Internet zur Überwachung und Ausforschung ihrer Bürger_innen nutzen. Im Gegensatz zu China gibt es aber in Europa rechtsstaatliche Schutzvorrichtungen, die diesen Überwachungsbestrebungen entgegenwirken: So hat 2014 der Europäische Gerichtshof die Richtlinie(2006/24/EG) über die Vorratsspeicherung von Daten für ungültig erklärt und auf nationaler Ebene war es das Bundesverfassungsgericht, welches 2016 entschied, dass die Neufassung des Bundeskriminalamtsgesetzes in Teilen verfassungswidrig sei und angepasst werden müsse. Eine Meta-Theorie von Demokratie und Technologie ist noch zu entwickeln Das Verständnis der Vergangenheit, des bereits zu Freiheit und Demokratie gedachten, aber auch der praktischen Erfahrungen mit totalitären, technokratischen Herrschaftssystemen und dem Umgang mit Risikotechnologien, soll Orientierung für das Nachdenken über die Zukunft von freiem Individuum, Demokratie und Technologie geben. Denn wer die Vergangenheit nicht kennt, kann die Zukunft nicht gestalten. Auch wird das„Wie“ der Optimierung und produktiven Vereinbarkeit von individueller Freiheit, Demokratie und Technologie adressiert, ohne das„Was“ definiert zu haben: Es fehlt eine umfassende Meta-Theorie von Demokratie und Technologie im Zeitalter der Künstlichen Intelligenz, der Virtuellen Realität und der invasiven Bioinformatik. Diese ist aber dringend nötig. Wir brauchen eine Fortschreibung der Ethik für das Technische Zeitalter und des Prinzips Verantwortung, das Hans Jonas 1979 angesichts von Atomtechnologie und zunehmender Umweltverschmutzung formuliert hat. Diese Fortschreibung muss die neuen Komplexitäten der Technologien des Internets, der Digitalisierung, der Künstlichen Intelligenz und der Biologie und ihre Verbindungen zu einem globalen System von Information und Steuerung bewältigen, das vom Innersten der Einzelnen bis zur Erdatmosphäre reicht. Die Netzneutralität und das neue elektronische Kommunikationsumfeld, das geistige Eigentumsrecht, der Datenschutz und die Verlässlichkeit und Sicherheit der Netzwerke, Entscheidungs- und Steuerungssysteme in einer immer größeren Globalität der technischen Vernetzung, treten nun als Problembereiche zur bereits bestehenden wirtschaftlichen und ökologischen(Risiko-)Vernetzung hinzu, um nur einige Beispiele zu nennen. Dies sind Bereiche, in denen die EU in ihrer letzten Legislaturperiode große Fortschritte gemacht hat: Von der DSGVO über das Privacy-Shield-Abkommen bis hin zur Zusammenarbeit verschiedener Behörden für die Netzsicherheit im Bereich Demokratieschutz. Technologien sind Werkzeuge, über die der Mensch entscheidet Es geht nicht darum, die Technik zu verdammen. Im Gegenteil: Wir brauchen sie zur Bewältigung der gewaltigen Herausforderungen, aber wir brauchen auch Regeln, die die Entwicklung der Technologie und ihren Einsatz steuern. Dafür wollen wir auch die Akteure der technische Intelligenz gewinnen, ihr Wissen und ihre Fähigkeiten einzubringen, um Freiheit der Einzelnen und Demokratie auch in der technischen Welt zu verwirklichen. Nur so werden die Errungenschaften der Aufklärung und die Aufklärung selbst auch in der Zukunft wirksam bleiben. Gelingt uns dies nicht, dann stünden wir als Menschen unter der Dominanz eines technisch-kapitalistischen oder technisch-politischen Systems. Wir würden uns einordnen müssen als bestenfalls gleichrangiges Element in Form des„Human in the Loop“ oder entsprechend dem Bild der kosmischen Harmonie zwischen Lebendigem und nicht Lebendigem bestimmter Religionen. Der Mensch als vollständig durch die Technik kontrolliertes und dominiertes Mängelwesen würde am Ende nur noch geduldet zur Erfüllung der Funktionen, die er billiger und effizienter verrichten kann als die Technik, aber ohne Achtung vor dem Eigenwert und der Würde des Menschen. Es geht um nichts weniger als um das humanistische Menschenbild der Aufklärung, und ob es uns gelingt, in einem breiten Dialog zwischen den Wissenschaften und der Gesellschaft, zwischen technischer und sozialer Intelligenz und politischer Verantwortung Demokratie und individuelle Freiheit neu zu befeuern und mit Leben zu füllen. Die entscheidende Frage ist, ob es uns gelingt, auch die mächtigsten Technologien als Werkzeug für unsere Zwecke einzusetzen, oder ob wir es zulassen, dass wir zu Werkzeugen der Zwecke der Technologien(und ihrer wenigen Beherrscher_innen) werden. Noch ist die Zukunft offen, noch kommt es darauf an, wie wir als Menschen entscheiden. Der Autor Paul F. Nemitz ist Hauptberater in der Generaldirektion Justiz und Verbraucherschutz der Europäischen Kommission. Im Frühjahr 2020 wird die Monografie„Prinzip Mensch“ im Dietz Verlag erscheinen, in der er gemeinsam mit Matthias Pfeffer die Zusammen­hänge zwischen Demokratie, Recht, Ethik und künstlicher Intelligenz analysiert. Impressum 11/2019, Friedrich-Ebert-Stiftung, Politische Akademie Medienpolitik, Godesberger Allee 149, 53175 Bonn Verantwortlich in der FES für diese Publikation Dr. Johanna Niesyto, FES Medienpolitik www.fes.de/medienpolitik Verlag: Friedrich-Ebert-Stiftung, Bonn Titelfoto: Banter Snaps, Unsplash ISBN: 978-3-96250-444-1 Die in dieser Publikation zum Ausdruck gebrachten Ansichten sind nicht notwendigerweise die der Friedrich-Ebert-Stiftung. CC BY-ND 3.0 DE