PUBLICACIÓN ESPECIAL TRABAJO Y JUSTICIA SOCIAL INTELIGENCIA ARTIFICIAL Dossier Noviembre de 2020 La inteligencia artificial(IA) se está extendiendo por un gran número de sectores y va camino a transformar el trabajo y la sociedad. Este dossier aborda las posibilidades y desafíos de la IA y propone pensar qué decisiones políticas se necesitan para dar forma a esta transformación en aras del bien común. TRABAJO Y JUSTICIA SOCIAL INTELIGENCIA ARTIFICIAL Contenido INTELIGENCIA ARTIFICIAL, TRABAJO Y SOCIEDAD.............................................................. 2 1. CUANDO LAS MÁQUINAS PIENSAN POR NOSOTROS: CONSECUENCIAS PARA EL EMPLEO Y EL ÁMBITO LABORAL ..............3 2. LOS ROBOTS NO VAN A DEJARNOS SIN EMPLEO.............. 5 3. HACIA UNA NUEVA ERA DEL TRABAJO.................. 7 4. USO DE LA IA PARA EL BUEN TRABAJO ................. 10 5. MADE IN ÁFRICA: TRABAJO DIGITAL AFRICANO EN LAS CADENAS DE VALOR DE LA IA............................. 12 6. EL CAPITALISMO EN EL ESTADIO DEL ESPEJO: IA Y TRABAJADORES CUANTIFICADOS....................... 14 7. DISEÑAR HERRAMIENTAS DE IA EN BENEFICIO DE LOS TRABAJADORES.......................17 8. CONTROL DEL IMPACTO DE LA IA EN EL TRABAJO Y LA DESIGUALDAD.................... 19 9. IA: SON CIUDADANOS QUIENES MARCHAN, NO ROBOTS..........................................21 10. EXPLICAR LA IA DESDE UN ENFOQUE HUMANO............23 11. IA, CUIDADO DE LA SALUD Y PANDEMIA............. 25 12. EL CAMINO EUROPEO HACIA UNA IA SOSTENIBLE................................................27 13. EL APRENDIZAJE AUTOMÁTICO DEBERÍA INCREMENTAR LAS OPORTUNIDADES HUMANAS.........................29 1 FRIEDRICH-EBERT-STIFTUNG INTELIGENCIA ARTIFICIAL, TRABAJO Y SOCIEDAD La inteligencia artificial(IA) se está extendiendo por un gran número de sectores y va camino a transformar el trabajo y la sociedad. Este dossier, publicado por Social Europe en conjunto con la Fundación Friedrich Ebert y el Instituto Weizenbaum para la Sociedad en Red, aborda las posibilidades y desafíos de la IA. En particular, propone pensar qué decisiones políticas se necesitan para dar forma a esta transformación en aras del bien común. IA Y TRABAJO La IA evoca una distopía en la que los robots desplazan a los seres humanos de sus empleos. Algunos predicen una sustitución de tareas a gran escala, mientras que otros se preguntan si se puede hablar de escenarios predeterminados: la pérdida o transformación de los empleos depende del grado de participación de los trabajadores y las trabajadoras en la toma de decisiones. La misma preocupación existe respecto de la contratación y supervisión de la mano de obra: ¿servirán las bases de datos de IA para establecer un«capitalismo de vigilancia» o ayudarán a trabajadores y trabajadoras a cumplir sus tareas si estos tienen mayor capacidad para incidir en los resultados? IA Y SOCIEDAD La IA plantea preguntas más amplias sobre la sociedad, tanto en el presente como en el futuro. Los institutos de investigación de mercado anuncian enormes ganancias en términos de eficiencia, pero ¿son estas creíbles? y, de ser así, ¿cómo se distribuirán? Feministas y antirracistas temen que los algoritmos de los que depende la IA incorporen inconscientemente los prejuicios sociales de sus creadores humanos. La posesión y la manipulación de datos obtenidos a partir de la IA suscitan problemas relacionados con la privacidad y las libertades civiles. También está en juego el modo en que la educación debe cambiar para que la ciudadanía se sienta empoderada −y no alienada− por la IA, así como el problema persistente del rol de esta en la crucial lucha contra el cambio climático y la pérdida de biodiversidad. 2 INTELIGENCIA ARTIFICIAL. DOSSIER 1 CUANDO LAS MÁQUINAS PIENSAN POR NOSOTROS: CONSECUENCIAS PARA EL EMPLEO Y EL ÁMBITO LABORAL JUDITH CLIFTON, AMY GLASMEIER Y MIA GRAY ¿Afectará la inteligencia artificial(IA) el modo y el lugar en que trabajamos? ¿Hasta qué punto está modificando estructuralmente nuestra relación con el trabajo? En la última década ha habido un auge de escritos académicos, informes de consultoría y artículos periodísticos acerca de los posibles efectos de la IA que crearon visiones utópicas y distópicas sobre el futuro del trabajo. Pero a pesar de esta proliferación, la IA continúa siendo un enigma, una tecnología emergente, y recién ahora estamos comenzando a entender su ritmo de adopción y sus efectos en la estructura del trabajo. Muchos estudios han intentado responder a la pregunta de si la IA y la automatización crearán desempleo masivo. Las respuestas difieren ampliamente según la metodología, el enfoque y el país de que se trate. Frey y Osborne 1 , académicos de la Universidad de Oxford, estiman que hasta 47% de los empleos en Estados Unidos correrán «alto riesgo» de automatización hacia principios de 2030, mientras que un estudio realizado por Arntz et al. 2 para la Organización para la Cooperación y el Desarrollo Económicos(OCDE) afirma que este pronóstico es demasiado pesimista, y considera que solo 9% de los empleos en toda la OCDE son automatizables. En un nuevo artículo 3 , sostenemos que el impacto de la IA en el trabajo no está predeterminado: dependerá de una serie de cuestiones, como la localización, el nivel educativo, el género y, quizá lo más importante, las políticas gubernamentales y las estrategias empresariales. 1 C.B. Frey y M.A. Osborne(2017):«The Future of Employment: How Susceptible are Jobs to Computerisation?» en Technological Forecasting and Social Change N o 114, pp. 254-280. 2 M. Arntz, T. Gregory y U. Zierahn(2016):«The Risk of Automation for Jobs in OECD Countries: A Comparative Analysis», OECD Social, Employment and Migration Working Papers N o 189, OECD, París. 3 J. Clifton, A. Glasmeier y M. Gray(2020):«When Machines Think for Us: The Consequences for Work and Place» en Cambridge Journal of Regions, Economy and Society vol. 13 N o 1, pp. 3–23, . ELEVADA DESIGUALDAD En primer lugar, cuestionamos la creencia general de que los efectos de la IA en el trabajo serán homogéneos dentro de cada país. De hecho, un número creciente de estudios sostiene que las consecuencias para el empleo serán muy dispares. La ubicación geográfica incide debido a la importancia de los patrones sectoriales regionales: los procesos y servicios industriales se concentran y se prestan en determinadas zonas. Actualmente la IA parece estar también presente en aquellos sitios donde ya existen aglomeraciones industriales regionales. Además, pese a la globalización, las culturas industriales y las prácticas laborales suelen variar de acuerdo con la zona, tanto a escala nacional como local. La diversidad de las prácticas culturales en el mundo laboral supone que, una vez implementada, la misma tecnología funciona de modo diferente en distintos entornos. En segundo lugar, es importante la educación. En general, los puestos ocupados por trabajadores y trabajadoras con menor nivel educativo son más susceptibles al impacto de la IA y la automatización en comparación con los de quienes alcanzan un mayor nivel educativo y realizan tareas más complejas y de mayor discrecionalidad. Por ejemplo, en el sector financiero y de seguros, las operaciones repetitivas e intensivas en datos son más automatizables en Estados Unidos que en el Reino Unido, debido a diferencias en el nivel educativo promedio de quienes llevan a cabo estas actividades. Otro ejemplo es el de los servicios legales, en los cuales los puestos menos calificados, como el de auxiliar de justicia, corren mayor riesgo de automatización. En tercer lugar, los trabajos mayoritariamente masculinos serían más vulnerables a la automatización, especialmente aquellos que requieren un menor nivel educativo, ya que suelen involucrar tareas industriales rutinarias susceptibles de mecanización. Sin embargo, esto podría cambiar en el futuro. 3 FRIEDRICH-EBERT-STIFTUNG Las mujeres dominan el mercado de los trabajos de cuidado de«contacto estrecho», donde la labor emocional y cognitiva es importante. Estos empleos parecen ser más resistentes a la irrupción tecnológica, ya que requieren presencialidad. A mediano plazo, sin embargo, las nuevas aplicaciones apuntan a desarrollar algunas de estas tareas con la asistencia de máquinas y quizás interactúen y produzcan nuevas divisiones del trabajo en función del género. ENFOQUE LIMITADO En cuarto lugar, los efectos de la IA en el trabajo dependerán, esencialmente, de las políticas públicas y empresariales. Acemoglu y Restrepo 4 sostienen que el aumento en la productividad podría compensar el efecto de desplazamiento de las tecnologías si se elige el tipo«indicado» de IA: si los Estados apoyan activamente la IA que mejora los empleos, en lugar de la que busca eliminarlos, el resultado podría ser en líneas generales positivo. Para lograr esto, el Estado debe acompañar la IA con políticas sociales. En los últimos años, los gobiernos han empezado a publicar normativas al respecto. Sin embargo, un análisis comparativo de las estrategias gubernamentales en materia de IA muestra que, hasta la fecha, la mayor parte de ellas se han centrado fundamentalmente en los beneficios económicos, prestando muy poca atención a los problemas sociales. No obstante, es necesario abordar estas cuestiones para que las sociedades puedan evaluar y regular los nuevos usos de la IA. Las empresas también pueden optar −o no− por promover el tipo«indicado» de IA. Mientras tanto, pueden recurrir cada vez más a la IA para apoyar las tareas de contratación de personal. contratación, la distribución de oportunidades de empleo podría verse profundamente afectada y la IA podría reproducir prejuicios preexistentes en torno del género, la etnia y la clase. DOS CAMINOS En síntesis, tenemos dos caminos por delante. Apelando a la táctica del miedo y«lo desconocido», las consultoras están convenciendo a las empresas de subirse al tren de la IA para no quedar«rezagadas». Cada consultora busca hacerse un lugar mediante diferentes ofertas, desde el recorte de costos hasta la eliminación de mano de obra poco calificada, y tratando de que las políticas públicas sobre la IA se centren en los beneficios económicos. Pero existe otro camino. Las aplicaciones de IA tienen el potencial de reconvertir la mano de obra existente y, de ese modo, de permitir a trabajadores y trabajadoras utilizar sus destrezas a la par de las nuevas tecnologías. La IA y las tecnologías relacionadas pueden utilizarse para transformar la educación y la salud, e incluso para alcanzar la paz. No hay nada preestablecido acerca de cómo se implementará la IA. El impacto de estas tecnologías reflejará las decisiones tomadas en los ámbitos empresarial, político y social. El futuro de la IA es demasiado importante para dejarlo en manos de los especialistas en tecnología. Los científicos sociales, los abogados especializados y los expertos en ética de la tecnología deben participar activamente en la conformación y estructuración de su desarrollo y adopción. Este texto se basa en una colección de artículos sobre IA y trabajo publicados en Cambridge Journal of Regions, Economy, and Society vol. 13 N o 1, 2020. Esto podría volverse problemático, ya que se ha descubierto que los algoritmos de IA contienen sesgos raciales y de género. El uso de tecnologías como el reconocimiento facial y de voz, la selección automatizada de CV y la elaboración calibrada de perfiles pueden reducir inadvertidamente el número de postulantes idóneos, con efectos muy perjudiciales. Si las empresas las utilizan a los fines de 4 D. Acemoglu y P. Restrepo(2017):«Robots and Jobs: Evidence from US Labor Markets», MIT Department of Economics Working Paper N o 17-04. Judith Clifton es profesora de la Facultad de Ciencias Económicas y Empresariales de la Universidad de Cantabria(España) y profesora invitada en el St. Antony’s College de Oxford. Amy Glasmeier es profesora de geografía económica y planificación regional en el Instituto Tecnológico de Massachusetts. Mia Gray es profesora titular y miembro del Girton College, Cambridge. 4 INTELIGENCIA ARTIFICIAL. DOSSIER 2 LOS ROBOTS NO VAN A DEJARNOS SIN EMPLEO LARS KLINGBEIL Y HENNING MEYER La socialdemocracia surgió a partir del movimiento obrero en el siglo XIX y siempre puso el foco en el trabajo. Sin embargo, en los últimos años, el rol del trabajo se ha discutido de un modo cada vez más limitado y a la defensiva. Tanto en los debates actuales sobre la digitalización como en los previos sobre la globalización, el trabajo siempre apareció amenazado. Deberíamos reorientar la discusión. Creemos que el mantra del trabajo amenazado es falso. Si bien es cierto que la globalización y la digitalización nos plantean nuevos desafíos, la importancia del trabajo en la sociedad no ha disminuido. Al contrario. Si logramos dar forma de manera acertada al cambio que tenemos por delante, el trabajo del futuro se transforma en uno de los instrumentos más eficaces de política social. En las décadas de 1990 y 2000, el discurso dominante, por ejemplo en Alemania, sostenía que la deslocalización de la producción y la competencia global pondrían en peligro los puestos de trabajo y los salarios. En los recientes debates sobre digitalización, algunos observadores han pronosticado incluso un apocalipsis del mercado laboral. Se teme que los robots y la inteligencia artificial(AI) vuelvan el trabajo humano casi completamente innecesario. muy defensiva. Este papel no debe ser simplemente el de corregir las fallas del mercado. Se trata más bien de crear los propios mercados y de modelar políticamente el proceso económico. Nuestra sociedad no debería subordinarse a la economía; antes bien, la economía debería adaptarse a los ideales de nuestra sociedad. Una política industrial ofensiva da como resultado buenos empleos, nuevas tecnologías y prosperidad social, en ese orden. Los que buscan consolidar su oposición a las políticas climáticas y laborales y conservar el statu quo son quienes más tienen que perder. Además, sin un consenso sobre el valor del trabajo, resulta inconcebible definir una política industrial moderna. Por último, solo a través de empleos calificados se crean nuevas tecnologías para hacer frente a los grandes problemas de nuestro tiempo. Esto también vale para el área de la digitalización. La política de datos y el desarrollo de la IA serán decisivos para el empleo y el crecimiento. La carrera mundial ha comenzado hace mucho. Para nosotros, no se trata de «si», sino de«cómo». El Estado debe ponerse al frente y alentar enfáticamente la implementación de la IA en la economía, en la ciencia y también en la política. UNA SOCIEDAD QUE ENVEJECE NUEVAS OPORTUNIDADES Los pronósticos respecto a cuántos empleos se perderán en el futuro varían mucho. En verdad, nadie sabe exactamente cómo funcionará la digitalización. Sin embargo, todos los expertos coinciden en que el trabajo del futuro será menos rutinario y tenderá hacia una mayor creatividad. En consecuencia, a partir de este cambio, el potencial socialmente transformador del trabajo crece en lugar de disminuir. Y esto abre nuevas oportunidades. En estos días se está volviendo finalmente a discutir en Alemania la política industrial. Esta discusión era necesaria desde hace muchos años. Durante un largo tiempo, el rol del Estado en la economía fue interpretado de manera También en el sector de los servicios necesitamos un concepto ofensivo del trabajo y una estrategia política. Desde el cuidado de la infancia hasta la asistencia social, debemos mejorar nuestros servicios públicos con más y mejor trabajo. Una sociedad que envejece no puede permitirse a largo plazo un Estado de Bienestar débil o un sistema educativo deficiente. Ni la renovación del Estado de Bienestar ni la mejora del sistema educativo son posibles sin más y mejor trabajo. ¿Cómo puede solucionarse la escasez de guarderías sin un número mayor de educadores motivados? ¿Cómo podemos prestar más atención a las necesidades individuales en las escuelas sin contar con más docentes? Solo hay una respuesta: no se puede lograr sin más y mejor trabajo. 5 FRIEDRICH-EBERT-STIFTUNG Contar con más personal con mejores habilidades interpersonales es beneficioso para la renovación social. El sistema educativo debería poner más énfasis en el desarrollo de habilidades creativas y orientadas a resolver los problemas del futuro. Por lo tanto, el buen trabajo seguirá siendo la base de nuestra prosperidad y un importante indicador de la calidad de nuestra vida en común. Si continuamos valorando el trabajo y transformándolo de manera positiva, podemos hacer de la nuestra una sociedad mejor: una sociedad unida y cohesionada en la que aflore la prosperidad. Así pues, es hora de que el discurso público aborde de manera más proactiva la importancia del trabajo en la configuración de nuestro futuro social. Es la base para responder con éxito a los grandes retos de nuestro tiempo y, a la vez, constituye una ventaja competitiva si se encauza correctamente el cambio que se está produciendo en el mundo del trabajo. Lars Klingbeil es, desde 2017, secretario general del Partido Socialdemócrata de Alemania(SPD). Es miembro del Bundestag por Rotenburg I-Heidekreis desde 2009. Henning Meyer es científico social y miembro de la Comisión de Valores Básicos del SPD. 6 INTELIGENCIA ARTIFICIAL. DOSSIER 3 HACIA UNA NUEVA ERA DEL TRABAJO DANIELA KOLBE En la automatización y la digitalización que hemos experimentado hasta hoy, la gente disponía de alguna máquina –por ejemplo, una computadora portátil con el software habitual para la oficina, una impresora 3D o una máquina de control numérico por computadora− que podía utilizar para llevar a cabo su tarea. El conocimiento y la comunicación se hicieron más móviles. Al mismo tiempo, las nuevas máquinas hicieron posible la producción personalizada. Los sistemas de inteligencia artificial(IA) permiten que las máquinas trabajen con nosotros. A medida que se implementan en el lugar de trabajo, se desarrollan nuevos tipos de cooperación. Y no hay duda de que los sistemas de IA tendrán un rol cada vez más importante en nuestras vidas. En el futuro, las máquinas podrían predecir errores o interrupciones en los procesos de trabajo(por ejemplo, en el contexto del mantenimiento predictivo) o iniciar una llamada telefónica a un cliente. Estos cambios requieren adaptaciones. Pero ¿quién tendrá que adaptarse? ¿Quién decidirá qué adaptaciones se hacen y qué forma tendrán? EXPECTATIVAS SOBRE LOS TRABAJADORES Y LAS TRABAJADORAS A menudo oímos que las trabajadoras y los trabajadores necesitan capacitación continua para seguir siendo«empleables». ¿Y quién se opone a la capacitación? Sin embargo, el debate no avanza más allá de los reclamos generales. La forma en que se ven afectadas las profesiones y sectores específicos, así como la satisfacción de la consecuente demanda de capacitación, no se han abordado ni implementado adecuadamente. En cambio, se depositan expectativas en los trabajadores y las trabajadoras para que se comporten de manera económicamente racional y tengan a bien capacitarse. De hecho, la participación en los programas de capacitación profesional continua ha aumentado desde 2010 y, aunque ahora está estancada, se ubica en torno de 50%. La formación en el lugar de trabajo( on-the-job) goza en particular de una alta aceptación. Pero también resulta claro que no alcanza a todo el personal: quienes tienen menos estudios, quienes trabajan en empresas más pequeñas, quienes tienen más edad o trabajan a tiempo parcial participan menos en la capacitación continua. Un estudio demostró que los trabajadores fácilmente reemplazables son los que de hecho es menos probable que se capaciten. En cierto modo, estamos perpetuando las desigualdades de nuestro sistema escolar. Corremos el riesgo de acabar teniendo un mercado de trabajo aún más polarizado, con especialistas bien remunerados por un lado y un nuevo precariado que realiza tareas auxiliares −antes y después del algoritmo−, por otro. CONDICIONES DE CONTEXTO Para garantizar que los cambios actuales conduzcan a una mayor cohesión social, debemos crear condiciones que permitan a los trabajadores y las trabajadoras sentirse protegidos de exigencias inalcanzables. Después de una semana de trabajo de 40 horas, la mayoría no tenemos tiempo, entre la familia y las tareas de cuidado en el hogar, para participar en programas de capacitación. Esto se volverá aún más difícil si la mano de obra cede a las demandas del lobby empresarial para flexibilizar la jornada laboral y reducir el tiempo libre. Debemos generar más tiempo y espacio para capacitar y proteger a los trabajadores y las trabajadoras que, por el motivo que sea, no deseen esa flexibilización. En este sentido, la legislación, como por ejemplo la Ley de Oportunidades de Calificación y la Ley de Trabajo para el Mañana en Alemania, así como las políticas empresariales sobre capacitación continua, deberían desempeñar un rol importante. Con estas iniciativas legislativas, el ministro de Trabajo de Alemania, Hubertus Heil, ya ha propuesto y comenzado a implementar mejoras. Se están debatiendo diversos aspectos de la financiación de programas de capacitación continua. La Ley de Trabajo para el Mañana vuelve muy atractiva la capacitación continua para las empresas afectadas por cambios estructurales. 7 FRIEDRICH-EBERT-STIFTUNG Los trabajadores y las trabajadoras necesitan más que subsidios: necesitan tiempo y orientación. La Secretaría Federal de Trabajo viene ofreciendo asesoramiento sobre capacitación continua desde comienzos de 2019. El derecho a la capacitación continua debe garantizar que los empleadores brinden suficiente tiempo a los trabajadores. Solo de ese modo se pueden crear programas que los empoderen. COMITÉS DE EMPRESA Los comités de empresa son actores claves que aseguran la materialización de esas oportunidades. No son«inhibidores» que impiden la implementación de sistemas de IA. Más bien, aseguran que los procesos se implementen correctamente y que las tareas se redistribuyan. Realizan el trabajo preliminar para lograr una mayor aceptación de los sistemas de IA dentro de las empresas y, al mismo tiempo, proporcionan mejores condiciones de trabajo para la fuerza laboral. Para que esto suceda, necesitamos comités de empresa que tengan conocimiento sobre el tema. Al mismo tiempo, quienes integran los comités de empresa, especialmente aquellos que no están exentos de sus tareas habituales, tienen bastante de qué ocuparse. No podemos simplemente agregarles tareas. Por lo tanto, deben ser capaces de aportar conocimiento sobre IA, privacidad de datos y otros aspectos de la digitalización en el lugar de trabajo. Algunos empleadores vienen desarrollando una oposición activa a la sindicalización. En el futuro resultará más fácil obstaculizar las actividades de los comités de empresa si los trabajadores y las trabajadoras se ven y hablan cada vez menos entre sí, porque cada vez con mayor frecuencia trabajarán en horarios y lugares diferentes. De ese modo, puede debilitarse el sentido de pertenencia y de intercambio que caracteriza a los comités de empresa. Para contrarrestar esa situación, los comités deben recurrir también a la virtualidad. A medida que las empresas se reestructuran, necesitamos nuevas formas de organización para los comités; por ejemplo, el uso de medios digitales para la realización de elecciones. Queremos abordar estas cuestiones y otras a través de una enmienda a la Ley de Constitución de Comités de Empresa. DAR FORMA A LA TRANSFORMACIÓN Pero ¿qué capacidades y habilidades y qué tipos de conocimientos necesitarán en el futuro amplios sectores de la población –por ejemplo, un trabajador siderúrgico de 56 años, un padre de 32 años que trabaja a tiempo parcial o una asesora fiscal de 61 años con un contrato temporal– para modelar el cambio y acercarse al objetivo de un buen trabajo? Hoy en día, la cooperación humano-máquina plantea nuevas exigencias a los trabajadores y las trabajadoras. ¿Cómo será la interacción con nuestros compañeros algorítmicos o robóticos? La plena confianza en un sistema de IA o la aceptación ciega de los procesos de decisión –como los molestos clics a las configuraciones de cookies en los sitios web o la aceptación de términos y condiciones sin haberlos leído– no deberían ser la norma en los puestos de trabajo. Por eso se vuelve más importante desarrollar la capacidad de pensar críticamente y de cuestionar los resultados. Esa capacidad debe partir de un conocimiento básico de cómo funcionan los sistemas de IA. Esto no significa que todos deban ser capaces de programar. Pero debemos aprender que los sistemas de IA y sus procesos de toma de decisiones tienen fortalezas y debilidades. Un ejemplo exitoso de capacitación sobre IA es el curso en línea«Elementos de la IA», disponible en varios idiomas de la Unión Europea, incluido el alemán 5 . El conocimiento técnico continúa siendo importante porque permite a los trabajadores y las trabajadoras proporcionar información crítica sobre la implementación y el desarrollo continuo de los sistemas de IA, ya que no se pueden implementar todas las posibilidades técnicas de manera práctica y confiable. El conocimiento técnico mantiene a los trabajadores en igualdad de condiciones con los algoritmos. Además de una buena capacitación formal, el lugar de trabajo del mañana requerirá de los trabajadores y trabajadoras mayor comunicación y labor en equipo, ya que las tareas citadas solo podrán ser dominadas por un grupo. En ese sentido, la aptitud de hacer y recibir críticas constructivas será clave para conservar la capacidad de aprendizaje continuo. Las que hoy conocemos como soft skills[habilidades blandas] 6 podrían pronto transformarse en hard skills[habilidades duras], esenciales para el éxito de las empresas. Tales habilidades se construyen y afinan con el trabajo diario. Tanto los empleadores como los empleados se enfrentan al desafío de organizar el trabajo en el futuro de manera que se fomenten estas habilidades indispensables. 5 Disponible en. 6 Habilidades interpersonales y sociales para el trabajo, independientes del conocimiento formal, como el sentido común, el trato con personas, la inteligencia emocional, etc.[N. del T.]. 8 INTELIGENCIA ARTIFICIAL. DOSSIER BUEN TRABAJO Los comités de empresa y los comités de personal deben garantizar la integración de los trabajadores y las trabajadoras en la planificación de la capacitación continua. Esto incluye el desarrollo de programas de capacitación y la preparación de planes de calificación de la fuerza laboral. de dependencia en la que las máquinas nos digan constantemente adónde ir y qué pasos ejecutar. Eso lo haremos nosotros mismos. Para modelar la vida laboral en conjunto, necesitamos establecer nuevas condiciones, de las que la educación y la capacitación continua son parte, pero solo una parte. La socialdemocracia debe evitar que los trabajadores y las trabajadoras sean los perjudicados en la relación entre seres humanos y máquinas. Al fin y al cabo, las máquinas deben brindarnos más autonomía y acercarnos al objetivo del buen trabajo. No necesitamos otra relación Daniela Kolbe forma parte del Parlamento alemán de Leipzig por el Partido Socialdemócrata de Alemania(SPD). Es miembro del Comité de Asuntos Laborales y Sociales y presidenta de la Comisión de Estudio del sobre Inteligencia Artificial del Bundestag. 9 FRIEDRICH-EBERT-STIFTUNG 4 USO DE LA IA PARA EL BUEN TRABAJO MARKUS HOPPE Y NADINE MÜLLER En general, los debates sobre digitalización e inteligencia artificial(IA) se desarrollan desde la perspectiva de la producción industrial, como es el caso de la discusión sobre la«industria 4.0», muy extendida en Alemania. En cambio, se ha prestado poca atención a las tareas que implican el manejo de casos particulares y a que estas configuran una gran parte del sector de servicios, así como, indirectamente, las industrias(«trabajo de cuello blanco»). Sin embargo, el proyecto de investigación«smartAIwork» ha abordado los efectos de la IA en el manejo de casos y ha desarrollado soluciones de diseño. El manejo de casos implica principalmente trabajo administrativo o de oficina. Incluye desde el simple ingreso de datos hasta tareas complejas que requieren un alto grado de creatividad y conocimiento, como el desarrollo de tecnología de la información o la aplicación de normativa jurídica. Las tareas de oficina sencillas con un gran componente de trabajo rutinario –por ejemplo, el mantenimiento de directorios– son adecuadas para la automatización(parcial) por medio de software y algoritmos. La IA, por otra parte, se utiliza para ayudar a las personas a realizar tareas complejas relativas al manejo de casos. El objetivo debería ser«aliviar» la carga de trabajo pesado y monótono y dejar más espacio para el«verdadero» trabajo. Los usos más comunes de la IA en el trabajo administrativo incluyen: - robots de chat«inteligentes», capaces de aprender cuestiones relativas al servicio al cliente, como en los bancos o en el transporte público local; - asistentes de IA dentro de la gestión de recursos humanos, o«reclutadores de IA» - automatización de procesos robóticos«inteligentes» para la gestión de documentos, como por ejemplo la liquidación de cuentas en viajes de negocios o en adquisiciones. Con todo, la IA no está muy extendida en la actualidad y solo una cuarta parte de las empresas utiliza o planea utilizar estas tecnologías en su trabajo administrativo. Dado que el manejo de casos es más difícil de reducir a procesos estándar en comparación con la producción industrial, las posibilidades de utilizar IA en el trabajo administrativo son limitadas. «FACTOR HUMANO» Esto ocurre especialmente cuando el«factor humano» desempeña un rol importante en el tratamiento personalizado de las solicitudes de los clientes de la banca o, más en general, cuando se requiere una mayor confianza en las decisiones o la capacidad de contextualizar. Además, como demuestra el proyecto«smartAIwork», existen algunos obstáculos a la disponibilidad y calidad de los datos para las aplicaciones de IA. Esto constituye un gran desafío, especialmente para las pequeñas y medianas empresas. Sin embargo, la posibilidad de que las actividades relativas al manejo de casos sean sustituidas por IA no debería depender únicamente de si esta resulta apta para esos trabajos y de si la sustitución es tecnológicamente posible. A veces hay buenas razones para no automatizar ciertas actividades. Además de la eficiencia económica, también existen limitaciones legales, como las restricciones de la Unión Europea sobre el uso legítimo de los datos. Además, la combinación de actividades automatizadas y no automatizadas en las tareas profesionales puede aumentar la complejidad de estas últimas, lo que a su vez podría incrementar el volumen de trabajo. Adicionalmente, la IA solo está diseñada para un área de aplicación muy limitada y las ventajas que ofrece se circunscriben a ella. Su incapacidad de responder adecuadamente a imprevistos en el proceso de trabajo fuera de su definido ámbito de aplicación impone, por lo tanto, un límite tecnológico a su utilización. 10 INTELIGENCIA ARTIFICIAL. DOSSIER NUEVAS INTERACCIONES Sin embargo, se espera que la IA dé lugar a nuevas formas de interacción entre las personas y la tecnología, lo cual al mismo tiempo podría mejorar el trabajo humano y aumentar la eficiencia en los procesos de trabajo. Por ende, el uso de la IA no es solo una cuestión de racionalización y automatización, sino sobre todo de asistencia al trabajo humano que también podría mejorar las condiciones laborales. Para que la IA sea eficaz en el ámbito del trabajo de oficina, los conceptos operacionales deben ser diseñados sobre la base de condiciones generales adecuadas. Los resultados de«smartAIwork» muestran que los posibles riesgos de utilizar la IA –en particular, la reducción de puestos de trabajo y la pérdida de calificación– pueden evitarse si se tienen en cuenta determinados factores: las normas legales y éticas, los hallazgos ergonómicos sobre el diseño del buen trabajo y los enfoques participativos para la planificación y ejecución de proyectos de IA. Estos últimos también contribuyen a aumentar el grado de aceptación de la IA por parte de las personas que trabajan en el manejo de casos. Hay más posibilidades de mejorar las condiciones de trabajo y los resultados si la IA se utiliza como auxiliar, y no como rival, del trabajo humano. Para establecer las condiciones generales y los procesos de participación necesarios, se requiere del apoyo de los políticos y de los actores sociales. Es preciso que cumplan su rol para asegurar que la asistencia de la IA en el manejo de casos dé lugar al«buen trabajo». LINEAMIENTOS ÉTICOS En marzo de 2020, con motivo de la inauguración del Observatorio de la Inteligencia Artificial del Ministerio Federal de Trabajo y Asuntos Sociales, el sindicato de servicios alemán Ver.di publicó los«Directrices éticas para el desarrollo y uso de inteligencia artificial» 7 . Estos deberían servir de base para los debates con especialistas en desarrollado y programación y responsables de la toma de decisiones. También está dirigido a empleados y empleadas que participan en el diseño, planificación, desarrollo, contratación y utilización de sistemas de IA en las empresas y que, por lo tanto, son responsables de ellos. El sindicato se pronunció sobre la IA por primera vez a fines de 2018, haciendo hincapié en que los objetivos detrás de su desarrollo e implementación eran centrales. La IA debe servir a las personas, y por lo tanto los objetivos y 7 Versió en español disponible en. premisas para su uso deben ser definidos con la mayor precisión posible. Es muy importante que el«diseño para el buen trabajo»[ good work by design] sea el enfoque adoptado desde el principio. Para ello, es necesario fortalecer la representación del personal: se debe garantizar su participación lo antes posible durante la planificación. De cara a las repercusiones que la IA tendrá en el empleo, necesitamos con urgencia un compromiso específico y firme del sector político para establecer relaciones laborales que cuenten con la protección de la seguridad social, fortalecer el sistema de negociación colectiva, distribuir el empleo de manera equitativa y mejorar los servicios sociales que la sociedad necesita. Es imprescindible un debate político para definir las áreas donde el uso de la IA es viable y socialmente deseable. En lo relativo a la gestión del riesgo y el volumen de trabajo, se debe optar por los sistemas de asistencia frente a los sistemas autónomos. CAPACITACIÓN ADICIONAL Es preciso establecer opciones de capacitación laboral permanente y en servicio para poder contrarrestar el rápido avance de la IA en el mundo del trabajo desde el punto de vista de las necesidades de la fuerza de trabajo: por ejemplo, mediante la combinación de trabajo a tiempo parcial patrocinado por el Estado y desarrollo profesional continuo, y el derecho a la capacitación adicional contemplada en una ley de alcance nacional. Es necesario integrar los aspectos éticos, sociales y democráticos en esta instancia de aprendizaje y capacitación, que en general aborda únicamente el carácter técnico. También se necesita un tipo de protección más efectiva de los trabajadores y las trabajadoras y la salvaguarda de sus derechos personales. La protección de los datos de los empleados está desactualizada, ya que la particular dependencia de estos se hace especialmente evidente en el contexto de la IA. Por ejemplo, resulta urgente prohibir la recolección y el procesamiento de datos biométricos del personal, como queda de manifiesto en los«proyectos piloto» que utilizan IA en los call centers. Los«Lineamientos éticos» hacen un seguimiento de estas posiciones y las profundizan, en particular con miras a proporcionar orientación y apoyo a quienes desarrollan, introducen y utilizan aplicaciones de IA. Markus Hoppe es sociólogo e integra el equipo de investigación de INPUT Consulting gGmbH en Stuttgart, especializado en la transformación del trabajo a través de la digitalización y la IA, las relaciones industriales y la sociología industrial. La Dra. Nadine Müller es jefa del Departamento de Innovación y Buen Trabajo en la oficina central de Ver.di en Berlín. 11 FRIEDRICH-EBERT-STIFTUNG 5 MADE IN ÁFRICA: TRABAJO DIGITAL AFRICANO EN LAS CADENAS DE VALOR DE LA IA MARK GRAHAM Y MOHAMMAD AMIR ANWAR En los debates sobre los lugares donde se sitúan los principales nodos productivos de la inteligencia artificial(IA) y otras tecnologías digitales de última generación, rara vez se menciona a las trabajadoras y los trabajadores africanos. Vehículos autónomos, sistemas de aprendizaje automático( machine learning), motores de búsqueda de vanguardia, sistemas de recomendación, ¿cuántas de estas tecnologías son«hechas en África»? La respuesta es: todas ellas. Este artículo se basa en un paper en el cual hacemos visible lo invisible y sacamos a la luz el rol que el trabajo africano está desempeñando en el desarrollo de estas tecnologías claves tan novedosas y cotidianas que ya sostienen, o pronto lo harán, los enormes beneficios amasados por las grandes empresas de tecnología del Norte global. En un contexto de denuncias hiperbólicas en relación con la automatización y la robotización –y con el inminente desempleo tecnológico que se dice que anuncian–, el trabajo humano, y dentro de él el de las trabajadoras y los trabajadores africanos, sigue siendo una parte significativa del capitalismo digital actual. REDES DE PRODUCCIÓN Durante cinco años(2014-2019) realizamos un estudio en Sudáfrica, Ghana, Nigeria, Uganda y Kenia, que incluyó extensas entrevistas y sesiones grupales con más de 200 personas involucradas, entre ellas trabajadores, gerentes de empresas tercerizadoras, funcionarios del gobierno, sindicatos, agencias de empleo, asociaciones del sector privado y expertos industriales. Esto nos permitió contar con una visión panorámica de las principales formas en que la mano de obra digital africana se ha integrado en las redes de producción de bienes y servicios digitales que se están extendiendo por todo el mundo. Nos enfocamos en el aprendizaje automático y en la toma de decisiones digital. Se trata de actividades llevadas a cabo por empleados de empresas o trabajadores por cuenta propia que operan a través de plataformas de trabajo digital(como Upwork, Freelancer.com y Amazon Mechanical Turk), que actúan como intermediarias entre empleadores y trabajadores en un mercado laboral a escala planetaria. Mucho se esconde detrás de las elegantes superficies automatizadas. Los trabajadores y trabajadoras africanos desempeñan un rol importante en la construcción y mantenimiento de estas tecnologías, actuando como«conserjes de datos» 8 . Todavía se necesita gente de carne y hueso para organizar, clasificar y etiquetar una enorme cantidad de información no estructurada para las empresas que utilizan algoritmos de aprendizaje automático en sus productos. Si bien muchas investigaciones vaticinan que las máquinas reemplazarán a los seres humanos en el proceso de producción, lo que aumentará el desempleo en todo el mundo, la automatización no siempre es lo que parece. Los avances tecnológicos y el uso de máquinas en la producción pueden destruir puestos de trabajo en un lugar(principalmente en las regiones más ricas), pero también pueden crear muchas oportunidades de trabajo de menores ingresos para la población de los países más pobres. Cuando reconozcamos que muchas tecnologías digitales contemporáneas dependen de una gran cantidad de trabajo humano para hacer funcionar sus interfaces, podremos comenzar a entender la nueva división mundial del trabajo digital. Necesitamos estudios empíricos detallados para entender dónde se crea y se captura el valor en estas redes de producción, que son deliberadamente opacas. La investigación podría volver más evidentes los nodos invisibles de estas cadenas y las condiciones de contratación de los trabajadores que las hacen posibles. Esto no quiere decir que muchos de estos trabajadores y trabajadoras digitales reciban salarios bajos de acuerdo 8 También son conocidos como«domadores de datos»( data wranglers) [N. del T.]. 12 INTELIGENCIA ARTIFICIAL. DOSSIER con los estándares locales, o que no estén agradecidos por sus trabajos. Pero el alto desempleo y la existencia de un gran sector informal contribuyen a que estos trabajos digitales sean excesivamente elogiados, al tiempo que se pasan por alto los riesgos. Mientras tanto, los trabajadores y trabajadoras digitales de África reciben apenas un pequeño porcentaje de las ganancias generadas por su trabajo. RESPUESTA SOCIOPOLÍTICA Así pues, la economía digital contemporánea ofrece empleos y oportunidades a los trabajadores y las trabajadoras africanos, pero aún más a las empresas internacionales que buscan beneficiarse de su fuerza de trabajo. No existe un medio sencillo para que las empresas y las personas que se encuentran en los márgenes económicos del mundo asciendan en las cadenas globales de valor, pero eso no significa que debamos rendirnos y aceptar el statu quo. A medida que la conectividad digital se expande hasta los últimos rincones del mundo, esperamos que estos conocimientos pueden ayudar a construir una mejor respuesta sociopolítica a la naturaleza relativamente intensiva en trabajo de la economía digital contemporánea, en la que el trabajo africano desempeña un rol importante en la creación de valor. Una vez que reconozcamos que muchas tecnologías digitales contemporáneas dependen de una gran cantidad de trabajo humano para hacer funcionar sus interfaces, podremos comenzar a descifrar la nueva división mundial del trabajo digital y aspirar −tanto a escala mundial como local− a que algunas de estas cadenas de valor sean más transparentes, éticas y gratificantes. Entre tanto, todavía queda mucho por hacer para entender mejor el trabajo digital africano, poner en cuestión los procesos y relaciones laborales, mejorar la calidad del empleo e identificar los intereses comunes de los trabajadores y las trabajadoras, así como el modo en que su trabajo conecta sitios lejanos de producción y consumo. Mark Graham es profesor de geografía de internet en el Instituto de Internet de Oxford y director de la Fundación Fairwork. Mohammad Amir Anwar es profesor de estudios africanos y desarrollo internacional en el Centro de Estudios Africanos de la Universidad de Edimburgo. 13 FRIEDRICH-EBERT-STIFTUNG 6 EL CAPITALISMO EN EL ESTADIO DEL ESPEJO: IA Y TRABAJADORES CUANTIFICADOS PHOEBE MOORE Los paneles de control son el lugar obvio para llevar a cabo operaciones de forma centralizada. Sin embargo, en los años 60 y 70, las salas de control de la fabulosa nave Enterprise de Star Trek(y el centro de operaciones de un proyecto real, el Cybersyn, desarrollado por el presidente socialista de Chile Salvador Allende) eran operadas por seres humanos con tecnologías relativamente primitivas. Hoy en día, gran parte del trabajo de las personas que imaginamos en estas habitaciones –mujeres con peinados voluminosos y vestidos plateados de falda acampanada y hombres en monos de trabajo pulsando botones para operar los comandos del imperialismo galáctico– es hecho por computadoras. Pero ¿qué ocurrirá cuando las proverbiales ventanillas con vista a las galaxias solo muestren un escuadrón de robots y las luces parpadeantes de los paneles de control sean el único brillo que se refleja? Las denominadas industrias 2.0-4.0 han sido testigos de una avalancha de máquinas y habilidades mecánicas en las salas de operaciones de las empresas, a través de la automatización de procesos robóticos, la semiautomatización, el aprendizaje automático( machine learning) y los sistemas de gestión algorítmica. El diseño de lugares de trabajo digitalizados y las técnicas de vigilancia se orientan en torno del auge de las nuevas tecnologías, en las que el procesamiento y la cuantificación de los datos de los trabajadores y las trabajadoras se consideran necesarios para la competitividad de una empresa. ANALÍTICA DE PERSONAS La tecnología contingente para que los procesos en el lugar de trabajo alcancen una nueva cima de sofisticación computacional es el aumento de las herramientas y aplicaciones de inteligencia artificial(IA). La IA permite la semiautomatización de los procesos de toma de decisiones a través del aprendizaje automático, que es especialmente aplicable en la«analítica de personas»( people analytics, PA) implementada por el sector de recursos humanos. En este sistema, las predicciones y prescripciones respecto a quienes se postulan a un puesto de trabajo y a los trabajadores y trabajadoras –o«sujetos de los datos», según los define el Reglamento General de Protección de Datos (RGPD)– pueden hacerse ahora sobre la base de técnicas de cuantificación aplicadas a conjuntos de datos. En pocas palabras, con el uso de la analítica de personas, estamos pidiendo a las máquinas que transmitan verdades, o imágenes subjetivas sobre otras personas, a través del cálculo. Mientras que antes esperábamos que la máquina reflejara al ser humano, ahora pareciera que miramos en un espejo maquínico para obtener nuestra propia imagen y las de los demás. Si bien aún falta interpretar el alcance de este«estadio del espejo» del capitalismo –tomando prestada una frase del psicoanalista Jacques Lacan–, las consecuencias son sumamente importantes. Para Lacan, el estadio del espejo refiere al momento en que los niños perciben su separación del resto de su entorno. El estadio del espejo para lo que llamo«trabajadores inteligentes» dentro del capitalismo actual consiste en desafiar el supuesto de que estamos inexorablemente subsumidos a un sujeto maquinal. Para ello es necesario retener el andamiaje firme de lo que nos hace humanos y ofrecer resistencia a una presunta dominación automática. Dada la expectativa creciente de que la IA se vuelva universal, para evitar el impacto más negativo de la automatización y la vigilancia sobre los lugares de trabajo y los trabajadores y trabajadoras, resulta cada vez más importante ejercer la reflexión y conservar nuestra autonomía humana, en un contexto en el que la toma de decisiones sobre los trabajadores se basa cada vez más en la cuantificación y en la automatización. APRENDIZAJE AUTOMÁTICO La analítica de personas es quizás la más conocida de las herramientas de trabajo enriquecidas por la IA. En términos 14 INTELIGENCIA ARTIFICIAL. DOSSIER generales, es un conjunto de actividades de recursos humanos(RRHH) basadas en un proceso por el cual la gerencia puede identificar y comparar patrones en conjuntos de datos recopilados sobre los trabajadores. El componente de IA en la analítica de personas se vincula con el modo en que se establecen algoritmos para tomar decisiones, a través de procedimientos de aprendizaje automático( machine learning). Algoritmos y aprendizaje automático son fundamentales para el reclutamiento digitalizado, en el cual las decisiones para la detección de talentos, las entrevistas, la identificación de liderazgos, el desempeño individual de los trabajadores y trabajadoras, sus patrones de salud y otras cuestiones de gestión operativa se efectúan con asistencia digital. De hecho, las máquinas se convierten en el espejo de las subjetividades de los trabajadores a través de la cuantificación. Se hacen predicciones respecto a la aptitud y la adecuación de los postulantes para el trabajo y, una vez en el puesto, se pueden evaluar muchas cosas, desde el desempeño hasta la probabilidad de que se desvinculen de la empresa. Un informe de Deloitte indica que 71% de las empresas internacionales han reportado que valoran la analítica de personas y la consideran una prioridad, ya que posibilita que la gerencia lleve a cabo«análisis en tiempo real según las necesidades del proceso empresarial(...)[y] permite una mayor comprensión de los problemas y una visión práctica de las empresas» para lidiar con los«asuntos personales». En otros informes relacionados con RRHH, los resultados arrojados por la analítica de personas sobre «riesgos relativos a los empleados» y«problemas del personal» ponen de relieve el concepto de estadio de espejo del capitalismo: ¿quiénes somos los humanos en el reflejo de la máquina? MAYOR ESTRÉS La analítica de personas podría aumentar el estrés de los trabajadores y las trabajadoras si los datos se utilizan en evaluaciones y medición del desempeño sin la debida diligencia, lo que daría lugar a denuncias por microgestión y a la percepción de estar siendo vigilados. Si los trabajadores saben que sus datos están siendo leídos para detectar talentos o decidir posibles despidos, podrían sentirse presionados a mejorar su desempeño y trabajar en exceso, lo cual supone importantes riesgos. Otro riesgo se vincula a la responsabilidad de las empresas, ya que luego se podría cuestionar la exactitud de sus afirmaciones sobre las capacidades predictivas o se podría denunciar por discriminación al departamento de RRHH. De hecho, si la toma de decisiones algorítmica en la analítica de personas no involucra intervención humana y consideraciones éticas, esta herramienta de RRHH podría exponer a los trabajadores a mayor estrés y riesgos estructurales, físicos y psicosociales. ¿Cómo pueden estos estar seguros de que las decisiones se toman de forma justa, precisa y honesta, si no tienen acceso a los datos que su empleador posee y utiliza? En el contexto de la Unión Europea, esta cuestión debería abordarse con el mencionado RGPD, pero esto dista de ser un fait accompl i. Las prácticas involucradas en la analítica de personas se vuelven particularmente preocupantes si conducen a una reestructuración de los puestos de trabajo, a desplazamientos laborales o a cambios en la descripción de los puestos, entre otros. De cualquier modo, el uso del aprendizaje automático para hacer predicciones y proporcionar análisis sobre las personas se basa en tipos específicos de inteligencias priorizadas por el capitalismo –eficiencia, confiabilidad, competitividad y otros imperativos basados en datos–, que pueden o no reflejar lo que somos como individuos, o lo que aspiramos a ser, en la sociedad moderna. NECESIDAD DE INVESTIGAR Muchos informes gubernamentales y empresariales de alto nivel predicen que la IA mejorará la productividad, aumentará el crecimiento económico y conducirá a una prosperidad global, algo parecido a lo que se predijo respecto de la organización científica del trabajo. Sin embargo, como ocurrió con esta última, las discusiones de alto nivel no parecen vincular de modo directo la prosperidad anticipada con las realidades del trabajo humano cotidiano que, en última instancia, alimenta el crecimiento. Mientras tanto, se introducen diversas herramientas y aplicaciones enriquecidas con IA para mejorar la productividad, tanto en las fábricas y las oficinas como en la denominada gig economy. Hay muchas investigaciones sobre la automatización, pero no sobre cómo la IA, como forma de semiautomatización, forja la capacidad de sustituir actividades humanas en los puestos de trabajo. También hay muchas investigaciones sobre la vigilancia, pero falta examinar el modo en que la IA facilita los avances en vigilancia en el lugar de trabajo. Las investigaciones académicas y gubernamentales sobre estos temas deberían tomar en serio la IA, colocando un espejo metafórico para fomentar la reflexión social sobre cómo ocurren estos procesos y en qué supuestos se basan, en lugar de presentar la IA simplemente como formas de software autónomo y técnicas inmutables para la facilitación de tareas. Si bien se han hecho incursiones significativas en materia de investigación sobre el clima, la medicina, la 15 FRIEDRICH-EBERT-STIFTUNG moda, los seguros y los sistemas de justicia, los estudios sobre los usos de la IA para evaluar a los trabajadores y sus aptitudes a través de la cuantificación se están quedando atrás. En sitios donde se ha implementado la analítica de personas han llegado a los titulares de los periódicos historias sobre discriminación y prejuicio. Sin una reflexión sobre los errores cometidos en los análisis de IA y cuantificación sobre los trabajadores, esta tendencia va a continuar, e incluso empeorar. DEMOCRACIA DIGITAL El aumento de la acumulación de datos en los últimos años y la dependencia de los algoritmos para la toma de decisiones en las empresas han llevado a la eventual eliminación de la función del gerente«físico» y su reemplazo por un sistema mecánico. Si los trabajadores tomaran el mando de las salas de operaciones de las empresas decidiendo qué herramientas y procesos se aplican, se podría imaginar la democracia digital en el trabajo. Pero con la misma facilidad podría producirse el uso antidemocrático de la IA y esto daría lugar a la eliminación total de la autonomía humana, a través de la automatización tanto en la toma de decisiones como en otras tareas en el ámbito laboral. La actual crisis de covid-19 también ha provocado el aumento del trabajo en línea, lo que ha dado un mayor margen de maniobra a las decisiones basadas en la cuantificación y la gestión de máquinas. Es necesario realizar más investigaciones en estas áreas para tener un panorama completo de lo que significará y, en muchos casos, ya significa la IA para las relaciones entre personas y máquinas en los ámbitos de trabajo. ¿Cuáles son precisamente los tipos de inteligencias que esperamos hoy en día de las máquinas? ¿Se trata de inteligencias representativas de la inteligencia humana? ¿Por qué elegimos ciertas categorías de inteligencia? ¿En qué medida las actividades de recolección y procesamiento de datos son importantes para la dimensión afectiva de la experiencia humana? Quizás es más importante preguntarnos cuáles son los riesgos que acechan a los trabajadores y trabajadoras a medida que la tecnología avanza y que empezamos a cuestionar nuestro propio rol en la producción y a pensar en el de la máquina, al tiempo que la IA se dispone a aumentar su autonomía. La pregunta más amplia para la humanidad es: ¿quiénes creemos ser cuando llegamos al estadio de espejo en el capitalismo, cuando debiéramos darnos cuenta de que estamos separados del sujeto maquinal y que conservamos la autonomía? A medida que instalamos febrilmente máquinas en los espacios laborales a través de la robótica y de herramientas de gestión con una inteligencia aparentemente superior a la nuestra, deberíamos preguntarnos en la imagen de quién(o de qué) nos estamos mirando hoy. Phoebe Moore es profesora adjunta de economía política y tecnología en la Escuela de Negocios de la Universidad de Leicester y directora del Centro de Filosofía y Economía Política de esa universidad. 16 INTELIGENCIA ARTIFICIAL. DOSSIER 7 DISEÑAR HERRAMIENTAS DE IA EN BENEFICIO DE LOS TRABAJADORES FLORIAN BUTOLLO La discusión sobre la inteligencia artificial(IA) y el trabajo está conformada por discursos opuestos entre sí. Se han extendido versiones desalentadoras que hablan de desempleo masivo y pérdida de control humano frente a máquinas cada vez más poderosas. Pero la IA también inspira visiones de empoderamiento humano, según las cuales el trabajo será mejor a medida que las máquinas contribuyan al esfuerzo humano y nos alivien de la carga de trabajo oneroso, reservándonos tareas más interesantes, creativas y cognitivas. Ambos discursos son unilaterales, y sus proyecciones sobre el futuro del trabajo provienen de la propia naturaleza de la tecnología. Para superar esta dicotomía simplista, es necesario abordar el contexto social en que se introduce la IA. No se trata tan solo de una interacción entre el hombre (o la mujer) y la máquina: la IA se implementa en el marco de una extendida división del trabajo, que involucra múltiples formas de cooperación, especialización de tareas y desigualdad. Para responder al interrogante de quién se beneficia y quién pierde con su implementación, es necesario entonces preguntarse cómo se reconfiguran las relaciones de poder entre los agentes humanos. diferentes conjuntos de datos o a entornos cambiantes. En otras palabras, la IA ofrece evidencia estadística altamente sofisticada para procesos de alta regularidad en entornos controlados. Hay una multiplicidad de aplicaciones en las que estas formas de reconocimiento de patrones son útiles, especialmente en el reconocimiento de imágenes o del habla y en los programas de emparejamiento( match-making), que constituyen el campo principal de la IA en la actualidad. Pero se trata de inteligencia en el sentido estadístico, no de algo equivalente a la inteligencia humana. No funciona cuando se trata de entornos más complejos y multifactoriales –piénsese en el Brexit o en el famoso efecto mariposa que un huracán podría desencadenar en una región diferente del mundo–. El razonamiento humano debe intervenir para contextualizar los resultados de la IA, para entender su impacto en los escenarios de la vida real. INTELIGENCIA AUMENTADA LIMITACIONES SIGNIFICATIVAS La arrogancia que rodea al concepto de IA es responsable de muchas de las confusiones. El camino emprendido en la actualidad por la tecnología del aprendizaje automático ( machine learning) ha generado avances sorprendentes. No obstante, cuando los resultados proyectados se contextualizan y aplican, surgen importantes limitaciones. Y si bien hoy se pueden detectar patrones en gigantescos conjuntos de datos que superan las capacidades de la razón humana –lo que en esencia equivale a una forma de inteligencia diferente de la de los humanos–, las«predicciones» derivadas de estos son estructuralmente conservadoras. Se limitan a proyectar tales patrones hacia el futuro, sobre la base de correlaciones establecidas antes que de una comprensión profunda de los factores subyacentes. Es más, los sistemas de IA continúan siendo preparados para tareas muy específicas y no pueden transferir capacidades a En cuanto al posible impacto en el trabajo, esto significa que la IA puede utilizarse o bien para subordinar a los trabajadores y las trabajadoras a los cálculos mecánicos de la máquina, o bien para empoderarlos para que utilicen la IA en determinados contextos como inteligencia humana aumentada. Existen ambas aproximaciones. El primer camino aísla el proceso de trabajo de su contexto de la vida real. El diseño de un depósito logístico o de una operación sencilla de fabricación puede traducirse fácilmente en un modelo de datos con variables de entrada, procesamiento y salida. Los algoritmos de IA pueden recalcular de manera constante el conjunto de factores involucrados y transmitirlos a los agentes humanos, que están obligados a adaptarse. Estas formas automatizadas de toma de decisiones dejan poco margen para los puntos de vista de los trabajadores. Los dispositivos que van indicando al usuario la operación que sigue se aproximan a la eficiencia«objetiva» y a la 17 FRIEDRICH-EBERT-STIFTUNG funcionalidad, a punto tal que resulta inútil discutir. Los errores y reajustes que(como siempre) se producen siguen siendo el trabajo de la ciencia y la gerencia. Los trabajadores reciben apoyo en sus acciones, pero se vuelven altamente reemplazables y su poder de negociación se ve socavado. ¿O prescriben de manera estricta acciones que serán erróneamente interpretadas por los agentes humanos como algo dado? ¿Nos desafía la IA a interpretar sus resultados o nos relega a una posición de observadores? Se trata de preguntas delicadas en relación con el rol asignado a los trabajadores en los modelos de IA. El segundo camino asigna las tareas de contextualizar la IA a los trabajadores. La IA podría proporcionar transparencia sobre el estado actual de los procesos y pistas para definir medidas que puedan facilitar el funcionamiento de una empresa, ya sea una fábrica o una oficina. Sin embargo, los seres humanos se enfrentan al desafío de interrelacionar esos resultados sobre la base de su capacidad de evaluar los factores circundantes y de su experiencia. De esta manera, las decisiones pueden enriquecerse mediante una traducción y adaptación a las condiciones de la vida real, sobre la base de la experiencia laboral, la intuición y el razonamiento general. Estas capacidades pueden desarrollarse mediante el aumento de la capacidad de los trabajadores para comprender, interpretar y actuar frente a la toma de decisiones automatizada. NUEVAS FORMAS DE INTERACCIÓN Resulta fácil a partir de lo expuesto inferir escenarios tanto de degradación como de mejora del trabajo. Sin embargo, lo que interesa es identificar las variables que influyen en el predominio de una tendencia o de la otra. Esto no se deriva del entorno estructural de ciertos contextos laborales o de la tecnología misma, sino del diseño activo de nuevas formas de interacción entre seres humanos y máquinas. Por último, ¿cómo apoyan las empresas a los trabajadores y las trabajadoras en el desarrollo de nuevas habilidades en entornos de inteligencia aumentada, y cómo se las incentiva a hacerlo? Las demandas de una capacitación más amplia y un aprendizaje permanente están muy difundidas: es necesario que los trabajadores y las trabajadoras adquieran una comprensión más profunda de los procesos automatizados para tomar las decisiones correctas, y esto incluye la capacidad de negociar la traducción de los conocimientos desde el nivel de los datos a los procesos físicos y a la comunicación en la vida real. Pero ¿de qué modo se fomentará el aprendizaje continuo de los trabajadores? Si el aprendizaje permanente se convierte en un requisito no recompensado con salarios más altos y con el relevo de otras responsabilidades, pronto podría transformarse en una maldición en lugar de una bendición. Los trabajadores tendrían que hacer un gran esfuerzo para conservar, en definitiva, la misma posición en la jerarquía laboral. DESAFÍOS COMPLEJOS Hay tres dimensiones particularmente relevantes. La primera refiere a la cuestión fundamental de la inversión en tecnologías; la segunda, al diseño de interfaces entre la IA y sus usuarios; y la tercera, al desafío de equipar a los trabajadores para mejorar sus habilidades. En cuanto a las inversiones, la IA es susceptible de utilizarse para una amplia variedad de tareas que pueden resultar perjudiciales o beneficiosas para el empoderamiento de los trabajadores y las trabajadoras. La cuestión del modo en que las opciones tecnológicas afectan las relaciones de poder en el ámbito laboral es complicada y debería ocupar un lugar central en los debates entre los representantes de los trabajadores. Se vincula con tipos de gestión que benefician el diseño de empresas como organismos de aprendizaje(que por lo tanto necesitarían de la contribución de los trabajadores), frente a opciones neotayloristas que relegan a los trabajadores a funciones estrechamente circunscriptas. Por otro lado, el diseño de la tecnología se convierte en un asunto importante para la política laboral. ¿Indican las interfaces de los sistemas de IA un conjunto de opciones y la contingencia de resultados generados automáticamente? Estas dimensiones constituyen arduos desafíos para los trabajadores, los comités de empresa y los sindicatos. Son áreas relevantes para el diseño de los trabajos del futuro, en la medida en que las opciones tecnológicas y sus modos de inclusión están rodeados de intereses contrapuestos, en los que es necesario que los trabajadores y las trabajadoras fortalezcan su voz. Esto requiere una mejora por parte de la fuerza de trabajo en cuanto a su capacidad de evaluar las tecnologías y ponerlas al servicio de sus intereses. Y este desafío se vuelve permanente: los sistemas de IA no son simplemente máquinas que una vez introducidas siguen funcionando de la misma manera, sino organismos que aprenden y van modificando sus funciones. Por lo tanto, la IA requiere un aumento de la inteligencia de negociación, para poder inclinar la relación de fuerzas en las empresas en favor de los trabajadores. El Dr. Florian Butollo es investigador en el Centro de Ciencias Sociales de Berlín y jefe de un grupo de investigación«que estudia procesos híbrido-digitales altamente automatizados» en el Instituto Weizenbaum para la Sociedad en Red de Berlín. Es asesor del grupo de estudio sobre IA en el Bundestag. 18 INTELIGENCIA ARTIFICIAL. DOSSIER 8 CONTROL DEL IMPACTO DE LA IA EN EL TRABAJO Y LA DESIGUALDAD CHRISTIAN KELLERMANN Y MAREIKE WINKLER ¿Cuál será el impacto de la transformación digital en el trabajo? La profecía estándar respecto a la inteligencia artificial(IA) dice que el número de empleos creados superará el número de empleos destruidos por la digitalización. Pero el grado en que mejoran las tareas laborales(en lugar de empeorar o incluso reemplazarse) está determinado por al menos dos factores: el aspecto técnico y el laboral. Hoy, en el sector de la producción y los servicios, la«digitalización» refiere más que nada al uso de teléfonos inteligentes y tabletas. Estos dispositivos sin duda son operados por tecnologías complejas, como la IA. Con todo, la automatización completa no es todavía lo habitual. Sin embargo, el robot –otro dispositivo inteligente– ya está sustituyendo el trabajo humano, con efectos negativos sobre los salarios. Los trabajos de media y baja calificación en particular han sido afectados por las tecnologías de la información y la comunicación(TIC) y los robots desde las décadas de 1970 y 1980. Las consecuencias son, por un lado, la disminución de los salarios y, por otro, el crecimiento de la productividad y el aumento de los«dividendos digitales». No obstante, estos dividendos son recibidos principalmente por los dueños del capital y explican(en parte) la caída en la participación de los salarios. En Alemania, por ejemplo, los robots son comunes, pero están muy concentrados en algunos sectores de la industria, especialmente en la automotriz. Por ende, gran parte de las investigaciones concluyen que la digitalización conduce a la automatización de muchas tareas en determinadas áreas, pero también crea mucho trabajo(incluso quizás más) en otras áreas menos automatizadas, principalmente en el sector de los servicios. UNA SUPOSICIÓN AUDAZ Sería, sin embargo, muy audaz creer que la digitalización tendrá automáticamente efectos positivos en el empleo total. Tal creencia parte del supuesto de que la caída en la demanda de trabajo será(sobre)compensada por una nueva demanda de trabajo en otras áreas. Cuanto más se debilita el presunto efecto multiplicador, mayores son las dudas sobre el optimismo tecnológico asociado. La promesa es que las ganancias de productividad obtenidas en los distintos sectores gracias a la digitalización conduzcan a una«prosperidad para todos 4.0». Sin embargo, estas afirmaciones sobre un«efecto derrame» no solo han atravesado una crisis de credibilidad en los últimos 30 años, sino que también presentan un escenario muy complicado en torno de la digitalización. Por un lado, es correcta la suposición de que la demanda de servicios –o, más en general, de tareas manuales− aumentará si algunos empleados reciben un salario más alto gracias a los beneficios de la digitalización. Por otro, estas tareas son relativamente inelásticas en relación con el precio, por lo cual si este cae debido al uso de tecnología, la demanda de estas tareas no crecerá en la misma medida. La tecnología no conducirá automáticamente a un aumento general de la prosperidad. En lugar de un enfoque en el costado tecnológico y las inversiones asociadas, se necesita un análisis social de la tecnología que tenga en cuenta cuidadosamente los efectos distributivos de la digitalización. Si no se controlan los efectos diferenciales de la IA en el mercado laboral, la desigualdad seguirá aumentando. CONOCIMIENTO TÁCITO Por suerte, el escenario de una industria altamente automatizada continúa siendo una imagen del futuro, principalmente debido a la complejidad que conlleva incluso el trabajo simple. Cada empleo involucra todo un conjunto de experiencias, sin importar lo rutinarias que sean las tareas. La capacidad de trabajar requiere generalmente de un conocimiento tácito sobre cómo manejar no solo la complejidad sino también la incertidumbre, lo cual está fuera del alcance de la IA como«herramienta» o de aquella con fines específicos. 19 FRIEDRICH-EBERT-STIFTUNG Hoy en día, el llamado«conocimiento mundial»( world knowledge) puede formalizarse en modelos de IA en casos individuales simples, pero esto es costoso, consume recursos y siempre es reduccionista. En la actualidad la utilidad marginal de la IA aún es muy limitada y no parece justificar escenarios de pérdida masiva de empleos. Estas suposiciones suelen derivarse de una comprensión simplista del trabajo rutinario y del proceso productivo. Por consiguiente, una de las cuestiones más urgentes en materia de reglamentación consiste en contrarrestar la ansiedad digital de muchos trabajadores y trabajadoras con un análisis realista de sus capacidades laborales individuales. La cogestión práctica, que incluye la técnica, es también necesaria en la digitalización de los procesos operativos. PROSPERIDAD PARA TODOS Por último, una política orientada al futuro tiene la responsabilidad de corregir los efectos potenciales de distribución excesiva y desigual, de modo que la prosperidad finalmente pueda llegar a todos. A corto plazo, las medidas redistributivas son esenciales para alcanzar un«óptimo de Pareto 4.0» social. A largo plazo, se necesita un plan de transición hacia un mundo del trabajo que domestique la IA avanzada. Esta prosperidad compartida será en gran medida de naturaleza material. Pero también puede ser cada vez más inmaterial e incluir, por ejemplo, una reducción de la jornada laboral. Esto requiere el fortalecimiento y la ampliación de las estructuras y los derechos de cogestión. La cogestión no solo sirve en este caso para controlar la tecnología, sino que también puede ser un factor de apoyo en la toma de decisiones de inversión, lo que a menudo no suele ser reconocido por la gerencia de las empresas. El Dr. Christian Kellermann es el director general del Instituto para la Historia y el Futuro del Trabajo(IGZA, por sus siglas en alemán). Mareike Winkler es asistente de investigación en el IGZA. Las opiniones expresadas son exclusivamente de los autores. 20 INTELIGENCIA ARTIFICIAL. DOSSIER 9 IA: SON CIUDADANOS QUIENES MARCHAN, NO ROBOTS MIAPETRA KUMPULA-NATRI Estamos ante una nueva revolución industrial: en este caso, digital. La rápida evolución tecnológica, conexiones superveloces como el 5G, la enorme cantidad de datos que esta conectividad genera y la inteligencia artificial(IA) transformarán la vida y la sociedad tales como las conocemos. A escala mundial, la cantidad total de datos se duplica cada 18 meses. En otras palabras, en 2019 usábamos solo 1% de los datos que usaremos en 2030. Esto crea posibilidades aún inimaginables de innovaciones, nuevos modelos de negocio y servicios. Sin embargo, ¿a quiénes beneficiará esta tendencia? ¿Se utilizará el conjunto de datos para construir una sociedad digital centrada en el ser humano o terminará concentrado en manos de unos pocos actores mundiales, beneficiando solamente a los ya ricos? La revolución digital no debería dejar a nadie atrás ni conducir a una«carrera hacia el abismo» en lo que respecta al trabajo y los estándares sociales. Nadie debe quedar afuera. No podemos sofocar la innovación, pero el uso de datos tampoco puede convertirse en un vacío desregulado. Debemos dar a la ciudadanía la capacidad para que tenga un mejor control de sus datos y los utilice como herramienta para beneficiar a las personas y a la sociedad en general. Como legisladores y legisladoras, nuestra tarea consiste en establecer un marco regulatorio en Europa que promueva una economía de datos inclusiva y centrada en las personas. honor de desempeñarme como relatora del Comité de la Industria. El objetivo es llegar a un acuerdo en el Parlamento antes de que la Comisión publique propuestas legislativas concretas, como el marco legislativo para la gobernanza de los espacios comunes de datos europeos, la ley de datos y la ley de aplicación sobre conjuntos de datos valiosos. Desde el punto de vista de los ciudadanos y ciudadanas europeos, el enfoque es claro: ¿cómo aprovechar el potencial de los datos para posibilitar nuevos servicios, oportunidades de negocio y empleos, garantizando al mismo tiempo que la transformación digital no deje atrás los valores comunes europeos? A la vez, es importante tener en cuenta que el mercado digital es realmente global. Tengo la oportunidad de seguir el debate mundial sobre digitalización desde la perspectiva del comercio internacional en calidad de relatora permanente de las negociaciones sobre comercio electrónico de la Organización Mundial del Comercio(OMC) en la Comisión de Comercio Internacional del Parlamento Europeo. La UE debe participar como actor global activo e influir en el desarrollo del mundo digital siguiendo sus valores, y no a la inversa. Por ejemplo, debemos enfocarnos en la política de competencia europea: los europeos deben definir las reglas y valores y nivelar las condiciones de juego del mercado; no deberíamos contentarnos con lo que otros decidan. NECESIDAD DE CONFIAR La IA ha sido una clara prioridad para la actual Comisión Europea desde el primer día. Pero ha sido Thierry Breton, el comisario de Mercado Interior, quien puso más énfasis en los datos. Los datos y la IA van de la mano: si los datos no«circulan» entre los distintos actores, públicos o privados, y a través de las fronteras, Europa no puede ser la mayor beneficiaria de la digitalización y la IA. Respecto al informe presentado por iniciativa del Parlamento Europeo sobre la estrategia de datos –en respuesta a la comunicación de la Comisión en febrero–, tengo el La construcción de una economía de datos y una IA centradas en el ser humano comienza por el usuario. Primero, necesitamos confianza. Tenemos que desmitificar la economía de datos y la IA: la gente suele evitar, rechazar o incluso temer desarrollos que no entiende completamente. La educación juega un rol importante en lograr el acceso a este conocimiento y volver inclusiva la digitalización. Si bien la mejora en los servicios –como los servicios remotos– facilita la vida incluso fuera de las ciudades, la mayoría de los beneficios de la digitalización han recaído hasta 21 FRIEDRICH-EBERT-STIFTUNG ahora en un grupo educado de ciudadanos y ciudadanas que habitan en las metrópolis. Uno de los mayores obstáculos al cambio digital es la falta de conciencia sobre las nuevas posibilidades y habilidades. Necesitamos actuar en toda Europa, incluso en el nivel local, para brindar a nuestra ciudadanía las herramientas que le permitan comprender el rápido cambio tecnológico, así como invertir en la formación en ingeniería, desarrollo de software y emprendedorismo a través de nuestros sistemas de educación, capacitación y aprendizaje permanente. ¿Cómo pueden el personal y las pequeñas y medianas empresas ser innovadores si no tienen el conocimiento? INICIATIVA EJEMPLAR Una iniciativa ejemplar es un curso en línea gratuito desarrollado en Finlandia,«Elementos de IA». Comenzó como un curso para estudiantes de la Universidad de Helsinki, pero al poco tiempo se descubrió su potencial y el paradigma cambió: el nuevo objetivo de la universidad y su empresa asociada fue instruir a 1% de la población finlandesa en los fundamentos de la IA. El curso fue un éxito y el objetivo se alcanzó en poco tiempo para los 5,5 millones de habitantes de Finlandia. Finlandia tuvo a su cargo la Presidencia del Consejo de la UE durante el segundo semestre de 2019. Apartándose de la tradición, no hizo regalos durante su mandato, excepto uno: extendió el objetivo de ofrecer conocimientos básicos sobre IA a 1% de los ciudadanos y ciudadanas europeos. En cooperación con la Comisión, el curso pronto estará disponible en todos los idiomas oficiales de la UE 9 . Hasta ahora, más de 430.000 personas de más de 160 países han tomado el curso. Está diseñado tanto para profesionales o nerds digitales como para gente común: el único requisito es una conexión a internet y la voluntad de aprender. El curso ofrece educación digital y aprendizaje permanente par excellence. Se trata de una 9 Disponible en. iniciativa concreta y de fácil acceso con un propósito multifuncional: se puede usar de manera individual para aprender los fundamentos de la IA desde la cama a la noche, o tomar el curso dentro del sistema educativo en la escuela, la universidad o el trabajo. Ya forma parte del plan de estudios de casi todas las universidades finlandesas y algunos empleadores en Finlandia han aconsejado a su personal que lo tome para estar al día en un mundo que evoluciona. EQUILIBRIO DE GÉNERO Otra cuestión clave es el equilibrio de género. La IA se nutre de datos de la vida real y existe el riesgo tangible de que incorpore los sesgos existentes e incluso los vuelva más visibles. Por eso los programadores y usuarios de la tecnología basada en IA deben ser diversos. Sin embargo, ¿cuánto hace que hablamos de la poca cantidad de mujeres en el sector de la tecnología? Me gradué como ingeniera en la década de 1990 y no se trata de un tema nuevo. Las posibilidades concretas de paridad en la participación hacen que el mundo sea más equilibrado. En los países nórdicos, la mayoría de quienes participan del curso«Elementos de IA» son mujeres y en el resto del mundo la proporción supera el 40%, más del triple de la proporción media de mujeres que trabajan en el sector de la tecnología. Después de que el curso se desarrollara en Finlandia durante un tiempo, la cantidad de mujeres que se postularon para estudiar ciencias de la computación en la Universidad de Helsinki aumentó 80%. Inspirémonos en esto y continuemos incansablemente nuestro trabajo, desde las bases hasta el nivel global. De ese modo podremos construir sociedades digitales justas, iguales y progresistas. Miapetra Kumpula-Natri integra el Parlamento Europeo como representante de Finlandia y del grupo de Socialistas y Demócratas, y el Comité de Industria, Investigación y Energía. Durante 11 años fue integrante del Parlamento finlandés. 22 INTELIGENCIA ARTIFICIAL. DOSSIER 10 EXPLICAR LA IA DESDE UN ENFOQUE HUMANO MARTIN SCHÜßLER Los sistemas inteligentes, basados en el aprendizaje automático( machine learning) están ingresando en muchas áreas de nuestra sociedad. Abarcan una gran variedad de aplicaciones, desde la automatización aparentemente inofensiva de microtareas, como la sugerencia de sinónimos en los editores de texto, hasta usos más discutibles, como decisiones de encarcelamiento o liberación, previsión de intervenciones de servicios infantiles y policía predictiva, entre muchos otros. Las investigaciones han demostrado que, para algunas tareas, como la detección de cáncer de pulmón, los sistemas inteligentes son capaces de superar a los seres humanos. En muchos otros casos, sin embargo, no han estado a la altura de las exageradas expectativas. De hecho, en algunos casos, se han producido daños graves. Hay ejemplos muy conocidos, como el sistema COMPAS(sigla en inglés de Administración de Perfiles de Criminales para Sanciones Alternativas del Sistema de Prisiones), utilizado en algunos estados de Estados Unidos para predecir la reincidencia, que se considera que incorpora sesgos raciales(aunque ese estudio fue criticado metodológicamente), y varias muertes relacionadas con el piloto automático de los automóviles Tesla. CAJAS NEGRAS La posibilidad de garantizar que los sistemas inteligentes adhieran a los valores humanos a menudo se ve dificultada por el hecho de que muchos son percibidos como cajas negras, que por lo tanto escapan al entendimiento humano, y esto puede ser una barrera importante para su adopción e implementación segura. En los últimos años ha aumentado la presión pública para que los sistemas inteligentes«den explicaciones tanto sobre los procedimientos seguidos por el algoritmo como sobre las decisiones específicas que se toman». Incluso se ha debatido si podría ser legalmente necesario proporcionar explicaciones sobre los sistemas automatizados. La inteligencia artificial explicable(XAI, por sus siglas en inglés) es un término genérico que incluye métodos y técnicas de investigación que intentan cumplir ese objetivo. Una explicación puede ser vista a la vez como un proceso y como un producto: describe el proceso cognitivo relacionado con la identificación de las causas de un acontecimiento. Al mismo tiempo, suele involucrar un proceso social entre quien explica(emisor de una explicación) y quien obtiene la explicación(receptor de una explicación), cuyo objetivo es transferir conocimientos. Gran parte de la labor sobre la XAI se centra en lo que es técnicamente posible explicar, y las explicaciones suelen estar dirigidas a los expertos en IA. Pero esto ha sido acertadamente caracterizado como un caso en que«los internos dirigen el psiquiátrico», porque muchas partes interesadas quedan fuera del círculo. Si bien es importante que los investigadores y los científicos de datos puedan analizar sus modelos, de modo que puedan verificar que se generalicen y que se comporten según lo previsto −un objetivo que está lejos de alcanzarse−, muchas otras situaciones pueden requerir explicaciones de los sistemas inteligentes, y para muchas otras personas. Muchos sistemas inteligentes no reemplazarán completamente las ocupaciones humanas: el temor a una automatización total y a la erradicación de empleos es tan antiguo como la propia idea de la IA. Lo que ocurrirá en cambio es que algunas tareas específicas anteriormente realizadas de manera(semi)manual serán automatizadas. En consecuencia, la interacción de los seres humanos con los sistemas inteligentes será mucho más común. El aporte y la comprensión humana son prerrequisitos para la creación de sistemas inteligentes y para el despliegue completo de su potencial. PREGUNTAS ENFOCADAS EN LOS SERES HUMANOS Entonces, deberíamos dar un paso atrás y hacer más preguntas centradas en los seres humanos y sus valores. ¿Qué explicaciones necesitamos como sociedad? ¿Quién necesita esas explicaciones? ¿En qué contexto se vuelve un requisito la interpretabilidad? ¿Cuáles son los fundamentos jurídicos para exigir una explicación? 23 FRIEDRICH-EBERT-STIFTUNG También debemos tener en cuenta a los actores y partes interesadas en la XAI. Quien solicita un préstamo requiere una explicación diferente de la que requiere personal médico en una unidad de cuidados intensivos. Un funcionario que implementa un sistema de apoyo en la toma de decisiones para un problema de política pública debería recibir explicaciones diferentes de las que reciba un oficial que planifica una ronda con una herramienta de predicción policial. No obstante, ¿qué incentivo tiene un proveedor de modelos para ofrecer una justificación convincente y que genere confianza, en lugar de un mero reporte correcto? Estas preguntas abiertas demuestran que existen innumerables oportunidades para que las disciplinas no técnicas contribuyan a la XAI. Sin embargo, si bien hay mucho potencial, la colaboración es escasa. Por ejemplo, el diseño participativo está bien equipado para crear sistemas inteligentes que incorporen las necesidades de los diversos participantes, sin exigirles alfabetización digital. Por otro lado, los métodos de las ciencias sociales son muy adecuados para desarrollar una comprensión más profunda del contexto, los actores y los interesados que participan en la prestación y recepción de explicaciones. EVALUACIÓN DE EXPLICACIONES Una instancia puntual en la que las disciplinas deben colaborar para alcanzar resultados científicos de aplicación práctica es la evaluación de las propias técnicas de explicación. Muchas de ellas no han sido evaluadas y la mayoría de las evaluaciones que se han llevado a cabo fueron funcionales o técnicas, lo cual es problemático porque la mayoría de los estudiosos coinciden en que no existe una definición formal de qué constituye una explicación correcta o mejor. Al mismo tiempo, la realización de evaluaciones basadas en seres humanos es un desafío, ya que aún no existe una definición de lo que se considera«mejores prácticas». Los pocos estudios existentes han puesto al descubierto resultados sorprendentes, lo que subraya la importancia de esta investigación. Una investigación descubrió que las explicaciones conducían a una disminución de la percepción de rendimiento del sistema, tal vez porque desilusionaban a los usuarios que llegaban a entender que el sistema no hacía sus predicciones de manera«inteligente», si bien eran acertadas. De modo similar, un estudio realizado por el autor indicaba que los mapas de prominencias(s alience maps) –una técnica popular y muy promocionada para explicar la clasificación de imágenes– proporcionaban ayuda muy limitada a los participantes para anticipar las decisiones del sistema. Se necesitarán muchos más estudios para evaluar la eficacia práctica de las técnicas de explicación. Sin embargo, es muy difícil realizar estos análisis, ya que necesitan información que se deriva de los usos del mundo real y de las necesidades de los participantes. Estas dimensiones centradas en el ser humano siguen sin ser suficientemente exploradas. El hecho de que necesitemos ese conocimiento científico es otra de las razones por las que no debemos dejar la investigación sobre la XAI solo en manos de especialistas en tecnología. Martin Schüßler es doctorando en la Universidad Técnica de Berlín. Trabaja en el Instituto Weizenbaum para la Sociedad en Red. 24 INTELIGENCIA ARTIFICIAL. DOSSIER 11 IA, CUIDADO DE LA SALUD Y PANDEMIA SELIN SAYEK BÖKE Nuestro mundo ha sido golpeado por la pandemia de covid-19, lo que obligó a quienes toman decisiones a salir en busca de soluciones. Y si bien la solución total continúa siendo esquiva, ya se debate un posible retorno a la normalidad. Pero ¿qué tipo de«normalidad» será? Los poderosos estiman que el mundo anterior al covid-19 es la normalidad a la que hay que volver, y queda en manos de los progresistas presionar para introducir nuevas bases, contribuir a crear una«nueva» normalidad. Es claro que hay varios aspectos involucrados y uno de ellos es el rol de la tecnología. UN ROL INNEGABLE La inteligencia artificial(IA), en tanto fuerza revolucionaria que reestructura los patrones de producción y consumo, ha estado hace mucho en la agenda de los responsables de formular políticas. A pesar de su carácter disruptivo, el rol de la IA como proceso creativo en el mercado laboral, en la salud, en la educación e incluso en la formación de nuestras democracias es innegable. Dado el foco sanitario de la crisis en curso, resulta prioritario superar los desafíos legales, éticos y médicos planteados por el uso de la IA en la atención de la salud. Definir el marco para hacerlo será un paso inicial fundamental para garantizar que la nueva normalidad produzca un resultado justo y que se protejan los derechos fundamentales al tiempo que se mejora la asistencia de la salud para todos. Con el apoyo de una reglamentación adecuada y eficaz, la IA puede ofrecer una amplia gama de oportunidades para mejorar la salud pública, así como la calidad y eficiencia del sector sanitario. Sin ese marco, la IA puede convertirse en un instrumento más en un sistema en el que los derechos son dejados de lado para maximizar ganancias y los sesgos se reproducen de manera sistemática. La Asamblea Parlamentaria del Consejo de Europa(APCE) está preparando una serie de informes sobre los alcances de la IA. Como relatora sobre IA en el cuidado de la salud, debo referirme a los instrumentos legales existentes del Consejo de Europa, tales como el Convenio para la Protección de los Derechos Humanos y la Dignidad del Ser Humano respecto de las Aplicaciones de la Biología y la Medicina(Convenio de Oviedo) y el Convenio para la Protección de las Personas con respecto al Tratamiento Automatizado de Datos de Carácter Personal como guías para los esfuerzos de regulación en el nivel nacional. MONITOREO Y RASTREO Es claro que la IA jugó un rol importante en la detección inicial de la pandemia. Se utilizó para rastrear el contagio de la enfermedad y la capacidad hospitalaria, identificar a pacientes de alto riesgo y desarrollar medicamentos y, potencialmente, una vacuna. Quizás el debate público más visible sobre IA en el cuidado de la salud tiene que ver con el uso de aplicaciones de testeo y rastreo, consideradas herramientas importantes para controlar la diseminación del virus y brindar información valiosa con el fin de diseñar estrategias para salir del confinamiento. El potencial altamente promisorio de la IA para el futuro de la salud pública en Europa no es, sin embargo, la única realidad que la pandemia ha puesto de manifiesto. Esta ha servido como duro recordatorio de las desigualdades socioeconómicas: de la necesidad de restringir la mercantilización descontrolada, regular los mercados y de gestionar los potenciales conflictos entre principios éticos y fuerzas del mercado. El legado duradero del neoliberalismo se manifiesta sobre todo en la privatización de la atención sanitaria y en la gran precariedad de los mercados laborales. Esto ha agravado las consecuencias de la pandemia, en especial para los trabajadores y las trabajadoras, la gente sin empleo y el precariado. Las estructuras sociales y económicas desiguales establecidas y reforzadas bajo la hegemonía neoliberal limitan nuestra capacidad de enfrentar los desafíos que nos ha planteado. 25 FRIEDRICH-EBERT-STIFTUNG De igual modo, si hubiera habido un marco regulatorio confiable y bien definido, tal vez la IA podría haber tenido un impacto positivo mucho mayor en la crisis del coronavirus. Por ejemplo, se habría mitigado la preocupación del público respecto al mal uso y abuso de los datos por parte de los Estados, así como del sector privado. DERIVA TOTALITARIA Es necesario establecer un nuevo marco capaz de crear beneficios sociales a partir de la IA, protegiendo al mismo tiempo los derechos fundamentales y la gobernanza democrática y asegurando la igualdad. Estas cuestiones encajan perfectamente en el debate sobre lo que será la «nueva» normalidad: ¿acelerarán los medios de vigilancia utilizados con fines sanitarios una deriva totalitaria, o serán controlados por una ciudadanía empoderada? ¿Se profundizarán los reflejos aislacionistas? ¿O estarán el multilateralismo, la cooperación y la solidaridad a la altura del desafío? Estas cuestiones son relevantes para cualquier discusión sobre la IA y el cuidado de la salud, la primera para un marco regulatorio que asegure la protección de los derechos humanos, la segunda respecto de si la IA en el ámbito de la salud será regida por la cooperación y la solidaridad o, en ausencia de estas, por objetivos de lucro. EMPODERAR A LA CIUDADANÍA Este marco debería garantizar que la IA en el ámbito de la salud brinde a la ciudadanía la capacidad de tomar decisiones mejor informadas y proporcione información para que los gobiernos respondan por sus decisiones. Para que la IA no se convierta en un instrumento para agravar las desigualdades, también debería garantizar que los datos y los algoritmos sean imparciales y que los procesos sean transparentes e inclusivos. Debería basarse en una responsabilidad bien fundada y en un diálogo equilibrado entre lo público y lo privado. Debería establecer las condiciones y garantías para asegurar que la búsqueda del interés colectivo no coarte los derechos individuales. También debería exigir que la tecnología utilizada para la vigilancia y el seguimiento solo se emplee temporalmente y no se convierta en algo permanente. Cuando se diseñe el nuevo marco regulatorio, el punto de partida debería ser el reconocimiento del acceso al cuidado de la salud y la protección de los datos personales y la privacidad como derechos fundamentales e indispensables. Las oportunidades impulsadas por la tecnología, como la IA, deben incorporarse en los sistemas de salud garantizando la igualdad de acceso y protegiendo esos derechos. Solo entonces podremos superar esta pandemia y asegurarnos de estar preparados para afrontar mejor la próxima. Evidentemente, la salud y la privacidad individual nunca pueden ser alternativas, sino que deben ir de la mano. La confianza pública en el Estado y el sector privado solo puede prevalecer si todos sus agentes garantizan los derechos humanos fundamentales en el desarrollo y uso de la IA. Dada la urgencia de hacerlo en la lucha contra el coronavirus, es de suma importancia acordar al menos un marco básico viable que mejore la confianza y vuelva operativa la IA. El brote de covid-19 ha iluminado los aspectos centrales. Selin Sayek Böke es representante por Esmirna en la Gran Asamblea Nacional(Parlamento) de Turquía por el Partido Republicano del Pueblo(CHP). Es integrante de la Asamblea Parlamentaria del Consejo de Europa, primera vicepresidenta del grupo de Socialistas, Demócratas y Verdes y presidenta del subcomité de la Carta Social Europea del mismo organismo. Con un doctorado en economía por la Universidad de Duke, desempeñó funciones de asistente, profesora visitante y profesora asociada, respectivamente, en las universidades de Bentley, Georgetown y Bilkent, y trabajó para el Fondo Monetario Internacional y con el Banco Mundial. 26 INTELIGENCIA ARTIFICIAL. DOSSIER 12 EL CAMINO EUROPEO HACIA UNA IA SOSTENIBLE REINHARD MESSERSCHMIDT Y STEFAN ULLRICH La inteligencia artificial(IA) es celebrada como una solución general a los problemas sociales más apremiantes, y odiada precisamente como la causa de estos. En los debates actuales, el foco está puesto en el componente«inteligencia», lo cual es engañoso teniendo en cuenta que las principales consecuencias morales y políticas se derivan del hecho de que la IA es precisamente«artificial», un artefacto sociotécnico. Desde la década de 1950, las principales tendencias socioeconómicas y del sistema terrestre han seguido un patrón de crecimiento exponencial, denominado«gran aceleración». La digitalización, una de las principales tendencias de innovación de los últimos decenios, sigue el mismo patrón, más popularmente conocido en la industria de fabricación de chips informáticos como«Ley de Moore»(que no una ley ni carece de límites). El crecimiento exponencial de los datos y la potencia computacional imponen mayores exigencias sobre las personas y los recursos en todas las etapas del proceso que ahora llamamos«digitalización», en particular en el ámbito de los sistemas basados en IA. Los equipos modernos requieren una variedad de materias primas, entre ellas el coltán, extraído y procesado en condiciones socialmente insostenibles. Regiones enteras del mundo(principalmente en el Sur global) se están convirtiendo en el costado desagradable del nuevo mundo feliz digital. Con respecto a la sustentabilidad ecológica, se requiere una gran cantidad de energía para la extracción, procesamiento y transporte de los componentes, así como para el funcionamiento de los modernos sistemas informáticos de big data e IA. La realidad es que hoy en día un centro de procesamiento de datos requiere para su funcionamiento de tanta electricidad como una pequeña ciudad, sobre todo para la refrigeración(sin incluir los costos del ciclo de vida). Sin embargo, necesitamos las tecnologías de la información y la comunicación(TIC) para que se produzca la revolución energética europea. Podría ayudarnos a ahorrar energía y recursos en otras áreas, como el transporte o el consumo de electricidad en los hogares; el balance energético global depende del objetivo y la motivación. SISTEMA SOCIOTÉCNICO Resulta extraño que a menudo se les recuerde a los técnicos que deben poner a los seres humanos en el centro, cuando nunca estuvieron afuera. Son los humanos quienes crean y usan la tecnología, y es la parte humana del sistema sociotécnico de la IA la que proporciona la inteligencia. En consecuencia,«la IA no nos hace más‘inteligentes’, solo más poderosos desde el punto de vista computacional». Y aunque es tentador para una civilización tecnológica buscar soluciones técnicas a todos sus problemas, pese al poder de las herramientas, la tecnología no puede resolverlo todo. Salvo que cambiemos las condiciones sociales subyacentes, la digitalización aumentará los problemas que queremos resolver y creará otros nuevos. En consonancia con los 17 Objetivos de Desarrollo Sostenible de las Naciones Unidas, el«principal objetivo de la tecnología» sería«mejorar la condición humana de manera sostenible para todos nosotros y nuestro medio ambiente». Pero incluso si este enfoque responsable de la innovación se convirtiera en un estándar mundial, no nos protegería de consecuencias imprevistas que crean nuevos problemas o trayectorias dependientes cuando se intenta resolver antiguos problemas. Norbert Wiener, quien definió la cibernética en 1948 como el estudio científico del control y la comunicación en el animal y la máquina, sabía ya que es«mejor asegurarnos de que el propósito asignado a la máquina sea el que nosotros realmente deseamos». Queda por ver de qué propósito se trata y a quién se refiere«nosotros», dos preguntas que conviene hacerse desde el principio si queremos que la innovación en IA sea segura, confiable y sostenible. Por lo tanto, se necesita un accionar político que trascienda la esfera digital y eso nos lleva a una pregunta no «computarizable»: ¿en qué tipo de sociedad futura queremos vivir? Necesitamos un debate público sobre esa cuestión, 27 FRIEDRICH-EBERT-STIFTUNG independientemente de las supuestas«necesidades» técnicas. A largo plazo,«cualquier desarrollo que no genere confianza no tendrá éxito». Los cálculos de IA basados en big data lo«suficientemente buenos» para modelos de negocio que son cuestionables desde el punto de vista ético y epistemológico cuestan grandes cantidades de energía y suelen ser poco fiables debido, por ejemplo, a conjuntos de datos de capacitación sesgados o máquinas que solo fingen aprender. Esto «pone un signo de interrogación al amplio y a veces irreflexivo uso… en todos los campos de aplicación de la industria y las ciencias». Piénsese, por ejemplo, en la determinación de la solvencia crediticia de los individuos. FALTA DE INFRAESTRUCTURA Mientras que la IA se utiliza principalmente para seguir a los usuarios con el fin de personalizar la publicidad, la sociedad conectada de hoy carece de una infraestructura diseñada para mejorar«la inclusión individual, el desarrollo personal, la protección del ambiente, la competencia justa y el funcionamiento de una esfera pública digital», así como«el acceso a datos y servicios como los servicios en la nube, las plataformas de movilidad o un índice de búsqueda», o en otras palabras,«el bien común». El«libre» mercado mundial y sus poderosas empresas de alta tecnología no proporcionarán tal infraestructura, salvo que exista la necesidad de cambiar los modelos de negocio no sostenibles. Tampoco surgirá del modelo capitalista de vigilancia de Silicon Valley, que«se mueve rápido y rompe cosas» 10 ; ni el capitalismo de Estado de vigilancia masiva de China será compatible con una infraestructura de TIC abierta, emancipadora y de bienes comunes digitales. Por consiguiente, existe la urgente necesidad de una«vía europea» hacia la digitalización sostenible, basada en la confianza, la responsabilidad y las TIC públicas. La confianza como piedra angular también implica garantizar buenas prácticas de ingeniería, normativas legales y una alfabetización digital básica. Técnicamente, la transparencia y 10 Referencia a uno de los lemas de Mark Zuckerberg, fundador de Facebook.[N. del T.] la posibilidad de explicación desempeñan un papel fundamental. Pero, entendida como sistema sociotécnico, si la IA ha de convertirse realmente en una tecnología de base para una mayor innovación sostenible, debe ser accesible y hecha para el interés común. Un«espacio público europeo abierto» proporcionaría una plataforma para debatir las características de ese interés común. El proyecto de diseño de una esfera pública europea por ahora es solo una visión, pero, al estar imbricado en un ecosistema de plataformas públicas de TIC, podría ser un buen comienzo. Las infraestructuras digitales que desempeñan un papel clave en la vida cotidiana no deberían diseñarse a favor del«capitalismo de vigilancia» y de las«redes de control», que se vuelven más poderosas cuantos más datos tienen. Respecto de los índices web como infraestructura fundamental para los motores de búsqueda, proyectos como el Open Web Index podrían asegurar esta infraestructura de información crítica y restaurar la soberanía informativa de Europa, así como«tener un impacto estimulante en las innovaciones digitales, en el campo de los motores de búsqueda, así como en la economía emergente y digital europea». Estos son tan solo algunos ejemplos de partes posibles de un ecosistema público de TIC. Con base en modelos de negocio realmente sostenibles y compatibles con la protección de datos y las tecnologías verdes, serviría a la ciudadanía, a las empresas y al Estado por igual. De hacerse bien las cosas, este tipo de infraestructura podría ampliarse rápidamente a escala global, con su inherente interoperabilidad y portabilidad de datos. Podría brindar un entorno distinto para servicios de IA confiables y responsables en favor del bien común; es decir, en favor de personas vulnerables en un planeta vulnerable. Reinhard Messerschmidt es un científico social interdisciplinario con un doctorado en filosofía. En la interfaz científico-política, trabaja en temas en los cruces de la ética, el análisis de la tecnología, la investigación y la innovación, y la sustentabilidad. Stefan Ullrich es jefe del grupo de investigación@jwi_riot en el Instituto Weizenbaum para la Sociedad en Red. Como informático con una especialización en filosofía, analiza críticamente el impacto de los sistemas de tecnología de la información omnipresentes en la sociedad. 28 INTELIGENCIA ARTIFICIAL. DOSSIER 13 EL APRENDIZAJE AUTOMÁTICO DEBERÍA INCREMENTAR LAS OPORTUNIDADES HUMANAS ENTREVISTA A ELENA ESPOSITO La socióloga Elena Esposito recomienda poner el foco de la IA en las máquinas como aliadas de la comunicación. Entrevista realizada por Florian Butollo. Butollo: Se dice que la inteligencia artificial(IA) puede ofrecer respuestas a cuestiones como los niveles adecuados de impuestos, el desarrollo satisfactorio de la planificación urbana, la administración de empresas y la evaluación de postulantes a un puesto de trabajo. ¿Tiene la IA mejor capacidad que la inteligencia de los humanos para predecir y juzgar? ¿Se vuelve más predecible el mundo gracias a la disponibilidad de enormes cantidades de datos? Piénsese, por ejemplo, en las previsiones sobre el flujo de tránsito en verano durante las llamadas salidas inteligentes: días color negro, rojo, amarillo, etc. Los modelos predicen que el 31 de julio al mediodía habrá embotellamientos en las autopistas, mientras que a las 2 a.m. se viajará mejor. Si seguimos los pronósticos, que son confiables y están bien hechos, estaremos todos haciendo fila en la autopista a las 2 a.m., contrariando la predicción. Esta circularidad afecta a todos los modelos predictivos: si uno sigue el pronóstico, se arriesga a falsarlo. Es difícil predecir sorpresas y la excesiva dependencia de formas algorítmicas supone el riesgo de reducir el espacio de la invención y la apertura del futuro. Esposito: Los algoritmos pueden procesar cantidades incomparablemente mayores de datos y realizar algunas tareas con mucha más precisión y fiabilidad que los seres humanos. Esta es una gran ventaja que debemos tener en cuenta incluso cuando señalamos sus limitaciones, que existen y son fundamentales. La más obvia es la tendencia de los algoritmos, que aprenden de los datos disponibles, a predecir el futuro proyectando las estructuras del presente, incluidos sesgos y desequilibrios. Esto también trae problemas como la sobrevaloración, que surge cuando el sistema se adapta demasiado a los ejemplos del pasado y pierde la capacidad de procesar la diversidad empírica del mundo. Por ejemplo, si aprendió tan bien a interactuar con los usuarios diestros con que ha sido entrenado que no reconoce a una persona zurda como posible usuario. ¿Ve algún peligro político en la excesiva dependencia de la IA? ¿Acaso el despliegue publicitario actual en torno del tema es señal de nuestra pérdida de soberanía como sociedad? Los peligros políticos existen, pero no están determinados directamente por la tecnología. Las posibilidades que ofrecen los algoritmos pueden producir resultados y riesgos políticos muy diferentes: desde todo el ruido sobre la personalización como promesa de desarrollar la autonomía de los usuarios individuales hasta el sistema chino de «crédito social», que va en sentido contrario. ¿Cuáles son sus recomendaciones para usar la IA de modo correcto? ¿Qué deberían tener en cuenta los responsables de formular políticas al elaborar los lineamientos, leyes y regulaciones éticas? Los algoritmos también sufren una ceguera específica, especialmente respecto de la circularidad con que las predicciones afectan el futuro que se pretende predecir. En muchos casos el futuro que predicen los modelos no se materializa, no porque los modelos sean erróneos, sino precisamente porque son correctos y son tenidos en cuenta. Heinz von Foerster tenía un imperativo ético:«Siempre actúa para aumentar el número de oportunidades». Hoy más que nunca me parece un principio fundamental. Especialmente cuando nos enfrentamos a condiciones muy complejas, creo que es mejor aprender continuamente de los desarrollos actuales que pretender saber a dónde queremos ir. 29 FRIEDRICH-EBERT-STIFTUNG Y, por cierto, los algoritmos de aprendizaje automático [ machine learning] también funcionan de ese modo. Con estas técnicas de programación avanzada, los algoritmos aprenden de la experiencia y de algún modo se programan a sí mismos, yendo en direcciones que a veces ni los propios diseñadores podrían predecir. ¿Cuál sería la expectativa razonable respecto a la IA? ¿Qué podemos esperar y cómo podemos alcanzar las metas? A través de big data, los algoritmos«se alimentan» de las diferencias generadas(consciente o inconscientemente) por individuos y su comportamiento para producir información nueva, sorprendente y potencialmente instructiva. Los procesos algorítmicos parten de la inteligencia de los usuarios para operar de manera competente como aliados de la comunicación, sin necesidad de ser inteligentes ellos mismos. Lo que espero de la IA es que la propia idea de reproducir artificialmente la inteligencia humana sea abandonada. Los algoritmos más recientes que utilizan aprendizaje automático y big data no funcionan en absoluto como la inteligencia humana y ni siquiera intentan emularla. Precisamente por eso pueden realizar con mucha eficacia tareas que hasta ahora estaban reservadas a la inteligencia humana. Elena Esposito es profesora de sociología en las universidades de Bielefeld y Bolonia. Su actual investigación sobre predicción algorítmica cuenta con el apoyo de una beca avanzada del Consejo Europeo de Investigación. 30 PIE DE IMPRENTA Fundación Friedrich Ebert Marcelo T. de Alvear 883| 4º Piso(C1058AAK) Buenos Aires – Argentina Copyright© 2020 Friedrich-Ebert-Stiftung/ Social Europe/ Weizenbaum Institute Equipo editorial Nueva Sociedad produccion@nuso.org Tel. Fax:+54 11 4312-4296 www.fes-argentina.org ISBN: 978-987-4439-31-4 Esta obra fue financiada por el Ministerio Federal de Educación e Investigación de Alemania(BMBF) mediante el subsidio N° 16DII111(‘Deutsches Internet-Institut’) y por la Friedrich-Ebert-Stiftung. Todos los derechos reservados. Queda prohibida la reproducción total o parcial de esta obra por cualquier medio o procedimiento, ya sea electrónico o mecánico, incluyendo sistemas de almacenamiento y recuperación de información, sin la autorización previa y por escrito de los titulares del copyright, excepto para el uso de citas breves en reseñas bibliográficas. Traducción: Rodrigo Sebastián La Fundación Friedrich Ebert es una institución alemana sin fines de lucro creada en 1925. Debe su nombre a Friedrich Ebert, el primer presidente elegido democráticamente, y está comprometida con el ideario de la democracia social. Realiza actividades en Alemania y en el exterior a través de programas de formación política y cooperación internacional. La FES tiene 18 oficinas en América Latina y organiza actividades en Cuba, y Paraguay, que cuentan con la asistencia de las representaciones en los países vecinos. Las opiniones expresadas en esta publicación no reflejan, necesariamente, los puntos de vista de la Fundación Friedrich Ebert(FES). INTELIGENCIA ARTIFICIAL La inteligencia artificial(IA) se está extendiendo por un gran número de sectores y va camino a transformar el trabajo y la sociedad. Este dossier, publicado por Social Europe en conjunto con la Fundación Friedrich Ebert y el Instituto Weizenbaum para la Sociedad en Red, aborda las posibilidades y desafíos de la IA. En particular, propone pensar qué decisiones políticas se necesitan para dar forma a esta transformación en aras del bien común. La IA evoca una distopía en la que los robots desplazan a los seres humanos de sus empleos. Algunos predicen una sustitución de tareas a gran escala, mientras que otros se preguntan si se puede hablar de escenarios predeterminados: la pérdida o transformación de los empleos depende del grado de participación de los trabajadores y las trabajadoras en la toma de decisiones. La misma preocupación existe respecto de la contratación y supervisión de la mano de obra: ¿servirán las bases de datos de IA para establecer un«capitalismo de vigilancia» o ayudarán a trabajadores y trabajadoras a cumplir sus tareas si estos tienen mayor capacidad para incidir en los resultados? La IA plantea preguntas más amplias sobre la sociedad, tanto en el presente como en el futuro. Los institutos de investigación de mercado anuncian enormes ganancias en términos de eficiencia, pero ¿son estas creíbles? y, de ser así, ¿cómo se distribuirán? Feministas y antirracistas temen que los algoritmos de los que depende la IA incorporen inconscientemente los prejuicios sociales de sus creadores humanos. La posesión y la manipulación de datos obtenidos a partir de la IA suscitan problemas relacionados con la privacidad y las libertades civiles. También está en juego el modo en que la educación debe cambiar para que la ciudadanía se sienta empoderada −y no alienada− por la IA, así como el problema persistente del rol de esta en la crucial lucha contra el cambio climático y la pérdida de biodiversidad. Puede encontrar más información sobre este tema ingresando a: www.fes-argentina.org