NUEVA SOCIEDAD 294 ¿Qué sabemos de la inteligencia artificial? 294 NUEVA SOCIEDAD es una revista latinoamericana abierta a las corrientes de pensamiento progresista, que aboga por el desarrollo de la democracia política, económica y social. Se publica cada dos meses en Buenos Aires, Argentina, y circula en toda América Latina. Directora: Svenja Blanke Jefe de redacción: Pablo Stefanoni Coordinadora de producción: Silvina Cucchi Plataforma digital: Mariano Schuster, Eugenia Corriés Administración: Vanesa Knoop, Karin Ohmann N ueva S ociedad N o 294 Diseño original de portada: Horacio Wainhaus Diagramación: Fabiana Di Matteo Ilustraciones: Giovanni Parrado Corrección: Germán Conde, Vera Giaconi Traducción al inglés de los sumarios: Kristie Robinson Impreso en Talleres Gráficos Nuevo Offset, Viel 1444, Buenos Aires, Argentina Los artículos que integran N ueva S ociedad son de exclusiva responsabilidad de sus autores y no reflejan necesariamente el pensamiento de la Revista. Se permite, previa autorización, la reproducción de los ensayos y de las ilustraciones, a condición de que se mencione la fuente y se haga llegar una copia a la redacción. N ueva S ociedad – ISSN 0251-3552 Oficinas: Humberto Primo 531, C1103ACK Buen­ os Ai­res, Arg­ en­ti­na. Tel/Fax:(54-11) 3708-1330 Correo electrónico: (distribución y ventas) El portal N ueva S ociedad es una plataforma de reflexión sobre América Latina. Articula un debate pluralista y democrático sobre política y políticas latinoamericanas. es un proyecto de la NUEVA SOCIEDAD 294 Julio-Agosto 2021 Índice COYUNTURA 4700 María Victoria Murillo. Protestas, descontento y democracia en América Latina..................................................................................... 4 TRIBUNA GLOBAL 4701 Ahmet Insel. La Turquía de Erdoğan: un autoritarismo electivo y autocrático............................................................................... 14 TEMA CENTRAL 4702 4703 4704 4705 4706 4707 4708 4709 4710 4711 Enzo Ferrante. Inteligencia artificial y sesgos algorítmicos. ¿Por qué deberían importarnos?.............................................................. 27 Martín Ariel Gendler. Internet, algoritmos y democracia. ¿Del sueño a la pesadilla?......................................................................... 37 Sofía Scasserra. La desigualdad automatizada. Industrialización, exclusión y colonialismo digital................................... 49 Leonardo Fabián Sai. ¿Qué es el capital cibernético?............................ 61 Sebastián Sanjurjo. Hacia un mundo digitalizado................................ 69 Juan Manuel Ottaviano. La amenaza fantasma. Inteligencia artificial y derechos laborales................................................................... 83 Daniela Muradas Antunes. Inteligencia artificial: el derecho y el revés................................................................................................. 96 Carolina Martínez Elebi. Inteligencia artificial aplicada a la salud. Luces y sombras.................................................................... 109 Johanna Caterina Faliero. Limitar la dependencia algorítmica. Impactos de la inteligencia artificial y sesgos algorítmicos...................... 120 Paul Nemitz. La democracia en la era de la inteligencia artificial............ 130 ENSAYO 4712 Christophe Prochasson. El socialismo, una cultura........................... 141 SUMMARIES Segunda página La inteligencia artificial ya no es parte de un futuro de ciencia ficción; está en nuestras vidas, a veces de manera visible y en la mayor parte de los casos, sin que seamos conscientes de ello, en ámbitos que van desde la vigilancia masiva hasta la publicidad personalizada, pasando por la medicina o el control de procesos de trabajo. Sin embargo, a pesar de que en el Norte global hace tiempo que esta temática viene dando pie a diversas discusiones, activismos y libros de amplia circulación, en una América Latina siempre agobiada por las coyunturas críticas ha generado menos atención en la conversación pública. Por eso, en este número de N ueva S ociedad hemos convocado a especialistas que, en su mayoría desde América Latina, vienen trabajando y reflexionando sobre los usos de la inteligencia artificial, sus luces y sus sombras, sus efectos en la autonomía individual y en la propia democracia, y sobre las necesidades de regulación. Enzo Ferrante abre el Tema Central con un artículo sobre inteligencia artificial y sesgos algorítmicos. El artículo pone el foco en la forma en que se entrenan los sistemas y funciona el aprendizaje automático. Estos sesgos conllevan el riesgo de perpetuar las desigualdades actuales, además de contener a menudo expresiones de racismo y sexismo, pero ahora detrás de la supuesta neutralidad tecnológica. Por su parte, Martín Ariel Gendler analiza la relación entre internet, algoritmos y democracia y muestra cómo cambiaron las percepciones sobre el potencial democratizador de la red de redes. Como resultado de la masificación de los mecanismos de personalización y perfilamiento algorítmico, se ha pasado, a veces de manera poco matizada, de la celebración de las potencialidades de internet al énfasis en su contracara: las posibilidades de manipulación y vigilancia que implica. Esto incluye, a menudo, discursos catastrofistas respecto al establecimiento de un dominio casi total. segunda página 3 La inteligencia artificial plantea también nuevos problemas y desafíos respecto de la industrialización del Sur global, que se enfrenta a formas novedosas de colonialismo digital. Sofía Scasserra muestra que, lejos de reducir las desigualdades, las normas que están siendo negociadas en la Organización Mundial del Comercio( omc ) podrían agravar las brechas globales existentes. El capital cibernético, escribe Leonardo Fabián Sai, es una forma específica de capital de alta tecnología capaz de subsumir el lazo social, que al apropiarse de las relaciones sociales mediante dispositivos tecnológicos, trastoca el conjunto de las relaciones humanas en una acumulación de datos mediante los cuales es posible la predicción de la conducta humana, lo que plantea nuevos desafíos al análisis social. Se trata del avance hacia un mundo digitalizado, que como señala en su artículo Sebastián Sanjurjo, tensiona la tradición humanista fundante, junto con la tradición científica, de la modernidad. Juan Manuel Ottaviano analiza los efectos de la inteligencia artificial sobre los derechos laborales. Los algoritmos son cajas negras a las que ni los sindicatos ni los trabajadores pueden acceder, mientras que los recursos de organización del trabajo resultan hoy inseparables de los medios de vigilancia. Por eso, abrir estas cajas negras y regularlas resulta hoy fundamental para defender los derechos de los trabajadores y las trabajadoras y prevenir el ludismo silencioso frente a la tecnología. Una forma de acceder a ellos, escribe Daniela Muradas Antunes, es la ingeniería inversa, un«peinar a contrapelo» estas tecnologías para acceder a sus lógicas internas y traer a la superficie sus sesgos y sus lógicas desigualitarias. Uno de los campos que mejor reflejan las tensiones entre luces y sombras del big data , la inteligencia artificial y el aprendizaje automático es el área de la salud. Es también, como escribe Carolina Martínez Elebi, un espacio que acerca estas tecnologías a nuestra vida cotidiana. Allí se combinan grandes avances en la detección de enfermedades, riesgos de caer en el«solucionismo tecnológico» y necesidad de regulación y defensa de la privacidad. Respecto de esto último, Johanna Caterina Faliero vuelve sobre los impactos jurídicos y las tensiones en materia de derechos relativas a las aplicaciones que hacen uso de inteligencia artificial, y llama a atender en particular las problemáticas de los sesgos y la discriminación algorítmica. Frente a ello, propone el derecho al anonimato y la autodeterminación informativa como formas de enfrentar la dependencia algorítmica. Finalmente, Paul Nemitz se plantea cómo mantener y fortalecer la democracia y el Estado de derecho en un contexto de creciente expansión de la inteligencia artificial. Posiblemente la respuesta a la pregunta que organiza este número de N ueva S ociedad –¿qué sabemos de la inteligencia artificial?– sea«poco». Sin embargo, tratar de profundizar ese conocimiento es clave para ampliar la capacidad ciudadana de incidir en el rumbo político y social a escala global y, en definitiva, para el futuro de la democracia. | coyuntura Protestas, descontento y democracia en América Latina María Victoria Murillo Las protestas y estallidos sociales vienen marcando la coyuntura política latinoamericana. Luego de un paréntesis al comienzo de la pandemia de covid-19, han reemergido con fuerza en varios países de la región. Las movilizaciones no tienen, sin embargo, una direccionalidad única, ni un solo punto de llegada. Y vuelven a poner de relieve las tensiones entre desigualdades y democracia. 2019 será recordado como el año del estallido social en América Latina. En su último trimestre, emergieron protestas en Ecuador, Chile, Bolivia y Colombia. El miedo al contagio de covid-19 pareció sofocarlas cuando la pandemia llegó a la región en 2020. Sin embargo, en Bolivia y en Colombia, el descontento pudo más que el miedo y la gente salió a las calles aun con pandemia 1 . En Perú y Paraguay, que habían vivido crisis institucionales en 2019, las protestas estallaron a fines de 2020 y principios de 2021, respectivamente. ¿Qué significan las manifestaciones de la ciudadanía en medio de una crisis sanitaria y económica? ¿Y qué nos dice su ausencia? En este artículo, intentaré María Victoria Murillo: es profesora titular de Ciencia Política y de la Escuela de Asuntos Públicos e Internacionales y directora del Instituto de Estudios Latinoamericanos en la Universidad de Columbia (Nueva York). Su último libro es La ley y la trampa. Por qué optar por el debilitamiento institucional puede ser una estrategia política (en coautoría con Daniel Brinks y Steve Levitsky, Siglo Veintiuno, Buenos Aires, 2021). Palabras claves: democracia, desigualdades, protestas, América Latina. Nota: la autora agradece los comentarios de Ernesto Cabrera y la conversación en la sesión de«lasa 2021: Democracia y protesta social», con Aníbal Perez-Liñán, Rossana Castiglioni, Martín Tanaka y Felipe Burbano, 28/5/2021. 1. En el caso boliviano, las protestas de 2019 y 2020 fueron de diferente signo político: contra el gobierno de Evo Morales primero, y luego contra el de Jeanine Áñez por parte de fuerzas cercanas al ex-presidente exiliado en Argentina. coyuntura | Protestas, descontento y democracia en América Latina 5 esbozar algunas ideas sobre el significado del malestar social, así como potenciales escenarios para los sistemas políticos de la región, que reflejan diferentes modos de canalizar ese malestar y nos hablan de las promesas incumplidas de la transición democrática. Las transiciones democráticas de los años 80 ocurrieron en el contexto de una profunda crisis económica: la crisis de la deuda externa, que provocó una recesión tan grande que dio en llamarse a esos años la«década perdida» de América Latina. La interpretación de esta crisis como indicador de la inoperancia de los gobiernos autoritarios empujó la democratización de la región. Durante las transiciones, los politólogos se dividían entre dos temores. Había quienes pensaban que las jóvenes democracias no sobrevivirían a la pobreza y desigualdad que heredaban porque sus crisis fiscales no les dejarían atender las demandas de las mayorías excluidas que ganaban entonces el derecho a expresarse políticamente. Y por otro lado, estaban quienes temían que las elites que habían apoyado los golpes de sus aliados militares interrumpieran el proceso si no se contenían las demandas de esas mayorías excluidas 2 . El despertar democrático no trajo redistribución para las mayorías que ganaron derechos políticos, sino procesos de ajuste económico y una ola de reformas de mercado que parecían inevitables cuando la caída del Muro de Berlín anunciaba el fin de la utopía comunista. Las elites económicas perdieron el miedo a la democracia, y si bien los militares se resistieron a los intentos de juzgar sus crímenes contra los derechos humanos, se mantuvo la paz social, ya fuera por miedo a la represión pasada o por el desgaste que implicaba la supervivencia económica, con el aumento de la pobreza y la informalidad que trajeron los años 90. Cuando las elites políticas parecían acordar en lo que se llamó el Consenso de Washington(reformas que incluían privatizaciones, desregulación y liberalización comercial), la resistencia de las clases populares empobrecidas comenzó a surgir y se agudizó con la crisis económica que caracterizó el último lustro del siglo xx. Si bien el descontento desbordó las calles, como durante el Caracazo en Venezuela o las llamadas «guerras» del gas y del agua en Bolivia, se expresó mayormente utilizando los canales políticos abiertos por la democracia; es decir, con el abandono de los partidos que promovían políticas de mercado y la búsqueda de otras alternativas. Esta estrategia democrática generó un aumento en la volatilidad electoral en busca de nuevas opciones y abrió paso a liderazgos que reconfiguraron totalmente los sistemas de partidos en Venezuela, Ecuador y Bolivia y, parcialmente, en Argentina 2. En la ciencia política estadounidense, Stephan Haggard y Robert Kaufman: The Political Economy of Democratic Transitions (Princeton up, Princeton, 1995) es un ejemplo del primer grupo, mientras que Guillermo O’Donnell y Philippe Schmitter: Transitions from Authoritarian Rule. Tentative Conclusions About Uncertain Democracies (Johns Hopkins up, Baltimore, 1986) es un ejemplo del segundo. 6 María Victoria Murillo | nueva sociedad | 294 y en Uruguay 3 . En otros casos, existía un partido que proveía una alternativa a la fuerza de gobierno, como en Brasil, pero allí no se produce una reconfiguración del sistema de partidos y el Partido de los Trabajadores(pt) no logra nunca mayorías legislativas, por lo que depende de gobiernos de coalición 4 . En todos estos casos, las novedades políticas polarizan los sistemas de partidos(incluso en Brasil, con el clivaje petismo/antipetismo). Con el nuevo milenio, llegaron los altos precios de las materias primas empujados por la demanda asiática que cambiaba la geopolítica mundial. Para Sudamérica, tan dependiente en recursos naturales, el maná caía del cielo. Además del aumento de la riqueza y su traslado a los mercados de trabajo, los recursos fiscales permitieron políticas redistributivas que facilitaron la reducción de la pobreza y la desigualdad, la expansión de la educación y la emergencia de una nueva clase media que aspiraba a la movilidad social, aunque era todavía muy vulnerable a cualquier shock negativo por su falta de ahorros y dependía de un Estado que garantizara servicios públicos y sociales de calidad 5 . La democracia, sin embargo, parecía por primera vez cumplir con la promesa de redistribución que los politólogos de la transición democrática habían imaginado como consecuencia lógica del cambio de régimen, pero sin el retorno a los golpes militares que los atemorizaba en los años 80. Mientras las clases populares aumentaban sus expectativas sociales y buscaban que la política las resolviera, las elites se centraban en la emergente tensión entre democracia y república. Todos parecían ignorar, sin embargo, las limitaciones de las mismas promesas que parecían cumplirse, con una educación que se expandía a un ritmo mayor que su calidad y un modelo de desarrollo que recaía en proyectos extractivistas que proveían recursos fiscales sin resolver la demanda de empleo ni tomar en serio los costos medioambientales, mayormente pagados por grupos vulnerables tanto rurales como urbanos. Pese a las mejoras en los mercados laborales, estos continuaron siendo altamente excluyentes y segmentados por la informalidad, mientras que reforzaban desigualdades sociales que se superponían a otras diferencias étnicas, de raza y de género. 3. En Argentina, se fragmentaron el peronismo y su oposición, que perdió al radicalismo como punto focal, lo que dio lugar a la emergencia de nuevos partidos; en Uruguay, la llegada del Frente Amplio(fa) acabó con el bipartidismo de blancos y colorados. Tanto la facción kirchnerista del peronismo como el fa generarían nuevos ejes de polarización electoral. 4. Kenneth M. Roberts: Changing Course in Latin America: Party Systems in the Neoliberal Era, Cambridge up, Cambridge, 2014; David J. Samuels y César Zucco: Partisans, Anti-Partisans, and NonPartisans: Voting Behavior in Brazil , Cambridge up, Cambridge, 2018. 5. M.V. Murillo, Virginia Oliveros y Milan Vaishnav:«Voting for the Left or Governing on the Left?» en S. Levitsky y K. Roberts(eds.): Latin American Left Turn, Johns Hopkins up, Baltimore, 2011; Nora Lustig:«Desigualdad y política social en América Latina» en Corporación Andina de Fomento(caf): El desafío del desarrollo in América Latina. Políticas para una región más productiva, integrada e inclusiva , caf, Caracas, 2020. coyuntura | Protestas, descontento y democracia en América Latina 7 Con el fin del boom de las materias primas en 2014, comienza un proceso de reversión de las mejoras sociales respecto a la desigualdad y la pobreza. Las promesas de movilidad social a través de la educación, anhelo de la nueva clase media, se vuelven cada vez más difíciles de cumplir 6 . Más aún, esa nueva clase media comienza a percibir su vulnerabilidad frente a los shocks y la ausencia o deficiencia de los servicios públicos, en sociedades donde sus oportunidades laborales están marcadas por distancias sociales impuestas por origen, geografía, etnicidad, raza, informalidad y género. Al deterioro económico se le suma la inseguridad ciudadana, que pareciera agudizarse por la incapacidad e incluso la complicidad estatal con el crimen organizado, y a la desaceleración de las mejoras sociales se le agregan los escándalos de corrupción que llevaron a presidentes, vicepresidentes y otros funcionarios al procesamiento judicial. Llegamos entonces a 2019 con«vacas flacas» y un Estado que no puede compensar las debilidades del mercado. En lugar de poder reactivar a través del gasto, el sector público camina la senda del ajuste fiscal. Estos ajustes económicos encienden la mecha de la protesta en Ecuador, Chile y Colombia. En Bolivia, se trató de una crisis de legitimidad política 7 . Perú y Paraguay también vivieron crisis institucionales en 2019(pero estas no se expresarían en protestas hasta ya entrada la crisis sanitaria provocada por la pandemia). El deterioro económico y el consiguiente malestar que provocaba no siempre se expresaron en las calles, sino que a veces resultaron en votos que castigaban al partido de gobierno, como sucedió en las elecciones presidenciales de 2019, que obligaron al recambio en Argentina(donde perdió la derecha) y en Uruguay(donde perdió la izquierda). En 2020, llegó la pandemia. Las cuarentenas y el miedo acallaron las protestas, aunque sus causales solo empeoraron. La región no solo sufrió el impacto de la enfermedad que hizo epicentro en ella durante mucho tiempo, sino que además entró en recesión. En 2020 la economía latinoamericana cayó 7,7% según la Comisión Económica para América Latina y el Caribe(Cepal) 8 . Esa caída tuvo un impacto desigual entre quienes podían trabajar remotamente y un gran sector de trabajadores informales que se quedaron de un día para el otro sin posibilidad de ganar el sustento. La región también fue la que más días de educación perdidos acumuló, lo que siguió profundizando la desigualdad 6. N. Lustig: ob. cit. 7. Las protestas en Bolivia se relacionan con la desconfianza frente al proceso electoral, porque el presidente Evo Morales ignoró la prohibición de ser reelecto pese a haber convocado y perdido un plebiscito al respecto. Las movilizaciones poselectorales, en conjunto con un motín policial, llevaron a que el ejército «sugiriera» la renuncia presidencial y a que se iniciara un proceso de sucesión no institucional. Nuevas protestas desafiaron la represión militar para pedir una normalización electoral y volvieron a hacerlo en pandemia, hasta la realización de una nueva elección presidencial en la que Morales no fue candidato, pero la fórmula de su partido, encabezada por el ex-ministro Luis Arce Catacora, obtuvo 55% de los votos. 8. Cepal: Panorama social de América Latina 2020 , Naciones Unidas, Santiago de Chile, 2021. 8 María Victoria Murillo | nueva sociedad | 294 entre quienes tienen acceso a tecnologías para educación remota y quienes no. La pobreza y el desempleo aumentaron, la corrupción se inmiscuyó en el manejo de la pandemia y, en muchos casos, las elites políticas siguieron mostrando falta de empatía con una población cada vez más angustiada. Hasta que el malestar explotó, y entonces los jóvenes encabezaron las protestas pese a la represión y la pandemia. Si bien en Bolivia las protestas habían continuado intermitentemente hasta que se convocó a la nueva elección presidencial, en Perú tomaron la forma de un estallido. El motivo fue que el Congreso(con poca legitimidad) declaró la vacancia del popular presidente interino Martín Vizcarra(recordemos que el presidente Pedro Pablo Kuczynski, elegido en 2016, había renunciado en 2018 para evitar una jugada similar). El enojo de la ciudadanía se manifestó en las calles y obligó a renunciar al presidente designado por el Congreso. Le siguieron las protestas de Paraguay en marzo de 2021 y la explosión de mayo en Colombia, donde la mecha fue encendida por una reforma impositiva y, pese a una brutal represión con muertos y desaparecidos, las protestas continúan un mes más tarde. La movilización refleja un descontento que nos remonta a los miedos de los«transitólogos» sobre la coexistencia de la democracia con una enorme desigualdad y pobreza. Y en este punto hay que pensar no solamente en los altos niveles de desigualdad, sino también en su trayectoria, que había parecido descendente hasta mediados de la década pasada. La politización de la desigualdad llega en un momento en que esa trayectoria se detiene y esto hace trizas las esperanzas de movilidad social, o al menos de mejora en el bienestar que había generado. Las nuevas generaciones ya no quieren volver a naturalizar la desigualdad y expresan su descontento políticamente(aunque también de otros modos que van más allá de este ensayo). En ese contexto de descontento social, podemos pensar en al menos tres escenarios políticos posibles para entender esquemáticamente las trayectorias de los países(aun reconociendo sus múltiples especificidades). El primer escenario es el de fragmentación o desestructuración política, donde el descontento popular con las elites políticas se expresa en las calles y electoralmente no encuentra un punto focal. Este escenario aparece en sistemas políticos con elites económicas poderosas, donde la estabilidad macroeconómica se mantuvo y los procesos de redistribución material y simbólica habilitados por el boom de las materias primas fueron sostenidos, pero no dramáticos. Chile es el caso paradigmático. El«octubre chileno» que estalló en 2019 movilizó a 20% de la población a las calles y forzó la celebración de un plebiscito para decidir sobre la necesidad de redactar una nueva Constitución. Los resultados electorales de la consulta de octubre de 2020 confirmaron el enojo de la ciudadanía, con un apoyo de 80% a la convocatoria de una Convención Constitucional(pese al muchísimo mayor apoyo financiero a la opción del rechazo). La elección de constituyentes, en mayo de 2021, volvió a señalar el descontento de la ciudadanía coyuntura | Protestas, descontento y democracia en América Latina 9 con los partidos tradicionales, ya que un tercio de los escaños quedó en manos de candidatos independientes. En Perú, jóvenes descontentos frente a una pelea palaciega que ignoraba la crisis sanitaria y económica del país salieron a las calles desafiando la pandemia en noviembre de 2020. El fastidio de la ciudadanía con esos políticos ajenos a su sufrimiento quedó plasmado en una elección presidencial en la que la fragmentación electoral fue tal, que el 18% que obtuvieron los votos blancos y nulos casi emparejó al candidato más votado, mientras que la segunda candidatura recibió 13% de apoyo electoral. En la segunda vuelta entre esos dos candidatos, Pedro Castillo y Keiko Fujimori, y con una campaña que polarizó a la opinión pública agitando el espectro del comunismo si ganaba el primero, el voto se dividió por clase social y geografía. Castillo ganó por menos de un punto porcentual 9 . En Colombia, también la ciudadanía se expresó en las calles retomando las protestas de 2019, pese a una represión brutal heredera de años de conflicto armado que había contenido durante mucho tiempo la movilización. Sin embargo, todavía es temprano para definir las consecuencias electorales de esa movilización. En Chile, Perú y Colombia, los jóvenes lideraron las protestas en el marco de una menor densidad organizativa de la sociedad civil y, por ende, la falta de representantes claros con capacidad para negociar salidas de la crisis. En estos casos no hay un liderazgo definido de las protestas, pero los jóvenes comparten su frustración frente a una educación superior cuyo costo no se condice necesariamente con su calidad, o con la provisión de habilidades que permitan un empleo digno y la movilidad social prometida por la expansión educativa. En los tres países, las anteriores protestas habían sido localizadas geográfica o temáticamente y no habían encontrado respuesta en el sistema político(incluso a veces la represión fue la única respuesta). Esta nueva ola de protestas, cuyas consecuencias todavía no terminan de vislumbrarse, se expandió a través del territorio y sorprendió a las elites políticas y económicas, que hasta entonces se habían sentido seguras. El segundo escenario es de continuidad de la polarización. En estos casos, los sistemas políticos ya sufrieron una crisis de representación de los partidos tradicionales en respuesta a las reformas de mercado de los años 90. Esas crisis permitieron la emergencia de nuevos liderazgos que prometían renovación y ocupaban el espacio de oposición a esas políticas, especialmente tras la recesión del último lustro del siglo xx. Los gobiernos de izquierda que llegaron con el recambio pudieron aprovechar el boom de las materias primas para beneficiarse del consiguiente crecimiento económico y redistribuir recursos más significativamente con el fin de compensar los efectos de las políticas anteriores en 9. Los votantes de menor ingreso y del interior apoyaron a Castillo, y los de mayor ingreso y de la región limeña, a Fujimori. La gobernabilidad será difícil porque Castillo solo cuenta con 28% de los escaños en el Congreso. 10 María Victoria Murillo | nueva sociedad | 294 la estructura social. A los recursos fiscales del boom , estos nuevos liderazgos sumaron la explícita representación de los sectores populares formales e informales incluyendo diferentes grados de confrontación con las elites económicas. En los casos más personalistas, la concentración de poder generó tensiones importantes con la democracia, lo que dio paso a procesos de backsliding o erosiones incrementales que deterioraban el régimen democrático de un modo que no había sido previsto por los«transitólogos», como ocurrió en el caso de Venezuela 10 . Bolivia, Argentina y Ecuador representan el escenario de democracias con continuidad de la polarización(tal vez también Uruguay, aunque sin liderazgos personalistas). La polarización surgida de la anterior crisis de representación todavía organiza sus sistemas políticos, aunque está empezando a desarticularse en el caso ecuatoriano, donde el movimiento indígena y los jóvenes desconfían del correísmo y las protestas también estallaron en 2019 lideradas por el movimiento indígena. En estos países, los sectores populares están más organizados y las protestas se sostienen al ritmo de los ajustes, pero con liderazgos sociales que permiten la negociación y establecen límites a la política pública. El movimiento indígena en Ecuador y el piquetero 11 en Argentina son ejemplos de esa capacidad, que permitió negociar el fin de las protestas sociales de 2019 en Ecuador y evitar su ocurrencia en Argentina ese mismo año (las protestas limitadas que se registraron durante la pandemia han representado hasta ahora a sectores de centroderecha de oposición al gobierno de Alberto Fernández). Incluso en Bolivia, donde la ruptura institucional emergió después de la movilización polarizada de sectores juveniles urbanos de clase media, las protestas organizadas por movimientos sociales asociados al Movimiento al Socialismo(mas) fueron claves para el retorno del calendario electoral incluso durante la pandemia. En este escenario, la organización de los sectores populares y la polarización social y política son todavía claves para comprender la protesta, aunque las consecuencias de la pandemia pueden modificar los patrones de polarización en el futuro. El tercer escenario de liderazgos reestructuradores del sistema político refleja también un descontento ciudadano con los partidos políticos tradicionales similar al del primer escenario. Sin embargo, en lugar de volcarse a las calles, este descontento encuentra un punto focal alrededor de un liderazgo electoral que se presenta como renovador y busca reestructurar el sistema político. El Salvador y México son casos emblemáticos. En ambos países, las transiciones tardías se combinaron con la gran dependencia de la economía estadounidense, expresada en 10. Nancy Bermeo:«On Democratic Backsliding» en Journal of Democracy vol. 27 N o 1, 1/2016. 11.El movimiento piquetero nació a mediados de la década de 1990 para organizar a los desempleados y trabajadores informales, y llevó adelante cortes de rutas, ollas populares e incluso el reparto de asignaciones monetarias con diversos tipos de contraprestaciones en trabajo comunitario. coyuntura | Protestas, descontento y democracia en América Latina 11 la integración comercial, la migración y las remesas. Esa misma dependencia de Estados Unidos proveyó mecanismos de protección a las elites económicas que limitaron el alcance de los procesos de redistribución en los años 2000 y redujeron la volatilidad económica provocada por los ciclos de precios de materias primas presente en los otros dos escenarios 12 . En El Salvador y en México, los partidos políticos tradicionales no solo se mostraron incapaces de responder a las demandas de seguridad personal de la ciudadanía y a la necesidad de un modelo económico inclusivo, sino que también fueron salpicados por escándalos de corrupción. En ambos países, el descontento popular encontró un líder que los acusaba de«ser lo mismo» y prometía un mundo mejor, tal como había ocurrido en los países que entraron en crisis de representación a fin del siglo pasado, tras las reformas de mercado. El Partido Revolucionario Institucional(pri), el Partido Acción Nacional(pan) y el Partido de la Revolución Democrática(prd), que habían pactado la transición mexicana, fueron perdiendo capacidad para diferenciarse. Durante la presidencia del priísta Enrique Peña Nieto, el Pacto por México, firmado en 2012, acentuó el acercamiento entre estos tres partidos, que acordaron reformas políticas en busca de un crecimiento económico que venía eludiendo a México. Sin embargo, ni la economía mejoró, ni la violencia y la complicidad estatal (cuya visibilidad se incrementó con el caso de los estudiantes desaparecidos en Ayotzinapa en 2014) disminuyeron. En la elección de 2018, el pan y el prd, nacidos a ambos lados del espectro ideológico del pri, respaldaron incluso al mismo candidato presidencial. Este acercamiento y su pobre desempeño aumentaron la credibilidad de la denuncia de Andrés Manuel López Obrador y le permitieron construir una identidad renovadora pese a su pasado priísta y perredista. Los escándalos de corrupción que salpicaban a los partidos solo hicieron más atractiva su oferta electoral y le permitieron alcanzar 53% de los votos en las elecciones presidenciales y controlar una mayoría en el Congreso. En las elecciones legislativas de junio de 2021, su coalición logró mantener la mayoría en el Congreso, aunque no obtuvo la supermayoría que buscaba para aprobar cambios constitucionales 13 . Sin embargo, las elecciones de gobernador muestran su expansión territorial, pese a haber tenido un revés significativo en su bastión de Ciudad de México. En El Salvador, Alianza Republicana Nacionalista(Arena) y el Frente Farabundo Martí para la Liberación Nacional(fmln) habían firmado los acuerdos de paz que llevaron a la transición democrática y se alternaron en el gobierno sin poder resolver la creciente violencia contra la que terminaron 12. Daniela Campello y C. Zucco: The Volatility Curse , Cambridge up, Cambridge, 2020; N. Lustig: ob. cit. 13. Esta caída es, sin embargo, menor que la sufrida en anteriores elecciones de medio término por el partido de gobierno y ocurre en un contexto de crisis sanitaria y sin mejora en los indicadores económicos o de seguridad. 12 María Victoria Murillo | nueva sociedad | 294 usando similares políticas represivas. También ahí los escándalos de corrupción involucraron a presidentes de ambos partidos y señalaron la falta de conexión entre la política y las calles. Como en México, esta desconexión no resultó en una gran movilización popular, sino que se canalizó en el apoyo a la candidatura de Nayib Bukele, quien denunciaba a los dos partidos tradicionales(a pesar de haber empezado su carrera política en el fmln). Bukele logró un enorme apoyo popular y recibió 53% de los votos en la elección presidencial de 2019, sustentado en gran parte por el electorado más joven –elegido con 37 años, es el presidente más joven de la región–. En las elecciones legislativas de febrero de 2021, su liderazgo se confirmó en el apoyo a su nuevo partido, lo que empujó a los partidos tradicionales hacia la irrelevancia electoral y le permitió a Bukele el control del Congreso 14 . Los liderazgos de López Obrador y Bukele se parecen por su apoyo entre los más jóvenes y los más educados y por sus estrategias de concentración de poder personal a partir de su gran popularidad 15 . Ambos prometen cambiar sus sistemas políticos y se caracterizan por liderazgos personalistas. Si bien su concentración de poder puede amenazar los contrapesos de una democracia representativa, es también más fácil para los poderes económicos negociar cuando hay líderes que cuando se enfrenta el enojo generalizado que caracteriza a Chile, Perú y Colombia. Pese a que estos casos de liderazgo polarizador se parecen al segundo escenario, el contexto económico es diferente. Si bien los precios de las materias primas están subiendo nuevamente, esto no alcanza para cubrir las necesidades fiscales de la región en el marco de la pandemia, y es más difícil construir una coalición duradera sin tener recursos para distribuir, dados los altos niveles de pobreza e informalidad en la región. La pandemia abre un nuevo escenario de incertidumbre, que se suma a la multiplicidad de identidades políticas en una región donde al feminismo y las organizaciones lgbti+, a los movimientos indígenas y afrodescendientes y a la multiplicidad de organizaciones locales que resisten desastres ecológicos se les suman las nuevas iglesias evangélicas y movimientos conservadores locales que hacen incierta la lógica de la movilización democrática. La movilización empuja cambios 14. Bukele usó de inmediato el control del Poder Legislativo para reemplazar a cinco jueces de la Corte Suprema con aliados, con lo que logró concentrar aún más poder. Ver Oscar Pocasangre:«Why El Salvador’s Multi-Party System Is on the Brink of Collapse» en El Faro , 24/2/2021 y Jimmy Alvarado, Roxana Lazo y Sergio Arauz:«Bukele usa a la nueva Asamblea para tomar control de la Sala de lo Constitucional y la Fiscalía» en El Faro , 2/5/2021. 15. Estos datos corresponden a la elección presidencial, y no a las legislativas. V.«La población salvadoreña en las elecciones presidenciales de 2019», Documento de Trabajo N o 1/2019, Fundaungo, p. 40, y«4 datos que caracterizan a los electores que votaron por López Obrador» en Expansión , 10/7/2018. En el caso de México, en las elecciones legislativas de 2021 cae el apoyo a Morena entre los jóvenes y los más educados, y se mantiene un menor apoyo entre las mujeres, mientras que sube entre los más pobres. Ver Santiago Rodríguez:«Las grietas de Morena: jóvenes, mujeres y clases medias» en El País , 9/6/2021. coyuntura | Protestas, descontento y democracia en América Latina 13 políticos, pero no necesariamente conocemos su destino, ya que responde a ciclos de protesta y a la heterogeneidad de los actores que la empujan. La incertidumbre en la dirección de la protesta social es ilustrada por las movilizaciones de Brasil en 2013. Un grupo de jóvenes estudiantes inició la protesta en respuesta a un aumento en las tarifas de transporte. La represión policial contribuyó a expandir las movilizaciones, que ampliaron sus demandas al acceso y la calidad de los servicios públicos frente al gasto en estadios para el Mundial de Fútbol y las Olimpíadas, que Brasil buscaba utilizar para venderse al mundo. Aunque la presidenta Dilma Rousseff respondió a las demandas, su popularidad resultó afectada y su reelección en 2014 fue ajustada. La movilización, sin embargo, se expandió hacia grupos conservadores que saldrían posteriormente a las calles para pedir el juicio político de Rousseff, en un contexto de deterioro económico y alto impacto público de la corrupción(gracias a la operación Lava Jato). Esta movilización facilitó la defección de sus aliados de la coalición de gobierno, frente a lo cual el minoritario pt no pudo evitar el impeachment a la presidenta. En ese vacío se montó la candidatura de Jair Bolsonaro, quien prometió la renovación política, aunque a diferencia de México y El Salvador, llegó al poder gracias a alianzas con partidos tradicionales, en el contexto fragmentado de la política brasileña. La marea puede volver a cambiar, dados el gran descontento con Bolsonaro y la liberación del expresidente Luiz Inácio Lula da Silva; este último lidera, en este momento, las encuestas para la elección presidencial de 2022 16 . Es decir, la movilización y el descontento popular no tienen una direccionalidad única, ni un único punto de llegada. La difícil convivencia entre democracia y desigualdad, agudizada por la reciente explosión de descontento en un contexto de crisis económica y sanitaria, resultó en los tres escenarios descriptos. Estos escenarios definen equilibrios inestables. Es verdad que la ciudadanía con demandas insatisfechas busca una democracia que la escuche, le preste atención y la siente a la mesa donde se toman las decisiones. Esa demanda de legitimidad democrática es más importante que los límites a la política pública que sugerían los«transitólogos» con miedo al retorno militar. Sin embargo, aunque esa legitimidad es necesaria para sostener la democracia, no es suficiente si no se asocia a una esperanza de mayor bienestar futuro, y este puede ser definido de muchas maneras dada la heterogeneidad de las demandas organizadas por el descontento. La democracia latinoamericana superó la transición, pero su consolidación requiere una combinación de inclusión y capacidad de respuesta que, esperemos, resulte de los procesos de movilización que está viviendo la región en este momento. 16. Recordemos que un proceso judicial que no siguió el debido cauce le impidió presentarse como candidato frente a Bolsonaro y su anulación le permite hacerlo en la próxima elección. | tribuna global La Turquía de Erdo ğ an: un autoritarismo electivo y autocrático Ahmet Insel Recep Tayyip Erdo ğ an convirtió su partido en una maquinaria de guerra personal, al tiempo que el erdoganismo se afianzó como un régimen que combina autoritarismo electoral, populismo e islamismo, con el nacionalismo turco como principal argamasa. Los resentimientos contra Occidente son parte de las razones de su fortaleza. A comienzos de la década de 2010, durante los primeros meses de los levantamientos contra los dictadores en los países árabes del Magreb y Oriente Medio, la diplomacia de los países occidentales y gran parte de la prensa señalaban a Turquía, gobernada desde 2002 por el Partido de la Justicia y el Desarrollo(akp, por sus siglas en turco), como ejemplo de un«islam moderado y democrático» en el que los países arabo-musulmanes deberían inspirarse. Los editores de la revista Time habían seleccionado a Recep Tayyip Erdoğan, el líder del akp, entre los candidatos a Personaje del Año 2011. Justificaban su elección en estos términos:«Reelecto para un tercer mandato sin precedentes,[Erdoğan] ha convertido a Turquía en el segundo país con el más rápido crecimiento después de China; fomenta la democracia laica en Egipto y Túnez» y representa«un modelo para los islamistas en ascenso» en esas posdictaduras. Para el semanario liberal, Erdoğan,«un aliado clave de Ahmet Insel: periodista turco. Es autor de La nouvelle Turquie d’Erdogan. Du rêve démocratique à la dérive autoritaire (La Découverte, París, 2015). Palabras claves: autoritarismo, islamismo, Recep Tayyip Erdoğan, Turquía. Nota: la versión original de este artículo en francés se publicó en Critique N o 889-890, 6-7/2021, con el título«Un autoritarisme électif et autocratique. L’erdoganisme». Traducción: Gustavo Recalde. tribuna global | La Turquía de Erdo ğ an: un autoritarismo electivo y autocrático 15 Estados Unidos con un compromiso fuerte con la otan[Organización del Tratado del Atlántico Norte]», jugaría un papel cada vez más preponderante en la región en los años venideros, en el contexto de«la rebelión árabe, la retirada estadounidense de Iraq y la creciente tensión internacional en relación con Irán» 1 . Diez años después, Erdoğan era mencionado por los mismos medios, junto con Vladímir Putin y Xi Jinping, como el tercer jinete del apocalipsis autocrático o un nuevo sultán. Sumando a esta lista a Donald Trump, los observadores europeos llamaban la atención sobre estos«nuevos amos del mundo» que solo creían en las relaciones de fuerza. Confirmando parte de lo previsto por Time sobre el lugar cada vez más importante que jugaría en la escena de Oriente Medio, no mediante la utilización de su soft power sino ejerciendo esta vez la fuerza más brutal y una diplomacia de chantaje, Erdoğan es señalado con el dedo como el ejemplo mismo de esos hombres fuertes que forman parte del«club de los rudos». Este cambio espectacular en la apreciación de la personalidad de Erdoğan en menos de diez años parece excesivo. ¿Acaso no se encontraba ya en una pendiente autoritaria en 2011? Pero además, mencionar hoy a Erdoğan, el hombre fuerte de Turquía, junto a Putin, Xi y Trump, ¿no es sobreestimar su poder, así como el estatuto internacional de su país? ¿No debería considerarse más bien a la Turquía de Erdoğan como una potencia mediana, cuya agresividad y audacia son posibles por la crisis de liderazgo internacional en la región, un país gobernado de manera brutal por un autócrata surgido de elecciones, económicamente inestable y socialmente muy frágil? La Turquía de hoy se ubica en un nivel intermedio en la escala de las antidemocracias 2 : el de los nuevos autoritarismos. Los nuevos autoritarios En una obra colectiva dirigida por Michel Duclos, se retrata a 18 de los nuevos dirigentes autoritarios actuales agrupándolos en tres categorías:«los nacional-populistas, los neoautoritarios y los autoritarios asumidos» 3 . Bajo la categoría de los autoritarios asumidos se encuentran dictadores como Bashar al Asad, Kim Jong-un, Abdelfatá al Sisi, Mohamed bin Salman y Mohamed bin Zayed y, por supuesto, Xi Jinping. Putin constituye el caso límite de esta categoría. En el grupo de los nacionalpopulistas figuran, entre otros, Jair Bolsonaro, Jarosław Kaczyński y Narendra Modi. Es el grupo intermedio de los neoautoritarios el que constituye«el principal objetivo» del libro. Rodrigo Duterte, Paul Kagame, el ayatollah Alí Jamenei y Nicolás Maduro se codean 1. Tony Karon:«The Candidates: Recep Tayyip Erdoğan » en Time , 11/11/2011. 2. Hamit Bozarslan:«Anti-démocraties et démocraties dans les années 2020» en Esprit , 10/2020. 3. M. Duclos(dir.): Le monde des nouveaux autoritaires , Institut Montaigne/ Éditions de l’Observatoire, París, 2019. 16 Ahmet Insel | nueva sociedad | 294 allí con Viktor Orbán y Erdoğan. La lista es muy heteróclita y discutible. El argumento esgrimido en el libro para sostener esta elección es su llegada al poder mediante las urnas, incluso en el caso de Jamenei, elegido por sus pares, y su ejercicio no democrático del poder. En el seno de este grupo, deben distinguirse sin embargo los cuatro primeros líderes, que ejercen su poder en el marco de un régimen político autoritario estable en sus países, de los casos de Orbán y Erdoğan, quienes representarían más específicamente el nuevo autoritarismo. Su autoritarismo es producto de una evolución en el tiempo calificada a menudo de«deriva autoritaria» 4 . Los nuevos autoritarios como Orbán o Erdoğan son dirigentes políticos que llegan al poder de una manera que se ajusta a las reglas electorales democráticas vigentes en sus países, celebran elecciones pluralistas y más bien libres, se hacen reelegir sucesivamente, pero, con el paso del tiempo, ejercen el poder en condiciones cada vez menos democráticas. Esta deriva autoritaria, con características que dependen de la particularidad del país, la capacidad de resistencia de sus instituciones democráticas y su modalidad de inserción internacional, oscila entre el autoritarismo y la autocracia. In fine , es la eliminación de las elecciones pluralistas y la desaparición de toda posibilidad de alternancia lo que constituye el Rubicón que debe cruzarse para entrar en la categoría de dictadura abierta. Desde luego, durante la campaña electoral, las elecciones se desarrollan en condiciones muy desiguales en beneficio de los partidos en el poder; los recursos judiciales se ven bloqueados por la sumisión del sistema jurídico al gobierno, pero los resultados anunciados representan grosso modo la decisión de los electores. Desde este punto de vista, las derrotas electorales sufridas en 2019 por los partidos en el poder en las grandes ciudades de Turquía y en la capital húngara siguen siendo un indicador importante para distinguir a Erdoğan y Orbán de Putin y, a fortiori , de Xi. Este nuevo autoritarismo se manifiesta con la implementación en forma intermitente de un régimen hipercentralizado en manos de una sola persona. Aprovechando momentos de turbulencias, como el intento de golpe de Estado de julio de 2016 organizado en su mayoría por miembros civiles y militares de la cofradía de Fethullah Gülen y rápidamente neutralizado, Erdoğan lleva adelante una centralización exacerbada del sistema político acompañada por una desinstitucionalización, así como por una desconstitucionalización. Hábil estratega, supo aprovechar la ocasión del golpe fallido para transformarlo en un contragolpe de Estado. Y para compensar la defección relativa de su electorado en las grandes ciudades, especialmente a causa de la degradación de la situación económica y de 4. A. Insel: La nouvelle Turquie d’Erdoğan. Du rêve démocratique à la dérive autoritaire , La Découverte, París, 2015 (edición de bolsillo aumentada, 2017). tribuna global | La Turquía de Erdo ğ an: un autoritarismo electivo y autocrático 17 cierto cansancio debido a la tensión permanente alimentada por el poder, estableció una alianza con una agrupación de extrema derecha, el Partido de Acción Nacionalista(mhp, por sus siglas en turco) luego del intento de golpe. La creación de esta«alianza del pueblo», con rasgos abiertamente islamo-nacionalistas, aceleró y extendió la represión política en curso tras el masivo movimiento de protesta que se había propagado, en junio de 2013, desde el Parque Gezi y la Plaza Taksim, en Estambul, a toda Turquía. El país figura actualmente en los últimos lugares en las clasificaciones mundiales sobre democracia, libertad de prensa y, en general, respeto de los derechos humanos. La deriva autoritaria del akp se extendió de manera progresiva en un largo periodo y se vio facilitada por el sistema político heredado, un sistema híbrido que combina instituciones democráticas con reglas y prácticas autoritarias modeladas, entre otras cosas, por golpes de Estado militares. El título del dossier sobre Turquía de la revista Confluences Méditerranée recuerda con justa razón esta permanencia. Turquía vive«el retorno del autoritarismo» 5 . La transformación del régimen, puesta en marcha con la elección por sufragio universal del presidente en 2014, la primera en la historia de la República de Turquía, constituye el hilo conductor de los artículos que componen ese dossier . Pero ¿se trata acaso de un simple retorno al autoritarismo de antaño o de la instauración de un régimen autoritario de nuevo tipo? En otra obra colectiva, las etapas sucesivas, desde los acontecimientos del Parque Gezi hasta el referéndum constitucional de 2017, se analizan a la luz de la transformación del sistema político y las dinámicas sociales con el fin de mantener el dominio electoral del akp a través de un cambio de régimen político 6 . ¿Un nuevo autoritarismo? Tras haber dirigido el país como primer ministro durante 11 años, con una cómoda mayoría parlamentaria, Erdoğan fue elegido presidente en primera vuelta en el verano de 2014. Luego de su elección, declaró que, como consecuencia de ello,«en los hechos, el régimen se volvió presidencial». Tres años después, gracias a las reformas constitucionales, se instaló un régimen hiperpresidencialista aunque legitimado por un apoyo popular muy frágil durante el referéndum de 2017 7 . Administrando el país con una estrategia de crisis y tensión permanentes, Erdoğan convirtió su partido en una máquina de guerra personal y alejó a 5. « Turquie: le retour de l’autoritarisme » , dossier coordinado por Yohanan Benhaim, Uğur Kaya y Dilek Yankaya en Confluences Méditerranée N o 107, invierno 2018-2019. 6. Susannah Verney, Anne Bosco y Senem Aydın-Düzgit(dirs.): The akp Since Gezi Park: Moving to Regime Change in Turkey , Routledge, s./l., 2019. 7. Berk Esen y Şebnem Gümüşçü: « A Small Yes for Presidentialism » en S. Verney, A. Bosco y S. Aydın-Düzgit (dirs.): ob. cit. 18 Ahmet Insel | nueva sociedad | 294 quienes se mostraban reticentes a esta deriva autocrática. Jean-François Pérouse describe justamente esta transformación del akp en un partido de Estado al servicio de su jefe absoluto 8 , y Cemil Yildizcan analiza sus consecuencias en el funcionamiento de las administraciones departamentales 9 . Desde la declaración del estado de emergencia en 2016, se llevó a cabo una recentralización para acelerar la toma de decisiones y gobernar el país«como una empresa», el viejo sueño de Erdoğan, lo que no obstante genera una pérdida sustancial de eficacia en las políticas públicas debido a la desresponsabilización en todos los niveles y las designaciones basadas únicamente en el criterio de lealtad al jefe de Estado. Esta presidencialización va de la mano de la«desconstitucionalización» del régimen. Ya no se respeta la jerarquía de las normas jurídicas definida por la Constitución; la Constitución, así como los procedimientos jurídicos, son instrumentalizados. Sigue luego la «deslegalización» del régimen, según las palabras de Ibrahim Kaboğlu 10 . Este nuevo régimen político-jurídico es llamado oficialmente«sistema de gobierno de la Presidencia de la República», un eufemismo para designar un régimen hecho a medida para otorgar plenos poderes a Erdoğan como autócrata electo. El nombre del régimen: erdoganismo Este nuevo régimen puede denominarse erdoganismo y una de sus principales características es el imperio de la arbitrariedad y la imprevisibilidad tanto en el terreno económico como en el político. Se trata de un régimen que modifica, a través de decretos presidenciales, las reglas de juego, las leyes, los reglamentos, según las necesidades del poder. Su carácter arbitrario se manifiesta también en la justicia. La destitución masiva de funcionarios por simple decisión administrativa, sin motivo oficial ni posibilidad de apelación, el encarcelamiento de parlamentarios elegidos por el voto, abogados, periodistas, académicos, sindicalistas o simples ciudadanos que osaron expresar con vehemencia una opinión negativa contra el jefe de Estado y su entorno, son las manifestaciones más visibles del abuso de la represión por parte de la justicia y, de manera más general, de la desaparición de la seguridad jurídica. La designación por parte del gobierno de prefectos o subprefectos en lugar de los alcaldes elegidos por los votantes, desplazados por el Ministerio del Interior, es otro aspecto de esta arbitrariedad del poder que equivale a anular las elecciones perdidas 8. « Entretien avec Jean-François Pérouse » en Confluences Méditerrannée N o 107, invierno 2018-2019. 9. C. Yıldızcan: « Le pouvoir des élus vs le pouvoir des nommés » en Confluences Méditerrannée N o 107, invierno 2018-2019 . 10. « Entretien avec İbrahim Kaboğlu. La déconstitutionnalisation de la Turquie » , en Confluences Méditerrannée N o 107, invierno 2018-2019. tribuna global | La Turquía de Erdo ğ an: un autoritarismo electivo y autocrático 19 por el akp. Iniciada en el verano de 2016, tras la proclamación del estado de emergencia, esta política se volvió una práctica corriente y permanente para retomar el control de las municipalidades dirigidas por representantes electos del Partido Democrático de los Pueblos(hdp, por sus siglas en turco), un partido de izquierda prokurdo. Alcaldes y diputados de la oposición se ven privados de sus mandatos bajo el pretexto de la lucha contra el terrorismo, y a menudo son encarcelados. Esta represión jurídica se sustenta en una red de jueces y fiscales designados a toda prisa desde 2016 para llenar el vacío creado por la destitución de un tercio del cuerpo judicial. El funcionamiento del erdoganismo ¿Cómo funciona concretamente el erdoganismo? Ihsan Yilmaz y Galib Bashirov analizan el funcionamiento de este nuevo régimen político turco bajo cuatro dimensiones 11 : el autoritarismo electoral como sistema electoral, el neopatrimonialismo como sistema económico, el populismo como estrategia política y el islamismo como ideología. El nacionalismo sirve de argamasa para unir estos cuatro sistemas entre sí y controlar a una parte importante de la oposición a akp, en especial respecto del tratamiento estrictamente securitario de la cuestión kurda y, en general, en el manejo de una política exterior agresiva y estridente. El erdoganismo, al mezclar el islamismo con el nacionalismo, hunde sus raíces en las corrientes de pensamiento antioccidentales que se oponen a las reformas kemalistas desde su implementación en la década de 1920. El movimiento del islam político, llamado Visión Nacional 12 , la familia política de origen de Erdoğan y de la mayoría de los dirigentes fundadores del akp, estuvo en la primera línea a partir de los años 1970 en la guerra cultural librada en Turquía desde hace más de un siglo entre modernistas laicos y conservadores religiosos, dos autoritarismos de universos opuestos 13 . Al declarar, en 2001, que abandonaba«el ropaje de Visión Nacional» durante la creación del akp, Erdoğan anunciaba un aggiornamento sustancial en el seno del campo conservador religioso turco. Pero diez años después, saliendo por tercera vez victorioso de las elecciones generales con la mitad de los votos, y tras haber inmovilizado a los militares y los jueces kemalistas mediante procesos inicuos teledirigidos por su aliado de entonces, la cofradía Gülen, comenzó a poner en 11. I. Yılmaz y G. Bashirov: « The akp after 15 Years: Emergence of Erdoğanism in Turkey » en Third World Quarterly vol. 39 N o 9, 2018. 12. En turco Milli Görüş . La palabra milli significa « nacional » , pero remite también a la comunidad religiosa ( millet ), como en los tiempos del Imperio Otomano. 13. T. Zarcone: « La Turquie de l’akp(2002-2017). Laïcité autoritaire et velléités de sortie de laïcité » en Jean Bauberot, Philippe Portier y Jean-Paul Willaime(dirs.): La sécularisation en question. Religions et laïcités au prisme des sciences sociales , Classiques Garnier, París, 2019. 20 Ahmet Insel | nueva sociedad | 294 marcha el proyecto de reislamización de la sociedad. Tras haber permanecido entreabierta durante algunos años la puerta de adhesión a la Unión Europea, su cierre oficioso, a partir de 2007, le permitía al mismo tiempo ser el portavoz del resentimiento contra Occidente, sentimiento ampliamente compartido por la mayoría de la sociedad turca. Sin salir oficialmente de la laicidad constitucional a la turca, el erdoganismo ¿se inscribe en un movimiento tendencial de regreso a las«raíces musulmanas de Turquía», tal como lo sugiere Thierry Zarcone 14 ? Ese parece ser el caso, más aún cuando la laicidad a la turca no es y nunca ha sido idéntica a la laicidad a la francesa; se asemeja más al galicanismo 15 de antaño. En todo caso, el erdoganismo busca actualmente un contrapeso político a la erosión de sus apoyos electorales mediante una exaltación nacionalista reforzada por símbolos religiosos. La decisión de restablecer el estatuto de mezquita de las iglesias de Santa Sofía y San Salvador de Cora, transformadas en museos en 1934 y 1945 respectivamente, fue tomada en ese contexto. Los sectores islamistas reclamaban su recuperación desde hacía décadas para simbolizar la segunda conquista de la ciudad y su salida definitiva de las manos de las«elites modernistas impías». Pero este reclamo se topaba regularmente con el firme rechazo de Erdoğan. Su brutal cambio de posición en 2020 se explica por la voluntad de compensar simbólicamente la derrota electoral de su partido un año antes en Estambul y consolidar su base electoral islamistanacionalista con vistas a las elecciones presidenciales de 2023. En general, Erdoğan se esfuerza también por compensar el déficit de hegemonía cultural que sufre el campo conservador a pesar de los 18 años transcurridos en el poder. Lo logra gracias a una política de reislamización del espacio público, la autorización de llevar el velo para todas las funcionarias sin excepción, la introducción de varios cursos, teóricamente opcionales, sobre el islam en los programas escolares, la eliminación del evolucionismo en la enseñanza, el desarrollo de las escuelas de imanes y predicadores y las facultades de Teología, y la promoción de sus diplomas en la función pública. Un ejemplo entre tantos otros: 18 teólogos o islamólogos dirigen en la actualidad universidades públicas. La ampliación del campo de intervención de la Dirección de Asuntos Religiosos es la pieza fundamental de esta política de dominación cultural. El propio Erdoğan, un hombre muy bien formado en la escuela de imanes y predicadores 16 , no duda hoy en comportarse como un gran imán, llegando incluso a realizar prédicas políticas en 14. Ibíd., p. 206. 15. Sumisión del clero a la autoridad del Estado absolutista, en lugar de a la del papa[n. del e.]. 16. Para la trayectoria de Erdoğan, v. Nicolas Cheviron y Jean-François Pérouse: Erdoğan. Nouveau père de la Turquie? , Éditions François Bourin, París, 2016. tribuna global | La Turquía de Erdo ğ an: un autoritarismo electivo y autocrático 21 la mezquita durante las plegarias de los viernes o a recitar públicamente la sura de la conquista, Al Fath , durante la ceremonia organizada para el regreso de Santa Sofía al estatuto de mezquita. Entre los partidarios del akp, la admiración del líder como defensor de las reivindicaciones religiosas, especialmente el«salvador de las mujeres con velo», es reforzada por su imagen de«tipo valiente» un poco colérico e impulsivo, pero que se enfrenta a los poderosos de este mundo. La confianza generada por esta admiración y la identificación que la acompaña, permiten mantener la adhesión en torno del akp a pesar de los múltiples sobresaltos de la política de Erdoğan, y evitar la fragmentación de su heterogénea base militante 17 . La reislamización se efectúa también mediante la valorización de la familia con la mujer como madre y esposa, la promoción de las prácticas del culto sunita y el apoyo de las actividades caritativas de las cofradías religiosas 18 . Un populismo represivo La represión cada vez más masiva, la criminalización de la oposición, el amordazamiento de los medios de comunicación, la reislamización del espacio público y la exaltación nacionalista combinada con la nostalgia imperial no bastan para perdurar en el poder cuando la sanción final a través de las urnas sigue siendo ineludible con resultados no del todo controlables, a pesar de las condiciones muy desiguales de la competencia electoral. Una redistribución de los recursos basada en principios clientelares, tanto en relación con el mundo empresarial como con el de las clases populares, permite reducir considerablemente el umbral de exigencia democrática de una amplia porción del electorado 19 . Esta estrategia clientelar estuvo muy presente desde el comienzo en la práctica gubernamental del akp 20 . La Ley de Contratación Pública, promulgada en 2002 en el marco de la reforma estructural acordada con el Fondo Monetario Internacional (fmi), fue inmediatamente reformada por el gobierno de Erdoğan, en 2003, para introducirle numerosas excepciones. Estos cambios continúan hasta hoy para dejarle las manos libres al partido de Estado en su gestión muy clientelar de los contratos públicos. Tal como se observa, el capitalismo crony o de amigos es una dimensión casi universal de los populismos autoritarios, así como la corrupción al más alto nivel que lo acompaña. 17. Ayşegül Bozan: « Tayyip Erdoğan et les jeunes militants de l’akp. Identification et coproduction d’une figure de leader » en Confluences Méditerranée N o 107, invierno 2018-2019. 18. Ayhan Kaya: « Islamisation of Turkey under the akp Rule » en S. Verney, A. Bosco y S. Aydın-Düzgit(dirs.): ob. cit. 19. Berk Esen y Sebnem Gumuscu: « Why Did Turkish Democracy Collapse? A Political Economy Account of akp’s Authoritarianism » en Party Politics , 5/2020. 20. Ayşe Buğra y Osman Savaşkan: New Capitalism in Turkey: The Relationship between Politics, Religion and Business , Edwar Elgar, Cheltenham, 2014. 22 Ahmet Insel | nueva sociedad | 294 El erdoganismo es también un tipo de populismo. Divide a la sociedad entre«nosotros, el pueblo», moralmente puro y unificado, y«ellos, las elites corruptas y despreciativas», un grupo «ajeno a su propia cultura y a la nación». Erdoğan se posiciona siempre como la encarnación de la voluntad nacional y como la única persona en condiciones de discernir el bien común. El cuestionamiento a la veracidad o a la pertinencia de sus dichos basta para desatar la furia del jefe y movilizar a los fiscales contra los«enemigos de la nación». Los autoritarismos electivos, como el de Turquía, mantienen inevitablemente una fuerte dimensión populista mientras que no dejan de modificarse: así, el discurso dicotómico populista del akp y de Erdoğan perdura en el poder, pero experimenta cierto deslizamiento. Mientras sigue capitalizando el clivaje laico/religioso, tal como lo precisa Élise Massicard, el akp, en el poder desde hace mucho tiempo, insiste menos en su dimensión antiestablishment: se identifica más con su jefe, así como con el partido que encarna sin fisuras la voluntad popular 21 . Al mismo tiempo, Erdoğan sigue haciendo uso y abuso de una retórica populista multidimensional, recordando con frecuencia su origen popular, reivindicando una cultura«indígena» para oponerse a las elites burocráticas e intelectuales«cosmopolitas»: asume también una postura de víctima recordando su encarcelamiento(cuatro meses y medio) con prohibición de participar en la vida política en 1998, tras una lectura política de algunos versos de un poema religioso con lejanas connotaciones yihadistas cuando era alcalde de Estambul. Este discurso de victimización engloba también a todo el pueblo del akp al que Erdoğan no dudaba en calificar hace ya algunos años de«turcos negros», aquellos que luchan dignamente contra la ocupación de los mejores lugares por parte de los«turcos blancos», los«agentes del Occidente colonialista, portador de la mentalidad de los cruzados». Erdoğan alimenta una animosidad religiosa civilizatoria y nacionalista, difundida ampliamente por los medios de comunicación públicos o cercanos al poder. Llama a sacrificios masivos para defender el islam y Turquía contra«los infieles», tanto en el país como en el extranjero, y glorifica a los mártires por sus«causas santas» 22 . El apoyo militante al erdoganismo se basa en una triple lealtad: la lealtad hacia el islam sunita, el líder( Reis ) y el partido. En resumen, el erdoganismo se sustenta en un nacionalismo musulmán como identidad mayoritaria y dominante de la sociedad turca contemporánea. El eslogan que Erdoğan repite en cada ocasión(«una sola nación, una sola bandera, una sola patria y un solo Estado») con los cuatro dedos 21. É. Massicard: « Gouvernement du peuple et gouvernement au nom du peuple dans le Turquie de l’akp » en Alain Dieckhoff, Christophe Jaffrelot y Élise Massicard(dirs.): Populismes au pouvoir , Presses de Sciences Po, París, 2019. 22. I. Yılmaz y G. Bashirov: ob. cit., p. 1823. tribuna global | La Turquía de Erdo ğ an: un autoritarismo electivo y autocrático 23 de la mano derecha extendidos como el signo de adhesión a los Hermanos Musulmanes en la Plaza Tahrir(en Egipto) expresa la doxa islamo-turca. Las debilidades del régimen En el notable desempeño electoral del akp, los resultados económicos de los años 2000 jugaron también un papel destacado. Ahora bien, la economía turca vive una clara recesión desde 2014. El pib por habitante, expresado en dólares, cayó estos últimos años un 30%. La economía turca sufre un duro golpe cuyo origen está ligado en gran medida a las turbulencias generadas por el régimen autocrático. Las crecientes tensiones entre Turquía y sus aliados tradicionales(la otan, la ue, eeuu) y el debilitamiento de la seguridad jurídica dieron el golpe de gracia a la confianza de los actores económicos en el futuro radiante de la economía turca del que se jactaba Erdoğan. En consecuencia, no solo se redujo la llegada de capitales extranjeros, sino que se aceleró el movimiento en el sentido inverso. Sin embargo, el crecimiento de la economía turca depende estructuralmente de los capitales internacionales. Los resultados de las elecciones municipales de marzo de 2019 confirmaron la sensibilidad de la clase media urbana a los resultados económicos. De las diez ciudades más grandes de Turquía, la oposición unida pudo ganar las alcaldías de siete, entre ellas las de Estambul y Ankara, dirigidas ininterrumpidamente por el akp desde 1994. Imponiendo la«repetición» de la elección del alcalde de Estambul, Erdoğan abrió la puerta a un cuestionamiento de las elecciones que volverá a perder. Además, tres meses después, la fuerte movilización del electorado en favor del candidato de la oposición en la nueva elección reveló el apego a la legitimidad adquirida por las urnas incluso entre los electores del akp. Esta importancia atribuida a las elecciones, un logro de la historia política de Turquía, es quizás el último escudo, lamentablemente muy frágil, contra las veleidades dictatoriales que se manifiestan en el seno de la coalición islamo-nacionalista en el poder. Frente al estancamiento de la economía, el aislamiento de Turquía en la escena internacional, su alejamiento del campo occidental y el aumento del descontento en el seno del electorado, el erdoganismo controla fuertemente todos los aparatos de Estado, así como la enorme mayoría de los medios de comunicación; de esta manera, logra imponer su propio relato. Aún es demasiado pronto para evaluar la estabilidad a mediano plazo de este régimen político, sobre todo para hacer un pronóstico sobre la durabilidad de este modo de dominación autocrático más allá de la supervivencia política de su fundador. Por el momento, el erdoganismo se ha esforzado más en deconstruir que en instituir, y da la sensación de llevar a cabo una política de fuga hacia adelante con una política económica caótica, una creciente represión y una política exterior agitada por resabios expansionistas. 24 Ahmet Insel | nueva sociedad | 294 *** Desde la proclamación de la República en 1923, Turquía vivió una larga secuencia de autoritarismo modernistaelitista con algunos periodos de avances hacia la democracia, rápidamente interrumpidos por la violencia(masacres, pogromos, golpes de Estado, represiones masivas). Tras una última etapa de normalización democrática que duró algunos años durante la década de 2000, Turquía vive una nueva secuencia de autoritarismo que se manifiesta bajo la forma de un populismo islamo-nacionalista. Este obtiene su energía de una sed de venganza contra los impulsores históricos del proyecto de occidentalización y de un resentimiento hacia el Occidente que le cerró la puerta en la cara tras habérsela abierto ligeramente. La superposición de estos dos sentimientos, a priori antinómicos, alimenta la agresividad en el seno de la sociedad, que es reforzada por la exacerbación, por el poder, de la guerra cultural y las prácticas represivas del Estado securitario. Además, el conflicto kurdo que perdura desde hace cuatro décadas y la voluntad de erradicación de los miembros y los presuntos simpatizantes de la cofradía Güllen desde 2016 sirven para justificar, bajo el pretexto de la«lucha contra el terrorismo», la política de criminalización de los opositores o de todo desafío público expresado contra el autócrata electo. La Turquía de Erdoğan da hoy la sensación de navegar sin brújula, a merced de las relaciones de fuerza, sin un verdadero puerto de amarre en el horizonte. Con un capitalismo crony debilitado, una arrogancia con rasgos neoimperiales, una relación muy turbulenta con sus aliados occidentales, relaciones frágiles de aliados-rivales con Rusia, una militarización del Estado securitario, e incluso los efectos recesivos de la pandemia, así como una degradación brutal de la mayoría de los indicadores económicos, el erdoganismo teme cada vez más el futuro y se endurece. La resiliencia de la sociedad civil ¿podrá poner fin a este régimen autoritario? La oposición a Erdoğan debería lograr superar sus enemistades étnicas y culturales, liberarse de sus demonios históricos y agruparse en una amplia alianza de paz, de democracia y de recuperación de la serenidad hasta las próximas elecciones de 2023. Por el momento, esta perspectiva parece muy difícil de concretarse, a menos que, utilizando todos los recursos posibles para mantenerse en el poder, el erdoganismo sumerja a Turquía en una aventura catastrófica hasta instaurar una dictadura desprovista de toda forma de contrapeso dispuesta a ganar las elecciones a cualquier precio. | tema central ¿Qué sabemos de la inteligencia artificial? Inteligencia artificial y sesgos algorítmicos ¿Por qué deberían importarnos? Enzo Ferrante Cada vez más, la inteligencia artificial es parte de nuestras vidas, a menudo de manera imperceptible. Ya no se trata de utopías tecnológicas sobre el futuro, sino de un presente muy concreto. Pero detrás de avances que incluyen desde diagnósticos médicos hasta vigilancia masiva están los algoritmos, cuyos«sesgos» amenazan con perpetuar e incluso profundizar las desigualdades del presente. Poner el foco en los datos, los modelos y las personas puede servir para construir una inteligencia artificial más«justa». Una cámara enfoca las escalinatas de entrada del Instituto de Tecnología de Massachusetts(mit). La investigadora Joy Buolamwini sube algunos escalones y se escucha su voz en off : Una de las cosas que me atrajeron de las ciencias de la computación fue que podía programar y alejarme de los problemas del mundo real. Quería aprender a hacer tecnología que fuera interesante. Así que vine al mit y trabajé en proyectos de arte que usaban visión artificial 1 . Enzo Ferrante: estudió Ingeniería de Sistemas en la Universidad Nacional del Centro de la Provincia de Buenos Aires(Unicen) y se doctoró en Informática en la Université ParisSaclay y el Institut National de Recherche en Informatique et en Automatique(inria) de Francia. Realizó su posdoctorado en el Imperial College de Londres y regresó a Argentina como científico repatriado. Actualmente es investigador adjunto del Consejo Nacional de Investigaciones Científicas y Técnicas de Argentina(Conicet) y docente en la Universidad Nacional del Litoral(unl), donde trabaja en el desarrollo de métodos de aprendizaje automático para el análisis de imágenes biomédicas. Palabras claves: aprendizaje automático, desigualdades, inteligencia artificial, sesgo. 1. La visión artificial( computer vision ) es una rama de las ciencias de la computación que se encarga de construir algoritmos y programas de computación capaces de identificar contenido en las imágenes e interpretarlas. 28 Enzo Ferrante | nueva sociedad | 294 Durante mi primer semestre en el Media Lab hice un curso sobre«invención científica». Lees ciencia ficción y eso te inspira a crear algo que seguramente sería poco práctico si no tuvieras el curso como excusa para hacerlo. Yo quise construir un espejo que me inspirara por las mañanas. Lo llamé Espejo Aspire. El espejo me colocaba leones sobre el rostro, o gente que me inspirara, como Serena Williams. Le coloqué una cámara y con un software de visión artificial, se suponía que debía detectar los movimientos de mi cara. Pero el problema era que no funcionaba bien, hasta que me puse una máscara blanca. Cuando me ponía la máscara, me detectaba. Cuando me la quitaba, ya no me detectaba. Así comienza Prejuicio cifrado ( Coded Bias ), el documental dirigido por la cineasta Shalini Kantayya y estrenado en 2020 que narra cómo Buolamwini tomó conciencia del sesgo racial existente en los algoritmos de reconocimiento facial y analiza sus consecuencias. Buolamwini es una mujer negra, especialista en informática, activista y fundadora de la Liga por la Justicia Algorítimica(Algorithmic Justice League), y hace algunos años descubrió que varios sistemas comerciales de reconocimiento facial diseñados por Amazon, ibm y Microsoft funcionaban mejor con el rostro de sus amigos blancos que con el suyo 2 . Más allá de los dilemas éticos sobre el desarrollo de sistemas de reconocimiento facial 3 , el caso de Buolamwini muestra claramente cómo un sistema basado en inteligencia artificial puede adquirir un sesgo y cumplir mejor la tarea para la que fue diseñado en un grupo de individuos que en otro. Esta no es una cuestión menor. La expresión«inteligencia artificial» dejó de ser propiedad exclusiva de las novelas de ciencia ficción y de los libros de computación. Noticias sobre avances fascinantes –como computadoras capaces de asistir al personal médico en tareas de diagnóstico o de manejar automáticamente vehículos no tripulados– aparecen cada vez con más frecuencia y se vinculan cada vez más con nuestras vidas. Sin embargo, no todas las noticias son tan alentadoras. Lo que experimentó Buolamwini no es un caso aislado: durante los últimos años, hemos visto desde sistemas para reconocimiento facial que alcanzan un peor rendimiento 4 en mujeres de piel negra que en hombres blancos, hasta traductores del inglés al español que perpetúan estereotipos de género. Estos ejemplos ilustran un fenómeno 2. Si bien estos sistemas son más conocidos por su uso en vigilancia masiva o publicidad, también es posible encontrarlos en otros contextos, como en cámaras fotográficas(para hacer foco en el rostro de manera automática) o en redes sociales(para etiquetar a personas de manera automática). 3.«Facial-Recognition Research Needs an Ethical Reckoning», editorial en Nature , 18/11/2020. 4. En el contexto de este artículo, utilizaremos el término«rendimiento» de un sistema de inteligencia artificial para hacer referencia al nivel de acierto de las predicciones que realiza. tema central | Inteligencia artificial y sesgos algorítmicos. ¿Por qué deberían importarnos? 29 conocido como«sesgo algorítmico»: sistemas cuyas predicciones benefician sistemáticamente a un grupo de individuos frente a otro, resultando así injustas o desiguales. Pero ¿cuáles son las razones que llevan a estos sistemas a generar predicciones sesgadas? Para entenderlo, comencemos por definir algunos conceptos que nos serán útiles a lo largo de este ensayo:«inteligencia artificial» y«aprendizaje automático». Cuando la inteligencia deviene artificial y el aprendizaje, automático Existen muchas definiciones de«inteligencia artificial». Aquí usaremos una definición general ofrecida en uno de los libros fundamentales del campo, que describe la inteligencia artificial como la disciplina que se encarga de comprender y construir entidades inteligentes(pero artificiales) 5 . Esta definición es muy amplia y abarca conceptos que van desde los sistemas de razonamiento deductivo basados en reglas lógicas hasta algoritmos de aprendizaje automático que buscan detectar automáticamente patrones en conjuntos de datos y luego usarlos para realizar predicciones 6 . Un elemento central para este último subcampo de la inteligencia artificial son entonces los datos , que constituyen la maUn elemento teria prima utilizada para automatizar el proceso de central para este aprendizaje en el que los sistemas son entrenados para realizar predicciones. Los datos pueden ser imágenes, sonidos, texto escrito, redes, posiciones de un gps, tablas o cualquier último subcampo de la inteligencia artificial son representación que se nos ocurra. En todo caso, la los datos idea central es que los modelos de aprendizaje automático aprenden a partir de los datos. Esta noción resulta central en la actualidad, dado que la gran mayoría de las tecnologías disruptivas adoptadas masivamente en el siglo xxi y que son presentadas como inteligencia artificial utilizan en realidad métodos de aprendizaje automático. Pero ¿cómo aprenden estos sistemas? Existen distintos paradigmas de aprendizaje. Uno de los más utilizados es el del aprendizaje supervisado, en el que los sistemas son sometidos a un proceso de entrenamiento que es guiado por anotaciones o etiquetas . La idea es simple: se intenta asociar características o patrones propios de los datos con las correspondientes etiquetas. Es decir, se analizan los datos en busca de 5. Peter Norvig y Stuart Russell: Artificial Intelligence: A Modern Approach , Pearson, Londres, 2002. 6. Kevin P. Murphy: Machine Learning: A Probabilistic Perspective, mit Press, Cambridge, 2012. 30 Enzo Ferrante | nueva sociedad | 294 patrones distintivos que permitan separar una categoría de la otra. Tomemos un ejemplo: imaginemos que queremos entrenar un sistema para que pueda decirnos si el contenido de una imagen corresponde a un perro o a un gato. Bajo el paradigma del aprendizaje supervisado, lo que necesitaremos es una base de datos compuesta por imágenes de perros y gatos, con la correspondiente etiqueta asociada a cada una. Durante el proceso de entrenamiento, el algoritmo tomará esas imágenes y comenzará a hacer predicciones a partir de ellas, asociando características(información de la imagen) con etiquetas. De forma simplificada, podemos pensar que estas características están dadas por diferentes patrones presentes en la imagen, como el color, el brillo, la cantidad de patas, el tamaño del cuerpo o la forma de las orejas. Si nos detenemos a pensar en estas características, algunas serán más útiles que otras para distinguir entre perros y gatos. Por ejemplo, la cantidad de patas no parece ser una característica útil para diferenciarlos; sin embargo, el tamaño del cuerpo sí podría serlo. La idea es que, por medio del entrenamiento, los sistemas aprendan a asociar patrones en estas características con las correspondientes categorías. Al principio estas asociaciones serán seguramente incorrectas; pero a medida que avance el proceso de entrenamiento, el modelo se irá ajustando y mejorando su desempeño en la tarea asignada. Esta idea que ilustramos con imágenes es extrapolable a otros tipos de datos sobre los que hablábamos: si quisiéramos entrenar un sistema para aprender a traducir texto de inglés a español, necesitaríamos muchos textos escritos en ambos idiomas. Para inferir el estado de ánimo de una persona a partir de su voz, necesitaríamos grabaciones de audio de personas hablando, y la correspondiente etiqueta que indique si se encuentran alegres o tristes. Si pensáramos en un sistema que detecte patologías automáticamente a partir de imágenes radiográficas, necesitaríamos pares de imágenes con su correspondiente diagnóstico médico. O si quisiéramos entrenar un modelo para detectar rostros en imágenes, necesitaríamos una base de datos de fotografías de personas, con etiquetas que indiquen en qué lugar se encuentra el rostro de cada una. Como vemos, los datos juegan un rol esencial en el entrenamiento de sistemas por medio de aprendizaje automático, dado que son la fuente de información que le indicará al sistema cuándo ha llegado a conclusiones correctas y cuándo no. Algo que resulta fundamental en este proceso, y que no siempre es tenido en cuenta, es que un sistema raramente se construye para realizar predicciones con los datos con que fue entrenado. Por el contrario, se espera que los modelos puedan sacar conclusiones acertadas sobre datos nunca vistos durante el«aprendizaje» –los datos de prueba– y cuyas etiquetas no se conocen. Esta capacidad de generalización es un rasgo primordial, dado que de nada serviría un modelo predictivo que solo acertara tema central | Inteligencia artificial y sesgos algorítmicos. ¿Por qué deberían importarnos? 31 © Nueva Sociedad/ Giovanni Parrado 2021 32 Enzo Ferrante | nueva sociedad | 294 en situaciones conocidas. Imaginemos un detector de patologías en imágenes radiográficas que puede predecir si una persona tiene o no neumonía utilizando solamente imágenes de esa misma persona. O un traductor de inglés a español que solo puede traducir textos que ya estaban traducidos. En general, la hipótesis de trabajo de estos sistemas es que los datos de prueba serán de alguna manera similares a los datos de entrenamiento, pero no los mismos. Por ejemplo, si entrenamos un modelo para detectar neumonía en humanos, el modelo será utilizado en otros humanos, pero no en animales. O si entrenamos un sistema para traducir del español al inglés, los textos de prueba serán distintos de los de entrenamiento, pero estarán siempre escritos en español, y no en francés. En este caso, resulta evidente que un sistema que aprendió utilizando textos en español no podrá generalizar al francés. ¿O acaso le pediríamos a un intérprete de francés que traduzca mandarín? Sin embargo, existen variaciones entre los datos de entrenamiento y prueba que pueden ser más sutiles que el cambio de español a francés o de humanos a animales, pero que igualmente producen un efecto devastador en la calidad de las predicciones. Volvamos a imaginar el caso del sistema para distinguir entre imágenes de perros y gatos, pero con una pequeña variación: nuestra base de datos solo está compuesta por perros negros y gatos blancos. En este caso, el color del animal será una característica sumamente útil para distinguir entre ambas clases. De hecho, nos dará una predicción perfecta: si el color predominante en el cuerpo del animal es negro, será un perro; y si es blanco, será un gato. Ahora imaginemos que en nuestro conjunto de prueba hay una sutil diferencia: aparecen perros de color blanco. ¿Qué creen que sucederá con las predicciones sobre los perros blancos? El sistema seguramente les asignará la etiqueta«gato» de forma incorrecta, resultando en un rendimiento más bajo para este subconjunto de la población objetivo. Tomar en cuenta estos factores al entrenar sistemas de inteligencia artificial basados en aprendizaje automático es clave si queremos evitar el sesgo algorítmico en varios sentidos. Veamos algunos ejemplos. Sobre datos, modelos y personas Hace algunos años, llegó a mis manos, por recomendación de colegas, un artículo que se titulaba«ai is Sexist and Racist. It’s Time to Make it Fair» 7 [La inteligencia artificial es sexista y racista. Es hora de volverla justa], de James Zou y Londa Schiebinger. El artículo discutía un aspecto sobre el 7. J. Zou y L. Schiebinger:«ai is Sexist and Racist –It’s Time to Make it Fair» en Nature , 18/7/2018. tema central | Inteligencia artificial y sesgos algorítmicos. ¿Por qué deberían importarnos? 33 que hasta ese momento no me había detenido a pensar respecto de los modelos de inteligencia artificial que yo mismo estaba implementando: estos modelos pueden ser sexistas y racistas. En otras palabras, pueden adquirir un sesgo que los lleve a presentar un rendimiento dispar en grupos caracterizados por distintos atributos Estos modelos demográficos, lo que redunda en un comportamiento desigual o discriminatorio. Y una de las razones detrás de este comportamiento eran justamente los datos que usaba para entrenarlos. pueden ser sexistas y racistas. En otras palabras, pueden Los ejemplos de sesgo algorítmico adquirido a traadquirir un sesgo vés de los datos son variados y muchas veces tienen que ver con bases de datos que no representan en realidad al conjunto de la población. En el caso reportado por Joy Bowlamwini y Timnit Gebru 8 , en el que diversos sistemas comerciales de reconocimiento facial muestran un rendimiento dispar respecto a variables demográficas como el género y el color de la piel, son las mujeres de piel negra el grupo para el cual los modelos presentan peor rendimiento. Este hecho está posiblemente relacionado con la falta de representatividad de mujeres negras en las bases de datos utilizadas para el entrenamiento. Ejemplos similares se encuentran al analizar ImageNet, una de las bases de datos de imágenes etiquetadas más grandes del mundo, que ha sido motor del desarrollo de los modelos más populares de clasificación de imágenes 9 . ImageNet posee millones de imágenes clasificadas en miles de categorías. Sin embargo, pese a que es utilizada mundialmente, más de 45% de las imágenes provienen de Estados Unidos y reflejan una realidad localizada en el hemisferio norte y que encarna representaciones propias de la cultura occidental. No resulta sorpresivo entonces el ejemplo citado por Zou y Schiebinger: sistemas de inteligencia artificial entrenados con ImageNet asignan las categorías«novia»,«vestido»,«mujer» o«boda» a la imagen de una novia occidental vestida de blanco, pero identifican como«arte de performance» o«disfraz» la imagen de una novia vestida con el típico atuendo usado en la India, que ciertamente difiere del occidental. Otro ejemplo está dado por los traductores automáticos como Google Translate, donde se encontró que el sistema asignaba un género específico al traducir palabras que son neutras en un idioma y no en otro 10 , perpetuando 8. J. Buolamwini y T. Gebru:«Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification», trabajo presentado en la 1 a Conferencia sobre Equidad, Responsabilidad y Transparencia, disponible en Proceedings of Machine Learning Research( pmlr ) vol. 81, 2018. 9. Olga Russakovsky et al.:«ImageNet Large Scale Visual Recognition Challenge» en International Journal of Computer Vision vol. 115 N o 3, 2015. 10. Gabriel Stanovsky, Noah A. Smith y Luke Zettlemoyer:«Evaluating Gender Bias in Machine Translation» en Actas de la 57 a Reunión Annual de la Asociación de Lingüística Computacional( acl ) , 7/2019. 34 Enzo Ferrante | nueva sociedad | 294 así estereotipos de género como la asignación del género femenino a la palabra« nurse » y masculino a« doctor », palabras que en inglés valen para ambos géneros. Es posible que en los textos utilizados para entrenar el modelo la probabilidad de encontrar la palabra« nurse » traducida como«enfermera» ciertamente fuera más alta, y por tanto el modelo minimiza las chances de error al asignar ese género en situaciones de incerteza, y lo mismo vale con « doctor ». Un caso relacionado es el de los sistemas de puntuación para la asignación de préstamos bancarios o límites de gasto en tarjetas de crédito: frente a una pareja con ingresos, gastos y deudas similares, la empresa de tarjetas de crédito estableció un límite para la mujer de casi la mitad del límite del esposo 11 . La brecha salarial entre hombres y mujeres es una realidad del mundo desigual en que vivimos, y probablemente los datos con los que fue entrenado el modelo la reflejaran, por lo que su recomendación era asignarle mayor límite de gasto al hombre que a la mujer. Es decir, los datos son un reflejo(acotado) de la realidad actual. Sin embargo, en estas situaciones cabe preguntarse: ¿realmente queremos que el modelo perpetúe(y hasta en ocasiones amplifique) las desigualdades, por el solo hecho de que vivimos en una sociedad desigual? ¿O queremos modificar esta realidad? El recorte que se hace de estos datos, la población utilizada para construir las muestras, las variables que se miden: todas son decisiones humanas que están lejos de ser neutrales. El aura de neutralidad que muchas veces se atribuye a los sistemas automáticos se desvanece en el instante mismo en que comprendemos la relación entre los datos, los modelos y las personas. Y la necesidad de auditar la equidad de nuestros modelos tomando en cuenta una perspectiva interseccional se vuelve sumamente relevante. En ocasiones, cuando detectamos posibles sesgos o rendimientos dispares en estos modelos, es posible pensar en soluciones para mitigarlos. Una de ellas sería balancear de alguna forma los datos, para evitar que los modelos resulten discriminatorios o injustos, dependiendo de la situación que estamos modelando. Otra opción podría ser inducir al sistema a que utilice representaciones«justas» de los datos, en el sentido de que no estén asociadas a las características que son fuente de discriminación. O, directamente, obligarlo a ignorar estos atributos protegidos, como el género u otras características demográficas, al momento de tomar una decisión. Sin embargo, debemos ser cuidadosos al diseñar estas soluciones: aunque ocultemos ciertos atributos a un sistema, como el género o el grupo étnico al que pertenece una persona, la correlación entre esos atributos y otras variables seguirá existiendo. Recordemos que si hay algo que los modelos de aprendizaje automático hacen bien 11. Genevieve Smith e Ishita Rustagi:«When Good Algorithms Go Sexist: Why and How to Advance ai Gender Equity» en Stanford Social Innovation Review , 2021. tema central | Inteligencia artificial y sesgos algorítmicos. ¿Por qué deberían importarnos? 35 es encontrar patrones y también correlaciones. Por eso, si bien la comunidad académica de investigación en equidad algorítmica( fairness ) ha trabajado arduamente durante los últimos años en pos de construir modelos justos y que no discriminen, el factor humano en el diseño de estos sistemas resulta primordial. Aunque existen en la actualidad diversas formalizaciones del concepto de fairness , muchas de ellas resultan mutuamente incompatibles, en el sentido de que no es posible maximizarlas al mismo tiempo 12 , y por tanto se debe optar por aquellas que se desee maximizar. No alcanza entonces con generar bases de datos representativas o modelos justos en algún sentido específico. Los sistemas de inteligencia artificial están diseñados por personas con sus propias visiones del mundo, prejuicios, valoraciones de los Los sistemas de hechos y sesgos adquiridos a lo largo de su expeinteligencia artificial riencia de vida, que pueden filtrarse en el diseño y la definición de criterios de evaluación para estos modelos. Si esos grupos de trabajo no son lo suficientemente diversos como para reflejar una amplia están diseñados por personas con sus propias visiones del variedad de visiones, muy probablemente no llemundo, prejuicios, guen siquiera a darse cuenta de la existencia de los sesgos, y por tanto a corregirlos. No hay ejemplo valoraciones más claro que el caso de Joy Buolamwini, quien descubrió el sesgo racial de los sistemas de detección facial al usarlos en su propio rostro. Ahora bien, si la diversidad en los equipos que conciben estos sistemas resulta tan relevante, esperaríamos que en la práctica esos grupos fueran realmente diversos, no solo en términos de género, sino también de clases sociales, etnias, creencias, edad u orientación sexual, solo por dar algunos ejemplos. Pero la respuesta no siempre es la que deseamos, y en palabras del ai Now Institute de la Universidad de Nueva York, la industria de la inteligencia artificial está viviendo una crisis de diversidad«desastrosa» 13 . Según su informe, elaborado en 2019, estudios recientes encontraron que solo 18% de los trabajos publicados en las principales conferencias de inteligencia artificial son realizados por mujeres, y que más de 80% de quienes son docentes de inteligencia artificial son hombres. Esta disparidad también se refleja en la industria, donde, por ejemplo, las mujeres representan solo 15% del personal de investigación de inteligencia artificial en Facebook y 12. Sorelle Friedler, Carlos Scheidegger y Suresh Venkatasubramanian:«The(Im)Possibility of Fairness: Different Value Systems Require Different Mechanisms for Fair Decision Making» en Communications of the acm vol. 64 N o 4, 4/2021. 13. Sarah Myers West, Meredith Whittaker y Kate Crawford:«Discriminating Systems: Gender, Race and Power in ai» , ai Now Institute, 4/2019. 36 Enzo Ferrante | nueva sociedad | 294 10% en Google, dos de las empresas líderes en el área a escala global. Por otro lado, no se cuenta con datos públicos sobre personas trans o con otras identidades de género. Y a escala regional la situación tampoco mejora. Por ejemplo, según un informe elaborado por la Asociación Chicas en Tecnología y el Instituto para la Integración de América Latina y el Caribe del Banco Interamericano de Desarrollo(intal-bid) 14 sobre mujeres en el sistema universitario argentino entre 2010 y 2016, existen grandes brechas de género en el ingreso y egreso de las estudiantes de las disciplinas ctim(ciencia, tecnología, ingeniería y matemática). Así, se observa un registro de 33% de mujeres y 67% de varones. Ahora bien, aunque este escenario suena desolador y muchas de las situaciones que hemos discutido a lo largo de este artículo resaltan aspectos negativos potencialmente asociados al uso de estas tecnologías, muchos de los esfuerzos realizados en los últimos años para crear conciencia sobre estos riesgos y aumentar la diversidad de la comunidad de inteligencia artificial, tanto en el ámbito académico como en la industria, comienzan a sentar las bases para un futuro más promisorio. Iniciativas como la de Chicas en Tecnología o el Observatorio de Datos con Perspectiva de Género en Argentina, o WomenInml, QueerInai, BlackInai y Latinxinai a escala global, solo por nombrar algunas, comienzan a poner en debate y a cuestionar esta realidad. Los gobiernos empiezan a preocuparse por la necesidad de regular el uso y desarrollo de estas tecnologías. La emergencia de foros de discusión especializados en estas temáticas y el interés de todas las ramas de la ciencia por conocer las implicancias y potenciales aplicaciones de la inteligencia artificial en sus propios campos de estudio abren nuevos horizontes para el desarrollo científico guiado por los datos. Porque no se trata de obstaculizar el avance de la inteligencia artificial como disciplina, sino de que tanto quienes la utilizan como quienes la desarrollan sean conscientes de sus limitaciones, y de que las tomemos en cuenta a la hora de concebir y hacer uso de estas tecnologías. 14. Ana Inés Basco, Cecilia Lavena y Chicas en Tecnología:«Un potencial con barreras. La participación de las mujeres en el área de Ciencia y Tecnología en Argentina», Nota Técnica N o idb-tn-01644, bid, 2019. Internet, algoritmos y democracia ¿Del sueño a la pesadilla? Martín Ariel Gendler En los últimos años, se vienen observando cambios en el ecosistema de internet tanto respecto de los discursos como respecto de los modelos de negocios. Tras la masificación de los mecanismos de personalización y perfilamiento algorítmico, se ha pasado de la celebración de las potencialidades democratizadoras al énfasis en su contracara en términos de manipulación y vigilancia. Pero es necesario abandonar las imágenes polares de los sueños y las pesadillas. De sueños y entusiasmos digitales Desde finales del siglo xviii, toda nueva creación y/o innovación técnica ha sido recubierta de un entusiasmo asociado al progreso, capaz de producir mejoras para el conjunto de la humanidad. En este sentido, cabe destacar la invención de objetos técnicos como el telégrafo, el cine, el teléfono, la radio y la televisión, pero también el desarrollo de canales, vías ferroviarias, energía eléctrica o incluso represas, invenciones e innovaciones acompañadas de un entramado discursivo que proclamaba que, casi por su mera implementación, se generaría una«ampliación sin precedentes de horizontes de participación democrática, Martín Ariel Gendler: es licenciado y profesor en Sociología por la Universidad de Buenos Aires(uba), diplomado superior en Gobernanza de Internet(Universidad de San Andrés-Universidad Federal de Rio Grande do Sul) y doctorando en Ciencias Sociales con una beca del Consejo Nacional de Investigaciones Científicas y Técnicas de Argentina (Conicet). Integra el Equipo Sociedad, Internet y Cultura del Programa de Estudios sobre la Sociedad de la información del Instituto de Investigaciones Gino Germani(iigg) y es docente universitario en la Facultad de Ciencias Sociales de la uba y en la Universidad Nacional de José C. Paz. Palabras claves: algoritmos, democracia, gubernamentalidad algorítmica, internet, personalización algorítmica. 38 Martín Ariel Gendler | nueva sociedad | 294 igualdad política y el aumento de la competencia cívica». La clave parecía estar en que cada nuevo objeto técnico proveía a sus usuarios de mayores recursos y oportunidades para acceder a información y generaba así nuevas oportunidades de acción, reflexión y desarrollo personal y colectivo 1 . Con la llegada de la informática, nuevamente se reactivaría el«ciclo». Las tecnologías digitales fueron presentadas como un mecanismo eficaz para la salida de las crisis económicas y sociales que tuvieron Las tecnologías lugar en la década de 1970. Esto se plasmó tanto en los digitales fueron presentadas como un mecanismo informes y proyectos de«informatización de la sociedad» como en las elaboraciones teórico-conceptuales que veían en las tecnologías y en el conocimiento no solo la clave para la salida de la crisis, sino también los eficaz para la parámetros ideales para reconfigurar las sociedades salida de las crisis económicas occidentales 2 . En la década de 1980, estos discursos sobre los supuestos efectos democratizadores y potenciadores se focalizaron en las computadoras personay sociales les y en la electrónica, y se trasladaron hacia internet con el inicio de su comercialización y masificación en la década de 1990 3 . Durante estos años, el incremento exponencial de usuarios, junto con la creación de la web, los navegadores y un gran número de empresas vinculadas, generó el mayor pico de este andamiaje discursivo. Se indicaba que las características técnicas de la arquitectura de la red de redes permitían el acceso y la interconexión masivos, descentralizados y transparentes, y estos generarían un incremento de la participación y el debate democrático, nuevos canales para establecer lazos y desarrollar la sociabilidad, una potenciación de las libertades y del ejercicio de los derechos humanos e individuales, y la ruptura de los monopolios informativos, a la vez que la producción colaborativa y los procesos de digitalización harían posible una expansión sin precedentes de la innovación y del crecimiento económico. Tal fue la euforia del momento que discursos como el del entonces vicepresidente estadounidense Al Gore aseguraban que internet podría«recrear el ágora ateniense en nuestros tiempos». Se generó una atmósfera de gran expectativa financiera que llevó por las nubes las acciones de las primeras compañías, y se anunciaron dos cumbres mundiales sobre la sociedad de la información para congeniar un nuevo modelo global de sociedad informatizada. 1. Vincent Mosco: The Digital Sublime: Myth, Power and Cyberspace , mit Press, Cambridge, 2004. 2. Armand Mattelart: Historia de la sociedad de la información , Paidós, Buenos Aires, 2002. 3. Langdon Winner:«Internet y los sueños de una renovación democrática» en Isegoría N o 28, 2003. tema central | Internet, algoritmos y democracia. ¿Del sueño a la pesadilla? 39 Configuraciones y reconfiguraciones Sin embargo, pronto se empezarían a entrever diversas limitaciones. Se evidenció que existía una gran proporción de población mundial que no disponía ni de los recursos ni de las habilidades para tener una experiencia integral en la red de redes, lo cual generaba una enorme masa de excluidos (desconectados). Asimismo, el entusiasmo inicial de los inversores con las empresas de internet terminó generando una fenomenal crisis financiera, llamada«crisis de las punto com», al evidenciarse que, salvo excepciones, estas compañías generaban escasas o nulas ganancias. Estos obstáculos provocaron diversas mutaciones en el proceso, siempre conservando el norte respecto de que las tecnologías digitales generarían democracia, apertura y oportunidades, pero de forma más mesurada. En primer lugar, se inició un proceso en el que los distintos Estados nacionales empezaron a desplegar variados planes de políticas públicas para incrementar la infraestructura de conectividad, reducir brechas de acceso e incentivar procesos de inclusión digital. En segundo lugar, si bien la crisis había borrado del mapa a un enorme conjunto de empresas y sitios web, se siguió apostando a que internet era el futuro, lo que generó un proceso de reconversión de los principales modelos de negocio, que apuntaba principalmente a la interactividad y a la publicidad digital. Así, la década de 2000 estuvo caracterizada por el surgimiento de un gran número de sitios web y softwares enfocados mayormente en interconectar usuarios y fomentar sus intercambios y vínculos sociales, como así también por la creación y circulación de sus producciones de contenidos. Nos referimos principalmente a las llamadas«plataformas de redes sociales». Estas, desde un temprano inicio, manifestaban que su principal objetivo era reunir a las personas y potenciar sus capacidades de expresión, acceso a la información y producción de contenidos digitales, y se declaraban«herederas» de los ideales de los padres fundadores de internet. Se señalaba que era en el«territorio» de estas plataformas donde las personas, además de comunicarse, podrían también empoderarse y desplegar prácticas que incrementaran su participación democrática. Pese a ello, fruto de los efectos y aprendizajes de la«crisis de las punto com», también estas plataformas irían incorporando paulatinamente distintas prácticas publicitarias para poder sustentar sus desarrollos. Con este objetivo, se llevó a cabo un proceso de apropiación de las cookies , un software de identificación, recolección y aplicación de datos de actividad de los usuarios diseñado originalmente en 1994 para el comercio electrónico. De forma paulatina, un gran número de empresas de internet empezaron a incluir distintos volúmenes de estos softwares de registro de datos, 40 Martín Ariel Gendler | nueva sociedad | 294 con el argumento de que así disponían de recursos necesarios para poder ofrecer publicidad personalizada, que supuestamente era más eficaz al estar centrada en lo que«el usuario desea». Asimismo, las mecánicas de uso e interacción en las plataformas, completamente orientadas a cuantificar la experiencia del usuario, junto con un proceso continuo de almacenamiento de datos directos –brindados por el mismo usuario en la creación de su cuenta/perfil– e indirectos –obtenidos de la huella de su actividad digital–, comenzaron a utilizarse no solo con fines publicitarios sino también para ir optimizando los propios mecanismos, secciones y posibilidades de las plataformas. Se generaba así un sistema en el que, a mayor cantidad de usuarios, y por tanto mayor volumen de datos disponibles, se producían mayores oportunidades de mejora, innovación y comercialización. La consolidación y expansión del modelo A finales de la década de 2000 e inicios de la de 2010, varios hechos contribuyeron a consolidar este modelo y a expandirlo al resto de la economía digital. En 2007, la creación del smartphone vendría a posibilitar el acceso y conexión a internet de un enorme número de individuos y colectivos En 2007, la creación previamente desconectados, a la vez que fomentaba una conexión espacio-temporal virtualmente inintedel smartphone rrumpida, volviendo a los sujetos más proclives a la vendría a posibilitar el acceso y conexión a internet conexión las 24 horas. La innovación abrió asimismo la puerta a una enorme expansión de desarrollos y usos de aplicaciones específicas, en especial plataformas de redes sociales, que incrementaron de un enorme exponencialmente sus usuarios en poco tiempo. Cabe número de individuos destacar que el smartphone no solo ampliaba la cantidad de datos que era posible extraer debido al aumento del tiempo de conexión, sino que también incorporaba lógicas de geolocalización y de acceso a ciertos contenidos del dispositivo, como galería de imágenes y agenda de contactos, a los que antes era difícil acceder en un dispositivo fijo sin recurrir a programas informáticos tipo malware . En segundo lugar, jugó también un papel la crisis económica global que estalló en 2008. Siguiendo a Nick Srnicek, este proceso generó una necesidad de readaptación de las economías capitalistas, así como una reorientación de las inversiones financieras, que luego de la«crisis de las punto com» habían pasado mayormente a ubicarse en el sector inmobiliario 4 . De este 4. N. Srnicek: Capitalismo de plataformas , Caja Negra, Buenos Aires, 2018. tema central | Internet, algoritmos y democracia. ¿Del sueño a la pesadilla? 41 modo, volvió a enfocarse el interés en las empresas de internet, especialmente en buscadores y plataformas de redes sociales, que no solo se seguían identificando discursivamente con el progreso y la democracia, sino que también habían evidenciado una productiva reconversión de sus modelos de negocios sobre la base de los datos. Así, se apuntó a generalizar este«modelo de éxito» basado en datos de las plataformas, a punto tal que se consideró vital que cada sector de la economía, la producción y las finanzas pasara a adoptar un diagrama capaz de disponer y poner en juego datos actualizados en tiempo real para predecir situaciones y tomar medidas fiables y exitosas a partir de esa información. Esto tuvo su corolario en 2011 con el advenimiento de la economía e industria 4.0, que se proponía lograr una«economía inteligente» sobre la base no solo de la extracción, el procesamiento y la aplicación de grandes volúmenes de datos, sino también de su combinación y expansión con otras innovaciones como la inteligencia artificial y la internet de las cosas, entre otros. En tercer lugar, es necesario mencionar las revelaciones sobre espionaje estatal llevadas a cabo por WikiLeaks en 2011 y por Edward Snowden en 2013. Con ellas, se logró visualizar que, lejos de quedarse fuera del juego, algunos Estados estaban desplegando activamente estrategias de almacenamiento de datos, tanto de sus propios ciudadanos como de otros países. Cabe destacar que en este punto las plataformas de redes sociales y otras empresas de internet fueron percibidas mayormente como«víctimas obligadas a colaborar». El rol que estas habían tenido en los procesos de la Primavera Árabe, cuando se las consideró cuasi responsables de las manifestaciones en pos de mayores derechos y libertades, había consolidado el discurso respecto de su papel como símbolo de democratización y progreso, a punto tal que que numerosas regulaciones sobre internet, según se declaraba, eran establecidas para proteger«a los actuales y futuros Googles y Facebooks del mundo». Se puede apreciar así que los datos personales, de actividad, de consumo, de geolocalización, y también las distintas mecánicas de su identificación, recolección, almacenamiento, procesamiento y aplicación pasaron a tener una centralidad cada vez más incuestionable, llegando a ser considerados el «nuevo petróleo» de las sociedades contemporáneas 5 . Esto también se pudo evidenciar en el despliegue paulatino pero firme de un modelo de cuantificación digital de la vida, donde cada actividad, cada interacción, cada movimiento, cada consumo, cada deseo es susceptible de ser registrado, almacenado y utilizado. 5. Natalia Zuazo: Guerras de internet. Un viaje al centro de la red para entender cómo afecta tu vida , Debate, Buenos Aires, 2015. 42 Martín Ariel Gendler | nueva sociedad | 294 Datos, gubernamentalidad algorítmica y democracia Con el correr de los años, los mecanismos de extracción de datos fueron perfeccionándose, a lo que contribuyeron distintos desarrollos algorítmiCon el correr cos junto con la inteligencia artificial, que no solo permitían identificar, recolectar y almacenar datos, de los años, sino también ponerlos en diálogo entre sí, de modo los mecanismos de extracción de datos fueron de producir una serie de perfiles generales que puedan sentirse como particulares al aplicarse a los distintos usuarios 6 . Perfiles, cabe aclarar, en constante cambio, modulación y mejora, sobre la base de los continuos perfeccionándose flujos de datos extraídos y puestos en relación a cada hora, minuto y segundo. Estos procesos no solo tenían lugar cada vez más en cada sitio web y plataforma, sino que poco a poco se fueron también instalando en los dispositivos móviles y generaron una lógica de acompañamiento algorítmico de la vida en todo momento y lugar 7 . Se abría así la puerta al despliegue de una forma diferencial de gestión y conducción de la población. Siguiendo a Michel Foucault, desde mediados del siglo xix los ejercicios de producción de cuerpos y subjetividades habían mutado hacia un sistema de administración de la vida de las poblaciones caracterizado por fomentar la circulación y ordenarla según curvas de normalidad obtenidas gracias a datos estadísticos elaborados por el Estado 8 . Se apuntaba a un modo de operar sobre las acciones para orientar y producir distintas disposiciones y caminos posibles, sobre la base de estos estándares y parámetros estadísticos(gubernamentalidad). Sin embargo, como bien advertía Gilles Deleuze, esto también había empezado a ser modulado tras la aparición y masificación de las tecnologías digitales, que permitían desplegar sofisticados mecanismos de identificación, almacenamiento y procesamiento de datos que operan de forma constante, en tiempo real y al aire libre, aunque también en la comodidad del hogar 9 . Estos mecanismos llegaban al punto de generar que cada cifra, modulada en forma de perfil, pasara a obrar como una contraseña para favorecer, habilitar, dificultar o imposibilitar distintas posibilidades de acción, consumo y relación. 6. M. Gendler:«Personalización algorítmica y apropiación social de tecnologías. Desafíos y problemáticas» en Ana Rivoir y María Julia Morales(coords.): Tecnologías digitales. Miradas críticas de la apropiación en América Latina, Clacso, Buenos Aires, 2019. 7. Éric Sadin: La humanidad aumentada. La administración digital del mundo, Caja Negra, Buenos Aires, 2017. 8. M. Foucault: El nacimiento de la biopolítica. Curso en el Collège de France , fce, Buenos Aires, 2007. 9. G. Deleuze:«Posdata a las sociedades de control» en Conversaciones 1972-1990 , Pre-Textos, Valencia, 1999. tema central | Internet, algoritmos y democracia. ¿Del sueño a la pesadilla? 43 Estas modificaciones indicaban que los distintos ejercicios de gubernamentalidad también habían cambiado, y que se había constituido otro tipo de modalidad, una gubernamentalidad algorítmica 10 o, en otras palabras, la posibilidad de operar sobre acciones de otros generando disposiciones basadas en la producción de datos materializados en perfiles elaborados por distintos algoritmos programados a tal efecto. Esto también permitió entrever que, en la gestión de las poblaciones, no solo el Estado tendría un papel estelar, sino también un enorme número de empresas privadas: aquellas en cuyas plataformas y sitios web los usuarios despliegan la mayor parte de sus interacciones y a las que destinan la mayor parte de su tiempo y atención. Vale detenerse aquí para analizar los vínculos entre esta forma particular de administración de la población, basada en perfiles y personalización algorítmica, y el ejercicio democrático. Desde un inicio, se sostuvo que estas lógicas brindan a los usuarios soluciones tecnológicas que optimizan su vida y sus tiempos 11 . Se enunciaba la personalización algorítmica como un elemento sumamente positivo dado que, al estar basada en datos«que no pueden mentir», segmenta informaciones y orienta acciones, relaciones y prácticas en función de lo que cada usuario haya indicado efectivamente que«le interesa». Asimismo, la posibilidad de cuantificar las distintas instancias de la vida de cada individuo, en especial en áreas como deportes, salud, aprendizajes o consumos, permite a las empresas observar un estado de situación y progreso para tomar decisiones sobre la base de esos datos. En teoría, los individuos también pueden acceder a esa información, aunque muchas veces esto sea difícil o hasta imposible en la práctica, según los casos y las posibilidades del código técnico de las plataformas. Todo esto, montado sobre una lógica neoliberal basada en el rendimiento continuo 12 , pero también sobre una lógica cibernética que clamaba la necesidad de correlacionar datos para predecir, con el objetivo de prevenir y optimizar 13 , era enunciado como una«práctica de empoderamiento» . En otras palabras, al estar el individuo continuamente modulado por la aplicación de distintos perfiles metaestables que van orientando las informaciones, relaciones, personas, consumos, lugares e intereses a los que accede, se argumenta que esto le permite optimizar tiempos, esfuerzos y energías para configurarse a sí mismo una vida ordenada y eficiente. De esta manera, los 10. Antoinette Rouvroy y Thomas Berns:«Governamentalidade algorítmica e perspectivas de emancipação: o díspar como condição de individuação pela relação?» en Ecopos vol. 18 N o 2, 2015. 11. Evgeny Morozov: La locura del solucionismo tecnológico, Capital Intelectual, Buenos Aires, 2016. 12. Byung-Chul Han: La sociedad del cansancio , Herder, Madrid, 2012. 13. Pablo Rodríguez: Las palabras en las cosas. Saber, poder y subjetivación entre algoritmos y biomoléculas , Cactus, Buenos Aires, 2019. 44 Martín Ariel Gendler | nueva sociedad | 294 mecanismos algorítmicos pasarían a predecir, sugerir y conducir lo considerado como«mejor y más apropiado» para la ciudadanía, quitándole a esta la«pesada carga» de tener que tomar decisiones en soledad, sin ninguna asistencia, en un mundo atiborrado de datos procesados supuestamente para brindar tales orientaciones. En suma, se sostenía que los efectos de la aplicación de la lógica de perfilamiento contribuirían a incrementar el ejercicio democrático, con el argumento de que los datos, algoritmos y perfiles persiguen una lógica apolítica y anormativa, y son«ciegos» a diferencias sociales, políticas, religiosas, étnicas o de género. Por tanto, se consideraba que, dado que las orientaciones se producen solo sobre la base de correlaciones de datos, esto podría incrementar las oportunidades para múltiples grupos de la población, ya que se desvanecerían virtualmente los considerados«sesgos sociales» y el foco estaría en lo que el usuario«ha dicho y hecho». Montados sobre estos argumentos, los mecanismos de perfilamiento y personalización algorítmica continuaron expandiéndose, a punto tal de ir consolidándose una lógica de silicolonización de la vida 14 , entendiéndose que cada nuevo desarrollo no solo era un símbolo y motor del progreso y la democracia, sino que también era una solución tecnológica para ir remediando todos los problemas de la vida. La pesadilla Sin embargo, diversos hechos ocurridos durante 2016 y 2017, como el triunfo de Donald Trump en las elecciones estadounidenses, el Brexit, la victoria del«No» en el referéndum sobre los Acuerdos de Paz en Colombia y el ascenso al poder de Jair Bolsonaro en Brasil, empezaron a despertar alarmas en torno del funcionamiento de la personalización algorítmica imperante en internet. El«escándalo» de Cambridge Analytica en 2018, en el que se reveló que se habían puesto en juego estos mecanismos de personalización para influir en las opiniones de los usuarios, no solo despertó una catarata de críticas hacia las principales plataformas(Google, Amazon, Facebook, Apple y Microsoft, las gafam), sino que también incitó una fuerte desconfianza hacia el estado actual del ecosistema de internet. En pocas palabras, las plataformas dejaron de ser consideradas«víctimas», como había ocurrido previamente, y pasaron a ser consideradas las principales responsables de esos resultados. Esto provocó un giro de 180 grados 14. É. Sadin: La silicolonización del mundo. La irresistible expansión del liberalismo digital , Caja Negra, Buenos Aires, 2018. tema central | Internet, algoritmos y democracia. ¿Del sueño a la pesadilla? 45 en la consideración de estas plataformas, sus mecanismos de personalización algorítmica y sus efectos sobre la democracia, tras lo cual perdieron su estatus de paladines e impulsoras y comenzaron a ser identificadas prácticamente como una amenaza No tardaron en llegar para la libertad y apertura de internet, pero también los discursos para la toma de decisiones. Poco a poco, discursos y producciones culturales pasaron a poner el foco en la posibilidad de la generación de burbujas algorítmicas que«atrapen» a los usuarios en una lógica cuasi tocatastrofistas que alertaban respecto al establecimiento talitaria de informaciones afines de la cual estos no de una manipulación podrían salir, lo que erosionaría fuertemente su capacidad de decisión democrática 15 . Y hay ejemplos casi total en otras esferas, como el uso de programas algorítmicos en el ámbito penal: el software compas(sigla en inglés de Administración de Perfiles de Criminales para Sanciones Alternativas del Sistema de Prisiones), utilizado por los jueces en algunos estados de Estados Unidos para evaluar la posibilidad de reincidencia de una persona convicta y aumentar las penas en consecuencia, presentó errores entre 30% y 40% de los casos, según estudios recientes. Por razones de competencia, el diseño del compas se mantiene en su mayor parte en secreto, y varios tribunales han defendido el mantenimiento de ese secreto, incluso frente a un acusado que quiera impugnar el diseño 16 . No tardaron entonces en llegar los discursos catastrofistas que alertaban respecto al establecimiento de una manipulación casi total por parte de las empresas, lo que en algún punto parecía emular las principales distopías de la ciencia ficción. ¿Destruir el algoritmo… o democratizarlo? Si bien se puede considerar positivo el abandono de una mirada idealizada –tecnofílica– del funcionamiento de la lógica de personalización algorítmica y sus principales actores, debemos advertir sobre los peligros de caer en una lógica catastrofista –tecnofóbica–, dado que ambos extremos pueden llegar a obturar, más que a clarificar, el funcionamiento y los efectos de estos mecanismos. Es cierto que la lógica de personalización algorítmica por la cual se establecen los mecanismos de gubernamentalidad actuales está lejos de ser un 15. El film El dilema de las redes sociales (Jeff Orlowski, Netflix, 2020) es quizás uno de los exponentes más conocidos de esta visión. Sobre las burbujas, v. Eli Pariser: El filtro burbuja. Cómo la red decide lo que leemos y lo que pensamos, Taurus, Barcelona, 2017. 16. Jed S. Rakoff:«Sentenced by Algorithm» en The New York Review of Books , 10/6/2021. 46 Martín Ariel Gendler | nueva sociedad | 294 factor de empoderamiento y de ampliación de las capacidades democráticas. En ese sentido, los datos no son ajenos a las condiciones sociales, políticas, económicas y culturales de las personas de las cuales se los ha extraído, sino que, al contrario, los usuarios muchas veces realizan prácticas fuertemente orientados por estos factores. Esta situación podría ayudar a visualizar que el perfilamiento algorítmico y sus recomendaciones personalizadas, lejos de ser una lógica que logre«desvanecer las diferencias sociales», en realidad podrían ayudar a reproducir las desigualdades existentes, dado que orientar a un sujeto hacia aquello que«ha demostrado» que consume, piensa y desea puede significar seguir iluminando un camino ampliamente recorrido en lugar de intentar habilitar otros. Asimismo, la existencia y la mayor difusión de noticias falsas o fake news también encienden una alarma, dado que los perfiles pueden conducir hacia ellas y generar así potenciales distorsiones de los hechos y futuras acciones en consecuencia. A su vez, la programación de los propios algoritmos que generan los diálogos y la correlación de datos y producen los perfiles no es neutral. Los algoritmos se encuentran, por el contrario, imbuidos de parámetros y criterios económicos, políticos y culturales tanto de la empresa como de quienes los programan, y esto puede hacer que esas cifras que operan como contraseñas se encuentren moduladas más sobre la base de prejuicios que de evidencias y que fomenten un acceso diferencial a informaciones, recursos y posibilidades. Sin embargo, estamos lejos aquí de proclamar que estos mecanismos llevan a una manipulación total de los usuarios y que, por ende, deberían ser prohibidos o eliminados. Por un lado, no consideramos a los usuarios como «idiotas algorítmicos», ni creemos que la aplicación de un perfil necesariamente determine las maneras de sentir, pensar y actuar de las personas. Existe una gran distancia entre la exposición de un usuario a noticias positivas sobre un actor político y el deseo y el acto de votarlo o defenderlo a capa y espada 17 . Asimismo, los distintos«hiatos algorítmicos» que suceden a diario y que conducen a los usuarios hacia informaciones, consumos o personas que estos en realidad no suelen elegir o frecuentar también permiten matizar la lógica cuasi«totalitaria» atribuida a la personalización algorítmica; sin dejar de señalar también el hecho concreto de que nada impide a una persona surfear en búsqueda de otras opciones diferentes de las sugeridas 18 . Más allá de las segmentaciones que generan los perfiles algorítmicos y los problemas en torno del acceso y el ejercicio democrático, así como de la 17. Cabe destacar, empero, que la tendencia de la personalización algorítmica a reforzar posiciones previas ofreciendo incluso nuevas herramientas discursivas y prácticas para ello es un tema que requiere ser tomado en serio. 18. Alessandro Baricco: Los bárbaros. Ensayo sobre la mutación, Anagrama, Madrid, 2008. tema central | Internet, algoritmos y democracia. ¿Del sueño a la pesadilla? 47 privacidad, los mecanismos de personalización y conducción no son algo completamente negativo que sea necesario erradicar. En efecto, ante una situación actual en la que la enorme cantidad de usuarios, producciones y contenidos presentes en la red de redes podría generar una sobresaturación de información 19 , estos mecanismos de personalización algorítmica pueden permitir disminuir el riesgo y ahorrar tiempo y esfuerzo, como así también brindar datos precisos La programación para el ejercicio de opciones por parte de los usuarios. de los algoritmos de La cuestión está en cómo se genera la modulación en esa conducción algorítmica. Nada impediría que se puedan adaptar los mecanismos que hoy día personalizan por el usuario para permitirle a este tomar correlación y personalización debería incrementar en mayor medida cartas en el asunto, es decir, que los usuarios puedan efectivamente decidir cómo su transparencia personalizar su experiencia en lugar de recibirla ya personalizada. Adicionalmente, sería menester incorporar una necesaria cuota de informaciones aleatorias para disminuir el riesgo de la conformación de burbujas, además de garantizar una mayor protección a la privacidad de los datos y mayor transparencia en su operatoria 20 . La programación de los algoritmos de correlación y personalización debería incrementar su transparencia, habilitando procesos de monitoreo y auditoría democrática en los que se asegure la participación de varios sectores divergentes para minimizar el riesgo de sesgos en este punto vital del ecosistema actual de internet. De esta manera, se podría fomentar el acceso y la participación democrática de los usuarios en las distintas esferas de internet, y avanzar también en la comprensión de que el ejercicio democrático implica una construcción y un devenir individual y colectivo que se realiza día a día, donde la toma de decisión es un aspecto fundamental. Ni sueño ni pesadilla En un contexto global en el que los datos son considerados insumos productivos de primer orden en todas las esferas, no solo es primordial lograr una toma de conciencia, sino también asegurar que los usuarios que contribuyen 19. Scott Lash: Crítica de la información, Amorrortu, Buenos Aires, 2005. 20. Debido a que está configurada mayormente en software privativo, no es posible saber a ciencia cierta cómo se lleva a cabo esta programación, a diferencia de lo que sucede con los desarrollos generados en código abierto o software libre, en los que, justamente, el usuario puede tener seguridad de conocer todos los procesos que se generan en el interior de un objeto técnico digital. 48 Martín Ariel Gendler | nueva sociedad | 294 con sus datos puedan incidir más en su tratamiento. Asimismo, es menester avanzar en formas de que los usuarios, y no solo las empresas y/o el Estado, puedan apropiarse de sus procesos de correlación. Esto resulta aún más acuciante en el actual contexto de pandemia, cuando a causa de la emergencia sanitaria las medidas de gestión de la población desplegadas en todos los puntos del globo parecerían indicar una nueva modulación de la gubernamentalidad. En este sentido, la virtual división en dos de la población –por ejemplo, entre quienes están autorizados a circular en virtud del carácter estratégico o esencial de su trabajo y quienes deben permanecer en sus hogares– y las estrategias de restricción y administración de la circulación y de la vida se han vinculado íntimamente con las tecnologías digitales que supervisan su cumplimiento y aseguran el sostenimiento de actividades otrora totalmente presenciales, como el teletrabajo, la telemedicina o la educación a distancia. Esta forma coyuntural de gubernamentalidad algorítmica pandémica ha generado un enorme aumento de la conectividad a internet y del uso de las plataformas hegemónicas, lo que les garantiza a estas el acceso a un volumen aún mayor de datos para desplegar sus prácticas de personalización algorítmica 21 . Sin embargo, también la pandemia ha posibilitado la profundización de los procesos de cuestionamiento a estas empresas, fomentando juicios y auditorías y despertando preguntas sobre la utilización de otras plataformas que garanticen una mayor autonomía y privacidad de sus usuarios. Podemos apreciar que, lejos de ser un panorama completamente cerrado, la configuración de internet, junto con las potencialidades democráticas que allí se puedan desplegar, no son ni han sido un sueño ni una pesadilla. Se trata de una situación compleja y en constante cambio, en la que se ejercen múltiples prácticas de saber-poder para intentar incidir en el juego en un sentido y no en otro. La construcción del ejercicio democrático en internet es posible. Sin embargo, será necesario primero poner paños fríos sobre el andamiaje discursivo tecnofóbico post-Cambridge Analytica, y a la vez evitar un resurgimiento del andamiaje tecnofílico previo para poder, desde una visión crítica, operar colectivamente en función de la generación de cambios cuyos efectos puedan permitir remodular las lógicas presentes. Quizás la pandemia haya abierto una pequeña pero fructífera ventana por donde se pueda empezar a obrar en favor de ello. 21. M. Gendler:«Una gubernamentalidad algorítmica ¿pandémica? Gestión, división y protocolización de la vida en tiempos de covid-19» en Technos N o 9, 12/2020. La desigualdad automatizada Industrialización, exclusión y colonialismo digital Sofía Scasserra La inteligencia artificial plantea nuevos problemas y desafíos respecto de la industrialización del Sur global, que se enfrenta a renovadas formas de colonialismo. Lejos de reducir las desigualdades, las normas para la economía digital que están siendo negociadas en la Organización Mundial del Comercio podrían agravar las brechas existentes. Décadas atrás, Alan Turing ya se preguntaba si la inteligencia artificial era realmente inteligencia 1 . De aquellos experimentos más filosóficos que matemáticos quedó, sobre todo, la duda sobre si las tareas automatizadas son más eficaces que aquellas que hacemos«manualmente». En los años recientes, con el desarrollo de las telecomunicaciones primero, y de la cibernética después, comenzó a ser posible recoger, procesar y sistematizar una enorme cantidad de datos( big data ) mediante sistemas de algoritmos. Nacía así lo que hoy conocemos como inteligencia artificial: algoritmos que mediante enormes cantidades de información pueden emular comportamientos humanos y optimizar tareas. A menudo se expresan sentimientos de temor respecto de qué pasará cuando estos sistemas«reemplacen» a los seres humanos 2 . Lo cierto Sofía Scasserra: es economista, especialista en economía digital, comercio, desarrollo y empleo. Se desempeña como docente e investigadora del Instituto del Mundo del Trabajo (Universidad Nacional de Tres de Febrero, untref). Es asesora del movimiento sindical internacional y del Senado argentino e investigadora en el Transnational Institute. Palabras claves: desigualdades, inteligencia artificial, Organización Mundial del Comercio (omc), Sur global. 1. A. Turing:«Computing Machinery and Intelligence» en Mind vol. lix N o 236, 10/1950. 2. Kai Beckmann:«Will Computers Eventually be Smarter than Humans? The Future Transformation» en Merck , 24/5/2020. 50 Sofía Scasserra | nueva sociedad | 294 es que siempre hemos encontrado formas tecnológicas de realizar las tareas de manera más eficiente: el transporte nos hace llegar más rápido, la industria textil produce más y mejores vestimentas, las máquinas levantan la cosecha a mayor velocidad, etc. ¿Y la inteligencia artificial? Procesa información. Pero ¿es realmente«inteligencia»? Lo distintivo de los seres humanos no es solo su capacidad de procesar y absorber información; es también su capacidad de equivocarse, de crear, de aprender, de ser únicos, de ser diversos, de ver las cosas desde otro ángulo. Artificial, seguro, pero ¿inteligencia? El machine learning nos muestra que la evolución de esta tecnología puede emular a nuestro cerebro, pero aún falta mucho camino por recorrer 3 . De hecho, la inteligencia artificial encuentra su mayor debilidad y sus mayores críticas en su poca capacidad de juzgar en diversos contextos, en su estandarización de los resultados, en su homogeneización de todos sin distinguir diversidades. Esto hace pensar en la inteligencia artificial como en una mera tecnología(aunque sumamente poderosa), que tiene una capacidad inimaginable de procesar información y, sobre esa base, trazar una línea hacia el futuro, teniendo únicamente en cuenta las variables o contextos que hayamos incluido en el conjunto de datos que la alimentan. Dicho de otro modo: la creatividad, la imaginación y la crítica sobre su propio accionar quedan a un lado, y difícilmente pueda emular la inteligencia humana. No solo eso: la programación es realizada por seres humanos con limitaciones y preconceptos que los llevan a diseñar una inteligencia artificial sesgada. Así, las críticas respecto a la discriminación, los sesgos, los juicios sin contexto y otras falencias que presenta son tantas que nos hacen pensar si no son máquinas de generar exclusión artificial. Desigualdad y exclusión Ya están bien documentados los problemas de exclusión y desigualdad social que genera la incorporación de inteligencia artificial en diversos ámbitos 4 . Se han detectado algoritmos que estigmatizan a las personas de color 5 , que otorgan menos crédito a mujeres por el solo hecho de ser mujeres 6 o que directamente imposibilitan el acceso a empleos por diversos motivos 7 . El 3 . Machine learning o aprendizaje automático refiere a sistemas que aprenden solos sobre la base de la información que reciben. 4. Safiya Noble: Algorithms of Oppression: How Search Engines Reinforce Racism , nyu Press, Nueva York, 2018. 5. V. el sitio web de Algoritmic Justice League[Liga de Justicia Algorítmica],. 6.«Apple’s‘Sexist’ Credit Card Investigated by us Regulator» en bbc News , 11/11/2019. 7. Jeffrey Dastin:«Amazon Scraps Secret ai Recruiting Tool that Showed Bias against Women» en Reuters , 10/10/2018. tema central | La desigualdad automatizada 51 problema de fondo no es solo la base de datos sobre la que está construido el sistema de inteligencia artificial, sino más bien, y sobre todo, la decisión sobre quién da las órdenes y define la acción del equipo programador. La poca diversidad sexual, racial, étnica y cultural que existe entre quienes diseñan La poca diversidad que existe entre y producen la tecnología es un problema, pero no el único 8 . Si los algoritmos deciden sobre las personas, sobre su libertad, sobre su empleo, sobre su capacidad de acceder a seguros, servicios médicos quienes diseñan y producen la tecnología es y otras cuestiones fundamentales de la vida, es meun problema, nester tener la posibilidad de regularlos. Parece lógico, pero para entender por qué esto pero no el único es tan difícil, hay que mirar hacia las instituciones que establecen las reglas del juego de la economía mundial, principalmente la Organización Mundial de Comercio(omc). Los derechos de propiedad intelectual fueron, son y serán un tema de controversia global. No existen argumentos más fuertes que«generar ingresos adicionales para reinvertir 9 » para defender su existencia. Los argumentos en contra se sostienen en evidencia empírica que muestra que la humanidad estaría mejor sin ellos. Sin más, desde fines de 2020, países y organizaciones sociales reclaman en la omc la extinción de las normas de propiedad intelectual para las vacunas contra el covid-19 para así poder garantizar el acceso, la fabricación y la distribución para toda la humanidad, salvando vidas a cambio de que unas pocas empresas farmacéuticas dejen de obtener ganancias extraordinarias 10 . La idea de que si no existieran normas de propiedad no habría innovación es falsa: esas normas tienen apenas algo más de 25 años de existencia en la omc, y siempre hubo innovación a lo largo de la historia de la humanidad. Estas normas no solo limitan el acceso a las vacunas, sino además la posibilidad de acceder a los códigos fuente de la inteligencia artificial que se programa en el mundo: amparadas por un velo de secretismo y poder, las empresas deciden sobre la vida de las personas sin que estas puedan saber cuáles fueron los criterios de selección y los datos contemplados o si fueron activamente discriminadas o no. La sistematización de desigualdades dentro de las sociedades está a la orden del día. 8. El sitio Data usa señala que casi 92% de quienes programan en eeuu son hombres. V. estadísticas en. 9.«5 Reasons Why Investors Love Intellectual Property» en eu StartUps , 8/1/2018. 10.«Oxfam Response to wto trips Waiver for covid-19 Vaccines Being Blocked again by Rich Countries- a massive missed opportunity to speed up and scale up the production of lifesaving vaccines worldwide» en Relief Web , 11/3/2021,. 52 Sofía Scasserra | nueva sociedad | 294 Viejas disputas, nuevas formas de subdesarrollo El lema«Retirar la escalera al desarrollo» que esgrimía en la portada de uno de sus libros el economista surcoreano Ha-Joon Chang sigue vigente como nunca, pero adquiere una nueva dimensión: la cibernética 11 . Lo cierto es que, frente a la acumulación de datos casi inadvertida por el Sur global, Estados Unidos funciona como una aspiradora que absorbió en grandes volúmenes la materia prima para la inteligencia artificial y pudo así desarrollar sistemas que hoy son inigualables. Aun si un país se planteara hoy la posibilidad de generar un Google local, no lograría el mismo éxito debido a la escasez de datos y, en muchos lugares, de recursos humanos capacitados. Más aún, no tendría sentido hacerlo. Indudablemente, la escala llevó a la eficiencia en lo que podría considerarse una especie de monopolio natural. Sería muy oneroso para un país encauzar una estrategia de ese tipo y el resultado sería incierto. La competencia con los gigantes tecnológicos carece de sentido en una economía que ya los ha coronado como reyes y señores. El colonialismo digital es hoy una realidad inapelable 12 . Únicamente China, con su big data creada puertas adentro gracias a sus más de 1.300 millones de usuarios y productores de datos, pudo desarrollar una inteligencia artificial que hoy juega la batalla de igual a igual con el capitalismo estadounidense. La disputa entre ganadores y perdedores de esa batalla queda solo entre esos dos jugadores de la economía mundial. Lo cierto es que las ganancias gigantescas que generan estas empresas al subsumir a las empresas industriales tradicionales y ofrecerles todo tipo de servicios que optimicen sus negocios, mediante inteligencia artificial programada y diseñada por los ingenieros de Silicon Valley, muestran que los sueños de desarrollo e industrialización digital serán difíciles de alcanzar, pero no imposibles. Efectivamente, la competencia no tiene sentido, pero ¿y la complementariedad? Se pueden crear nuevos servicios a escala nacional con un proyecto de soberanía de datos que sirva para mejorar la administración pública, construir cadenas regionales de valor y trabajar desde universidades y empresas desarrollos locales de inteligencia artificial para atender las necesidades nacionales. ¿Tiene sentido para Google desarrollar sistemas que reconozcan calidades de yerba mate o de cosechas de frutas y verduras? ¿Son iguales los sistemas que detectan enfermedades a través de imágenes médicas en Europa y en América Latina? ¿Son 11. Ha-Joon Chang: Retirar la escalera. La estrategia del desarrollo en perspectiva histórica , Libros de la Catarata, Madrid, 2004. 12. Ulises Mejías y Nick Couldry:«Colonialismo de datos: repensando la relación de los datos masivos con el sujeto contemporáneo» en Virtualis. Revista de Cultura Digital vol. 10 N o 18, 2019. tema central | La desigualdad automatizada 53 del todo replicables los resultados, considerando nuestras características alimenticias, climáticas, étnicas, etc.? Probablemente sea deseable desarrollar inteligencia artificial local, no solo para mejorar lo que la inteligencia artificial tiene para ofrecer, sino también, y sobre todo, para lograr la industrialización digital y superar la dependencia tecnológica. Pero, como suele suceder, el ganador quiere lleUna vez más, lo que se cocina en la omc genera varse todo. Una vez más, lo que se cocina en la omc desigualdades en genera desigualdades en distintos niveles. Ya hace algunos años circula en esa organización lo que se distintos niveles conoce como«agenda de comercio electrónico», algo que se trata de hacer pasar por un asunto comercial de compra y venta por internet. Pero al leer sus cláusulas, rápidamente se vislumbra que poco tiene que ver con eso y que se vincula sobre todo con la desregulación de la economía digital del futuro. Las normas son muchas y los proyectos presentados provienen de diversos países 13 , pero podríamos resumir la agenda en algunas pocas cláusulas que son comunes a todos(o casi todos) los proyectos: (a) Transferencia transfronteriza de datos, que garantiza que aquella institución que recolecte datos de un país a través de plataformas diversas pueda llevarlos a través de las fronteras sin ningún tipo de impedimento. Esos datos no pueden ser reclamados a futuro ni puede exigirse su repatriación. Un verdadero extractivismo digital. (b) Prohibición de exigencias de localización y procesamiento. El verdadero negocio de los datos es almacenarlos, manteniendo la soberanía y la capacidad regulatoria sobre ellos, y procesarlos, actividad en la que radica la mayor fuente de ingresos. Efectivamente, no es la materia prima lo que da ganancias extraordinarias, sino su procesamiento e industrialización. Estas normas básicamente establecen que los Estados no pueden imponer requerimientos a las empresas para que algunas de estas dos actividades se realicen necesariamente dentro de su territorio. Así, tiran por la borda el sueño de la soberanía tecnológica y la industrialización digital. (c) No divulgación del código fuente. Si las empresas de tecnología brindan servicios digitales en un país, queda prohibido solicitar que se divulgue el código fuente de la inteligencia artificial ligada a esos servicios. No obstante, en diversos acuerdos en el marco de la omc se vienen incluyendo más excepciones, porque los propios países desarrollados necesitan muchas veces 13. V. por ejemplo, la propuesta europea:«Joint Statement on Electronic Commerce: eu Proposal for wto Disciplines and Commitments Relating to Electronic Commerce»,. 54 Sofía Scasserra | nueva sociedad | 294 auditar los algoritmos en cuestión, a fin de detectar fallas en los sistemas: desde un modelo de automóvil que presenta desperfectos, pasando por una máquina de casinos que nunca da un ganador, hasta un algoritmo de evaluación docente, todos casos en los que muchas veces el Estado quiere reservarse la potestad de auditoría. Con la inminente llegada del 5g y la internet de las cosas, estos casos de fallos que pueden provocar juicios y demandas por daños a los consumidores estarán a la orden del día. Las empresas lo saben, y el lobby fenomenal que han realizado para protegerse, no solo mediante normas de propiedad intelectual sino también mediante la futura agenda de economía digital, muestra que no están dispuestas a ceder espacio y que su ganancia bien puede estar cimentada en la vulneración de los derechos de las personas 14 . (d) Exención de impuestos aduaneros por venta de servicios digitales. A medida que el mundo se vaya digitalizando más y más, los servicios contratados y consumidos por un país podrán provenir(de hecho ya lo hacen) de cualquier lugar del mundo. En términos técnicos, se trata de una importación de servicios. Las reglas comerciales que se encuentran en negociación quieren imponer un arancel cero para esas importaciones, lo que empeora las condiciones para los desarrolladores locales que deben competir con grandes transnacionales. Esto ya se encuentra vigente en la omc a través de una moratoria que se renueva año tras año y exime a las empresas prestadoras del pago de impuestos. En las negociaciones en curso, se busca fijar esta exención de una vez y para siempre. (e) Obligatoriedad del principio de neutralidad de la web. Esta cláusula busca que los Estados no puedan regular los contenidos ni a las empresas que operan en sus mercados digitales. Si bien limitar el contenido puede llevar a abusos por parte de las autoridades, también es cierto que países como China se han desarrollado controlando y limitando los jugadores que operan en su economía digital. No son estas las únicas disposiciones que se están negociando: también hay normas respecto a la aceptabilidad de firmas digitales, autorización del envío masivo de correos no deseados, normativas liberalizadoras en materia de compras y licitaciones públicas, limitaciones a la protección de datos, desvinculación de las empresas en su responsabilidad como intermediarias de los contenidos que se publican en internet y limitaciones a la solicitud de autorización previa para operar en un mercado, entre otras. Estas normas generan un marco de«no regulación» que limita la capacidad de los Estados de impulsar una estrategia soberana de industrialización digital, que incluya 14. Para más información sobre este tema, v. Sanya Reid Smith:«Some Preliminary Implications of wto Source Code Proposal», Third World Network, trabajo presentado en la 11 a Conferencia Ministerial de la omc, Buenos Aires, 10 a 13 de diciembre de 2017. tema central | La desigualdad automatizada 55 © Nueva Sociedad/ Giovanni Parrado 2021 56 Sofía Scasserra | nueva sociedad | 294 la generación de inteligencia artificial. Este aparato regulatorio potencia así el extractivismo digital desmedido desde el Sur hacia el Norte global, al permitirle a este último tomar datos sin pagar por ellos, eliminar la posibilidad de que el primero los procese y cuente con ellos para el diseño de mejores políticas públicas, y limitar también la capacidad de auditar la inteligencia artificial que se genere, aun si afecta a la población en aspectos tan diversos como la seguridad, la democracia, el empleo y los derechos. En un mundo que recién empieza a comprender cómo nos impacta esta tecnología, desregularla y limitar la capacidad de accionar de los Estados no parece ser la mejor opción. Si se habla de tirar la escalera, la agenda que se negocia en la omc busca dejar afuera del desarrollo de los sistemas automatizados del futuro a la mayoría de los países del mundo, que quedan limitados a ser meros consumidores o usuarios de los servicios, y así toda la ganancia permanece en manos de unos pocos. Más desigualdades: el derecho epistémico escondido Lo cierto es que las normas de propiedad intelectual prohíben conocer los criterios y formas con que está programada la inteligencia artificial que utilizamos a diario. Pero ese no es el único saber valioso en esta tecnología. El procesamiento de datos extrae conclusiones sobre nuestras conductas con el objetivo de anticiparlas. Esa anticipación es lo que Shoshana Zuboff denominó el«excedente conductual»: al anticipar conductas, las empresas de tecnología también pueden eventualmente influir en ellas 15 . Esto se vio en casos como el de Cambridge Analytica o, como se documenta en el mismo libro de Zuboff, el del videojuego Pokemon Go. ¿Qué saben de nosotros? ¿Qué saben de mí que yo misma no sé? La sistematización de información y el análisis de patrones conducLos servicios digitales conocen tuales llevan a un conocimiento desmesurado de algunas conductas humanas, un conocimiento que genera una desigualdad epistémica entre aquello que sabemos necesidades, de nosotros mismos y aquello que saben de nosotros. movimientos, gustos, costumbres Esta desigualdad puede replicarse en el plano macroeconómico. Efectivamente, los servicios digitales conocen necesidades, movimientos, gustos, costumbres y tantas cosas más de los ciudadanos de un país. Toda esta información podría utilizarse para planificar políticas públicas y diseñar sistemas de inteligencia artificial que mejoren los servicios públicos y hagan un Estado 15. S. Zuboff: La era del capitalismo de la vigilancia , Paidós, Buenos Aires, 2020. tema central | La desigualdad automatizada 57 más eficiente. En un mundo de big data , parece no haber suficientes datos para mejorar los Estados. Ya se pudo ver cómo Google compartió información sobre la movilidad de las personas durante la pandemia de covid-19, indicando el índice de actividad y circulación de los países. Información como esa puede ser sumamente valiosa para controlar la pandemia en un territorio, y está en manos de corporaciones. La desigualdad epistémica es cada vez mayor, y los sistemas de inteligencia artificial contribuyen a ello arrojando conclusiones sobre nuestras vidas, gustos y costumbres que llevan a pensar en la vigilancia constante y a lo que nos enfrentamos a futuro si no comenzamos una estrategia de desarrollo de inteligencia artificial nacional. Procesos creativos y derecho a ser humano La inteligencia artificial interviene cada vez más en nuestras actividades cotidianas: traducciones, averiguaciones, redacción de un simple mail, búsqueda de empleo, tránsito por las calles, etc. Pasa inadvertida, la hemos naturalizado. Pero lo cierto es que muchos de los sistemas que la utilizan observan nuestras conductas y, en muchos casos, buscan estandarizarlas. Por ejemplo, están bien documentadas injusticias cometidas por los sistemas de evaluación docente en eeuu, donde se establecía un puntaje esperado para los alumnos en las evaluaciones anuales estandarizadas, y si estos no llegaban a ese estándar, se le adjudicaba un puntaje bajo al docente a cargo, lo que ponía en riesgo su empleo; o en Gran Bretaña, donde un algoritmo juzgaba las«anomalías» en las trayectorias escolares de los estudiantes y limitaba en consecuencia su acceso a la educación superior 16 . La realidad es que la vigilancia para captar datos y su consecuente procesamiento para emitir juicios de valor sobre la ciudadanía puede tener un efecto muy nocivo en la sociedad: el miedo a equivocarse. Se logró instalar la idea de que existe una inteligencia artificial que piensa, es imparcial, juzga con información completa y conoce«la verdad». Una especie de ojo que todo lo ve y que atenta contra nuestro derecho a ser humanos, defectuosos, únicos y libres. Y es que la actividad de nuestra inteligencia es mucho más compleja que«procesar datos». La propia capacidad creativa del ser humano opera por prueba y error. Se trata de equivocarse y 16.«Houston Teachers File Federal Lawsuit Over Evaluation System» en Houston Public Media , 1/5/2014. Sobre el caso de Gran Bretaña, v.«A-Levels:‘Dreams Ruined by an Algorithm’» en bbc News , 13/8/2020. 58 Sofía Scasserra | nueva sociedad | 294 volver a empezar 17 . De animarse a combinar lo que no pensamos posible. De entender el contexto y por ende captar la ironía, el chiste o el código social al que nos referimos. El ser humano goza de la capacidad creativa y de la inventiva para superar sus errores. Eso nos ha convertido en una máquina imparable de innovación y superación. Es justamente en nuestras debilidades donde encontramos nuestras mayores fortalezas. ¿Es deseable un ser humano que no se equivoque, que actúe de manera automática y cuasi perfecta? ¿No estaríamos destruyendo nuestra propia capacidad de crear, de pensar fuera de la caja? Cometer errores nos hace humanos, pero también nos hace descubrir nuevas y maravillosas formas de sortear problemas. Prueba y error, le dicen. La realidad es que los trabajadores y las trabajadoras llevamos en nuestro interior un know how sobre nuestra actividad laboral que eleva la productividad de las empresas, y ese conocimiento se construye a partir de los problemas que enfrentamos y las potenciales soluciones. Sobre todo en el Empezar a utilizar tecnologías más Sur global, resolver inconvenientes cotidianos con recursos escasos es la realidad de cientos de miles de trabajadores. La hipervigilancia genera miedo. Mieamigables es do a la invención, porque existe miedo a equivocarse fundamental para todos, como y quedar expuesto. Miedo a que nuestro comportamiento sea juzgado, a no estar a la altura de lo que se espera de nosotros. ciudadanos Empezar a utilizar tecnologías más amigables es y trabajadores fundamental para todos, como ciudadanos y trabajadores. También lo es garantizar el derecho a la desconexión digital, limitar las ganancias extraordinarias y el poder absoluto que les hemos dado a estas megacorporaciones tecnológicas y garantizar que no haya una hipervigilancia masiva en el futuro que lleve a limitar nuestra capacidad de innovación y nuestra libertad de ser humanos libres, políticos, activistas, cultural y socialmente diversos. 17. La inteligencia artificial, a través del machine learning , logra aprender de sus errores, y es difícil saber hasta dónde puede llegar su capacidad de innovación y aprendizaje. Un ejemplo de esto es la tecnología gpt-3, recientemente superada por una tecnología similar en China. Esta tecnología logra imitar la lógica y la escritura humanas casi a la perfección, dado que puede procesar 1.750 millones de parámetros. Para más información, v. Cristian Rus:«China desvela el modelo de aprendizaje profundo más grande de la historia: 10 veces mayor que gpt-3 de Open ai» en Xakata , 3/6/2021. Aun así, la inteligencia artificial sigue encontrando dificultades para«pensar fuera de la caja». Abundan ejemplos divertidos de esta situación: por ejemplo, el caso de un automóvil de Tesla que detectaba múltiples semáforos en la calle porque circulaba detrás de un camión que transportaba, precisamente, semáforos. Puede verse el video en. tema central | La desigualdad automatizada 59 Allí donde el derecho no llega La inteligencia artificial tiene el poder de prescribir realidades y de cambiar nuestros comportamientos, al igual que lo hacen las leyes. La única diferencia es que son leyes que no están escritas en ningún lugar y que desconocemos. Le hemos otorgado a esta tecnología un poder inigualable: el poder de ordenar nuestras vidas y sociedades. El miedo a ser juzgados por un sistema que emite una valoración sobre la base de la inteligencia artificial programada por vaya uno a saber quién tiene un potencial enorme para«enfriar» nuestro comportamiento. No solo eso, sino que la propia inteligencia artificial no puede ser juzgada, parece no estar alcanzada por las legislaciones nacionales. No puede ser auditada. Atenta contra la competencia, ya que no hay manera de saber si un algoritmo fue copiado por otra empresa más poderosa. Atenta contra los derechos laborales, ya que no podemos saber si estos se tuvieron en cuenta al diseñar los sistemas de asignación de tareas y otros procesos automatizados en ámbitos de trabajo, y de hecho los efectos que producen en algunos casos son realmente dañinos. Atenta contra el derecho a la información, ya que ordena la que consumimos a partir de criterios de lucro, agrupándonos en burbujas informativas que llevan a sociedades más encerradas. No participamos. Nadie llamó a la sociedad civil a la mesa del desarrollo y diseño de una tecnología que regula de facto nuestras sociedades. Pero tampoco, y sobre todo, no nos llamaron a participar en la formulación de las normas que regulan esta tecnología. El producto es, como era de esperarse, una tecnología autoritaria y monopólica que envía órdenes desde países lejanos y a la que obedecemos de manera complaciente. Manos a la obra Pero no todo es sombrío. Existe una manera de recuperar aquello que entregamos, y la solución es fundamentalmente poner manos a la obra. América Latina supo ser cuna de tecnologías diseñadas con otros propósitos y objetivos. Basta mirar las tecnologías agrícolas andinas y cómo ponían el eje en la sustentabilidad de la vida 18 : se cultivaban granos con sistemas de terrazas y otras técnicas que promovían que los suelos se fertilizaran, lo que permitía que hubiera comida todo el año para alimentar a la población. Con la llegada de los conquistadores, esos sistemas cayeron en desuso y la prioridad se puso en generar saldos exportables; así comenzó el proceso de desertificación del suelo que seguimos sufriendo hasta el día de hoy. Esto nos enseña que se pueden 18. John Murra: Formaciones económicas y políticas del mundo andino , iep, Lima, 1975. 60 Sofía Scasserra | nueva sociedad | 294 desarrollar tecnologías con otras lógicas y objetivos. Que un mismo problema puede ser resuelto de diversas maneras. Es necesario, entonces, recuperar los objetivos de inclusión, sustentabilidad y desarrollo. La inteligencia artificial que se desarrolle para favorecer servicios públicos y hacerlos más eficientes no puede tener únicamente una lógica de lucro, sino que hace falta ver la diversidad de objetivos posibles y adecuar las tecnologías a aquellos fines que fijemos como sociedad. Solo hace falta soñarlo, planificarlo y facilitarlo. Como principio general, ninguna inteligencia artificial debería decidir sobre las vidas humanas, su libertad, su futuro, trayectorias laborales y derechos. Pero más aún, debemos comenzar a mirar las externalidades que se generan a partir de la inteligencia artificial, fijándonos el objetivo de desarrollo e industrialización digital con empleo decente para todos. América Latina posee un big data propio, valioso y único. Necesita detener el extractivismo digital para mantener la materia prima, y ponerse manos a la obra en su procesamiento, a fin de desarrollar una inteligencia artificial que refleje los códigos, costumbres, cultura y contexto de la región. No firmar los acuerdos de economía digital en los tratados de libre comercio y en la omc es un buen primer paso a fin de dejar margen de maniobra a los Estados. Pero no es suficiente. Hay que comenzar a transitar un camino en el que probablemente sea el«Estado emprendedor» quien pueda propiciar una nueva ingeniería digital, junto con centros universitarios y empresas locales 19 . También regular. Allí donde se discuten los derechos laborales, civiles, ciudadanos y democráticos, debe existir una intervención más fuerte del Estado, a fin de eliminar el estado de excepción que rige en el diseño e implementación de inteligencia artificial. Dejar esto regulado por meros«códigos de ética» 20 que presuponen la buena fe empresaria puede resultar muy costoso para las futuras generaciones. Es posible. Raúl Prebisch nos quiso mostrar cómo el debilitamiento de los términos de intercambio nos llevaba al subdesarrollo. Probablemente, aprovechar las nuevas ventajas comparativas que se generan a diario en sectores que apenas están comenzando a nacer sea el camino posible para un sueño de industrialización digital latinoamericano y soberano. Se trata también de soberanía tecnológica y cultural. Necesitamos el desarrollo, y para eso necesitamos, como punto de partida, la información: saber de nosotros mismos más de lo que ellos saben de nosotros. 19. V. Mariana Mazzucato: El Estado emprendedor. Mitos del sector público frente al privado , rba, Barcelona, 2019. Mazzucato explica cómo el Estado ha sido y sigue siendo el motor de la innovación global y cómo las empresas se sirven de los grandes riesgos que toma el Estado para luego privatizar las ganancias y estatizar las pérdidas, lo que a su vez lleva a que este sea visto como ineficiente y débil. 20. Un buen ejemplo son los lineamientos de la Comisión Europea; pero si bien estas guías son útiles, no son suficientes. Grupo Independiente de Expertos de Alto Nivel sobre Inteligencia Artificial:«Directrices éticas para una ia fiable», Comisión Europea, Bruselas, 2019, disponible en . ¿Qué es el capital cibernético? Leonardo Fabián Sai El capital cibernético es una forma específica de capital de alta tecnología capaz de subsumir el lazo social. Al apropiarse de las relaciones sociales mediante dispositivos tecnológicos, el capital cibernético trastoca el conjunto de las relaciones humanas en una acumulación de datos que posibilita tanto la predicción de la conducta humana como la planificación jerárquica del capital. El resultado es una nueva relación con el cuerpo y el lenguaje. A la memoria de Pablo Levín y Humberto Maturana No vimos nada El capital cibernético es un capital de alta tecnología en un área específica de la producción social: la comunicación. Es el capital que subsume, captura, relaciones sociales bajo la forma mercantil del valor 1 . Leonardo Fabián Sai: es sociólogo por la Universidad de Buenos Aires(uba), ensayista y docente. Es coeditor de la revista cultural Espectros . Se desempeña como profesional en políticas socioeducativas en contextos de vulnerabilidad social en el Ministerio de Educación de Argentina. Palabras claves: bioeconomía, capital cibernético, cyborg , plusvalor algorítmico. 1. Un obrero de los siglos xix o xx era explotado en su cuerpo, en sus fuerzas de trabajo, pero regiones completas de su actividad –como la conversación, la medición de los latidos del corazón o el sexo– quedaban por fuera de la explotación del capital. El fundamento de las ganancias del capital cibernético ya no es un plusvalor extraído del contexto industrial, sino uno extraído directamente de la explotación de la experiencia humana en general mediante productos intelectuales del trabajo humano: algoritmos. Junto con Sofía Scasserra, hemos denominado este plusvalor plusvalor de vida . Este plusvalor de vida implica, ni más ni menos, que una extensión ontológica del locus de la constitución del plusvalor, que ahora abarca toda la trama de la vida biológica, psíquica y social. S. Scasserra y L.F. Sai:«La cuestión de los datos: plusvalía de vida, bienes comunes y Estados inteligentes», análisis, Fundación Friedrich Ebert, 6/2020, disponible en. 62 Leonardo Fabián Sai | nueva sociedad | 294 Al apropiarse del lazo social –y no ya de una región determinada de las relaciones productivas–, el capital cibernético produce relaciones sociales como comunicaciones de comunicaciones mundiales, haciendo efectiva no solo la subsunción real de la sociedad al capital, sino también la transmutación de nuestra relación con el lenguaje: la lengua informatizada de una cotidianeidad digital. Al relanzar, una y otra vez, relaciones sociales ya mediadas La automatización por su tecnología, innovación y desarrollo, el capital cibernético abre el horizonte de la época de la autodel lazo social matización del lazo social 2 . supone una anticipación y La automatización del lazo social supone no solo su informatización y digitalización, sino además una anticipación y predicción de la acción humana. Tal anpredicción de la ticipación se presenta, cada día más, como un poder acción humana privado transnacional que trastoca, sutil y precisamente, la experiencia humana en datos, esto es, en materia prima para la producción de los laboratorios sin paredes del capital 3 . Nuestra experiencia se transforma en valores de uso para la producción de algoritmos capaces de leer las relaciones humanas y conducirlas cibernéticamente. «Cibernéticamente» significa que la lectura de los algoritmos es sistémica y, en tanto tal, capaz de planificar todo lo que existe en la medida en que pueda ser reducido a pura información y comunicación: códigos biológicos, informáticos, sociales. Esta automatización del lazo social, económicamente expresada, es la capacidad de planificación del capital sobre el capital: las ideas del Valle del Silicio o de Shenzhen –el trabajo inmaterial e interdisciplinario del proletariado cognitivo– dibujan la cancha abstracta de las cadenas de valor donde juegan las empresas de todo tamaño del mundo, pagando el debido precio al señorío digital de los capitales cibernéticos, el precio de la innovación extrínseca. El capital cibernético, en rigor, va más allá de la economía de los bienes y servicios. Se trata de un capital que trabaja sustancialmente sobre una bioeconomía . No le interesa producir al trabajador o trabajadora como 2. Esta automatización del lazo social lo robustece a niveles insospechados, impidiendo la anomia, relanzando el lazo social de forma ampliada y generando hechos sociales propios de la sociedad de control:«polarización social»,«burbujas informativas» o«universos simbólicos paralelos» son todos fenómenos de(auto)control sistémicos, tecnológicamente inducidos. 3. ¿A qué llamamos«laboratorios sin paredes»? A la investigación transnacional, comunitaria, experimental, análoga y en red; a la instalación, la plataforma, el proyecto realizado por los científicos como gestación de una idea que se disuelve en el mismo momento en que se realiza: queda la fórmula, aumenta el conocimiento universal, pero ya no pueden reproducirse, en idénticas condiciones, sus condiciones reales de experimentación. tema central | ¿Qué es el capital cibernético? 63 autómata industrial, sino a la humanidad misma como cyborg . El cyborg (el ente orgánico cibernéticamente transformado) no es una representación de la ciencia ficción, sino la primera relación del capital cibernético con el cuerpo: la prótesis biónica que reconstituye el cuerpo discapacitado; la potenciación artificial del cuerpo para fortalecer al trabajador o al soldado; la edición genética del humano y del animal para la anticipación de enfermedades; el cultivo de órganos para futuros trasplantes; la detección de potenciales destrezas y debilidades… estos son algunos de los caracteres de este capital aplicado al campo de la salud. Es que el capital cibernético subsume realmente naturaleza humana: cuerpo, sangre, pensamientos, afectos, relaciones sociales, emociones. Al autómata industrial se lo explotaba, económicamente, con el fin de reproducir el poder político del burgués nacional en el Estado, a su imagen y semejanza, a través de la existencia objetiva del trabajador como clase impropia. Cuando el trabajo vivo de la clase explotada luchó y resistió, lo hizo produciéndose como subjetividad en tanto proyecto internacional(proletariado) o peticionismo del pueblo(clase obrera nacional, populismo, sindicalismo). El cyborg , en cambio, no resiste subjetivamente. Carece de un espacio íntimo de resistencia, de un«esto no te lo doy». El cyborg no reconoce otro «sagrado» que la propia tecnología. El cuerpo, la lengua misma, aparece distópicamente violentada como desierto informatizado. ¿Y qué quiere decir«desierto informatizado»? Significa: organizar el desierto allí donde existía subjetividad. Equivale a sofocar el conflicto psíquico con conductismo, a reducir lo humano al funcionalismo de los sistemas. Si toda nuestra existencia se vuelve datos para un capital que nos lee, nos anticipa, que acumula esta información para crear productos inmateriales predictivos de nuestra conducta, entonces estamos hablando de un capital capaz de advertirle a otro capital dónde y en qué momento(tiempo y espacio) encontrará poder de compra dentro del globo con probabilidad científica. Por este motivo, afirmamos que la dirección del capital cibernético es total; que su innovación es bioeconómica 4 , que su efecto sobre la cultura no es la producción de subjetividad fetichista, sino la creciente presencia de este nuevo intruso, a través de la modificación cibernética 4. En la bioeconomía del capital cibernético, el trabajo vivo potencia el trabajo vivo. Un ejemplo es la biotecnología industrial: la biotecnología se define como el uso de organismos vivos o partes de ellos(estructuras subcelulares, moléculas) para la producción de bienes y servicios. En términos generales, los seres humanos han venido desarrollando esto hace miles de años, en actividades como la producción de alimentos fermentados(pan, yogur, vinos, cerveza, etc.), pero es la biotecnología moderna la que, específicamente, hace uso y dominio de la información genética. Es vida que potencia vida. 64 Leonardo Fabián Sai | nueva sociedad | 294 del humano: el advenimiento del cyborg 5 y su«religión»: el transhumanismo. Todas las ciencias, las artes, el derecho, el entretenimiento, son actualmente interpretadas como información o«materia prima». Y todos estos«campos de sentido», como los denominó el filósofo alemán Markus Gabriel, tienden hacia la automatización que les impone el capital: programas capaces de crear canciones o pinturas; robots en forma de animalescyborgs para la industria militar; restauración de órganos y funciones orgánicas en medicina; procesamiento masivo de datos en finanzas y sentencias en derecho, etc. Bajo el comando del capital cibernético han quedado capturadas, en rigor, la vida psíquica de las sociedades, las formas estéticas que constituyen sus identidades, las potencias históricas e ideales de sus narrativas 6 . La consecuencia necesaria de la continua explotación por parte del capital de los distintos modos de expresión de la subjetividad humana es el empobrecimiento continuo de esta: un mundo que prescinde de nosotros y que funciona, automatizado, de forYa no son los ma plenamente racional. algoritmos herramientas inventadas por el Mientras tanto, una burguesía tecnológica transnacional –los dueños de las imperiales tecnológicas– se presenta ya como diseñadora onser humano, sino que tológica de los mundos posibles para la crianza es el ser humano la materia rediseñada por algoritmos de los humanos del futuro. Una verdadera política de interiores, una arquitectura de invernaderos 7 . Ya no son los algoritmos herramientas inventadas por el ser humano, sino que es el ser humano la materia rediseñada por algoritmos: las identidades se disuelven en el juego imaginario del control del lazo social; la vida psíquica de los pueblos queda transformada en pura comunicación sin sujeto y sin experiencia; las formas estéticas de unas narrativas sociales se transfiguran en entidades amorfas predictibles y rediseñables 8 ; las potencias históricas e ideales quedan políticamente neutralizadas por 5. ¿A qué llamamos cuerpocyborg ? Al pasaje hacia un modo de conservación de la cultura fundado ya no en una tradición oral, ni en una escritura, sino en la pura tecnología. A la acumulación de tecnología objetivada en el cuerpo como invasión, reconstrucción y potenciación de nuestra biología por medios cibernéticos. 6. La exposición de este proceso de captura se encuentra desarrollada en L.F. Sai:«Fragmentos de fragmentos: vida psíquica, forma estética y potencia histórica» en Espectros N o 6, 2020. 7. El liberalismo encarna la voluntad de producir el mundo exterior como el interior absoluto del individuo, confortable, decorado, suficientemente grande para disfrazar la prisión, diría Walter Benjamin: aspira a disfrutar de la totalidad del mundo sin tener que salir de casa. 8. El ser cotidiano de la cibernética puede ser interpretado como la compulsión a permanecer «conectado»,«ver qué pasa en las redes». El asunto, por estos días, es resistir la anulación del deseo por el goce infinito del ojo y del oído. tema central | ¿Qué es el capital cibernético? 65 tecnologías del comportamiento, distorsión de la cotidianeidad e ignorancia inducida 9 . A 23 años de la fundación de Google Alphabet, nada vimos aún 10 . El capital cibernético como función adaptativa El capital cibernético es una función, una conquista evolutiva, que adopta y elabora el capital(tecnológicamente más jerarquizado y potente) para reproducir su dominio sobre el trabajo vivo . Subsumiendo capitales simples (no innovadores, reproductores dependientes de tecnología), colabora con la dominación sistémica del capital como tal. La apariencia de autonomía del capital cibernético se da por el hecho económico del ofrecimiento, en la superficie del intercambio mercantil, de servicios y productos mediante la comunicación digital que permiten al resto de los capitalistas industriales la potenciación tecnológica de sí mismos: llegar eventualmente hasta donde llega la comunicación(si los acuerdos comerciales lo permiten). La subsunción se materializa como«entrelazamiento del conjunto del capital», a través de la comunicación(digital) mundial de los sistemas sociales; una potenciación cibernética de los capitales industriales, dinerarios, comerciales. El teletrabajo es un ejemplo inmediato de la reducción de costos en infraestructuras, alquileres de edificios, oficinas, etc.; una verdadera digestión, que metamorfosea tanto al capital tecnológicamente dependiente como a los Estados nación y al trabajo vivo, en datos 11 . Se trata de un dominio cibernético sobre la totalidad que se manifiesta como captura del lazo social: relaciones humanas ya mediadas por la cibernética del capital. Esta acelera su rotación y asegura que producción de valor y poder de compra se encuentren, en tiempo real, a través del espacio 9. Una nueva disciplina, llamada«agnotología», se encarga de estudiar esta cuestión de la ignorancia socialmente inducida. El canal de noticias público alemán Deutsche Welle(dw Documental) ha realizado un documental de investigación al respecto, Manipuladores de opinión (2021). 10. En estos años, el hecho histórico ocurrido fue la expropiación originaria de datos. De ahora en más asistiremos a la regulación y legalidad del flujo de datos; al surgimiento de nuevos derechos (derecho al anonimato, por ejemplo) y«buenas prácticas de privacidad» que organicen la legitimidad, a largo plazo, del capitalismo cibernético. Es un paso necesario e indispensable para que este despliegue los nuevos diseños para el medio ambiente humano: las ciudades inteligentes. 11. ¿Quiénes utilizan esas materias primas? Toda la fuerza de trabajo científica tecnológica (programadores, analistas de sistemas, informáticos, sociólogos, psicólogos, etc.) que, ya sea dentro de un laboratorio de Google o como emprendimiento tecnológico tipo pyme, manipula esas masas de datos para inventar, escribir, fórmulas, algoritmos, con los cuales ofrecerán mercancías inmateriales(productos y servicios). Allí está el verdadero plusvalor productivo: el plusvalor algorítmico. 66 Leonardo Fabián Sai | nueva sociedad | 294 creado por este capital: el ciberespacio. La aceleración de la rotación del capital(como unidad del tiempo de circulación y producción) por parte del capital cibernético presupone el capital industrial. El capital cibernético no crea desde sí mismo el capital industrial; crea industrias, pero presupone, para su existencia y apropiación de valor, la trama industrial del mercado mundial. Un empresario industrial«sube a la nube» toda la información contable de sus empresas, sus operaciones, sus estructuras de gastos, sus Los algoritmos ventas, sus planes de inversión. Toda esa información ofrece saber al capital cibernético. Sus«fierros», sus indel capital no fraestructuras, alojan esa información. Ahora bien, los son una forma de«capital fijo», sino de capital algoritmos del capital no son una forma de«capital fijo», sino de capital cibernético 12 . Son medios de producción inmateriales que, al codificar una masa descomunal de datos(un saber social práctico extraído cibernético de millones de conductas e informaciones), producen un plusvalor algorítmico que permite anticiparse a los hechos económicos, automatizar el lazo social transformando las relaciones sociales. Transformando tecnológicamente las relaciones sociales, el capital cibernético transmuta la esencia del humano 13 . El capital cibernético –decíamos– acelera la rotación de los capitales productivos existentes(abreviando tiempos de circulación y producción) y, a diferencia del capital comercial, influye directamente sobre los tiempos de producción y circulación. El capital cibernético no solo potencia al capital industrial, sino que además potencia y comanda al capital comercial. El efecto de superficie no puede sino ser una economía digital. En esta economía aceitada con criptomonedas como forma necesaria del presente estadio del desarrollo tecnológico del capital, el capital cibernético ofrece una nueva forma de conversión, de estado, a la forma del valor: la forma digital del valor. Se trata de la mercancía que se transmuta en datos, en información, en comunicación de los sistemas sociales de una sociedad mundial de control. Este cambio de estado, de la mercancía a datos, implica la mediación del capital cibernético en la producción de valor como forma inmaterial o digital del valor. Una conversión del valor a través de fuerza de trabajo inmaterial, inteligente, expresada en algoritmos, fórmulas, procesos cognitivos del capital 12. Tiziana Terranova comete un serio error, en nuestra opinión, al considerar los algoritmos como parte del«capital fijo»(«Marx en tiempo de algoritmos» en Nueva Sociedad N o 277, 9-10/2018, disponible en). Los algoritmos, bajo el comando del capital, son propiedades intelectuales: verdaderos arcanos de su poder tecnológico, secretos de Estado del capital. Los algoritmos del capital son fórmulas secretas, bienes irreproducibles, súper productivos, de inmenso valor. 13. Para la sociología,«esencia humana» significa, en términos del Marx de la tesis 6 sobre Feuerbach, el«conjunto de relaciones sociales». tema central | ¿Qué es el capital cibernético? 67 y de sus laboratorios sin paredes. Esta conversión redunda en aceleración del proceso capitalista de producción, abreviación del tiempo de rotación del capital, reducción del tiempo en que el capital reposa como capital mercantil. Esa velocidad permite la vuelta del capital como dinero . Reconvirtiendo las relaciones sociales en datos para el desarrollo de la inteligencia artificial, el capital cibernético subsume realmente a la sociedad, entendiendo por sociedad el sistema que incluye todas las comunicaciones posibles: la sociedad mundial. La sociedad mundial de control del capital cibernético El capital cibernético acelera dramáticamente la circulación del capital. Se acelera el encuentro entre el poder de compra y la mercancía, como si el capital cibernético fuera un déspota oriental para una miríada global de trabajadores(artesanales) que producen a pedido y en condiciones de absoluta dependencia tecnológica. ¿Siervos de las pantallas? Esta metáfora«tecnofeudal» de Cédric Durand, con sus analogías en el pasado eclesiástico-confesional, resulta poco productiva –lo que los usuarios ponen en el capital cibernético no es«trabajo» sino naturaleza humana como materia prima, vida social como datos– para pensar la economía digital. No se trata, por lo tanto, simplemente, de«extractivismo». El capitalismo de nuestros días no es«ficticio» ni«medieval». Es súper productivo, por la masa de trabajo que es capaz de comandar. Esta aceleración algorítmica del proceso social de producción está en el origen de la«hambruna de datos», de la necesidad, la voracidad por los datos que permitan incrementar la prontitud de los pedidos, de los despachos, de los stocks por vender, de la circulación de capital dinerario para pagar deudas o tomar créditos; pero también del estudio científico de las poblaciones del mundo para predecir las conductas y anticipar los comportamientos individuales y colectivos. Al operar sobre el conjunto tecnológicamente dependiente del capital(los empresarios del mundo que venden sus mercancías por internet) y del trabajo asalariado(la humanidad que carga su vida cotidiana en el celular), el capital cibernético se transforma no solo en el mediador general del lazo social, sino también en un expropiador de la experiencia humana que procesa nuestra relación con el lenguaje como procesamiento cibernético del lenguaje natural. Esta mutación es identificada, superficialmente, como «pasaje» de una«internet de la información» a una«internet del valor». El capital que otrora vendía servicios y productos tecnológicos ha evolucionado en una forma cibernética capaz de tomar al humano mismo como sede de la producción de plusvalor, transformando:(a) la relación con el lenguaje: la expropiación de la experiencia en sistemas de modelización de 68 Leonardo Fabián Sai | nueva sociedad | 294 la conducta vía algoritmos;(b) la relación con el trabajo y la producción de dinero: la condensación de la vida social a través de pantallas y la emergencia de la forma digital del valor o criptomoneda;(c) la relación con el cuerpo y la vida: la transformación del cuerpo humano en cuerpocyborg y la edición genética de la especie 14 . Ni el sujeto ni la subjetividad ni la relación con el lenguaje están dados de una vez y para siempre. El ser humano debe producir esa relación con el lenguaje. El modo de ser de esa relación puede, en un futuro cada vez más cercano, no tener la forma de una subjetividad. El ser humano puede dejar de pensarse subjetivamente en el devenir de otro modo de ser. Bajo el dominio de la cibernética, la subjetividad queda relegada, descentrada, en el funcionamiento de los sistemas. Síntesis El capital cibernético es una estructura tecnológica lanzada al futuro; una acumulación de trabajo cognitivo capaz de limitar el infinito de las comunicaciones con algoritmos cada vez más eficientes y potentes; una función en el dominio general del capital sobre el trabajo vivo adaptada al riesgo, a la contingencia, a la incertidumbre y a la primacía de la temporalidad sobre el espacio de la sociedad moderna. Su modo de comunicación, desde ya, ha superado la vieja lógica binaria con sistemas cuánticos 15 . El capital cibernético, asimismo, ya no se dirige sin más a la naturaleza(para transformarla en materia prima del capital industrial), ni a las industrias(para destruirlas creativamente mediante las innovaciones radicales del cambio tecnológico permanente) sino, fundamentalmente, a la naturaleza humana –que reduciremos a la fórmula«biología más lo social»– para producir al cyborg : al ente biológico, cibernéticamente editable. La fuerza de trabajo cognitiva, inmaterial, que compra el capital cibernético potencia trabajo vivo, naturaleza humana. Es trabajo vivo que potencia trabajo vivo. Ya no más trabajo vivo que actualiza trabajo pretérito, muerto. Es trabajo científico-tecnológico que conduce al cuerpo de la especie más allá de sus límites biológicos. El capital cibernético es una revolución del valor que es, al mismo tiempo, una revolución bioeconómica 16 . 14. Sobre este asunto, resulta indispensable la lectura de Gabriel Muro:«Los algoritmos vivientes» en Espectros N o 7, 2021. 15. Los ordenadores clásicos convierten la información en unos y ceros. En computación cuántica, los sistemas pueden ser uno y cero a la vez. 16. El enemigo principal del capital cibernético, desde luego, no son los sindicatos sino la«civilización del petróleo». Esta le impone límites energéticos, límites que lo provocan y desafían su superación. Veremos desarrollarse esta cuestión a lo largo de todo el presente siglo. Hacia un mundo digitalizado Sebastián Sanjurjo Hay dos variables que pueden considerarse como fundantes de la modernidad: la filosofía humanista y la revolución científica. Surgidas e imbricadas en un momento muy particular de la historia europea, dotaron al incipiente capitalismo de una base tanto ideológica como material. Hoy el humanismo parece tensionado por el crecimiento de la inteligencia artificial y sus consecuencias hacia el futuro. Para superar un orden social estructurado en torno de lo religioso, se recurrió a una base filosófica que ponderaba al ser humano como centro del mundo, así como a un inusitado impulso a la ciencia, que entonces fue erigida en núcleo de una suerte de culto al progreso. Así, si mediante el humanismo podía liberarse el espíritu de los presupuestos socioeconómicos jerárquicos y estamentales, con el método científico se acababan de destronar las explicaciones celestiales y dogmáticas sobre la naturaleza. Fue una época de fuertes rupturas para aquella sociedad europea. El mundo comenzó a ser concebido como resultado del cálculo matemático, los principios de la física mecánica impregnaron la médula de las ciencias naturales y el ser humano se volvió la medida de todas las cosas, en sus ansias de conocimiento. La íntima ligazón entre humanidad y ciencia tuvo su correlato en las necesidades de una burguesía en ascenso, que se servía del avance científico para aplicarlo como técnica en la producción manufacturera. Es decir que, llegado un punto, los beneficios de la ciencia dejaron de irradiar el bien común, el Sebastián Sanjurjo: licenciado y profesor en Sociología por la Universidad de Buenos Aires(uba). Integra el Centro de Estudios Históricos, Políticos y Sociales Felipe Varela. Palabras claves: capitalismo, inteligencia artificial, modernidad, revolución digital. 70 Sebastián Sanjurjo | nueva sociedad | 294 conocimiento general y«filantrópico» del mundo, para mostrar su verdadera cara y comenzar a operar en un estricto sentido económico, dentro de la fábrica. El propio Marx pudo divisar la contradicción que asomaba, expresada hacia el siglo xix en el antagonismo entre la clase obrera y los instrumentos técnicos de la producción: En la maquinaria cobran independencia la dinámica y el funcionamiento del instrumento de trabajo frente al obrero (…) En la manufactura y en la industria manual, el obrero se sirve de la herramienta: en la fábrica, sirve a la máquina. Allí, los movimientos del instrumento de trabajo parten de él; aquí, es él quien tiene que seguir sus movimientos.(…) El instrumento de trabajo se enfrenta como capital , durante el proceso de trabajo, con el propio obrero; se alza frente a él como trabajo muerto que domina y absorbe la fuerza de trabajo viva.(…) Así se explica ese singular fenómeno que nos revela la historia de la industria moderna, consistente en que la máquina eche por tierra todas las barreras morales y naturales de la jornada de trabajo. 1 Esta descripción de Marx, reflejo de un capitalismo ya entrado en su etapa de gran industria, era también una predicción en relación con la profundización y mutación que el fenómeno adoptaría. Una situación que, por esa misma época, también advertía el filósofo Samuel Butler, aunque extremando sus conclusiones al proclamar la necesidad de declarar la guerra a las máquinas: Día a día las máquinas están ganando terreno entre nosotros; día a día nos volvemos más sumisos respecto de ellas; cada vez más hombres están diariamente obligados a ocuparse de ellas, más hombres están diariamente dedicando las energías de toda su vida al desarrollo de vida mecánica. El resultado es simplemente una cuestión de tiempo, pero el momento llegará cuando las máquinas obtengan verdadera supremacía sobre el mundo y sus habitantes. Nuestra opinión es que debería ser proclamada inmediatamente la guerra a muerte contra ellas. 2 La consolidación de la máquina como instrumento de trabajo, reafirmada históricamente por la explotación de nuevas fuentes de energía, pudo pronto integrar la automatización de sus procedimientos. Cuando este proceso estuvo realizado, el capitalismo europeo, anclado en la sobreproducción 1. K. Marx: El capital. Crítica de la economía política t. 1 vol. 1[1867], fce, Ciudad de México, 1973. 2. S. Butler:«Darwin Among the Machines», carta al editor en The Press , Christchurch, 13/6/1863. tema central | Hacia un mundo digitalizado 71 de mercancías, se lanzó en una feroz disputa por los mercados coloniales. El siglo xx, el de las guerras mundiales y los grandes genocidios, estableció a su paso una suerte de universalización del paradigma humano-tecnológico. Pero sus dos variables integrantes, lejos de asimilarse, profundizaron su camino de contradicciones: el vigoroso avance científico no solo doblegaba a la naturaleza, sino que desde su autonomía comenzaba a trastocar el histórico legado humanista. La revolución digital Los algoritmos, en tanto procedimientos de cálculo, existieron desde tiempos inmemoriales. Ricardo Peña Marí escribe que, incluso en la antigua Mesopotamia de hace 3.000 años, se emplearon algoritmos para describir ciertos cálculos relacionados con transacciones comerciales:«En el siglo xvii aparecieron las primeras ayudas mecánicas para el cálculo en forma de calculadoras de sobremesa y En el siglo xvii en el siglo xix se conciben las primeras máquinas aparecieron las programables. Los ordenadores, tal como hoy los conocemos, son, sin embargo, de mediados del siglo xx. A partir de ahí, los algoritmos alcanzan un primeras ayudas mecánicas para desarrollo sin precedentes» 3 . el cálculo en forma Es decir que lo novedoso de este desarrollo no era el algoritmo en sí mismo, sino su integración dentro de un sistema más vasto, el de la informátide calculadoras de sobremesa ca o computación. Hacia mediados del siglo xx, el matemático inglés Alain Turing había logrado idear un modelo de cálculo(algoritmo) capaz de ser generalizado a cualquier máquina o computador. En teoría, cualquier problema que pudiera traducirse a términos matemáticos, en determinado lenguaje simbólico, podría ser resuelto. Aunque aún imaginaria, la«máquina de Turing» proporcionaba la base para la aparición del computador digital, al formalizar un sistema de entrada y salida capaz de reconocer un lenguaje y luego ejecutar múltiples funciones programables. Aparecía a su vez la posibilidad de un lenguaje universal de programación, la aptitud automática y recursiva de«computar», calcular. La verificación práctica de la teoría de Turing se desarrollaría una vez culminada la Segunda Guerra Mundial, y con ella, la fabricación de los primeros computadores electrónicos. 3. R. Peña Marí: De Euclides a Java. Historia de los algoritmos y de los lenguajes de programación, Nivola, Madrid, 2006. 72 Sebastián Sanjurjo | nueva sociedad | 294 Luego, en la década de 1960, con la Guerra Fría impulsando una inédita carrera científico-tecnológica, se avanzó notablemente en el campo de la electrónica y se logró«integrar» las computadoras, reduciendo sus componentes. Una posible periodización del proceso las identifica como de segunda generación, a partir de la invención del transistor, y de tercera generación, con el surgimiento del sistema integrado. Sobre la base de estas nuevas tecnologías surgió también el sistema operativo multiprogramación, capaz de procesar distintos programas en simultáneo y reducir así enormemente los tiempos de ejecución. La empresa emblemática de todas estas transformaciones fue la estadounidense International Business Machines Corporation (ibm), pero aún se trataba de proyectos costosos. Con la década de 1970 llegaron las computadoras de cuarta generación, cuyo elemento revolucionario fue la invención del microprocesador. Manuel Castells sostiene que«la llegada del microprocesador en 1971, con la capacidad de poner una computadora en un chip, dio vuelta el mundo de la electrónica, de hecho el mundo en sí» 4 . Esto dio nacimiento a la microinformática y, con ella, a las computadoras personales para uso civil y comercial(pc, por sus siglas en inglés). Ahora sí, la reducción en tamaño y costo de las máquinas anunciaba la llegada de la«revolución tecnológica». El mundo se volvía información, susceptible de ser registrado a gran escala y de forma digital. Finalmente, en la década de 1980 se«inventó» internet( interconnected networks ), es decir la posibilidad de compartir esa información a través de redes interconectadas. La computadora, que hasta entonces se había limitado al almacenamiento y procesamiento de información, comenzaba a funcionar como embrionario instrumento de conexión entre personas y distancias. Pero ante la pregunta premonitoria de Turing sobre si la computadora podía pensar, la respuesta continuaba siendo un consensuado«no». Aunque ocupaba un lugar cada vez más importante, se mantenía aún la centralidad del humanismo, esa dimensión mencionada como constitutiva de la modernidad y que representa nuestra autonomía intelectual. La informática operaba en su función de herramienta/instrumento y la idea de la inteligencia artificial, entrevista en teoría desde antaño, distaba de ser una realidad. Es cierto que ya había mostrado sus primeros indicios de posibilidad en la década de 1960, con la inauguración de los sistemas de pilotaje automático de los aviones. Luego, en las décadas siguientes, despertó mayor expectativa con la creación de los«sistemas expertos», primeros intentos de utilizar los algoritmos para simular el razonamiento humano. Pero al sumar algunos fracasos en este 4. M. Castells: La era de la información. Economía, sociedad y cultura 1. La sociedad red, Alianza, Madrid, 1997. tema central | Hacia un mundo digitalizado 73 terreno, como el proyecto japonés de computadoras de«quinta generación», no hubo grandes avances durante los años 80. La verdadera revolución llegó con la década de 1990, al propagarse internet. Las computadoras comenzaron a reproducir las novedosas páginas web y a multiplicar las comunicaciones instantáneas entre las partes más distantes del globo. EsLa verdadera tas asombrosas mutaciones fueron abriendo paso a revolución llegó consecuentes necesidades de infraestructura: también fue la década en que crecieron exponencialmente las inversiones, tanto privadas como estatales, y resultado de ello fue el tendido de millones con la década de 1990, al propagarse internet de kilómetros de fibra óptica y de cables submarinos que hacen posible el mundo velozmente conectado de hoy 5 . Esta transformación, construida en paralelo a los desarrollos de la microelectrónica, pudo presentarse como la base necesaria para el posterior imperio de las tecnologías de la información y la comunicación(tic). Con esta nueva realidad, la tecnología de los años 90 comenzaba un incipiente proceso de independencia respecto del ser humano al construir una realidad paralela: un mundo digital capaz de registrar y reproducir al instante la información disponible sin depender de la observación o la presencia in situ . Es este el contexto en que la inteligencia artificial definitivamente«despega»: los sistemas expertos comenzaron a generalizar con éxito sus facultades«interpretativas» sobre la base de la deducción y se avanzó hacia la emulación enteramente automatizada de razonamientos cognitivos. El corolario emblemático de este proceso llegó en 1997, cuando el programa Deep Blue, ideado por ibm, le ganó una partida de ajedrez a Garri Kaspárov, el mejor jugador del mundo en ese entonces. En general, lo medular del cambio consistía en que una computadora pudiera no solo almacenar y procesar información, sino también deducir y proyectar escenarios. Algo muy similar al«pensar» humano. Una transición de la«computadora procesador» a la«computadora intuitiva», de la incipiente informática a la cibernética o, lo que es lo mismo, de la revolución digital a la inteligencia artificial. Se trata de un fenómeno de larga data, con avances y retrocesos aquí solo esbozados, pero que se afianza decididamente hacia finales del siglo pasado. Este proceso tuvo como resultado el imponente crecimiento de las empresas tecnológicas basadas en la comercialización de internet, fenómeno que en pleno imperio del capital financiero se tradujo 5. Entre 1995 y 2000, la inversión en infraestructura de telecomunicaciones registró su récord histórico, tanto en los países centrales como en los periféricos. Respecto a la infraestructura de internet, v. Adam Satariano:«La vida submarina de internet» en The New York Times , 11/3/2019. 74 Sebastián Sanjurjo | nueva sociedad | 294 rápidamente en un boom especulativo. La burbuja finalmente estalló en 2000, con la estrepitosa caída del índice bursátil nasdaq, en lo que también se conoció como la«crisis de las punto com». De la revolución digital a la inteligencia artificial Con el nuevo siglo, y con la infraestructura de un mundo digitalizado ya disponible, la inversión en mecanismos de inteligencia artificial se profundiza y marca la tendencia generalizada en el sector tecnológico. Tras ella se cobija un nuevo modelo de negocios, que ya no se basa en la comercialización de internet, sino que apuesta a la universalización de internet como medio de acceso a la información de la sociedad civil. El nuevo patrón apunta en adelante a la extracción y procesamiento constante de datos(personales, empresariales, institucionales). Y ya no se sostiene –o no solo– en una computadora de escritorio, sino en una presencia creciente de la tecnología como forma de registrar la mayor cantidad de datos posible. Este fenómeno se consolida hacia la segunda década del siglo xxi, con plataformas perfeccionadas para estimular relaciones adictivas y con algoritmos que avanzan hacia la personalización de los contenidos online . Se genera lo que Eli Pariser denomina«filtro burbuja»: se esfuman las promesas democratizadoras que anunciaba internet y se profundizan los sesgos y la manipulación de la información 6 . En nuestros dispositivos solo recibimos información relacionada con nuestras inclinaciones, y así crecen los discursos de odio o recobran vitalidad algunas perimidas teorías conspirativas. Como elemento clave del proceso, Éric Sadin identifica la«universalización del smartphone » 7 , mientras que Nick Srnicek, al hablar de la«internet de las cosas» 8 , describe una penetración más amplia de la informática, que consiste en la colocación de chips y sensores en infinidad de dispositivos y electrodomésticos 9 . Cuestiones como la individualización y miniaturización de los objetos tecnológicos, su geolocalización y transportabilidad, y el predeterminado acceso a redes sociales y plataformas son manifestaciones 6. E. Pariser: El filtro burbuja. Cómo la red decide lo que leemos y lo que pensamos, Taurus, Barcelona, 2017. 7. É. Sadin: La humanidad aumentada. La administración digital del mundo, Caja Negra, Buenos Aires, 2019. 8. N. Srnicek: Capitalismo de plataformas , Caja Negra, Buenos Aires, 2018. 9. Desde el conocido smart tv hasta heladeras, pasando por la inversión de Google en Nest, un sistema de calefacción para viviendas, o el reciente dispositivo de Amazon, Echo, que se instala en los hogares y permanece encendido las 24 horas. tema central | Hacia un mundo digitalizado 75 © Nueva Sociedad/ Giovanni Parrado 2021 76 Sebastián Sanjurjo | nueva sociedad | 294 de esta tendencia al registro constante de cada movimiento humano a lo largo y ancho del planeta, en un tránsito crecientemente virtual de nuestras existencias. Los fines son y pueden ser múltiples. En el plano económico, puede sopesarse la monetización de los perfiles de usuarios a través de la interconexión de redes sociales, medios y tiendas online . Se trata de un ámbito en el que destacan plataformas típicamente publicitarias como Facebook o el software de Google, y donde el funcionamiento de los algoritmos personalizados se verifica como el elemento central. Para ilustrar esta dinámica, puede apelarse a la conocida frase:«si el servicio es gratis, el producto eres tú». Tu información, que se almacena y se clasifica… se«convierte» en dato y se comercializa como espacio para la publicidad. Pero en lo relativo al ámbito de lo político, en cambio, puede hablarse de estrategias de espionaje o, con Shoshana Zuboff, de un«capitalismo de la vigilancia» 10 . Sus lógicas operan a menudo en el plano interno estatal apuntalando ciertas políticas públicas; o en su defecto, demostrando los ribetes totalitarios de tal o cual gobierno. Pero operan sobre todo en el plano geopolítico, complejizando al extremo las disputas militares y comerciales en un mundo volcado definitivamente hacia el multilateralismo. Se incorpora así el La pérdida de la ciberespacio como un componente decisivo en las relaciones internacionales, sobre el cual se registra privacidad se cierto consenso al considerarlo el«quinto dominio convierte en requisito para el de la guerra», junto con las clásicas dimensiones de la tierra, el mar, el aire y el espacio 11 . En todos los casos, la pérdida de la privacidad nuevo paradigma se convierte en requisito para el nuevo paradigma, lo que se expresa en una notable capacidad de intrusión de la tecnología en nuestras vidas cotidianas; vale decir, de un puñado de empresas tecnológicas. Manipulando enormes cantidades de datos y procesándolos a velocidades exponenciales mediante sofisticados algoritmos, se comienza a trabajar sobre la predicción y/o direccionamiento de nuestros pensamientos, conductas… ¡hasta de nuestras emociones! 10. S. Zuboff: La era del capitalismo de la vigilancia. La lucha por un futuro humano frente a las nuevas fronteras del poder , Paidós, Barcelona, 2020. Respecto al espionaje constante, puede ilustrarlo una exposición como la de Marta Peirano:«¿Por qué me vigilan, si no soy nadie?», charla tedxMadrid, 22/9/2015, disponible en. 11. Concepción que recientemente han sintetizado dos estadounidenses con vasta experiencia pública como Richard Clarke y Robert Knake, en su libro The Fifth Domain (Penguin, Nueva York, 2019). También puede destacarse el discurso de Barack Obama de 2009, donde define la ciberdefensa como un asunto estratégico de Estado y deja entrever su pedido de alianza urgente con Silicon Valley.«President Obama on Cybersecurity» en The Obama White House , canal de YouTube, 29/5/2009, . tema central | Hacia un mundo digitalizado 77 La lógica algorítmica genera a su paso una marcada propensión a la concentración económica, cuando no al monopolio, ya que cuantos más datos alimentan un algoritmo, más efectivamente funciona este 12 . Así, a una tendencia que presenta cierta regularidad en el capitalismo, como es la de la concentración, se le adosa el aspecto particular y puramente operativo de un mercado como el de los datos. En su modus operandi , apela a todo tipo de herramienta: búsquedas online , cookies de seguimiento en páginas web, consumos con tarjetas, desplazamientos vía gps, trámites virtuales, movimientos bancarios, registros de huellas digitales y hasta reconocimientos faciales. Hay aquí un cambio de paradigma respecto de la revolución digital originaria, y refiere a la lisa y llana captación de nuestras subjetividades. Por ello es que tanto Sadin como Srnicek asocian el nuevo siglo a una nueva etapa de la revolución tecnológica: mientras que el primero conceptualiza una nueva«antrobología», suerte de acoplamiento híbrido humano-maquínico, el segundo opta por hablar de un«capitalismo de plataformas». ¿Un capitalismo inteligente? Muchas veces se ha hablado de nuevas etapas del capitalismo, o de fases de la Revolución Industrial, al considerar distintos cambios estructurales. El nuevo siglo no podía ser la excepción, cuando se verifica una hegemonía inusitadamente corporativa y un nuevo patrón de acumulación del gran capital: los datos. Esto es efectivamente así, y para notarlo no solo basta con dimensionar el tamaño relativo de las big tech 13 , sino que también puede advertirse que se apoderan del último eslabón de la cadena de valor: los usuarios o consumidores, a través de los datos. En una ilustrativa analogía, Esteban Magnani afirma:«La materia prima es nuestra inteligencia, los medios de producción los algoritmos y nuestras búsquedas el trabajo que permite transformarlos en servicios monetizables. La variable ausente es el salario correspondiente por ese trabajo, 12. El derrotero de Facebook en la última década ilustra claramente sobre esta tendencia al monopolio(compra de Instagram en 2012; compra de Whatsapp en 2014), mientras que la reciente demanda del gobierno de eeuu para que desinvierta muestra cómo estos gigantes tecnológicos acaban por afectar el orden público. Para la misma fecha, también China impulsaba medidas antimonopolio, orientadas especialmente contra sus principales firmas tecnológicas: Baidu, Alibaba y Teccent, conocidas por sus siglas como bat. 13. Para dimensionar este hecho con algunos ejemplos: el valor bursátil de Apple alcanzó el año pasado la histórica cifra de dos billones de dólares, más de cuatro veces el pib argentino(449.000 millones de dólares) y alrededor de 10% del pib de eeuu, la primera economía del planeta. A la vez, siete de las diez mayores empresas globales por capitalización bursátil en el mundo son megaempresas tecnológicas, que superan en general a los Estados en inversión científica. 78 Sebastián Sanjurjo | nueva sociedad | 294 algo que ayuda a entender que algunas empresas se enriquecieran tanto y tan rápido» 14 . Más allá de las discusiones en torno de si nuestras interacciones Con Zuboff, virtuales son propiamente«trabajo» –en muchos aspectos diríamos que no–, lo cierto es que, con Zubpodemos hablar de off, podemos hablar de una apropiación del«exceuna apropiación del«excedente producido por el dente producido por el comportamiento» 15 . Desde este punto de vista, podría decirse que las grandes empresas tecnológicas han encontrado una alternativa que va incluso más allá de la desregulación y comportamiento» precarización del trabajo –mundialmente afianzadas bajo la impersonalidad que supone la virtualidad– y que radica en la monetización del lazo social, es decir, la posibilidad de continuar lucrando durante y con el tiempo libre de las personas. Por lo demás, son cambios que parecieran no obstaculizar el modelo de valorización financiera; todo lo contrario, lo apuntalan, y de ahí que suela hablarse de estos conglomerados como empresas tecnológico-financieras ( fintech ). Tal vez la emergencia más sintomática de este rumbo sean las criptomonedas, tan en boga durante estos últimos años. Al respecto, podemos referir al ya conocido Bitcoin , a las también operativas Ethereum o Litecoin y al intento(fallido) de Facebook con Libra . Se trata de una tendencia propia de un modelo especulativo-tecnológico que apela al lenguaje criptográfico como modo de extremar la desregulación financiera. Y funciona mediante la tecnología blockchain , que en esencia constituye una red abierta y comunitaria que, de forma descentralizada, registra, almacena y finalmente habilita un cúmulo de transacciones virtuales. Sus operaciones, que comenzaron albergando obras de arte o gustos de elite, avanzan de a poco hacia propiedades inmuebles, además de operaciones ilegales. Estos aspectos no implican empero una independencia del capital tecnológico respecto de sus países de origen, o al menos no de un modo visiblemente preponderante. Por el contrario, en muchos casos sus controversias por mercados o bases de datos parecieran orientar la lucha geopolítica. En el tablero internacional, la disputa entre China y eeuu se expresa actualmente 14. E. Magnani: La jaula del confort. Big data, negocios, sociedad y neurociencia , Autoría, Buenos Aires, 2019. 15. La expresión exacta es behavioral surplus y también aparece traducida como«plusvalía de comportamiento» o«excedente conductual». Tales traducciones no resultan las más exactas, pero la aclaración es necesaria porque se trata de un concepto troncal a su libro, ya citado. La historización que propone identifica a Google como el iniciador del modelo. Una ilustración ejemplificadora del funcionamiento de este«mercado» puede hallarse en Bryan Alexander: «Reading the Age of Surveillance Capitalism: chapters 3 and 4» en blog del autor, 15/4/2019. tema central | Hacia un mundo digitalizado 79 en la carrera por el liderazgo de la inteligencia artificial, en particular en lo que constituye su nueva base de operaciones: la tecnología 5g, promisoria red de banda ancha móvil diseñada a la medida de los servidores inteligentes. En este sentido deben interpretarse las sanciones de Donald Trump a Huawei –aún vigentes–, así como sus amenazas a las apps chinas TikTok y WeChat. Asimismo, el rápido ascenso del gigante chino Alibaba, con su reciente desembarco en los mercados europeos, propone el primer gran reto a Amazon, y se perfila una brutal contienda en el mercado del comercio electrónico. En todos los casos debe contemplarse que además de la disputa propiamente comercial, opera el factor estratégico que contempla los datos de millones y millones de personas. Así, por un factor u otro, las inversiones en inteligencia artificial se acrecientan, a punto tal que constituyen un eslabón trascendental del actual formato de la competencia capitalista: Google es el mayor inversor en esta área, pero Amazon, Salesforce, Facebook y Microsoft también están invirtiendo mucho en ia 16 . Esta tendencia puede ampliarse a las grandes empresas en general: en su tradicional relevamiento del estado de la inteligencia artificial, la consultora estadounidense McKinsey& Company afirma que en 2019 su uso aumentó 25% respecto del año anterior, mientras que en 2020 la mitad de las empresas consultadas afirmaron haber incorporado sus mecanismos en al menos un rubro de negocios 17 . Evidentemente, el fenómeno está ya consolidado. De ahí que cada tanto se escuchen noticias de«emprendedores» que producen un algoritmo para esto, un algoritmo para lo otro… La total supremacía que ejercen hoy en día los gigantes tecnológicos se desplaza hegemónicamente hacia abajo, y hoy una pequeña empresa«exitosa» es aquella que logra automatizar alguno de sus aspectos decisionales. Se trata de una orientación irrefrenable de los capitalismos centrales. Es lo que permite a Sadin hablar de la«silicolonización del mundo», en referencia ingeniosa a la colonización ejercida por el paradigma Silicon Valley sobre el mundo occidental. En tal sentido, constituye también un modo de dominación sobre las periferias. Las empresas tecnológicas de los países centrales reproducen las históricas prácticas coloniales, solo que amparadas en nuevos argumentos,«innovadores». La intervención sucede a menudo bajo el manto de la «modernización» e implica, en rigor, la habitual intervención sobre las políticas públicas. Una suerte de profundización del new public management 16. N. Srnicek: ob. cit. 17. McKinsey& Company:«The State of ai in 2020», 17/11/2020,. 80 Sebastián Sanjurjo | nueva sociedad | 294 inaugurado por el neoliberalismo anglosajón de la década de 1980 que, en su intento incesante de suplantar a la política, acaba cooptando a los distintos gobiernos dóciles del mapa(generalmente liberales). Denota a su paso una creciente deshumanización de las relaciones sociales y, en un mismo acto, avasalla todo vestigio de soberanía nacional. En América Latina, por ejemplo, se registran políticas prácticamente nulas en torno de la protección de datos y construcción de servidores nacionales –o regionales–, asunto de vital importancia estratégica que podría tratarse tal vez en otro escrito. Reflexiones finales Con estos cambios del nuevo siglo, no debe identificarse solo una mutación del capitalismo, como tantas otras, sino la posibilidad de una nueva era, un nuevo modelo civilizatorio. Una situación que Daniel Crevier, ya a principios de los años 90, pudo divisar con asombrosa claridad: ¿Qué pasará con los humanos si triunfan los investigadores en inteligencia artificial, obligándonos a compartir el mundo con entidades más hábiles que nosotros mismos? ¿Tendremos que esperar un nuevo Renacimiento o la aparición de especies que nos reemplazarán? ¿Y debemos descansar sobre esas creaciones para que tomen decisiones por nosotros, no solamente económicas o científicas, sino también legales, sociales o morales? 18 El permanente avance en tecnologías de inteligencia artificial lleva en todos sus aspectos hacia la«sustitución humana». Ya no se trata de que la tecnología reemplace en ciertos rubros a la fuerza de trabajo, incluso tampoco de su auxilio permanente en la vida cotidiana. En su dinámica liberalizada, sin mediar regulación alguna, el proceso pareciera tender hacia la ocupación de nuestros espacios de decisión, hacia el reemplazo liso y llano de la condición humana. En este sentido, el investigador Enzo Girardi afirma: Estas megaempresas interpretan y ejecutan, en los hechos, una ideología universalizadora tecnoliberal que les sirve como argumento de legitimación. Postulan la razón tecnocientífica que presenta a la tecnología como la herramienta definitiva, aquella que resolverá los problemas 18. D. Crevier: Inteligencia artificial , Acento, Madrid, 1996. tema central | Hacia un mundo digitalizado 81 pendientes del ser humano. La ontología tecnolibertaria consiste en descalificar la acción humana en beneficio de un ser computacional, que se juzga superior. 19 Para tomar real dimensión de la situación, debe considerarse que la inteligencia artificial tiene la capacidad del aprendizaje automático, el tan mentado machine learning . Esto quiere decir que los algoritmos pueden perfeccionarse automáticamente en el análisis de la información, lo que les permite generar sus propios patrones de conocimiento y sofisticarlos hasta niveles inconcebibles. Y debe considerarse también que el motor de esta vorágine es el capitalismo basado en la desregulaEl motor de esta vorágine es el capitalismo basado ción de internet, que avanza no solo sobre el espaen la desregulación cio público sino, como se ha visto, también sobre nuestras propias existencias. de internet En esencia, el problema es siempre la liberación de las«fuerzas vivas» del capital, independientemente de su modo de acumulación. Pero en este caso, pareciera estar atravesándose cierto límite, transversal a la especie y ya no solo a los sectores del trabajo. En este sentido, el filósofo alemán Markus Gabriel plantea una posible línea de acción: Internet parece ser global, pero no lo es porque los servers están en lugares bien definidos. Internet no está en el cielo. Internet está bien en la Tierra, pero invisible. ¿Dónde están todos los servers ? No se ven. La posibilidad de reglar internet debería ser a través de los servers . Para controlar la monarquía de internet hay que atacar a los servers ; es exactamente como en Matrix . En el juego, no se puede atacar a Matrix porque no está en la ilusión. La Matrix es el fundamento material, en este caso los servers. Silicon Valley es la concentración del poder económico y el poder ideológico. 20 Evidentemente, resulta imperiosa la regulación por parte de los Estados nacionales. Dilma Rousseff en Brasil lo ha intentado con la Ley de Marco Civil de Internet, en la que se establecían derechos y obligaciones para usuarios y proveedores. Pedro Ekman, uno de los impulsores de esa norma, decía:«No hay una ley ni siquiera parecida en ninguna parte del mundo. 19. E. Girardi:«Digitalización, política e inteligencia artificial. ¿Qué futuro podemos esperar?» en Nueva Sociedad N o 283, 9-10/2019, disponible en. 20. Silvina Friera:«El odio es la lógica de las redes sociales», entrevista a Markus Gabriel en Página/12 , 1/7/2019. 82 Sebastián Sanjurjo | nueva sociedad | 294 Hay leyes de neutralidad en Europa, en Chile y en otros países, pero no hay una ley de estas características. En este sentido Brasil está marcando el camino de un debate a seguir en la democratización de la comunicación de masas» 21 . Pero el lobby desatado en su contra fue muy fuerte: la ley acabó por reglamentarse el 11 de mayo de 2016 22 y al otro día, el 12, Rousseff fue separada del cargo y se confirmó su juicio político. La Unión Europea, por su parte, a pesar de las fuertes campañas de Google y YouTube para«salvar internet», ya tiene listo el texto de sus dos proyectos de ley: la Ley de Servicios Digitales y la Ley de Mercados Digitales. Busca generar un marco normativo para sus países integrantes, que funcione a modo de estímulo a las plataformas pequeñas y medianas, estimadas en 90% y en total subordinación a los gigantes tecnológicos. En esta línea democrática, también intenta regular contenidos ilícitos de internet y respetar derechos profesionales en el periodismo. En un mismo sentido, aunque tal vez no tan profundo, se enmarca la ley que acaba de aprobar Australia, que exige a Facebook y Google que paguen a los medios nacionales por la reproducción de sus noticias 23 . Se trata de una clara señal de combate a la relación de dependencia que de facto ejercen estas plataformas, en este caso sobre los medios de comunicación. La necesidad de arbitrajes estatales está a la vista y debe replicarse en otros países. El camino es la regulación de las grandes plataformas y la supeditación de la tecnología a los fines comunitarios. 21. Fernando Peirone y Eleonora Fernández:«Pedro Ekman:‘Con internet se puede hacer vigilancia masiva o comunicación democrática’» en Noticias Unsam , 11/6/2014. 22. Decreto N o 8711, disponible en. 23. Oriol Puigdemont:«Australia aprueba una ley pionera para que Facebook y Google paguen a los medios por las noticias» en El País , 25/2/2021. La amenaza fantasma Inteligencia artificial y derechos laborales Juan Manuel Ottaviano Más allá de los discursos sobre el«gran reemplazo» del trabajo humano por las máquinas, lo cierto es que la inteligencia artificial está cambiando las formas de trabajar. Los algoritmos son las nuevas«cajas negras», y los recursos de la organización del trabajo son hoy inseparables de los medios de vigilancia. Abrir y regular esas cajas negras es fundamental para evitar el ludismo silencioso que implica la competencia humana con la inteligencia artificial. ¿Es una certeza que en el futuro los robots podrán realizar todas o algunas tareas mejor que los seres humanos? Hoy, solo algunas funciones del trabajo pueden ser mecánicamente automatizadas. Desde la creación de la primera máquina capaz de emular la figura humana hasta las advertencias de John F. Kennedy en 1960, cuando describió la automatización como una«oscura amenaza», el mundo se mostró maravillado con la organización científica del trabajo y reservaba sus temores a la posibilidad de que el autómata –generalmente representado en la ciencia ficción como un único individuo– se rebelara contra su creador. El impacto actual del desarrollo de la inteligencia artificial está ligado a las reformas neoliberales, que implican descentralización proJuan Manuel Ottaviano: es abogado especialista en Derecho del Trabajo y de la Seguridad Social. Fue asesor del Ministerio de Trabajo, Empleo y Seguridad Social de Argentina. Es investigador del centro Capacitación y Estudios sobre Trabajo y Desarrollo(cetyd) de la Escuela Interdisciplinaria de Altos Estudios Sociales, Universidad Nacional de San Martín(idaes-unsam) y de Fundar. Dirige el área de Futuro del Trabajo de la Defensoría del Pueblo de la Ciudad de Buenos Aires. Palabras claves: algoritmo, derechos laborales, empleo, inteligencia artificial. Nota del autor: este artículo fue elaborado con la asistencia de herramientas artificiales de redacción, corrección y traducción. 84 Juan Manuel Ottaviano | nueva sociedad | 294 ductiva, precariedad laboral y una distribución desigual tanto de la fuerza como de los frutos del trabajo. Más allá de los debates en torno del desempleo tecnológico, el discurso agorero del fin del trabajo, verdadero o falso, pierde de vista el impacto real que la inteligencia artificial tiene sobre las condiciones de trabajo y los derechos laborales involucrados. ¿Existe un lazo inseparable entre la inteligencia artificial y la robótica? La inteligencia artificial era una deriva de la ciencia ficción hasta hace apenas 15 años. El ritmo de desarrollo de la automatización de la organización del trabajo estuvo determinado, hasta entrada la década de 1990, por los avances y el perfeccionamiento de máquinas físicas integradas al proceso de producción. La industria automotriz –estandarte de la organización del trabajo en el siglo xx– incorporó rápidamente los brazos mecánicos en el armado y ensamblaje de automóviles 1 . Este desarrollo se ralentizó cuando las máquinas no resultaron eficientes para ejecutar la motricidad fina de la que solo son capaces los seres humanos. Aún hoy, en el marcador de la moConocemos los tricidad fina, la biología gana el partido por goleada contra la artificialidad cuando no hay mecánica que límites de la pueda reproducir la multifuncionalidad de una rodilla robótica, pero no los del aprendizaje artificial para subir una escalera. Por el contrario, si bien en los últimos años la motricidad robótica encontró obstáculos en su desarrollo, la inteligencia artificial creció sin límites y de manera exponencial. Conocemos los límites de la robótica, pero no los del aprendizaje artificial. ¿Cuál es la frontera de la capacidad de procesamiento artificial y cuáles son los alcances de la creatividad humana? ¿Cuán fundado es el miedo a su competencia? ¿Cuáles son las perspectivas de la colaboración entre ellas? Comúnmente, los expertos presentan el problema del reemplazo de las capacidades humanas por la automatización como un pastiche en el que inteligencia artificial y robots son siempre ingredientes integrados. El tardocapitalismo podría abastecerse de«recursos de recursos» 2 , es decir, de recursos producidos por los mismos recursos –humanos y tecnológicos– para llevar a cabo una serie de operaciones que van desde la logística del comercio internacional hasta el cuidado. Solo que, como sostiene Silvia Federici, los trabajos de cuidado podrían ser la última actividad humana en ser reemplazada por la automatización 3 . Por otro lado, el difundido concepto del centauro 1. Enrique de la Garza Toledo y Marcela Hernández Romo(coords.): Configuraciones productivas y laborales en la tercera generación de la industria automotriz terminal en México , uam, Ciudad de México, 2018. 2. Esta denominación se utiliza para referir la forma circular en que la propuesta de la inteligencia artificial inscribe en el sistema de producción su propia lógica homotecnooperativa. 3. S. Federici: Revolución en punto cero. Trabajo doméstico, reproducción y luchas feministas , Traficantes de Sueños, Madrid, 2013. tema central | La amenaza fantasma. Inteligencia artificial y derechos laborales 85 inverso, introducido por teóricos de la automatización a partir de la famosa partida de ajedrez entre el robot Deep Blue y Garri Kaspárov, consiste en que sean los robots los que usen a los humanos como complemento: el ser humano como asistente. La máquina en el centro, la persona en los márgenes. Esto ocurre actualmente en el campo virtual. En la nube digital, las personas trabajan realizando microtareas mal pagas –como identificar imágenes con escaleras– para ser los ojos de la máquina, que se desenvuelve eficientemente realizando tareas cognitivas pero no puede ver y reconocer patrones a la vez. La amenaza fantasma Así como los primeros autómatas solo emulaban la figura humana y los usos de la mecánica robótica –sin imitación– se desarrollaron de manera eficiente, el concepto de inteligencia artificial más coloquialmente difundido es el de la imitación de la cognición humana, pero su desarrollo más ambicioso –no imitativo– es el de resolver problemas, alcanzar soluciones o realizar tareas. Si la tecnología es capaz de problematizar el concepto de inteligencia, por qué no habría de socavar el de trabajo. Klaus Schwab, fundador del Foro Económico Mundial y creador y promotor del concepto de«cuarta revolución industrial» en 2016, es incapaz de precisar las propiedades de la inteligencia artificial. Por el contrario, se limita a destacar los logros más recientes y los avances más atractivos del cómputo 4 . Desde entonces, el tardocapitalismo convino en llamar revolución a un nuevo ecosistema global motorizado por una tecnología disruptiva que aún no logró conceptualizar. En ese contexto, la pregunta por la producción y el trabajo aparece omitida detrás de los caracteres aparentemente revolucionarios de las facilidades y soluciones que ofrecen los productos tecnológicos de última generación 5 . Los analistas neoliberales más avezados comienzan por aceptar la inexorabilidad tanto del cambio tecnológico como del reemplazo de humanos por máquinas 6 . La inteligencia artificial es solo un ingrediente más del proceso irrefrenable hacia el fin del trabajo humano. El discurso hegemónico del «sálvese quien pueda», que insta a los jóvenes a adaptarse a la incertidumbre, suele asentarse a veces en el anecdotario de los casos de éxito, en la reorganización de los modelos educativos o en la desregulación laboral, pero siempre, siempre, en la amenaza del reemplazo. La maravilla de la técnica se convierte 4. K. Schwab: La cuarta revolución industrial , Debate, Buenos Aires, 2017. 5. Evgeny Morozov: La locura del solucionismo tecnológico , Katz, Buenos Aires, 2016. 6. Eduardo Levy Yeyati: Después del trabajo , Sudamericana, Buenos Aires, 2018. 86 Juan Manuel Ottaviano | nueva sociedad | 294 en amenaza. Ante la certeza de que el cambio tecnológico ha implicado la fragmentación de los mercados de trabajo y un aumento de la precariedad laboral, la amenaza se condensa 7 . Por cada noticia que destaca anécdotas sobre los avances de la mecánica para imitar tareas humanas, hay cientos de miles de horas en YouTube de robots haciendo el ridículo. Todavía hoy, algunos divulgadores continúan rezando que«47% de los empleos será reemplazado por robots o computadoras inteligentes» 8 . La frase erróneamente atribuida a Carl Benedikt Frey y Michael Osborne aún resuena como un mantra en universidades y fábricas 9 . Es curioso que los padres de la cuarta revolución industrial omitan mayores indagaciones sobre el trabajo y la producción, o las presenten como preguntas exclusivas de la etapa más reciente del desarrollo técnico. Porque antes del solucionismo tecnológico que omite la pregunta por la producción y el trabajo existió otro señalamiento muy distinto. La inexorabilidad de la automatización del trabajo no siempre estuvo asociada a la del reemplazo de humanos por máquinas. Durante una conLa inexorabilidad de ferencia sindical de la Federación Estadounidense del Trabajo-Congreso de Organizaciones Indusla automatización triales(afl-cio, por sus siglas en inglés), en 1960, del trabajo no siempre estuvo asociada a la del reemplazo John F. Kennedy advertía por primera vez sobre las ventajas y peligros de lo que definió como«la revolución de la automatización», entre los que se encontraba«la oscura amenaza de la desarticude humanos lación industrial, el aumento del desempleo y la por máquinas profundización de la pobreza». Y agregaba que«el avance de la automatización ya amenaza con destruir miles de puestos de trabajo y acabar con plantas enteras. Pero este no es el producto inevitable del avance de la tecnología» 10 . Solo el contraste del enfoque de Kennedy con las prioridades del Foro Económico Mundial puede explicar que esta cita pasara inadvertida. Es curioso que la infraestructura que no se utiliza para alcanzar el pleno empleo o su adecuada distribución sí sea capaz de alcanzar para producir todas las máquinas necesarias para reemplazar el empleo que aún existe. La mejor limpiadora automática de piso controlada por inteligencia artificial 7. Organización Internacional del Trabajo(oit):«Non-Standard Employment around the World: Understanding Challenges, Shaping Prospects», oit, Ginebra, 2016. 8. Andrés Oppenheimer: ¡Sálvese quien pueda! El futuro del trabajo en la era de la automatización , Penguin Random House, Ciudad de México, 2018. 9.«Will A Robot Really Take Your Job?» en The Economist , 6/2019. 10. J.F. Kennedy:«Remarks of Senator jfk at the afl-cio Convention, Grand Rapids, Michigan, June 7 1960» en jfk Presidential Library and Museum ,. tema central | La amenaza fantasma. Inteligencia artificial y derechos laborales 87 del mercado cuesta alrededor de 750 dólares. Esto equivale a 350 horas de trabajo de una empleada doméstica registrada en Argentina. Aun suponiendo que la limpiadora automática de piso –que solo puede limpiar eso, el piso– realiza su función de manera satisfactoria, se encuentra a años luz de las capacidades y la multiplicidad de tareas que puede desempeñar una trabajadora de casa particular. Mientras que una empleada doméstica 11 puede limpiar toda tu casa, cuidar a tus hijos y hasta llamar a una ambulancia si un adulto mayor tiene una descompensación, la limpiadora automática de piso continuará haciendo eso que hace, que no es otra cosa que limpiar pisos. La familia siquiera considerará si el costo marginal cero, propio de la transformación tecnológica, se aplica a su economía doméstica. El costo marginal se incrementa a medida que se replica la producción de un bien. La tecnología, en especial la digital, permite reducir a cero los costos marginales. Pero, por el contrario, para cubrir la necesidad de cuidar a un adulto mayor bajo las reglas útiles del reemplazo de robots por humanos, la familia deberá comprar un smartwatch wearable con un sensor Spo2 incorporado, que costará en Argentina otros 400 dólares, e integrarlo a un sistema de servicios de salud que procese sus datos en tiempo real. Quizás no exista una cobertura de salud que ofrezca este servicio por menos de otros 1.000 dólares mensuales 12 . Aun ante la probable expansión global del 5g y la internet de las cosas, la digitalidad continuará expandiéndose de manera exponencial exhibiendo sus costos marginales cero, y la robótica permanecerá estancada, dejando detrás su fantasmal amenaza. Más acá del desempleo tecnológico Más allá de las imágenes de un futuro próximo catastrófico o de la potencialidad teórica de la automatización, a la hora de evaluar la evidencia sobre el desempleo tecnológico, la idea de que los humanos podrían ser sustituidos por robots pertenece todavía al campo de la ciencia ficción 13 . El impacto del cambio tecnológico no se reduce ni debe limitarse a un mero cálculo contable entre los empleos que se crean y los que se destruyen, sino que nos 11. Mercedes D’Alessandro:«Los cuidados, un sector económico estratégico. Medición del aporte del trabajo doméstico y de cuidados no remunerado al Producto Interno Bruto», Ministerio de Economía de Argentina, 2020. 12. Costo de referencia de cobertura familiar de salud según Organización de Servicios Directos Empresarios, plan 510(junio de 2020). La cobertura no incluye el monitoreo remoto en tiempo real del estado de salud de los beneficiarios. 13. Uta Dirksen:«Trabajo del futuro y futuro del trabajo» en Nueva Sociedad N o 279, 1-2/2019, disponible en. 88 Juan Manuel Ottaviano | nueva sociedad | 294 informa sobre los modos de organización del trabajo y sus regulaciones 14 . La incorporación de paquetes digitales de monitoreo de tareas para garantizar el just in time del siglo xxi –la videovigilancia de los espacios de trabajo, el gps en las aplicaciones de entrega a domicilio, los sistemas biométricos para la identificación de perfiles en línea o el uso de artefactos wearable que se integran a los cuerpos humanos– queda empequeñecida ante el poder transformador de los sistemas de procesamiento de datos para la organización del trabajo. La gestión algorítmica consiste en el uso de recursos informáticos y digitales de supervisión para la administración y dirección del trabajo. A través del aprendizaje artificial o por medio del uso de la interfaz de usuarios, la gestión algorítmica implica un conjunto de utilidades que sirven en primer término para producir datos sobre el trabajo que requiere la prestación de un servicio o la producción de manufacturas; también para adquirir esos datos, ya sean tareas, imágenes, patrones, conversaciones, distancias o valores de cualquier clase; o para procesar esos datos para la elaboración de informes de perfiles o reportes de todo tipo; y completando el ciclo, para tomar decisiones y dar instrucciones sobre las tareas laborales, seleccionar personal o descartarlo, entre otros múltiples usos. Suele subestimarse el hecho de que todas estas dimensiones de uso de la gestión algorítmica impactan actualmente sobre las condiciones de trabajo 15 . El desarrollo de la inteligencia artificial tensiona potencialmente las capacidades humanas, pero también acecha en la actualidad a una serie de Algunos de los derechos laborales, y lo hace de manera concreta, sin necesidad de recurrir a Isaac Asimov, a la serie derechos involucrados Black Mirror o a los libros de Andrés Oppenheirequieren de actualizaciones, pero también podrían mer. Algunos de los derechos involucrados requieren de refuerzos y actualizaciones, pero también podrían ser necesarios nuevos derechos y nuevas políticas. La capacidad de vigilancia y dirección de ser necesarios la inteligencia artificial traspasa los límites de la nuevos derechos privacidad, puede incurrir en discriminaciones aberrantes, no reconoce la apelación humana, afecta la salud, corroe la libertad de asociación sindical y desplaza las garantías de protección social. Estas barreras son traspasadas para asegurar 14. Laura Perelman:«El futuro del trabajo ya llegó: ¿qué hacemos con él?» en Nueva Sociedad edición digital, 8/2020,. 15. Valerio De Stefano:«Masters and Servers: Collective Labor Rights and Private Government in the Contemporary World of Work» en International Journal of Comparative Labour and Industrial Relations vol. 36 N o 4, 2020. tema central | La amenaza fantasma. Inteligencia artificial y derechos laborales 89 la gestión más eficiente posible del tiempo, de las acciones humanas y su valor, es decir, del trabajo. Una organización científica –y computarizada– del trabajo. En América Latina, las leyes laborales usualmente contemplan la minimización de la vigilancia sobre las personas trabajadoras, imponiendo el deber de informar sobre los medios de control utilizados 16 . Sin embargo, la ley argentina, por ejemplo, solo ordena la minimización de los controles personales«destinados a la protección de los bienes del empleador» y establece que los controles a mujeres pueden ser realizados únicamente«por personas de su mismo sexo» 17 . La falta de actualidad de la norma es hilarante. Esta redacción corresponde a una era en la cual las formas de vigilancia en el trabajo se reducían al cacheo o al fichaje de ingreso y salida. El reloj a la vista de todos –que funcionaba como metrónomo de las tareas– no podía ser considerado un medio de control, y menos aún uno muy invasivo. ¡Solo era un reloj! Actualmente, los recursos para la organización del trabajo se encuentran fundidos con los medios de vigilancia. La plataforma Rappi, por ejemplo, recoge la ubicación de los repartidores, entre otros datos, para«tramitar las órdenes más cercanas a su ubicación(...) aun cuando la aplicación se encuentre cerrada o no esté en uso», a la vez que reconoce la utilización de esos datos«para identificar comportamientos atípicos» de los trabajadores y trabajadoras 18 . Las plataformas disponen de sistemas de monitoreo que violentan la privacidad de quienes trabajan en ellas, pero estos sistemas no tienen como objetivo proteger los bienes de las empresas, sino optimizar el trabajo humano. Por ejemplo, aws Panorama(Amazon, Inc.) es un paquete de software y dispositivos de aprendizaje automático que interpreta imágenes de video y permite chequear remotamente la calidad de un producto, reconocer faltantes en una góndola o hacer vibrar el celular de un trabajador de almacén si este se desvía del curso asignado por la inteligencia artificial. Va de suyo que para alimentar de datos a la inteligencia artificial se requiere de dispositivos que detecten al detalle los movimientos de cada persona trabajadora. ¿Acaso podemos ignorar que si la voz puede ser captada por los dispositivos móviles, y estos devolver en tiempo real una publicidad sobre nuestra conversación, las compañías se privarían de utilizar esta tecnología para optimizar un servicio monitoreando el contenido de las conversaciones de un telemarketer, una agente de ventas o un chofer? 16. oit:«Protección de los datos personales de los trabajadores», Ginebra, 1997. 17. Régimen de contrato de trabajo, ley 20.744(t.o.), art. 70. 18.«Política de tratamiento de datos personales(política de privacidad)», Rappi, Inc., Bogotá, 2021. 90 Juan Manuel Ottaviano | nueva sociedad | 294 Los métodos algorítmicos para medir con precisión la productividad humana no solamente implican un riesgo para la intimidad de quienes trabajan, sino que son la«caja negra» de la organización del trabajo en el siglo xxi. Los métodos Detrás de los peligros futuros del desempleo tecnológico o la falta de capacitación de los trabajadores algorítmicos son que aún conservan su empleo, hay una maquinaria la«caja negra» de la organización del trabajo en el informática en funcionamiento que las compañías no van a transparentar de manera voluntaria, aunque esté impactando hoy mismo en las condiciones de trabajo de las personas. En la industria, empresas siglo xxi como Coca Cola, Johnson& Johnson y Shell utilizan Ignition, un software de supervisión, control y adquisición de datos tipo scada 19 , que permite gestionar procesos industriales de manera remota«cerrando la brecha entre producción y tecnologías de la información». Estas plataformas administran los procesos industriales de punta a punta y, por supuesto, incluyen la posibilidad de calendarizar cada microtarea que deben desempeñar los operarios, quienes a la vez están integrados a brazos mecánicos conectados a internet, rampas que se deslizan al ritmo de la inteligencia artificial o motores que emiten la exacta cantidad de gas que les prescribe un algoritmo. Cuando se trata de optimizar comportamientos de trabajadores que reciben órdenes a través de su teléfono celular, los artefactos wearable que pueden medir la frecuencia cardíaca o las distancias recorridas se vuelven inútiles. En el caso de los repartidores de plataformas de venta y entrega de productos, la caja negra tiene otras preocupaciones. Por ejemplo, la mayoría de estas plataformas, como Uber o Rappi, utiliza sistemas de análisis del comportamiento como el cohort analysis , que sirve para estudiar el desempeño de consumidores organizados por grupos y predecir las posibilidades de retener a un determinado cliente según, por ejemplo, el rating promedio que los choferes le asignaron. El mismo modelo se utiliza para predecir qué choferes dejarán de conectarse a la aplicación y en qué momento comenzará a mermar su productividad, o su tasa de aceptación de viajes. El concurso de horas de trabajo o modelo de franjas horarias o slots funciona de manera similar. Si el repartidor o repartidora cancela un pedido o resigna trabajar durante las horas por las cuales concursó en el calendario de la aplicación, entrará en el grupo de repartidores que no podrán acceder al slot de horas del día siguiente. De igual manera, el modelo de análisis de datos que permite conocer cuál es el camino que eligen los consumidores desde que abren la aplicación 19. Acrónimo de Supervisory Control and Data Acquisition . tema central | La amenaza fantasma. Inteligencia artificial y derechos laborales 91 hasta que concertan la compra de un producto a través de una plataforma sirve para saber cuál es el porcentaje de repartidores que abren la aplicación y alcanzan a completar un pedido o, por el contrario, cuándo y por qué no lo completan. Este modelo de análisis se denomina por embudos o funnel analysis 20 . No es tan complejo: los métodos para predecir el comportamiento de los prosumidores y optimizar las ventas sirven también para diseñar las aplicaciones e incentivar a los repartidores a tomar más pedidos, asignar viajes a los choferes más productivos o desalentar a los menos, justo antes de que estos empiecen a bajar su productividad. Las implicancias de la gestión algorítmica en las condiciones de trabajo podrían clasificarse según los criterios para obtener datos o según la aplicación y uso de estos.(a) Se necesita una cantidad de datos para alimentar las bases que luego puedan ser procesados.(b) Las instrucciones del algoritmo sirven para impartir órdenes(soluciones). Entonces, la extracción de datos usualmente requiere de dispositivos que puedan recabarlos y clasificarlos, los cuales potencialmente ponen en riesgo el derecho a la privacidad de quienes trabajan. Son ejemplos de esta posible y probable afectación de derechos los dispositivos que monitorean el estado de salud de las personas, los que levantan datos de actividades ajenas al trabajo, como la navegación en redes sociales, los que miden el tiempo en que se desarrolla una tarea, los que miden la distribución horaria del trabajo, los que permiten tomar fotografías, leer mails o chats o capturar incumplimientos, demoras, etc. Por otro lado, las instrucciones provistas por los algoritmos permiten asignar tareas a quienes son más productivos, administrar premios y castigos para retener a algunos perfiles de trabajadores, desalentar a otros o seleccionar a quienes el modelo presume menos costosos 21 . Este aspecto de la gestión algorítmica implica una potencial afectación del derecho de toda persona a no ser discriminada. Mientras la caja negra siga siendo oscura, debemos presumir que el error de cálculo, la calificación desestandarizada, el uso de datos no inclusivos, las evaluaciones arbitrarias y la discriminación racial y de género serán criterios más que excepciones en el diseño algorítmico aplicado al trabajo 22 . Las normas laborales prohíben la imposición de restricciones religiosas, políticas, gremiales, de residencia o de género en las ofertas de empleo. Sin embargo, estas leyes quedaron muy por detrás de las nuevas formas de selección de personal, que raras veces utilizan avisos para dar con los 20. Yipeng Jiang, Fang Liu, Qing Yan y Zhengxiang Ke:«An Improved Method for Orderly Funnel Analysis of Massive User Behavior Data», trabajo presentado en la Conferencia Internacional sobre Infraestructura de Red y Contenido Digital(ic-nidc), 2018. 21. Valerio De Stefano:«Algorithmic Management and Collective Bargaining», European Trade Union Institute, Bruselas, 2021. 22. Rob Matheson:«Identifying Artificial Intelligence‘Blind Spots’», mit, 24/1/2019. 92 Juan Manuel Ottaviano | nueva sociedad | 294 perfiles buscados. Nuevamente, la falta de transparencia sobre los criterios utilizados, que actualmente se sirven de diversas herramientas tecnológicas, podría encubrir abusos sistemáticos en la selección de personal. En 2018, Amazon debió cambiar su sistema de selección de personal cuando la agencia Reuters probó que el algoritmo aprendió a elegir preferentemente a mayor cantidad de hombres y penalizaba a los perfiles que en su ficha contenían el dato«mujer». En diciembre de 2020, el departamento de ética de inteligencia artificial de Google estalló por los aires cuando la experta en algoritmos Timnit Gebru fue despedida del equipo tras publicar un artículo en el que cuestionaba la inescrutabilidad de los sesgos algorítmicos. La falta de transparencia en la gestión digital también se evidencia en otro derecho laboral clásico: el que permite cuestionar, apelar o impugnar una sanción disciplinaria. Es imposible cuestionar el sesgo de aquello que no puede ser conocido ni explicado. ¿Hay un factor de baja de la productividad más relevante que el de las redes sociales? El tensiómetro de la gestión algorítmica escala a niveles dramáticos con relación a la administración de la atención de las personas trabajadoras. Al mismo tiempo que las compañías utilizan dispositivos para determinar si las teletrabajadoras desvían su concentración, las redes sociales compiten por su atención –compitiendo entonces con el tiempo de trabajo– hasta impactar gravemente en la salud mental. Esta competencia no es explícita. Los equipos y las plataformas de gestión del trabajo a distancia suelen contener funciones de bloqueo de las redes sociales, mientras que estas no disponen de funciones que permitan a los usuarios suspender voluntariamente el ingreso de mensajes y notificaciones. Es entonces cuando la gestión de la atención en el trabajo –presa de la supervisión permanente y la competencia– depende exclusivamente de la capacidad de las personas trabajadoras de sobreponerse a estas circunstancias opresivas. Por supuesto que cualquiera es libre de tirar el Cualquiera es libre celular por el inodoro. Pero no es tan sencillo. Las de tirar el celular por el inodoro. Pero no es tan sencillo órdenes de trabajo pueden llegar en cualquier momento del día y la noche, traspasando los límites de la jornada habitual. En ocasiones, la gestión algorítmica admite el uso de recursos técnicos para desmovilizar a sindicatos en formación o identificar a activistas sindicales –como es el caso de Rappi con la Asociación de Personal de Plataformas de Argentina– o para la evaluación de áreas o nodos de las compañías más susceptibles de ser sindicalizadas. Contra todo pronóstico, aún existen caminos por recorrer. En la conferencia antes citada, Kennedy planteó:«debemos dejar claro que la instalación de nuevos procesos y nuevas máquinas es propiamente un tema tema central | La amenaza fantasma. Inteligencia artificial y derechos laborales 93 de la negociación colectiva. Ha pasado el tiempo en que los empleadores podían hacer valer la prerrogativa de la acción unilateral en un asunto tan vital para el bienestar de sus empleados». Resulta que el tiempo de la acción unilateral de los empleadores en un asunto tan vital como la inteligencia artificial no ha pasado, pero podría. Para hacer esto realidad, las negociaciones colectivas y las regulaciones deberían incorporar el derecho a la desconexión digital; el derecho a la información y transparencia sobre los criterios algorítmicos por actividad; la publicación de algoritmos utilizados en actividades de alto riesgo; la formación laboral en programación y la formación de programadores en derechos sociales y de género; la soberanía del tiempo de trabajo como alternativa a la flexibilización horaria; el uso de datos inclusivos en el diseño de inteligencia artificial; el derecho a la impugnación de decisiones disciplinarias tomadas mediante inteligencia artificial; la obligación de colocar la marca o sello de inteligencia artificial en los productos o servicios producidos con esa tecnología para revalorizar el trabajo intelectual humano; la prohibición de sistemas de bloqueo de medios de comunicación digital; y la salarización del aumento de la productividad tecnológica 23 , entre otras iniciativas que alienten el desarrollo tecnológico basado en trabajo de calidad. Para evitar el ludismo silencioso que implica la competencia humana con la inteligencia artificial desregulada, deberíamos poder superar la ignominia que encarna el algoritmo, haciéndolo público. Para el caso de que la propiedad intelectual corporativa prevalezca 24 , los gobiernos y sindicatos deberían, cuanto menos, poder conocerlo para regularlo. Regular la caja negra No todo es distopía o utopía. Existen respuestas reales y muy actuales. A fines de abril de 2021, la Comisión Europea envió un proyecto al Parlamento de la Unión en el que se considera el uso de la inteligencia artificial en la administración del trabajo como un sistema de«alto riesgo» y se ordena a los proveedores corregir los modelos algorítmicos que no se adecúen a los protocolos de respeto por los derechos. Según sus definiciones, la categoría de «alto riesgo» se describe como el paso anterior a la de«riesgo inaceptable». 23. Diego Schleser, Matías Maito y Jorge Trovato:«Agenda de los trabajadores y trabajadoras para la productividad», análisis, Fundación Friedrich Ebert, Buenos Aires, 2020, disponible en . 24. Sofía Scasserra y Leonardo Fabián Sai:«La cuestión de los datos. Plusvalía de vida, bienes comunes y Estados inteligentes» , análisis, Fundación Friedrich Ebert, Buenos Aires, 2020, disponible en. 94 Juan Manuel Ottaviano | nueva sociedad | 294 Poco después, el gobierno español aprobó una ley que, además de presumir el carácter asalariado de la actividad de los riders (repartidores), ordena a las empresas abrir la caja negra e informar a los sindicatos sobre la composición de«los algoritmos o sistemas de inteligencia artificial» que impactan en las condiciones de trabajo 25 . Las corporaciones comienzan a reformular sus discursos a medida que emergen regulaciones que buscan develar la composición de los algoritmos que organizan el trabajo, transparentar los procesos o reconocer la laboralidad de los vínculos de los trabajadores y trabajadoras de plataformas con las corporaciones tecnológicas. Anabel Díaz, programadora de inteligencia artificial y directora general de Uber Technologies Inc. en Europa, Oriente Medio y África, argumentó que estas leyes se basan en una suerte de mitosobre«ese concepto difuso de que hay una máquina que nadie sabe bien cómo funciona, que toma las decisiones» y sobre«un miedo atroz de que hay algo que va a tomar el control sobre nuestras vidas y no es más que una ayuda» 26 . Cuando emergen regulaciones sobre la gestión algorítmica, la inteligencia artificial reaparece nuevamente como un mito, pero ahora como un concepto vago, incomprendido o incomprensible, y en definitiva inocuo. La inteligencia artificial se nos presenta a la vez como una amenaza inexorable –del fin del trabajo– y como mito inofensivo, como una caja negra vacía. Una amenaza fantasmal acechante por la que nadie debería preocuparse ni un poco. ¿En qué quedamos? Más y mejor trabajo Si nos enfocamos en el problema de la subclasificación de trabajos –como el de las empresas de plataformas digitales, de servicios o la industria que, como reseñamos, es el eje de la precariedad laboral y de las condiciones de trabajo–, el discurso mainstream de la destrucción neta de puestos de trabajo se desvanece. Entre las ocho empresas privadas que más personas emplean en el mundo se encuentran Amazon(comercio electrónico y servicios de computación en la nube) y Accenture(servicios tecnológicos y externalización). Comercio electrónico, servicios tecnológicos y tercerización son mercados de grandes empleadores que a la vez configuran un ecosistema de ruptura o disociación entre el trabajo humano y los derechos laborales y sociales. Asoma el debate por el modelo rentístico y 25. Real Decreto-Ley 9/2021, boe N o 113, s. i, p. 56733. 26. María Fernández:«Uber, contra la ley de‘riders’» en El País , 30/5/2021. tema central | La amenaza fantasma. Inteligencia artificial y derechos laborales 95 desregulado de la infraestructura digital global 27 . Mientras esa infraestructura se sirva de máquinas e inteligencia artificial para producir valor, el esfuerzo de los gobiernos progresistas, de los sindicatos y de las empresas debería concentrarse en reasociar, directa o indirectamente, el crecimiento de la productividad tecnológica con el aumento de las protecciones sociales, y en orientar los recursos a la creación de puestos de trabajo de calidad en la economía de reducción del impacto ambiental y de los cuidados. Poner a las personas en el centro y la técnica a su servicio es el camino posible hacia un nuevo acuerdo laboral y social de desarrollo tecnológico, y recuperar lo dicho en el Tratado de Versalles, que dio lugar a la creación de la Organización Internacional del Trabajo, cuando no se avizoraban los beneficios y desafíos de la inteligencia artificial: aspirar a«un régimen del trabajo realmente humano» 28 . 27. Nick Srnicek: Capitalismo de plataformas , Caja Negra, Buenos Aires, 2018. 28. Tratado de Versalles(1919), parte xiii, sección i; Alain Supiot(dir.): Au-delà de l’emploi. Les voies d’une vraie réforme du droit du travail , Flammarion, París, 2016. Inteligencia artificial: el derecho y el revés Daniela Muradas Antunes La ingeniería inversa puede servir como un instrumento de resistencia para enfrentar el régimen de excepción establecido en favor del capital tecnológico, limitar la reproducción de desigualdades y subordinar los sistemas tecnológicos al control público y social propio de las sociedades democráticas. Entre los objetivos de esta estrategia están el derecho a la información, la fiscalización del cumplimiento de normas legales y la participación sindical en el establecimiento de las condiciones que afectan a los trabajadores sometidos al dominio tecnológico. Aspectos metodológicos preliminares: pensando el revés La tecnología se sitúa en un área fronteriza entre las ciencias exactas y las humanas. A partir de esta premisa, este ensayo aborda, de manera transdisciplinaria, aspectos introductorios respecto de los algoritmos aplicados a los sistemas tecnológicos que se establecen en la inteligencia artificial débil 1 y sus funcionalidades estructuradas en favor de la producción capitalista. Daniela Muradas Antunes: es doctora en Derecho por la Universidad Federal de Minas Gerais(ufmg) y tiene un posdoctorado en Sociología del Trabajo por la Universidad Estatal de Campinas(Unicamp). Es profesora de Derecho del Trabajo en la ufmg. Palabras claves: algoritmos, capital tecnológico, democracia, ingeniería inversa. Nota: traducción del portugués de Cristian De Nápoli. 1. Evitamos utilizar la expresión«inteligencia artificial» por su ambigüedad. Por su etimología, la palabra«inteligencia» remite a encontrarse«entre lecturas» o«elecciones». Bajo tal acepción es posible comprender los procesos algorítmicos característicos de la llamada inteligencia artificial débil , pero mantenemos el escepticismo en cuanto a la llamada inteligencia artificial profunda , que jamás podrá ser asimilada a la inteligibilidad humana. Sobre el uso de la inteligencia artificial en el Poder Judicial y la convergencia con la conciencia humana para la efectividad de la justicia, v. Bruno Alves Rodrigues: A inteligência artificial no poder judiciário e A convergência com a consciência para a efetividade da justiça , Thomson Reuters Brasil, San Pablo, 2021. tema central | Inteligencia artificial: el derecho y el revés 97 También nos enfocaremos, desde la óptica del revés y de las vertientes epistemológicas del Sur 2 , en los espacios de excepción establecidos en favor del capital tecnológico y en la importancia de llenar vacíos con jurimetrías capaces de contrarrestar las asimetrías sociales, así como en la necesidad de subordinar los sistemas tecnológicos al control público y social propio de las sociedades democráticas. En esto pueden jugar un papel fundamental instituciones como los sindicatos, especialmente en lo que se refiere al conocimiento, la verificación y la negociación colectiva tendientes a mejorar las condiciones de las masas de trabajadores y trabajadoras sometidos al dominio tecnológico. El régimen de confidencialidad del código fuente, que suele estar protegido como derecho autoral de propiedad tecnológica frente a la competencia, es el marco que permite que funcionen los espacios de excepción cibernéticos 3 . Podemos pensar esta situación desde la teoría crítica, particularmente desde la crítica del progreso plasmada en las Tesis sobre la filosofía de la historia de Walter Benjamin. Desde el revés, y bajo la óptica de los«oprimidos digitales», la propuesta consiste en sacar a la luz los horizontes de la gobernanza por números mediante la razón invertida, es decir, proponiendo una inteligencia artificial inversa 4 . La ingeniería inversa ( reverse engineering ) avanza en sentido contrario al habitual, para obtener información a partir de un producto, con el fin de determinar cuáles son sus componentes y de qué manera interactúan entre sí. El control de la automatización a partir de técnicas de ingeniería computacional inversa puede ser un instrumento útil en la defensa de los derechos humanos y en otro tipo de resistencias y puede contribuir a la mitigación de la sobreexplotación del trabajo humano por el capital digital. Los conceptos y técnicas de la ingeniería computacional inversa nos permitirían adentrarnos en otros espacios de excepción dentro de lo que se conoce como«discriminaciones estructurales digitales»; estas discriminaciones, aun apelando a estándares de derechos humanos, reproducen violencias históricas que suelen naturalizarse en prácticas de exclusión o distinción de grupos sociales. 2. Boaventura de Sousa Santos y Maria Paula Meneses(eds.): Epistemologias do Sul , Cortez, San Pablo, 2010.[Hay edición en español: Epistemologías del Sur , Akal, Tres Cantos, 2014]. 3. La propiedad intelectual tecnológica cuenta con algunas instituciones vinculadas al sistema de las Naciones Unidas(Organización Mundial de Propiedad Intelectual, ompi, y Organización Mundial del Comercio, omc) centradas en la elaboración de normas y la solución de conflictos por arbitraje –aunque suscriban también discusiones sobre su utilidad–, por estar más orientadas hacia los intereses privados que hacia el desarrollo científico y tecnológico para el bien común. 4. Alain Supiot: La gouvernance par les nombres. Cours au Collège de France(2012-2014) , Fayard/ Institut d’Études Avancées de Nantes, París-Nantes, 2015. 98 Daniela Muradas Antunes | nueva sociedad | 294 La matemática computacional: la mítica de las métricas El universo matemático está poblado por imaginarios, muchos de ellos heredados del racionalismo, que postulan la ciencia como apodíctica, capaz de renunciar a pensar las contradicciones en busca de la verdad. La verdad y la certeza, en esta mirada filosófica, se apoyan en la premisa(tomada por irrefutable) de la no contradicción, valiéndose de relaciones de igualdad o diferencia que, en un sistema binario, se expresan en la matemática computacional mediante los números 0 y 1. Esta lógica es lineal y se muestra, en Los seres sociales se construyen en principio, no afín al carácter dialéctico de la naturaleza humana y sus estructuras sociales. Los seres sociales se construyen en las experienlas experiencias, cias, en el seno de las contradicciones inherentes a en el seno de las contradicciones su totalidad: por un lado, en la sensibilidad y racionalidad inseparables, y, por el otro, en la división de clases y los factores interseccionales, como inherentes a la raza o el género, en el marco de una estructura su totalidad social compleja y asimétrica. Paradójicamente, la lógica de abstracción de los algoritmos aplicados a las estructuras tecnológicas de interfaz con la sociedad tiene el potencial de engendrar variables complejas, que son capaces de reconocer patrones sociales y de actuar identificando y reforzando desvíos y asimetrías sociales en sus conjuntos de datos. De ese modo, pueden aplicarse juicios matemáticos mediante la representación en el diseño de programas de software que ocultan exclusiones, distinciones, privilegios y otras formas de marginalización social que establecen o reproducen relaciones jerarquizadas y que son estructurantes de la sociedad. Pero la matemática computacional, desde otra perspectiva, puede también adoptar aritméticas preventivas y rectificadoras de las discriminaciones digitales que contemplen las variables sociales en la raíz de la programación. En su aprendizaje, la máquina tiene incluso la aptitud para señalar la razón de incremento de esas asimetrías. No obstante, la ausencia de imperativos legales y de un adecuado control estatal y social permiten que las tecnologías aplicadas a la intermediación del trabajo humano reproduzcan en mayor o menor grado las asimetrías sociales. La tecnología de software desmiente el mito de la neutralidad del desarrollo científico, que se arraiga en la creencia de que la matemática y sus conclusiones no dependen de los sujetos. Por el contrario, valiéndonos de aspectos de las críticas de Immanuel Kant –sin con ello adherir integralmente a sus premisas de escisión de la razón y la sensibilidad del sujeto–, podemos decir que los juicios matemáticos tema central | Inteligencia artificial: el derecho y el revés 99 solo existen como un proceso de abstracción del sujeto, abstracción a la que esos juicios atribuyen sentido e instrumentalidad. Las ciencias matemáticas son una construcción humana. No se pueden escindir de las experiencias sociales, en incesante devenir, e incorporan sus luces y sombras y también sus conformaciones ideológicas; de ese modo, pueden reproducir sistemas de dominación y, dialécticamente, posibilidades de resistencia y emancipación. La matemática aplicada a las tecnologías no supone neutralidad onto-gnoseológica. Su objeto se amolda a las ideologías y se subordina a finalidades que se vinculan con intereses de los sujetos(o de grupos) por valores de diversos órdenes, especialmente económicos, y por el contexto social 5 . Renato Dagnino propone superar la idea de«determinismo tecnológico», destacando que cabe a la sociedad decidir sobre el control de la automatización y los rumbos de la tecnociencia, siempre con la posibilidad de reproyectar su camino en favor de la liberación de las distintas opresiones 6 . En el plano ontológico es toda una evidencia: la ciencia matemática aplicada a la tecnología afecta a los seres humanos y sus construcciones sociales. Claramente, el trabajo humano tiende a ser sustituido por sistemas automatizados de decisión, lo que exige pensar la protección del empleo de cara a la automatización 7 . Algoritmos: decodificar conceptos Los algoritmos son patrones matemáticos aptos para solucionar problemas simples o complejos, entre los que se incluye la posibilidad de cálculos con variables previamente condicionadas o libremente establecidas. Más que descifrar acertijos, los algoritmos ofrecen aplicaciones múltiples y, en el ámbito de la tecnología, la matemática computacional estructura las programaciones dando forma a los sistemas y las soluciones tecnológicas, diseñando redes y estableciendo importantes interfaces con plataformas de información, con el objetivo de abordar los datos en bruto, ordenarlos, clasificarlos según jerarquías poco claras, limitar o ampliar relaciones con sus interfaces, 5. R. Dagnino: Neutralidade da ciência e determinismo tecnológico. Um debate sobre a tecnociência , Unicamp, Campinas, 2008. 6. R. Dagnino: Tecnologia social: contribuições conceituais e metodológicas , eduepb, Campina Grande, 2014. 7. En Brasil, la situación en este aspecto se agravó sensiblemente tras la decisión del Supremo Tribunal Federal en su mandato 618-mg. Esa decisión impone una interpretación derogatoria de la eficacia de la protección constitucional del empleo frente a la automatización y no impide alteraciones, aun si afectan al personal, como producto de las innovaciones tecnológicas. 100 Daniela Muradas Antunes | nueva sociedad | 294 lo que incluye la interacción entre máquinas y humanos, y decidiendo por estos últimos o prediciendo incluso sus comportamientos. Las regulaciones para la«gobernanza algorítmica» de las estructuras tecnológicas son bastante deficitarias en términos globales. Prevalecen una culLas regulaciones para la«gobernanza tura de no intervención y de ausencia del Estado en el campo tecnológico y una frágil protección del individuo ante la automatización, fruto del mito algorítmica» de del progreso que tiene su raíz en la idea, estructulas estructuras tecnológicas son rada por la ideología y ya bastante agotada, de que el libre desarrollo tecnológico y científico favorecería el avance de la civilización. En relación con esto, bastante deficitarias recordemos las famosas tesis de Benjamin acerca en términos globales de la Historia:«la tradición de los oprimidos nos enseña que el‘estado de excepción’ es, en realidad, la regla». En ese marco, varios sistemas tecnológicos, tales como las plataformas intermediarias para la contratación de mano de obra, se sitúan en un vacío jurídico en el que no se aplican los derechos previstos en las diversas legislaciones estatales, ni aquellos reconocidos como obligatorios por el derecho internacional de los derechos humanos. La opacidad de la ingeniería constructiva de los algoritmos matriciales de un software sería, en esta línea de interpretación, la primera táctica de la que se vale el capital tecnológico para sustraerse al régimen de derechos e imponer ipso facto el estado de excepción. Conocer los algoritmos de modo estático, como una foto que muestra una combinación binaria, puede no revelar otras funcionalidades. Son los sesgos de los algoritmos los que reproducen, por extracción de datos, las desigualdades de partida que marginalizan históricamente a determinados grupos sociales y que, por regla general, no están contempladas en la programación inicial; a eso se suman otras malicias que los algoritmos que estructuran la programación de software pueden encubrir en sus sistemas en dinámica. Es valiosa la advertencia de que incluso softwares muy conocidos pueden contener vulnerabilidades como los malwares –ya sea programados en sus estructuras internas para ocultar ciertos aspectos y funcionalidades o ligados a interfaces tecnológicas de acción de terceros( hackers )–, que pueden también ejecutar funciones secundarias y maliciosas sin el conocimiento de los administradores y usuarios 8 . Mapear esos espacios desconocidos es una tarea posible mediante análisis rigurosos desde el punto de vista científico que, según Dan Farmer y Wietse Venema, son 8. Jesus Antônio Velho(ed.): Tratado de computação forense , Millennium, Campinas, 2016. tema central | Inteligencia artificial: el derecho y el revés 101 suficientes para revelar el contenido malicioso del software 9 . De cualquier modo, la protección jurídica de la propiedad tecnológica solo abarca aspectos de sus estructuras internas. Es posible adoptar técnicas propias de la ingeniería computacional inversa(descompilación y disassemblage o desmontaje) con el fin de hacer una descripción del código fuente para analizar sus funcionalidades primarias y secundarias, e identificar las combinaciones de análisis estáticas y dinámicas de las estructuras tecnológicas 10 . Pensando«a contrapelo», la aplicación de esta técnica a los artefactos tecnológicos puede convertir el espacio de dominación en el locus de una lucha de clases cibernética. El estado actual del desarrollo tecnológico y los análisis inversos permiten, además de un conocimiento de la raíz de la programación, introducir en las dinámicas algorítmicas funcionalidades de interfaces para el perfeccionamiento de software (modelos de utilidad) en favor de una jurimetría de verificación, no solo como medio técnico para la prueba pericial de verificación de la relación de empleo, sino ante todo para efectivizar normas jurídicas de protección de los trabajadores y trabajadoras y medidas de protección tecnológica de naturaleza sindical. Parece posible, en el estado actual de la técnica de ingeniería computacional inversa, hacer un diagnóstico de los espacios jurídicos de excepción y detectar las métricas sociales y sus desvíos estructurales que reproducen relaciones sociales asimétricas y que conducen a una selectividad establecida bajo criterios inaceptables. Algunos de estos criterios están expresamente prohibidos en el plano jurídico internacional reconocido como ius cogens , y por lo tanto, son de alcance también obligatorio para las tecnologías que no respetan fronteras. En este escenario, es imperioso que las propuestas de resolución de la Organización de las Naciones Unidas(onu) respecto del marco regulatorio para empresas transnacionales contemplen los distintos aspectos del capital tecnológico y el cumplimiento de los derechos humanos sociales. 9. D. Farmer y W. Venema: Perícia forense computacional. Teoria e prática aplicada , Pearson Prentice Hall, San Pablo, 2007. 10. Andrew Honig y Michael Sikorski señalan técnicas de ingeniería computacional inversa que permiten:(a) un análisis estático básico, donde la aplicación es examinada sin ser ejecutada y sin la visualización de sus instrucciones;(b) un análisis dinámico básico, en el cual se ejecuta la aplicación y se observan sus comportamientos externos en el sistema;(c) un análisis estático avanzado, que implica analizar la aplicación en un disassembler , estudiando las instrucciones que realiza el software ;(d) un análisis dinámico avanzado, donde se utiliza un debugger para observar el funcionamiento interno del software analizado, durante el tiempo de la ejecución. M. Sikorski y A. Honig: Practical Malware Analysis: The Hands-On Guide to Dissecting Malicious Software, No Starch Press, San Francisco, 2012. 102 Daniela Muradas Antunes | nueva sociedad | 294 Recordemos además que los principios de igualdad y de no discriminación han sido asegurados por diversos tratados internacionales de derechos humanos. Factores de vulnerabilidad social tales como género, raza, color, etnia u origen nacional, opinión política o religiosa, entre otros, están contemplados en las convenciones 100 y 111 de la Organización Internacional del Trabajo(oit), que prohíben expresamente que«tengan por efecto anular o alterar la igualdad de oportunidades o de trato en el empleo u ocupación». Por lo demás, en cuanto al principio de libertad sindical y el estímulo a la negociación colectiva presentes en las convenciones 87 y 98 de la oit, la participación de sindicatos en la elaboración de algoritmos que afecten las condiciones de trabajo debe estar asegurada. También en la Declaración de Filadelfia se pregona que el trabajo humano no es mercancía y que la primacía de la libertad de trabajo(convenciones 29 y 105 de la oit) requiere echar luz sobre las formas modernas de dominación, incluyendo las de naturaleza tecnológica. Las prácticas de contratación abusivas y las condiciones de explotación de la actividad humana por intermedio de plataformas tecnológicas figuran como manifestación moderna de procesos esclavistas de antaño 11 . Naturalmente, no se trata de desconocer los esfuerzos, aunque dispersos e insuficientes, de reglamentación en cuestiones como la protección de datos de usuarios 12 , el trabajo mediado por plataformas tecnológicas, los negocios digitales y las criptomonedas. Pero hay un notable retraso del derecho respecto de estas innovaciones tecnológicas, un fenómeno especialmente marcado en los países periféricos y de capitalismo dependiente. Así y todo, los sistemas y artefactos tecnológicos pueden convertirse en mecanismos de resistencia en situaciones de sobreexplotación del trabajo en el capitalismo dependiente 13 y pueden provocar rupturas con los patrones hegemónicos de las estructuras tecnológicas impuestos desde el Norte global, que carecen de la aptitud para reconocer las formas singulares de opresión del Sur global en las relaciones de trabajo. 11. Ricardo Antunes: O privilégio da servidão. O novo proletariado de serviços na era digital , Boitempo, San Pablo, 2018. 12. Los sistemas tecnológicos de información, entre ellos los hegemónicos utilizados en metabuscadores, provocan disrupciones espaciales y operan una obtención, un almacenamiento y un uso de datos contrarios a la privacidad e intimidad. En el ámbito de la Unión Europea(Reglamento 2016/679), está restringido el uso de sistemas con marcos regulatorios fijados por países que no proveen un nivel adecuado de protección de datos. En otras regiones, la vigilancia de datos se impone desde ciertos sistemas gubernamentales, mayormente de Estados Unidos, lo que hace que casi todos los sistemas operativos estén sometidos a telemetrías por un órgano vinculado al Departamento de Estado de ese país. 13. Ruy Mauro Marini: Dialéctica de la dependencia , Era, Ciudad de México, 1990. tema central | Inteligencia artificial: el derecho y el revés 103 © Nueva Sociedad/ Giovanni Parrado 2021 104 Daniela Muradas Antunes | nueva sociedad | 294 Entre los códigos fuente y los códigos jurídicos Navegando en una cultura de ausencia estatal, las estructuras tecnológicas tienden a regirse exclusivamente por sus propias regulaciones, consolidadas en los términos de uso de su software y sus artefactos. Las disposiciones se establecen unilateralmente desde el capital tecnológico y encuentran en la forma jurídica del contrato, pautada en la abstracción del consentimiento y la presunción de un acuerdo voluntario a partir de la simple adhesión, un espacio abierto a prácticas abusivas. Una simple revisión de las condiciones fijadas en las plataformas tecnológicas hegemónicas permite identificar innumerables situaciones no suficientemente claras. A la par de este llamativo poder de autorregulación, las estructuras del capital tecnológico promueven sucesivas alteraciones algorítmicas en las condiciones de los contratos tecnológicos, por medio del llamado«estatus de actualizaciones» o mediante consentimientos por parte de sus «usuarios» que no siempre son suficientemente transparentes. El capital tecnológico actúa, así, como un Licurgo al revés. Si la leyenda nos dice que aquel gran legislador de Esparta cayó en el ostracismo una vez que el rey, a pedido suyo, decretó que la ley sobreviviese a los hombres y sus gobernantes, lo que ocurre con estos Licurgos hi-tech es todo lo contrario: una potestas variandi , es decir, condiciones plásticas de los términos de uso que funcionan como estrategia para eludir principios básicos del contractualismo heredados de la tradición del derecho romano y que se encuentran presentes en los sistemas jurídicos occidentales, en especial el pacta sunt servanda , según el cual la obligatoriedad de los términos de contratación es preponderante. Todas estas modificaciones de estatus operadas en lenguaje computacional, y que en el área del derecho corresponden a parámetros contractuales, afectan notoriamente a masas de consumidores y trabajadores en todo el globo, posibilitando y asegurando una dominación sin precedentes o, como bien lo define István Mészáros, una«subordinación totalizadora» 14 . Las pautas que el capital tecnológico se da a sí mismo al fijar su lex mercatoria infringen diversos fundamentos jurídicos tradicionales y son acatadas por Estados que renuncian en mayor o menor grado a su soberanía sobre los datos, sobre el impacto de las tecnologías en la sociedad(permitiendo con ello la imposición de un capitalismo transnacional y oligárquico) y sobre la protección de los trabajadores, con lo que promueven una gravísima concentración del poder económico. 14. I. Mészáros: Para além do capital , Boitempo, San Pablo, 2002.[Hay edición en español: Más allá del capital, Pasado y Presente/ Vicepresidencia del Estado Plurinacional de Bolivia, La Paz, 2010]. tema central | Inteligencia artificial: el derecho y el revés 105 Hay mucha opacidad en los diversos tipos de vigilancia aplicados por los sistemas tecnológicos, tanto en lo referido a la obtención y el procesamiento de datos como en la utilización de georreferenciaciones, telemetrías y técnicas de predicción 15 . Los algoritmos repiten operaciones encadenándolas a factores relacionales, de acuerdo con parámetros preestablecidos en la arquitectura del sistema( input ) y/o derivados de interacciones con datos previos, a partir de sistemas de aprendizaje automático ( machine learning ), para generar soluciones( output ) con una plasticidad que les permite adaptar la exposición periódica de datos y contrastes sucesivos a resultados reproducibles. En la interacción dinámica entre tecnología y sociedad por medio del machine learning se oculta el revés de los algoritmos, lo que en el ámbito jurídico corresponde a la«discriminación digital», con parámetros de selectividad incorporados por desvíos en los datos analizados y operaciones digitales que reproducen en las estructuras tecnológicas las discriminaciones estructurales de la sociedad. Esto permite que el régimen de procesamiento de datos y los procesos de decisión propuestos por la inteligencia artificial sin«ajustes culturales» reproduzcan y profundicen las discriminaciones estructurales 16 . Este revés de los algoritmos presentes en plataformas tecnológicas pautadas por el deep learning nos permite afirmar que la relación entre máquinas y humanos La relación entre máquinas y humanos se plasma en las fronteras de la ética y el derecho. se plasma en las Hasta el presente no hay noticias de la existencia de ordenamientos jurídicos que adopten previsiones de contenido ético y jurídico en las raíces de fronteras de la ética y el derecho programación, es decir, de una jurimetría obligatoria, cosa que propongo como técnica imperiosa en el escenario actual del capitalismo digital. No hay ningún obstáculo técnico para la adopción urgente de una medida de este tipo como política pública, inscripta en las legislaciones nacionales y en los marcos regulatorios internacionales de los derechos intelectuales estructurantes del capital tecnológico. Por otro lado, los actores sociales también se valdrían de ella para la construcción de herramientas adecuadas de conocimiento por parte de sindicatos y otros actores legítimos, contemplando los factores que perjudican a sus representados y la construcción de modelos de utilidad para el perfeccionamiento de 15. Ajay Agrawal, Joshua Gans y Avi Goldfarb: Máquinas preditivas. A simples economia da inteligência artificial , Alta Books, Río de Janeiro, 2019. 16. Ifeoma Ajunwa:«The Paradox of Automation as Anti-Bias Intervention» en Cardozo Law Review vol. 41 N o 5, 2020. 106 Daniela Muradas Antunes | nueva sociedad | 294 sistemas de plataformas, en términos tanto de control de la aplicación efectiva de los derechos laborales como de cumplimiento de las disposiciones negociadas de manera colectiva. Por el contrario, el grueso de los regímenes jurídicos permite que los algoritmos matriciales funcionen en la actualidad como cajas negras, confeccionadas con lenguaje de programación computacional que limita el conocimiento de sus aspectos estructurales. De esto se vale el capital tecnológico para postergar la aplicación de la legislación laboral. Recientemente, España reconoció en un decreto-ley el derecho de los trabajadores a conocer«los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan la toma de decisiones que pueden incidir en las condiciones de trabajo, el acceso y mantenimiento del empleo, incluida la elaboración de perfiles», y junto con ello establece la protección del trabajo en plataformas intermediarias de contratación de mano de obra. El derecho a la información de los algoritmos y el reconocimiento de derechos para los trabajadores de aplicaciones es un paso muy relevante en materia de ciudadanía digital, pero no abarca la totalidad de las innovaciones en las interacciones entre seres humanos y máquinas en materia de inteligencia artificial. Las estructuras internas de los sistemas tecnológicos no se construyen con participación consciente(en sentido ético-filosófico) de sus«usuarios». Desde el punto de vista jurídico, los contratos, considerados como tales, no atienden las condiciones sustanciales que dan validez al consentimiento: la buena voluntad presupone que los términos de uso estén suficientemente claros y establecidos de buena fe, sin simulacros que conduzcan a errores de representación y deriven en diversas lesiones reconocidas por los sistemas jurídicos occidentales. Por lo demás, las discriminaciones digitales hoy solo pueden percibirse en los bordes más externos del sistema, y se desconocen la métrica derivativa y los aspectos más profundos de su arquitectura. La brecha entre la ocultación del código fuente y el derecho fundamental de participación informada hace necesaria una ingeniería computacional inversa con condiciones para desarrollar tecnologías de interfaz a través del análisis de externalidades que actúen en favor del conocimiento. No hay garantías de participación de sindicatos e instancias representativas propias de los actores alcanzados por contratos masivos digitales desde plataformas tecnológicas de intermediación de mano de obra, cosa que contrasta con el marco de diálogo social, considerado un derecho fundamental por la oit. Todo esto desafía los debates epistemológicos de la matemática computacional y su interfaz con el derecho, y exige que se ahonde en el estudio tema central | Inteligencia artificial: el derecho y el revés 107 de las múltiples funcionalidades de los softwares , las interfaces de los sistemas y aplicaciones con las relaciones sociales y económicas que aquellas modelan a través de complejas cadenas lógicas de algoritmos secuenciales y relacionales. Andrew Feenberg concluye que la racionalidad prevalente en el capitalismo favorece la hegemonía de las creencias y prácticas de las clases dominantes, al tiempo que mantiene cierta capacidad de producción de conocimiento sobre la realidad 17 . El perfeccionamiento de los sistemas se orienta, en rigor, exclusivamente a calibrar mejor la producción capitalista (en sus versiones reinventadas) en función de la acumulación de ganancia. Los resultados económicos del trabajo humano no se someten a repartos y divisiones, como tanto pregona la ya desgastada expresión de la economía digital. Sus beneficios raramente se reparten de manera democrática. Al fin y al cabo, en el modo de producción capitalista todo se reduce a mercancía; como nos alertaba Karl Marx, nada escapa a la forma mercancía, ni siquiera la propiedad destinada a su uso 18 . La matemática computacional de estas estructuras tecnológicas desafía, por ende, la codificación jurídica y establece una relación de subordinación ciega del trabajo al capital, profundizando exponencialmente la alienación típica del modo de producción capitalista y las distancias entre Norte y Sur. La imposición de ese horizonte se funda asimismo en el hecho de que los códigos fuente encuentran protección en los códigos jurídicos como espectro del capital, normalmente ocultos mediante el secreto industrial, amparándose en razones de protección ante la competencia. Los especialistas de áreas tecnológicas afirman, aun así, que no existen grandes secretos tecnológicos en las aplicaciones y que estas pueden ser reproducibles con relativa facilidad mediante técnicas de ingeniería computacional inversa, lo que muestra que se trata de un secreto diseñado para apartar al resto de los actores participantes, de manera consciente o inconsciente, en las interacciones contractuales de estas estructuras tecnológicas, y no para la protección de una empresa frente a la competencia. Paradójicamente, en el terreno de las disputas judiciales y en arbitrajes internacionales respecto de protección de software –sobre todo, en los conflictos de copyright y explotación comercial de modelos de utilidades–, los recursos de ingeniería computacional inversa son ampliamente utilizados como prueba pericial técnica. Así también los sistemas y artefactos tecnológicos pueden volverse mecanismos de resistencia en un escenario de sobreexplotación del trabajo en el capitalismo dependiente y pueden romper 17. A. Freenberg: Critical Theory of Technology , Oxford up, Nueva York, 1991. 18. K. Marx: Últimos escritos econômicos , Boitempo, San Pablo, 2020. 108 Daniela Muradas Antunes | nueva sociedad | 294 con patrones de estructuras tecnológicas del Norte global no siempre aptas para el reconocimiento de las singulares formas de opresión del eje Sur global en las relaciones de trabajo 19 . En conclusión: los métodos relativos a la ingeniería inversa de programas computacionales, la descompilación y el desmontaje, nos llevan a revaluar sus funcionalidades y, partiendo de reproducciones del código del programa original, a pensarlos al revés, subordinando los modelos y utilidades a nuevos usos sociales de mayor beneficio para los más vulnerables. 19. D. Muradas y Flávia Souza Máximo Pereira:«Decolonialidade do saber e direito do trabalho brasileiro: sujeições interseccionais contemporâneas» en Direito e Práxis vol. 9 N o 4, 2018. Inteligencia artificial aplicada a la salud Luces y sombras Carolina Martínez Elebi Desde hace algunos años, las tecnologías de inteligencia artificial basadas en el procesamiento de datos y en la toma de decisiones automatizadas se han implementado en diversas áreas de la vida cotidiana. En el caso de la salud, esta tecnología puede representar importantes avances y beneficios, pero también muchos problemas y vulneración de derechos, como los relativos a la privacidad y la no discriminación. Por eso es necesario habilitar una discusión pública y evitar el«solucionismo tecnológico». Hace tiempo que las noticias sobre nuevos desarrollos tecnológicos se refieren a la«inteligencia artificial» y a la revolución que esta tecnología va a suponer en la sociedad debido a todas las aplicaciones posibles que tiene y tendrá en las distintas esferas de la vida cotidiana 1 . Se habla de la Cuarta Revolución Industrial 2 , de los cambios en el mundo del trabajo –con todo lo que eso puede implicar para las personas trabajadoras–, de los impactos en el sector agropecuario, en la educación, en los servicios y en la salud, entre muchos más. Algunas novedades de la Carolina Martínez Elebi: es licenciada en Ciencias de la Comunicación y docente en la Universidad de Buenos Aires(uba). Investiga y escribe sobre el impacto de las tecnologías infocomunicacionales en la sociedad y en los derechos humanos. Es directora de ddhh y Tecno . Palabras claves: deep learning, inteligencia artificial, machine learning, privacidad, solucionismo tecnológico. 1. Esto se suma a los avances en robótica, cadena de bloques( blockchain ), nanotecnología, computación cuántica, biotecnología, internet de las cosas(iot, por sus siglas en inglés), impresión 3d, conectividad 5g y vehículos autónomos, entre otros. 2. Klaus Schwab:«The Fourth Industrial Revolution: What It Means, How to Respond» en World Economic Forum , 16/1/2016. 110 Carolina Martínez Elebi | nueva sociedad | 294 ciencia y la tecnología tienen una alta visibilidad pública y reciben atención por parte de la clase política, de los medios de comunicación hegemónicos y, como consecuencia, de la ciudadanía. Otras no gozan de tanta publicidad, quizás por ser más complejas o por estar en etapas de diseño o investigación, pero todas impactan en la sociedad de diversas maneras. El ámbito de la salud se encuentra fuertemente atravesado por el desarrollo de la ciencia y la tecnología. Cualquier persona que se atienda en un hospital, una clínica o un consultorio o que se someta a algún estudio o tratamiento es consciente de la cantidad de aparatos que se usan para detectar alguna patología o condición que permita establecer un diagnóstico y, así, decidir e indicar un tratamiento para la cura. Además, en el marco de lo que se conoce como medicina preventiva, existen múltiples estudios y análisis que se hacen con cierta regularidad para que el personal de salud pueda hacer un seguimiento del estado de salud de sus pacientes –mediante datos que se analizan– y anticiparse a una enfermedad. Ahí es donde entra en juego el desarrollo de tecnologías de inteligencia artificial, machine learning y deep learning , basadas en el análisis de grandes volúmenes de datos( big data 3 ) para La inteligencia entrenar algoritmos que permitan detectar diversas paartificial podría definirse como el tologías, establecer diagnósticos y sugerir tratamientos. Pero ¿qué tiene que ver exactamente todo esto con la salud? Vayamos por partes. campo que estudia La inteligencia artificial podría definirse como cómo los sistemas artificiales pueden realizar acciones el campo que estudia cómo los sistemas artificiales pueden realizar acciones inteligentes. ¿Qué sería una máquina inteligente ideal para la ciencia de la computación? En la definición de David Poole, Alan Keith inteligentes Mackworth y Randy Goebel,«un agente flexible que percibe su entorno y lleva a cabo acciones que maximicen sus posibilidades de éxito en algún objetivo o tarea» 4 . Este campo está conformado por diversas técnicas que se utilizan para intentar resolver problemas y tomar decisiones de forma similar a como lo hacen las personas en su vida cotidiana. Algunos ejemplos: un programa que permite agilizar las búsquedas de candidatos para un puesto de trabajo; un sistema de riego automático que, mediante sensores, mide la humedad de la tierra para decidir en qué sectores 3.« Big data » es una expresión que describe cualquier cantidad voluminosa de datos estructurados, semiestructurados y no estructurados que tienen el potencial de ser extraídos para obtener información. 4. D. Poole, A.K. Mackworth y R. Goebel: Computational Intelligence: A Logical Approach , Oxford up, Nueva York, 1998. tema central | Inteligencia artificial aplicada a la salud. Luces y sombras 111 debe regar y en cuáles no, para así ahorrar agua y energía; algoritmos de recomendación de películas y series, música o contactos, como los de las plataformas que utiliza habitualmente una parte importante de la población, que se basan en el análisis del comportamiento de las personas usuarias para saber qué recomendarles; un sistema que analiza si un cliente de un banco puede o no recibir un crédito. Entre los comportamientos considerados«inteligentes» de los que ya son capaces las computadoras se incluyen aprender nuevas tareas, resolver problemas, captar y analizar la información de alrededor, etc. Uno de los desafíos que todavía enfrentan es el de mejorar su capacidad de comprender los contextos, principalmente para el desarrollo del lenguaje natural, para lo que necesitan ampliar su comprensión de la semántica 5 . En todos estos casos, el insumo fundamental de los sistemas son los datos que les sirven a los algoritmos para tomar una o varias decisiones. La irrupción de internet, la disponibilidad ubicua de datos, la capacidad casi masiva de recolectar esos datos y la potencia de cómputo que hoy está disponible hace que en los últimos años haya habido un despliegue exponencial del machine learning (aprendizaje de máquina o aprendizaje automático) y del deep learning (aprendizaje profundo). ¿En qué consiste el machine learning del que tanto se habla? Las máquinas, desde complejos artefactos para uso médico hasta dispositivos móviles,«aprenden» de los datos que se les suministran o de los que recolectan mediante sensores propios(por lo tanto, cuantos más datos reciban, más aprenden). A partir del tratamiento automatizado de esos datos y de sus algoritmos pueden establecer predicciones e inferencias y tomar decisiones. En el deep learning , el proceso de aprendizaje automático es un poco más complejo, pero ambos casos están relacionados con algoritmos inspirados en la estructura y función del cerebro, y por eso se habla de redes neuronales artificiales(rna). Las rna son modelos computacionales que procesan información imitando el funcionamiento de las neuronas biológicas, y por lo tanto están compuestas por nodos o«neuronas» que reciben, transmiten y envían información y que están conectados como una red. Las rna suelen estar conformadas por múltiples capas de nodos ocultos, que son los que transmiten la información entre los nodos de la red –de entrada y de salida–. A estas capas se las conoce como«capas de aprendizaje», y cuanto mayor es la cantidad de capas, mayores son la profundidad de la red y la capacidad de aprendizaje. Estas multicapas y su profundidad dan lugar al deep learning . 5. Karen Hao:«Aunque lo parezca, la ia sigue sin entender nada de lo que lee y dice» en mit Technology Review , 6/2/2020. 112 Carolina Martínez Elebi | nueva sociedad | 294 Es necesario destacar desde ahora que este es un proceso complejo en el que también intervienen las decisiones humanas, desde el diseño de los conjuntos de datos para el entrenamiento hasta la programación de los propios algoritmos, y que pueden derivar en un resultado sesgado. Las empresas que desarrollan este tipo de sistemas argumentan que para mejorar la eficacia y precisión y disminuir los sesgos, necesitan almacenar y analizar cada vez más datos. En el ámbito de la salud, estos datos son personales y sensibles. Los datos personales son los que permiten identificar a una persona concreta, como su nombre y apellido, fecha de nacimiento, domicilio, información de contacto y tipo de cobertura médica, entre otros. Entre los datos sensibles se incluyen aquellos vinculados al estado de salud(por ejemplo, diagnósticos, enfermedades o tratamientos), pero también los biométricos y genéticos. Estos últimos no están contemplados como datos sensibles en algunas legislaciones, como en la Ley de Protección de Datos Personales de Argentina 6 , pero sí lo están en el Reglamento General de Protección de Datos(rgpd) de la Unión Europea. Luces: ejemplos y casos Todo esto puede sonar muy técnico y un poco abstracto y puede parecer casi ciencia ficción. Sin embargo, está lejos de ser así. Por el contrario, existen La inteligencia artificial aplicada a la medicina es un múltiples casos en los que ya se están aplicando estas tecnologías en el ámbito de la salud, y todos los días se conocen nuevas investigaciones que están en curso, no solo en el mundo desarrollado, sino rubro en el que ya también en América Latina. Algunas se vienen imestán incursionando gigantes de la tecnología plementando desde hace años. Otros casos son más recientes y han tomado impulso a raíz de la pandemia de covid-19. De hecho, la inteligencia artificial aplicada a la medicina es un rubro en el que ya están incursionando gigantes de la tecnología, como Microsoft y Google, por su gran valor comercial 7 . 6. La Ley de Protección de los Datos Personales de Argentina define así los datos sensibles:«Datos personales que revelan origen racial y étnico, opiniones políticas, convicciones religiosas, filosóficas o morales, afiliación sindical e información referente a la salud o a la vida sexual». Este tipo de datos goza de una mayor protección. Ley 25.326 de Protección de los Datos Personales, 4/10/2000, art. 2 o , disponible en< http://servicios.infoleg.gob.ar/infolegInternet/anexos/60000-64999/64790/ norma.htm>. 7. V.«Health& Bioscience» en Google Research ,; James Vincent:«Microsoft Buys ai Speech Tech Company Nuance for$19.7 billion» en The Verge , 12/4/2021. tema central | Inteligencia artificial aplicada a la salud. Luces y sombras 113 En enero de 2020, desde la iniciativa fair lac del Banco Interamericano de Desarrollo(bid), se publicó un documento en el que se citan los siguientes datos provistos por la Organización Mundial de la Salud(oms):«En el mundo existen cerca de 138 millones de pacientes que resultan perjudicados cada año por errores médicos, de los cuales 2,6 millones fallecen. Durante 2015, los errores médicos relacionados con el uso incorrecto de fármacos y fallas de diagnóstico representaron la tercera causa de muerte en Estados Unidos y 10% de todas las muertes» 8 . A raíz de esto, se considera que el desarrollo de los sistemas informáticos de salud permitirá la implementación de algoritmos preventivos, que hagan posibles diagnósticos tempranos de enfermedades y patologías y que mejoren la calidad y eficiencia de la atención. Por ejemplo, un modelo basado en deep learning puede aprender a realizar tareas de clasificación directamente a partir de imágenes, texto o sonido, sin necesidad de intervención humana para la selección de las características en común. Esta particularidad del deep learning es lo que lo hace fundamental para la medicina, ya que puede analizar imágenes de resonancias o radiografías para detectar qué patrones se repiten en aquellas que muestran, por ejemplo, cáncer de mamas, y así agilizar la detección de esta misma patología en otras personas. En este sentido, un caso muy reconocido a escala internacional es el sistema Watson de ibm, que se utiliza para realizar diagnósticos en algunos hospitales de eeuu –como en el Memorial Sloan-Kettering Cancer Center– a partir de datos que recopila de las historias clínicas de alrededor de un millón y medio de pacientes y dos millones de páginas de artículos académicos en revistas científicas. En este caso, quizás el beneficio resulte evidente, ya que esto efectivamente podría servirle al personal de salud para realizar una detección temprana y comenzar a tratar las enfermedades lo más rápido posible, mejorando así las oportunidades de recuperarse de cada paciente. En Argentina, la empresa Entelai desarrolló un programa que analiza imágenes dentro del sistema de reportes médicos. El programa fue diseñado para resolver el problema de la sobrecarga de trabajo de los especialistas en imágenes, que deben analizar y redactar entre 10 y 30 reportes por día, en el caso de resonancias de cerebro, y entre 30 y 60 reportes por hora en el de las mamografías (es decir, una por minuto o una cada dos minutos). Para esos casos, la empresa desarrolló una solución llamada EntelaiPic, que le permite al especialista, además de ver la resonancia magnética o la mamografía, tener un preinforme que le indica a qué zona prestarle atención y le marca la presencia de lesiones en la resonancia. Además, en el marco de la pandemia, Entelai se basó en este sistema para desarrollar la herramienta de ia EntelaiPic Covid-19, que 8. Marcelo Cabrol, Natalia González Alarcón, Cristina Pombo y Roberto Sánchez Ávalos:«fair lac: Adopción ética y responsable de la inteligencia artificial en América Latina y el Caribe», bid, 1/2020. 114 Carolina Martínez Elebi | nueva sociedad | 294 permite analizar con precisión y velocidad un enorme número de radiografías de tórax y detectar neumonía o infección en los pulmones a partir del análisis de miles de imágenes. En Brasil se desarrolló la aplicación laura, un sistema de inteligencia artificial desarrollado por el Instituto Laura Fressatto, que tiene como objetivo reducir muertes evitables por sepsis mediante la intervención temprana. Una plataforma de monitoreo de salud identifica pacientes en deterioro clínico y notifica en tiempo real al equipo de atención, analizando los registros electrónicos de cuidado médico. Este es un sistema de machine learning , deep learning , procesamiento de lenguaje natural(pln) y toma de decisiones. En América Latina, además de Argentina y Brasil, también Chile, Colombia, México y Perú han avanzado en desarrollos de inteligencia artificial para la salud. A escala global, China tiene un plan de desarrollo que apunta a posicionar a ese país como líder mundial en el diseño de tecnologías de inteligencia artificial hacia 2030 y a que este sea el principal motor de la industria para 2050, con una inversión de 150.000 millones de dólares. Por su parte, eeuu crece de la mano de las big tech : con ai for Health de Microsoft, Watson Health de ibm, y Google con su proyecto GoogleLeNet y su Dataset Search. Cruzando el Atlántico, en la ue se destacan los avances de España en sistemas basados en redes neuronales artificiales y algoritmos predictivos para la detección temprana del cáncer de mama. Finalmente, en el continente africano, Kenia desarrolló un chatbot gratuito –Sophie Bot– para responder preguntas sobre salud sexual y reproductiva, y en Sudáfrica la compañía Numberboost trabaja para desarrollar un sistema que permita a los ciudadanos ubicar clínicas de salud móviles cercanas. Sombras: riesgos e impactos sociales Aunque nos encantaría que así fuera, y al principio hasta podría parecerlo, no todas las investigaciones y desarrollos de inteligencia artificial aplicada a No todas las investigaciones y desarrollos de la salud ofrecen buenas noticias. Estamos en una era en la que impera el«solucionismo tecnológico», según palabras de Evgeny Morozov, y a cada problema que debe afrontar la humanidad se le intenta aplicar una inteligencia artificial tecnología, un programa, una app . La mayoría de las aplicada a la veces ni siquiera se realizan estudios de sus impactos salud ofrecen buenas noticias sociales o en los derechos de las personas, algo que podría asemejarse a los estudios de impactos ambientales que deben hacerse antes de avanzar, por ejemplo, en la instalación de una fábrica o en la explotación de una mina en determinada región. En lo que se refiere a la medicina preventiva, existen algunos tema central | Inteligencia artificial aplicada a la salud. Luces y sombras 115 sistemas diseñados para realizar predicciones y anticiparse a situaciones delicadas y complejas, con posibles impactos negativos sobre derechos fundamentales, como el derecho a la privacidad, o con el refuerzo y la consolidación de desigualdades y situaciones de discriminación preexistentes en la sociedad. Un caso en el que esto se hizo evidente y que tuvo repercusiones en los medios de comunicación fue protagonizado en 2018 por el entonces gobernador de la provincia argentina de Salta, Juan Manuel Urtubey, quien mientras se llevaba a cabo el debate nacional sobre la legalización de la interrupción voluntaria del embarazo, anunció que mediante un sistema de inteligencia artificial iba a ser posible predecir el embarazo de niñas y adolescentes 9 . A raíz de este anuncio, desde el Laboratorio de Inteligencia Artificial Aplicada de la Facultad de Ciencias Exactas de la Universidad de Buenos Aires alertaron respecto a que se trataba de una decisión algorítmica basada en prejuicios:«Tanto los problemas metodológicos como los datos poco confiables plantean el riesgo de tomar medidas incorrectas a los responsables de políticas públicas» 10 . Por otro lado, y esto no es una novedad, la tecnología puede fallar. El problema de la falla de estos sistemas que toman decisiones automatizadas es que, en algunas ocasiones, no permiten detectar con facilidad cómo se tomó la decisión ni dónde se produjo la falla. Por ejemplo, la aplicación de tecnologías de inteligencia artificial no se limita solo a diagnósticos y tratamientos, sino que se extiende a sistemas automáticos de asignación de turnos o, como en el caso que relata un artículo publicado en The Verge en 2018, se utiliza para asignar personal de cuidado para personas mayores o con diversas discapacidades 11 . En el ejemplo que reporta el periodista Colin Lecher, un algoritmo de atención médica había comenzado a cortar la asignación de personal de cuidado a personas mayores sin que nadie supiera ni pudiera explicar a qué se debía la decisión que estaba tomando el sistema, en qué datos se basaba ni qué criterios utilizaba. A partir del análisis y el procesamiento de los datos de los que se alimentan, los sistemas pueden ser capaces de encontrar patrones inferenciales, aunque la existencia de estos patrones, y de una correlación, no implica que siempre haya causalidad entre ellos. Allí es donde es fundamental contar con la intervención humana y con sistemas que permitan ser estudiados 9. Bárbara Defoix:«El método que aplica Urtubey para predecir el embarazo adolescente» en Perfil , 12/4/2018. 10. Laboratorio de Inteligencia Artificial Aplicada(liaa):«Sobre la predicción automática de embarazos adolescentes», 2018, disponible en. 11. Colin Lecher:«What Happens When an Algorithm Cuts Your Healthcare» en The Verge , 21/3/2018. 116 Carolina Martínez Elebi | nueva sociedad | 294 para comprender cómo llegaron a las decisiones tomadas, cómo fueron programados y con qué datos fueron entrenados. En una entrevista de 2020, Sandra Wierzba, abogada especialista en e-salud y telemedicina, contó que en la actualidad existen aplicaciones de autoevaluación para el diagnóstico de diabetes, de trastorno bipolar, de ictericia neonatal y de melanoma 12 . Sin embargo, la mayoría de estos productos puestos a disposición en las tiendas de aplicaciones –ya sea de pago o gratuitas– tienen problemas de calidad y de seguridad. Por ejemplo,«a pacientes de diabetes se les hacía una prescripción en base a datos, pero no se contemplaba otras medicaciones, tipo de vida o alimentación», explica citando una investigación realizada por el Instituto de Tecnología, Salud y Derecho de la Universidad de Chicago. El acceso a datos y su uso y tratamiento adquieren En los últimos gran relevancia debido a su incidencia social. Es por años, se viene discutiendo sobre la necesidad esto que, en los últimos años, se viene discutiendo en diversos espacios sobre la necesidad de pensar en el desarrollo de una inteligencia artificial ética, en el caso de que eso sea posible 13 . Sin embargo, esta mirada no es de pensar en el suficiente para abordar la problemática de la recopiladesarrollo de una inteligencia ción, uso y tratamiento de datos personales y sensibles de la población. Es necesario, además, sumar al análisis un enfoque de derechos humanos, fundamentado en artificial ética los acuerdos a los que han llegado gran parte de las naciones del mundo y que permiten basarse en estándares que respeten los derechos fundamentales de las personas, para que los desarrollos y las implementaciones de las tecnologías de inteligencia artificial tengan como objetivo central el bien común. Uno de los mayores desafíos en relación con los sistemas de inteligencia artificial es lograr la disminución de sesgos, ya sean producto de los conjuntos de datos que se utilizan para entrenar a los algoritmos(sesgo de los datos) o del diseño mismo de los algoritmos, que puede llevar a resultados sesgados (sesgo de los algoritmos). Esto, que se repite en cualquier ámbito en el que se utilicen sistemas basados en análisis automatizados de datos, cobra mayor relevancia en la salud, ya que un diagnóstico basado en datos sesgados puede tener un impacto muy perjudicial en la población. En pos de disminuir esos sesgos, quienes diseñan este tipo de soluciones argumentan que es necesario recolectar mayor cantidad y variedad de datos; principalmente, datos demográficos como edad, sexo biológico y género, 12. Cecilia Danesi:«ia, telemedicina y Covid-19», entrevista a la doctora Sandra Wierzba, 19/5/2020, disponible en. 13. Cade Metz:«Is Ethical ai Even Possible?» en The New York Times , 1/3/2019. tema central | Inteligencia artificial aplicada a la salud. Luces y sombras 117 raza y etnia, y zona geográfica de residencia. En este sentido, es importante destacar que, aunque no se incluya el nombre y apellido de su titular, estos datos, cruzados con los de salud, pueden permitir identificarlo –incluso a pesar de atravesar procesos de disociación de datos, anonimización o seudonimización–, y esto, además de vulnerar la privacidad y la intimidad de una persona, puede tener efectos discriminatorios. Algunos de los riesgos vinculados a los datos que se utilizan para estos sistemas son los problemas de seguridad(informática y de la información), vulneración de la privacidad y discriminación arbitraria(conocida como discriminación algorítmica). A su vez, la posible vulneración de la privacidad que puede emerger de la identificación de una persona puede llevar a que esta sea discriminada por su estado de salud, como se observa en el informe del Instituto Nacional contra la Discriminación(inadi) de Argentina referido a las consultas recibidas por ese organismo durante el primer bimestre de aislamiento social, preventivo y obligatorio(aspo), entre marzo y mayo de 2020 14 . Esto podría verse reflejado en el aumento del valor de la cuota del seguro médico, en la dificultad para conseguir un crédito bancario o para conseguir empleo, entre otras posibles consecuencias. Desafíos para una inteligencia artificial fiable y respetuosa de la privacidad En un escenario de crecimiento y envejecimiento poblacional, la necesidad de atender con la mayor rapidez posible la salud de la población se convierte en una prioridad que parece poder resolverse, en mayor o menor medida, a partir del diseño y aplicación de nuevas tecnologías que permitan automatizar procesos que hoy son realizados de forma manual y presencial. Los desafíos, sin embargo, son abundantes y diversos. Por un lado, la necesidad de disminuir los sesgos para que la implementación de estas técnicas no profundice la discriminación y las desigualdades existentes en las sociedades. Por otro lado, la necesidad de comprender el valor que tienen estos datos y la importancia social de protegerlos para evitar que se vulnere la privacidad de las personas, con el riesgo de que estas no consigan un empleo o lo pierdan, o que esos datos sean utilizados por aseguradoras, entidades bancarias o prestadoras privadas de salud para negar atención y servicios o para asignar los valores de las cuotas de forma discriminatoria. 14. inadi:«Consultas recibidas en el inadi durante el primer bimestre de aspo(20-3 al 20-5)», 5/2020. 118 Carolina Martínez Elebi | nueva sociedad | 294 En el caso puntual del despliegue de este tipo de tecnologías en el marco de la lucha contra el avance del covid-19, es fundamental que las autoridades de cada jurisdicción se aseguren de que el intercambio de datos se ajuste a las normas de seguridad y privacidad y no genere riesgos de que los datos de las personas sean mal utilizados. Para evitar esto último, desde diversos sectores que trabajan en defensa del derecho a la privacidad, se sostiene que estas tecnologías que recolectan datos personales, de salud, biométricos y de ubicación –en el caso de las aplicaciones para dispositivos móviles– deben ser utilizadas como medidas de excepción, limitadas en el tiempo, usadas solo bajo estricta necesidad, implementadas con absoluta transparencia y eliminadas no bien cese la razón que justificó su uso, con la consiguiente destrucción de registros que permitan o habiliten la discriminación o vulneración de los derechos de las personas. Actualmente, en diferentes niveles, hay debates sobre cómo deberían regularse estas tecnologías, principalmente porque el mercado global hace que los datos crucen fronteras casi sin límites ni controles. Un ejemplo claro podría ser cualquier aplicación móvil que se anuncie como un sistema para detectar la probabilidad de cáncer de piel a partir de una fotografía 15 . ¿Quién diseña la aplicación? ¿Qué datos se piden? ¿Dónde se alojan esos datos? ¿Cómo se utilizan? ¿Quién controla ese uso? ¿Qué regulación se aplica para la protección de los datos? ¿Debería diseñarse una regulación específica o se podría recurrir a legislación vigente? Mientras eso se discute, existe no obstante en la actualidad un marco regulatorio que permite abordar el contexto actual de desarrollo e implementación de las tecnologías de inteligencia artificial y que, en Argentina, está a su vez enmarcado en los tratados internacionales de derechos humanos. Es necesario destacar que, independientemente de si se redacta o no una normativa específica, resulta prioritario hacer cumplir la legislación vigente en materia de protección de datos personales, por lo que el trabajo de la autoridad de aplicación de la Ley de Protección de los Datos Personales es central. En este sentido, también adquiere enorme importancia el fortalecimiento de las medidas de seguridad informática para resguardar esta información de posibles ataques, teniendo en cuenta el enorme valor comercial que tienen en el mercado de la salud. Existen algunas preguntas que deberían plantearse y responderse para promover e impulsar tecnologías de inteligencia artificial que respeten estándares de derechos humanos. ¿Es posible disminuir los sesgos sin tener que recolectar cada vez más datos? ¿Es factible, verdaderamente, una anonimización, seudonimización o disociación de datos que sea irreversible? 15. Izan González:«Google detectará el cáncer de piel con solo una foto hecha con tu móvil» en El Español , 18/5/2021. tema central | Inteligencia artificial aplicada a la salud. Luces y sombras 119 ¿Cómo se gestionan los datos personales y sensibles en el desarrollo de investigaciones y productos que se utilizan en la práctica médica? ¿Quiénes tienen acceso a las bases de datos? ¿Con qué fines? ¿Cómo usa el Estado la información disponible de la salud de los ciudadanos? ¿Cómo la usan las empresas de seguros, las farmacéuticas, las instituciones de salud? ¿Qué pasa con las big tech que quieren entrar también en este rubro? ¿Es información que puede llegar a manos de un futuro empleador? ¿Quién audita? ¿Cómo se controla? Es importante destacar que uno de los impactos que tienen estas tecnologías en las personas y en la sociedad en su conjunto es lo que se conoce como su pervasividad; es decir que las personas no pueden escapar a estos sistemas una vez que están instalados. En la medida en que existen cada vez más ciudades inteligentes o implementaciones que son obligatorias, las personas no pueden ejercer el derecho de opt out (derecho de salir). Ante los potenciales(y concretos) riesgos que presenta la implementación de estas tecnologías en la salud, y para evitar vulnerar a diversos sectores de la sociedad con desarrollos sin un trabajo profundo y responsable que tenga en cuenta los impactos sociales, es necesario que exista un debate público sobre cuáles son los problemas que deberían resolverse aplicando estas tecnologías, sin que sus efectos sean más graves que lo que vienen a solucionar. Junio de 2021 Li­ma N o 262 ACTUALIDAD: Sinodalidad. La impronta de Francisco que abre espacios en América Latina, Aníbal Pastor N. REFLEXIÓN: La Iglesia en la independencia del Perú, Raúl Pariamachi ss.cc. Ve y haz tú lo mismo. Relectura del buen samaritano en tiempos de pandemia, Glafira Jiménez París. Alianza cósmica: la primera y mayor alianza bíblica. (Meditaciones sobre Génesis 9, 8-15), Marcelo Barros. Volver a Jesús, volver al amor, Carlos Flores Lizana. La secularización de la profecía. Una reflexión sobre la parrhesía, la justicia y el quijotismo en los tiempos modernos, Gonzalo Gamio Gehri. Signos de esperanza como crítica a la banalidad del mal, Marco Antonio Prieto Caso. TESTIMONIOS:«Opto por creer en el Dios de Jesús». A mi querido taita-abuelo Caravias, Mauricio López Oropeza. INFORMES: La mortalidad materna crece en el Perú a raíz de la pandemia, Carmen Lora. Colombia: es hora de sanar heridas, de tender puentes, Carmen Lora. ENTREVISTA: El Sínodo se transforma para dar espacio al pueblo de Dios, Andrea Tornielli. DOCUMENTOS: Carta del papa Francisco al Grupo del Banco Mundial y al Fondo Monetario Internacional Carta al pueblo de Dios, Conferencia Episcopal Peruana. Mensaje de la Conferencia Episcopal de Guatemala. Con motivo de la beatificación del padre José María Gran y nueve compañeros mártires Al pueblo brasileño. Mensaje de la Asamblea General del Episcopado. Edita y distribuye Centro de Estudios y Publicaciones, Belisario Flores 681 – Lince, Lima 14, Perú. Tel.:(511) 4336453 – Fax:(511) 4331078. Correo electrónico:. Página web:. Limitar la dependencia algorítmica Impactos de la inteligencia artificial y sesgos algorítmicos Johanna Caterina Faliero En el marco de la llamada«era de los datos», es necesario detenerse en los impactos jurídicos y las tensiones en materia de derechos relativas a las aplicaciones que hacen uso de inteligencia artificial y atender, en particular, las problemáticas de los sesgos y la discriminación algorítmica. La instauración del derecho al anonimato y la autodeterminación informativa dinámica se proponen como límites de protección frente a la dependencia algorítmica. En el marco de la llamada«era de los datos», la proliferación y masificación de los usos de técnicas riesgosas de procesamiento de datos, carentes de toda sensibilidad, contexto y verdadero control, transparencia y explicabilidad, tales como la inteligencia artificial, el aprendizaje automático y el machine learning , entre otras, conllevan nuevos desafíos. Estos se vinculan sobre todo con el marco de derechos protectorios que requerimos como individuos a la hora de defender nuestra privacidad, la protección y seguridad de nuestros datos, y el libre y genuino ejercicio de nuestra autodeterminación informativa, entendida como la facultad que tiene todo titular de datos de ejercer el control y el gobierno sobre estos. Johanna Caterina Faliero: es doctora en Derecho por la Universidad de Buenos Aires (uba). Es especialista en Derecho Informático y abogada en Derecho Empresarial y Privado por la Facultad de Derecho de la uba. Es directora del Programa de Actualización en Data Governance, Data Compliance, Infosec y Ciberseguridad de la misma facultad. Es autora, entre otros libros, de El derecho al anonimato: revolucionando el paradigma de protección en tiempos de la posprivacidad (Ad Hoc, Buenos Aires, 2019) y La protección de datos personales (Ad Hoc, Buenos Aires, 2020). Palabras claves: autodeterminación informativa, derecho al anonimato, inteligencia artificial, sesgo algorítmico. tema central | Limitar la dependencia algorítmica 121 Es así como, en un contexto en el que hemos redefinido la esencia técnica y jurídica misma de los algoritmos que usan las aplicaciones e implementaciones de estas técnicas, nos encontramos reducidos simplemente a ser la carne de la cual se alimentan. En nuestras sociedades dataístas y algoritmocentristas, en las que todo es parametrizado, hipervigilado y controlado, somos lo que nuestra identidad digital refleja que somos. A menudo, la identidad digital del individuo conoce más sobre un sujeto de lo que este conoce sobre sí mismo. Los algoritmos logran penetrar en el individuo, en su psiquis, en sus aspectos más íntimos y personales, desde un enfoque exógeno, con elementos externos al individuo, quien puede conocer o desconocer qué se ha obtenido de él. Del mismo modo, los algoritmos, como técnicas de procesamiento, carecen de sensibilidad, criterio y orientación natural en derechos humanos y pueden acertar o errar, ya que sus aciertos no se guían por la certeza de la veracidad comprobada, sino por aquella obtenida por la incidencia estadística. Por lo tanto, en este camino, los algoritmos que definen la identidad digital de los individuos dicen lo que estos son, lo que estos desconocen que son y lo que estos no son, pero los algoritmos creen que son. El procesamiento de datos y los algoritmos sin ética solo pueden causar daños, cuyo impacto, profusión e imposibilidad fáctica de ser revertidos resultan innegables. Pero aún peor es procesar sin derechos, ya que la ética de los datos siempre ha sido el sustrato axiológico de los marcos de protección en materia de tratamiento de datos personales. De allí los peligrosos efectos del data-ethics washing 1 que, con su realismo mágico, convierte en potestativos aquellos imperativos normativos de los cuales antes emergían verdaderos derechos, obligaciones y sanciones en caso de incumplimiento. La dependencia algorítmica es una realidad operativa. Las organizaciones públicas y privadas son codependientes de los algoritmos, en todas las esferas de nuestras vidas, para todos nuestros roles: ya sea como ciudadanos, trabajadores o consumidores; todos somos objeto del perfilamiento algorítmico, que tiene múltiples finalidades, matices y efectos, así como intereses en juego. Es por ello que resulta necesario establecer un límite jurídico concreto a esa dependencia algorítmica: para frenar la proliferación, inflación y expansión de las prácticas abusivas digitales en el procesamiento y tratamiento de datos, que terminarán por aniquilar nuestro derecho a la privacidad y a la protección y seguridad de nuestros datos. La autodeterminación informativa de los individuos, también conocida como libertad informática, una fusión entre autonomía de la voluntad e información, y definida como la capacidad plena del individuo de gobernar los datos 1.«Lavado de imagen mediante la ética de datos»: refiere al uso de la ética como una fachada para mejorar la imagen pública de las empresas. 122 Johanna Caterina Faliero | nueva sociedad | 294 que a él se refieren, requiere y urge de una revolución. La autodeterminación informativa es prerrequisito del consentimiento informado y fue construida como concepto jurídico en un entorno estático e invariable de procesamiento. Hoy en día, el procesamiento de datos es algo dinámico y mutable, permanentemente variable. El procesamiento de datos con algoritmos se asemeja a un organismo vivo, que respira y cambia conforme a las condiciones del contexto en que se desenvuelve. En esa mutabilidad permanente, se requiere de una autodeterminación informativa afín que ponga un límite y de ese modo minimice los impactos del procesamiento y asegure el respeto y la prevalencia de los derechos humanos, los derechos de protección de los consumidores y consumidores digitales (e-consumidores) y la protección de sus datos, así como la reducción y contención de los daños que surjan como producto del procesamiento irresponsable. La autodeterminación informativa dinámica como límite protectorio jurídico a la dependencia algorítmica se presenta como la mejor medida de protección a la identidad digital del consumidor. Por otra parte, en el contexto planteado, se hace necesario reformular la privacidad a la luz de las necesidades protectorias que generan los nuevos contextos de procesamiento. Es allí donde emerge el derecho humano al anonimato, como un derecho humano digital de carácter proactivo, preventivo, como garantía de seguridad, transparencia, apertura e información, con el reconocimiento legal de la necesidad de impedir la asociación de datos a la persona del titular del dato, proceder a la anonimización irreversible de las personas observadas e impedir técnicamente la generación y recopilación de datos, así como el perfilamiento del titular. Inteligencia artificial, sesgos y discriminación algorítmica La inteligencia artificial como«nuevo» campo científico lleva décadas entre nosotros. Parece comportarse como una especie de zombi cíclico y explosivo, que resurge en función de las modas imperantes en las técnicas del procesamiento de datos, hasta que sucumbe a la decepción de sus promesas fallidas, se retira al silencio y al olvido, y vuelve a reflotar cuando encuentra nuevas víctimas que, en su frescura y olvido contextuado del pasado, le otorgan nuevos espacios y cabida renovada. Lo que hoy sí resulta único en este campo es que, a la luz de las nuevas técnicas de procesamiento y de la suma de las capacidades técnicas actuales, la mentada inteligencia artificial al menos puede empezar a simular que es capaz de hacer aquello que viene prometiendo hace más de medio siglo. Así, deja a muchos con la boca abierta por la posibilidad de llevar adelante tareas que minutos antes también se realizaban de forma automática, pero tema central | Limitar la dependencia algorítmica 123 © Nueva Sociedad/ Giovanni Parrado 2021 Giovanni Parrado es un ilustrador colombiano, profesional de la Universidad Nacional de Colombia. Ha liderado procesos creativos de diseño gráfico e ilustración para el Instituto Alexander von Humboldt en Colombia(2018-2021). Es especialista en refrescamiento de imagen e impresión de productos institucionales para un portafolio de clientes diverso. Instagram:<@elmonstruodegio>. 124 Johanna Caterina Faliero | nueva sociedad | 294 con títulos menos mercantiles; es lo que sucede, por ejemplo, en la llamada gestión empresarial( back office ) con la automatización de todos los procesos rutinarios de la operatoria de procesamiento. Es decir, estamos muy lejos aún de la inteligencia artificial en su sentido fuerte, y en muchos casos en los que se invoca el uso de inteligencia artificial, apenas se llega a la automatización avanzada. Ese es el juego perverso que nos propone la mercadotecnia agresiva a través del ai -washing , que solo busca descarnadamente más y más inversores, atraídos por la miel de una tecnología en apariencia disruptiva y con imagen renovada. La inteligencia artificial es muy útil y tiene muchísimos usos y potencialidades sociales que pueden ser aprovechados. Pero sus riesgos son significativos y pueden resultar críticos, incluso letales, si se trata de áreas en las que sus consecuencias jurídicas pueden tener víctimas de carne y hueso, como los titulares de los datos, con potencial irreversibilidad del daño causado. La inteligencia artificial es una industria que proyecta su sombra imponente sobre la economía digital, y es por ello que múltiples actores del sector público y del sector privado tienen interés en participar de esta gran fiesta de injerencia e impacto mundial en el plano económico. Es así como en el juego de la inteligencia artificial encontramos actores del sector privado, empresas tecnológicas, del área de la ciencia de datos, de la salud, del marketing, etc., así como actores del sector público, gobiernos, fuerzas de seguridad, servicios públicos y hasta la justicia misma. Todos ellos, embelesados ciegamente por el tecnorreduccionismo romantizado que propone la inteligencia artificial como solución magistral para todos y cada uno de los problemas que no hemos logrado resolver hasta el día de hoy. La inteligencia artificial, como herramienta que permite un optimizado análisis predictivo, hace descansar su eficiencia en la inferencia estadística de patrones y en una interpretación flexible de los parámetros con los cuales se la programa. Sus procesos decisionales son difícil o nulamente explicables y A la única igualdad transparentes, por más estrategias recursivas que se intenten contra este fenómeno. La inteligencia artificial insensible a la que perfecciona y optimiza el perfilamiento a través del uso nos está llevando la inteligencia artificial es la igualdad de algoritmos, al mismo tiempo que promete más igualdad en sus procesos, por lo que sus seguidores y evangelizadores técnicos, comerciales y jurídicos sostienen de manera falaz que nos llevará a una mayor igualdad. en la discriminación Lamentablemente, a la única igualdad insensible a algorítmica la que nos está llevando es la igualdad en la discriminación algorítmica. Esta se desarrolla como consecuencia de la presencia de un sesgo algorítmico por el cual se serializan y estandarizan los defectos e impactos jurídicos del perfilamiento, lo que vulnera tema central | Limitar la dependencia algorítmica 125 sistemáticamente, a una escala masiva no predicha, la autodeterminación informativa de las personas titulares de los datos, individuos y ciudadanos. Estos carecen de escape posible, ya que todos los actores a los que podrían recurrir en la defensa de sus derechos se encuentran invadidos por intereses cruzados en la inserción industrial de estas técnicas, y por lo tanto no queda posibilidad alguna de protección frente a sus avances. La inteligencia artificial genera impactos más invasivos, intrusivos, vejatorios, intimidatorios, conculcatorios y peligrosos que cualquier otra técnica de procesamiento de datos utilizada hasta el momento, y debería ser caracterizada, para dar cuenta del derecho a la reparación de sus datos, como actividad riesgosa. Por otra parte, el problema que nos plantea el ai -washing es que cuando se toma por inteligencia artificial lo que no lo es, también se debilita la posición de poder y de control de las personas frente a esta tecnología en áreas críticas de inserción, como por ejemplo el acceso a la vivienda, a la financiación, a productos y servicios de consumo, o a educación, salud o justicia. Esto es así porque frente a aquello que no es genuinamente inteligencia artificial, no se estudian los impactos estructurales que tiene la habilitación de una técnica que dice ser algo que aún no es, si bien puede serlo a futuro. El impacto más gravoso aquí es el proyectivo, puesto que una vez admitido algo, raramente se retrocede en su inserción, máxime cuando quienes insertan estos caballos de Troya en las estructuras señaladas se preocupan estratégicamente en construir sobre ellas monstruos operativos irreductibles a futuro, para que nada cambie y se sigan generando sinergias alrededor de los nuevos statu quo hegemónicos que generan con ello. Así ya ha sucedido en áreas de justicia, seguridad, educación, salud, etc., en muchas partes del mundo. Quienes controlan la inteligencia artificial hoy en día detentan simbólicamente el poder, no solo de procesamiento, sino también de control directo de los datos y del destino de quienes son titulares de los datos. Por este motivo, además de los estudios de impacto en materia de protección de datos personales y las auditorías de seguridad de datos, deberían efectuarse estudios detallados de los actores involucrados en estos procesos tecnológicos, para verificar la posible presencia de intereses incompatibles, que pueden tornar en corruptos tales procesos de inserción de cambios tecnológicos disruptivos en áreas críticas de nuestras vidas. Por el momento, la inteligencia artificial, en contra de su promesa de aportar mayor igualdad a nuestro ya polarizado planeta, solo ha instalado en nuestro ecosistema de procesamiento de datos, a través del sesgo algorítmico, mecánicas discriminatorias menos palpables, pero no por ello menos perjudiciales. El sesgo algorítmico contamina el reconocimiento de patrones y las predicciones basadas en datos. Los algoritmos no son entidades asépticas, imparciales y disociadas de sus creadores e intereses, como así tampoco de los conjuntos de datos con que se los alimenta, por lo que es fácil 126 Johanna Caterina Faliero | nueva sociedad | 294 comprender cómo la discriminación atraviesa estas entidades, desde los datos hasta sus resultados. El procesamiento que conlleva la parametrización algorítmica está plagado de discriminación imposible de eliminar en su totalidad, porque los algoritmos reducen la información a cúmulos dimensionales reductibles a patrones para poder manejarla. Estos patrones establecen una definición que, por su naturaleza, es hegemónica y todo lo discriminatoria que sea la sociedad en la cual se la ha gestado. El efecto multiplicador del daño que produce el sesgo algorítmico, una discriminación perfectamente serializada, que operativiza sus impactos y refuerEste sesgo produce za a la perfección las estructuras opresivas preexistentes de forma automatizada, se alcanza de múltiples formas. la invisibilización Este sesgo produce la invisibilización de todo aquello de todo aquello que no es hegemónico que no es hegemónico y mayoritario, la elaboración y reafirmación de la estigmatización que producen los estereotipos, el desbalance y la selectividad de aquello y mayoritario que es simbólicamente merecedor de representación y la neutralización de todo aquello que se presenta como asistémico. El sesgo algorítmico fragmenta y genera la irrealidad de la inexistencia de todo aquello que no siga el patrón idealizado por el imperativo de lo dominante, y refuerza el binarismo y la discriminación que ya vivimos cada día, insertos en nuestros sesgos lingüísticos, cognitivos y cosméticos. Tal sesgo puede darse ya sea a través del modo en que se entrenan los algoritmos con sets de datos en sí mismos discriminatorios, por utilizar sets que contienen prejuicios discriminatorios latentes, por la sobreabundancia de datos históricos que sobredimensionan elementos que conducen a la multiplicación de los efectos discriminatorios, o por la elección consciente de subrepresentar aquello que no resulta hegemónico. Finalmente, y sin intención de agotar todas las modalidades de manifestación existentes del sesgo algorítmico, este también puede ser consecuencia de las propias limitantes técnicas del diseño; consecuencia del uso imprevisto de los algoritmos en nuevos contextos de uso y por un público diferente de aquel al que estaban destinados, o también consecuencia de la interpretación de datos que se vuelven a reinsertar e incrementan la discriminación exponencialmente en el mismo sistema algorítmico. A la pregunta de si la discriminación por sesgo algorítmico es evitable, le cabe una respuesta franca y negativa: no es posible evitarla en el estado actual de la ciencia, y es por ello que, atendiendo a este punto, no debería utilizarse inteligencia artificial en áreas críticas relativas al ejercicio de nuestros derechos, como por ejemplo videovigilancia/vigilancia biométrica, perfilamiento, vigilancia electrónica, toma de decisiones judiciales o administrativas, toma de decisiones cuyo resultado sea la distribución de derechos de tema central | Limitar la dependencia algorítmica 127 acceso y la determinación de la extensión de nuestros derechos, entre otros ámbitos(por ejemplo, salud, crédito/financiamiento, vivienda, educación, consumo, etc.). Desde otro ángulo, la tan mentada«transparencia» tampoco soluciona este conflicto, puesto que, incluso con transparencia, subsiste la crisis de confianza del titular del dato en relación con todo aquello que se puede estar haciendo de forma no consensuada e informada. La transparencia no es garantía de la lealtad del que la ejerce, ya que se puede ser transparente e insincero. Asimismo, si no se hacen los debidos estudios de impacto en protección de datos personales, tales como auditorías en materia de seguridad de datos y de seguridad de la información en búsqueda de vulnerabilidades, se está a ciegas en cuanto a los derechos relativos no solo a la privacidad, sino también a la ciberseguridad de nuestros datos. Lo que se conoce como«seguridad por oscuridad» en los sistemas algorítmicos e implementaciones de inteligencia artificial(que utiliza el secreto para preservar la seguridad) solo da cuenta de una apariencia: la seguridad se preserva en la medida en que siga imperando el desconocimiento y no existan intereses suficientes como para controvertirla. No es una verdadera técnica de seguridad, se trata en realidad de una forma de impunidad instalada a escala industrial. Hoy en día todos están sujetos legalmente al cumplimiento del deber de seguridad, el cual deriva del principio general del derecho de la buena fe objetiva, que en este caso quedaría en entredicho. Nuevamente, si la inteligencia artificial no es inocua, la pregunta debería centrarse en quiénes permitieron que avanzara en áreas donde pueden comprometerse derechos sin reparación alguna, para hacerlos responsables del respectivo recall 2 y reparación de los daños sufridos hasta el momento. Y también para evitar preventiva y precautoriamente la profundización de estos daños, máxime que, aun con la incertidumbre científica de su capacidad de daño, esto no puede impedirnos tomar medidas destinadas a reducir o mitigar los potenciales daños que puedan darse. La centralización y monopolización de los servicios, plataformas y aplicaciones digitales que hacen uso de inteligencia artificial generan barreras más altas para todos, y en especial para los hipervulnerables en el mundo virtual, y potencian así nuevas inseguridades, y por eso se requieren mayores y mejores medidas y niveles de protección. La transparencia no basta, porque no se logra jamás de forma total, así como tampoco existe una solución mágica al problema de la opacidad. Sistemas como los de«caja blanca» prometen esa transparencia total, pero en definitiva no la alcanzan, ya que solo buscan niveles tolerables de transparencia en los cuales no todo lo que se muestra es verdaderamente útil. La interpretabilidad sigue siendo un reto 2. Obligación de retirar del mercado algo que devino o se descubrió riesgoso. 128 Johanna Caterina Faliero | nueva sociedad | 294 técnico no superado y aún no se ha alcanzado un equilibrio entre transparencia, información y explicación que no sea sobre la base de la contracción directa o indirecta del acceso a la información. La inteligencia artificial, por su propia naturaleza técnica, se opone al principio de minimización y no excesividad de datos, ya que la única solución que encuentra para perfeccionar su efectividad es recolectar más datos y así mejorar la performance y balance de los modelos. Recoger más y más datos incrementa exponencialmente los riesgos, por lo que respecto de esta arista también resulta necesario investigar nuevas opciones técnicas, que permitan explorar estas vías de optimización de las métricas y efectividad, sin habilitar que la inteligencia artificial se convierta en el agujero negro de los datos. Conclusión: el derecho al anonimato y la autodeterminación informativa dinámica como límites protectorios frente a la dependencia algorítmica Los datos son un conjunto esencial de hechos referenciales, que tienen poca o nula utilidad si no se encuentran en relación, es decir, si no son agregados con otros datos o sujetos a un procesamiento para añadirles contenido. Los algoritmos generan esas relaciones creadoras de valor para nuestros cúmulos de registros. La dependencia algorítmica deja en claro que el problema aquí son los algoritmos y que no se puede condicionar el ejercicio de un derecho humano y fundamental, como lo es la protección de datos personales, al desempeño de una actividad económica y productiva moderna. La dependencia algorítmica lleva a muchos a creer que la salida ética al procesamiento de datos la proporcionan los mismos algoritmos, los cuales, condicionados éticamente, van a determinar por el individuo qué procesamientos son riesgosos para abstenerse de ellos. Pero esto no es más que un espejismo que intenta esparcir la propia industria del procesamiento de datos, que se alimenta del lucro derivado de las actividades de la inteligencia artificial. No hay autodeterminación informativa posible que puedan ejercer los algoritmos por cuenta de los individuos, ya que el componente humano es sustancial, insustituible y basal para su ejercicio. No se comprende cómo un proceso puramente estadístico puede sustituir el ejercicio humano de un derecho, sin caer en la tiranía del perfilamiento automatizado basado en un nuevo sesgo, ahora bendecido regulatoriamente, que sería el de la ética impregnada en el diseño del algoritmo. Es por ello que se instaura como necesaria la redefinición de la autodeterminación informativa como autodeterminación informativa dinámica, como límite legal y protectorio frente a la dependencia algorítmica. tema central | Limitar la dependencia algorítmica 129 El concepto de autodeterminación informativa que manejan las legislaciones actuales y la doctrina es una noción estática de este derecho, histórica y condicionada al contexto de su descubrimiento, que no atendía a capacidades técnicas de procesamiento como las que posee la inteligencia artificial, que permiten el relacionamiento de datos, el procesamiento de grandes masas de información, el muestreo para procesamiento, el perfilamiento, el targeting , la segmentación, etc. Lo anterior se suma al hecho práctico de que el consentimiento de la persona titular del dato, por el cual se exterioriza su derecho de autodeterminación informativa, se brinda generalmente en un instante único y previo al procesamiento del dato. La autodeterminación informativa constituye un verdadero derecho personalísimo, humano y fundamental, que trasciende y se diferencia por su amplitud, ya que abarca otros derechos humanos fundamentales en la era digital como el derecho a la privacidad, a la intimidad, al honor, a la confidencialidad, a la imagen, a la identidad, etc. La autodeterminación informativa dinámica exige el respeto absoluto del derecho del titular a gobernar sus datos respecto del manejo, la consulta, el control, la exposición, el depósito, la disposición y la reutilización analítica o estadística que se haga de ellos, derivados o no de una relación contractual, científica o profesional, con el fin último de evitar la afectación funcional del dato. El titular del dato como sujeto de derecho es insustituible en la ecuación de su ejercicio, y es así como el límite ético que constituye el pleno ejercicio de la autonomía de la voluntad, libertad informática y autogobierno del titular del dato puede combatir la dependencia algorítmica, que se caracteriza naturalmente por su opacidad. Finalmente, el derecho a la privacidad e intimidad del individuo, como derecho humano fundante que inspiró la regulación protectoria en materia de datos personales, y que dio origen a la construcción del concepto y derecho de autodeterminación informativa del titular, se encuentran hoy en día en jaque. En tiempos de«posprivacidad», los individuos somos maquinarias de producción industrial de datos, y de allí emerge el anonimato como sinónimo de libertad y como representación del desdoblamiento más revolucionario de la privacidad que alguna vez concebimos, en entornos donde los ejes son el control y la vigilancia extrema. El derecho al anonimato es un derecho humano fundamental, personalísimo, irrenunciable, inalienable del titular del dato, en el ejercicio pleno de su autodeterminación informativa, cuyo reconocimiento merecemos. Tal derecho consiste en que no se pueda asociar a su persona dato alguno, en la anonimización irreversible de los datos asociados a su persona o en el impedimento técnico de generar datos que pudieran ser asociados a su persona. El reconocimiento de este derecho humano pondría sin dudas un techo de plomo a los descarados avances de la técnica y la explotación económica de nuestros datos. La democracia en la era de la inteligencia artificial Paul Nemitz En vista de la creciente expansión de la inteligencia artificial en las sociedades modernas, resulta necesario discutir cómo puede servir para mantener y fortalecer el Estado de derecho, la democracia y los derechos humanos, en lugar de contribuir a su debilitamiento. Eso dependerá en gran medida de las formas de regulación elegidas. Así como debe hacerse una clara diferenciación entre internet como tal, una estructura tecnológica que conecta personas e información, y lo que sucede en internet, también debe hacerse una diferenciación entre el potencial teóricamente positivo de la inteligencia artificial y los usos para los cuales se la desarrolla actualmente. Por lo tanto, un análisis diferenciado debe ir más allá de una mera enumeración de las ventajas de la internet gratuita o los beneficios teóricos de la inteligencia artificial y tener en cuenta los efectos reales de las nuevas tecnologías digitales y modelos de negocio en el área de internet e inteligencia artificial. Por tanto, la influencia de las empresas vinculadas a la inteligencia artificial no solo se limita a la tecnología subyacente, sino que también Paul Nemitz: es asesor principal en la Dirección General de Justicia y Consumidores de la Comisión Europea, profesor invitado en el Colegio de Europa en Brujas y miembro de la Comisión de Política de Redes y Medios del Partido Socialdemócrata de Alemania(spd, por sus siglas en alemán). Es autor de Prinzip Mensch – Recht, Ethik und Demokratie im Zeitalter der Künstlichen Intelligenz [Principio del ser humano. Derecho, ética y democracia en la era de la inteligencia artificial](en coautoría con Matthias Pfeffer, Dietz, Berlín, 2020). Palabras claves: democracia, inteligencia artificial, regulación, Unión Europea. Nota: la versión original de este artículo en alemán se publicó en Neue Gesellschaft/ Frankfurter Hefte , 15/10/2019, con el título«Demokratie im Zeitalter künstlicher Intelligenz». Traducción: Carlos Díaz Rocca. tema central | La democracia en la era de la inteligencia artificial 131 atraviesa el ámbito social. Es por ello que la concentración de poder tecnológico, económico y político en manos de los«cinco temibles»(Amazon, Apple, Facebook, Google, Microsoft), que ocupan el centro de la escena del desarrollo y uso comercial de la inteligencia artificial, tiene una especial importancia en este contexto. Ambición de poder Las megacorporaciones digitales no solo son capaces de ejercer una influencia política y social masiva, tienen también los recursos financieros para comprar nuevos desarrollos y startups en el campo de la inteligencia artificial y en todas las demás áreas relevantes para su modelo de negocio, y eso es exactamente lo que hacen. Su pretensión de concentrar poderío y controlar pone en desventaja al cuarto poder: el periodismo clásico, que es tan importante para la democracia. Su selectivo negocio de publicidad priva al periodismo de su sustento. Es cierto que no son la única razón de la muerte de los periódicos y del retroceso del periodismo clásico tanto en Europa como en Estados Unidos, pero son uno de los principales factores. Si bien es posible que algunas de sus investigaciones fundamentales sobre inteligencia artificial sean de acceso público, el trabajo mucho más elaborado sobre aplicaciones comerciales de inteligencia artificial se realiza en secreto. Los presupuestos en esta área superan con creces la inversión pública de muchos países. Esta acumulación de poder en manos de unos pocos debe ser observada de modo abarcativo: incluye el poder del dinero, el poder sobre la infraestructura democrática y el discurso público, el poder sobre los individuos a través de la elaboración de perfiles precisos y la supremacía en el campo de la inteligencia artificial. Los gigantes de internet han tenido logros sin precedentes como empresas: buena parte de su producción no está regulada, son dominantes en su mercado y son las empresas más rentables en la bolsa de valores. Tienen una inmensa influencia en la formación de opinión y en la política, al tiempo que han conservado su popularidad entre el público. La cultura predominante de Silicon Valley sigue la«ideología californiana». Sus raíces se remontan al movimiento juvenil de la década de 1960. Parte de las metas de este movimiento era liberarse del dominio político de Washington y del dominio tecnológico de ibm, la empresa de tecnología líder en ese entonces. En esencia, había un gran anhelo de libertad personal y de capacidad individual para actuar como efecto de la descentralización. El desarrollo de la primera computadora personal(pc) y el multipremiado spot publicitario de la Apple Macintosh realizado por el reconocido director Ridley Scott, en el que una joven se libera del«Gran Hermano»(«Y verás 132 Paul Nemitz | nueva sociedad | 294 por qué 1984 no será como 1984 »), son una expresión de esta búsqueda de libertad individual y autorrealización, lejos de los imperativos sociales y de la dependencia del Estado. En su famosa«Declaración de independencia del ciberespacio», John Perry Barlow, activista estadounidense por los derechos civiles y compositor de la banda de rock Grateful Dead, rechazó cualquier regulación legal de internet. Alegaba que las formas tradicionales de gobierno, que –diríamos– pueden existir únicamente sobre la base de la ley y el orden,«no tienen soberanía donde nosotros(los actores del ciberespacio) nos reunimos». No fue casualidad que esta declaración se hiciera pública en 1996 en el marco del Foro Económico Mundial de Davos. La lucha contra las leyes Esta idea también fue retomada en el discurso jurídico. David R. Johnson y David G. Post, jurisconsultos especializados en espacio digital, afirmaron que si los usuarios quieren establecer reglas en internet y estas no dañan a los no usuarios, entonces«la ley del mundo físico debería ser revocada en favor de esta forma de autorregulación». Pero no fue solo la«ideología californiana» lo que alentó el desacato de la ley. La enseñanza de innovaciones disruptivas, muy difundida en las escuelas de negocios, condujo en algún momento a una comprensión de la ley como algo disruptivo. Esta lucha de las empresas tecnológicas y los activistas contra las nuevas leyes, que siguen poniendo la tecnología por encima de la democracia, continúa hasta el día de hoy. Por ejemplo, Google insistió en que solo se le aplique la ley de California, ya que las búsquedas hechas desde Europa son respondidas desde los servidores californianos. Es más, se argumentó que los resultados de las búsquedas no deberían clasificarse como«tratamiento de datos». La fundamentación: Google no es responsable de los resultados, ya que son producto del algoritmo automatizado y no pueden ser controlados por la empresa. Aquí es donde se hacen evidentes la cosmovisión de la empresa y la manera de concebir el Estado de derecho: en primer lugar, la automatización en forma de algoritmo como servicio protege a la empresa mediadora de cualquier responsabilidad legal. Visto así, el sueño de John Perry Barlow se haría realidad: en la era digital, la tecnología tendría prioridad sobre la jurisprudencia. En segundo lugar, si existiera cualquier forma de vínculo legal, este solo podría existir en relación con un orden global, presumiblemente dominado por la ley estadounidense y administrado por jueces estadounidenses. Este escenario sería ideal para Google. Los costos se reducirían considerablemente, incluso si la empresa operara en diferentes jurisdicciones. Esto estaría totalmente tema central | La democracia en la era de la inteligencia artificial 133 en línea con la idea de construir una única estructura global de internet que no esté dividida en diferentes jurisdicciones o fragmentada por normas nacionales y que sea muy difícil de atacar legalmente para ciudadanos no estadounidenses. En este contexto, la reacción del Tribunal de Justicia de la Unión Europea(tjue), generalmente entendida como el«retorno de la ley», fue positiva: el Tribunal respondió al argumento de Google manteniéndose en los límites de la cuestión jurídica planteada, pero sin perder de vista las implicaciones más amplias de esta cuestión. Al final, los reclamos de Google fueron rechazados y así se protegieron los derechos fundamentales de los ciudadanos europeos, sobre la base de la larga tradición europea de protección de la privacidad y protección de datos. Se puede especular sobre si el argumento de Google de no querer asumir la responsabilidad de los resultados del algoritmo de búsqueda fue usado previendo negar toda responsabilidad por los productos de la futura inteligencia artificial autónoma. En cualquier caso, la respuesta del tjue en este caso fue clara. El presidente ejecutivo de Google se pronuncia actualmente en contra de una regulación general de la inteligencia artificial. Alega que tal regulación obstaculizaría la innovación y que solo puede concebirse una Una normativa puramente regulación específica de la inteligencia artificial por sectorial deja sin sectores. Lo que olvida es que se presentó el mismo patrón argumentativo contra el Reglamento General de Protección de Datos de la ue. Pero en vano, y con razón. Porque una normativa puramente sectorial regular demasiadas aplicaciones de la inteligencia artificial deja sin regular demasiadas aplicaciones de la intelide uso general gencia artificial de uso general y, en su complejidad, abruma tanto a quien legisla como a la ciudadanía. Primero necesitamos fundamentos horizontales y generales. Luego se podrán agregar especificaciones por sector. Cuestiones éticas Cuando se pone todo esto en contexto, hay un denominador común claro: el intento de evitar responsabilidades, tanto en la legislación como en la jurisprudencia. Y todo surge de un pequeño grupo de empresas que tienen en sus manos un poder sin precedentes. El debate sobre las cuestiones éticas de la inteligencia artificial ya ha expuesto los innumerables desafíos en el ámbito de los derechos fundamentales y el Estado de derecho en este contexto. Es evidente que la inteligencia artificial no puede servir al bien público 134 Paul Nemitz | nueva sociedad | 294 sin reglas claras. El potencial de la inteligencia artificial obliga a no correr los mismos riesgos que cuando se introdujo internet, que en su momento provocó un vacío legal. Las posibilidades de esta nueva tecnología son tan inmensas que pueden causar estragos y daños irreversibles a la sociedad. Pero mientras que hoy la inteligencia artificial es desarrollada por empresas gigantescas con presupuestos de miles de millones, están regresando los ingenuos argumentos con los que se causó mucho daño en las fases tempranas de internet. También está claro que los numerosos conflictos de intereses entre empresas y público en relación con la inteligencia artificial no pueden resolverse mediante códigos de ética laxos ni autorregulación. Pero eso no significa que las empresas no deban contribuir a la discusión sobre los desafíos éticos y legales. Muchas de las personas que trabajan para estas empresas tienen las mejores intenciones y pueden hacer importantes aportes al debate. También se puede observar una cierta diferenciación en las actitudes hacia la legislación, según sea el modelo de negocio. Microsoft, que gana mucho dinero por servicios al gobierno y la administración pública, se posiciona de manera más constructiva frente al Estado de derecho y la democracia que otras empresas. En vista de los enormes presupuestos con los que las megacorporaciones están presentes en muchos ámbitos de la ciencia, la sociedad civil y la opinión pública, es importante que todos quienes participan de la gran discusión sobre la regulación de internet y las nuevas tecnologías ofrezcan información clara sobre relaciones laborales, financiamiento u otras transferencias de servicios y expongan de manera abierta los conflictos de intereses. Resulta sorprendente hasta qué punto los defensores de una legislación sobre inteligencia artificial estuvieron inicialmente a la defensiva, a pesar de que existe una larga historia de regulaciones legales en el ámbito de la tecnología. Todo arquitecto debe, en el curso de sus estudios universitarios, familiarizarse con las normas de construcción para salvaguardar el interés público, por ejemplo, en la construcción de edificios a prueba de derrumbes. Cada automóvil debe superar varias pruebas para garantizar la seguridad vial. La introducción de los cinturones de seguridad obligatorios, muy resistidos por la industria automotriz y los clubes automovilísticos, finalmente redujo a la mitad la cantidad de muertes en carreteras. Una y otra vez, la sociedad ha visto que, ante la aparición de nuevas tecnologías, es la regulación legal y no la desregulación lo que beneficia al interés público. Los estímulos para reflexionar sobre la inteligencia artificial no solo han demostrado la multitud de exigencias que las nuevas tecnologías imponen a la legislación, la democracia y los derechos individuales. También han dado lugar a algunos catálogos de reglas éticas en esta área. Por ejemplo, Alan tema central | La democracia en la era de la inteligencia artificial 135 Winfield, profesor de Ética Robótica en la Universidad de Bristol, enumera diez códigos de conducta relacionados con la inteligencia artificial. Las últimas contribuciones a esta lista son la declaración del Grupo de Alto Nivel de la Comisión Europea sobre Inteligencia Artificial Fiable del 18 de abril de 2019 y el informe de la Comisión Alemana de Ética de Datos, presentado el 23 de octubre de 2019. Por tanto, No faltan no faltan propuestas sobre principios éticos en el tratapropuestas sobre miento de la inteligencia artificial. Un interrogante es si, después de la experiencia con una internet libre de todo marco legal, nuestra demoprincipios éticos en el tratamiento cracia debe volver a exponerse al riesgo de una tecnode la inteligencia logía omnipresente y decisiva, que puede tener efectos negativos sustanciales si no se la regula. A diferencia de artificial internet, la inteligencia artificial no es producto de unos pocos académicos e idealistas, sino de las poderosísimas empresas de internet que la controlan. Mientras tanto, algunos representantes de estas empresas han llegado recientemente a la misma conclusión y han pedido una legislación sobre inteligencia artificial. También la canciller alemana Angela Merkel ha pedido, durante la conferencia del g-7 en Japón, una regulación legal de la inteligencia artificial, tal como lo es el Reglamento General de Protección de Datos (rgpd). La presidenta de la Comisión Europea, Ursula von der Leyen, dijo, a modo de orientación, que la Comisión Europea presentaría una propuesta para regular la inteligencia artificial dentro de los 100 días posteriores a su asunción, ocurrida el 1 o de noviembre de 2019 1 . Todos los argumentos que ahora se utilizan en contra de una ley de inteligencia artificial fueron expuestos antes de 1995, cuando se introdujo la primera directiva de protección de datos personales en la ue. Luego se lo volvió a hacer durante las negociaciones sobre el rgpd en los años 2012 a 2016. Ninguno de los argumentos pudo convencer a los legisladores, y con razón. La afirmación de que la ley no puede seguir el veloz ritmo de desarrollo de la tecnología o los modelos comerciales ha sido refutada por la legislación europea tecnológicamente neutra 2 . El rgpd es un ejemplo de legislación moderna y tecnológicamente neutra, cuyo significado y relevancia evolucionan a la par del progreso tecnológico, incluida la inteligencia artificial. 1. En 2021 se presentó un proyecto para avanzar en la regulación. Ver Marimar Jiménez:«La ue establece líneas rojas a la inteligencia artificial. ¿Por qué, cuáles son, a quién afectan?», suplemento «Cinco días» en El País , 22/4/2021[n. del e.]. 2. El principio de neutralidad tecnológica sostiene que el Estado no ha de imponer preferencias a favor o en contra de una determinada tecnología[n. del e.]. 136 Paul Nemitz | nueva sociedad | 294 Falacia y afirmaciones La afirmación de que el derecho no es lo suficientemente preciso para regular tecnologías complejas y que una ley que no se adentre absolutamente en los detalles de un código preciso y fácil de usar no puede ser una buena ley constituye otra falacia por parte de los programadores. Por definición, el proceso democrático de elaboración de leyes es un acuerdo. El rgpd se negoció, durante el procedimiento parlamentario, sobre la base de casi 4.000 sugerencias individuales de mejora. Las leyes(generalmente) las hacen personas razonables y, en caso de un conflicto legal, las interpretan jueces razonables. Este proceso abierto de elaboración de leyes y su posterior interpretación le confiere a la ley flexibilidad para adaptarse a las nuevas circunstancias. Las leyes no tienen que reescribirse una y otra vez como los códigos de programación, que deben ser revisados ​c​ onstantemente desde la versión 1.0 en adelante. Para decirlo claramente: exigir que una ley sea tan precisa o tan rápidamente actualizable como un código de programación es antidemocrático. Esta exigencia ignora tanto el principio de deliberación y acuerdo en una democracia como el tiempo requerido para el debido proceso. Por cierto, los grupos de presión no tuvieron ningún problema en evaluar los diversos anteproyectos del rgpd de manera completamente contradictoria: por un lado, como demasiado imprecisos para crear seguridad jurídica y, por el otro, como demasiado detallistas y no suficientemente abiertos y flexibles. Estas críticas encontradas prueban que se deber evitar la ley a toda costa recurriendo al descrédito. La afirmación de que la ley es demasiado inflexible para seguir el ritmo de los desarrollos tecnológicos es básicamente una forma más elegante de parafrasear lo que los neoliberales siempre han dicho: no queremos ninguna obligación legal, porque entonces se nos podrían atribuir responsabilidades legales. Por lo demás, quienes abogan por una ética de la inteligencia artificial afirman lo mismo. El mundo de los negocios no tiene problemas con los códigos éticos, ya que estos carecen de legitimación democrática y no pueden ser impuestos por fuerza de ley. Pero esta es precisamente la principal ventaja del derecho sobre la ética: con la verosímil amenaza de sanciones anima a los desarrolladores a trabajar en pos del interés público. Toda tecnología tiene que convivir con la realidad de que la ley le marque límites. Es hora de que Silicon Valley y la industria digital de internet acepten esta necesidad democrática. En un momento en que internet y la inteligencia artificial lo atraviesan todo, la falta de regulación de estas tecnologías claves podría significar el fin de la democracia. Las reglas éticas pueden ser una etapa preliminar y una ayuda orientadora en el camino tema central | La democracia en la era de la inteligencia artificial 137 hacia la legislación y pueden proporcionar contenido para leyes posteriores. Pero no pueden reemplazar la ley, carecen de la legitimidad democrática y la naturaleza vinculante con que los gobiernos y los tribunales pueden hacer cumplir las leyes. Mark Zuckerberg, fundador de Facebook, y Brad Smith, presidente de Microsoft, han pedido recientemente en textos programáticos una legislación. Pero cuando esto se concreta, las empresas vuelven a lanzar la máquina de lobby contra una legislación eficaz para salvaguardar los datos y la privacidad. Esto se pudo observar hace muy poco en eeuu, tanto en California como en el estado de Washington, donde Microsoft tiene su sede. Además del derecho, también habrá espacio para una ética que vaya más allá de lo que exige la ley: las normas éticas internas de las empresas son buenas si son coherentes con la legislación del país en cuestión y si van más allá, por ejemplo, en lo que respecta al interés público. Muchas de las cosas buenas que quieren hacer las empresas de Silicon Valley son bienvenidas. Pero esto no puede eximirlas de actuar dentro de la ley y el orden y respetando el proceso democrático. También está completamente claro que el rgpd debe aplicarse siempre que la inteligencia artificial trabaje con datos personales. El rgpd contiene derechos importantes para los consumidores sobre cómo se pueden usar sus datos, y estas reglas también influirán en el diseño de una inteligencia artificial. Los principios de protección de datos del rgpd son una guía importante para la inteligencia artificial, al igual que los límites al tratamiento automatizado de datos y los derechos a la información de los afectados. También está cobrando importancia, en lo que respecta a la inteligencia artificial, la evaluación de las consecuencias del tratamiento de datos personales para las personas afectadas, necesaria en determinadas condiciones. En este aspecto, no se necesita ninguna legislación nueva. En el discurso Sin embargo, los principios del rgpd con respecto democrático, a la inteligencia artificial también deben aplicarse al tratamiento mediante inteligencia artificial de datos que no son personales. En el discurso democrático, no obstante, es igualmente importante saber si el interlocutor es una perno obstante, es igualmente importante saber si el interlocutor sona o una máquina. Si las máquinas participan en es una persona o el discurso político sin ser identificadas como tales, o si se hacen pasar por personas impunemente, puede una máquina producirse una grave distorsión del discurso, lo cual sería insostenible para una democracia. Hasta ahora, ninguna ley nos garantiza que seremos informados si quien entabla un diálogo con nosotros en un contexto político es una máquina. 138 Paul Nemitz | nueva sociedad | 294 Sin embargo, un discurso político transparente entre personas es la clave de la democracia. El«principio de materialidad» estipula que se debe, por ley, dejar claro si quien está hablando es una máquina o una persona. Las máquinas no identificadas y, más aún, las máquinas disfrazadas de personas deben ser sancionadas. Quienes controlan la infraestructura del discurso político deben asumir la responsabilidad de establecer una transparencia total. Se necesitan nuevas leyes para ello. Pero podemos ser optimistas en cuanto a que las regulaciones detalladas de la ue para la lucha contra la discriminación y la protección del consumidor también se aplicarán en el campo de la inteligencia artificial. Teniendo en cuenta esto, es necesario considerar algunos principios básicos de la legislación sobre la inteligencia artificial. Si bien en Europa la ponderación parlamentaria de la tecnología basada en el principio de responsabilidad de Hans Jonas es ya una rutina y considera que la evaluación del impacto es un elemento clave del principio de precaución, esto no es así en eeuu. Allí, la Oficina de Evaluación de Tecnología(ota, por sus siglas en inglés) se cerró durante el gobierno de Ronald Reagan, una victoria temprana para el movimiento anticiencia. Hillary Clinton anunció en su campaña electoral de 2016 que quería reabrir este órgano o uno similar. Evaluación de impacto en tres niveles En Europa, sin embargo, siguen vigentes el principio y el método de evaluación de los efectos a corto y largo plazo de las nuevas tecnologías y el consiguiente asesoramiento político. La Red de Evaluación de Tecnología Parlamentaria Europea(epta, por sus siglas en inglés) reúne los métodos y las evaluaciones de impacto para los parlamentos europeos en una base de datos común. Para fortalecer la confianza en la tecnología en la era de la inteligencia artificial, en tiempos en que la tecnología gana cada vez más terreno en todas las áreas de nuestras vidas, es necesaria una evaluación de impacto en tres niveles. Primero, como se ha descripto, una evaluación parlamentaria de impacto en el nivel político y legislativo. El objetivo en este caso es averiguar qué áreas afectará una nueva tecnología y qué debe hacer el Poder Legislativo para que sea preservado el interés público. Idealmente, esta evaluación de impacto debería tener lugar antes de que se utilicen tecnologías de alto riesgo. El poder de decisión con respecto a las consecuencias que han sido examinadas en una evaluación de impacto hecha por expertos debe estar en manos del gobierno o del Poder Legislativo, lo que en el nivel de la ue sería tema central | La democracia en la era de la inteligencia artificial 139 área de responsabilidad de la Comisión y el Consejo, así como del Parlamento a modo de colegislativo. El segundo nivel se refiere a los desarrolladores y usuarios de nuevas tecnologías. Sería importante que se introdujera en relación con la inteligencia artificial una obligación legal para las empresas de realizar una evaluación de impacto de sus productos. Tal obligación legal ya existe para datos personales que se utilizan en procesos automatizados de toma de decisiones. Esto debería extenderse a todos los ámbitos de la democracia, el Estado de derecho y los derechos fundamentales. Al menos si la inteligencia artificial tiene potencial para ser utilizada en el ámbito del ejercicio público del poder, es decir, en el ámbito democrático y político o en el ámbito de los servicios de interés general, independientemente de si se tratan datos personales o no. Las evaluaciones de impacto en el nivel de desarrollador y usuario favorecerían la comprensión pública de la inteligencia artificial allí donde actualmente sigue faltando transparencia y conocimiento sobre los efectos. Las evaluaciones también ayudarían a que los directores ejecutivos y desarrolladores admitan el poder que realmente ejercen mediante sus productos. Así podría desarrollarse en la industria tecnológica una nueva cultura de responsabilidad por la democracia, el Estado de derecho y los derechos fundamentales. Los estándares para ese tipo de evaluaciones de impacto antes de la difusión de la inteligencia artificial deberían establecerse en una ley redactada en términos generales, de manera similar a la obligación de realizar una evaluación de impacto en el rgpd. El Estado debe controlar el cumplimiento y debe haber sanciones severas en caso de incumplimiento. Si la inteligencia artificial va Si la tecnología es de alto riesgo, a ser utilizada por el Estado o se va a difundir ampliael gobierno debe mente en la sociedad, la evaluación de impacto debería ser publicada. Si la tecnología es de alto riesgo, el gobierno debe realizar sus propios análisis y elaborar un plan para minimizar riesgos. Sin diferenciar entre realizar sus propios análisis y elaborar un plan para sector público y privado, la resolución del Parlamento Europeo del 16 de febrero de 2017 con recomendaciominimizar riesgos nes destinadas a la Comisión Europea sobre normas de derecho civil sobre robótica(2015/2103/inl) representa el plan mejor desarrollado hasta la fecha para manejar la inteligencia artificial. Contiene certificaciones ex ante y el marco legal para la investigación, el desarrollo y el uso. En el tercer nivel, a las personas debería asistirlas el derecho legal de estar informadas sobre la funcionalidad exacta de la inteligencia artificial que están utilizando. ¿Qué lógicas sigue? ¿Cómo afecta su uso los propios intereses o los intereses de terceros? Esta obligación de proporcionar información 140 Paul Nemitz | nueva sociedad | 294 también debería existir aunque no se estén procesando datos personales. En este caso, ya existe la obligación legal en el rgpd. En este contexto, debe rechazarse la exigencia de los gigantes tecnológicos de mantener en secreto los modos de funcionamiento y los procesos de toma de decisiones de la inteligencia artificial. Ya existen numerosos proyectos de investigación sobre la explicabilidad de la inteligencia artificial. Y aunque existe al menos la obligación legal de proporcionar información cuando están involucrados actores estatales, la realidad es que las empresas mantienen mayormente en secreto los modos en que funciona su inteligencia artificial y las autoridades públicas no pueden cumplir con su obligación de proporcionar información si quieren utilizar esta tecnología. Por todas estas razones, necesitamos una profunda evaluación de impacto de la inteligencia artificial en los tres niveles mencionados para seguir adelante con el diálogo entre tecnología y democracia. Esto es crucial en un momento en que la inteligencia artificial se está volviendo omnipresente e influye cada vez más en nuestras vidas. Si del debate público resulta una nueva conciencia de la responsabilidad por la democracia, los derechos fundamentales y el Estado de derecho, entonces la inteligencia artificial se habrá ganado una buena cuota de confianza y aceptación en la sociedad. Abril de 2021 Ecuador Debate Quito N o 112 PRESENTACIÓN. COYUNTURA: Fragmentación, polarización y construcción de política en las elecciones del 2021, Julio Echeverría. Elecciones Ecuador 2021 ¿Un retorno a la fragmentación e ingobernabilidad?, Juan Francisco Camino A. Sobre«nuevas» y «viejas» pandemias en América Latina, Santiago Leiras. Conflictividad socio-política: Noviembre/2020-Febrero/2021. TEMA CENTRAL: Polarización, fragmentación y competencia en las democracias liberales, Carlos de la Torre. Trump y la polarización populista, Carlos de la Torre.«Brasil por encima de todo y Dios encima de todos». El populismo de Jair Bolsonaro, Ursula Prutsch. Polarización como base del populismo: el caso de México, Alberto J. Olvera. La Venezuela de Nicolás Maduro: polarización sin populismo, Margarita López Maya. Consolidando el poder en El Salvador: El caso de Nayib Bukele, Vaclav Masek y Luis Aguasvivas. DEBATE AGRARIO-RURAL: Agricultura campesina de la Costa ecuatoriana: realidades y perspectivas, Rafael Guerrero Burgos. ANÁLISIS: El ethos barroco y la historia del Nuevo Mundo, Omar Bonilla y Elena Galvez. Riesgos e implicaciones estructurales del fenómeno de la corrupción en América Latina, Tatiana Suárez B. RESEÑAS. Ecuador Debate es una publicación del Centro Andino de Acción Popular. Redacción: Diego de Utreras N28-43 y Selva Alegre, Apartado aéreo 17-15-173-B, Quito, Ecuador, Tel.: 2522763. Correo electrónico:. | ensayo El socialismo, una cultura Christophe Prochasson El socialismo fue mucho más que una doctrina. Fue una cultura que desbordó a sus ideólogos, sus organizaciones y sus votantes, y que sigue alimentando estudios desde nuevas perspectivas historiográficas. La vasta obra de Madeleine Rebérioux, centrada en el caso francés, permite volver sobre el socialismo como un movimiento radicalmente diverso y plural. Ni más ni menos que cualquier otra doctrina política, el socialismo no se deja encerrar en el perímetro de una definición simple y estable. Si bien constituye un capítulo obligado en cualquier historia de las ideas políticas, la doctrina socialista permanece más abierta que otras, probablemente porque su historia la ha puesto en una relación más estrecha con el movimiento social. En la gran cocina de las ideologías, el caldero socialista es el que más cuidados y atenciones reclama. Todavía desborda a sus fundadores, sus organizaciones, su electorado tradicional, las fuerzas sociales que se supone que representa. Por lo tanto, es un poco por comodidad que las páginas siguientes intentan presentar el socialismo como un«hecho de cultura», a raíz de la obra de Madeleine Rebérioux, a quien en primer lugar quieren rendir homenaje 1 . Se trata Christophe Prochasson: es historiador. Es director de estudios en la Escuela de Altos Estudios en Ciencias Sociales(ehess) de París, donde enseña y dirige las Éditions de l’ehess. Es actualmente director del Journal Mil Neuf Cent. Revue d’ histoire intellectuelle. Ha publicado, entre otros libros, L’Empire des émotions. Les historiens dans la mêlée (Demopolis, París, 2008); Dictionnaire critique de la République (dirigido en colaboración con Vincent Duclert, Flammarion, París, 2002); Saint-Simon ou l’anti-Marx (Perrin, París, 2005); Les grandes dates de la République, de 1792 à nos jours (Dalloz, París, 2017) y Voyage d’un historien à l’ intérieur de l’État (Fayard, París, 2019). Palabras claves: cultura política, socialismo, Jean Jaurès, Madeleine Rebérioux, Francia. Nota: la versión original de este artículo en francés fue publicada por la Fundación Jean Jaurès con el título Le socialisme, une culture , 2009. Traducción y notas: Horacio Tarcus. 1. Madeleine Rebérioux(1920-2005) fue en su juventud una militante de la Resistencia francesa que sobrevivió al campo de concentración de Buchenwald. Después de la Liberación sobresalió como historiadora especializada en la Tercera República francesa, con especial foco en la tradición socialista. Fue presidenta de la Liga por los Derechos del Hombre[n. del t.]. 142 Christophe Prochasson | nueva sociedad | 294 menos de diluir la noción o debilitar su consistencia dejando fuera todo lo que contribuya a su institucionalización social y política que de, por el contrario, enriquecer su paleta constitutiva. Hay de todo en el socialismo: ideas, modos de vida, elecciones estéticas, prácticas políticas, instituciones, pero también, simplemente, hombres y mujeres. El socialismo como cultura política ¿Cultura? ¿Identidad? ¿Mentalidad? Interrogarse en estos términos por la naturaleza del socialismo es tanto más decisivo puesto que se trata de un momento de su historia(finales del siglo xixprincipios del siglo xx) en el que se encuentra en una fase de emergencia institucional y de consolidación ideológica. Poco a poco, por caminos tan diversos como enfrentados, el socialismo se fue consolidando como una «cultura política» fluida, incluso más que como una doctrina bien pulida. ¿Socialismo? Una«forma de felicidad», escribió Madeleine Rebérioux después de decenas de años de investigación. En todo caso, esta es la representación más compartida por todos los activistas en el pasaje del siglo xix al xx. En un artículo de 1966 donde estudia las formas en que se formula el socialismo en el periódico publicado en 19051906 por Armand Girard, activista de un grupo socialista que él mismo creó en Cuisery, Saône-et-Loire, Rebérioux resumió en estos términos, que bien pueden pasar por la representación colectiva más extendida del socialismo durante estos años que apenas suceden a la política de unidad de la izquierda liderada por el presidente del Consejo de Ministros Émile Combes, un anticlerical mordaz y receloso del Ejército, siempre temido como«jesuita»:«Libre pensamiento militante, amor a la patria y antimilitarismo, odio a los nobles y holgazanes[da la lista: funcionarios, sacerdotes, oficiales] más que a los capitalistas; desconfianza en el parlamentarismo, pero aún mayor desconfianza hacia quienes utilizan el antiparlamentarismo con fines‘reaccionarios’, confianza en la ciencia y el progreso, profunda solidaridad, gusto por la felicidad» 2 . Rebérioux ha luchado una y otra vez con la definición imposible de un socialismo huidizo. El socialismo se presenta ante todo como un hecho de cultura; al menos así lo concebía un momento historiográfico marcado, en la década de 1970, por las alianzas ambivalentes entre historia y antropología, una creencia multidimensional, un comportamiento, un arte de vivir, una moral: En la década de 1880, ¿qué era el socialismo? ¿Un intento de captar mediante el estudio el significado de la sociedad en que vivimos? ¿Un modo embrionario de estructuración 2. M. Rebérioux:«Un groupe de paysans socialistes de Saône-et-Loire à l’heure de l’unité(1905-1906). Le Journal du groupe d’études sociales de Cuisery» en Le Mouvement Social, 7-9/1966, reproducido en M. Rebérioux: Parcours engagés dans la France contemporaine , Belin, París, 1999, p. 24. ensayo | El socialismo, una cultura 143 y organización obrera? ¿La expectación apasionada y flambeante de la revolución que, formulada por algunos apóstoles y alimentada por grandes luchas, da contenido al espíritu de rebelión y enciende el corazón de los trabajadores? ¿Preparación educativa para la victoria del proletariado? Todo esto y mucho más. 3 Se trata, pues, de un hecho de cultura. Hecho de mentalidad , en el mismo momento en que la historia de las mentalidades estaba en su apogeo, cuando los historiadores partían en busca de representaciones mentales colectivas. No es baladí ver a Rebérioux optar por el término, que ella sin dudarlo prefiere a doctrina , ideología o incluso idea . En la época de Jean Jaurès, sin embargo, se habla ciertamente de una «idea socialista»… Incluso cuando se trata de rastrear«tendencias hostiles al Estado en la sfio 4 », un tema de investigación que bien podría aparecer claramente relacionado con la historia de las ideas políticas, Rebérioux muestra un programa completamente diferente, más adecuado a su objeto:«Se trata menos de un análisis ideológico que se opone a las diversas corrientes que se reclaman del marxismo o del proudhonismo que de un esfuerzo por comprender la persistencia y las mutaciones de una mentalidad antiestatal dentro de la sfio y entre quienes la siguen» 5 . Conserva el término«mentalidad» para designar lo que ella considera la summa divisio de los socialistas franceses durante la década de 1880, la división que opone a los«revolucionarios» y los«reformistas»:«De hecho, no es tanto una cuestión de doctrinas y de organización como de mentalidades colectivas cuyas diferencias se agudizan con la desocupación y las huelgas» 6 . Rebérioux no renuncia en modo alguno a esta perspectiva cuando elige la escala biográfica. Cuando se trata de abordar la concepción jauresiana de nación, ella desea también dar cuenta de«una mentalidad» 7 . No se cansa de subrayar que el socialismo de Jaurès se nutrió tanto de la cultura del libro como de las experiencias políticas y los contactos humanos. Asimismo, pretende liberar la figura de Jaurès de un«jauresismo» partidista que ciñe al gran hombre del socialismo francés en un ropaje teórico demasiado estrecho: «Si contribuyó a establecer las formas 3. M. Rebérioux:«Le socialisme français de 1871 à 1914» en Jacques Droz(ed.): Histoire générale du socialisme , puf, París, 1974, p. 136.[Hay traducción en español: Historia general del socialismo , Destino, Barcelona, 8 vols., 1984-1986]. 4. Sección Francesa de la Internacional Obrera, como se denominó el Partido Socialista hasta 1969 [n. del t.]. 5. M. Rebérioux:«Les tendances hostiles à l’État dans la sfio(1905-1914)» en Le Mouvement Social , 10-12/1968, reproducido en M. Rebérioux: Parcours engagés dans la France contemporaine , cit., p. 39 (énfasis mío). 6. M. Rebérioux:«Le socialisme français de 1871 à 1914», cit., p. 155. 7. M. Rebérioux:«Jaurès et la nation» en Actes du Colloque Jaurès et la Nation , Association des Publications de la Faculté des Lettres et Sciences Humaines de Toulouse, Toulouse, 1965. 144 Christophe Prochasson | nueva sociedad | 294 políticas que definieron los estatutos votados en el Congreso del Globe, ha sido a través de su práctica», añade la autora 8 . La doctrina de Jaurès es ante todo producto de los alborotos de la historia. Es el resultado de constantes ajustes pragmáticos que obviamente sus adversarios consideran como otras tantas renuncias, abandonos, incluso traiciones. Tan persistente es la sospecha que nunca ha dejado de pesar en la historia del socialismo francés: su oportunismo tramposo. ¿Hay otros términos que sean más adecuados para definir la elusiva doctrina? Algunos han encontrado una fortuna crítica en el distinguido círculo de las ciencias sociales. Identidad o cultura han respondido a múltiples usos, no siempre bien precisados. Rebérioux cede poco. Casi no habla de«cultura política» 9 . La noción está emparentada con«identidad» y a menudo solo reemplaza, sin mayor provecho heurístico, la noción actual de«familia política», antigua fórmula, algo polvorienta sin duda, pero que no está tan mal adaptada a las descripciones del socialismo propuestas por Rebérioux. Ella misma ha llegado a interrogarse, a raíz de Louis Dubreuilh, secretario general de la sfio, antes de 1914:«¿Debemos dar crédito a las confiadas palabras de Dubreuilh, para quien el partido es‘una gran familia’ donde todos los miembros se consideran en cierta medida emparentados entre sí?» 10 . En definitiva, sin retenerla realmente, Rebérioux no pierde del todo una analogía final que surge inevitablemente para cualquiera que conozca a Jaurès y su filosofía: la religión. «No hemos terminado de reflexionar sobre la relación entre socialismo y religión» 11 , escribió en la presentación de una obra inédita de Jaurès de 1891 donde expresa todo un impulso metafísico que recientemente encontró a varios comentaristas asombrados, en especial entre los filósofos que leyeron a Jaurès 12 . Sin embargo, esta nueva pista, un tanto iconoclasta, ha sido lamentablemente poco seguida. República y nación No podemos contentarnos con la observación que pone de relieve la naturaleza dúctil del socialismo francés. El pluralismo es ciertamente constitutivo de su historia 13 , incluso de manera casi 8. M. Rebérioux:«La conception du parti chez Jaurès» en Jaurès et la classe ouvrière , Editions Ouvrières, París, 1981, reproducido en M. Rebérioux: Parcours engagés dans la France contemporaine , cit., p. 410. 9. Michel Winock:«La culture politique des socialistes» en Serge Berstein(dir.): Les cultures politiques en France , Seuil, París, 1999. 10. M. Rebérioux:«Le socialisme français de 1871 à 1914», cit., p. 207. 11. M. Rebérioux:«Socialisme et religion: un inédit de Jaurès(1891)» en Annales esc , 11-12/1961, cit. en M. Rebérioux: Parcours engagés dans la France contemporaine , cit., p. 287. 12. Vincent Peillon: Jean Jaurès et la religion du socialisme , Grasset, París, 2000. 13. Es el punto de vista adoptado por Jean-Jacques Becker y Gilles Candar en la obra que han dirigido: Histoire des gauches en France , La Découverte, París, 2004, 2 vols. ensayo | El socialismo, una cultura 145 paradojal a la luz de una odisea en la que chocan tantas capillas, una debilidad teórica que los socialistas mismos no se cansan de poner de relieve respecto de su comunidad de pertenencia. El «análisis teórico», señala Rebérioux, ha sido lamentablemente deficiente en el socialismo francés 14 . ¿No podemos caracterizar de alguna manera la idea socialista más allá de unos pocos rasgos de mentalidad o comportamiento? Para tratar de desentrañar la cuestión, es necesario distinguir los niveles de análisis(líderes, intelectuales, activistas, votantes) a los que se dirigen las investigaciones. Coincidamos con Rebérioux en que el socialismo del«hombre joven» –la expresión remite a Charles Péguy, pues este era su caso– no siempre se distingue fácilmente de otras tendencias políticas afines cuando se examinan situaciones políticas locales. Porque el socialismo –como hemos comprendido– es una respuesta política que surge de esas«racionalidades situadas» tan queridas por la historia de las ciencias. Los socialistas se inscriben políticamente en esas configuraciones singulares. Se ajustan y adaptan a unos trazos amplios definidos para otras escalas temporales y políticas, negociando los principios con la realidad del terreno en el que trabajan. En su contribución principal a la Histoire générale du socialisme , Rebérioux señala, por ejemplo, que durante las elecciones legislativas de 1893, el candidato socialista de Gard, Delon, en su profesión de fe define el socialismo como«el respeto por la libertad y la conciencia humana» y agrega«la reverencia ante el trabajo»; durante la campaña por las legislativas de 1898 en Burdeos, el socialista Jourde, por su parte, pretendía reclamarse«ante todo como parte de la gran familia republicana» 15 . Así como no siempre es fácil distinguir entre sectas socialistas rivales, a veces es difícil, si no imposible, trazar las fronteras que separan a un socialista de un radical 16 , en especial porque la parlamentarización del socialismo francés alentó una serie de reconciliaciones. Lo que con acierto se denominó«disciplina republicana» exige que, ante los«reaccionarios», el votante socialista, sin mala conciencia, ceda su voz al candidato radical si este se encuentra en la mejor posición. Esta proximidad política está respaldada por un tronco común republicano. Tanto radicales como socialistas administran por igual la herencia republicana; es esta tradición la que inspira su acción. El primero sin reservas, el segundo con el deseo de corregir las desviaciones y superar su incompletud. Ahí reside, sin duda, una de las propiedades más reconocibles de la cultura política de los socialistas: la prolongación casi ad infinitum de los ideales republicanos 14. M. Rebérioux:«Le socialisme français de 1871 à 1914», cit., p. 228. 15. Ibíd., p. 173. 16. El radicalismo es una corriente política que tuvo especial peso en Francia entre fines del siglo xix y comienzos del siglo xx, caracterizada por sostener los principios republicanos, humanistas, laicistas y anticlericales. Otras corrientes radicales se expresaron en Gran Bretaña, Italia, España y en algunos países latinoamericanos como Chile, Argentina y Colombia[n. del t.]. 146 Christophe Prochasson | nueva sociedad | 294 gradualmente desarrollados desde la Revolución Francesa. Pocos son los que se desvían de esta base doctrinal, mínima pero no menos exigente. Además, es lo suficientemente evasiva como para que todos encuentren algo en ella: la debilidad del vínculo es una de las fuentes de su fuerza. Un ejemplo permitirá resaltar algunas de las contradicciones y ambivalencias que pesaron sobre el socialismo francés y que explican muchos de los bloqueos y traspiés que han contribuido a trastocar su desarrollo teórico. Nos detenemos aquí en un panorama ideológico que prescinde de la evocación de adaptaciones locales y personales. Gracias a que había llegado al estudio de esta secuencia histórica del socialismo francés con el deseo de comprender mejor las relaciones que tenía con la nación, Rebérioux ha reflexionado mucho sobre esta cuestión. Lo hizo con especial cuidado en el caso de Jaurès, un análisis que sin duda no es válido para todos los socialistas, pero que se acerca a una línea media suficiente para definir un horizonte ideológico común. Esta comunidad de visión de la nación, esta«cultura política» compartida, si uno se conforma con esta noción un tanto incierta, arroja luz sobre los obstáculos que han surgido a la hora de construir una conciencia militante internacionalista o de afrontar los retos nacidos de un colonialismo que ningún socialista, o casi, cuestionaría en sus fundamentos. La denuncia de las brutalidades de las conquistas o los abusos sin escrúpulos de los colonizadores han servido durante mucho tiempo como medio para el análisis socialista y la crítica del colonialismo. Asimismo, la faceta patriótica de la herencia republicana podría de vez en cuando tomar los colores no del nacionalismo –que se había inclinado definitivamente a la derecha–, sino de un chovinismo más o menos discreto que la actitud de la mayoría de los socialistas durante la Primera Guerra Mundial confirmó y reforzó. Solo hay que seguir la historia de las tumultuosas relaciones entre los socialistas franceses y los socialistas alemanes para convencerse de ello. Tal como Rebérioux terminó lamentando, la indefinición teórica del socialismo francés se hizo sentir en el debate internacional sobre el imperialismo que se inició a principios del siglo xx y se intensificó en vísperas de las hostilidades:«El lugar de Francia es casi nulo.(…) ¿Qué les faltaba? ¿Formación económica? ¿Práctica del marxismo? ¿Voluntad revolucionaria? Ningún francés ha intentado presentar una teoría global del imperialismo» 17 . Fuentes teóricas y la cuestión del legado: Marx, marxismo y marxistas Dibujando los contornos de una problemática«cultura política» socialista, que ella nunca describe ni ausculta –debe enfatizarse– como un cuerpo de doctrina acabado, Rebérioux se dedicó a la revisión de autores reputados de haber dejado su marca en la cultura teórica de los socialistas franceses, tan diáfana como era. Una de sus primeras 17. Ibíd., p. 228. ensayo | El socialismo, una cultura 147 investigaciones la dedicó a Pierre-Joseph Proudhon 18 . Además del caso bastante singular, desde cualquier punto de vista, de Jaurès, Rebérioux apenas se dedicó al estudio teórico de los escritos socialistas. Por otro lado, como ya he comentado, está lejos de explorar el pensamiento de Jaurès fuera de la política o la sociedad de su tiempo. Aquí, nuevamente, lo que ella escudriña es una«racionalidad situada». Por otro lado, se preguntó mucho por las modalidades de recepción de los escritos de Karl Marx entre los socialistas franceses. En la historia de la invención del marxismo francés, que se ha enriquecido con numerosas obras 19 , Rebérioux fue pionera tanto en la elección del objeto como en los métodos utilizados. Es en relación con Jaurès como Rebérioux analiza la historia de la recepción francesa de Marx en los años posteriores a la muerte del filósofo. Vuelve a esto en su brillante capítulo de la Histoire générale du socialisme donde detalla los aspectos materiales (la edición de las obras de Marx 20 ) e intelectuales(la traducción y el estado del conocimiento económico y filosófico en Francia y Alemania) de la transferencia de Marx a Francia, cuya dimensión familiar no debe descuidarse 21 . Después de hacer notar que Jaurès está«demasiado vivo, demasiado cerca de la acción» para apoyarse únicamente en otros autores, Rebérioux intenta, no obstante, el inventario de sus lecturas decisivas. Jamás hizo de Jaurès un marxista, ni un adepto a la doctrina, y mucho menos uno de esos apasionados del marxismo, tan intransigentes en la defensa de una filosofía reducida a unas cuantas fórmulas impactantes –para las que Marx era genial– como ignorantes de los grandes textos. Estos son los primeros marxistas a los que Marx, como sabemos, no estaba lejos de considerar unos necios. Cuando ingresó al socialismo a principios de la década de 1890, Jaurès era más versado en la obra de Marx, que había explorado en parte durante la preparación de su tesis dedicada a los orígenes del socialismo alemán, que sus epígonos guesdistas 22 . 18. M. Rebérioux: Proudhon et l’Europe. Les idées de Proudhon en politique étrangère , Domat-Montchrestien, París, 1945. 19. Entre una profusa bibliografía científica, cabe destacar, además de las numerosas obras del fallecido Jacques Grandjonc y a la espera de la tesis de Jacqueline Cahen, las siguientes: Daniel Lindenberg: Le marxisme introuvable , Calmann-Lévy, París, 1975; Thierry Paquot: Les faiseurs de nuages. Essai sur la genèse des marxismes français , Le Sycomore, París, 1980; Robert Stuart: Marxism at Work: Ideology, Class and French Socialism during the Third Republic , Cambridge up, Cambridge, 1992. Para la última generación de trabajos, v. Emmanuel Jousse: ¿Reviser le marxisme? De Édouard Bernstein à Albert Thomas, 1896-1914 , L’Harmattan, París, 2007. 20. Bert Andreas: Le Manifeste communiste de Marx et Engels. Histoire et bibliographie , Feltrinelli, Milán, 1963. 21. Gilles Candar: Jean Longuet. Un internationaliste à l’ épreuve de l’ histoire , Presses Universitaires de Rennes, Rennes, 2007. 22. Jaurés redactó su tesis Les origines du socialisme allemand en 1892, mientras era profesor en Toulouse. Hay edición en español: Los orígenes del socialismo alemán , Ediciones de Cultura Popular, Barcelona, 1967. Los«guesdistas» constituían la corriente«colectivista» del socialismo francés liderada por Jules Guesde, con escasa asimilación del marxismo teórico[n. del t.]. 148 Christophe Prochasson | nueva sociedad | 294 En la década de 1880, estos últimos aún le eran desconocidos, por fuera del excelente conocedor de Marx, Édouard Vaillant, cuyo nombre ya le era familiar al joven diputado oportunista en marcha hacia el socialismo. Rebérioux sigue con gran minucia la historia de una lectura. Sigue las etapas de una apropiación, detecta las dificultades, identifica los obstáculos. Pone en evidencia los marcos de un descubrimiento intelectual, los consejos que lo orientan, los fondos de referencias literarias a los que se superpone: ¿Habría sido lo mismo si realmente hubiera leído a Marx o si, en Francia, los que se creían marxistas le hubieran dado las claves? Hipótesis... Fue con los ojos de Benoît Malon, en el mejor de los casos los de Lucien Herr, como estudió El capital . Fue con la«quintaesencia del socialismo» de Schoefflé y los folletos de propaganda, los«catecismos socialistas» escritos en 1883 por Guesde y Lafargue, como abordó el materialismo dialéctico. ¡No es de extrañar si, para distinguirlo del materialismo mecanicista, no vio otra solución que redescubrir la«conciencia» en los orígenes de la materia! 23 En un importante artículo que se presenta como una contribución tanto a la historia de la recepción de Marx como a la del pensamiento de Jaurès, Rebérioux profundiza en este aspecto evidentemente decisivo de la historia cultural del socialismo francés. No decimos mucho argumentando que el marxismo es parte de su repertorio teórico. Todavía hay que saber qué es el marxismo, de qué está compuesto y cómo se forjó. Junto con un puñado de intelectuales, no tan numerosos, como Lucien Herr, Charles Andler, Gabriel Deville, Georges Sorel y Hubert Lagardelle, Jaurès fue uno de los mediadores franceses de las ideas de Marx. Sin duda, su conocimiento pasivo del alemán le dio acceso directo a los textos, aunque todo sugiere que tomó conocimiento de El capital en la traducción de Joseph Roy. Por otro lado, como señala Rebérioux, sus herramientas intelectuales, todas ellas integradas en las humanidades y en una tradición filosófica francesa tan alejada del hegelianismo como de las ciencias sociales, no pudieron animarlo a convertirse, en rigor, en un seguidor de las ideas de Marx. Tampoco tiene necesidad de Marx para descubrir la realidad de la lucha de clases, que reconoce directamente en el suelo de las minas, en Carmaux, o en la observación de los numerosos conflictos sociales que agitaron los años 1880 y 1890. También se ha mencionado a menudo el impacto que ejercieron en él las muertes de Fourmies, perpetradas por el Ejército el 1 o de mayo de 1891. Esta forma de hacer historia y de describir la formación socialista de Jaurès le valió a Rebérioux, siempre marcada por una sensibilidad labroussiana, enfrentarse enérgicamente a Georges Lefranc, cuya obra Jaurès et le socialisme des intelectuals [Jaurès y el 23. M. Rebérioux:«Socialisme et religion: un inédit de Jaurès(1891)», cit. ensayo | El socialismo, una cultura 149 socialismo de los intelectuales] 24 defendía la idea de que solo la frecuentación de los buenos espíritus del socialismo podía dar cuenta de la«conversión» de Jaurès a esa doctrina. Jaurès conocía relativamente bien la obra de Marx, al menos la conocía mejor que muchos militantes que se proclamaban marxistas, especialmente en las filas guesdistas, pero no era marxista. Esto no dejó de tener algunas consecuencias políticas para un líder de talla internacional como él: El medio marxista de la Segunda Internacional está dominado por los socialdemócratas de habla alemana. Jaurès no maneja su vocabulario, rara vez utiliza sus conceptos, o bien lo hace de manera descuidada, o incluso buscando equivalentes espiritualistas. Su lenguaje y su filosofía lo hicieron incomprensible para los marxistas de su tiempo, de cualquier tendencia que fueran. Ni ortodoxo, ni revisionista, ni radical. Inclasificable. 25 Prácticas militantes Variopinta, la cultura socialista, por lo tanto, se deja circunscribir mal bajo la forma de una simple ecuación doctrinal. ¿Hay más unidad en las prácticas militantes que resultan de ella? Varios estudios de Rebérioux han contribuido a enriquecer los estudios etnohistóricos de la historia de la cultura política de los socialistas. Algunos autores la habían precedido en este proceso, empezando por Maurice Dommanget, experto en prácticas militantes a las que Rebérioux prestó especial atención. ¿Existe el Partido Socialista? A principios de los siglos xix y xx, el término«partido» no era tan claro como parece haberlo sido desde entonces. Son el siglo xx y la modernización del campo político, el desarrollo de experimentos democráticos como, a la inversa, el establecimiento de regímenes totalitarios, los que otorgan al partido político sus propiedades de aparato burocrático y de institución dedicada a la conquista o gestión del poder. Esta forma contemporánea de partido surgió paulatinamente en las filas socialistas durante las dos últimas décadas del siglo xix sin eliminar por completo otra forma partidista, más plástica, cercana a la red informal, donde se reúnen individuos que tienen el sentimiento de compartir convicciones morales y políticas. El socialismo en Francia se ha extendido desde hace mucho tiempo en una forma reticular en la que se disponen muchísimas microestructuras al margen de la política: sociedades 24. Aubier, París, 1968. V. la respuesta de Rebérioux en el Bulletin de la Société d’Études Jaurésiennes , 1970. 25. M. Rebérioux:«Jaurès et le marxisme» en Histoire du marxisme contemporain , t. 3, Union Générale d'Éditions, París, 1977, reproducido en M. Rebérioux: Parcours engagés dans la France contemporaine , cit., p. 390-391. 150 Christophe Prochasson | nueva sociedad | 294 de libre pensamiento, masonería, corporaciones, grupos de reflexión, etc. Rebérioux propone para el partido socialista en formación la siguiente definición: un conjunto formado por «una comunidad de personas que tienen un mismo ideal» 26 . Este«partido» es simplemente más parecido a un «campo» con fronteras cambiantes, un poco como el«Partido Republicano» del que los socialistas son, además, herederos directos. Este sentido también se encuentra en lo que se denomina «partido obrero» o«partido de los trabajadores»: ¿no es el Partido Socialista, además, el que reivindica una identidad de clase? Podemos comprender mejor el nombre que se dio a sí mismo por el primer partido socialista unificado, después del congreso«inmortal» de Marsella en 1879: Federación del Partido de los Trabajadores Socialistas de Francia(fptsf). Este partido es un encuentro apenas estructurado de todas las organizaciones obreras, políticas, corporativas, cooperativas y culturales, federadas en este vasto e informal fptsf. Esta última forma, que podría calificarse de baja intensidad institucional, fue la que más favoreció el socialismo francés, a diferencia de la gran maquinaria alemana y, en menor medida, británica. Sin teorizar al respecto, y aunque, desde Robert Michels hasta Moisei Ostrogorski, las sociologías de los partidos habían florecido antes de la Primera Guerra Mundial, Rebérioux se esfuerza por describir y observar el funcionamiento de los partidos socialistas franceses desde la década de 1880 hasta la unidad de 1905. Echa luz así sobre una cultura partidista original. En repetidas ocasiones enfatiza que todos los partidos, incluidos los más estructurados, como los tres partidos guesdistas, el Partido Obrero, el Partido Obrero Francés y después el Partido Socialista de Francia, en realidad no eran muy centralizados, estaban sostenidos en una burocracia a menudo transparente y compuestos por un número muy reducido de activistas. Estamos muy lejos de los«batallones de aportantes» de la socialdemocracia alemana contra los que muchos socialistas franceses arremetieron no sin una dosis de envidia. La organización es tan desordenada que, durante la década de 1880, aun entre los guesdistas los congresos se reunieron de forma extremadamente esporádica. Pasar por el examen del pensamiento de Jaurès para intentar comprender qué era el Partido Socialista antes de 1914 no es el camino menos relevante. Jaurès se cuenta entre quienes entienden que las nuevas coordenadas de la vida política democrática (parlamentarización y masificación) exigen a los socialistas dotarse de una organización lo más poderosa y unificada posible. La consecución de este objetivo, junto con la lucha contra la guerra, ocupa el centro de su reflexión y su acción 27 . 26. M. Rebérioux:«Le socialisme français de 1871 à 1914», cit., p. 151. 27. M. Rebérioux:«La conception du parti chez Jaurès», cit. ensayo | El socialismo, una cultura 151 Propagandizar «Antes de 1914, escribe Gilles Candar, ser socialista era‘propagandizar’ y‘organizar’» 28 . Como la idea republicana, la idea socialista tiene la propiedad de estar destinada a«descender» a las masas para expandirse 29 . Por lo tanto, la primera misión de los socialistas es el proselitismo. El desafío es tanto mayor cuanto que el sufragio universal masculino ha colocado la política bajo el dominio de la cultura de masas. Era necesario convencer por todos los medios; no era suficiente con la movilización de la razón ciudadana o la agitación de los intereses de clase. Activar los resortes emocionales es ahora una cuestión de acción política que ha dejado de ocupar solo a unos pocos círculos de elegidos. Los socialistas han tomado nota de esta nueva situación definiendo todo un conjunto de prácticas simbólicas, cuyo abanico va desde la adopción de comportamientos privados ejemplares hasta un gesto militante compuesto por acciones destacables que incluyen el uso de objetos claramente reconocibles: banderas, insignias, canciones, vestimenta. Charles de Fitte sube los escalones de la catedral de Auch a caballo y Paule Minck llama a su primer hijo LuciferBlanqui-Vercingétorix. Esta intrusión de lo público en lo privado, de la política incluso en la más íntima de las vidas individuales, constituye un modo particular de relación con la política que fomenta la«vida socialista». Incluso después de la unidad de 1905, los guesdistas conservan una panoplia en la que se distingue el uso del sombrero de ala ancha y la inevitable corbata lavallière . Comportamientos de tribu que a veces conciernen a toda la familia socialista cuando se trata de encontrarse en una memoria compartida: la Revolución Francesa y, más aún, la Comuna. Rebérioux hizo de la Comuna un «lugar de memoria» para el movimiento socialista, con la distancia crítica que, a su juicio, requería ese concepto. Es notorio el respeto que despierta la gran figura del veterano de la Comuna, Édouard Vaillant. Cuando entra en las salas de reuniones, todos se levantan. No cabe duda de que el estudio más completo de las prácticas militantes es el que se encargó de escrutar en la larga duración las rememoraciones primaverales de la izquierda frente al Muro de los Federados en el cementerio del PèreLachaise de París. Esta práctica se fue imponiendo gradualmente a partir de la década de 1880, no sin tensiones entre los grupos conmemorativos que lucharon por la memoria de los mártires. El Partido Socialista Unificado hizo en 1905 de la«subida hasta el muro»[de los federados de la Comuna] una«iniciativa eficaz de estructuración» 30 , necesaria para la construcción de una conciencia partidista. La emoción compartida, 28. G. Candar: Jean Longuet , cit., p. 89. 29. Maurice Agulhon: La République au village. Les populations du Var de la Révolution à la IIe République , Seuil, París, 1979. 30. M. Rebérioux:«Le Mur des Fédérés. Rouge,‘sang craché’» en Pierre Nora(dir.): Les lieux de mémoire 1: La République , Gallimard, París, 1984, p. 367. 152 Christophe Prochasson | nueva sociedad | 294 cualesquiera sean su origen y pertenencia, une a los activistas de manera mucho más efectiva que las mociones del congreso. Por eso, sin duda, la sfio supervisa eficazmente la organización de este momento que se ha convertido en capital en la historia de los rituales socialistas y confía la responsabilidad al hombre del aparato, Pierre Renaudel. A partir de 1910, fue él quien fijó de antemano el plan de las manifestaciones, cuidando de colocar a«hombres de confianza» cada 100 metros. Al mismo tiempo que aumenta su membresía, el Partido Socialista se profesionaliza. Sin embargo, no hay que exagerar sus capacidades de acción ni su organización antes de 1914. Aún estamos muy lejos de los aparatos que conocemos hoy, pero es poco discutible que una«curva de aprendizaje» permitió entonces a los socialistas afirmarse mejor sobre la escena militante. El fenómeno es particularmente observable en relación con las manifestaciones. Rebérioux lo demuestra en su estudio sobre las dos principales protestas que siguieron a la ejecución del anarquista español Francisco Ferrer. La primera, el 13 de octubre de 1909, día de la muerte de Ferrer, fue una manifestación muy violenta que terminó con la muerte de un policía. La segunda, el 17 de octubre, fue por el contrario muy tranquila, luego de negociaciones entre los funcionarios socialistas y la policía. A falta de todo derecho de manifestación, obstinadamente negado por la legislación republicana, nació clandestinamente un «derecho a manifestarse», complemento esencial del sufragio universal 31 . La creación de responsables permanentes de propaganda es otro ejemplo que puede ilustrar este aumento gradual de la organización socialista y la profesionalización de las prácticas militantes después de 1905. A raíz de la unificación socialista, el Partido Socialista confió a tres de sus mejores oradores, Jules Guesde, Marcel Cachin y Pierre Renaudel, la tarea de difundir la buena nueva socialista por todo el país. La unificación en la parte superior debe encontrar su traducción en la base. Los tres delegados se pusieron a disposición de los secretarios federales para animar reuniones en los pueblos más pequeños, al final de las cuales se podía esperar la creación, más o menos duradera, de grupos socialistas. Esta labor de propaganda se reparte entre los diputados –a quienes suelen reservarse las grandes ciudades y aglomeraciones en las que estaba bien estructurado el partido– y los responsables permanentes a quienes se asigna, en palabras de Marcel Cachin,«la tarea de clarificación, educación y organización en pequeños pueblos y aldeas de provincias. Su tarea es el contacto directo con obreros, campesinos, artesanos y comerciantes 31. M. Rebérioux:«Manifester pour Ferrer» en L’affaire Ferrer , Centre National et Musée Jean Jaurès, Castres, 1991, reproducido en M. Rebérioux: Parcours engagés dans la France contemporaine , cit.; Olivier Fillieule y Danielle Tartakowsky: La manifestation , Presses de Sciences Po, París, 2008.[Hay edición en español: La manifestación. Cuando la acción colectiva toma las calles, Siglo Veintiuno, Buenos Aires, 2015]. ensayo | El socialismo, una cultura 153 hasta entonces ajenos a la influencia de las ideas socialistas» 32 . El balance de la propaganda socialista, por muy elemental que fuere –fortalecer sin cesar la consistencia de grupos cuya existencia es a menudo muy frágil–, es menos sombrío de lo que a veces sugieren algunos delegados, agotados por una labor tan ingrata. Hay que mencionar también los esfuerzos por modernizar este tipo de prácticas militantes: en la década de 1910, el fonógrafo y el cine vinieron a enriquecer el equipamiento de ciertos activistas que ya estaban munidos de un legado de carteles o tarjetas postales, fuentes que ahora se están estudiando de cerca. Aquí y allá, también percibimos entre los militantes socialistas la conciencia de que«la política no lo es todo, que no puede darnos todo lo que tenemos» 33 , como comentó Armand Girard, el activista de Cuisery cuyo periódico estudió Rebérioux. Otras vías de«cambiar la vida» eran posibles, como se diría más adelante 34 . En torno del deporte o las actividades intelectuales se formó una vida asociativa que dio al socialismo francés un prestigio muy singular. Un socialismo educativo La educación está en el corazón de las cuestiones identitarias del socialismo francés. La cita de Cachin acaba de ilustrarlo: la propaganda socialista es, a los ojos de sus agentes, nada más y nada menos que una labor educativa. Politizar es educar. Charles Péguy –¡de nuevo él!– no se equivocó al plantear este ideal y al hablar de un«socialismo educativo», traicionado, según él, por la alineación impuesta por la lógica partidaria. Rebérioux insistió mucho en esta dimensión propiamente cultural del socialismo francés, que también refleja su inserción en los horizontes republicanos. Para apreciar a pleno esta propiedad educativa del socialismo francés, es necesario alejarse del exclusivo perímetro partidista. Por supuesto, existen tales preocupaciones dentro del aparato. La sfio tiene una«librería» que publica y vende folletos pero, si hemos de creer a los diversos testimonios, siempre en número insuficiente. Una de las fórmulas más escuchadas en cada inicio de un congreso es la de su líder, Lucien Roland, que deplora constantemente las débiles ventas de la librería del partido, atestiguando, según él, las deficiencias doctrinarias de muchos militantes. La sfio tampoco apoya ningún proyecto editorial importante, a pesar de algunos intentos de publicar las obras completas de Marx, 32. Institut de Recherches Marxistes, Archives Marcel Cachin, caja 8, carpeta 1:«Notas autobiográficas de Marcel Cachin», cit. en G. Candar y Ch. Prochasson:«Un militant socialiste: Marcel Cachin», introducción a M. Cachin: Carnets 1906-1916 1, cnrs Éditions, París, 1993, p. 16; G. Candar y Ch. Prochasson:«Le socialisme à la conquête des terroirs» en Le Mouvement Social , 7-9/1992. 33. M. Rebérioux:«Un groupe de paysans socialistes de Saône-et-Loire à l’heure de l’unité(19051906)», cit., p. 35. 34. En 1977 un himno del ps se titularía«Cambiar la vida». V. una versión en[n. del t.]. 154 Christophe Prochasson | nueva sociedad | 294 de las que Jean Longuet, su nieto, fue durante un tiempo el promotor. Rompiendo con la tradición de las universidades populares, una Escuela Socialista fue fundada en 1909 por unos pocos estudiantes, patrocinados particularmente por el germanista Charles Andler, profesor de la Sorbona. Esta iniciativa, impulsada por el deseo de poner la ciencia al servicio de la política, fue un éxito. Pero el estallido de la guerra de 1914 le puso fin. Dos intentos anteriores, por otro lado, se extinguieron rápidamente: uno en 1899, a raíz del caso Dreyfus, una crisis que había alertado a los socialistas dreyfusistas de los peligros inherentes a la falta de educación; el otro en 1908, impulsado por los socialistas de la Federación del Sena. 1909 es un buen año. La iniciativa de crear una nueva Escuela Socialista fue tomada por Jean Texcier, secretario del Grupo de Estudiantes Socialistas Revolucionarios, que contó con el concurso de hombres experimentados, científicos y académicos atraídos por el socialismo: además del ya nombrado Andler, Hubert Bourgin, Lucien Herr, Marcel Mauss, François Simiand. El Partido Socialista apoya la escuela, dejando plena libertad al equipo de dirección. El objetivo que se le asigna es sencillo y responde a la concepción del activismo político cercano a la enseñanza mutua: La Escuela Socialista es una cooperativa libre cuyo objetivo es ofrecer al socialismo francés un órgano de información científica. Se preocupa por unir a la juventud socialista intelectual y obrera en el estudio común del movimiento socialista en Francia y el extranjero y por darle, a través de una amplia información extendida a todos los campos de las ciencias sociales, el espíritu crítico necesario para el desarrollo continuo de la vida y de la doctrina del socialismo. 35 Las Universidades Populares habían prefigurado la Escuela Socialista incluso antes de que el asunto Dreyfus les diera el impulso que conocemos. Diezmadas desde los años 1903-1904, fueron reemplazadas por la Escuela Socialista, que trató de reactivar su espíritu evitando hundirse en sus fallas, comenzando por sus deficiencias pedagógicas: la inadecuación de los programas y métodos de enseñanza a su audiencia principal, la clase trabajadora. Y sin embargo... ¿No dio Jaurès, ya en 1895, la bienvenida a una educación socialista que no debía reducirse a«una parafernalia de erudición o a una mezcolanza de fantasías que obstaculizarían la marcha del proletariado»? Por el contrario, la educación«verdaderamente socialista» debía confundirse«con la vida misma»: «Solo el socialismo puede hacer pensar a la gente; frente a un formalismo 35. Archives de l’École Socialiste, comunicación de Madeleine Rebérioux, cit. en Ch. Prochasson: Les intellectuels, le socialisme et la guerre. 1900-1938 , Seuil, París, 1993, p. 64. ensayo | El socialismo, una cultura 155 escolar que cesa a los 13 años cuando el niño entra al taller, son necesarios un hábito y una verdad» 36 . Por tanto, es sobre todo en los márgenes donde es necesario situarse para captar lo más plenamente posible las prácticas vinculadas al«socialismo educativo». Se puede citar otro ejemplo, que dio lugar a la publicación de un importante artículo de Rebérioux. El guesdista Adéodat Compère-Morel, después de haberse forjado una sólida competencia en política agraria, decidió dotar al ps de una«nueva arma de propaganda»: la Encyclopédie socialiste . Rodeándose de varios autores, Charles Rappoport y Hubert Rouger entre los más prolíficos de los surgidos directamente de la familia guesdista, Compère-Morel logró publicar nueve volúmenes entre 1912 y 1914(los últimos tres aparecieron después de la Primera Guerra Mundial), con el objetivo de abarcar el universo socialista en Francia y en el exterior: por la enciclopedia desfilan ideas, actores e instituciones. Si bien la Encyclopédie socialiste no fue publicada por el ps sino por un sello editorial independiente, contribuyeron en ella grandes activistas como Jean Longuet, Paul Louis y Anatole SixteQuenin. La iniciativa también está tratando de responder a las preocupaciones expresadas repetidamente dentro del partido en materia de propaganda o, si se prefiere, ya que las dos palabras aún no se enfrentaban, de educación. También es conocida por sus preocupaciones educativas la Librería Quillet, que se encarga del negocio editorial. Aristide Quillet, quien se afilió al ps en 1906(y no lo abandonó hasta 1927), era el editor de L’ homme et la terre de Élisée Reclus. Desde 1902 publica asimismo varias obras de tipo enciclopédico en las que se abordan simultáneamente la medicina, la higiene, la mecánica y la electricidad. En 1907, la Librería Quillet publicó la obra Mon professeur , que, en cinco copiosos volúmenes, se dirige a«los hijos del pueblo que carecían de capacidades escolares» 37 . Por lo tanto, es fácil ver que Quillet acogió con satisfacción el proyecto Compère-Morel, que estaba en línea con sus elecciones editoriales. No cabe duda de que el socialismo francés constituye un fenómeno cultural a gran escala, nacido en los primeros años del siglo xix, que no puede confinarse a la superficie de una única organización política. Si bien los políticos y las instituciones se han apoderado de él, especialmente en las últimas dos décadas, durante mucho tiempo ha sido un asunto de intelectuales, de hombres y mujeres de la cultura. Lo era mucho más a principios del siglo xx. Pero fue especialmente en la década de 1930, observa Rebérioux, cuando durante un«breve 36. J. Jaurès, prefacio a Benoît Malon: La morale sociale. Morale socialiste et politique réformiste , Le Bord de l’Eau, París, 2007, pp. 386-387. 37. Citado por M. Rebérioux en«Guesdisme et culture politique. Recherches sur L’ Encyclopédie socialiste de Compère-Morel» en Mélanges d’ histoire sociale offerts à Jean Maitron , Éditions Ouvrières, París, 1976, reproducido en M. Rebérioux: Parcours engagés dans la France contemporaine , cit., p.79. 156 Christophe Prochasson | nueva sociedad | 294 momento»,«entre el activismo y la cultura, tuvo lugar un matrimonio feliz» 38 . El socialismo como cultura Los intelectuales y el socialismo Tomamos nota: el socialismo es más que un movimiento político y no puede reducirse a la expresión de los intereses de la clase obrera. Es toda una cultura, y su esfera de influencia es amplia. Ha integrado a las elites culturales desde principios del siglo xix. En el momento histórico en el que se centró en particular el trabajo de Rebérioux, la cuestión de quienes comenzamos a llamar simplemente«intelectuales» 39 deviene primordial. El socialismo educativo se ha basado sobre todo en la entrada de los intelectuales en el socialismo. El caso de Péguy, cuya adhesión al socialismo fue efímera, está lejos de ser un hecho aislado. El movimiento de las Universidades Populares(aunque dos tercios de estas instituciones se fundaron a petición de las Bolsas del Trabajo) atrajo a miles de intelectuales. ¿Qué estaban haciendo allí?«Difundiendo su conocimiento», señala Rebérioux, esperaban hacer retroceder los impulsos de la barbarie racista y de burdo nacionalismo cuya presencia reconocieron entre quienes querían«colgar a Zola» y matar a«todos los judíos» 40 . Sin embargo, este primer gran compromiso de los intelectuales no benefició al movimiento socialista, como se sostiene a veces con demasiada rapidez. Las grandes figuras intelectuales del socialismo francés, desde Lucien Herr hasta Charles Andler 41 , incluidos Georges Sorel o Bracke-Desrousseaux 42 y algunos otros, le habían jurado lealtad antes de que estallara el caso Dreyfus. Después del affaire , los intelectuales apenas siguieron a Jaurès en el Partido Socialista Unificado. Este último, que podría haber pasado por su mentor, a veces incluso se convierte en un indeseable(¡ver Péguy!), un traidor, que aliena su libertad de pensamiento y la independencia de su juicio a la disciplina partidaria. Indudablemente, hubo en este comportamiento una excesiva indolencia, ya que el naciente sfio, como hemos visto, no se parece en nada al Partido Comunista, que condujo a sus intelectuales bajo su batuta. Pero la reglamentación, por offenbachiana 43 que fuera, era vista como una amenaza por los intelectuales celosos de una libertad que acababa de demostrar su fuerza durante los acontecimientos dreyfusianos. 38. M. Rebérioux:«Culture et militantisme» en Le Mouvement Social N o 91, 4-6/1975. 39. Christophe Charle: Naissance des«intellectuels». 1880-1900 , París, Minuit, 1990.[Hay edición en español: El nacimiento de los«intelectuales» , Nueva Visión, Buenos Aires, 2009]. 40. Christophe Charle, prefacio a Lucien Mercier: Les Universités Populaires. 1899-1914. Éducation populaire et mouvement ouvrier au début du siècle , Éditions Ouvrières, París, 1986. 41. Daniel Lindenberg y Pierre-André Meyer: Lucien Herr. Le socialisme et son destin , Calmann-Lévy, París, 1977. 42. Ch. Prochasson: Les intellectuels et le socialisme , Plon, París, 1997. 43. Paródica, trivial. Referencia a Jacques Offenbach, compositor francés, creador de la opereta[n. del t.]. ensayo | El socialismo, una cultura 157 ¿Cómo entender entonces qué es en estos años(e incluso después) un intelectual socialista? ¿Es una fórmula realmente adecuada? ¿Cómo clasificar a Jaurès en esta configuración sociocultural propia del socialismo francés? En el conjunto del socialismo europeo, bajo el peso creciente de las profesiones intelectuales dentro del movimiento socialista, fueron los escritores quienes desde el interior de sus filas comenzaron a interrogarse sobre el significado de esta penetración. ¿Debemos temerla, alentarla, controlarla? ¿Qué lugar y qué papel asignaríamos a estas«nuevas capas» del socialismo, cuya naturaleza de clase no era entonces un problema? ¿Acaso no eran solo el vector de las aspiraciones de los trabajadores? Embarazosa y peligrosa contradicción... En Francia, hubo muchos artículos y obras destinados a abordar la cuestión: Georges Sorel, Paul Lafargue, Hubert Lagardelle, Édouard Berth, Charles Péguy fueron sin duda quienes más hablaron sobre ella, en el cambio de siglo y a raíz del caso Dreyfus. En Alemania, Karl Kaustky fue el autor de una reflexión sobre el papel de la intelligentsia publicada en Die Neue Zeit , que resonó en toda Europa. En Italia, Antonio Gramsci esbozó su teoría del intelectual orgánico y en Gran Bretaña la Sociedad Fabiana también hechizó a los intelectuales 44 . En este contexto, llama la atención que Jaurès aportara poco a un debate que sin duda consideraba periférico. Como sostiene en uno de sus artículos más citados, el futuro del socialismo descansa en la idea de que el proletariado es la«verdadera clase intelectual», es decir, la única capaz de trazar los contornos de un futuro histórico. Por lo demás, si no se le pueden negar a Jaurès cualidades intelectuales eminentes y envidiables –también podría ponerse a Georges Clemenceau en un nivel similar–, es claro que su práctica social pertenece mucho más al repertorio de la acción política, a la cual confiere una innegable profundidad reflexiva, que al universo de escritores, artistas, profesores o académicos. El vasto mundo de las revistas Sabemos hasta qué punto las revistas estructuran el mundo intelectual. Su poder creciente es perfectamente contemporáneo al proceso de empoderamiento que dio origen a los«intelectuales». Por tanto, no es indiferente mencionar que, a pesar de las raras colaboraciones ocasionales en algunas publicaciones periódicas, Jaurès no es –a contrapelo de varios «intelectuales» socialistas– un hombre de revistas. Por otro lado, es un periodista consumado 45 . Acompañando el vivo desarrollo de los estudios sobre intelectuales, los historiadores y los sociólogos han ido acumulando conocimiento y análisis sobre el particular mundo de las revistas, 44. Shlomo Sand:«Le marxisme et les intellectuels vers 1900» en M. Rebérioux y G. Candar(dirs.): Jaurès et les intellectuels , Éditions de l’Atelier, París, 1994. 45. Ch. Prochasson:«Jaurès et les revues» en M. Rebérioux y G. Candar(dirs.): Jaurès et les intellectuels , cit. 158 Christophe Prochasson | nueva sociedad | 294 tan particular que podría ser considerado, por el lado de la sociología de Pierre Bourdieu, como un«campo» 46 . El concepto no deja de tener relevancia si permite resaltar el sistema relacional real que las publicaciones periódicas establecen entre sí: jerarquías simbólicas, concursos, alianzas, nacimientos y desapariciones animan el dispositivo en su conjunto. La esfera socialista obedece a las mismas reglas. El«campo de las revistas socialistas» se organiza en torno de algunos polos cuya historia Rebérioux fue la primera en esbozar. Los intelectuales han llevado al movimiento socialista una práctica nacida sobre todo en los márgenes de la literatura de vanguardia, donde los jóvenes escritores se reúnen en torno de un pequeño periódico para hacerse oír y promover obras e ideas. El género se ha extendido al mundo de la ciencia. En la década de 1890, las ciencias sociales en proceso de afirmación o la filosofía en plena resistencia no dejaron de recurrir a las revistas: Revue Historique , Revue Philosophique , Revue de Métaphysique et de Morale , etc., y ayudaron a organizar disciplinas o, dentro de ellas, corrientes de pensamiento, incluso«escuelas». Lo mismo sucedió dentro del movimiento socialista. Existía una circulación entre las revistas del mundo erudito y las revistas socialistas, que gozaban de un alto grado de independencia política. Ninguna está adscripta a una organización. Solo muestran ambiciones intelectuales y teóricas, lo que les ofrece un gran margen de maniobra y explica por qué a menudo son de alta calidad. El caso de Georges Sorel basta para demostrar que se puede escribir al mismo tiempo en la Revue de Métaphysique et de Morale , de la que es colaborador habitual, y contribuir en las revistas socialistas. El caso Dreyfus facilitó las transferencias entre estos medios tan compenetrados entre sí. En la década de 1890, asistimos al surgimiento de varias revistas, más o menos afines al«marxismo», es decir al estudio crítico de los escritos de Marx, lanzadas por jóvenes intelectuales urgidos por convertir el socialismo en una doctrina articulada, algo que, según ellos, faltaba por completo. L’Ère Nouvelle lanzada por Georges Diamandy, La Jeunesse Socialiste fundada en Toulouse por Hubert Lagardelle, luego Le Devenir Social y Le Mouvement Socialiste , ilustran esta brillante generación. El compromiso de los intelectuales con el dreyfusismo le da a esta práctica un segundo impulso. Además de Le Mouvement Socialiste , fundada por varios jóvenes intelectuales socialistas e intelectuales dreyfussards como Jean Longuet y Hubert Lagardelle, se fundaron otras publicaciones periódicas que dejaron una huella perdurable en la historia intelectual del socialismo, si no en la propia historia intelectual: Pages Libres de Charles Guyesse o Les Cahiers de la Quinzaine de Charles Péguy constituyeron polos 46. Anna Boschetti: Sartre et Les Temps Modernes, Minuit, París, 1985.[Hay edición en español: Sartre y Les Temps Modernes . Una empresa intelectual , Nueva Visión, Buenos Aires, 1990]. ensayo | El socialismo, una cultura 159 estructurantes en el campo de las revistas dreyfusianas. Finalmente, merece ser destacada una tercera ola. Se puede ver en la década de 1910 en torno de una pequeña revista provincial, L’Effort , creada en Poitiers por un joven profesor de historia, Jean-Richard Bloch. El fundador, que aspiraba a hacer de su pequeño periódico un punto focal para la renovación de la cultura socialista, atrajo a una pequeña falange de escritores y artistas deseosos de promover el«arte revolucionario». En torno a L’Effort , que se ha convertido en L’Effort Libre , se configura toda una red de publicaciones periódicas del mismo tipo que mantienen un proyecto político y estético similar entre ellas: Les Horizons , Les Cahiers d’Aujourd’ hui , Les Feuilles de Mai , Les Cahiers du Centre , etc. 47 Estas tres oleadas de creación esconden la presencia de revistas más singulares, pero igualmente interesantes para la historia del socialismo. Se ubican en otro espacio ideológico del socialismo francés. La primera, la «anciana dama del socialismo», como le gusta llamarla a Rebérioux, es la Revue Socialiste , sobre la que volvió en varias ocasiones, especialmente en un largo artículo de los Cahiers Georges Sorel . Fue creada en 1880 para desaparecer poco después como una suerte de «aborto espontáneo» 48 , de modo que realmente nació en 1885 y permaneció viva, a pesar de los periodos de somnolencia, hasta la Gran Guerra. Benoît Malon 49 es inicialmente el verdadero hombre orquesta, al mismo tiempo director, gerente y secretario editorial, poniendo todas sus fuerzas al servicio de«la Idea». Fue sucedido por Georges Renard, Gustave Rouanet y Eugène Fournière, antes de que en enero de 1910 Albert Thomas asumiera el cargo de editor en jefe, hecho a su medida. Thomas aporta sangre fresca a la revista. Fusionó su propia revista, la Revue Syndicaliste , creada en 1905 pero en estado vegetativo, con la Revue Socialiste . A este primer trasplante, suma un segundo movilizando parte de su red. Compuesto por muchos de los mejores egresados de la École Normale Supérieure, imbuidos de la sociología de Émile Durkheim, este medio activo de intelectuales socialistas se había dado a conocer a través del lanzamiento de una serie de pequeños folletos, los Cahiers du Socialiste . Este Grupo de Estudios Socialistas –tal era el nombre del cenáculo dirigido por un joven etnólogo, Robert Hertz– buscaba respuestas a los grandes interrogantes planteados por el socialismo en el gabinete secreto de las ciencias sociales. La Revue Socialiste se convirtió así en el centro de elaboración de un socialismo reformista y gradualista modernizado. 47. Ch. Prochasson:« L’Effort libre de Jean-Richard Bloch(1910-1914)» en Cahiers Georges Sorel N o 5, 1987. 48. M. Rebérioux:«La Revue socialiste» en Cahiers Georges Sorel N o 5, 1987, p. 15. 49. K. Steven Vincent: Between Marxism and Anarchism: Benoît Malon and French Reformist Socialism , University of California Press, Berkeley-Los Angeles, 1992. V. tb. B. Malon: La morale sociale. Morale socialiste et politique réformiste(textes choisis) , Le Bord de l’Eau, París, 2007. 160 Christophe Prochasson | nueva sociedad | 294 Opciones culturales En el seno de estas revistas(a decir verdad, especialmente de la Revue Socialiste y la pléyade de revistas políticoliterarias de los años 1910 conocidas como«vitalistas») suele haber secciones críticas dedicadas al«movimiento literario y artístico», y también de forma más episódica, en las columnas de los periódicos socialistas. En particular en L’Humanité , sobre todo después de su paso a seis páginas en 1913, se expresa lo que en ningún otro caso podría reconocerse como una«línea cultural» monolítica. Se hacen elecciones, a menudo coherentes, a veces sorprendentes, que se combinan vagamente en una teoría estética indecisa, el arte social, en el que la moral y la filosofía se superponen. Basta volver, una vez más, al diario que lleva Armand Girard para apreciar el importante lugar que ocupa la cultura, en sentido estricto, en el trabajo de emancipación en que están comprometidos los activistas: Es necesario que nosotros, los socialistas, que creemos tener un ideal humano más elevado que otros, sepamos disfrutar y hacer disfrutar de todo lo que es bueno y es bello, las artes, el deporte, la literatura, todo aquello que hace a la felicidad de los hombres. Cuando tengamos una habitación bien amueblada, cuando tengamos una biblioteca compuesta por las obras de nuestros mejores autores socialistas. Cuando algún músico haya creado una sinfonía, algún poeta haya aportado un poco de literatura y otros prueben sus lápices, sus pinceles o sus cinceles, o traigan un poco de su ciencia, ese día nuestro grupo será indispensable, necesario para los jóvenes que quieran vivir y aprender, será fuente de buena educación, de bello espíritu, de enorme saber. Aquí vivirá la verdadera fraternidad, que crecerá con libertad e igualdad. Hacemos un llamado a todos los republicanos, artistas, músicos o poetas, para que difundan sus talentos, sus conocimientos, su espíritu, entre sus hermanos de ideal. Seguimos llamando a todos aquellos que tienen libros y folletos para que los compartan con nosotros y los hagan circular en el grupo. También recibiremos donaciones artísticas, pinturas, imágenes, colecciones, documentos viejos, monedas antiguas, etc. Cualquier cosa que pueda interesar y divertir. 50 Para captar una conciencia militante es necesario, pues, estudiar la cultura que los socialistas intentaron inculcar en sus contemporáneos. Esa cultura era sobre todo literaria, aunque también las bellas artes fueron objeto de la crítica, a veces incluso el cine, en particular en las columnas de L’Humanité durante los meses que precedieron a la Primera Guerra Mundial. Rebérioux, por 50. Cit. en M. Rebérioux:«Un groupe de paysans socialistes de Saône-et-Loire à l’heure de l’unité (1905-1906)», cit., p. 34. ensayo | El socialismo, una cultura 161 su parte, se dedicó especialmente a las relaciones que los socialistas tuvieron con la crítica literaria, dejando a otros extender estas primeras vías a las artes visuales o sonoras. Abordar la«crítica socialista», si tuvo alguna coherencia en Francia en el cambio de siglo, debería permitir identificar los aspectos eruditos de la cultura socialista, en todo caso aquellos que quisieron promover los militantes responsables de esta tarea. Sin duda, se puede considerar que los militantes socialistas se dedicaron entonces a forjar una cultura popular que complementó los conocimientos y los gustos heredados de la experiencia escolar. Su mediación fue una educación que transmitió tanto como transformó un patrimonio heredado. ¿Qué podemos extraer de esta observación? Información evidentemente contradictoria, ya que es imposible forjar una cultura socialista ex post . Por otro lado, es posible destacar algunas tendencias importantes. Rebérioux señala sobre todo que entre los socialistas el escritor se«define en primer lugar como alguien que da a conocer la vida social» 51 . La buena literatura es la que tiene sus raíces en un buen contenido: pintar primero a los pobres y a los que sufren. Sin embargo, se experimenta cierta dificultad para identificar entre los socialistas una contracultura capaz de anunciar un mundo completamente nuevo. Aparte del famoso caso de Paul Lafargue, cuando ataca el mito de Hugo en La légende de Victor Hugo , escrito con motivo de la muerte del gran poeta nacional en 1885, o cuando acusa a los filósofos del siglo xviii y a sus «rameras metafísicas», son esta herencia y algunas otras las que, a ojos de Lafargue y de varios dirigentes guesdistas, componían la arquitectura para el vuelco de una«cultura burguesa», la que reivindicaban la mayoría de los intelectuales y activistas socialistas: Émile Zola y todo el naturalismo, Léon Tolstoi, Upton Sinclair… Jaurès, de formación muy clásica, no es una excepción: Puvis de Chavannes es uno de sus pintores favoritos. En vísperas de la guerra, el escritor«de genio» que descubre es Alain, no Proust o Apollinaire, que le eran completamente desconocidos. Las vanguardias políticas que indiscutiblemente constituyen los socialistas y los republicanos avanzados difícilmente se encuentran con las vanguardias estéticas. Los socialistas franceses no mostraron la atención que les prestaban sus camaradas alemanes, rusos o rumanos a las formas de su modernidad. En el Congreso de Gotha en 1896, los socialdemócratas alemanes abrieron un debate sobre la orientación«naturalista» dada al semanario ilustrado del partido Die Neue Welt 52 . Nada parecido aconteció en ninguno de los congresos socialistas franceses. Como se lamenta 51. M. Rebérioux:«Critique littéraire et socialisme au tournant du siècle» en Le Mouvement Social N o 59, 4-6/1967, p. 19. 52. M. Rebérioux:«Avant-garde esthétique et avant-garde politique. Le socialisme français entre 1880 et 1914» en aavv: Esthétique et marxisme , 10/18, París, 1974, p. 24. 162 Christophe Prochasson | nueva sociedad | 294 la crítica Camille Mauclair, entonces cercana a los socialistas, hay que admitir«el distanciamiento y la desconfianza que algunos socialistas muestran hacia el arte contemporáneo» 53 . Sin duda, el socialismo francés estaba más preocupado por conquistar votantes que por la doctrina o la estética. Las excepciones son tanto más sobresalientes: mientras Marcel Cachin, salido de las filas guesdistas, mostraba una sensibilidad política particularmente cerrada a las innovaciones estéticas, siempre sospechosas de ser nada más que fantasías burguesas que de ninguna manera resolverían las contradicciones e injusticias del capitalismo, a las que solo el advenimiento del socialismo podría remediar, Marcel Sembat tenía, como Cachin, muchos amigos entre los pintores postimpresionistas, de los que fue uno de los más eficaces defensores 54 . Por lo tanto, nada separa realmente a los intelectuales socialistas de principios de siglo, en el mismo momento en que la cultura europea se aceleraba, de sus colegas y amigos republicanos:«Los formó la misma escuela, la misma cultura clásica, el mismo gusto por el pensamiento ordenado de una narrativa bien construida, la misma desconfianza hacia las distorsiones de la gramática y las tinieblas del lenguaje donde algunos ven una de las fuentes del oscurantismo religioso» 55 . No sorprenderá entonces que la vanguardia estética, ávida de revolucionar el mundo, rehuya las filas socialistas para refugiarse en el cálido y acogedor invernadero del anarquismo. El arte para el anarquismo, las ciencias sociales para el socialismo, tal es la distribución de los roles culturales repartidos entre las dos grandes vanguardias políticas revolucionarias de la Belle Époque . ¿Qué podemos concluir de estos pocos comentarios históricos? Si se está de acuerdo con la idea de que el socialismo no es reductible en modo alguno al estado de una fórmula única, ni siquiera al de la expresión uniforme de una sola clase, se arroja una piedra al estanque de quienes hoy intentan reducirlo a esas coordenadas. No puede impulsarse un movimiento histórico deteniéndose en los límites de un programa, ni siquiera uno marcado por una gran experiencia. Pero sería igual de vano limitar su alcance únicamente a la expresión de la indignación social, por legítima que esta sea. El socialismo tuvo un alcance mayor y su pluralismo radical debe ser asumido por quienes pretenden ser sus herederos. Dar voz a una cultura socialista no es un desafío sencillo. Comienza con un correcto inventario de su pasado, que apartará a los verdaderos reconstructores de las imitaciones serviles y sin futuro, así como de la ignorancia más ruinosa. 53. Ibíd., p. 25. 54. M. Sembat: Les cahiers noirs. Journal, 1905-1922 , Viviane Hamy, París, 2007. 55. M. Rebérioux:«Avant-garde esthétique et avant-garde politique», cit., p. 30. Summaries Resúmenes en inglés María Victoria Murillo: Protests, Discontent, and Democracy in Latin America [4700] Protests and social outbreaks have been marking the Latin American political situation. After a hiatus at the beginning of the Covid-19 pandemic, they have reemerged strongly in several countries in the region. The mobilizations do not, however, have a single directionality, nor a single point of arrival. And they once again highlight the tensions between inequalities and democracy. Keywords: Democracy, Inequality, Protests, Latin America. Ahmet Insel: Erdo ğ an’s Turkey: An Elective and Autocratic Authoritarianism [4701] Recep Tayyip Erdoğan turned his party into a personal war machine, while Erdoganism established itself as a regime that combines electoral authoritarianism, populism and Islamism, with Turkish nationalism as the main glue. Grudges against the West are part of the reasons for his strength. Keywords: Authoritarianism, Islamism, Recep Tayyip Erdoğan, Turkey. Enzo Ferrante: Artificial Intelligence and Algorithmic Biases: Why Should We Care? [4702] Artificial intelligence is increasingly a part of our lives, often in an imperceptible way. It is no longer about future technological utopias, but a very concrete present. But behind advances ranging from medical diagnostics to mass surveillance are algorithms, whose«biases» threaten to perpetuate and even deepen today’s inequalities. Focusing on data, 164 summaries models, and people can help build a«fairer» artificial intelligence. Keywords: Artificial Intelligence, Bias, Inequalities, Machine Learning. Keywords: Artificial Intelligence, Global South, Inequalities, World Trade Organization( wto ). Martín Ariel Gendler: Internet, Algorithms and Democracy: From Dream to Nightmare? [4703] In recent years, changes have been seen in the internet ecosystem both in terms of narratives and business models. After the massification of algorithmic profiling and customization mechanisms, the celebration of the democratic potential has shifted to an emphasis on manipulation and surveillance. But it is necessary to abandon the polar images of dreams and nightmares. Keywords: Algorithmic Customization, Algorithmic Governmentality, Algorithms, Democracy, Internet. Leonardo Fabián Sai: What is Cyber Capital? [4705] Cyber capital is a specific form of hightech capital capable of subsuming the social bond. By appropriating social relations through technological devices, cybernetic capital transforms all human relations in an accumulation of data, through which both the prediction of human behavior and the hierarchical planning of capital are possible. The result is a new relationship with the body and language. Keywords: Algorithmic Surplus, BioEconomy, Cyber Capital, Cyborg. Sebastián Sanjurjo: Towards a Digitized World [4706] Sofía Scasserra: Automated Inequality: Industrialization, Exclusion, and Digital Colonialism [4704] Artificial intelligence poses new problems and challenges related to the industrialization of the global South, which faces a new form of digital colonialism. Far from reducing inequalities, the rules that are being negotiated at the World Trade Organization could exacerbate existing gaps. There are two variables that can be considered as founders of modernity: humanist philosophy and the scientific revolution. Arisen and embedded in a very particular moment in European history, they endowed the incipient capitalism with both an ideological and a material basis. Today humanism seems stressed by the growth of artificial intelligence and its consequences for the future. Keywords: Artificial Intelligence, Capitalism, Digital Revolution, Modernity. summaries 165 Juan Manuel Ottaviano: The Phantom Menace: Artificial Intelligence and Labor Rights [4707] Beyond the narratives about the«great replacement» of human work by machines, artificial intelligence is changing the ways of working. The algorithms are the new black boxes. The resources of the organization of work are today inseparable from the means of surveillance. Opening and regulating those black boxes is essential to avoid the silent playfulness that human competition with artificial intelligence implies. Keywords: Algorithm, Artificial Intelligence, Job, Labor Rights. Carolina Martínez Elebi: Artificial Intelligence Applied to Health: Lights and Shadows [4709] For some years now, artificial intelligence technologies based on data processing and automated decision making have been implemented in various areas of everyday life. In health care, this technology can represent important advances and benefits, but also many problems and the violation of rights, such as those related to privacy and non-discrimination. That is why it is necessary to enable a public discussion and avoid«technological solutionism». Keywords: Artificial Intelligence, Deep Learning, Machine Learning, Privacy, Technological Solutionism. Daniela Muradas Antunes: Artificial Intelligence: Front and Reverse [4708] Reverse engineering can serve as an instrument of resistance to confront the regime of exception established in favor of technological capital, limit the reproduction of inequalities and subordinate technological systems to the public and social control of democratic societies. Among the objectives of this strategy are the right to information, the control of compliance with legal norms, and union participation in the establishment of the conditions that affect workers subject to technological control. Keywords: Algorithms, Democracy, Reverse Engineering, Technological Capital. Johanna Caterina Faliero: Limiting Algorithmic Dependence: Impacts of Artificial Intelligence and Algorithmic Biases [4710] In the framework of the so-called«data age», it is necessary to dwell on the legal impacts and tensions in the matter of rights related to applications that make use of artificial intelligence and to address in particular the problems of biases and algorithmic discrimination. The establishment of the right to anonymity and dynamic informational self-determination are proposed as protection limits against algorithmic dependence. Keywords: Algorithmic Bias, Artificial Intelligence, Informational Self-Determination, Right to Anonymity. 166 summaries Paul Nemitz: Democracy in the Age of Artificial Intelligence [4711] Christophe Prochasson: Socialism, a Culture [4712] Given the increasing spread of artificial intelligence in modern societies, it is necessary to discuss how it can serve to maintain and strengthen the rule of law, democracy and human rights, rather than contribute to their weakening. That will largely depend on the kinds of regulation chosen. Keywords: Artificial Intelligence, Democracy, Regulation, European Union. Socialism was much more than a doctrine. It was a culture that surpassed its ideologues, its organizations, and its voters, and that continues to feed studies from new historiographic perspectives. Madeleine Rebérioux’s vast work, focused on the French case, allows us to return to socialism as a radically diverse and plural movement. Keywords: Political Culture, Socialism, Jean Jaurès, Madeleine Rebérioux, France. Per­fi­les La­ti­noa­me­ri­ca­nos Julio-Diciembre de 2021 Ciudad de México N o 58 ARTÍCULOS: Ejercer el periodismo en entornos violentos: análisis empírico de las zonas de silencio en México, Grisel Salazar Rebolledo. La sentencia es de quien la trabaja: estructura organizacional y justicia constitucional en México(1996-2005), Josafat Cortez Salinas. Nicaragua mestiza versus Nicaragua multiétnica: el caso de la Costa Caribe, Hloreley Osorio Mercado y Luis Héctor Serra Vázquez. Cambio climático y gobernanza multinivel en Uruguay: percepciones tras diez años del Sistema Nacional de Respuesta al Cambio Climático, Amalia Margarita Stuhldreher. Leña, sustentabilidad, desigualdad y ciudades multiculturales, Andrés Enrique Miguel Velasco, Ruffo Cain López Hernández, Karina Aidee Martínez García, Luz Astrid Martínez Sánchez y Lizbeth Fabiola García Cruz. Agua en la Ciudad de México: deseconomías de escala y tecnologías intermedias, Carlos A. Fraga-Castillo. Gobernanza de la expansión: infraestructuras transnacionales de energía en América Latina, Alke Christine Jenss. La dimensión política del patrimonio. Reivindicación del valor social del ferrocarril en Chile entre dictadura y democracia(1973-2012), Andrea Ortega y Macarena Ibarra. Hacia una infraestructura cooperativa: cultura política solidaria en presupuestos participativos, Antonio Cáñez-Cota y Mariano Jorge Beret Rodríguez. Cultura del trabajo y de la vida con sentido solidario, Elizabeth Alves Pérez. Nueva ruralidad y migración en la Mixteca Alta, México, Matthew Lorenzen. Satisfacción familiar en América Latina: ¿importan las relaciones?, René Millán y Rosario Esteinou. Estilos de consumo, actitudes hacia el dinero, y materialismo en adolescentes chilenos y ecuatorianos, Marianela del Carmen Denegri Coria, Jorge Alonso Rodrigo Torres Acosta, Manuel Ignacio Correa Abarzúa, Valentina Belén González Rodríguez, Javiera Camila Belén Toro Lavanderos, Pamela Alejandra Salazar Valenzuela, Leonor Maricela Riquelme Segura, José Andrés Sepúlveda Maldonado. Educación superior, productividad y crecimiento económico en México entre 2004 y 2015, Alejandro Mungaray Lagarda, Raúl Barutch Pimienta Gallardo y Marco Tulio Ocegueda Hernández. ENSAYO: Impactos del covid-19 en los escenarios latinoamericanos contemporáneos, Gerardo Caetano y Nicolás Pose. RESEÑAS. En línea: Perfiles Latinoamericanos es una publicación de la Facultad Latinoamericana de Ciencias Sociales(Flacso), sede México. Coordinación de Fomento Editorial, Carretera al Ajusco 377, Colonia Héroes de Padierna, C.P. 14200, México, df . Tel.:(5255) 3000 0244/ 3000 0251. Correo electrónico:. Enero-Junio de 2021 RELACIONES INTERNACIONALES La Plata Año 30 , N o 60 EDITORIAL: Norberto Consani. DIÁLOGOS: Dra. Silvia Fernández Gurmendi. ESTUDIOS: L’apport des institutions parlementaires aux organisations régionales: l’expérience des Amériques, Gordon Mace y Mamadou Lamine Sarr. A una década de la Primavera Árabe: ¿hacia dónde va el mundo árabe?, Zidane Zeraoui. El«primer Mercosur» y la«flexibilización». Antecedentes útiles para la reflexión(1991-2001), Gerardo Caetano. Integración y desarrollo. Peregrinaciones euro-latinoamericanas en los orígenes, Lorenza Sebesta. Post-neoliberalismo, post-pandemia covid-19 y sociedad civil global, Kiyoshi Matsushita. Militares y bolsonarismo: un caso de transición fallida y democracia inacabada, Karl Schurster y Francisco Carlos Teixeira Da Silva. Carthago delenda est. La impronta de Donald Trump en la política exterior de Estados Unidos, Gilberto Aranda Bustamante y Jorge Riquelme Rivera. On the essentials of international law in Xi Jinping thought on the rule of law, Liu Huawen. Les instructions du covid-19 et la nécessité de coopération des pays de l’Asie de l’Ouest en vue de sortie des crises, Mehdi Zakerian y Talieh Sakhamanesh. La agenda exterior de Biden y sus implicaciones para la Unión Europea y América Latina, Anna Ayuso. RESÚMENES DE TESIS: Migraciones en el Mercosur. Hacia la conformación de un modelo de integración regional, Laura Bogado Bordazar. REFLEXIONES: Aportes a un debate sobre el futuro de la integración latinoamericana y del Mercosur, Félix Peña. La fin des relations internationales?, Jean-Pierre Ferrier. HISTORIA: A 30 años de caída de la urss , Patricia Kreibohm. Director – Fundador: Dr. Norberto Consani Relaciones Internacionales es una publicación del Instituto de Relaciones Internacionales, Facultad de Ciencias Jurídicas y Sociales, Universidad Nacional de La Plata. Calle 48 e/ 6 y 7 – 5° Piso, 1900, La Plata, Argentina. Tel.:(54-221) 4230628. Página web:. Correo electrónico:. Mayo-Agosto de 2021 RE­VIS­TA DE CIEN­CIAS SO­CIA­LES Quito Vol. xxiv N o 70 CONSTRUIR FRONTERAS E IMAGINAR CIUDADANÍAS: SOCIEDADES TRANSFRONTERIZAS AMAZÓNICAS DOSSIER: Presentación del dossier, Fernando García, Silvia Romio y Cecilia Ortiz-Batallas. Guayaramerín: una frontera marcada por el río Mamoré y las cachuelas, Bianca De Marchi-Moyano y Laura Arraya-Pareja. Dinámicas, vulnerabilidades y prospectiva de la frontera colombo-venezolana, Martha Ardila, Jorge Iván Lozano y María Alejandra Quintero. ¿Shall we kill again? Violencia e intimidad entre los«nuevos líderes» awajún de la frontera peruana nororiental, Silvia Romio. Espejismos nupciales: representaciones salesianas del matrimonio shuar, 1893-1925, Rosana Posligua. El Estado ecuatoriano en la frontera suroriental, una construcción desde el afecto, 1893-1964, Cecilia Ortiz-Batallas. TEMAS: Gafas violetas, pero… ¿con qué lentes? Recorridos teóricos entre la producción y reproducción del trabajo, Andreina Colombo. Sociología de la infancia y América Latina como su lugar de enunciación, Natalia Sepúlveda-Kattan. Desmontando bosque, sumando luchas sociales: territorialidades y alternativas en el desastre ambiental argentino, Joaquín Ulises Deon. Integración sociourbana en la Patagonia argentina: producción material y experiencias, Paula Ferrari. Ciencia política en Ecuador, 2005-2019. Una disciplina en búsqueda de institucionalización, Edgar Alberto Zamora-Avilés y María Paz Jervis-Pastor. Íconos es una publicación cuatrimestral de Flacso-Ecuador, La Pradera E7-174 y Av. Almagro, Quito, Ecuador. Tel.:(593 2) 3238888. Correo electrónico:. Página web:< www.revistaiconos.ec>. DÓN­DE CON­SE­GUIR NUES­TRAS PU­BLI­CA­CIO­NES www.nuso.org Ale­ma­nia: F. Delbanco, Tel.:(49 4131) 2428-8, e-mail:. Ar­gen­ti­na: Dis­tri­bui­do­r: Jor­ge Wald­hu­ter, Pavón 2636, Buenos Aires, Tel./Fax: 6091.4786, e-mail: . Bo­li­via: en La Paz: Yachaywasi, Tel.: 2441.042, e-mail: , Fax: 244.2437. En Santa Cruz de la Sierra: Lewylibros, Junín 229, Tel.:(591) 3 3360709. Colombia: Librería Fondo de Cultura Económica, Calle 11 No. 5-60, Barrio La Candelaria, Bogotá, Colombia. Tel.:(571) 2832200, e-mail:. Costa Rica: Librería Nueva Década, Tel.:(506) 2225.8540, e-mail:. Ecuador: LibriMundi, Tel.:(5932) 252.1606, 223.4791, e-mail:. Es­pa­ña: Marcial Pons-Librero, Tel.:(34 914) 304.3303, e-mail: . Ja­pón: Ita­lia Sho­bo, Fax: 3234.6469; Spain Sho­bo Co., Ltd., Tel.: 84.1280, Fax: 84.1283, e-mail: . Pe­rú: El Virrey, Bolognesi 510, Miraflores, Lima, Tel.: 444.4141, e-mail:. Puer­to Ri­co: en Río Piedras: Compañía Caribeña de Libros, Tel.:(1-787) 297.8670, e-mail:. Ven­tas y con­sul­tas por In­ter­net: Distribución internacional a librerías: PARA SUSCRIBIRSE A NUEVA SOCIEDAD S U S ­C R I P ­C I Ó N In­cluye fle­te aé­reo Amé­ri­ca Lat­i­na Res­to del mund­ o Argentina ANUAL 6 nú­me­ros US$ 70 US$ 107 $ 1.900 B I E ­N A L 12 nú­me­ros US$ 121 US$ 196 $ 3.800 > Formas de pago 1. Pa­go on­li­ne: In­gre­se en, don­de en­con­tra­rá un for­mu­la­rio pa­ra re­gis­trar su pe­di­do y efec­tuar el pa­go. 2. Pa­go con tar­je­ta de cré­di­to: Solicite instrucciones a< distribucion@nuso.org > 3. Pa­go con cheq­ ue: En­víe un cheq­ ue por el imp­ or­te co­rres­pon­dien­te a la or­den de Fun­da­ción Fo­ro Nue­va So­cie­dad a la sig­ uien­te di­rec­ción: Nuev­a Soc­ ie­dad, Humberto Primo 531, C1103ACK Bue­nos Ai­res, R. Ar­gen­ti­na, acom­pa­ña­do de los da­tos del sus­crip­tor(nom­bre, do­mi­ci­lio pos­tal com­ ple­to, te­lé­fo­no, co­rreo elec­tró­ni­co). > Para otros medios de pago y cualquier otra consulta, escriba a< distribucion@nuso.org >. 292 MARZO-ABRIL 2021 ETNICIDADES Y RACISMO EN AMÉRICA LATINA COYUNTURA José Natanson. Las batallas de Alberto Fernández TRIBUNA GLOBAL Jean-Arnault Dérens. El difícil resurgimiento de la izquierda en los Balcanes TEMA CENTRAL Peter Wade. Racismos latinoamericanos desde una perspectiva global José Itzigsohn. ¿Por qué leer a W.E.B. Du Bois en América Latina? Olivia Gall. Mestizaje y racismo en México Livio Sansone. El multiculturalismo a la brasileña y la reacción conservadora Guido Cordero. El fortín sitiado: progreso y racismo en Argentina Rafael Loayza Bueno. Bolivia: el imaginario racial«blanco» bajo el gobierno de los«indios» Marco Avilés. Lo bueno, lo malo y lo cholo. Postales sobre el racismo desde el Perú(2017-2019) Claudia Briones/ Patricio Lepe-Carrión. Wallmapu o las nuevas formas de la «peligrosidad mapuche» Guillermo Nugent. El laberinto de la choledad, casi tres décadas después ENSAYO François Dubet. ¿El fin de la sociedad de clases? SUMMARIES 293 MAYO-JUNIO 2021 PENSAR LAS DESIGUALDADES EN AMÉRICA LATINA COYUNTURA Javier Rodríguez Sandoval. El voto nulo y el triunfo de la derecha en Ecuador TRIBUNA GLOBAL Susanna Ligero. Raza, biología y poder. Entrevista a Angela Saini TEMA CENTRAL Gonzalo Assusa/ Gabriel Kessler. ¿Percibimos la desigualdad«realmente existente» en América Latina? Elizabeth Jelin. Género, etnicidad/raza y ciudadanía en las sociedades de clases. Realidades históricas, aproximaciones analíticas Juan Pablo Pérez Sáinz. Marginación social y nudos de desigualdad en tiempos de pandemia María Mercedes Di Virgilio. Desigualdades, hábitat y vivienda en América Latina Constanza Tabbush. La pandemia, una encrucijada para la igualdad de género Gioconda Herrera. Migraciones en pandemia: nuevas y viejas formas de desigualdad Evangelina Martich. Salud y desigualdad: la pandemia reforzó lo que ya sabíamos Inés Dussel. Escuelas en tiempos alterados. Tecnologías, pedagogías y desigualdades Fernando Filgueira/ Rubén M. Lo Vuolo. Oportunidades, espejismos y bloqueos de la renta básica universal Alejandro I. Canales. Demografía de la desigualdad ENSAYO Martín Bergel. El socialismo cosmopolita de José Carlos Mariátegui SUMMARIES E n nuestro próximo número SEPTIEMBRE-OCTUBRE 2021 295 Agitación en América Latina www.nuso.org Julio-Agosto 2021 NUEVA SOCIEDAD | 294 ¿Qué sabemos de la inteligencia artificial? COYUNTURA María Victoria Murillo Protestas, descontento y democracia en América Latina TRIBUNA GLOBAL Ahmet Insel La Turquía de Erdoğan: un autoritarismo electivo y autocrático TEMA CENTRAL Enzo Ferrante Inteligencia artificial y sesgos algorítmicos. ¿Por qué deberían importarnos? Martín Ariel Gendler Internet, algoritmos y democracia. ¿Del sueño a la pesadilla? Sofía Scasserra La desigualdad automatizada Leonardo Fabián Sai ¿Qué es el capital cibernético? Sebastián Sanjurjo Hacia un mundo digitalizado Juan Manuel Ottaviano La amenaza fantasma. Inteligencia artificial y derechos laborales Daniela Muradas Antunes Inteligencia artificial: el derecho y el revés Carolina Martínez Elebi Inteligencia artificial aplicada a la salud. Luces y sombras Johanna Caterina Faliero Limitar la dependencia algorítmica Paul Nemitz La democracia en la era de la inteligencia artificial ENSAYO Christophe Prochasson El socialismo, una cultura