El número 166 de la revista Papeles de relaciones ecososociales y cambio global nos alerta de que vivimos inmersos en un entorno saturado por estas sustancias. Son omnipresentes porque forman parte de una amplia gama de bienes de uso cotidiano. Y, en primer lugar, los plásticos, presentes en bolsas, envoltorios, cosméticos, juguetes, electrodomésticos y ropa.

Una vez producidos, comercializados y consumidos masivamente, los plásticos se desechan y arrojan a vertederos y océanos, donde tardan décadas o incluso siglos en descomponerse, liberando múltiples contaminantes.

Hay muchos otros presentes en nuestros alimentos, agua, suelos y aire. Los hay de toxicidad probada y otros de los que aún se desconoce su peligrosidad, pero todos estos tóxicos se siguen utilizando día tras día, acumulándose en nuestro organismo y afectando nuestra salud de múltiples formas, e incluso llegando a traspasar la placenta materna.

Frente al probado perjuicio de muchas de estas sustancias se esperaría una decidida acción regulatoria por parte de las autoridades nacionales y comunitarias. Sin embargo, la mayor parte de las normas quedan eclipsadas en un limbo o son directamente rechazadas por la acción de múltiples lobbies de la poderosa industria química.

Este número de PAPELES explora algunos ángulos de esta problemática. Abre la revista la Introducción de Santiago Álvarez Cantalapiedra sobre esta problemática.

A Fondo examina la cuestión de los contaminantes químicos como amenazas invisibles a través de los artículos de Joan Benach y Ferran Muntané, Tatiana Santos, Javier Guzmán, y Valeria Berros. La sección Referentes también indaga esta cuestión a través de un perfil y de dos extractos de Primavera Silenciosa, de Rachel Carson, de la mano de Christof Mauch, director del centro de investigación que lleva el nombre de la bióloga marina y referente indiscutible del ecologismo.

Actualidad incluye la primera parte del exhaustivo análisis de Carlos Pereda sobre desigualdad económica en España. En Experiencias, Youssef Ouled examina la racialización que imponen los algoritmos de la inteligencia artificial, mientras que Raúl Garrobo aborda en Ensayo el colapso ecosocial y ecosocialismo. Cierra el número nuestra sección Lecturas.

A continuación, ofrecemos el Sumario del número con los enlaces de descarga del texto completo de los textos de Santiago Álvarez Cantalapiedra que introduce el número y el de Joan Benach y Ferrán Muntané sobre contaminación química.

SUMARIO

INTRODUCCIÓN 
El veneno cotidiano, Santiago Álvarez Cantalapiedra.

A FONDO
Contaminación omnipresente: un límite planetario olvidado, Joan Benach y Ferrán Muntané.
El riesgo químico: una amenaza invisible en la Unión Europea, Tatiana Santos.
Por muy verde que nos lo pinten, Javier Guzmán.
¿Qué nos dicen los litigios ambientales sobre nuestro tiempo?, Valeria Berros.

ACTUALIDAD
Desigualdad económica y dominación en España. Treinta años de crecimiento lento y mal repartido (I), Carlos Pereda.

EXPERIENCIAS
Hablar del racismo y la raza del algoritmo, Youssef Ouled.

ENSAYO
Colapso ecosocial, ecosocialismo y antropología simétrica, Raúl Garrobo Robles.

REFERENTES
La primavera silenciosa de Rachel Carson, Christof Mauch.

LECTURAS
Contra lo común. Una historia radical del urbanismo, Álvaro Sevilla Buitrago
José Luis Fernández Casadevante, «KOIS»

Simbioética. Homo sapiens en el entramado de la vida (elementos para una ética ecologista y animalista en el seno
de una nueva cultura de la tierra Gaiana, jorge Riechmann.
Raúl Garrobo Robles

Se busca: un futuro posible en el que desear vivir, Miguel Brieva.
Manuel Casal Lodeiro

Cobalto rojo. El Congo se desangra para que tú te conectes, Siddharth Kara.
Pedro L. Lomas

Notas de lectura

Límites ambientales y justicia ecosocial. Un diálogo filosófico con la igualdad de capacidades, Cristian Moyano.

FUHEM Ecosocial

El mundo entonces. Una historia del presente, Martín Caparrós.

Puedes adquirir la revista PAPELES en la librería virtual de FUHEM.

Según la autora la creciente adopción de sistemas Inteligencia Artificial (IA) en distintos ámbitos de nuestra vida nos obliga a reflexionar desde una perspectiva ética y política en torno a estas tecnologías. Este artículo aborda tres problemas éticos (libertad, igualdad y crisis ecosocial) relacionados con la IA que buscan ir más allá de los planteamientos éticos más frecuentes y cuestionar no solo la eticidad de las implicaciones de estas tecnologías, sino también los presupuestos morales y políticos que en ella subyacen.

Las tecnologías de inteligencia artificial (IA) han emergido con fuerza durante los últimos años llegando a convertirse en el foco de acaloradas discusiones no solo en el ámbito tecnológico, sino también político, académico, filosófico y la esfera pública en su conjunto. Las promesas de mejora y progreso que se atribuyen a la IA se entremezclan con las preocupaciones que generan los posibles riesgos que estas tecnologías pueden producir tanto a escala individual como en el conjunto de la ciudadanía y los sistemas democráticos.¹

Aunque estos debates son útiles y sin duda necesarios, casi todos ellos asumen 1) que la adopción de la IA es inevitable y 2) que estas tecnologías son neutrales y sus efectos nocivos o beneficiosos dependen del uso que se haga de ellas. En este artículo abordamos brevemente tres grupos de problemas éticos –privacidad, autonomía humana y libertad; sesgos, discriminación e igualdad; y crisis ecosocial– que surgen en torno a la IA y que, de distinto modo, ponen de relieve como estas tecnologías, lejos de ser neutrales, son inherentemente políticas y, por tanto, su adopción responde a un compromiso con ciertos proyectos ideológicos.² Desde esta perspectiva la IA no es un conjunto de tecnologías neutrales, sino una industria que se vale de la extracción y explotación no solo de los recursos naturales, sino también de nuestros datos y nuestros cuerpos.

 Algunos problemas éticos de la IA

Privacidad, autonomía humana y libertad. Una de las componentes esenciales que necesita cualquier sistema de IA para poder funcionar son los datos. Los datos son la información, la experiencia si usamos una metáfora humana, de la que se nutren los algoritmos (los sistemas de reglas) que permiten que la IA funcione. Grosso modo, podríamos decir que los algoritmos aprenden de los datos a extraer las relaciones y los resultados más probables. Identifica patrones que se encuentran presentes en los datos y así puede hacer estimaciones precisas. Por este y otros motivos la recopilación de datos es una práctica que tiene lugar diariamente de forma masiva y que nos afecta a todos.

En este contexto, muchos planteamientos éticos vinculados a la recopilación explotación y uso de los datos se plantean en relación con los problemas que estas prácticas pueden suponer, primero, para la privacidad. Los datos que se recopilan a través de nuestros relojes inteligentes, el consumo de películas y plataformas en streaming, etc, pueden contener y eventualmente revelar información extremadamente privada sobre nuestras vida como nuestra orientación sexual,³ nuestras prácticas sexuales, nuestra vida sentimental, familiar, y muchas otras cuestiones que con casi toda seguridad no compartiríamos con una persona de poca confianza y, aún menos con un extraño.⁴

Pero los problemas relacionados con los datos también pueden producir problemas en relación con la autonomía humana y la libertad individual. En relación con la autonomía humana el problema se encuentra relacionado con la pérdida de la capacidad para pensar y tomar decisiones por nosotros mismos en una sociedad donde el uso de algoritmos de IA es cada vez mayor. Pensemos que cuando Netflix o cualquier plataforma de streaming nos hace una recomendación sobre qué película o serie podríamos ver, casi automáticamente desaparece un abanico entero de posibles contenidos que podríamos haber elegido si hubiéramos sido nosotros los que hubiéramos hecho la selección. El problema aquí no es tanto que la recomendación en base a nuestras elecciones previas, sino nuestra predisposición a mantenernos dentro de las películas seleccionadas por el algoritmo.

En el caso de las plataformas de streaming esto puede ser algo anecdótico, pero ¿qué sucedería si este tipo de sistemas se usaran para recomendarnos que nuevos productos disponibles en el supermercado nos gustarán más en base a nuestras preferencias alimenticias? ¿Y si las recomendaciones fueran sobre qué carrera estudiar, qué universidad elegir, dónde veranear o con quién tenemos más posibilidades de construir una relación sentimental duradera? Nuestra tendencia no solo a considerar, sino en muchos casos a adoptar las recomendaciones de la tecnología puede resultar muy problemática si el número de ámbitos en los que estas actúan aumenta. Aunque seamos nosotros los que creemos tener la última palabra, lo cierto es que este tipo de recomendaciones acotan nuestro rango de actuación y en muchos casos eliminan siquiera la posibilidad de plantearnos otras preferencias, caminos y/o alternativas que rompan con ese sendero que los algoritmos marcan a partir de nuestros gustos previos.

Además de la pérdida de autonomía humana, la recopilación y uso masivo de datos también puede afectar a la libertad individual. En la tradición liberal que predomina en los países occidentales la libertad se entiende como la ausencia de interferencia para actuar de la forma que nosotros consideramos más adecuada siempre y cuando esta se mantenga dentro de los límites que permiten la convivencia dentro de una comunidad política.^5,6 Para ejemplificar como la IA afecta a esta idea de libertad normalmente se recurre al uso que hace China de estas tecnologías. El sistema de crédito social chino funciona a través de la recopilación de ingentes cantidades de datos sobre sus ciudadanos para sancionarlos o premiarlos en función de cómo de “cívica” haya sido su conducta. Así, por ejemplo, a los ciudadanos que hayan acumulado una serie de faltas, como ausencias a citas médicas o cruzar la calle con un semáforo en rojo, puede llegar a prohibirles realizar vuelos internacionales.⁷ En este sentido, resulta evidente como ciertas formas de uso de nuestros datos puede entrar en conflicto con la libertad individual de las personas.

El sistema de crédito social chino funciona a través de la recopilación de ingentes cantidades de datos sobre sus ciudadanos para sancionarlos o premiarlos

Aunque en Europa este tipo de sistemas estarán prohibidos según la regulación de IA,⁸ cabría preguntarse hasta qué punto, por ejemplo, el uso de sistemas de IA para determinar a qué personas se les otorga un crédito bancario y a quiénes se les deniega, controlar las fronteras, otorgar visados, etc., constituyen o no actos contrarios a la libertad. Si atendemos a otras formas de entender la libertad que se salgan del marco del liberalismo como, por ejemplo, la que se maneja dentro del marco del republicanismo donde la libertad no se entiende con relación al individuo, sino a la comunidad en su conjunto,⁹ entonces encontramos que es posible que los sistemas de IA preserven la libertad individual, es decir, no interfieran en nuestra vida, y, sin embargo, no nos permitan ser ciudadanos libres.¹⁰

El concepto de libertad como no dominación que opera en el seno del republicanismo muestra cómo, a ojos del liberalismo, un esclavo podría ser considerado libre si tuviera un amo muy bueno que le permitiese hacer lo que quisiera. El hecho de que el esclavo elija sus actos no le hace menos esclavo, pues siempre se encuentra bajo el control de su amo. En este sentido, el republicanismo y sus versiones contemporáneas ofrecen unas nuevas lentes con las que problematizar la IA y ser más críticos con estas tecnologías .

Estas reflexiones apuntan a que aún en aquellas circunstancias en las que la IA no llegase a interferir directamente en nuestra vida, el hecho de que estas tecnologías se materialicen en todos los ámbitos de nuestra vida convierte a las empresas que recopilan nuestros datos en dueños de nuestras vidas.

El republicanismo y sus versiones contemporáneas ofrecen unas nuevas lentes con las que problematizar la IA y ser más críticos con estas tecnologías

En el capitalismo de la vigilancia en el que son otros los que disponen de nuestros datos y los que eligen cómo y cuándo usarlos, nosotros, la ciudadanía, dejamos de ser libres¹¹.

Sesgos, discriminación e igualdad. En relación con los datos no solo importa cuántos datos se recopilen. También hay problemas éticos que surgen en función del tipo de datos que se usen para nutrir los sistemas IA. Como mencionábamos en el apartado anterior la IA aprende de los datos con los que se le entrena, principalmente, buscando patrones de repetición que le permitan identificar las relaciones más probables en función de la frecuencia. El entrenamiento y uso de datos de mala calidad y poco representativos en el caso de la IA puede producir problemas de discriminación y, por tanto, resultados que generan situaciones incompatibles con la justicia entendida en términos de igualdad.¹²

Los problemas de discriminación en la IA pueden tomar distinta forma y se pueden deber a cuestiones de raza, etnia, género, clase social, religión, lenguaje, etc.¹³ Estos problemas se producen cuando los datos de los que se nutren los sistemas de IA no son representativos y, al contrario, tiende a sobrerrepresentar a unos colectivos frente a otros. En la medida que la IA, como sucede de manera generalizada en el ámbito científico-tecnológico, es marcadamente androcéntrica los datos suelen representar con mayor frecuencia a los hombres blancos antes que a cualquier otro grupo de personas. Así, desde que estas tecnologías han empezado a operar entre nosotros se han ido descubriendo este tipo de sesgos que generan discriminación.

Para ilustrar esta problemática podemos usar el ejemplo del sistema IA que hace unos años puso en marcha Amazon para optimizar su proceso de selección de personal y elegir a los mejores candidatos para un puesto.^[14 Sin embargo, al poco tiempo de tener en funcionamiento este sistema, la compañía se dio cuenta de que a los currículums de mujeres se les asignaba, de manera sistemática, una puntuación más baja que a la de los hombres. Tras analizar qué estaba sucediendo descubrieron que en los datos con los que se había entrenado al algoritmo, que procedían de los procesos de selección de personal de la empresa durante los 10 años anteriores, había una desproporcionada presencia de hombres. Esto provocó que el algoritmo encontrase un patrón de repetición claro: si en el pasado más hombres se habían presentado para ocupar un puesto y habían sido seleccionados, entonces debe ser que ellos son más aptos para ese cargo. De este modo que cuando esta IA se puso en funcionamiento empezó a tomar la variable “hombre” como algo positivo, tal y como podría haber sido el tener más años de experiencia en un puesto similar o una formación especializada en el área de contratación.

Como hemos señalado antes, los sesgos también pueden producirse por cuestiones de raza. El proyecto Gender Shades¹⁵ analizó tres sistemas de reconocimiento facial y demostró como los rostros de personas negras eran identificados con menos precisión que los de personas blancas de manera sistemática. Uno de los sistemas, desarrollado por Microsoft, identificaba correctamente el 100% de las caras de hombres blancos, en el caso de los hombres negros el porcentaje de aciertos era del 94%. Las cifras de IBM eran incluso peores, frente al 99,7% de hombres blancos correctamente identificados el de hombres negros era del 88%. Si al color de la piel le sumamos la variable del género, entonces la diferencia es aún mayor. Frente al 100% de hombres blanco bien identificados por el sistema de Microsoft, este solo acertaba con el 79,2% de las mujeres negras. En el caso de IBM la diferencia era del 99,7% para los hombres blancos al 65,3% para las mujeres negras.

Un sistema de IA de Amazon asignaba a los curriculums de mujeres, de manera sistemática, una puntuación más baja que a los hombres

Estos y otros ejemplos muestran como la IA está sesgada en distintos sentidos, produce situaciones discriminatorias y evidencia de falta de neutralidad. Estos problemas no son fallos o errores puntuales que se den en la tecnología, sino que son el resultado de una forma de pensar, entender y hacer ciencia y tecnología desde presupuestos marcadamente androcéntricos y blancos. La IA, como el resto de las tecnologías, ha sido (y continúa siendo) imaginada, diseñada y usada no solo en el marco de un sistema patriarcal, sino también capitalista en el que la norma, el dato estándar, es el del hombre blanco occidental. Esta realidad que permea las estructuras de la IA , y todas las disciplinas científico-técnicas, son el verdadero motivo de las sistemáticas discriminaciones y situaciones de desigualdad producidas por la tecnología y evidencia que estas son indisociables de proyectos ideológicos, así como ciertos contextos políticos y sociales. Si buscamos construir sociedades justas en la que todos los ciudadanos y ciudadanas sean libres e iguales, entonces debería ser una prioridad no solo acabar con los sesgos, sino cuestionar el proyecto actual de IA. La tarea por delante no es sencilla, la igualdad en la IA no solo depende del uso de bases de datos que representen en igualdad de condiciones a los colectivos que se verán afectados por sus decisiones y/o recomendaciones, también implica revisar los propios fundamentos tecnológicos, científicos, políticos, económicos y sociales que han permitido que la IA surja con tanta fuerza y amenace con convertirse en un ser omnipresente en nuestra sociedad.

Crisis ecosocial. Desde finales del s. XX las tecnologías digitales han sido presentadas como radicalmente contrarias a las tecnologías industriales de la primera y la segunda revolución industrial y, por tanto, como limpias, respetuosas con el medioambiente, casi independientes de infraestructura y normalmente asociadas a trabajos de gran valor social que necesitan de alta cualificación. Así lo reflejan los distintos discursos sobre tecnologías como la IA que se encuentran plagados de metáforas ecológicas como “la nube”, “redes neuronales”, “montañas de datos”, “granjas de datos”, etc., que nos hacen relacionar estas tecnologías con el respeto a la naturaleza y un futuro verde.¹⁶ Metáforas que tratan de ocultar una realidad muy distinta: que la IA, lejos de ser un ente casi etéreo similar a una nube, es tan material y contaminante como una mina .

De la mina proceden los materiales que se necesitan para fabricar las tecnologías de IA. Materiales como el cobre, el níquel, el litio, las tierras raras, etc., se han convertido en elementos esenciales cuya extracción genera un impacto ecológico tremendo y su apropiación, conflictos geopolíticos serios. Y es que, por un lado, buena parte de estos materiales críticos, también conocidos como CRM,¹⁷ se encuentran en suelo chino y ruso, así como en otros países como Brasil, India, Chile, Bolivia, etc. Solo una pequeña parte de ellos se encuentra en territorio europeo. Por otro lado, las prácticas de extracción asociadas a la minería producen erosión, pérdida de biodiversidad, devastación de la vegetación cercana, contaminación de las aguas, deforestación, etc. Además, la minería, el refinamiento de materiales, la manufactura fuera de Europa, etc., suele estar vinculada a unas condiciones laborales pésimas para los trabajadores implicados.¹⁸

Los sesgos que permean las estructuras de la IA evidencian que estos sistemas son indisociables de proyectos ideológicos y de ciertos contextos políticos y sociales

Una vez se dispone de los materiales adecuados y estos son manufacturados su transporte a Europa también produce un impacto ecológico importante. En 2017, el transporte a través de barcos mercantes, utilizados, entre otros fines, para transportar los productos y las tecnologías de IA, fue responsable del 3,1% de las emisiones globales de CO2, lo que supera, por ejemplo, las emisiones producidas por un país como Alemania.¹⁹ Asimismo, los cables submarinos a través de los cuales se transmite gran parte de la información que necesita la IA para funcionar producen un impacto medioambiental muy alto y son una realidad normalmente opacada al hablar de IA.

La minería, el refinamiento, la manufacturación y el transporte ponen de relieve que lejos de ser realidades no contaminantes, la IA es un grupo de tecnologías que necesita de una amplísima infraestructura (mucho mayor que la de las tecnologías industriales) para funcionar. Una infraestructura que se extiende también dentro de las fronteras europeas. Los centros de datos donde se almacena la información –nuestros datos– que usa la IA también son realidades materiales que permanecen con frecuencia ocultas y que, sin embargo, consumen una gran cantidad de energía. En el año 2018, los centros de datos europeos consumieron el 2,7% de la energía eléctrica producida en la UE y las predicciones más optimistas, en el caso de que las ganancias en eficiencia energética crezcan al mismo ritmo que el consumo, estiman que este alcance el 3,21% en 2030. En el caso de que eficiencia y consumo no vayan de la mano este último podría alcanzar el 6%.²⁰

Y es que, ya en 2011, si la computación en la nube fuera considerado un país, esta sería el sexto país del mundo que más energía eléctrica demanda.²¹ Entre 2012 y 2014 la industria de las tecnologías de la comunicación y la información (TIC) consumió tanta energía eléctrica como el tercer país más contaminante del mundo, solo detrás de EEUU y China.²² También el entrenamiento de algoritmos como ChatGPT y otros grandes modelos de lenguaje consume grandes cantidades de energía que suelen ser pasadas por alto . Se estima que entrenar a ChatGPT-3 ha «generado 500 toneladas de CO2, el equivalente a ir y volver a la Luna en coche».²³ Además, «el uso que se habría hecho de electricidad en enero de 2023 en OpenAI, la empresa responsable de ChatGPT, podría equivaler al uso anual de unas 175.000 familias danesas»,²⁴ aunque se apunta que estas familias no son las que más consumen en Europa.

El entrenamiento de algoritmos como ChatGPT y otros grandes modelos de lenguaje consume grandes cantidades de energía, algo que se suele pasar por alto

Finalmente, el reciclaje de los desechos electrónicos que se derivan del uso masivo de tecnología, entre ellas las de IA, no es todavía una práctica totalmente extendida en la UE. Gran parte de estos desechos se trasladan a países como Ghana o Pakistán donde son acumulados produciendo un deterioro del entorno y las especies que lo habitan a través de la acidificación de las aguas, la expulsión de gases tóxicos, la pérdida de biodiversidad, etc. Esta realidad pone de relieve una forma de funcionamiento de la IA muy distinta a la narrativa de los datos y los algoritmos que solemos escuchar. Al contrario, plantea serias dudas sobre si los discursos políticos, económicos y académicos qué presentan a la IA como una aliada fundamental para luchar contra el cambio climático están o no en lo cierto y si esta no sirve más bien para hacer greenwashing y seguir justificando y legitimando el consumo ilimitado en Occidente sin importar el impacto socioecológico que ello implique.

Conclusiones

Los problemas éticos que hemos expuesto en este texto son solo algunos de los que surgen en torno al diseño, adopción y uso de estas tecnologías.²⁵ La elección de estos y no otros se debe a que apuntan a problemas de fondo asociados el proyecto de IA en su conjunto, no a una simple enumeración de debates éticos que parten de la asunción de que dicho proyecto es bueno y/o deseable en sí mismo. El impacto socioecológico de la IA, junto a sus implicaciones para la libertad, las mujeres y otros colectivos vulnerables, pone de relieve que estas tecnologías son mucho más que sistemas enfocados a tomar decisiones iguales o mejores que las humanas, sino que más bien constituyen una idea, una forma de entender y ejercer el poder, una infraestructura y una industria extractivista de nuestros de recursos naturales, nuestros datos y nuestros cuerpos. En este sentido, la reflexión ética y política sobre la IA nunca debería limitarse a asumir los marcos tecnooptimistas que se nos imponen dentro del capitalismo y, más bien, debería a apuntar hacia como construir futuros ecológicos y socialmente justos en los que la tecnología no sea la única solución a nuestros problemas y la vía preferencial hacia el progreso.

Lucía Ortiz de Zárate Alcarazo es investigadora en Ética y Gobernanza de la Inteligencia Artificial (IA) en la Universidad Autónoma de Madrid (UAM) e investigadora asociada en el Círculo de Bellas Artes de Madrid.

La imagen de portada es de Javier Muñoz.

NOTAS

¹ Mariarosaria Taddeo y Luciano Floridi, «How AI can be a force for good», Science, 361(6404), 2018, pp. 751-752.

² Langdon Winner, El reactor y la ballena, Gedisa, 2013.

³ Ryan Singel, «Netflix Spilled Your Brokeback Mountain Secret, Lawsuit Claims», Wired, 17 de diciembre de 2009, disponible en:

⁴ Carissa Veliz, Privacidad es poder, Debate, 2021.

⁵ John Stuart Mill, Sobre la libertad, Alianza, 2013.

⁶ Isaiah Berlin, Sobre la libertad, Alianza, 2017.

⁷ Charlotte Jee, «China’s social credit system stopped millions of people from buying travel tickets», MIT Technology Review, 4 de marzo de 2019.

⁸ Lucía Ortiz de Zárate Alcarazo, «La regulación europea de la IA», ABC, 21 de marzo de 2023.

⁹ Quentin Skinner, Liberty before Liberalism, Cambridge University Press, 2012.

¹⁰ Filip Biały, «Freedom, silent power and the role of an historian in the digital age–Interview with Quentin Skinner», History of European Ideas, 48(7), 2022, pp. 871-878.

¹¹ Shoshana Zuboff, La era del capitalismo de la vigilancia. La lucha por un futuro humano frente a las nuevas fronteras del poder, Paidós, 2020.

¹² Lucía Ortiz de Zárate Alcarazo, «Sesgos de género en la inteligencia artificial», Revista de Occidente, 502, 2023.

¹³ Naroa Martinez y Helena Matute, «Discriminación racial en la Inteligencia Artificial», The Conversation, 10 de agosto de 2020.

¹⁴ Jeffrey Dastin, «Amazon scraps secret AI recruiting tool that showed bias against women», Reuters, 10 de octubre de 2018.

¹⁵ Toda la información sobre el proyecto está disponible en: https://gendershades.org/index.html

¹⁶ Allison Carruth, «The digital cloud and the micropolitics of energy», Public Culture, 26(2), 2014, pp. 339-364.

¹⁷ De sus siglas en inglés Critical Raw Materials.

¹⁸ Kate Crawford, Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence, Yale University Press, 2021.

¹⁹ Zoe Schlanger. «If Shipping Were a Country, It Would Be the Sixth-Biggest Greenhouse Gas Emitter», Quartz, 17 de abril de 2018.

²⁰ Francesca Montevecchi, Therese Stickle, Ralph Hintemann, Simon Hinterholzer, Energy-efficient Cloud Computing Technologies and Policies for an Eco-friendly Cloud Market, Comisión Europea, 2020.

²¹ Tom Dowdall, David Pomerantz y Yifei Wang, Clicking Green. How companies are creating the green internet, Greenpeace, 2014.

²² Adrián Almazán, «¿Verde y digital?», Viento Sur: por una izquierda alternativa, 173, 2020, pp.61-73.

²³ Manuel Pascual, «El sucio secreto de la Inteligencia Artificial», El País, 23 de marzo de 2023.

²⁴ Ibidem

²⁵ Mark Coeckelbergh, Ética de la inteligencia artificial, Catedra, 2021.

Acceso al artículo a texto completo en formato pdf:  Una ética para la inteligencia artificial: libertad, feminismo y ecologismo

El cinco de mayo de este año, el director de la OMS anunció el fin del estado de emergencia sanitaria internacional por la COVID-19.

Esto no significa que haya terminado la pandemia y sus secuelas y, mucho menos, las causas finales que la provocaron. Aún está por ver si el SARS-CoV-2 se vuelve estacional o si se sucederán nuevos brotes a partir de distintas variantes en diferentes estaciones del año. Tampoco se ha encarado la asignatura pendiente del «COVID persistente», que sufre actualmente en torno al 10% de las personas que padecieron la pandemia.

La emergencia sanitaria se cruzó con la emergencia climática, y las dos emergencias traspasaron, a su vez, otras problemáticas de la crisis ecosocial en la que estamos. Si no hacemos nada (y eso significa: si no vamos a las causas, es decir, si no cambiamos nuestro modo de vida), el factor microbiano y el atmosférico seguirán amenazando nuestra existencia.

Santiago Álvarez Cantalapiedra en este artículo, que constituye la Introducción del número 162 de la revista Papeles de relaciones ecosociales y cambio global, habla de cómo los últimos tres lustros han mostrado signos de lo que cabe esperar del mundo que emerge tras cuatro décadas de orden neoliberal.

En el contexto de un cambio global que no deja de acelerarse –cuya principal manifestación es la convergencia de la escasez de recursos con la pérdida irreversible de biodiversidad y la desestabilización abrupta del clima–, hemos asistido durante estos últimos quince años a una crisis financiera descomunal (La Gran Recesión del año 2008), a una pandemia global (la COVID-19 del 2020) y, desde febrero del 2022, a una guerra en Ucrania que acelera la tendencia armamentística que se venía incubando años atrás y que aviva la pesadilla exterminista asociada al Armagedón nuclear. En tiempos de crisis los límites de lo posible se ensanchan en todas direcciones, tanto reaccionarias como emancipadoras, unas veces a favor de las élites y otras en beneficio de las mayorías sociales.

La emergencia de un nuevo orden

La crisis ecosocial, resultante de la combinación de la ecológica con la social, revela hasta qué punto el funcionamiento del capitalismo socava las bases de su reproducción. El capital necesita determinadas condiciones sociales y ambientales para proseguir con su senda de acumulación y, al mismo tiempo, esa tendencia a la acumulación ilimitada socava los procesos de reproducción social y ecológica sobre los que asienta sus cimientos. En este escenario de crisis ecosocial plagado de múltiples incertidumbres y contradicciones es en el que emerge hoy un nuevo orden social.

El consenso neoliberal ha saltado por los aires, asegura Gary Gerstle,¹ y tardaremos al menos una década en terminar de definir cómo será el próximo orden establecido. Así pues, la caída del orden neoliberal y la emergencia de otro indefinido nos muestran que ya estamos viviendo una transición. El problema es la transición: adónde nos conducirá y en qué condiciones.

El orden emergente arranca de la Gran Recesión provocada por la crisis del neoliberalismo² y, aunque todavía sin contornos definidos, empiezan a perfilarse algunos de sus rasgos característicos.

En primer lugar, en este orden emergente vivimos un reajuste del papel del Estado y los mercados. Se empezó a vislumbrar con la crisis del 2008 y los primeros programas de estímulo y de rescate bancario, así como con los intentos –más bien retóricos– de regular el capitalismo financiarizado; aconteció de nuevo, pero con mucha más fuerza, con la pandemia, con la parada forzosa de la economía mundial, la emergencia sanitaria y el reinicio posterior de las economías con la ayuda de ingentes planes de reconstrucción y resiliencia; se ha asentado con la guerra, cuando gastos militares y programas armamentísticos se ven impulsados con nuevos fondos. En tales circunstancias, la presencia y expansión de los ámbitos públicos no solo no son cuestionadas, sino que son alentadas de forma generalizada hasta por quienes no hace mucho promovían un miedo cerval al Leviatán del Estado. Cabe preguntarse si esta mayor intervención pública marcada por las circunstancias tiene visos de consolidarse. Hay motivos para pensar que así será: las diversas facetas de la transición –energética, ecológica, digital, y todas aquellas otras que se quieran añadir– parecen estar reclamando una presencia renovada del Estado. El nuevo papel de la intervención pública no se traduce únicamente en la simple cuestión cuantitativa del incremento del gasto: consiste sobre todo en la redefinición del nuevo rol cualitativo que debe desempeñar el Estado (no solo en sus funciones protectoras y redistribuidoras, sino también en las reguladoras y de impulso de la innovación).³ Se trataría de encontrar la oportuna combinación entre gobiernos proactivos, pero controlados, y mercados dinámicos, pero bien regulados. Sin embargo, el regreso del intervencionismo público acontece en un contexto de involución autoritaria. En Occidente viene acompañado de décadas de retroceso de derechos sociales y vaciamiento democrático tras la aplicación de políticas de ajuste y alianzas público-privadas que fusionan el poder económico con el político;⁴ en Oriente, el capitalismo político o autoritario dirigido por el Estado, ejemplificado perfectamente por China, socava la pretensión de Occidente de afirmar la existencia de un vínculo necesario entre capitalismo y democracia liberal.⁵

En segundo lugar, asistimos a un retroceso de la hiperglobalización vivida durante la década de los noventa del siglo pasado tras el derrumbe del bloque soviético. Las estrategias orientadas a fragmentar, desplazar y reorganizar los procesos productivos mediante subcontrataciones y deslocalizaciones han mostrado sus inconvenientes. Se ha construido una economía demasiado compleja y, por eso mismo, extremadamente vulnerable: la paralización de parte de la producción por la escasez de suministros, el encarecimiento de los carburantes o los problemas en la logística global (debidos no solo a los cuellos de botella creados por la pandemia sino también a hechos como el acontecido en el Canal de Suez por el buque portacontenedores Ever Given) señalan que se ha ido demasiado lejos con la globalización. Ningún país es capaz de controlar su economía. Las principales potencias de Occidente comienzan a replantearse el papel de las cadenas globales de suministro y a reorganizar a través de políticas industriales las actividades que antes habían fragmentado y deslocalizado a miles de kilómetros, haciéndolas pasar del plano mundial a un ámbito de mayor proximidad geográfica (la UE, la economía nacional) para así garantizar el suministro de componentes e insumos considerados estratégicos (microchips, baterías, vacunas, semillas, cereales, fertilizantes, etc.).

Finalmente, los cambios en la geografía económica mundial, cuyo centro de gravedad se desplaza hacia Asia, y el surgimiento de nuevos actores en el escenario internacional –particularmente China, pero también la India con su enorme peso demográfico–, unido a la creciente pugna por unos recursos estratégicos escasos y las exigencias derivadas de la creciente profundización de la digitalización y el colonialismo verde de los países del centro capitalista, aventuran un recrudecimiento de las rivalidades –en todos los planos: el comercial, el tecnológico o el militar– y un incremento de la importancia de la geopolítica para preservar esferas de influencia y garantizar el acceso y la seguridad en el abastecimiento de los recursos.

En este contexto cabe interpretar el escenario surgido de la guerra de Ucrania. Representa el pulso entre potencias nucleares con el pueblo ucraniano como víctima, reflejando un choque de imperios en declive –el ruso y el occidental nucleado en torno a la OTAN– en un momento dominado por el ascenso fulgurante de una nueva figura: China. Una confrontación que se desprende de la pugna entre potencias ascendentes y dominantes en la emergencia de un nuevo orden, y que ha puesto de actualidad el riesgo que el politólogo norteamericano Graham T. Allison quería señalar al utilizar la expresión «trampa de Tucídides»: la amenaza de guerra que se desprende del miedo a perder la hegemonía.⁶ La guerra de Ucrania sería la primera salva militar de una nueva guerra fría entre un Occidente Cuadrilateral –formado por EEUU, Europa, Japón y Oceanía– y un Oriente –liderado por China en alianza con Rusia y sus respectivas zonas de influencia– que puede acabar convirtiéndose en caliente en algún momento de las próximas décadas.

Nuevos consensos en un nuevo orden

Cada orden social representa una determinada configuración de poder definida por juegos de dominación y compromiso (entre alianzas en torno a una potencia, en el plano internacional; y, en el plano interno, entre clases y fracciones de clase). A cada orden le corresponde un discurso ideológico hegemónico que se presenta como “consenso”. El neoliberalismo logró un éxito sin precedentes en este campo. Generó uno aceptado y asumido incluso por sus oponentes, capturados en un espacio del que no pudieron escapar. En este sentido, los gobiernos de Felipe González, Bill Clinton, Tony Blair, Gerhard Schröder o Barak Obama fueron tan neoliberales como los de Margaret Thatcher o Ronald Reagan. El «Consenso de Washington» definió las reglas del juego para la economía mundial durante casi medio siglo y creó el mito de que la democracia liberal era la forma de gobierno universal con el que se clausuraba la historia.

Nada más lejos de la realidad, pues si hay algo que muestra el nuevo contexto geopolítico es precisamente la caída de dos de los principales mitos del orden neoliberal en el plano internacional: el primero, que el crecimiento económico y el libre comercio conducen a los países sin libertades políticas hacia regímenes de gobernanza y libertades asimilables a los occidentales; el segundo mito consistía en la creencia de que el incremento del comercio y las relaciones económicas garantizaría la paz entre las naciones. Uno y otro han sido desmentidos por China y Rusia respectivamente. Según el consenso occidental, China debería haber iniciado la senda hacia las libertades y los derechos civiles y, sin embargo, no es lo que está ocurriendo cuando el círculo de poder se estrecha cada vez más en torno a la figura de Xi Jinping –quien ha conseguido, no lo olvidemos, prorrogar su mandato indefinidamente– y el capitalismo en aquel país se asienta sobre un poderoso Estado autoritario tecnocrático. El mismo consenso llevó al error de pensar que Rusia iba a aguantar paciente, en virtud de los lazos comerciales contraídos con Europa, todas las ignominias y humillaciones que Occidente le ha estado infligiendo desde el derrumbe del bloque soviético.

La realidad internacional, más allá de los mitos, lo que muestra es la emergencia de un mundo que se fragmenta en bloques en un contexto geopolítico marcado por pulsiones autoritarias y amenazas bélicas. Aunque la crisis ecosocial y las problemáticas emergentes reclaman mayor cooperación y multilateralismo, la realidad que va surgiendo viene marcada por un orden multipolar fragmentado y mediado por un bilateralismo de bloques y áreas de influencia.

En el plano interno también se percibe una pérdida de consensos. El neoliberalismo, como orden social, trascendió las divisiones ideológicas presentes en una sociedad. Las diferencias culturales siguieron existiendo, pero armonizadas en torno a un único proyecto y los mismos principios del libre mercado. Convivían, aunque rivalizando entre ellos, neoconservadores y progresistas neoliberales.⁷ Los primeros poniendo el énfasis en los valores del esfuerzo, la responsabilidad y la autoridad, en el legado de la tradición, en la defensa de la familia patriarcal y heterosexual; los segundos, enfatizando el mérito y los valores cosmopolitas que celebran el globalismo y la apertura a nuevas culturas, a la diversidad social y a nuevas tipologías de familia y formas de convivencia ancladas en códigos morales plurales. Diferencias ideológicas que se suelen despachar en forma de guerras culturales, pero que no llevan a impugnar el orden social ni el modo de vida de la civilización capitalista. Sin embargo, a medida que empiezan a percibirse con mayor gravedad las amenazas del avance de la insostenibilidad, el deterioro de las condiciones de vida por el incremento de las desigualdades sociales y las brechas territoriales que comprometen la cohesión social, y el retroceso de las instituciones democráticas corre paralelo al avance del poder de las elites, al repliegue autoritario o a la securitización y militarización de la respuesta a los flujos migratorios y a los desplazamientos forzados de población, el orden político y los consensos se resquebrajan al surgir la necesidad de cuestionar los fundamentos sobre los que se estaba instituyendo el orden emergente. De la mano de movimientos como Occupy Wall Street, el 15-M o los chalecos amarillos, se empieza a destacar la importancia de abordar los temas fiscales y poner coto a los mercados financieros y al poder de las corporaciones, se insiste en la urgencia de una transición ecológica justa que reparta con equidad los costes y los esfuerzos, en la necesidad de erigir redes de seguridad que protejan a la gente de las amenazas que se multiplican,⁸ en suma, se abre el debate sobre el reajuste de las relaciones entre el Estado, la economía y la sociedad, sin olvidar el metabolismo social y la ecología, en el marco de un planeta que se precipita hacia el abismo borracho de (des)información y posverdad.

Sin embargo, nada está decidido. Aún no se ha forjado un nuevo consenso alternativo y el actual orden social continúa indefinido. Las respuestas a las cuestiones estructurales urgentes se van posponiendo porque la combinación de fuerzas no termina de decantarse hacia ningún lado. Mientras tanto, las fuerzas reaccionarias vuelven a la carga con sus cuitas culturales (costumbres y tradición, nación, identidad, ética y moral individuales…), y a su llamada se entra al trapo con tanto entusiasmo como despreocupación por la suerte de miles de millones de personas cuya vida depende de que el orden emergente logre ser más ilustrado y civilizado (o si se prefiere, menos bárbaro) que el saliente.

Santiago Álvarez Cantalapiedra, director de FUHEM Ecosocial y de la revista Papeles de relaciones ecosociales y cambio global

Acceso al texto completo en formato pdf en fuhem.es: Mundo de emergencias.

NOTAS

^] Gary Gerstle, Auge y caída del orden neoliberal, Península, Barcelona, 2023.

² Los órdenes sociales emergen tras profundas crisis en el capitalismo. Desde finales del siglo XIX, momento en el que apareció el capitalismo organizado con rasgos contemporáneos, se han sucedido tres órdenes sociales, cada uno de los cuales empieza y termina con una crisis estructural: la crisis estructural de 1890 inauguró el orden liberal o «primera hegemonía financiera»; la Gran Depresión de los años treinta del siglo pasado abrió la puerta al orden socialdemócrata o «compromiso social keynesiano de izquierdas»; y la crisis de los años setenta del siglo XX, precipitó el comienzo del orden neoliberal o «segunda hegemonía financiera». La Gran Recesión, que se desencadena en el año 2008, representa el inicio del tránsito hacia un orden social emergente cuya suerte aún estaría por decidir.

³ Luis Buendía García (ed), El papel del Estado en la economía. Análisis y perspectivas para el siglo XXI, Catarata/ FUHEM, Madrid, 2023.

⁴ Sheldon S. Wolin, Democracia S.A., Katz, Buenos Aires/ Madrid, 2008.

⁵ Branko Milanovic, Capitalismo nada más. El futuro del sistema que domina el mundo, Taurus, Madrid, 2020.

⁶ Tucídides fue un historiador y general ateniense que escribió Historia de la guerra del Peloponeso, donde se refiere a la pugna entre dos ciudades-Estado de la Antigua Grecia: una Esparta dominante (que lideraba la Liga del Peloponeso) y una Atenas en ascenso (encabezando la Liga de Delos). El profesor de Harvard Graham Allison, en su obra Destined for War: Can America and China Escape Thucydides´s Trap? (Houghton Mifflin Harcourt, Nueva York, 2017), examinó dieciséis enfrentamientos entre potencias ascendentes y dominantes desde el año 1550, señalando que en doce de los casos el desenlace fue el estallido de una guerra.

⁷ Neovictorianos y cosmopolitas los denomina Gary Gerstle (op. cit). La expresión neoliberalismo progresista la tomo de Nancy Fraser, que la define como una suerte de alianza entre ciertas corrientes de los movimientos sociales (feminismo, antirracismo, multiculturalismo y derechos LGTBQ) con las fuerzas del capitalismo cognitivo y financiarizado (Wall Street, Silicon Valley y Hollywood).

⁸ No solo las amenazas climáticas o las vinculadas a nuevas pandemias y crisis financieras, también las que se puedan desprender del factor demográfico, la política, la geopolítica, la inteligencia artificial u otros aspectos de la actual revolución tecnológica. Nouriel Roubini, en su libro Megamenazas (Deusto, Barcelona, 2023), advierte sobre diez de ellas.