Marga Padilla (Barcelona, 1957) explica que el libro Inteligencia artificial: jugar o romper la baraja<\/i> (Traficantes de sue\u00f1os, 2025) surge de un impulso inicial: las dudas de algunas de sus colegas sobre la cuesti\u00f3n laboral y c\u00f3mo la inteligencia artificial (IA) aterriza sobre un mont\u00f3n de profesiones como un atajo para la desvalorizaci\u00f3n del trabajo humano. Padilla es programadora y una referente de los movimientos de la cultura libre, en los que lleva d\u00e9cadas participando; alguien que trabaja en una nube de unos y ceros y que participa en los procesos sociales y las relaciones que transcurren fuera de la m\u00e1quina. De esa experiencia combinada surge un libro que sirve como caja de herramientas tanto para entender la inteligencia artificial como para imaginar y conocer otras formas de uso.<\/p>\n
\u201cLa inteligencia artificial recorre todos los hitos de la vida: lo laboral, lo personal, los cuidados, lo econ\u00f3mico, lo colonial. Y permite hacerse cargo de los problemas de \u00e9poca, entender c\u00f3mo es la \u00e9poca que estamos viviendo y construir ideas sobre ello\u201d sostiene Padilla, que cree que el escenario actual no es deprimente sino interesante, dado que permite pensar en lo humano, lo tecnol\u00f3gico y lo bioqu\u00edmico desde nuevos puntos de vista y que eso abre la puerta para un \u201chackeo\u201d social.<\/p>\n
Para eso, defiende, hay que separar el envoltorio, el papel de regalo, con el que se presenta la IA actual, impuesto por las grandes empresas de Silicon Valley, de las tecnolog\u00edas que subyacen a esos envoltorios. \u201cSe llama de la misma forma a cosas que son muy distintas y eso genera confusi\u00f3n y no permite entender qu\u00e9 es la IA\u201d, explica esta autora. Bajo esa etiqueta en auge se engloban desde herramientas de selecci\u00f3n de objetivos en la guerra hasta algoritmos para la concesi\u00f3n de becas, desde modelos de aprendizaje de idiomas hasta herramientas de transcripci\u00f3n o traducci\u00f3n. \u00bfC\u00f3mo discernir si la IA puede ayudarnos a transformar la realidad o si, por el contrario, solo consolida el poder que est\u00e1 dirigiendo al mundo hacia crisis irresolubles como el calentamiento global? Padilla apuesta, en primer lugar, por comprender qu\u00e9 funciones tiene la tecnolog\u00eda base: para qu\u00e9 puede servir, y despu\u00e9s, intervenir socialmente para que esa tecnolog\u00eda sea abierta, debatible, auditable y que se pueda compartir. A partir de ese momento, ser\u00e1 m\u00e1s sencillo entender cu\u00e1l es el alcance real de la inteligencia artificial sobre nuestras vidas y c\u00f3mo podemos huir de la profec\u00eda de que la tecnolog\u00eda terminar\u00e1 por hacer de los humanos piezas de museo.<\/p>\n
\u00bfTiene sentido aplicar modelos de inteligencia artificial a todo tipo de procesos sociales?
\n<\/b>La respuesta es similar a si nos preguntamos si el coche es \u00fatil. El coche es una tecnolog\u00eda que mata gente, contamina, ocupa el espacio p\u00fablico, hace ruido, etc., pero nos lleva de un sitio a otro. Si fuera un medicamento no cumplir\u00eda ninguno de los preceptos para ponerlo en uso y, sin embargo, quitarlo de en medio es misi\u00f3n imposible. Entonces, la pregunta por la utilidad de la inteligencia artificial es complicada. No hemos de ver el algoritmo como algo aislado, sino en la cadena de uso. O sea, no fijarse en un coche suelto, sino en todo el sistema que ha creado el veh\u00edculo privado.<\/p>\n
En el libro examinas VioGen, el sistema basado en IA del Ministerio del Interior para hacer predicciones sobre el nivel de riesgo de violencia de g\u00e9nero. \u00bfEs uno de los casos donde es m\u00e1s controvertido su uso?
\n<\/b>VioGen a lo mejor es una herramienta medianamente \u00fatil, pero ser\u00eda necesario que las personas que la usan tuvieran formaci\u00f3n para hacer una evaluaci\u00f3n personalizada. El algoritmo es \u00fatil realmente en estos casos si las personas tienen formaci\u00f3n, hacen una evaluaci\u00f3n y despu\u00e9s el algoritmo hace una segunda evaluaci\u00f3n, de tipo estad\u00edstico, que puede confirmar o reforzar lo que han decidido las personas, o que les hace cambiar de opini\u00f3n. La cuesti\u00f3n no est\u00e1 en el algoritmo suelto, est\u00e1 en toda la cadena. En una cadena de montaje, el algoritmo es una pieza y su utilidad depende de c\u00f3mo se usa. Cuando se monta la cadena de forma que primero el algoritmo da su veredicto y despu\u00e9s la persona lo confirma \u2014acepta el sesgo de autoridad y no se ve legitimada para cambiar lo que ha dicho el algoritmo\u2014, me parece que es un acoplamiento poco \u00fatil. Pero con otras formas de acoplamiento puede haber una manera enriquecedora de usar estas tecnolog\u00edas.<\/p>\n
\u00bfC\u00f3mo te imaginas un proceso en el que no desvalorice, sino que coadyuve al trabajo humano?
\n<\/b>Creo que el problema no es la ayuda al trabajo humano, sino la remuneraci\u00f3n de ese trabajo. Una persona que hace traducciones, igual que tiene un diccionario online, puede tener unos automatismos que asesoren o que sugieran c\u00f3mo hacer traducciones. Creo que nadie estar\u00eda en contra de ese uso. Dicho de otra manera, se abre la oportunidad de un nuevo sindicalismo que valorice la remuneraci\u00f3n y, si es preciso, se llegue a una renta b\u00e1sica. Lo que pide la situaci\u00f3n es un nuevo sindicalismo y no volver otra vez a la defensa del copyright, que no nos va a salvar de nada. Ese no es el camino que elegimos cuando optamos por la cultura libre.<\/p>\n
Es decir, que la lucha contra las corporaciones no ser\u00eda tanto reclamar que paguen un peque\u00f1o porcentaje a cada creador cuyas obras han utilizado para alimentar la IA, lo cual es casi imposible, sino que una renta b\u00e1sica ser\u00eda m\u00e1s justa para todo el mundo. Porque en el fondo la IA est\u00e1 bebiendo de lo que se ha creado colectivamente.<\/strong> Cuestionas la afirmaci\u00f3n que dice que la tecnolog\u00eda es neutral y que es el uso el que no es neutral. \u00bfPodr\u00edas explicar por qu\u00e9?<\/strong> Abrir las \u201ccajas negras\u201d, esto es, desmontar el control privado del software, es una de las reivindicaciones cl\u00e1sicas de la cultura libre, pero \u00bfhay otros factores que sean igual de importantes que esa apertura de las cajas negras?<\/strong> Un ejemplo.<\/strong> \u00bfC\u00f3mo se forman esas comunidades?<\/strong> Se\u00f1alas que la IA no solo es una tecnolog\u00eda, sino que lleva consigo una ideolog\u00eda. \u00bfQu\u00e9 nos dice la ideolog\u00eda de la IA?<\/strong> Nos llama la atenci\u00f3n lo que dices al final del libro, \u00abla ideolog\u00eda de la IA considera que la vejez o la enfermedad son errores de dise\u00f1o en lo humano\u201d.<\/strong> Esos grandes empresarios presentan el futuro de la IA en t\u00e9rminos apocal\u00edpticos, con la vieja idea de los robots matando a gente por la calle a lo Terminator. Pero parece que todos los dem\u00e1s problemas que ya estamos viendo asociados a la inteligencia artificial se eluden. \u00bfPor qu\u00e9 crees que se insiste tanto en esas visiones por parte de estos grandes empresarios?<\/strong> Es que los \u00faltimos dos a\u00f1os, a ra\u00edz del genocidio de Gaza, se ha puesto much\u00edsimo \u00e9nfasis en la selecci\u00f3n algor\u00edtmica y la IA militar. Una de las cuestiones principales de ese uso es la inexplicabilidad: las cajas negras que nos impiden saber c\u00f3mo se ha llegado a esa decisi\u00f3n \u00bfQu\u00e9 supone que se est\u00e9 usando una selecci\u00f3n algor\u00edtmica de adjetivos que posteriormente nadie pueda explicar?<\/strong> \u00bfC\u00f3mo se resuelve este problema?<\/strong> Hace diez, 15 a\u00f1os hab\u00eda una visi\u00f3n muy optimista de las posibilidades que daban las redes sociales e internet y eso se ha venido abajo. \u00bfHa cambiado tu visi\u00f3n en estos a\u00f1os o ya eras esc\u00e9ptica entonces?<\/strong> Defiendes que la inteligencia artificial puede ser portadora de horizontalidad. \u00bfC\u00f3mo puede ayudarnos a alcanzar esa soberan\u00eda tecnol\u00f3gica popular la propia herramienta?<\/strong>
\nDigo esto desde el cari\u00f1o, pero hay muchos manifiestos de creadores que se quejan contra la IA porque se les expropia su obra y se usa para alimentar inteligencias artificiales sin remuneraci\u00f3n, pero no hay una reivindicaci\u00f3n que vaya m\u00e1s all\u00e1. Creo que ese camino es corto, no lleva a grandes alianzas ni a grandes movilizaciones, y me parece imposible impedir que se use la IA, porque gran parte de la sociedad la abraza con los brazos abiertos. Hay que buscar d\u00f3nde est\u00e1n las grietas. Yo no tengo ahora la soluci\u00f3n, pero para m\u00ed ser\u00eda muy interesante resituar el peso que debe tener el trabajo remunerado en la vida, y reconocer todo el trabajo con el que est\u00e1s contribuyendo socialmente. Hay que crear conflicto, pero desde mi punto de vista ser\u00eda un conflicto que no impugne la tecnolog\u00eda base en s\u00ed, en tanto que esa tecnolog\u00eda es fruto de una creatividad y un conocimiento social, sino que impugnar\u00eda las l\u00edneas de ensamblaje donde est\u00e1 metida. Eso es compatible con aprender, con amar la tecnolog\u00eda, con hackear, con disfrutar con el c\u00f3digo.<\/p>\n
\nUn ejemplo es la l\u00f3gica que subyace a los productos de Apple, que concibe que el usuario solo puede empeorar las cosas, porque se va a poner a toquetear y con su ignorancia lo va a estropear todo. Si haces un ordenador para una persona que tiene deficiencias cognitivas, a lo mejor es una buena soluci\u00f3n que no pueda tocar nada. Pero para una persona de veintipocos a\u00f1os que tiene ganas de aprender, es una p\u00e9sima soluci\u00f3n. Por eso creo que es muy importante contemplar toda la cadena de uso donde algo se implanta, para ver los efectos que tiene. Al fin y al cabo, la tecnolog\u00eda es cultura y la cultura es una creaci\u00f3n humana. En este mundo no hay nada neutro, ser\u00eda raro que lo fuera la tecnolog\u00eda. Esta responde a intereses, a relaciones de poder, pero tambi\u00e9n a conflictos y luchas. No todo es dominaci\u00f3n, tambi\u00e9n hay resistencias, autoorganizaci\u00f3n y maneras de componer otras l\u00f3gicas.<\/p>\n
\nEn la historia del software libre se da mucho peso a la cuesti\u00f3n de las licencias, porque fue la manera jur\u00eddica de blindar los derechos al uso, al conocimiento, a la modificaci\u00f3n y a la redistribuci\u00f3n. Pero hay algo no menos importante que no est\u00e1 blindado jur\u00eddicamente: la comunidad como instituci\u00f3n que custodia el software libre. Abrir la caja negra yo sola en mi casa puede estar bien para mi crecimiento personal, pero lo que permite el empoderamiento es la existencia de comunidades articuladas, porque sin comunidad no puede haber soberan\u00eda.<\/p>\n
\nEn Wikipedia hubo un gran debate sobre c\u00f3mo financiarse y una de las opciones era incluir publicidad, y la gente que participaba decidi\u00f3 que no quer\u00edan que hubiese publicidad. Y esa es una decisi\u00f3n que Wikipedia mantiene, porque hay una comunidad que tiene un contrapoder. La licencia y el c\u00f3digo no dejan de ser un instrumento para la soberan\u00eda, y la articulaci\u00f3n de todo eso requiere de comunidades.<\/strong><\/p>\n
\nHay una barrera: la idea de que quien se tiene que organizar es la gente que entiende de tecnolog\u00edas. Eso es como decir que quien se tiene que organizar en la defensa de la sanidad son solo las doctoras; la sanidad es un com\u00fan que se defiende desde muchos puntos de vista. El conocimiento est\u00e1 en la sociedad y con alianzas suficientes se aborda en todos los frentes. Es fundamental no desatender los problemas ciudadanos y dejarlos en manos de expertos y expertas.<\/p>\n
\nAs\u00ed, en un titular, creo que dice que la subjetividad humana es mala, es un fallo en el sistema, algo a superar y eliminar. Pienso que deber\u00edamos tomar esa propuesta y debatirla, reformularla. \u00bfCu\u00e1l es el valor de lo humano? Yo no me niego a pensar en ello, solo que no quiero pensarlo con Google y con Microsoft, sino contigo y con las dem\u00e1s. Vivimos en un mundo poblado de tecnolog\u00edas muy avanzadas que ponen en cuesti\u00f3n facetas de lo que antes consider\u00e1bamos que era lo humano. Hay un cierre identitario que defiende lo humano por encima de todo lo dem\u00e1s, como seres superiores. Ahora es una buen\u00edsima ocasi\u00f3n de abolir esa pir\u00e1mide de superioridad y plantearnos una horizontalidad entre humanos, m\u00e1quinas, y otros seres y formas de vida. Es un tema de \u00e9poca que es apasionante pensar, pero no desde la ideolog\u00eda de los poderosos, sino desde la vida que palpita desde abajo.<\/p>\n
\nConsidera que lo humano es sucio, est\u00e1 lleno de enfermedades, lleno de problemas. El ser humano es tan bobo que est\u00e1 poniendo en crisis el planeta, por lo que necesitamos dotarnos de unos mecanismos que superen esa crisis. Pero cuando se dice que el ser humano est\u00e1 poniendo en crisis el planeta, se hace una totalizaci\u00f3n de lo humano que no tiene en cuenta las relaciones de poder. \u00bfQu\u00e9 humanos? \u00bfD\u00f3nde est\u00e1n? \u00bfQu\u00e9 capacidad de decisi\u00f3n tienen? Se\u00f1alemos con el dedo en lugar de hacer esa totalizaci\u00f3n sobre la humanidad. Estas ideas que consideran a la humanidad sin relaciones de poder no nos sirven para pensar los desaf\u00edos que tenemos.<\/p>\n
\nLo que se\u00f1alan estos miedos a que los robots nos maten son, a mi entender, marcos opresores, porque refuerzan y dan por hecha una relaci\u00f3n de dominaci\u00f3n. \u00bfQui\u00e9n se ha sublevado a lo largo de la historia? Quienes estaban oprimidos, los esclavos. Esa amenaza de sublevaci\u00f3n de las m\u00e1quinas refuerza la idea de que es leg\u00edtimo, natural y bueno tratar a las m\u00e1quinas como nuestros esclavos, como algo que est\u00e1 a mi disposici\u00f3n para hacer lo que le ordeno, que no tiene necesidades. Al final esta idea legitima estructuras de dominaci\u00f3n. Tanto si yo domino a alguien como si alguien me domina a m\u00ed, la dominaci\u00f3n es mala porque no es liberadora. Tenemos muchas narrativas de ciencia ficci\u00f3n en las que los robots se rebelan, pero apenas hay narrativas de colaboraci\u00f3n horizontal con las m\u00e1quinas. Para m\u00ed son las m\u00e1s interesantes, porque para tener una relaci\u00f3n horizontal con las m\u00e1quinas, estas deber\u00edan ser de otra manera: m\u00e1quinas que yo pueda amar, de las que me haga cargo, con las que tenga una relaci\u00f3n social.<\/p>\n
\nLa cuesti\u00f3n es c\u00f3mo se dan por finiquitados los derechos humanos. Hab\u00edamos aceptado, que no cumplido, que la peor persona del mundo, el genocida m\u00e1s despreciable, tiene derechos porque es humano. Y ahora vemos lo contrario, no solo en Gaza, sino con el asesinato de personas en el Caribe por parte de EE UU. Esa idea sobre los derechos humanos es lo que legitima la utilizaci\u00f3n de esas tecnolog\u00edas. Es volver atr\u00e1s, finiquitar una etapa que legitimaba que lo humano en s\u00ed mismo es portador de derechos. Partiendo de ese cambio, la no explicabilidad es un dato menor, porque si puedo tirar bombas masivamente y matar a todo el mundo sin dar explicaciones, usar tecnolog\u00edas que no son explicables no presenta ning\u00fan problema. Ese uso te separa cada vez m\u00e1s: yo a lo mejor no ser\u00eda capaz de estrangular a una persona con mis propias manos, pero quiz\u00e1 s\u00ed ser\u00eda capaz de apretar un bot\u00f3n. El enemigo se deshumaniza, se convierte en un n\u00famero. Cuanto m\u00e1s abstracta sea esa relaci\u00f3n, m\u00e1s f\u00e1cil es ejercer la violencia. Otra cosa son contextos como el Estado espa\u00f1ol, donde todav\u00eda se reconocen los derechos de las personas. En ese caso, usar tecnolog\u00edas que no son explicables es problem\u00e1tico.<\/p>\n
\nLo suyo ser\u00eda poner en marcha auditor\u00edas ciudadanas de todas las inteligencias artificiales, de todos los automatismos que pueden influir en el acceso a los derechos de las personas. La auditor\u00eda no consiste solo en ver el c\u00f3digo, sino en ver c\u00f3mo est\u00e1 afectando a las personas en t\u00e9rminos de justicia. Hay que jugar con toda la baraja: una jugada es oponerse, otra es criticar la legitimidad, y otra es auditar. En contextos como el de la guerra, el error no preocupa porque no hay que rendir cuentas. Pero vivimos en entornos donde el error s\u00ed que preocupa. Por ejemplo, con las mamograf\u00edas en Andaluc\u00eda. Ah\u00ed lo que tenemos que ver es c\u00f3mo mantener organizaciones que se preocupen por el error, porque eso es un contrapoder fuerte que vigila y no permite que todo valga.<\/p>\n
\nEra esc\u00e9ptica, pero lo que yo fuera no viene al caso, porque al final una persona suelta no aporta. Ahora es el momento de recoger ese desencanto y aplicarlo al presente y al futuro, con estas nuevas tecnolog\u00edas que est\u00e1n en una fase m\u00e1s incipiente. La ventana de posibilidad y de transformaci\u00f3n es mayor. Venimos de 15 a\u00f1os de haber experimentado a d\u00f3nde nos han llevado determinados usos de la tecnolog\u00eda, cu\u00e1nto sufrimiento han creado en lo personal, cu\u00e1nta desigualdad en lo social, cu\u00e1nto dinero han permitido acumular. Tenemos la oportunidad de aplicar con esp\u00edritu cr\u00edtico esa experiencia colectiva al nuevo escenario.<\/p>\n
\nLo que tenemos ahora mismo no es portador de liberaci\u00f3n. Lo que podemos construir con ello exige activar la imaginaci\u00f3n, quitar todos esos productos y servicios que nos dan empaquetados e imaginar otras cosas. Y eso no lo puede hacer cada persona en su casa, pensando: se requiere experimentaci\u00f3n. Para eso tenemos que agregarnos, organizarnos y ponernos manos a la obra. Por ejemplo, al hacer una auditor\u00eda nos vamos a enfrentar con muchos problemas, pero esos problemas van a ir transformando la idea. No nos vamos a liberar imaginando de manera idealista y en ausencia de conflicto. Hay suficientes suspicacias, dudas, malestares, miedos, unidos con expectativas positivas para experimentar. No me voy a inventar una IA que vaya a ser mucho mejor que ChatGPT y vaya a resolver todos los problemas de la humanidad. No es cambiar un producto por otro, dejar de usar ChatGPT y usar el ChatGPT libre. Pero si aprovechamos la oportunidad y nos ponemos a trastear, podemos crear otra relaci\u00f3n con la tecnolog\u00eda que sea liberadora. Tenemos que cambiar las reglas del juego y crear otro juego.<\/p>\n