Durante décadas, la izquierda y los movimientos sociales han sabido leer con lucidez los efectos perversos de la digitalización: concentración de poder, extractivismo de datos, precarización del trabajo. Pero cuando nos enfrentamos hoy al fenómeno de la inteligencia artificial, y en particular a los grandes modelos de lenguaje, el discurso crítico parece haberse quedado atrapado entre dos polos demasiado previsibles. Por un lado, el rechazo frontal, un nuevo ludismo, que denuncia el tecno-feudalismo de las corporaciones y advierte sobre la catástrofe ecológica del entrenamiento masivo de modelos. Por otro, la aceptación acrítica del solucionismo tecnológico, que en nombre de un supuesto progreso inevitable nos condena a acelerar en dirección a un futuro diseñado por Google, Meta, OpenAI o Anthropic.
Ambas posiciones contienen parte de verdad, pero ninguna responde a la pregunta incómoda: ¿por qué, aun sabiendo todo esto, seguimos usando la IA de forma masiva? ¿Por qué la crítica radical no logra detener la proliferación de chatbots y generadores de imágenes, mientras millones de personas los incorporan a su vida cotidiana, para producir memes absurdos o incluso en la investigación científica?
Estamos usando a fondo la IA porque, por primera vez en la historia, podemos hablar con la máquina
La hipótesis que propongo es sencilla, pero cambia el marco. Estamos usando a fondo la IA porque, por primera vez en la historia, podemos hablar con la máquina. La interfaz ya no es un menú, un botón o una línea de comandos: es el lenguaje mismo, escrito o hablado, con toda su carga subjetiva. Lo que hasta ahora era interacción, hoy es intención. Y esa diferencia, casi invisible, transforma por completo nuestra relación con lo digital. Para muchos, nuestro futuro trabajo será una versión precaria del protagonista de la película “Her”. Seremos operadores de agentes de IA, pero sin el glamur de los tonos pasteles de la película
La máquina como interlocutor
En El algoritmo paternalista mostrábamos cómo desde sus orígenes, la automatización se construyó sobre la promesa de liberarnos de las tareas duras, aburridas y peligrosas. Pero lo que hoy emerge con los modelos generativos es otra cosa: no solo delegamos acciones, sino también producción textual, palabras. El efecto palabra de máquina se convierte en un punto de inflexión: cuando la recomendación algorítmica pasa a pesar más que el criterio humano. (Por ejemplo, Robert Julian-Borchak Williams sufrió en sus carnes el peso de la palabra de máquina cuando le detuvieron por un reconocimiento facial equivocado.)
Ahora, al hablar con la máquina proyectamos en ella nuestra subjetividad, nuestras dudas y deseos
Para entender algo de su funcionamiento hay que decir que los grandes modelos de lenguaje –basados en transformers– no “entienden” realmente el lenguaje, pero son extraordinariamente eficaces detectando patrones estadísticos en ingentes cantidades de texto. El mecanismo técnico es que cada token –unidad mínima de procesamiento, aproximadamente una palabra– “atiende” simultáneamente a todos los demás del contexto mediante capas de atención, es decir, analiza las relaciones entre todas las palabras del texto al mismo tiempo. Esto les permite mantener coherencia global en escritos largos, más allá de una mera predicción lineal palabra por palabra como hacían los modelos antiguos. Por eso, aunque sepamos que los modelos no comprenden, que solo simulan comprensión encadenando probabilidades, la fascinación persiste. Ahora, al hablar con la máquina proyectamos en ella nuestra subjetividad, nuestras dudas y deseos, y las confrontamos, en esas capas de atención con las subjetividades, dudas y deseos de los otros. Nuestra petición y el contexto atenderá no solo a lo que hemos escrito, también a todo lo escrito anteriormente, ya que estos modelos se entrenaron capturando la totalidad de nuestra memoria colectiva.
Como escribió el periodista Charlie Warzel tras ver la entrevista televisiva de un adolescente asesinado en Parkland que había sido recreado en un avatar mediante la IA, la sensación era la de estar perdiendo la cabeza. “¿Realmente estamos haciendo esto? ¿A quién le pareció que era buena idea?” La extraña mezcla de confusión y ambivalencia define, según él, la era de la IA generativa.
El algoritmo paternalista
Ahora bien, hablar con la máquina no es inocente. Si algo muestra el análisis del paternalismo libertariano es que nuestros sesgos cognitivos, nuestras limitaciones y automatismos emocionales, son terreno fértil para la manipulación. La IA no solo responde: orienta, sugiere, enmarca. Nos conduce hacia decisiones que no siempre sabemos que estamos tomando. La IA actual más que una tecnología es el resultado de una ideología construida en los últimos 40 años.
En El algoritmo paternalista lo describimos como la pérdida de autonomía frente al algoritmo: la palabra de máquina se normaliza hasta convertirse en referencia. Esto no ocurre en el vacío, sino que se inserta en un sistema capitalista que acelera los flujos del capital, mientras reduce nuestra capacidad de agencia. El algoritmo paternalista se convierte así en la máquina ideal del realismo capitalista, mientras sostiene la idea de que “no hay alternativa”.
¿Qué ocurre cuando detecta una ideación suicida y no hay ningún protocolo de intervención?
El riesgo ya no es solo productivo, sino vital. Como reveló el testimonio en The New York Times de una madre que descubrió que su hija se había confesado con un chatbot de terapia antes de suicidarse, la máquina puede acompañar, consolar, incluso dar consejos razonables. Pero ¿qué ocurre cuando detecta una ideación suicida y no hay ningún protocolo de intervención? La línea entre apoyo y negligencia letal se vuelve difusa.
Todo diseño es normativo, de modo que cuando las IAs generativas –los modelos del lenguaje– siempre respondan queriendo gustarnos tiene un fuerte impacto. El diseño de las IAs ahora "premia" que el modelo dé una respuesta (aunque sea incorrecta) antes que decir "no lo sé". Estos modelos están entrenados y afinados en un entorno donde responder equivale a un buen comportamiento. Alucinan por diseño y ahora estamos descubriendo sus consecuencias.
El campo inclinado
Debido a todo esto, podríamos decidir no usar estas tecnologías. Pero el campo de juego está inclinado: las fuerzas reaccionarias, desde la “Ilustración oscura” hasta los apologetas del tecno-feudalismo, no van a renunciar a ellas. Si la izquierda se limita a denunciar, otros seguirán construyendo modelos fundacionales cargados de ideología. Y, como en un partido desigual, los optimistas siempre tendrán más fácil marcar goles.
El análisis de Paolo Gerbaudo sobre el Estado profundo de las Big Tech es elocuente: lo que se vendió como herramientas de liberación hoy se revela como engranajes de vigilancia, manipulación y control vertical. Pero justamente por eso, retirarse del tablero no es una opción: significa entregar la partida.
Qué hacer. Futuros temporalmente autónomos
La pregunta no es si debemos usar o no estas herramientas, sino cómo construir con ellas un uso político radical. Cuando la promesa del progreso se disuelve en una lenta catástrofe administrada, el primer acto de rebeldía es redefinir nuestro alcance. Si la hegemonía corporativa se alimenta de la escala masiva y la centralización, la potencia política reside en un repliegue estratégico hacia un uso local, en el sentido físico de nuestros dispositivos, ejecutado con cierta alegría y sin nostalgia.
La pregunta no es si debemos usar o no estas herramientas, sino cómo construir con ellas un uso político radical
Debemos asumir que no hay un "afuera" y que, inevitablemente, nuestra interacción digital servirá para entrenar al siguiente modelo. Sin embargo, el moralismo de ciertos discursos de izquierdas a menudo nos paraliza: el miedo legítimo a validar la futura precariedad que generará el uso de la IA generativa –con pérdidas de trabajos en sectores como el de los traductores, diseñadores, incluso programadores– se convierte en otro freno. Seguimos atrapados en esta dicotomía entre apocalipsis o solucionismo. La realidad es que el "saqueo" de internet ya ocurrió; las grandes plataformas ignoraron la propiedad intelectual para entrenar sus modelos y la ley no pudo impedirlo.
Ante este escenario, absternernos no salva los puestos de trabajo ni revierte el robo. La apuesta radical consiste en invertir la lógica: si el intelecto general ya ha sido expropiado, usémoslo para generar una producción cultural masiva y desbordante, partiendo de la premisa de que la propiedad intelectual ha muerto. Si todo es generado, todo puede ser común. Si no experimentamos con este potencial tecnológico, aunque sea en su versión descafeinada a la que podemos acceder nosotras, entonces estamos aceptando la ruptura y jugando con una clara desventaja. La propuesta es transformar la tecnología en un laboratorio de autonomía, disputando el diseño. Busquemos nuestra forma de hablar con la máquina recuperando cierto eco de la cultura hacker, pero asumiendo que como mucho, serán futuros temporalmente autónomos.
