Esta es una traducción de una charla del autor recogida en su blog que tuvo lugar a finales del año pasado. La intervención está basada en el próximo libro de Doctorow, «The Reverse Centaur’s Guide to Life After AI», de próxima publicación en inglés. Traducido por Diego Sainz Paratcha.
Soy escritor de ciencia ficción, lo que significa que mi trabajo consiste en inventar parábolas futuristas sobre nuestros actuales acuerdos tecno-sociales para cuestionar no solo qué hace un dispositivo, sino para quién lo hace y a quién se lo hace.
Lo que no hago es predecir el futuro. Nadie puede predecir el futuro, lo cual es bueno, ya que si el futuro fuera predecible, eso significaría que nada de lo que hacemos podría cambiarlo. Significaría que el futuro llegara sobre raíles fijos y no podríamos manejarlo.
¡Dios mío, qué propuesta más deprimente!
Ahora bien, no todo el mundo entiende la distinción. Creen que los escritores de ciencia ficción son oráculos, adivinos. Por desgracia, incluso algunos de mis colegas trabajan con la ilusión de que pueden «ver el futuro».
Pero por cada escritor de ciencia ficción que se engaña a sí mismo pensando que está escribiendo el futuro, hay cien aficionados de la ciencia ficción que creen que están leyendo el futuro, y un número deprimente de esas personas parecen haberse convertido en bros de la IA. El hecho de que estos tipos no puedan dejar de hablar del día en que su endiablada máquina de autocompletar despertará y nos convertirá a todos en clips ha llevado a muchos periodistas y organizadores de conferencias confundidos a intentar que comente sobre el futuro de la IA.
Es algo a lo que me resistí enérgicamente, porque desperdicié dos años de mi vida explicando pacientemente y repetidamente por qué pensaba que las criptomonedas eran una estupidez, y recibiendo críticas implacables por parte de los fanáticos de las criptomonedas, que al principio insistían en que simplemente no las entendía. Y luego, cuando dejé claro que sí las entendía, insistieron en que debía de ser un cómplice a sueldo.
Esto es lo que ocurre literalmente cuando discutes con los cienciólogos, y la vida es Simplemente. Demasiado. Corta.
Así que no quería verme envuelto en otro de esos atolladeros, porque, por un lado, no creo que la IA sea una tecnología tan importante y, por otro, tengo opiniones muy matizadas y complicadas sobre lo que está mal y lo que no está mal en la IA, y lleva mucho tiempo explicar esas cosas.
Pero la gente no dejaba de preguntar, así que hice lo que siempre hago. Escribí un libro.
Durante el verano escribí un libro sobre lo que pienso de la IA, que en realidad trata sobre lo que pienso de las críticas a la IA y, más concretamente, sobre cómo ser un buen crítico de la IA. Con esto me refiero a: «Cómo ser un crítico cuyas críticas inflijan el máximo daño a las partes de la IA que más daño están causando». Titulé el libro The Reverse Centaur’s Guide to Life After AI, y Farrar, Straus and Giroux lo publicará en junio de 2026.
Pero no tenéis que esperar hasta entonces, porque esta noche, durante los próximos 40 minutos, voy a desglosar toda la tesis del libro. Voy a hablar rápido.
#
Empecemos por lo que es un centauro inverso. En la teoría de la automatización, un «centauro» es una persona que recibe la ayuda de una máquina. Eres una cabeza humana que se desplaza sobre un cuerpo robótico incansable. Conducir un coche te convierte en un centauro, al igual que utilizar el autocompletado.
Y, obviamente, un centauro inverso es una cabeza mecánica sobre un cuerpo humano, una persona que sirve de apéndice de carne blanda para una máquina indiferente.
Como un repartidor de Amazon, que se sienta en una cabina rodeado de cámaras con IA, que controlan los ojos del conductor y le quitan puntos si mira en una dirección prohibida, y controlan la boca del conductor porque no se permite cantar en el trabajo y delatan al conductor ante el jefe si no cumple con la cuota.
Un centauro inverso es una cabeza mecánica sobre un cuerpo humano
El repartidor está en esa furgoneta porque la furgoneta no puede conducir sola y no puede llevar un paquete desde la acera hasta tu porche. El repartidor es un periférico de la furgoneta y la furgoneta conduce al repartidor, a una velocidad sobrehumana, exigiéndole una resistencia sobrehumana. Pero el repartidor es humano, por lo que la furgoneta no solo utiliza al repartidor. La furgoneta utiliza al repartidor hasta el extremo.
Obviamente, está bien ser un centauro, y es horrible ser un centauro inverso. Hay muchas herramientas de IA que son potencialmente muy parecidas a los centauros, pero mi tesis es que estas herramientas se crean y financian con el propósito expreso de crear centauros inversos, que es algo que ninguno de nosotros quiere ser.
Los dueños de las tecnológicas quieren que creamos que solo hay una forma de utilizar una tecnología
Pero, como he dicho, el trabajo de un escritor de ciencia ficción es hacer algo más que pensar en lo que hace el gadget, y profundizar en para quién lo hace y a quién se lo hace. Los dueños de las tecnológicas quieren que creamos que solo hay una forma de utilizar una tecnología. Mark Zuckerberg quiere que pienses que es tecnológicamente imposible tener una conversación con un amigo sin que él la escuche. Tim Cook quiere que pienses que es tecnológicamente imposible que tengas una experiencia informática fiable a menos que él tenga veto sobre el software que instalas y sin que te quite 30 céntimos de cada dólar que gastas. Sundar Pichai quiere que pienses que es imposible que encuentres una página web a menos que él pueda espiarte hasta hartarse.
Todo esto es una especie de thatcherismo vulgar. El mantra de Margaret Thatcher era «No hay alternativa». Lo repetía tan a menudo que la llamaban «TINA» Thatcher: There. Is. No. Alternative. TINA.
«No hay alternativa» es un desaire retórico barato. Es una exigencia disfrazada de observación. «No hay alternativa» significa «DEJA DE INTENTAR PENSAR EN UNA ALTERNATIVA». O sea, quiero decir, que se vayan a la mierda con eso.
Soy escritor de ciencia ficción, mi trabajo consiste en pensar en una docena de alternativas antes del desayuno.
Así que dejadme explicaros lo que creo que está pasando aquí con esta burbuja de la IA, separar la mentira de la realidad material y explicar cómo creo que todos podríamos y deberíamos ser mejores críticos de la IA.
#
Empecemos por los monopolios: las empresas tecnológicas son gigantescas y no compiten, simplemente se apoderan de sectores enteros, ya sea por su cuenta o en cárteles.
Google y Meta controlan el mercado publicitario. Google y Apple controlan el mercado móvil y Google paga a Apple más de 20.000 millones de dólares al año para que no cree un motor de búsqueda competidor y, por supuesto, Google tiene una cuota de mercado del 90% en búsquedas.
Ahora bien, se podría pensar que esto es una buena noticia para las empresas tecnológicas, que son dueñas de todo su sector.
Pero en realidad es una crisis. O sea, cuando una empresa está creciendo, tiene una «acción en crecimiento» y a los inversores les gustan mucho las acciones en crecimiento. Cuando compras una acción en crecimiento, estás apostando por que seguirá creciendo. Por eso, las acciones en crecimiento cotizan a un múltiplo enorme de sus ganancias. Esto se denomina «ratio precio-beneficio» o «ratio P/E».
Pero una vez que una empresa deja de crecer, se convierte en una acción «madura» y cotiza a un ratio P/E mucho más bajo. Así, por cada dólar que ingresa Target, una empresa madura, vale diez dólares. Tiene un ratio P/E de 10, mientras que Amazon tiene un ratio P/E de 36, lo que significa que por cada dólar que ingresa Amazon, el mercado lo valora en 36 dólares.
Es maravilloso dirigir una empresa que tiene acciones en crecimiento. Tus acciones son tan buenas como el dinero. Si quieres comprar otra empresa o contratar a un trabajador clave, puedes ofrecer acciones en lugar de dinero en efectivo. Y las acciones son muy fáciles de conseguir para las empresas, porque se fabrican allí mismo, en las instalaciones y lo único que hay que hacer es escribir unos ceros en una hoja de cálculo, mientras que los dólares son mucho más difíciles de conseguir. Una empresa solo puede obtener dólares de sus clientes o acreedores.
Así que cuando Amazon puja contra Target por una adquisición clave o una contratación clave, Amazon puede pujar con acciones que fabrica escribiendo ceros en una hoja de cálculo y Target solo puede pujar con dólares que obtiene vendiéndonos productos o pidiendo préstamos, por lo que Amazon suele ganar esas guerras de pujas.
Esa es la ventaja de tener acciones de crecimiento. Pero aquí está la desventaja: al final, una empresa tiene que dejar de crecer. Por ejemplo, si consigues una cuota de mercado del 90% en tu sector, ¿cómo vas a crecer?
Una vez que el mercado decide que no tienes una acción en crecimiento, una vez que maduras, tus acciones se revalorizan a una relación P/E acorde con una acción madura.
Amazon puede pujar con acciones que fabrica escribiendo ceros en una hoja de cálculo
Si eres ejecutivo de una empresa dominante con acciones en crecimiento, tienes que vivir con el temor constante de que el mercado decida que es poco probable que sigas creciendo. Pensad en lo que le pasó a Facebook en el primer trimestre de 2022. Les dijeron a los inversores que habían experimentado un crecimiento ligeramente más lento de lo previsto en Estados Unidos y los inversores entraron en pánico. Organizaron una venta masiva de 240.000 millones de dólares en un solo día. ¡Un cuarto de billón de dólares en 24 horas! En ese momento, fue la mayor y más precipitada caída de la valoración corporativa en la historia de la humanidad.
Esa es la peor pesadilla de un monopolista, porque una vez que presides una empresa «madura», los empleados clave a los que has estado compensando con acciones experimentan una caída precipitada de sus salarios y se marchan, por lo que pierdes a las personas que podrían ayudarte a crecer de nuevo y solo puedes contratar a sus sustitutos con dólares. Con dólares, no con acciones.
Y lo mismo ocurre con la adquisición de empresas que podrían ayudarte a crecer, porque ellas también esperarán dinero, no acciones. Esta es la paradoja de las acciones en crecimiento. Mientras creces hasta alcanzar el dominio, el mercado te adora, pero una vez que alcanzas el dominio, el mercado recorta el 75% o más de tu valor de un solo golpe si no confía en tu poder de fijación de precios.
Por eso las empresas con acciones en crecimiento siempre están inflando desesperadamente una burbuja u otra, gastando miles de millones para promocionar el giro hacia el vídeo, las criptomonedas, los NFT, el metaverso o la IA.
El objetivo principal es mantener al mercado convencido de que tu empresa seguirá creciendo
No estoy diciendo que los jefes tecnológicos estén haciendo apuestas que no planean ganar. Pero sí digo que ganar la apuesta, crear un metaverso viable, es el objetivo secundario. El objetivo principal es mantener al mercado convencido de que tu empresa seguirá creciendo, y que siga convencido hasta que llegue la próxima burbuja.
Por eso están promocionando la IA: la base material para los cientos de miles de millones en inversión en IA.
#
Ahora quiero hablar de cómo están vendiendo la IA. La narrativa de crecimiento de la IA es que esta va a revolucionar los mercados laborales. Utilizo aquí el término «revolucionar» en su sentido más despectivo, en el sentido que le dan los tecnólogos.
La promesa de la IA —la promesa que las empresas de IA hacen a los inversores— es que habrá IA que puedan hacer tu trabajo y cuando tu jefe te despida y te sustituya por IA, se quedará con la mitad de tu salario y le dará la otra mitad a la empresa de IA.
Eso es todo.
Esa es la historia de crecimiento de 13 billones de dólares que cuenta Morgan Stanley. Por eso los grandes inversores y las instituciones están dando cientos de miles de millones de dólares a las empresas de IA. Y como ellos se están sumando, los ciudadanos de a pie también se están viendo arrastrados, arriesgando sus ahorros para la jubilación y la seguridad financiera de sus familias.
Ahora bien, si la IA pudiera hacer tu trabajo, esto seguiría siendo un problema. Tendríamos que averiguar qué hacer con todas las personas tecnológicamente desempleadas.
Pero la IA no puede hacer tu trabajo. Puede ayudarte a hacer tu trabajo, pero eso no significa que vaya a ahorrar dinero a nadie. Tomemos como ejemplo la radiología: hay pruebas de que, en ocasiones, la IA puede identificar tumores sólidos que algunos radiólogos pasan por alto, y mira, yo tengo cáncer. Afortunadamente, es muy tratable, pero me interesa que la radiología sea lo más fiable y precisa posible.
Pero la IA no puede hacer tu trabajo. Puede ayudarte a hacer tu trabajo
Si mi hospital Kaiser comprara algunas herramientas de radiología con IA y les dijera a sus radiólogos: «Hola, colegas, este es el trato. Hoy en día, procesáis alrededor de 100 radiografías al día. A partir de ahora, con la IA vamos a conseguir una segunda opinión instantánea y si la IA cree que se os ha pasado por alto un tumor, queremos que volváis a mirar, aunque eso signifique que solo proceséis 98 radiografías al día. No pasa nada, lo único que nos importa es encontrar todos esos tumores».
Si eso es lo que dijeran, estaría encantado. Pero nadie está invirtiendo cientos de miles de millones en empresas de IA porque piense que la IA encarecerá la radiología, ni siquiera aunque eso también la haga más precisa. La apuesta del mercado por la IA es que un vendedor de IA visite al director general de Kaiser y le haga esta propuesta: «Escucha, despides a nueve de cada diez radiólogos, ahorras 20 millones de dólares al año, nos das 10 millones de dólares al año y te quedas con 10 millones de dólares al año». El trabajo de los radiólogos restantes será supervisar los diagnósticos que la IA realiza a una velocidad sobrehumana y, de alguna manera, permanecer atentos mientras lo hacen, a pesar de que la IA suele acertar, excepto cuando se equivoca de forma catastrófica.
«Y si la IA pasa por alto un tumor, la culpa será del radiólogo humano, porque es él quien está “al cargo”. Es su firma la que aparece en el diagnóstico».
Se trata de un centauro inverso, y es un tipo específico de centauro inverso: es lo que Dan Davies denomina un «sumidero de responsabilidad». El trabajo del radiólogo no es realmente supervisar el trabajo de la IA, sino asumir la culpa de los errores de la IA.
Esta es otra clave para comprender —y, por lo tanto, desinflar— la burbuja de la IA. La IA no puede hacer tu trabajo, pero un vendedor de IA puede convencer a tu jefe de que te despida y te sustituya por una IA que no puede hacer tu trabajo. Esto es clave porque nos ayuda a crear el tipo de coaliciones que tendrán éxito en la lucha contra la burbuja de la IA.
Un vendedor de IA puede convencer a tu jefe de que te despida y te sustituya por una IA que no puede hacer tu trabajo
Si eres una persona preocupada por el cáncer y te dicen que el precio de abaratar la radiología hasta hacerla gratuita es que tendremos que reubicar a los 32.000 radiólogos de Estados Unidos, con la contrapartida de que nunca más se le negarán los servicios de radiología a nadie, podrías decir: «Bueno, vale, lo siento por esos radiólogos y apoyo totalmente que se les proporcione formación profesional o una renta básica universal o lo que sea. Pero el objetivo de la radiología es combatir el cáncer, no pagar a los radiólogos, así que sé de qué lado estoy».
Los vendedores de IA y sus clientes en las salas de juntas de ejecutivos quieren que el público esté de su lado. Quieren forjar una alianza de clase entre los implementadores de IA y las personas que disfrutan de los frutos del trabajo de los centauros inversos. Quieren que nos consideremos enemigos de los trabajadores.
Tienes que destacar que los productos de la IA serán de calidad inferior
Ahora bien, algunas personas estarán del lado de los trabajadores por motivos políticos o estéticos. Simplemente les gustan más los trabajadores que sus jefes. Pero si quieres ganarte a todas las personas que se benefician de tu trabajo, debes comprender y destacar que los productos de la IA serán de calidad inferior. Que les cobrarán más por cosas peores. Que tienen un interés material común contigo.
¿Serán esos productos de calidad inferior? Hay muchas razones para pensar que sí. Antes aludí a la «ceguera de la automatización», la imposibilidad física de permanecer alerta ante cosas que rara vez ocurren. Por eso los agentes de aduanas son increíblemente buenos detectando botellas de agua. Porque practican mucho, todo el día, todos los días. Y por eso no detectan las armas y las bombas que los equipos rojos del gobierno introducen de contrabando en los controles para comprobar su eficacia, porque simplemente no tienen práctica en eso. Porque, en principio, nadie lleva deliberadamente un arma o una bomba a través de un control aduanero.
La ceguera de la automatización es el talón de Aquiles de los «humanos al cargo».
Pensemos en la generación de software de IA: hay muchos programadores a los que les encanta usar la IA y, casi sin excepción, son programadores senior con experiencia, que deciden cómo utilizar estas herramientas. Por ejemplo, se le puede pedir a la IA que genere un conjunto de archivos CSS para renderizar fielmente una página web en múltiples versiones de múltiples navegadores. Esto es algo muy complicado de hacer, y es bastante fácil verificar si el código funciona: basta con echarle un vistazo en varios navegadores. O tal vez el programador tenga un único archivo de datos que necesita importar y no quiera escribir toda una utilidad para convertirlo.
Tareas como estas pueden hacer realmente que los programadores sean más eficientes y darles más tiempo para dedicarse a la parte divertida de la programación, es decir, resolver rompecabezas realmente complicados y abstractos. Pero cuando se escucha a los líderes empresariales hablar de sus planes de IA para los programadores, queda claro que no pretenden crear centauros.
Quieren despedir a muchos trabajadores tecnológicos —han despedido a 500.000 en los últimos tres años— y hacer que el resto se encargue de su trabajo con la programación, lo cual solo es posible si se deja que la IA se encargue de resolver todos los problemas creativos y complicados, y luego se hace la parte más aburrida y desmoralizante del trabajo: revisar el código de la IA.
Los errores de la IA son especialmente sutiles y difíciles de detectar
Y como la IA es solo un programa de adivinación de palabras, ya que lo único que hace es calcular la palabra más probable que vendrá a continuación, los errores que comete son especialmente sutiles y difíciles de detectar, porque estos errores son literalmente indistinguibles estadísticamente del código que funciona (excepto que son errores).
He aquí un ejemplo: las bibliotecas de código son utilidades estándar que los programadores pueden incorporar a sus aplicaciones, para no tener que realizar un montón de programación repetitiva. Por ejemplo, si quieres procesar un texto, utilizarás una biblioteca estándar. Si se trata de un archivo HTML, esa biblioteca podría llamarse algo así como lib.html.text.parsing; y si es un archivo DOCX, será lib.docx.text.parsing. Pero la realidad es complicada, los humanos somos distraídos y las cosas salen mal, por lo que a veces hay otra biblioteca, esta para analizar archivos PDF y en lugar de llamarse lib.pdf.text.parsing, se llama lib.text.pdf.parsing.
Ahora bien, como la IA es un motor de inferencia estadística, lo único que puede hacer es predecir qué palabra vendrá a continuación basándose en todas las palabras que se han escrito en el pasado, por lo que «alucinaría» una biblioteca llamada lib.pdf.text.parsing. Y la cuestión es que los hackers maliciosos saben que la IA cometerá este error, por lo que crearán una biblioteca con el nombre predecible y alucinado y esa biblioteca se incorporará automáticamente a tu programa y hará cosas como robar datos de los usuarios o intentar penetrar en otros ordenadores de la misma red.
Y tú, el humano al cargo, el centauro inverso, tienes que detectar este error sutil y difícil de encontrar, este bug que es literalmente indistinguible estadísticamente del código correcto. Ahora bien, tal vez un programador senior podría detectarlo, porque lleva mucho tiempo en el sector y conoce esta trampa.
Para que la IA sea valiosa, tiene que sustituir a los trabajadores con salarios altos
Pero ¿adivina a quiénes quieren despedir y sustituir por IA los jefes tecnológicos? A los programadores sénior. Esos trabajadores bocazas, con derecho a todo y muy bien pagados, que no se consideran trabajadores. Que se ven a sí mismos como fundadores en espera, compañeros de la alta dirección de la empresa. El tipo de programador que lideraría una huelga por el hecho de que la empresa construyera sistemas de drones para el Pentágono, lo que le costó a Google diez mil millones de dólares en 2018.
Para que la IA sea valiosa, tiene que sustituir a los trabajadores con salarios altos y esos son precisamente los trabajadores experimentados, con conocimientos de los procesos y una intuición ganada a pulso, que podrían detectar algunos de esos errores de la IA camuflados estadísticamente.
Como he dicho, la cuestión aquí es sustituir a los trabajadores con salarios altos.
Y una de las razones por las que las empresas de IA están tan ansiosas por despedir a los programadores es que estos son los príncipes del trabajo. Son los trabajadores más privilegiados, codiciados y bien remunerados de la población activa.
Si se puede sustituir a los programadores por IA ¿a quién no se puede sustituir por IA? Despedir a los programadores es publicidad para la IA.
Lo que me lleva al arte generado con IA. El arte generado con la IA —o «arte»— también es publicidad para la IA, pero no forma parte del modelo de negocio de la IA.
Me explico: por término medio, los ilustradores no ganan dinero. Ya son uno de los grupos de trabajadores más empobrecidos y precarios que existen. Sufren una patología llamada «reverencia vocacional». Es un término acuñado por el bibliotecario Fobazi Ettarh y se refiere a los trabajadores que son vulnerables a la explotación en el lugar de trabajo porque realmente se preocupan por su trabajo: enfermeros, bibliotecarios, profesores y artistas.
Si los generadores de imágenes de IA dejaran sin trabajo a todos los ilustradores que trabajan hoy en día, el ahorro resultante en la masa salarial sería imperceptible en proporción a todos los costes asociados a la formación y el funcionamiento de los generadores de imágenes. La masa salarial total de los ilustradores comerciales es inferior a lo que se gasta en kombucha la cafetería de la empresa en solo uno de los campus de Open AI.
El propósito del arte generado por IA es convencer al gran público de que la IA es increíble
El propósito del arte generado por IA —y la historia del arte generado por IA como sentencia de muerte para los artistas— es convencer al gran público de que la IA es increíble y hará cosas increíbles. Se trata de crear expectación. Lo cual no quiere decir que no sea repugnante que la antigua directora técnica de OpenAI, Mira Murati, dijera a los asistentes a una conferencia que «para empezar, algunos trabajos creativos no deberían haber existido», y que no sea especialmente repugnante que ella y sus colegas se jacten de utilizar el trabajo de los artistas para arruinar el sustento de esos artistas.
Se supone que debe ser repugnante. Se supone que debe hacer que los artistas corran por ahí diciendo: «La IA puede hacer mi trabajo y me va a robar el empleo, ¿no es terrible?».
Porque los clientes de la IA, los jefes de las empresas, no ven como algo terrible que la IA les quite el trabajo a los trabajadores. Lo ven como algo maravilloso.
Pero ¿puede la IA hacer el trabajo de un ilustrador? ¿O el trabajo de cualquier artista?
Pensemos en ello un momento. Soy artista profesional desde los 17 años, cuando vendí mi primer relato corto, y le he dado muchas vueltas y esto es lo que creo que es el arte: comienza con un artista, que tiene en su mente un sentimiento vasto, complejo, numinoso e irreducible. Y el artista infunde ese sentimiento en algún medio artístico. Crea una canción, un poema, una pintura, un dibujo, una danza, un libro o una fotografía. Y la idea es que, cuando tú experimentas esta obra, una réplica de ese sentimiento grande, numinoso e irreducible se materializa en tu mente.
Ahora que he definido el arte, tenemos que hacer un pequeño desvío.
Tengo un amigo que es profesor de Derecho y, antes del auge de los chatbots, los estudiantes de Derecho sabían que no debían pedir cartas de referencia a sus profesores, a menos que fueran realmente buenos estudiantes. Porque era un peñazo escribir esas cartas. Así que, si anunciabas una plaza de posdoctorado y recibías una solicitud de un candidato con una carta de referencia de un profesor respetado, la mera existencia de esa carta te indicaba que el profesor tenía una muy buena opinión de ese estudiante.
Pero luego llegaron los chatbots, y todo el mundo sabe que se puede generar una carta de referencia introduciendo tres puntos clave en un LLM, y este te devuelve cinco párrafos de florideces sin sentido sobre el estudiante.
Así que cuando mi amigo anuncia una plaza de posdoctorado, se ve inundado de cartas de referencia, y para hacer frente a esta avalancha, introduce todas estas cartas en otro chatbot y le pide que las reduzca a tres puntos clave. Ahora bien, obviamente, no serán los mismos puntos clave, lo que hace que todo esto sea terrible.
Pero, como es obvio, nada de lo que hay en esa carta de cinco párrafos, excepto los tres puntos clave originales, es relevante para el estudiante. El chatbot no conoce al estudiante. No sabe nada sobre él. No puede añadir a la carta ni una sola afirmación verdadera o útil sobre el estudiante.
El programa de generación de imágenes no sabe nada sobre tu sentimiento grande, numinoso e irreducible
¿Qué tiene esto que ver con el arte generado por IA? El arte es la transferencia de un sentimiento grande, numinoso e irreducible de un artista a otra persona. Pero el programa de generación de imágenes no sabe nada sobre tu sentimiento grande, numinoso e irreducible. Lo único que sabe es lo que tú le das en tu indicación, y esas pocas frases se diluyen en un millón de píxeles o cien mil palabras, de modo que la densidad comunicativa media de la obra resultante es indistinguible de cero.
El arte generado por IA resulta inquietante porque parece que hay un creador
Es posible infundir más intención comunicativa en una obra: escribiendo indicaciones más detalladas, o haciendo el trabajo selectivo de elegir entre muchas variantes o retocando directamente la imagen de IA a posteriori, con un pincel o Photoshop o The Gimp. Y si alguna vez hay una obra de arte de IA que sea buen arte, en lugar de simplemente llamativa, interesante o un ejemplo de buen dibujo, será gracias a esas infusiones adicionales de intención creativa por parte de un humano.
Y, mientras tanto, es una mala obra de arte. Es una mala obra de arte en el sentido de ser «inquietante», la palabra que Mark Fisher utiliza para describir «cuando hay algo presente donde no debería haber nada, o no hay nada presente cuando debería haber algo». El arte generado por IA resulta inquietante porque parece que hay un creador y una intención detrás de cada palabra y cada píxel, ya que toda nuestra experiencia nos dice que las pinturas tienen pintores y los escritos tienen escritores. Pero le falta algo. No tiene nada que decir o lo que tiene que decir está tan diluido que es indetectable.
Las imágenes eran impactantes antes de que descubriéramos el truco, pero ahora son como las imágenes que imaginamos en las nubes o en los montones de hojas. Somos nosotros los que dibujamos un marco alrededor de parte de la escena, somos nosotros los que nos centramos en algunos contornos e ignoramos los demás. Estamos mirando una mancha de tinta, y no nos dice nada.
A veces eso puede ser visualmente llamativo y, en la medida en que divierte a la gente de una comunidad de animadores y espectadores, es inofensivo.
Los jefes despedirán a ilustradores, porque fantasean con poder prescindir de los profesionales creativos y limitarse a recurrir a la IA
Conozco a alguien que juega semanalmente a Dungeons and Dragons a través de Zoom. Se transcribe mediante un modelo de código abierto que se ejecuta localmente en el ordenador del dungeon master, que resume la sesión de la noche y solicita a un generador de imágenes que cree ilustraciones de los momentos clave. Estos resúmenes e imágenes son divertidísimos porque están llenos de errores. Es una diversión inofensiva y aporta un pequeño placer adicional a un pequeño grupo de personas. Nadie va a despedir a un ilustrador porque los jugadores de D&D estén generando ilustraciones divertidas en las que paladines con siete dedos luchan contra orcos que tienen una mano extra.
Pero los jefes han despedido y despedirán a ilustradores, porque fantasean con poder prescindir de los profesionales creativos y limitarse a recurrir a la IA. Porque, aunque la IA no puede hacer el trabajo del ilustrador, un vendedor de IA puede convencer al jefe del ilustrador para que lo despida y lo sustituya por una IA que no puede hacer su trabajo.
Esta es una coyuntura repugnante y terrible, y no debemos limitarnos a encogernos de hombros y aceptar el fatalismo del thatcherismo: «No hay alternativa».
Entonces, ¿cuál es la alternativa? Muchos artistas y sus aliados creen tener la respuesta: dicen que deberíamos ampliar los derechos de autor para cubrir las actividades relacionadas con el entrenamiento de un modelo.
Y estoy aquí para decirles que están equivocados: equivocados porque esto causaría un terrible daño colateral a actividades socialmente beneficiosas y representaría una expansión masiva de los derechos de autor sobre actividades que actualmente están permitidas, ¡por una buena razón!
Analicemos los pasos del entrenamiento de la IA.
Ampliar los derechos de autor causaría un terrible daño colateral a actividades socialmente beneficiosas
Primero, se recopilan un montón de páginas web. Esto es inequívocamente legal según la ley actual de derechos de autor. No se necesita una licencia para hacer una copia transitoria de una obra protegida por derechos de autor con el fin de analizarla; de lo contrario, los motores de búsqueda serían ilegales. Si se prohíbe el rastreo, Google será el último motor de búsqueda que tendremos, Internet Archive quebrará y ese tipo de Austria que rastreó todos los sitios web de tiendas de alimentación y demostró que las grandes cadenas se confabularon para manipular los precios se verá en serios apuros.
A continuación, se realiza un análisis de esas obras. Básicamente, se cuentan los elementos que contienen: se cuentan los píxeles y sus colores y la proximidad a otros píxeles o se cuentan las palabras. Obviamente, esto no es algo para lo que se necesite una licencia. No es ilegal contar los elementos de una obra protegida por derechos de autor. Y realmente no queremos que lo sea, no si te interesa cualquier tipo de investigación académica.
Y es importante señalar que contar cosas es legal, incluso si se trabaja con una copia obtenida ilegalmente. Por ejemplo, si vas a un mercadillo, compras un CD de música pirata, te lo llevas a casa, haces una lista de todos los adverbios de las letras y publicas esa lista, no estás infringiendo los derechos de autor al hacerlo.
Quizás hayas infringido los derechos de autor al conseguir el CD pirata, pero no al contar las letras.
Por eso Anthropic ofreció un acuerdo de 1.500 millones de dólares por entrenar sus modelos basándose en una gran cantidad de libros que descargó de un sitio pirata: no porque contar las palabras de los libros infrinja los derechos de nadie, sino porque les preocupaba que les impusieran una indemnización por daños y perjuicios de 150.000 dólares por libro por descargar los archivos.
Bien, después de contar todos los píxeles o las palabras, es el momento del paso final: publicarlos. Porque eso es lo que es un modelo: una obra literaria (es decir, un software) que incorpora un montón de datos sobre otras obras, información sobre la distribución de palabras y píxeles, codificada en una matriz multidimensional.
Y, de nuevo, los derechos de autor no prohíben en absoluto publicar datos sobre obras protegidas por derechos de autor. Y, de nuevo, nadie debería querer vivir en un mundo en el que otra persona decida qué afirmaciones veraces y objetivas se pueden publicar.
Pero bueno, quizá pienses que todo esto es una sofistería. Quizá pienses que soy un charlatán. No pasa nada. No sería la primera vez que alguien piensa eso.
Después de todo, incluso si tengo razón sobre cómo funciona ahora el copyright, no hay razón para que no podamos cambiarlo para prohibir las actividades de formación y tal vez incluso haya una forma inteligente de redactar la ley para que solo afecte a las cosas malas que no nos gustan y no a todas las cosas buenas que se derivan del rastreo, el análisis y la publicación.
Bueno, incluso entonces, no vas a ayudar a los creadores creando este nuevo copyright. Si crees que puedes hacerlo, tienes que lidiar con este hecho: hemos ampliado monótonamente el copyright desde 1976, de modo que hoy en día el copyright cubre más tipos de obras, concede derechos exclusivos sobre más usos y dura más tiempo.
Y hoy en día, la industria de los medios de comunicación es más grande y rentable que nunca y además: la parte de los ingresos de la industria de los medios de comunicación que va a parar a los trabajadores creativos es más baja que nunca, tanto en términos reales como en proporción a las increíbles ganancias obtenidas por los jefes de los creadores en las empresas de medios de comunicación.
Hoy en día el copyright cubre más tipos de obras, concede derechos exclusivos sobre más usos y dura más tiempo
Entonces ¿cómo es posible que hayamos concedido todos estos nuevos derechos a los creadores y que esos nuevos derechos hayan generado miles de millones, pero hayan dejado a los creadores más pobres? Es porque, en un mercado creativo dominado por cinco editoriales, cuatro estudios, tres discográficas, dos tiendas de aplicaciones móviles y una sola empresa que controla todos los libros electrónicos y audiolibros, conceder a un trabajador creativo derechos adicionales con los que negociar es como darle a un niño acosado más dinero para el almuerzo.
No importa cuánto dinero le des al niño, los acosadores se lo quedarán todo. Dale a ese niño suficiente dinero y los acosadores contratarán a una agencia para llevar a cabo una campaña global proclamando «¡Piensa en los niños hambrientos! ¡Dales más dinero para el almuerzo!».
Los trabajadores creativos que aplauden las demandas de los grandes estudios y discográficas deben recordar la primera regla de la lucha de clases: lo que es bueno para tu jefe rara vez es bueno para ti.
El día que Disney y Universal presentaron una demanda contra Midjourney, recibí un comunicado de prensa de la RIAA, que representa a Disney y Universal a través de sus divisiones discográficas. Universal es la discográfica más grande del mundo. Junto con Sony y Warner, controlan el 70% de todas las grabaciones musicales con derechos de autor en la actualidad.
El comunicado comienza así: «Existe un camino claro hacia adelante a través de asociaciones que promueven la innovación en IA y fomentan el arte humano».
Y termina diciendo: «Esta acción de Disney y Universal representa una postura crítica a favor de la creatividad humana y la innovación responsable».
Está firmada por Mitch Glazier, director ejecutivo de la RIAA.
Es muy probable que ese nombre no os diga nada. Pero os voy a contar quién es Mitch Glazier. Hoy en día, Mitch Glazier es el director ejecutivo de la RIAA, con un salario anual de 1,3 millones de dólares. Pero hasta 1999, Mitch Glazier era un importante miembro del del Congreso, y en 1999, Glazier introdujo a escondidas una enmienda en un proyecto de ley no relacionado, la Ley de Mejora de la Televisión por Satélite, que acabó con el derecho de los músicos a recuperar sus grabaciones de sus discográficas.
Esta práctica era especialmente importante para los «artistas tradicionales» (que es un eufemismo de la industria discográfica para referirse a «música antigua grabada por personas negras»), para quienes este derecho representaba la diferencia entre pagar el alquiler y acabar en la calle.
Cuando se supo que Glazier había llevado a cabo esta estafa que empobrecía a los músicos, la indignación pública fue tal que el Congreso volvió a reunirse en sesión extraordinaria solo para votar de nuevo y cancelar la enmienda de Glazier. A continuación, Glazier fue expulsado de su cómodo puesto en el Congreso, tras lo cual la RIAA comenzó a pagarle más de un millón de dólares al año para «representar a la industria musical».
Este es el tipo que firmó ese comunicado de prensa que tengo en mi bandeja de entrada. Y su mensaje era: El problema no es que Midjourney quiera entrenar un modelo de IA genérica con obras protegidas por derechos de autor y luego utilizar ese modelo para dejar a los artistas en la calle. El problema es que Midjourney no pagó a los miembros de la RIAA, Universal y Disney, por el permiso para entrenar un modelo. Porque si Midjourney hubiera dado a Disney y Universal varios millones de dólares por los derechos de entrenamiento de sus catálogos, las empresas les habrían permitido entrenar a su antojo, habrían comprado los modelos resultantes y habrían despedido a tantos profesionales creativos como hubieran podido.
¿Acaso ya hemos olvidado las huelgas de Hollywood? Yo desde luego que no. Vivo en Burbank, sede de Disney, Universal y Warner y estuve en la línea de piquete con mis compañeros del Sindicato de Guionistas, ofreciendo solidaridad en nombre de mi sindicato, IATSE 830, The Animation Guild, de cuya unidad de guionistas soy miembro.
Getty utilizará sin duda sus modelos para arruinar a tantos fotógrafos como sea posible
Y nunca olvidaré cuando un guionista se volvió hacia mí y me dijo: «Escucha, las instrucciones a un LLM se dan exactamente de la misma manera que un ejecutivo da notas de mierda a una sala de guionistas. Ya sabes: “Hazme una peli como ET, pero que sea sobre un perro y que haya una historia de amor y una persecución con coches en el segundo acto». La diferencia es que, si le dices eso a una sala de guionistas, todos se burlan de ti y te llaman idiota entrajeado. Pero si se lo dices a un LLM, te dará alegremente un guion horrible que se ajusta exactamente a esas especificaciones (ya sabes, Air Bud)».
Estas empresas están desesperadas por utilizar la IA para desplazar a los trabajadores. Cuando Getty Images demanda a las empresas de IA, no representa los intereses de los fotógrafos. ¡Getty odia pagar a los fotógrafos! Getty solo quiere que le paguen por el entrenamiento y quiere que el modelo de IA resultante tenga barreras de seguridad, de modo que se niegue a crear imágenes que compitan con las de Getty para cualquiera que no sea Getty. Pero Getty utilizará sin duda sus modelos para arruinar a tantos fotógrafos como sea posible.
Exigir un nuevo derecho de autor solo te convierte en un idiota útil para tu jefe
Un nuevo derecho de autor para entrenar modelos no nos llevará a un mundo en el que los modelos no se utilicen para destruir a los artistas, sino a un mundo en el que los contratos estándar de las pocas empresas que controlan todos los mercados laborales creativos se actualicen para exigirnos que cedamos esos nuevos derechos de entrenamiento a esas empresas. Exigir un nuevo derecho de autor solo te convierte en un idiota útil para tu jefe, un escudo humano que pueden esgrimir en las luchas políticas, una pretensión endeble de «¿nadie piensa en los artistas hambrientos?».
Cuando en realidad lo que exigen es un mundo en el que el 30% del capital de inversión de las empresas de IA vaya a parar a los bolsillos de los accionistas de esas pocas empresas. Cuando un artista está siendo devorado por monopolios rapaces ¿importa cómo se reparten la comida?
Tenemos que proteger a los artistas de la depredación de la IA, no solo crear una nueva forma de que los artistas se enfaden por su empobrecimiento.
Las obras generadas por la IA no pueden ser objeto de derechos de autor
Y, por increíble que parezca, hay una forma muy sencilla de hacerlo. Después de más de 20 años de equivocarse constantemente y ser terrible para los derechos de los artistas, la Oficina de Derechos de Autor de EE UU finalmente ha hecho algo glorioso y maravillosamente correcto. A lo largo de toda esta burbuja de la IA, la Oficina de Derechos de Autor ha mantenido, acertadamente, que las obras generadas por la IA no pueden ser objeto de derechos de autor, porque los derechos de autor son exclusivos de los seres humanos. Por eso el «selfie del mono» es de dominio público. Los derechos de autor solo se conceden a las obras de expresión creativa humana que están fijadas en un medio tangible.
Y la Oficina de Derechos de Autor no solo ha adoptado esta postura, sino que la ha defendido enérgicamente en los tribunales, ganando repetidamente sentencias que respaldan este principio.
El hecho de que todas las obras creadas por IA sean de dominio público significa que si Getty, Disney, Universal o los periódicos Hearst utilizan la IA para generar obras, entonces cualquier otra persona puede tomar esas obras, copiarlas, venderlas o regalarlas. Y lo único que esas empresas odian más que pagar a los trabajadores creativos es que otras personas se lleven sus cosas sin permiso.
La postura de la Oficina de Derechos de Autor de EE UU significa que la única forma en que estas empresas pueden obtener los derechos de autor es pagando a personas para que realicen el trabajo creativo. Esta es una receta para la centauridad. Si eres un artista visual o un escritor que utiliza indicaciones para generar ideas o variaciones, no hay ningún problema, porque la obra final es tuya. Y si eres un editor de vídeo que utiliza deepfakes para cambiar la mirada de 200 extras en una escena multitudinaria, entonces sí, esos ojos son de dominio público, pero la película sigue teniendo derechos de autor.
Los escritores pusieron a los estudios de rodillas. Lo hicieron porque están organizados
Pero los trabajadores creativos no tienen que depender del Gobierno de EE UU para que nos rescate de los depredadores de la IA. Podemos hacerlo nosotros mismos, como hicieron los escritores en su histórica huelga. Los escritores pusieron a los estudios de rodillas. Lo hicieron porque están organizados y son solidarios, pero también porque se les permite hacer algo que prácticamente ningún otro trabajador puede hacer: pueden participar en «negociaciones colectivas», en las que todos los trabajadores de un sector pueden negociar un contrato con todos los empleadores del sector.
Eso ha sido ilegal para la mayoría de los trabajadores desde finales de la década de 1940, cuando la Ley Taft-Hartley lo prohibió. Si vamos a hacer campaña para que se apruebe una nueva ley con la esperanza de ganar más dinero y tener más control sobre nuestro trabajo, deberíamos hacer campaña para restaurar la negociación colectiva, no para ampliar los derechos de autor.
Nuestros aliados en una campaña para ampliar los derechos de autor son nuestros jefes, que nunca han tenido en cuenta nuestros intereses. Mientras que nuestros aliados en la lucha por la negociación colectiva son todos los trabajadores del país. Como dice la canción: «¿De qué lado estás?».
Bien, tengo que terminar esta charla porque se me acaba el tiempo, así que voy a concluir con esto: la IA es una burbuja y las burbujas son terribles.
Las burbujas transfieren los ahorros de toda una vida de personas normales que solo intentan tener una jubilación digna a las personas más ricas y menos éticas de nuestra sociedad, y todas las burbujas acaban estallando, llevándose consigo sus ahorros.
Deberíamos hacer campaña para restaurar la negociación colectiva, no para ampliar los derechos de autor.
Pero no todas las burbujas son iguales. Algunas burbujas dejan tras de sí algo productivo. Worldcom robó miles de millones a la gente corriente estafándoles con pedidos de cables de fibra óptica. El director general fue a la cárcel y murió allí. Pero la fibra le sobrevivió. Sigue en el suelo. En mi casa, tengo fibra simétrica de 2 GB, porque AT&T conectó parte de esa vieja fibra oscura de Worldcom.
En igualdad de condiciones, habría sido mejor que Worldcom nunca hubiera existido, pero lo único peor que el horrible fraude cometido por Worldcom sería que no hubiera nada que salvar de los escombros.
No creo que podamos salvar mucho de las criptomonedas, por ejemplo. Claro, habrá algunos programadores que hayan aprendido algo sobre programación segura en Rust. Pero cuando las criptomonedas mueran, lo que dejarán atrás será una mala economía austriaca y peores JPEG de monos.
La IA es una burbuja y estallará. La mayoría de las empresas fracasarán. La mayoría de los centros de datos cerrarán o se venderán por partes. Entonces ¿qué quedará?
La IA es una burbuja y estallará
Tendremos un montón de programadores que son realmente buenos en estadística aplicada. Tendremos muchas GPU baratas, lo que será una buena noticia para, por ejemplo, los artistas de efectos especiales y los científicos climáticos, que podrán comprar ese hardware fundamental por unos pocos centavos. Y tendremos los modelos de código abierto que se ejecutan en hardware básico, herramientas de IA que pueden hacer muchas cosas útiles, como transcribir audio y vídeo, describir imágenes, resumir documentos, automatizar gran parte de la laboriosa edición gráfica, como eliminar fondos o borrar a los transeúntes de las fotos. Estos se ejecutarán en nuestros portátiles y teléfonos y los hackers de código abierto encontrarán formas de impulsarlos para que hagan cosas que sus creadores nunca hubieran imaginado.
Si nunca hubiera habido una burbuja de IA, si todo esto hubiera surgido simplemente porque los informáticos y los gestores de productos se pasaron unos años jugando con nuevas aplicaciones interesantes para la retropropagación, el aprendizaje automático y las redes generativas adversarias, la mayoría de la gente se habría sorprendido gratamente con estas cosas nuevas e interesantes que podían hacer sus ordenadores. Los llamaríamos «plugins».
Lo que es un fastidio es la burbuja, no estas aplicaciones. La burbuja no quiere cosas útiles y baratas. Quiere cosas caras y «disruptivas»: grandes modelos básicos que pierden miles de millones de dólares cada año.
Cuando la locura por invertir en IA se detenga, la mayoría de esos modelos desaparecerán, porque no será rentable mantener los centros de datos en funcionamiento. Como dice la ley de Stein: «Todo lo que no puede durar para siempre, acaba deteniéndose».
El colapso de la burbuja de la IA va a ser feo. Siete empresas de IA representan actualmente más de un tercio del mercado bursátil y se pasan sin cesar el mismo pagaré de 100.000 millones de dólares.
Los jefes están despidiendo en masa a trabajadores productivos y sustituyéndolos por IA defectuosa, y cuando la IA defectuosa desaparezca, nadie podrá encontrar y volver a contratar a la mayoría de esos trabajadores, pasaremos de sistemas de IA disfuncionales a nada.
La IA es el amianto en las paredes de nuestra sociedad tecnológica, colocado allí con total abandono por un sector financiero y unos monopolistas tecnológicos fuera de control. Estaremos excavando para sacarlo durante una generación o más.
Tenemos que deshacernos de esta burbuja. Reventarla, tan rápido como podamos
Por lo tanto, tenemos que deshacernos de esta burbuja. Reventarla, tan rápido como podamos. Para ello, tenemos que centrarnos en los factores materiales que impulsan la burbuja. La burbuja no está impulsada por el porno deepfake, ni por la desinformación electoral, ni por la generación de imágenes mediante IA, ni por la publicidad basura.
Todo eso es terrible y perjudicial, pero no impulsa la inversión. La cifra total en dólares que representan estas aplicaciones no se acerca ni de lejos a hacer mella en los gastos de capital y los costes operativos de la IA. Son usos periféricos y residuales: llamativos, pero sin importancia para la burbuja.
Si eliminamos todos esos usos, reducimos los ingresos previstos de las empresas de IA en una suma tan pequeña que se redondea a cero.
Lo mismo ocurre con todas esas tonterías sobre la «seguridad de la IA», que pretenden preocuparse por evitar que una IA alcance la sensibilidad y nos convierta a todos en clips. En primer lugar, esto es a primera vista absurdo.
Añadir más palabras y GPU al programa de adivinar palabras no lo hará consciente. Es como decir: «Bueno, seguimos criando estos caballos para que corran cada vez más rápido, así que es solo cuestión de tiempo que una de nuestras yeguas dé a luz a una locomotora». La mente humana no es un programa de adivinar palabras con muchas palabras extra.
Estoy aquí por los experimentos mentales de ciencia ficción, no me malinterpretéis. Pero tampoco confundáis la ciencia ficción con una profecía. Las historias de ciencia ficción sobre la superinteligencia son parábolas futuristas, no planes de negocio, hojas de ruta o predicciones.
La gente de AI Safety dice que le preocupa que la IA vaya a acabar con el mundo, pero a los jefes de la IA les encantan estos bichos raros. Porque, por un lado, si la IA es lo suficientemente poderosa como para destruir el mundo, ¡piensa en cuánto dinero puede ganar! Y, por otro lado, ningún plan de negocio de IA tiene una línea en su hoja de cálculo de proyecciones de ingresos llamada «Ingresos por convertir a la raza humana en clips». Así que, aunque prohibamos a las empresas de IA hacer esto, no les costará ni un céntimo de capital de inversión.
Para reventar la burbuja, tenemos que golpear las fuerzas que la crearon
Para reventar la burbuja, tenemos que golpear las fuerzas que la crearon: el mito de que la IA puede hacer tu trabajo, especialmente si tienes un salario alto que tu jefe puede recuperar; la idea de que las empresas en crecimiento necesitan una sucesión de burbujas cada vez más extravagantes para mantenerse con vida; el hecho de que los trabajadores y el público al que sirven están en un lado de esta lucha, y los jefes y sus inversores están en el otro.
Dado que la burbuja de la IA es realmente una muy mala noticia, vale la pena luchar en serio contra ella, y una lucha seria contra la IA ataca sus raíces: los factores materiales que alimentan los cientos de miles de millones de capital desperdiciado que se gastan para ponernos a todos en la miseria y llenar nuestras paredes de amianto de alta tecnología.
