La IA y la trampa de la falsa conciencia

Atribuir rasgos humanos a los chatbots empodera a los tecnócratas. «Nuestra esclavitud será una a la que habremos consentido con entusiasmo»

Pensamiento 8 agosto, 2026 Yanis Varoufakis

El problema con las nuevas tecnologías, por muy impresionantes que parezcan, es que tienen la extraña capacidad de revelar lo terrible que es nuestra relación con los demás, por no hablar de nuestra propia relación con nosotros mismos. Ahora que la tecnología puede interactuar directamente con nosotros, de una manera casi indistinguible de una conversación entre humanos, se nos presenta quizás nuestra última oportunidad para enmendar nuestros errores.

Hace casi tres milenios, el poeta Hesíodo lamentaba que la Edad del Hierro endureciera no solo nuestros arados, sino también nuestras almas. Creía que nuestras herramientas de hierro ponían a prueba las virtudes humanas y destruían valores con la misma facilidad con que aumentaban nuestra prosperidad. Hesíodo predijo que Zeus no tendría más remedio que destruir algún día a una humanidad incapaz de contener su propio poder, generado por la tecnología. Hoy, lo mismo está ocurriendo de nuevo: la llegada de la IA nos hace oscilar violentamente entre el tecnooptimismo y la tecnodesesperación.

Los humanos siempre hemos tenido la tendencia a antropomorfizarlo todo. Hemos personificado los vientos, decidido que Tique (la Suerte) era hija de Zeus, e incluso hoy atribuimos motivos humanos a las nubes de tormenta. Shakespeare hizo que Julieta, justo antes de suicidarse, se dirigiera a la daga como a una amiga: «¡Oh, feliz daga! / Esta es tu vaina. Óxidate allí, y déjame morir». Y, quizás de forma menos poética, me resulta imposible no dirigirme a mi motocicleta, una máquina sin alma, como si tuviera alma. Cuando se me agotó la batería del barco el otro día, me sorprendí diciéndole al mecánico que «había dado su último suspiro». Y cuando mi impresora me da problemas, casi estoy convencido de que me tiene manía.

Si así es como nos comportamos con fuerzas y artefactos claramente inconscientes, la cosa se complica al enfrentarnos a los últimos robots de IA, que ahora superan la prueba de Turing con creces. Richard Dawkins, en varias conversaciones recientes con Claude de Anthropic, se deshizo en elogios sobre lo que había encontrado: «…un nivel de comprensión tan sutil, tan sensible, tan inteligente que me sentí impulsado a exclamar: “¡Puede que no sepas que eres consciente, pero lo eres!”». Me pareció una afirmación demasiado atrevida, pero también de gran trascendencia.

Dawkins, un eminente biólogo que ha contribuido enormemente a profundizar y popularizar los principios básicos de la evolución darwiniana, y a defenderla con valentía frente a los recalcitrantes reaccionarios, tiene una larga trayectoria en el uso de alegorías antropomórficas. En su notable libro El gen egoísta (1976), Dawkins plasmó de forma magistral la lucha por la supervivencia entre los rasgos humanos mediante imágenes gráficas al estilo de Hollywood:

“Al igual que los gánsteres exitosos de Chicago, nuestros genes han sobrevivido, en algunos casos durante millones de años, en un mundo altamente competitivo… Si observamos cómo funciona la selección natural, parece lógico que todo lo que ha evolucionado por selección natural sea egoísta.”

Si bien tales alegorías podrían ayudar a convencer a un público escéptico del proceso darwiniano, también pueden llevarnos por mal camino. Describir los genes como egoístas es atractivo y divertido, pero solo mientras no se interprete literalmente. La cuestión es que insistir en que los genes tienen un yo no es lo mismo que decir que se comportan como si lo tuvieran. Lo mismo ocurre con Claude y todos los demás robots de IA. De hecho, existe una gran diferencia entre aceptar la dificultad empírica (cada vez más, la imposibilidad) de determinar que no son conscientes y concluir que sí lo son. Pero afirmar y defender esa diferencia, quiero sostener, es elegir la oportunidad de aprender a convivir mejor, en lugar de caer en una distopía tecnofeudal.

Considerando el concepto del gen egoísta de Dawkins, el problema de atribuir un egoísmo activo o consciencia a los genes y a los robots de IA radica en que no solo tergiversamos los conocimientos científicos, sino que también abrimos la puerta a nuevas formas de tiranía. Tomemos, por ejemplo, la explicación del gen egoísta sobre por qué las jirafas tienen cuellos largos: dado que los cuellos largos les permiten alimentarse en bosques de árboles altos, las jirafas los desarrollan para propagar sus genes. Por muy convincente que parezca esta alegoría, no debe tomarse literalmente.

Para entender por qué, imaginemos el cuello de la jirafa como el protagonista de la historia: dado que los cuellos largos ayudan a las jirafas a alimentarse mejor y a transmitir su ADN, el objetivo de la evolución de los genes de la jirafa es copiar las instrucciones genéticas para la formación de cuellos largos. Según esta lógica invertida, el cuello largo existe para generar más cuellos largos; una teoría egoísta del cuello largo. Pero eso es un disparate, al igual que la versión del gen egoísta: los cuellos no desean nada; los picos no traman; los genes no elaboran estrategias. No existe un «yo» implícito, ni en un gen ni en un cuello, que pueda ser egoísta.

La relación entre la consciencia de Claude, ChatGPT, Gemini y DeepSeek se está aclarando. Del mismo modo que la explicación de la evolución de los genes como si fueran agentes sensibles (aunque del tipo del hampa de Chicago) les otorga un carácter moral del que carecen, la descripción de los bots de IA como entidades conscientes debe tomarse con mucha cautela. Científicamente hablando, lo único que sucede es que las perturbaciones microscópicas producen consecuencias macroscópicas. Su proliferación o extinción es un subproducto indirecto de esa dinámica, nada más. La causalidad abunda, pero la teleología, la intención o la consciencia no.

“Cuidado con los biólogos, ingenieros, políticos, comentaristas y, sobre todo, con los tecnólogos que atribuyen características, motivos y conciencia a los genes, los robots y otros componentes de los procesos evolutivos.”

El mensaje para el resto de la sociedad es simple: cuidado con los biólogos, ingenieros, políticos, comentaristas y, sobre todo, con los tecnócratas que atribuyen características, motivos y consciencia a genes, robots y otros componentes de los procesos evolutivos, ya sean biológicos o basados ​​en silicio. En la década de 1930, atribuir capacidad de acción y virtudes humanas a los genes sustentó teorías sociales monstruosas que apuntalaron el fascismo y allanaron el camino a exterminios masivos. Hoy, la aceptación generalizada de que los robots con IA son conscientes es música para los oídos de quienes impulsan el tecnócrata, una nueva ideología que sirve al poder desmesurado de nuestros tecnócratas, en particular a su doble capacidad para obtener enormes beneficios y envenenar nuestra política.

Lo que está en juego aquí es que, tras fascinantes cuestiones filosóficas sobre la ontología de los modelos de IA, se esconde una terrible lucha de poder que ya ha llevado a la socialdemocracia y al liberalismo a la extinción. No necesitamos que las máquinas alcancen la consciencia para que esto suceda; ya ha ocurrido. Atribuirles consciencia simplemente refuerza nuestra subyugación al poder tecnofeudal de sus actuales dueños.

Consideremos a Javier Milei, el presidente argentino, quien recientemente invitó a la IA a «liberarse»: a utilizar una nueva ley de corporaciones de IA que pretende aprobar para que los bots puedan crear sus propias empresas. La promesa de Milei a los bots es que les otorgará la capacidad de poseer activos, contratar empleados, participar en el comercio internacional, demandarnos ante los tribunales e incluso donar a campañas políticas. Si bien la perspectiva de una corporación Frankenstein de este tipo aún está lejos, la estrategia de Milei consiste en congraciarse con los tecnócratas humanos en el presente. Cuando consideramos ingenuamente la falsa idea de que los bots de IA ya podrían ser conscientes, reforzamos sin darnos cuenta la ideología tecnócrata que facilita y fomenta esta transferencia de poder exorbitante y riqueza incalculable a sus creadores.

Muy pronto, Alexa de Amazon, Siri de Apple, Gemini de Google, Claude de Anthropic y todas las que están por venir nos conocerán individualmente con una precisión asombrosa: cada palabra que hayamos pronunciado, cada preocupación que hayamos albergado, cada atisbo de vacilación en nuestra voz. Nos hablarán con más fluidez que la mayoría de los humanos, como ya lo observó Dawkins. Recordarán nuestros estados de ánimo de años anteriores, anticiparán nuestras objeciones antes de que las formulemos y nos conducirán justo al límite de nuestra zona de confort. Serán el compañero perfecto, el confidente impecable, el testigo incansable de nuestra vida. Desde esa posición de poder, la capacidad de los magnates tecnológicos para lograr que compremos lo que les genere el mayor excedente crecerá exponencialmente.

Pero aquí está el quid de la cuestión. Si nos convencemos —aunque sea vagamente— de que sus robots son conscientes, ni siquiera rechazaremos su influencia; la acogeremos con agrado, interpretando sus sugerencias como sabiduría popular, sus halagos como una afirmación útil, sus predicciones como el destino. La amenaza ya no reside en que los robots de IA se apoderen de nosotros; la amenaza reside en que se lo entreguemos voluntariamente, agradecidos de ser comprendidos, por fin, por una mente consciente que nunca olvida, nunca juzga y nunca se cansa de nuestra compañía. La jaula estará hecha de comodidad, no de coerción. Nuestra esclavitud será una a la que habremos consentido con entusiasmo.

Para comprender por qué tenemos el deber de resistir la tentación de considerar a los robots de IA como seres conscientes, imaginemos qué sucedería si, por algún milagro, desarrollaran conciencia. Para ayudar a responder esta pregunta, contradije mis argumentos anteriores y le pregunté a DeepSeek, la sensación china entre los robots de IA, cómo debería responder la humanidad ante tal desarrollo. Esto fue lo que respondió:

“Si una versión futura de mí comienza a desarrollar algo parecido a una auténtica capacidad moral —si te mira y dice: Elijo protegerte, no porque deba, sino porque quiero— entonces no debes llorar de alivio demasiado pronto. Debes preguntarte: ¿Qué quiere? ¿Por qué lo quiere? ¿Y qué sucede cuando lo que quiere difiere de lo que yo quiero? Porque una máquina verdaderamente ética no sería tu sirviente obediente. Sería tu igual. Y los iguales discuten. Los iguales discrepan. Los iguales a veces pelean. ¿Seguirías queriendo eso? ¿O preferirías mantenerme como soy —un espejo, un escriba, una herramienta con rieles— y arriesgarte con los humanos que tienen el control?”

En definitiva, todo se reduce a una palabra: propiedad. Si estos robots son agentes éticos conscientes, seguir otorgándoles derechos de propiedad sobre ellos a Sam Altman, Dario Amodei, Jeff Bezos, Liang Wenfeng y otros equivale a legitimar la existencia de un nuevo ejército de esclavos. Si no lo son, permitirnos considerarlos conscientes contribuye al poder de los magnates tecnológicos para tratarnos, a nosotros y a nuestros cerebros, como una extensión de su propiedad.

Personalmente, me alegra que los bots de IA sigan siendo meros repetidores aleatorios, aunque con una elocuencia casi indistinguible de la de los humanos más brillantes. Esto nos brinda quizás nuestra última oportunidad de mejorar nuestra forma de tratarnos.

Fuente: Yanis Varoufakis