Superinteligencia, o la extinción humana

Para comprender el nuevo mundo, tenemos que desaprender el viejo mundo, cada uno en su cabeza, en cada conversación en que intentamos compartir un mundo común. Si no advertimos las diferencias, las discontinuidades, o lo que Adorno llamaba la dialéctica negativa, seremos como sombras que habitan un espacio-tiempo en el que no pertenecen. La lectura de Hegel que postula la reconciliación de todas las contradicciones en una nueva síntesis es una frivolidad insostenible. La investigación histórica y arqueológica nos ha hecho ver que hay mundos que se pierden. Presenciamos hoy la dureza de la negatividad, no hay reconciliación, no hay aquello de que el dos contiene al uno. El nuevo mundo que se anuncia no contendrá el viejo mundo de una manera reconocible. Hay un mundo que conocimos que se perderá en esta transición hacia un mundo nuevo.

Hasta hace pocos años la inteligencia era una virtud, y todos los seres humanos nos reputábamos inteligentes, en mayor o menor medida. Era lo que nos separaba del mundo animal. Construimos casas, construimos ciudades, transformamos nuestro ambiente según ideas, mal o bien concebidas, somos capaces de hacer ciencia y contarnos historias que dan sentido a nuestras vidas, aunque haya una población abundante, que atraviesa todo el espectro socioeconómico, que no tiene la instrucción suficiente para sobreponerse a la inmediatez de las emociones y los prejuicios. Nadie hasta ahora habría podido defender la idea de que no es importante ser inteligente. Hasta ahora.

Desde que John McCarthy acuñó el término “inteligencia artificial” en 1956, ha corrido mucha agua bajo el puente. Originalmente, el ejercicio consistía en emplear máquinas para simular o imitar operaciones cognitivas, como percibir, razonar, aprender, y resolver problemas. Estas operaciones de las máquinas siempre empleadas por seres humanos expertos potenciaban la inteligencia humana, pues con ellas lográbamos mejor información del mundo real y podían planificar mejor y responder con más acierto a los problemas que se nos planteaban. Luego vino el reconocimiento de caracteres, el reconocimiento de voz, el reconocimiento de imagen y todo eso fue motivo de celebración. Las máquinas comenzaron a hablar gracias a que habían convertido el uso del lenguaje en patrones de comportamiento y podían imitar esos patrones. Lo llamamos “avances tecnológicos”.

Hasta hace unas tres décadas nadie dudaba que las máquinas no pensaban. Sí, era interesante ver a una máquina jugando ajedrez y ganando la partida a un buen jugador, pero de los campeones del ajedrez esperábamos que le ganaran a las máquinas y así ocurría. Pero eso cambió un día: Gary Kasparov, el campeón mundial, perdió una partida ante Deep Blue, la gran computadora de IBM. Eso fue en febrero de 1996. El mensaje era claro: la complejidad de operaciones de la computación desafiaba la mente humana.

En este siglo, poco a poco nos fuimos haciendo la idea de que podíamos hacer máquinas que trabajaban sin cansarse, respondían sin ser obnubiladas por las emociones, y respondían “con la verdad” sin buscar complacer a quien preguntaba. Además, nos superaban en la velocidad de procesamiento de la información y en la cantidad de parámetros que utilizaban para obtener resultados. Pero la cosa no terminó allí.

Entonces nos dimos cuenta de que no era una mala idea sustituir el trabajo de seres humanos, siempre susceptibles al error, al prejuicio, a las emociones tristes, al cansancio, y un largo etcétera, por la nitidez, velocidad y efectividad de la “inteligencia artificial”. Un colega que estaba buscando un socio más joven, con muchas ganas de trabajar y aprender de él, me dijo un día exultante: “he descubierto lo que puede hacer la IA y me he dado cuenta de que ya no necesito a nadie, ni siquiera tengo que pensar mucho yo mismo”. El horror me hizo guardar silencio.

Ahora ya es frecuente ver cómo personas educadas denuncian que las máquinas están reemplazando al pensamiento humano, lo que está a un paso de decir que el pensamiento humano está siendo reemplazado por otro tipo de pensamiento que no es humano. Confieso que no le encuentro sentido a la frase “pensamiento no humano”, de la misma manera que sigo pensando que las máquinas no piensan. En todo caso habrá que investigar qué son esas cosas que simulan pensar, pero que no tienen un cerebro. Que simulan ser inteligentes, pero que no lo son.

De los seres humanos tienen datos sobre su conducta y formas de razonar. El llamado “aprendizaje” de las máquinas consiste en que cada vez manejan más juegos de datos (data sets) y pueden replicar, imitar, las conductas y los razonamientos humanos. De la compleja combinación de patrones humanos se genera algo extraño que puede parecerse a la creatividad, pero que no responde a ningún tipo de conciencia. Es lo que se llama IA generativa, una de las ilusiones más audaces y peligrosas del siglo XXI. Pero la cosa no termina allí.

Hace unos pocos años, las máquinas comenzaron a ser entrenadas por otras máquinas y el resultado fue que “el aprendizaje” es más rápido cuando una máquina entrena a otra. La “interacción” entre máquinas dio paso a la coordinación sistemática de unas máquinas por otras. Es lo que llaman la IA agéntica, perdón por el neologismo, que es más que una IA utilizando otras herramientas digitales y creando flujos de trabajo, incluyendo a otras IAs, y ejecutando tareas sobre la base de objetivos amplios establecidos por seres humanos, sí, pero con poca intervención o supervisión por parte de ellos.

Las características que definen este nuevo tipo de IAs son la autonomía y la adaptabilidad, así como la capacidad de integrar herramientas digitales, todo de acuerdo con objetivos preestablecidos. Esta nueva arquitectura computacional permite que la IA reciba retroalimentación de seres humanos o de otras IA y tome decisiones sin oportunidad de intervención de los humanos. La IA agéntica ya no recibe órdenes (“commands”), como impulso, sino que funciona de forma autónoma siguiendo los objetivos definidos. (Puede consultarse el sitio de Stanford University Human-centered Artificial Intelligence).

Hace doce años Nick Bostrom publicó Superintelligence (hay versión española publicada en 2016). Entonces su interés estaba dirigido a explorar un nuevo ángulo de la cuestión concerniente con la singularidad, la emulación del cerebro humano por una máquina. La búsqueda de Nostrom consistía en explorar el concepto de inteligencia artificial general (AGI) y mostrar cómo, una vez que se lograra una máquina con todas las funciones generales, el resultado no sería una inteligencia humana sino una super inteligencia. Las consecuencias de ese “avance” serían inconmensurables.

“Si algún día llegáramos a construir cerebros artificiales que superaran en inteligencia general a los cerebros humanos, entonces esa nueva superinteligencia podría llegar a a ser muy poderosa.” Y el símil que la idea le evoca no es menos significativo: “de igual manera que el destino de los gorilas depende ahora más de los humanos que de ellos mismos, también el destino de nuestra especie pasaría a depender de las acciones de la superinteligencia artificial.”

Y eso es precisamente en lo que las grandes tecno-corporaciones, son 5 no más, han invertido miles de millones de dólares en los último 10 o 15 años. La especie humana va en camino de convertirse en una especie de mascota de la superinteligencia artificial. El tipo de tecnología que se está desarrollando hoy a pasos agigantados no tiene nada que ver con el tipo de computación que investigaba Alan Turing en los años 50. Estamos atravesando un umbral para el que no hay vuelta atrás.

De allí la renuncia y denuncia de Jacob Coxon, un investigador en computación de apenas 27 años y que trabajó en OpenAI primero y luego fue contratado por Anthropic. Según Coxon estas empresas se están lanzando a crear una superinteligencia capaz de mejorarse por sí misma, sin saber exactamente cómo funciona, ni cómo controlar o supervisar sus avances. Los riesgos potenciales de esta superinteligencia alcanzan la destrucción misma de los sistemas de los que depende la vida de los seres humanos alrededor del planeta. Esta tesis está más desarrollada en la más reciente obra de Yuval Noah Harari titulada Nexus: A Brief History of Information Networks from the Stone Age to AI, publicada en 2024.

Esta extinción no ocurrirá de la noche a la mañana, ni habrá una guerra en la que resulte un lado victorioso. Hace mucho ya que las guerras solo son gasto y desgaste sin victoria. La extinción humana ocurrirá como resultado de la desaparición de lo que nos hace humanos. La civilización tipográfica, en donde el ser humano aprendía a ser humano mediante la lectura de libros significativos y la escritura de su tiempo desde su condición humana, está agonizando. Las democracias se construyeron por y para los seres humanos con la habilidad de lecto-escritura. Sin ella, asoman a la puerta nuevos despotismos. En el mejor de los casos, será una crisis de larga duración, no una coyuntura.