“La IA de hoy es una ameba, pero pronto será un dinosaurio”: las advertencias Yuval Noah Harari en su nuevo libro ‘Nexus’

Los hechos reales no pueden ser comunicados en su totalidad, “no importa lo verídico que sea un informe, nunca podrá representar la realidad en todos sus aspectos”, dice Yuval Noah Harari, el historiador y pensador israelí reconocido por su trilogía de la historia humana ‘Sapiens’ (2011), ‘Homo deus’ (2015) y ‘21 lecciones para el siglo XXI’ (2018), de la que se han vendido más de 45 millones de libros.

En la actualidad, Harari es un referente intelectual sobre las cuestiones más urgentes de nuestro tiempo: cambio climático, migración, conflictos bélicos, economía, geopolítica, genética, religión y tecnología. Fue invitado en dos ocasiones, para dictar conferencias magistrales a líderes, al Foro Económico Mundial de Davos. Y es consultado por algunas de las personas más poderosas del planeta, como Angela Merkel cuando ejerció como Primera Ministra de Alemania, o por Mark Zuckerberg, director ejecutivo de Meta.

Con excepcionales publicaciones de artículos en medios globales y dos adaptaciones gráficas de sus libros, Harari permaneció concentrado en un proyecto que, después de seis años presentó al mundo, se trata de ‘Nexus, una breve historia de las redes de información, de la Edad de Piedra hasta la IA’, donde se propuso desentrañar una tríada de conceptos sobre los que hoy giran las relaciones planetarias: realidad, verdad e información.

La verdad representa la realidad, afirma Harari, pero no puede abarcarla en su complejidad y múltiples puntos de vista. Por su parte, la información no necesita ser cierta para cumplir su función, que no es otra que conectar a las personas. De hecho, millones de personas están conectadas por “nobles mentiras” como la idea de patria, o ficciones religiosas como Dios, Alá, Krishna, o fetiches económicos como el dinero.

Por esta razón, es que “la idea ingenua de la información” acerca de que entre más acceso tengamos a datos y noticias sobre todos los aspectos de la realidad seremos más inteligentes, no es muy convincente, puesto que los relatos más simples, y con frecuencia falsos, tienen un gran poder para movilizar a los seres humanos. Desde la astrología que incluso presidentes toman en cuenta para decidir el futuro de una nación, a las teorías de conspiración que pueden detener campañas de salud pública.

Ahora bien, la gran pregunta que intenta responder el pensador es: ¿cómo podría cambiar la humanidad ante la llegada de la IA, que puede tomar decisiones propias y generar información en cantidades avasallantes, inclinando la voluntad humana hacia los intereses de quién, o quiénes?

El pasado lunes, 16 de septiembre, en rueda de prensa con periodistas de todo el mundo, Yuval Noah Harari, ayudado por intérpretes y pidiendo —por favor— confiaran en que la imagen de la pantalla era él y no una recreación con IA, respondió por qué “cuando tenemos la tecnología de la información más importante de la historia, la gente parece cada vez más incapaz de hablar unos con otros”.

—¿Cuáles son los verdaderos peligros relacionados con la IA?

La Inteligencia Artificial es distinta de cualquier otra tecnología que hayamos inventado antes, porque no es una herramienta, es un agente independiente. Cualquier tecnología previa, como las armas nucleares, tenían un poder ingente, es decir, estaba todo en manos de los seres humanos, éramos los que decidían si tenían que utilizar la bomba atómica y dónde. La bomba como tal no podía decidir nada, ni podía inventar ninguna arma nueva, ni hacer una estrategia militar.

La inteligencia artificial es distinta, puede tomar decisiones por sí misma, por ejemplo, en un periódico las decisiones más importantes las toma el editor, se puede contar cualquier historia, pero al final es el editor o director quien decide qué va a ir en la primera página. Pero ahora, en algunas de las plataformas más importantes del mundo, como Twitter o Facebook, el papel del editor ha sido asumido por la IA, son algoritmos los que deciden cuál será la historia recomendada que estará en la posición más alta, ese poder inmenso del editor ahora está en manos de un agente que no solo puede tomar decisiones, sino que además puede crear nuevas ideas por sí misma, genera imágenes, texto, código y muchos aspectos quedan fuera de nuestros control, eso como si fuera una bomba que puede crear bombas.

—¿Cómo explica la contradicción de que en la llamada sociedad de la información parece que nos estamos volviendo más ignorantes?

No es una contradicción, porque lo más importante respecto a la información es que no es verdad y no representa un conocimiento. La idea ingenua de la información que domina en lugares como Silicon Valley, donde de forma errónea creen esto de que con más información la gente sabe más, pero la mayor parte de la información en el mundo es basura o falsa, hallar la verdad en la información es algo escaso, además, la verdad es cara, escribir un informe realmente auténtico requiere tiempo, dinero y esfuerzo. Mientras que escribir una mentira, una ficción barata, es algo en lo que no tienes que invertir nada, simplemente escribes lo primero que te viene a la mente.

Así que la verdad cuesta y normalmente es complicada, porque la realidad es compleja, mientras que la ficción puede ser tan sencilla como cualquiera desee. De hecho, la mayor parte de la gente prefiere las historias sencillas a las complicadas, además la verdad y la realidad son con frecuencia dolorosas. Hay muchas más cosas que no queremos saber de nosotros mismos, de nuestro propio país, mientras que las ficciones que circulan quieren complacernos.

Por lo tanto, si se inunda el mundo con información con esta idea ingenua de que seremos más sabios, la verdad no va a llegar a la superficie, no, caerá al fondo. Si queremos que prevalezca la verdad, tenemos que invertir, tenemos que crear, por ejemplo, instituciones como periódicos o como sociedades académicas que inviertan en este esfuerzo para descubrir y divulgar la verdad. Y esta es la responsabilidad de la sociedad actual, resistir a esta visión ingenua que se escucha de gente como Elon Musk, que solo propone más información y que con esto la gente descubrirá la verdad por sí mismas, pero esto no es así. Insisto, se requiere gran esfuerzo y energía para descubrir la verdad, sino quedará enterrada entre toda esta información.

—¿Podríamos encaminarnos hacia un totalitarismo tecnológico?

Depende de las decisiones que adoptemos, pero tenemos que entender que sí existe un potencial totalitario en la Inteligencia Artificial, a diferencia de cualquier otra cosa que hayamos visto hasta ahora en la historia.

La diferencia entre regímenes autoritarios y totalitarios, es que los autoritarios controlan la esfera política, lo militar, el presupuesto, pero dejan que la gente tenga un margen de intimidad, el rey o el tirano no pueden saber lo que cada uno de nosotros está haciendo o piensa cada minuto del día. Los regímenes totalitarios, por otro extremo, intentan hacer precisamente eso, dictaduras como las de Stalin en la Unión Soviética, Hitler en Alemania, no solo querían controlar el ámbito militar y el presupuesto, sino todos los aspectos, la totalidad de la vida de cada uno, en cada momento. Lo que vemos, lo que escuchamos, con quién nos encontramos, qué libros leemos, todo.

Pero incluso Hitler y Stalin tenían dificultades y límites para ejercer ese control, porque no podían seguir a todo el mundo constantemente, si uno vivía en la URSS en la época de Stalin, habían unos 200 millones de ciudadanos y para seguirlos a todos ellos todo el tiempo, Stalin necesitaba como mínimo millones de agentes secretos, es decir, no podían seguir a alguien todo el día, mucho menos a 200 millones. Imaginemos que se pueda seguir a todo el mundo todo el tiempo, la KGB estaría inundada con 200 millones de informes sobre todos los ciudadanos de la URSS, pero solo serían papeles, dado que alguien tendría que leerlos, en últimas hay muchas posibilidades de que los informes simplemente queden allí llenos de polvo en una estantería, sería casi imposible tener tantos analistas.

Pero la IA permitiría una vigilancia total, que acabe con cualquier libertad, porque no necesitas agentes para seguir a todos los humanos: hay teléfonos inteligentes, computadores, cámaras de reconocimiento, software de reconocimiento de cara y voz. Así que antes era imposible aniquilar la privacidad. Ahora no se necesitan analistas para revisar toda la información, tenemos a la IA que puede gestionar una cantidad enorme de información (videos, audios, textos) analizarlos y reconocer patrones, y esto ya está sucediendo en algunos países en el mundo.

En Israel, mi propio país, ya están creando ese régimen. Ya podemos ver los territorios ocupados con cámaras, con drones, con software, siguiendo a todo el mundo todo el tiempo. Y vemos lo mismo en Irán, donde, por ejemplo, las mujeres que van por la calle deben cubrirse el rostro, pero incluso si van en un vehículo tienen que hacerlo.

Como no pueden poner un policía en cada calle, han cambiado las cosas y ahora por todo Irán hay sistemas de vigilancia, con software de IA, con reconocimiento facial, que identifica a las mujeres si no llevan el velo y puede incluso castigarlas, es decir, la autoridad para castigar está en manos de la IA.

Basta leer un informe de Amnistía Internacional que precisamente denuncia lo que se está haciendo en Teherán, muchas mujeres que están conduciendo su vehículo privado sin el velo son identificadas por las cámaras, y como tienen su nombre y su teléfono, inmediatamente le envía un mensaje diciéndole que ha cometido un delito y que su vehículo queda confiscado por el Estado, que debe detenerse y salir del vehículo, porque ya no puede seguir conduciendo. Esto no es un escenario de ciencia ficción, no es algo que pueda pasar dentro de 100 años, ya está sucediendo, pasando ahora mismo.

—¿La IA ya puede componer mejores relatos que los seres humanos?

Los desarrollos más recientes de la IA nos muestran esta capacidad de crear historias. Pero si nos vamos atrás unos años, había una IA ya funcionando que controlaba la información y determinaba lo que llamaba más la atención en Facebook o en Google, lo que conseguía más tráfico en Twitter, aunque no podía crear contenidos. Ahora la nueva generación de Inteligencia Artificial sí puede hacerlo, y sé que hay mucha gente que dice: “Sí, pero no escribe muy buenos textos, o las imágenes tienen errores, como manos de seis dedos, o la música no es muy auténtica”. Sí, de acuerdo, pero debemos entender que esto es el primer paso de la incipiente AI, que básicamente tiene 10 años.

Si pensamos, por ejemplo, en la evolución de la Inteligencia Artificial como análoga a la evolución biológica, hemos necesitado millones de años para que las amebas puedan evolucionar y convertirse en dinosaurios, mamíferos y humanos, porque la evolución orgánica es lenta, pero la evolución digital es millones de veces más rápida. Podríamos decir que la IA de hoy son amebas, pero pronto serán dinosaurios, en 10 o 20 años lo va a conseguir.

Dentro de unos años, pensemos en esos relatos creados hoy por ChatGPT, yo puedo ver los errores, pero no solo puede escribir frases o hacer un copia, pega de aquí y de allá, la verdad es que puede crear párrafos enteros, relatos, historias, ensayos, muchas veces llenos de errores, pero que tienen sentido. Es realmente asombroso que pueda defender un argumento o desarrollar una historia, cuando hay muchos humanos que tienen dificultades con eso.

Yo soy profesor de universidad, leo muchos artículos realizados por los estudiantes y noto como muchas veces les cuesta elaborar un ensayo coherente defendiendo un punto de vista, enlazando diversos argumentos, pues bien ahora la IA ya lo puede hacer.

Entonces, ¿dónde estará dentro de 5 o 10 años? Nadie lo sabe, pero de nuevo si pensamos en la historia en su conjunto, los humanos hemos vivido dentro de una cultura y toda la historia, la música, poemas, obras de teatro, imágenes, son productos de la imaginación humana, ahora cada vez más los artefactos culturales, las historias, los relatos, las series de televisión, las imágenes, la música, serán el producto de una inteligencia alien. ¿Qué hará esto a la psicología o a la sociedad humana? Nadie lo sabe y esa es la gran pregunta.