¿Las máquinas se podrían rebelar? Opina un experto en Inteligencia Artificial

Yann LeCun, reconocido como uno de los pioneros en el campo de la inteligencia artificial (IA), se muestra en desacuerdo con las visiones apocalípticas y los temores sobre el desarrollo de esta disciplina.

A diferencia de miles de investigadores, LeCun no comparte las preocupaciones sobre los peligros existenciales de la IA ni la llegada de una supuesta “superinteligencia” que supere a la humanidad. El vicepresidente de Meta, quien ha sido galardonado con el premio Turing y el Princesa de Asturias, considera exageradas algunas de estas inquietudes e incluso las califica como “ridículas”.

En una entrevista con ABC durante el reciente evento AI Fair en París, LeCun expresó su visión sobre el desarrollo de la IA. Para él, aplicaciones como ChatGPT, una máquina conversacional que ha revolucionado internet y plantea desafíos en el mercado laboral, no representan un avance disruptivo ni tienen un gran interés científico.

Según el científico, los modelos como GPT-4, el motor detrás de ChatGPT, no son soluciones reales y la inteligencia artificial basada únicamente en palabras y frases nunca se acercará a la comprensión humana.

LeCun enfatiza que estos programas no razonan ni planifican realmente; son útiles en términos de asistencia para la escritura, pero no mucho más. Los compara con las áreas del cerebro humano responsables del habla, como Wernicke y Broca. El hecho de que puedan manipular el lenguaje no implica que puedan generar pensamientos.

Además, LeCun considera que los sistemas de IA generativos, capaces de crear texto o imágenes bajo demanda, están en un callejón sin salida y aún están lejos de alcanzar el nivel de inteligencia de un perro, mucho menos superar a los humanos.

Según el científico, las herramientas que realmente transformarán el mundo aún están por llegar, y se espera que en cinco años haya nuevos y mejores modelos.

Cuando llegue el momento, probablemente en una década, LeCun espera que solo haya unos pocos modelos fundamentales que prevalezcan sobre el resto, debido a la dificultad de entrenamiento y los recursos necesarios.

Esto plantea desafíos en cuanto a la gobernanza de datos: ¿Cómo se puede lograr que una IA sea neutral y no manipule según la información con la que ha sido entrenada? Según LeCun, la solución sería utilizar datos abiertos para entrenar estos modelos, como la Wikipedia, para evitar sesgos y control sobre los mismos. La financiación debería provenir de empresas y gobiernos.

A pesar de las diferencias con empresarios y colegas, LeCun está de acuerdo en la necesidad de regular la tecnología. Sin embargo, se muestra en contra de crear leyes que restrinjan la investigación o el desarrollo de soluciones. Según él, sería imposible detener la publicación de investigaciones en código abierto, lo cual considera esencial. Para él, cualquier intento de regulación en ese sentido sería como detener la imprenta en el Imperio Otomano, un acto de oscurantismo.

El jefe de IA de Meta reconoce que existe la posibilidad de malos usos de esta tecnología, pero señala que eso ha ocurrido con cada avance tecnológico. Cita ejemplos como el correo electrónico, que trajo consigo el spam, y las redes sociales, que han sido utilizadas para la manipulación y la propaganda. Sin embargo, LeCun no cree que el impacto en el mercado laboral sea tan grande como se sugiere.

En cuanto al futuro de la IA, tanto Meta como LeCun apuestan por la Joint Embedding Predictive Architecture (JEPA). Este modelo abandona el enfoque probabilístico de los sistemas actuales e intenta replicar el funcionamiento de la inteligencia humana, tomando en cuenta los procesos y pasos involucrados en la toma de decisiones.

Según el científico, los resultados hasta ahora son prometedores, sin las “alucinaciones” presentes en los sistemas de IA actuales. Sin embargo, se espera que este modelo tome más de una década para convertirse en una realidad y, una vez más, puede cambiarlo todo.