Ciencia
28/11/2023 (08:00 CET) Actualizado: 28/11/2023 (08:00 CET)

Q-Star, la inteligencia artificial generativa que amenaza la humanidad

El despido de Sam Altman pone al descubierto un proyecto secreto de OpenAI, llamado Q-Star, que amenaza a la humanidad

Josep Guijarro

Periodista y escritor

28/11/2023 (08:00 CET) Actualizado: 28/11/2023 (08:00 CET)
Alertan del peligro de la Inteligencia Artificial
Alertan del peligro de la Inteligencia Artificial

El pasado viernes, 17 de noviembre, la junta de OpenAI,  la compañía que desarrolla el famoso Chat GPT, despidió por sorpresa a su carismático CEO, Sam Altman.

El estadounidense Samuel H. Altman aprendió a programar y a desarmar una de las primeras computadoras de Apple, la Macintosh, cuando tenía 8 años. Ingresó en la Universidad de Stanford, en California, para estudiar informática, aunque no terminó la carrera.

En 2005, desarrolló junto a unos amigos, su primera idea, Loopt, una aplicación para compartir la ubicación con otras personas. Esta idea supuso el trampolín de su carrera como empresario y le abrió las puertas al mundo de las grandes inversiones tecnológicas.

Junto a Elon Musk creó en Silicon Valley, OpenAI, una compañía que le permitió sumergirse en un mundo que le generaba fascinación y temor por igual: el de la inteligencia artificial.

Poco antes del sorpresivo despido, varios empleados de enviaron a la junta directiva una carta advirtiendo sobre un poderoso descubrimiento de inteligencia artificial que, según dijeron, podría amenazar a la humanidad.

Que la junta directiva de OpenAI no conociera estos avances es lo que motivó la “falta de confianza” en Altman y su mediático despido y que más de 770 empleados amenazaran con renunciar y unirse a Microsoft –que es el inversor mayoritario de la compañía- en solidaridad con su CEO.

Sam Altman Reuters
Sam Altman Reuters

La carta –según dos fuentes anónimas "familiarizadas con el asunto"- habla de un proyecto llamado Q* (pronunciado como Q-Star) que habría desarrollado un algoritmo de IA (Inteligencia Artificial) que habría conseguido resolver problemas elementales. Aunque sólo realizaban matemáticas al nivel de los estudiantes de escuela primaria, superar estas pruebas hizo que los investigadores se sintieran muy optimistas a que Q* pudiera pensar por sí misma.

La letra Q parece remitirnos a la clásica técnica de Q-Learning, ámpliamente usada en RL o Aprendizaje por refuerzo que es un método, mediante el cual, se enseña a los algoritmos a tomar decisiones por sí mismos y que, en su vertiente Deep Q Networks (DQN), ha cosechado bastantes éxitos. Este algoritmo, por ejemplo, es capaz de vencer a todos los jugadores del mundo en todos los juegos posibles. 

En el Q-Learning ha estado trabajando silenciosamente DeepMind Google con su sistema Gémini para plantar cara a un futuro GPT-5.

OpenAI, por tanto, estaría investigando esto internamente y parece que habrían dado con algo peligroso para el futuro de la humanidad.

Ryan Caplan, economista de la George Mason University, ya advertía en abril de los efectos catastróficos por la persistencia en la investigación sobre Inteligencia Artificial. Llegó a vaticinar que “la humanidad será borrada de la superficie de la Tierra el primero de enero de 2030”.

Según cuenta el profesor de ESADE, Esteve Almirall, en un artículo de La Vanguardia, el instigador del golpe en OpenAI no fue otro que su director científico, Llya Sutskever quien escribió en X: “nunca quise hacer daño a OpenAI” y pidió la vuelta de Sam Altman y Greg Brockman

Finalmente, el consejo dimitió, Sam Altman volvió a la compañía y se ha elegido un nuevo consejo con nombres tan prestigiosos como Larry Summers, el Presidente más carismático de Harvard. ¿Qué pasará ahora? ¿Seguirá el desarrollo del "peligroso" Q-Star?

El divulgador de Inteligencia Artificial, Carlos Santana alerta de dos corrientes en la firma de Silicon Valley. “Sabemos por toda esta crisis de estos días que en OpenAI han convivido tribus de aceleracionistas (quieren llegar rápido a desbloquer el potencial de la IA) frente a los desaceleracionistas (que quieren ir a un ritmo más pausado para valorar muchas de las consideraciones éticas que se están dejando atrás)” –dice en un interesante hilo de X (antigua Twitter).

La ejecutiva de larga data Mira Murati –que también pidió el retorno de Altman-  mencionó el proyecto Q* a los empleados asegurando que podría ser un gran avance en la búsqueda de la superinteligencia (la que supera a la humana), también conocida como Inteligencia Artificial Generativa (AGI, por sus siglas en inglés). 

Para Almirall, "el desarrollo trepidante de la Inteligencia Artificial generativa y, especialmente, el hecho de que se lanzase al mercado para que los usuarios lo adoptasen de una forma muy gradualista, no fue del agrado de estas corrientes de opinión y creó la confrontación." En su opinión, echar a Sam Altman y desacelerar el desarrollo en OpenAI se hizo creyendo que esta "desaceleración contribuiría a reducir el riesgo de poner en peligro el planeta."

Sobre el autor
Josep Guijarro

Josep Guijarro es reportero de prensa, radio y televisión, además de autor de varios libros entre los que cabe destacar El tesoro oculto de los templarios, Aliens Ancestrales o Coincidencias Imposibles. Es documentalista de la serie Extraterrestres (DMAX) y forma parte de los programas El Colegio Invisible y La Rosa de los Vientos, ambos en Onda Cero.

Relacionados
Lo más leído

Comentarios

No hay comentarios ¿Te animas?

Nos interesa tu opinión

Revista

Año cero 403

Nº 403, marzo de 2024