La 'superinteligencia' artificial que amenaza a la humanidad: el proyecto que ha causado la crisis en OpenAI

El comunicado en el que la junta directiva explicaba los motivos para despedir a Altman en la ya histórica videoconferencia del pasado viernes fueron crípticos. «Pérdida de confianza y no ser consistentemente sincero en sus comunicaciones con la junta», dijeron. Según fuentes de Reuters y el medio especializado The Information, entre esas comunicaciones estaría el desarrollo a principios de este año de una nueva tecnología de inteligencia artificial que superaría con creces sus capacidades actuales. Varios investigadores habrían enviado una carta a la dirección para advertirles de su existencia, algo que no había hecho Altman. Este habría sido el detonante de la llamada de Ilya Sutskever, científico jefe de OpenAI, que acabaría con la salida momentánea de su jefe. Ninguno de los medios que han destapado esta información han tenido acceso a la misiva ni a ninguno de los trabajadores que la escribieron.

Poco se sabe con certeza de este nuevo y supuestamente revolucionario programa que ha sido bautizado con el nombre de Q*. Algunas fuentes apuntan a que sería un avance en la dirección de que la inteligencia artificial supere las capacidades del ser humano, lo que técnicamente se llama Inteligencia Artificial General (AGI, por sus siglas en inglés). Q* habría demostrado sus capacidades resolviendo problemas matemáticos como hacemos las personas, algo que no hacen ChatGPT o programas similares.

Aunque Reuters asegura que su nivel matemático no pasaría del de un estudiante de Primaria, los investigadores se habrían alarmado lo suficiente como para alertar a sus jefes. «Puede que el avance tenga que ver con la idea de aprender solamente por feedback (aprendizaje por refuerzo) en vez de aprender de ejemplos (aprendizaje supervisado). Podría venir de ahí, porque Q* es una de las variables que aparece en las fórmulas de aprendizaje por refuerzo. O igual es otra cosa totalmente diferente, quién sabe. Ahora mismo es mera especulación», explica Eneko Agirre, el director de HiTZ, el Centro Vasco de Tecnología de la Lengua de la UPV/EHU.

El temor a que las máquinas superen al ser humano en inteligencia es casi tan antiguo como la propia informática. Ese momento es conocido como «singularidad», un término acuñado en 1957 por el matemático John Von Neumann, uno de los pioneros de la Inteligencia Artificial y que diseñó algunos de los primeros ordenadores para hacer cálculos destinados a las bombas atómicas estadounidenses. Ya por entonces expresó sus miedos hacia las capacidades de las máquinas. «Lo que estamos creando en este momento es un monstruo cuya influencia va a cambiar la historia, si es que queda historia alguna [...] pero sería imposible no llevarlo a cabo, no solo por razones militares, sino porque también sería poco ético desde el punto de vista de los científicos no hacer lo que ellos saben que es factible, por muy terribles que puedan ser las consecuencias».

Antes de que se conociera la existencia de esta carta, se apuntaba a diferencias internas en la compañía para explicar el estallido de la crisis. Altman encabezaría el sector que apuesta por desarrollar la tecnología lo más rápido posible sin importar las consecuencias. En el bando contrario estaría, según The Information, una de las consejeras independientes de la compañía, Helen Toner, directora de estrategia del Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown, que apostaba por un desarrollo más controlado. Esta contaba con los apoyos de los otros dos consejeros independientes, Tasha McCauley, emprendedora tecnológica, y Adam D'Angelo, jefe de Quora -una especie de red social de preguntas y respuestas-, además del del mencionado Sutskever, que acabaría arrepintiéndose más tarde.

Dado que la junta se compone de seis miembros, Altman estaría en minoría. Con todo lo sucedido desde entonces, culminado ayer con su regreso a la compañía acompañado de una nueva junta directiva -solo queda D'Angelo- favorable a sus intereses, la cara visible de ChatGPT habría culminado una jugada maestra.