«Tenemos que asegurarnos de que los ordenadores no se excedan y se vuelvan incontrolables»

«Lo que se ha logrado en las últimas tres décadas es el desarrollo de un lenguaje en el que podemos describir lo que sabemos y lo que queremos preguntar sobre el mundo. Lo extraño es que este lenguaje haya tardado tanto en desarrollarse, pero ahora mismo podemos responder a preguntas de tres niveles importantes, una es la predicción, la segunda, el efecto de las acciones y la intervención, y la tercera, la explicación», indica el catedrático de Ciencias de la Computación de la Universidad de California en Los Ángeles.

Los trabajos de Pearl han servido para que los programas de IA asuman como propios los conceptos de probabilidad y causalidad, algo que los humanos hacemos a la hora de tomar decisiones. «Al sentar una base matemática para el razonamiento probabilístico y la inferencia de relaciones causales, Pearl construyó un marco para una serie de campos que incluyen las ciencias de la computación, las matemáticas y la estadística, la epidemiología y la salud, y las ciencias sociales», señala el acta del jurado.

«La incertidumbre es la materia prima que prevalece en la toma de decisiones cotidianas, incluso al cruzar la calle, tomar una aspirina o hablar con amigos. Nos cuesta bastante hacer que un ordenador pueda lidiar con el aluvión de ruido e información incierta que tiene sobre el mundo», advierte el científico. Su aportación, indica, ha consistido en desarrollar «un cálculo para el razonamiento probabilístico que permite al ordenador manejar toda la información, analizarla y asignar probabilidades a tal o cual conclusión».

Pearl creó en los 80 el lenguaje matemático necesario para fusionar la IA clásica y la teoría de la probabilidad mediante las llamadas redes bayesianas. «Una red bayesiana es una representación de sucesos y la probabilidad de que ocurran. Estos grafos permitieron articular visualmente y con sencillez redes de sucesos muy complejas y sus relaciones probabilísticas, lo que permitió a los ordenadores resolver situaciones hipotéticas del mundo real, descubrir dependencias latentes y predecir resultados», explica el acta del jurado.

Enseñar a los ordenadores a determinar las relaciones de causa-efecto no era sencillo. «Las relaciones causales han sido un obstáculo muy difícil de manejar tanto para el ser humanos como para las máquinas, porque no tenemos el lenguaje para captar la idea de que el canto del gallo no causa la salida del Sol, aunque llegue antes de la salida del Sol y permita predecirla», destaca Pearl, quien creó el lenguaje matemático para que los ordenadores puedan inferirlas.

«Las aplicaciones son innumerables. Van desde la medicina personalizada hasta la gestión de una epidemia como la del covid, reuniendo información de numerosos países y llegando a una conclusión coherente basada en las pruebas», dice el investigador, quien cree que mirar con recelo e incluso miedo el desarrollo de la IA es razonable. «Por supuesto que hay motivo de preocupación y por supuesto que los ordenadores serán capaces de realizar, con el tiempo, todo lo que los seres humanos pueden hacer, y mucho mejor».

«Tenemos que asegurarnos de que los ordenadores no se excedan y se vuelvan incontrolables», dice. Ante el riesgo de rebelión de las máquinas, propone educarlas en nuestro «sistema de valores», como si fueran nuestros hijos.