ChatGPT: luces y sombras

Pero no todo son buenas noticias. Debemos ser conscientes de que estas superinteligencias son falibles y de capacitación heterogénea, como la inteligencia humana. Es decir, pueden dar información errónea, imprecisa o desactualizada, y su nivel de excelencia en las respuestas variará dependiendo del dominio.

Ahora bien, si esa fiabilidad limitada es algo «normal» en los humanos ¿por qué es un problema en el caso de las inteligencias artificiales? Porque perdemos la opción que tenemos actualmente de acceder a distintas respuestas y evaluar cuál es la mejor en función del prestigio o autoridad de la fuente. Prestigio y autoridad significan que detrás de los contenidos creados por humanos hay entidades que se responsabilizan de su fiabilidad (sus autores) y entidades que la refrendan (instituciones, empresas, organismos, otros expertos, etc.).

Como se deriva de la reflexión anterior, la IA es irresponsable. Lo es desde cualquier punto de vista, ya sea filosófico, legal o mundano. Esto, sin ser necesariamente un problema en la práctica, implica un cambio radical en nuestra relación con la información a la que accedemos.

Al respecto, veamos que nos dice la propia IA:

Yo: ¿Cuáles son en tu opinión las principales debilidades o inconvenientes de ChatGPT como herramienta de acceso a la información?

ChatGPT: Como modelo de lenguaje automatizado, ChatGPT tiene algunas debilidades o inconvenientes como herramienta de acceso a la información. Algunos de ellos son:

1-Conocimiento limitado: Mi conocimiento está limitado a la fecha de corte de mi entrenamiento, por lo que si la información que buscas es más reciente, la respuesta podría no ser precisa.

2-Comprensión limitada del contexto: Aunque ChatGPT ha sido entrenado con un gran número de textos, a veces puede tener dificultades para comprender el contexto de una pregunta o una conversación.

3-Problemas de interpretación: ChatGPT es un modelo de lenguaje automatizado, no un ser humano, por lo que puede cometer errores al interpretar preguntas o instrucciones.

4-Puede generar respuestas inapropiadas o con contenido ofensivo: Aunque ChatGPT ha sido entrenado para evitar generar respuestas inapropiadas, en algunos casos, puede generar contenido ofensivo o inapropiado debido a la gran cantidad de información disponible en internet.

Es importante tener en cuenta estos inconvenientes al utilizar ChatGPT como herramienta de acceso a la información, y siempre debes verificar la precisión de la información proporcionada.

Como consecuencia de todo lo anterior, algunos expertos de mi entorno comentan (y coincido con ellos) que quizás deberíamos plantearnos un sistema híbrido, una IA como ChatGPT que, además de su respuesta elaborada, ofrezca y contraste resultados de Internet, o incluso que referencie sus fuentes. Esto supondría un nuevo paradigma basado en la evolución del modelo actual y no en su total disrupción. ¿Es este el modelo hacia el que quiere avanzar Open AI? Pues, curiosamente, parece que los tiros podrían ir por ahí, a juzgar por lo que la propia IA me ha confesado al oído:

Yo: ¿Cuáles son los planes de futuro para ChatGPT? ¿está previsto combinar la IA con un motor de búsqueda en Internet?

ChatGPT: OpenAI, la empresa propietaria de ChatGPT, no ha compartido públicamente detalles específicos sobre los planes futuros para ChatGPT, pero se espera que continúen mejorando y actualizando el modelo para proporcionar una experiencia de usuario cada vez mejor.

En cuanto a combinar la IA con un motor de búsqueda en internet, es posible que esto sea una de las áreas de investigación en la que OpenAI esté trabajando, ya que la combinación de la inteligencia artificial con la búsqueda en internet podría proporcionar una mejor capacidad de respuesta a las preguntas y un mejor acceso a la información. Sin embargo, no se sabe con certeza si OpenAI está trabajando en esta área específica o si ha planificado hacerlo en un futuro cercano.

* Ernesto del Valle es docente e investigador del grupo Ciencia de Datos de UNIR