A la caza de los bots El ejército de mentirosos que contamina Internet

Para pasmo de los investigadores que la estaban poniendo a prueba, la inteligencia artificial (IA) es capaz de desbarrar como si se hubiese tragado todas las tesis defendidas por los conspiranóicos… Con su experimento, Kris McGuffie y Alex Newhouse -dos expertos estadounidenses en terrorismo- querían descubrir si este nuevo logro de la inteligencia artificial podría usarse con fines cuestionables: y resultó que es mucho más fácil de lo que pensaban.

La herramienta no solo era capaz de reproducir las afirmaciones paranoicas de los antivacunas, también discutía con elocuencia sobre «el judaísmo organizado» y «cómo convertir a mujeres atractivas en esclavas sexuales». Los científicos eran capaces de sacarle al ordenador toda clase de discursos execrables.

Ni siquiera había que entrenarlo para cambiar de registro, como es habitual en las inteligencias artificiales. Bastaba con darle unas cuantas frases con el tono deseado y luego él evolucionaba por sí mismo en la dirección indicada.

GPT-3 es el nuevo producto de la empresa OpenAI de San Francisco. Sus desarrolladores han alimentado el sistema con cantidades ingentes de textos sacados de Internet; entre ellos, la Wikipedia al completo. A partir de toda esa información, GPT-3 ha aprendido cómo escriben las personas, qué palabras suceden a otras con mayor frecuencia… Y muchas veces el resultado parece pensado por seres humanos.

Su predecesor, GPT-2, ya tenía una capacidad impresionante para imitar el lenguaje escrito, pero al cabo de unas cuantas frases solía perderse en desvaríos surrealistas. El nuevo modelo consigue elaborar textos mucho más largos. Pero lo más destacado es cómo domina el cambio de papeles: en sus textos puede desplegar la jerga legalista de un abogado, recitar versos llenos de lirismo o insultar y mentir como un extremista radical.

La empresa OpenAI es muy consciente del peligro que puede acarrear una mala utilización de su software, por eso se ha asegurado de restringir el acceso al programa. Eso no impide que McGuffie y Newhouse estén preocupados. Tarde o temprano, dicen, otros seguirán sus pasos y algunos podrían ser personas sin escrúpulos.

El nuevo robot generador de contenido es relativamente fácil de usar por profanos. Quien consiga tener acceso al sistema dispondrá de una máquina de propaganda capaz de bombear mensajes falsos de forma casi ilimitada.

Hasta ahora del acoso, el discurso del odio y de la desinformación se encargan sobre todo troles humanos. Para ahorrar trabajo, la mayoría de estos mensajes son simples copias de otros, por lo que los productos de estos ejércitos de troles suelen ser fácilmente reconocibles. Sistemas como GPT-3, por el contrario, podrían elaborar infinitas redacciones sobre cada tema; cada una de ellas, ligeramente diferente de las demás. Podrían crear miles de historias falsas sobre la COVID-19 o sobre refugiados violentos y difundirlas hasta conseguir que al público le estalle la cabeza. Las máquinas hacen su trabajo a un precio imbatible y con una eficiencia máxima… ¿nos enfrentamos a la industrialización de la propaganda?

Maestros del ‘remix’

Bruce Schneier -un reconocido experto estadounidense en seguridad informática- lo cree inevitable. Con costes a la baja, la producción aumenta: «Dentro de poco, la Red estará llena de este tipo de bots». Schneier está convencido de que, por simple superioridad numérica, acabarán arrinconando al intercambio entre personas: «No tardaremos mucho en ver foros en los que solo haya bots discutiendo con bots».

Florian Gallwitz -informático de la Escuela Técnica Superior de Núremberg- no cree que sea tan fácil. Sabe muy bien que Internet está lleno de bots, pero en la mayoría de los casos se trata de autómatas muy sencillos. Por ejemplo, los que publican en Twitter enlaces a nuevos mensajes. También los que se pasan el día difundiendo insultos. ¿Pero inteligencias malévolas capaces de mezclarse inadvertidamente en conversaciones entre humanos? «Me parece una ficción», dice Gallwitz. Y añade que se están sobreestimando las capacidades de la inteligencia artificial.

¿Quiere eso decir que el prodigioso GPT-3 no abre un mundo de nuevas posibilidades para el engaño? El periódico The Guardian quiso demostrar lo contrario en septiembre de 2020 con un artículo que captó la atención de todo el mundo y que supuestamente habría redactado GPT-3.

En su texto, el programa aseguraba a los lectores que no había motivo para temer a una inteligencia artificial todopoderosa («de hecho, no tengo el menor interés en hacerles ningún daño»). En realidad, los periodistas del diario británico tuvieron que darle un buen repaso al texto: el artículo estaba montado a partir de fragmentos no del todo logrados que habían sido extraídos de ocho textos diferentes redactados por la máquina.

Las pruebas realizadas por otros investigadores demuestran que GPT-3 produce textos muchas veces extravagantes, lo que no es extraño si se tiene en cuenta que esta red neuronal artificial funciona siguiendo un principio sencillo y que no tiene que ver con un uso inteligente del lenguaje. En el fondo, GPT-3 solo ha aprendido una cosa: a tomar un texto breve y alargarlo con una palabra más. Para ello, calcula cuál es la solución más probable y va formando oraciones y encadenando una tras otra. GPT-3 es un maestro del remix, nada más.

El horóscopo artificial

La IA, en realidad, no sabe nada del mundo. No sabe cómo interactúan las personas entre sí. Su entrenamiento se limita a cómo los seres humanos enlazan unas palabras con otras. Pero hay en muchos ámbitos en los que no importa si un escrito lo ha realizado una inteligencia real o no, basta con que lo parezca. Un charlatán artificial como GPT-3 podría elaborar perfectamente horóscopos o reportajes sensacionalistas.

Especialmente lucrativos podrían resultar otro tipo de textos, como opiniones y valoraciones falsas de productos o servicios. De hecho, muchos de los elogios de clientes satisfechos que ya leemos hoy en Internet son comprados. Agencias con sede en lugares como Chipre o Hong Kong ofrecen comentarios entusiastas sobre hoteles, restaurantes o concesionarios de coches a cambio de dinero. Para un ser humano, inventarse este tipo de elogios falsos es un trabajo pesado. Pero en este terreno las máquinas de elaboración de textos pueden desplegar todo su poder e inundar el mercado con un peloteo creado a medida del pagador.

Los más afectados, en teoría, podrían ser aquellos lugares de la Red donde se producen debates entre usuarios: en la sección de comentarios de los medios de comunicación on-line o en plataformas como Facebook, Twitter o Telegram. Tampoco se puede descartar que un día un enajenado aterrice en un foro de ultraderecha y que un par de cientos de bots a los que él cree humanos lo inciten a cometer actos violentos.

Una máquina también podría enviar miles de correos falsos de lectores a un periódico, cada uno de ellos diferente y la mayoría redactados de forma creíble. ¿Cómo podríamos reconocer los pocos comentarios de lectores reales entre semejante avalancha de mensajes?

A eso se refiere el experto en seguridad Bruce Schneier cuando advierte de una posible marginalización provocada por el uso de este tipo de máquinas: la presencia masiva de bots repitiendo necedades sin parar evitará la llegada de comentarios de usuarios humanos. «Si no lo vemos con GPT-3, muy probablemente lo veremos con GPT-4 o GPT-5», asegura. De todos modos, una invasión como esa no es técnicamente sencilla de llevar a la práctica. Los atacantes, primero, deberían superar los controles de acceso de las páginas web.

Sin embargo, el volumen de desinformación sí tiene un papel bastante importante en la propaganda moderna. Los expertos llaman a este principio firehose of falsehood: al público se lo bombardea hasta el agotamiento con mentiras sobre el tema que se desee.

El objetivo ya no es convencer de algo a la gente, basta con que esta pierda las ganas y la voluntad de discernir entre lo verdadero y lo falso. Cuanto más saturada esté, más fácil será que tome partido por el primer demagogo con el que se cruce.

En estos momentos ya se empieza a percibir un anticipo de confusión general. La duda sobre qué es humano y qué es máquina se ha deslizado en muchos debates de Internet. Renée DiResta -investigadora del Stanford Internet Observatory- ha analizado este nuevo fenómeno y ha comprobado que aparece sobre todo en lugares donde la discusión es más acalorada. Los participantes, dice DiResta, «se acusan unos a otros de ser bots».

@ Der Spiegel