Inteligencia Artificial frente a derechos fundamentales: así lo regula la UE

Europa ha aprobado hoy en la Eurocámara la ley de Inteligencia Artificial, pionera a nivel mundial y que como novedad clasificará los desarrollos de esta nueva tecnología en cuatro niveles de riesgo, de mínimo a inadmisible, el que impedirá la comercialización de cualquier tipo de sistema que vulnere derechos fundamentales. Su aplicación queda encargada a una futura Oficina Europea de Inteligencia Artificial, que será la que clasifique los sistemas según sus riesgos y que determinará los requisitos que deberán cumplir las empresas y organismos públicos que los utilicen.

Los legisladores consideran que la mayoría de proveedores de IA estarán en la categoría de riesgo mínimo, lo que permitirá un amplio uso en la economía por parte de las empresas. Hablamos de los desarrollos que en la actualidad conocemos, la gestión masiva de datos, el software generativo de imágenes o textos para uso privado, los filtros de spam o la inteligencia artificial aplicada a los videojuegos.

Este nivel comprende los riesgos asociados con la falta de transparencia en el uso de la IA. Es decir, en el caso de los chatbots, deberán indicar de forma transparente que son robots, no seres humanos, para que quien está al otro lado de la conversación pueda decidir si seguir usándolo o no. También se incluye que el contenido generado por IA debe ser identificable como tal. Concretamente, el texto generado por IA que tenga el propósito de informar sobre asuntos de interés público debe ser etiquetado como generado artificialmente, algo que también se aplica a los deepfakes en audio o en vídeo.

Otra categoría serán las de alto riesgo, en la que entran los sistemas que puedan tener un impacto potencial negativo en la seguridad de las personas o en sus derechos fundamentales. Estos sistemas quedan sujetos a obligaciones estrictas antes de ser comercializados.

Según la normativa, quedan encuadrados en el epígrafe de alto riesgo los sistemas de identificación biométrica remota, sobre lo que hubo un profundo debate pues parte de la Eurocámara apostaba por prohibirlos de forma taxativa. También los sistemas de categorización biométrica o el reconocimiento de emociones.

Igualmente, se consideran de alto riesgo, y por tanto se estrechará el control sobre quién y cómo puede utilizarlos, los sistemas que afecten a la seguridad de las infraestructuras críticas (como el transporte o el sistema energético) y los relacionados con la educación (evaluación de comportamientos, admisión y exámenes), el empleo (selección de personal) y la prestación de servicios públicos esenciales, la administración de justicia o los procesos electorales, entre otros.

En el escalon final, la ley establece una detallada lista de usos de riesgo inadmisible. En este grupo se incluyen el uso de la IA para la puntuación social de uso público o privado, el aprovechamiento de los puntos vulnerables de las personas y la identificación biométrica remota en tiempo real y en lugares públicos por parte de las fuerzas y cuerpos de seguridad. Este punto es uno de los más polémicos, porque en la redacción final se introdujeron excepciones limitadas a una serie de delitos.

Entre las excepciones, la ley prevé la identificación biométrica remota en tiempo real por la policía con autorización previa de una autoridad judicial o administrativa independiente. Se podrá utilizar para la localización de acusados de terrorismo, trata de seres humanos, explotación y abuso sexual de menores, tráfico de drogas, tráfico de armas, municiones y explosivos; y otros como asesinatos, secuestros o detenciones ilegales.

Otras utilizaciones considerada inadmisibles y prohibidas, son la categorización de las personas basada en datos biométricos para deducir su raza, opiniones políticas, afiliación sindical, creencias religiosas o filosóficas, u orientación sexual. Tampoco se podrá usar la biometría para la actuación policial predictiva individual ni el reconocimiento de emociones en el lugar de trabajo y en los centros educativos, aunque en esta última habrá excepciones médicas y de seguridad.

• Temas
• Ciberseguridad
• Inteligencia artificial