La nueva ley sobre Inteligencia Artificial en la Unión Europea

Se comenta estos días que la Unión Europea ha dado un paso de gigante para convertirse en la primera región del mundo en legislar sobre Inteligencia Artificial. Aquí tienes un extenso artículo en El País donde puedes leer las lineas maestras de esta ley. Ya que estás aquí te cuento lo que veo tras leer el artículo y echar una lectura rápida a la propuesta legislativa. Que ojo, de ley todavía nada, esto no es más que una propuesta pendiente de muchos pasos.

¿Qué se ha aprobado?

Lo primero, dejar claro que tras unos 3 años de reuniones, consejo y consultas, lo que se ha aprobado es una propuesta de ley. Aprobada por un par de comisiones y pendiente de ser votado por el consejo, pasar a los representantes de los países, enmiendas, bla bla bla. Como te contaba en uno de los primeros artículos, las cosas de palacio van muy despacio.

Quieren que entre en vigor en 2025, no dice si el 1 de enero o el 31 de diciembre, pero mi poca experiencia con estas cosas es que las prorrogas son habituales.

Compré mi dron Mini 2 en marzo de 2021 porque a finales de ese año tenía que haber un nuevo Real Decreto en España. Se trataba de ajustar nuestra legislación a la aprobada en Europa unos meses atrás. Entre otras cosas es mucho menos restrictiva con drones pequeños en algunas situaciones. A día de hoy, casi junio de 2023, ese Real Decreto sigue sin estar aprobado. Con las leyes y más si vienen de la Unión Europea tocan aplazamientos y más aplazamientos.

No espero mucho menos sobre una normativa muchísimo más compleja como es la que regule algo como la Inteligencia Artificial así que por ahora tranquilos.

¿Qué nos cuentan?

Muchas cosas, demasiadas y en ese lenguaje complejo y retórico que tiene cualquier legislación para intentar ser concreto pero dejando al final más dudas que certezas. Empecemos con la definición de Inteligencia Artificial:

«Sistema de inteligencia artificial (sistema de IA)» el software que se desarrolla empleando una o varias de las técnicas y estrategias que figuran en el anexo I y que puede, para un conjunto determinado de objetivos definidos por seres humanos, generar información de salida como contenidos, predicciones, recomendaciones o decisiones que influyan en los entornos con los que interactúa.

Web de la UE

Como ves, ya te remite a un Anexo que no he conseguido encontrar. Y así todo, así que no me queda otra que leer por encima y centrarme en lo que dice El País, creyendo que quien lo ha redactado ha sido capaz de entenderlo todo o de hablar con alguien que se lo haya explicado. Para no hacer una copia y un tocho igual de grande que el del periódico, te resumo los puntos clave que a mi se me quedan:

• Como siempre, todo lo que tenga que ver con uso militar queda fuera de la ley
• Ven los principales peligros en la privacidad y en la capacidad que pueden tener estos sistemas para crear opinión pública y modificarla. Debieron pensarlo hace mucho cuando salió Facebook.
• Prohibe el uso de reconocimiento biométrico en tiempo real o diferido (eso que Mercadona te hacía fotos al entrar y lo casaba con bases de datos de delincuentes, olvídate).
• También prohibe el uso de la IA para la la vigilancia «predictiva». O sea, una IA no podrá dar por sentado que pretendes quemar gente o incendiar un colegio aunque te vea con un lanzallamas encendido entrando en él con cara de ira.
• Deben tener una serie de registros de las operaciones que van haciendo de manera que si se detecta un error se pueda rastrear el proceso de fin a principio para detectar donde se ha producido el error y corregirlo
• En vez de nombrar modelos o aplicaciones concretas, lo que intenta es hacer un catálogo de usos y definir qué se puede hacer y qué no.
• La privacidad está en el centro de todo, como siempre en la Unión Europea.

Por supuesto hay muchísimos más detalles. En la cita te he puesto el enlace a la propuesta por si te interesa leerla. Está aquí.

¿Qué pienso yo?

Pues que quieres que te diga, que no sólo intentan poner puertas al campo sino que conforme van haciendo la puerta, el campo se hace más y más grande y la puerta, antes de hacerla, ya es pequeña.

Yo dudo que se pueda hacer un marco legal concreto sobre la Inteligencia Artificial. Habrá que tratar cada uso, programa y empresa en base a lo que tenemos. Si de repente OpenAI, por poner un ejemplo, se dedica a pasar todos nuestros chats a un grupo humano para que los lea, pudiendo identificarnos y estando expuestos a cualquiera sabe, pues habrá que actuar.

Si de repente alguien construye una bot de charla que se dedique a engatusar a las personas para sacarle datos personales, bancarios o lo que sea, habrá que actuar contra ellos. Y así todo. Yo creo que cada caso deberá ser estudiado y analizado porque me parece que va a ser imposible crear una ley a la que se tengan que someter todos.

Por ejemplo, tema de protección de datos. No ha hecho falta esta ley que está en marcha para que ChatGPT se prohiba en Italia y tenga que rectificar algunas políticas. Google acaba de publicar su «ChatGPT», Bard, en medio mundo. Salvo en Europa. Precisamente porque deben ajustarla para cumplir con la normativa ya existente sobre protección de datos.

¿Es necesario una legislación específica sobre esto?. Yo no sólo no lo veo, es que la veo inviable.

Como siempre, mi opinión. Espero la tuya con ganas.

Anexo

Acaba de llegar a mis manos, con el artículo ya preparado, este otro artículo escrito por alguien que parece bastante más capacitado que yo para hablar del tema (tenéis sus datos en la firma del artículo). Te recomiendo su lectura también. No es muy extenso ni demasiado técnico pero plantea algunas dudas que yo también tengo de una manera más cualificada.