Dejemos muy claro qué contenidos están generados por Inteligencia Artificial y cuales no

Dejemos muy claro qué contenidos están generados por Inteligencia Artificial y cuales no

Qué los contenidos generados por Inteligencia Artificial son cada vez menos distinguibles de los generados por humanos es algo que tenemos todos muy claro. No hace mucho una fotografía generada por Inteligencia Artificial ganó un premio medianamente importante de fotografía, un Sony World Photography Awards., con un jurado formado por expertos. Pues resulta que se la colaron doblada, si me permites la expresión.

Nos contaron los detalles en Photolari hace unas semanas y el fotógrafo renunció al premio porque lo que quería demostrar es precisamente el nivel al que están llegado estos modelos de IA, capaces de engañar a ojos expertos. Y vaya si lo consiguió. Puedes ver la foto en el enlace que te he dejado.

IA o no IA

La cuestión es que esto va a ir avanzando cada vez más y si en algo visual, donde es un poco más complicado engañar a alguien entendido, lo han conseguido, imagina en textos o incluso sonido. Y no seré yo quien diga que está mal que avance pero lo que sí creo es que debemos tener muy claro qué ha sido generado por una IA y qué no. No se trata de dar más valor a una cosa que a otra, que generar imágenes de esa calidad no es nada sencillo tampoco, pero pienso que al menos debemos saberlo para valorarlo en su justa medida.

Yo, por ejemplo, pongo al final de cada post un distintivo recordando que todo esto está escrito por un humano. Para lo bueno y para lo malo, pero está hecho por un humano. Es un logotipo no homologado, es sólo una pequeña web (notbyIA.fyi) que pretende diferenciar el contenido humano del generado por Inteligencias Artificiales, pero la Unión Europea propone llevar algo parecido a la categoría de ley.

Legislando el pasado

La ley, si se aprueba, obligará a que todo contenido generado por IA se señale de alguna manera. Una marca de agua, un logo, un texto… algo que nos permita saberlo con facilidad. Igualmente, si estamos hablando con una inteligencia artificial, ya sea chat escrito o hablado, deberá identificarse como tal para que sepas lo que estás haciendo. Por supuesto esta ley está muy bien y es totalmente necesaria pero, como casi todas las leyes, llegará, si es que llega, tarde y seguramente obsoleta.

El problema es que las cosas de palacio van despacio. La Comunidad Europea lleva desde 2020 creando comisiones y pidiendo informes para hacer leyes que puedan organizar toda esta movida de la Inteligencia Artificial. Que si poner límites, que si qué puede hacer o no, la privacidad, bla bla bla. Aún nada, después de más de 3 años. Y ya sabemos como va esto, que el día que lleguen a un acuerdo darán otros 2 o 3 años a los países miembros para que adapten sus legislaciones. Y luego habrá prorrogas, y habrá retoques… Pretenden que esté lista para 2025. Veremos.

Y mientras la Inteligencia Artificial seguirá avanzando sin ningún tipo de control a tal ritmo que cuando todo eso se apruebe me apuesto lo que quieras a que toda esa legislación será totalmente obsoleta. Porque así ha sido siempre y así lo seguirá siendo cuando llegan nuevas tecnologías.

Y mientras las empresas

Por supuesto las empresas también están preocupadas por todo esto. Los grandes medios necesitan herramientas que les certifiquen si una imagen es real o no. Las compañías de software necesitan dar tranquilidad a los usuarios y creadores de que se va a valorar adecuadamente su trabajo, bien sea en la creación mediante IA o si es contenido real, incluso si ha sido modificado. Es una garantía también para ellos, que viven de esto.

Y en esas anda Adobe, junto con otras más de 1.000 compañías, viendo como se organizan para esta movida a través de la Content Autenthicity Initiative (Iniciativa para la Autenticación de Contenidos) viendo como pueden crear una serie de firmas digitales que, mediante algún sencillo software, pueda indicar toda la trazabilidad del contenido. Desde cuando y con qué sistema se generó (cámara, escaner, Inteligencia Artificial generativa…) hasta las modificaciones que ha sufrido.

Google dedicó el pasado día 10 más de 1 hora de su evento para desarrolladores hablando de su Inteligencia Artificial y lo que están haciendo ellos respecto a todo este tema. Por supuesto, una de las cosas que anunciaron es que van a ponerme medidas para intentar detectar los contenidos creados mediante modelos de IA aunque no se identifiquen como tales. Usarán para ello, como no, herramientas de Inteligencia Artificial. ¿Policías controlando policías o delincuentes custodiando las cárceles?

Es posible, y hasta probable, que estas empresas privadas consigan algo mucho antes que los legisladores, aunque también llevan tiempo liados.

Nosotros

A nosotros por ahora sólo nos queda esperar e ir con cuidado. No creernos la primera imagen del Papa vestido a lo rapero que veamos. Ser cada vez más y más críticos y pensar más antes de creernos nada. Ya sean imágenes o textos, porque la IA es muy capaz de generar textos muy convincentes pero, como dice una amiga, miente con total seguridad (algún día hablaremos de las alucinaciones y otras hierbas de las Inteligencias Artificiales). Si algo no lo sabe, es capaz de hilar cualquier mentira y nos toca a nosotros buscar si es o no verdad.

Si ya debíamos tener cuidad con lo que malas gentes intentaban colarnos para manipularnos, ahora lo tienen cada vez más fácil. Porque todos tendemos a creer lo que vemos, pero empieza a no ser tan sencillo.

Y ojo, que no sólo deberemos detectar qué está generado por una inteligencia Artificial queriendo hacernos creer que no, sino también al revés. Al final, las empresas que crean este software ganarán dinero vendiendo créditos o suscripciones e intentarán hacernos ver que lo pueden todo. ¿Quien nos asegura que no intenten hacernos pasar contenido real, o retocado convenientemente, por algo que ellos generan?.

Ojalá estás iniciativas vayan llegando a buen puerto pronto porque necesitamos saber qué estamos viendo y leyendo.

0 comentarios en «Dejemos muy claro qué contenidos están generados por Inteligencia Artificial y cuales no»

Deja un comentario

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.