La canción que nadie cantó: arte y engaño en la era de la inteligencia artificial

Un viaje en Uber una tarde de lluvia porteña puede inspirar una reflexión acerca de la inteligencia artificial generativa en una oyente desprevenida.

¿Qué es lo que queda o cual será el legado cultural de una época en la que todo puede simularse, copiarse, clonarse o truchearse?  En este momento del mundo contamos con tecnología que hace posible que todo pueda falsificarse o simularse. Se puede crear imágenes realistas y de calidad de cualquier cosa: fotos que den cuenta de alianzas políticas impensadas, videos y clips de audios.

Cualquier foto puede lograrse, es posible crear una imagen que registre los encuentros más impensados con familiares fallecidos, personajes históricos, así como envejecer o rejuvenecer personas. Las voces pueden clonarse, podemos recibir mensajes de quien sea, cuando sea. Se vuelve necesario entrenar los sentidos para poder discernir qué es real y que es falso o inventado. Incluso les observadores más detallistas pueden caer en el universo del fake.

Hace un tiempo leí en las redes sociales, en algún comentario o meme, que un buen uso de la inteligencia artificial seria optimizar las tareas repetitivas de algunos trabajos u ocupaciones de los humanos y así tener más tiempo para poder crear, ya sea música, literatura, arte y cultura. Y no quedarnos con un arte genérico creado por inteligencias artificiales que solo imitan o reproducen una formula aproximada al lenguaje del alma de los seres humanos.

Personalmente, no me interesa nada el arte ‘producido’ por una inteligencia artificial. Creo en cualquier forma de arte como expresión humana. Una búsqueda genuina de expresar ya sea para comunicar, como desahogo, reflexión o búsqueda estética. El arte de las personas es una expresión, parte de una y llega a otra, muchas veces atravesando, incluso interpelándo a crear algo propio generando una suerte de intercambio o red que es donde se vive la cultura.

Reflexiones de una tarde de lluvia porteña

Iba distraída mirando por la ventanilla del auto esa tarde de lluvia en Buenos Aires, cuando una voz familiar me trajo de nuevo a la realidad. Por lo que pude ver, el conductor escuchaba la radio y al reaccionar a la extrañeza pregunté: ¿Es el Pity? Sisi, respondió. Luego comente que nunca había escuchado ese tema, que no sabía que el Pity hubiera hecho una versión de Imagine de John Lennon en castellano. Es IA, dijo el joven. Mi sorpresa aumentaba, le pregunte si era la radio y me confirmo que era la Rock&Pop.

Sentí algo parecido a estar fuera de estado, pero aplicado a la radio, o a la tecnología. Hace solo un par de meses volví a vivir en el país después de más de una década y esta era la primera vez que escuchaba en una radio música generada por Inteligencia Artificial, pero con la voz de un artista que conozco y quiero.

La Generación de la IA

 La inteligencia artificial generativa, nos permite, como el nombre lo indica, generar, crear textos, imágenes, videos, mensajes o conversaciones en una calidad tan alta que hace que se borren los límites entre realidad y ficción. Ya no se trata de imitar o copiar arte, la IA es entrenada para crear a partir de prompts, aprende y reproduce el lenguaje humano.

Así, se vuelca al mundo una cantidad enorme de contenido generado por inteligencia artificial, que a veces aporta, pero también embarra la cancha. Dudamos de que algo haya sucedido realmente al ver una imagen o escuchar una conversación y se vuelve necesario más que nunca chequear fuentes, rastrear el origen de lo que vemos.

Así, puedo utilizar esta herramienta y fabricar situaciones de todo tipo y presentarlas como si fueran reales. La inteligencia artificial permite de algún modo modificar la realidad o al menos alterar la percepción de lo real borrando la línea divisoria entre lo verdadero o falso.

¿Hay un límite?

¿Cuál es el límite o hasta donde se puede llegar si ya todo es posible de inventar? ¿Se puede utilizar con fines extorsivos? ¿Se puede acusar a personas de cometer actos que jamás sucedieron? ¿Es posible disputar verdades con evidencia creada por IA? Pienso en el tema y surgen más preguntas que respuestas y me siento en uno de esos momentos bisagra donde un nuevo avance tecnológico llega y se instala en nuestras vidas, creando la necesidad de nuevas reglas porque plantean un nuevo juego.

En general, en los casos que con mis años ya me tocó presenciar, lo que se ve es que se va a fondo en la experimentación de la nueva tecnología y una vez que tenemos una cierta idea de cómo puede ser usada, tanto para bien como para mal, empezamos a buscar límites. Los limites pueden venir por la conciencia social y se vuelven limites sólidos y concretos cuando llega la legislación, que siempre va unos pasos detrás de los avances tecnológicos, pero es necesaria para dar un marco organizativo al caos que trae consigo la innovación y el cambio.

¿Y ahora qué pasa? ¿Eh?

La IA generativa permite realizar experimentos curiosos como la canción que escuché en mi recorrido esa tarde de lluvia o crear un video realista de un supuesto encuentro entre personajes como Adolf Hitler y Juan Domingo Perón. Estos casos pueden considerarse como inofensivos, motivados por una curiosidad intelectual. ¿Pero qué pasa cuando se busca hacer daño?

Son conocidos los casos de falsos videos o imágenes pornográficas creadas con la intención de humillar, especialmente a mujeres. Fue conocido el caso de Taylor Swift, en el que un hater anónimo publicó en la red X (anteriormente Twitter) imágenes deepfake de contenido sexual creadas por la inteligencia artificial. La cúpula de X actuó rápidamente, se logró rastrear el origen de la imagen y se pudo contener la viralización. A esa altura ya habían tenido más de 47 millones de visualizaciones antes de ser dada de baja de la plataforma. 

Otro caso público fue el de la provincia de Córdoba, en el que un adolescente creó falsas fotos pornográficas utilizando fotos de sus compañeras de curso y las hizo circular en redes, en una situación de hostigamiento y bullying. El joven creó las imágenes con la técnica de ‘face swapping’, mediante la cual se superponen los rostros, en este caso de sus compañeras, a otras imágenes preexistentes. 

Si bien en la actualidad esto no es considerado un delito, solo se pudo lograr la elevación a juicio porque las imágenes fueron distribuidas en redes sociales dando los nombres de las chicas más los informes psicológicos de las víctimas que acreditan cuadros de estrés postraumático, episodios de ansiedad y asilamiento. Gracias a esto, se pudo encuadrar el caso bajo la acusación de “lesiones graves calificadas por motivos de género”, en el marco de la Ley de Protección Integral a las Mujeres y la Ley Olimpia.

También en el ámbito político, durante las últimas elecciones en la ciudad de Buenos Aires, circuló un deepfake, primero en la plataforma X y luego replicado en diversos medios. Se trató de un video falso que simulaba la imagen y la voz del expresidente Mauricio Macri. El mismo tuvo que desmentirlo y aclarar que se trataba de un video falso, y se pidió a la plataforma que fuera eliminado para evitar su viralización.

Estos ejemplos son casos reales que llevan a pensar en el impacto del fake en la vida de las personas en un momento del mundo donde además es confuso el límite entre lo público y lo privado, todo parece ser compartible y viral. Pero ¿Cómo se puede lograr que la imagen de una persona no sea manipulada hasta tal extremo?

Orden al progreso

El vacío legal hace que sea muy difícil combatir este tipo de prácticas cuando son utilizadas de manera negativa.

La primera ley integral que regula el uso de la inteligencia artificial del mundo es la sancionada por la Unión Europea en 2023, que entró en vigencia en 2024. En la ley se aclara que se entiende a la IA como una herramienta que puede ser muy útil a la hora de agilizar procesos, como por ejemplo en la organización del transporte público, en procesos relacionados con la industria y la fabricación o en el suministro de energía.

Además, señala problemas posibles asociados con esta tecnología y establece una clasificación en distintos niveles de riesgo para los modelos de inteligencia artificial. El riesgo se mide según el uso que los sistemas de IA le den a la información personal que se obtenga de sus usuarios y del público en general. Dentro de las clasificaciones establecidas por esta ley, la IA generativa no es considerada de alto riesgo, por lo cual solamente será requerido que se etiquete claramente cualquier contenido que haya sido creado por IA.

Otros países como Estados Unidos, China y Brasil también le dieron un marco legal al uso de esta tecnología. En Argentina, por el momento, hay proyectos de ley para tratar la regulación del uso de la IA, pero aún no hay una ley sancionada.

Reflexiones para el próximo viaje

La inteligencia artificial viene desarrollándose hace años, pero irrumpió en la vida cotidiana en 2023 con el lanzamiento del modelo Chat-GPT, y algunos otros sistemas gratuitos que fueron apareciendo hasta ahora. La aparición de esta nueva tecnología ha generado debates en todas las áreas: en educación se habla de un aumento del ‘plagio’ por parte del estudiantado que presenta informes, monografías o hasta tesis realizadas con inteligencia artificial. También se debate la cuestión ética de la utilización de la imagen o voz de una persona para crear arte y la peor forma, para la humillación y el hostigamiento.

Es evidente que es un área en desarrollo constante y que cada vez más será parte de nuestras vidas. Seremos las personas usuarias las responsables de utilizarla con fines positivos aprovechando su beneficio y de pensar cómo regular el uso de la imagen de las personas.

El viaje en Uber y una canción que escuché cantada por un artista que en realidad jamás la cantó ni grabó, me hizo profundizar en la reflexión. No llegué a ninguna respuesta concreta, sino que me fueron surgiendo nuevos interrogantes. Sí estoy segura de aún preferir música creada por humanos, todavía la curiosidad no me lleva a hacer experimentos musicales con IA, veremos si eso cambia en el próximo viaje.

Referencias:

El Equipo de Chequeado. (2023, 15 de noviembre). Cómo identificar videos creados con inteligencia artificial durante las elecciones. Chequeado. https://chequeado.com/ultimas-noticias/como-identificar-videos-creados-con-inteligencia-artificial-durante-las-elecciones/

Gardel, L. (2024, 17 de mayo). Deepfake en escuelas: el caso del joven que irá a juicio por crear con inteligencia artificial imágenes pornográficas falsas de sus compañeras. Chequeado. https://chequeado.com/el-explicador/deepfake-en-escuelas-el-caso-del-joven-que-ira-a-juicio-por-crear-con-inteligencia-artificial-imagenes-pornograficas-falsas-de-sus-companeras/

Keen, J. (2024, 31 de enero). Taylor Swift deepfakes: new technologies have long been weaponised against women. The solution involves us all. The Conversation. https://theconversation.com/taylor-swift-deepfakes-new-technologies-have-long-been-weaponised-against-women-the-solution-involves-us-all-222268