Grupos falsos y canciones artificiales, al asalto de YouTube y Spotify

En la descripción del álbum Rumba Congo (1973), subido a YouTube, aparece toda la historia del grupo que lo grabó. La banda se llama Concubanas. Se creó en La Habana en 1971 y tocaban una fusión única de música cubana y congolesa. Se separaron en 1992, no sin antes dejar un sinfín de perlas musicales. Ya después, al final de la descripción, se dice que es una banda ficticia. Un eufemismo para señalar que la música del vídeo se ha generado con IA.

El álbum Rumba Congo arroja melodías que recuerdan a la salsa, la rumba o el son cubano. Para el oído poco entrenado, es difícil darse cuenta de que esta música se ha generado con un puñado de prompts. La IA sirve ya para hacer canciones que superan los temas ambientales, como sonidos de concentración para estudiar o para relajarse. Plataformas como Suno, Boomy o Udio permiten generar composiciones bastante logradas de jazz o de rock.

Un estudio de la Confederación Internacional de Sociedades de Autores y Compositores, de Francia, estima que los ingresos de la música generada con IA pasarían de 100 millones de euros en 2023 a 4.000 millones en 2028. Para esta fecha, la entidad calcula que el 20% de la facturación de las plataformas de streaming provendrá de este tipo de música.

Uno de los grandes problemas que tiene esta tendencia es la falta de transparencia. María Teresa Llano, profesora adjunta en la Universidad de Sussex (Reino Unido), que estudia la intersección entre creatividad, arte e IA, pone el acento en este aspecto: “No hay una forma para que la gente sepa si algo es IA o no. La idea no es que tú tengas que buscar quién es ese artista con el que te has encontrado. En este momento hay una responsabilidad que está en el aire. Es la responsabilidad de que exista esta transparencia, de que quede claro que algo está generado por la inteligencia artificial o por humanos”.

Algunas voces ya hablan del incremento de este tipo de música generada con IA. En Reddit se pueden encontrar algunos hilos al respecto y un artículo en FastCompany ya advertía de la afluencia de canciones generadas con IA en Spotify. Un foro de comunidad de este servicio de streaming acoge una petición que pide etiquetar claramente la música generada con IA y una opción para que el pueda impedir que le aparezcan este tipo de canciones.

En algunos de estos foros el rechazo es palpable. Llano menciona la sensación de engaño o de traición que pueden experimentar los oyentes, pero afirma que esto es algo personal. Habrá quienes lo sientan así y quienes se iren de los logros de la tecnología. “A mí, que soy de Colombia y obviamente nací y me crie con la salsa, cuando lo escuché [el álbum Rumba Congo] me pareció que estaba bien. Y cuando me di cuenta de que era IA me pareció alucinante, pero le quitó encanto”, confiesa.

Algunos se lo toman a guasa, con la clásica retranca troll de Internet. Un comentario en uno de los vídeos del falso grupo cubano dice: “Recuerdo a este grupo tocar en directo cuando me encontré con un agente de la CIA en un café de La Habana en 1972. ¡Vaya días!”. Alguien le contesta así: ”Yo era ese agente de la CIA”. Y otro , que quizá se lo cree o tal vez sigue el troleo, replica “Es increíble que os hayáis reencontrado aquí”. Desde luego es totalmente increíble.

Bromas aparte, el no saber si una música la hicieron personas o una IA tiene implicaciones. “Creo que en el futuro cuando uno escuche algo nuevo tendrá una incertidumbre, de si esto se ha generado con IA o no. Y esa incertidumbre genera frustración, no saber si esto que estoy escuchando es real o no es real”, apunta Llano, quien saca las fake news a colación. “En cuestión de noticias hay un impacto muy inmediato, que es saber si algo está pasando o no. Con el arte, el impacto es diferente, se acerca más a cómo uno lo experimenta”, reflexiona.

Algunos creadores de contenido suben música generada con IA especificándolo claramente. Uno de los más populares es AI Music Puppy. Este canal de YouTube, que ofrece música electrónica con un perrito DJ como imagen del vídeo, es transparente en su propio nombre y también al inicio de la descripción de cada vídeo. Pero no es lo habitual.

Una de las claves para atajar el problema es lanzar una advertencia en las canciones sintéticas. YouTube urge a los creadores de contenido a avisar si “el sonido o las imágenes se han editado de forma significativa o se han generado digitalmente”. Los que suben el vídeo son quienes deben especificar que se trata de “contenido alterado o sintético”. El lo verá si despliega la descripción. Eso siempre que use la app, porque desde un ordenador tendrá que bajar al final de la descripción para llegar al aviso.

Google reconoce que puede darse ese sentimiento de fraude. “Si los s creen que un vídeo es real, cuando en realidad se ha modificado significativamente o se ha generado de forma sintética para parecer realista, pueden sentirse engañados”, reza la política de YouTube. Así, cuando los autores no itan el uso de IA, la plataforma “puede tomar medidas para reducir el riesgo de causar daños a los s, como aplicar de forma proactiva una etiqueta que los creadores no tendrán la opción de quitar”. YouTube se reserva también la potestad de penalizar a estos canales, por ejemplo, retirando su contenido.

Spotify no ha compartido con EL PAÍS ninguna política para etiquetar el contenido hecho con IA. En una entrevista, el copresidente y chief Product & Technology Officer de Spotify Gustav Söderström destacó que la IA “aumenta la creatividad de las personas” porque más gente puede ser creativa gracias a que “no necesitas tener habilidades motoras al piano”. También hizo distinción entre la música generada completamente con IA y otra en la que la tecnología solo se usa parcialmente. Pero el único límite del que habló para moderar la música sintética fue la infracción del copyright, una línea roja para cualquier servicio de streaming desde hace años. Y también una circunstancia muy difícil de demostrar jurídicamente cuando hay inteligencia artificial de por medio.

Llano apuesta por medidas que marquen claramente al contenido. “Debería haber un indicador que dijera que algo está generado con IA. Esto empezaría a dar más transparencia a los s”. La profesora de la Universidad de Sussex explica uno de los intangibles que justifican el etiquetado: “En las artes podemos establecer una conexión con el artista, podemos saber cómo fue su vida y qué lo influyó para entender mejor su trayectoria. Con la inteligencia artificial ese lazo no existe”.

El álbum Rumba Congo, de Concubanas, tiene 1,3 millones de visualizaciones. No es la única banda ficticia ni el único disco con historia. Phantasia destila una fusión de flautas, sonidos electrónicos y guitarra eléctrica que la descripción define como una “fusión de jazz progresivo japonés”. Sus discos de mentira registran miles de reproducciones. Y también tiene su propio lore. “Tras la partida de Ryo Kobayashi en 1976, Phantasia entró en un periodo de silencio”, se lee en la descripción de un vídeo: “Dos años después, el grupo retornó de las sombras con Divine Incarnation, el amanecer de lo que los fans llaman ahora su edad dorada”.

Ambos grupos falsos salen del mismo canal, Zaruret, cuyos vídeos más antiguos tienen solo siete meses. En ese tiempo ha publicado 135 vídeos musicales, muchos de ellos de más de 30 minutos. No tienen imágenes en movimiento, solo una carátula y la música generada con IA, acompañada de un texto largo también generado con IA y una aclaración sobre contenido sintético al final de la descripción. Con este trabajo acumula millones de reproducciones y tiene 37.600 suscriptores.

En la descripción de su perfil se puede leer: “Todo lo que ocurre en este canal es ficción. Pero, ¿dónde está la verdad? ¡A la mierda, escúchalo y punto!”. Un alegato nihilista que invita a pensar que todo da igual.