Que viene el lobo de las IA!

Como si fuera el cuento de los 3 cerditos, primero voy a exponer mi punto de vista sobre la aparición de las inteligencias artificiales y cómo nos afecta o puede afectar a las y los locutores. Así mismo os contaré lo que desde un despacho de abogados me han recomendado para protegernos, ¿casa de paja, madera o ladrillo?

Es lo que estamos pensando muchos en estos últimos tiempos. Vemos la llegada de las diferentes inteligencias artificiales como un apocalipsis a nivel mundial. Tememos por nuestros puestos de trabajo, la posible incidencia que tendrá en multitud de profesiones y oficios, e imaginamos un contexto hipotético bastante cercano al Ragnarök de los vikingos. Una batalla final entre los dioses de las IA y los humanos que ven peligrar su sustento.

Pero hagamos un análisis de lo que suponen este tipo de evoluciones. Porque desde hace un tiempo, todo está tendiendo a ser «smart». Los teléfonos, las televisiones, los relojes, ordenadores, buscadores de internet… Todo al fin y al cabo se nutre de lo mismo; datos. Datos que por otro lado nosotros mismos proporcionamos.

Estamos ante una de las revoluciones tecnológicas más destacadas de los últimos tiempos, desde la aparición de internet; el desarrollo cada vez mayor de las inteligencias artificiales y de sus capacidades demostradas para conversar, escribir, crear imágenes, clonar voces y rostros y un cada vez más largo, etc. Y no es que lo diga yo, es que hay ya muchos ejemplos que así lo demuestran. No abundaré sobre ello ya que colegas y amigos como Luis Alberto Casado, ya hizo la semana pasada una entrada realmente completa, sobre lo que está pasando y puede pasar en nuestro sector, que no es otro que el audiovisual.

Yo de momento veo todo esto con otros ojos. Siempre he defendido la evolución y el desarrollo tecnológico, y he adoptado en mi día a día muchas de las opciones que la tecnología nos ha brindado. Por eso pienso que hay que ver todo esto desde dos prismas:

Por un lado desde el punto de vista de la utilidad. Lejos de quedarnos en ese pensamiento del apocalipsis audiovisual y creativo, me quiero quedar con la parte en la que los artistas vamos a poder hacer uso de esas inteligencias artificiales para nuestro propio interés. Cómo vamos a poder integrarlas en nuestro trabajo para que nos ayuden. Quizá nos puedan ayudar a realizar tareas más tediosas como editar el audio de un audiolibro, o repasar que no haya fallos, o incluso grabar un podcast en el que podamos establecer un diálogo entre locutor y el personaje que necesitemos para un momento puntual. Un personaje al que no tengamos acceso o que ya haya incluso fallecido. Esa creo que es la magia de la inteligencia artificial de voz. A estas alturas todos conoceréis aquel anuncio en el que Lola Flores aparecía físicamente e incluso con su supuesta voz original.

Y aquí precisamente es donde se plantea el segundo punto de vista, el de la ética, moral y legalidad. Aquí podemos pensar en el uso que se haga de las voces, y de cómo se empleen esas inteligencias artificiales. Se puede hacer un uso fraudulento de las mismas como el de este ejemplo. Se clonó la voz del CEO de una compañía energética de Reino Unido para llevarse 220.000€. Obviamente esto es un delito conocido como vishing (voice+phising): una forma de ingeniería social derivada del phishing que, en lugar de usar el email para intentar engañar a las víctimas, lo hace a través de llamadas telefónicas realizadas mediante la voz sobre protocolo de Internet (VoIP).

Es precisamente aquí donde nos entran las dudas, ya que existen servicios (de momento no abiertos al público) como Vall-E desarrollado por Microsoft que son capaces de clonar voces con tan sólo 3 segundos de muestra.

Y esa no es per se una aplicación dañina, ya que podría usarse en dotar de voz a quien no puede hablar o a quien debido a enfermedades o accidentes la ha perdido,  automatizar ciertos servicios, usarlas con fines creativos… El problema vendría si se utilizan estos servicios para suplantar identidades, o servirse de voces famosas para realizar doblajes, locuciones o cuestiones desarrolladas por otros profesionales a los cuales incluso podrían llegar a sustituir.

Pero precisamente, y aquí es donde yo quería llegar. Ya que hay libertad de uso de todas estas tecnologías, lo que debemos hacer y más bien pronto, es tener una legislación al respecto que ampare a profesionales de la voz, artistas, escritores, pintores, diseñadores, guionistas y otras muchas profesiones y oficios que podrían verse afectados. Es decir leyes que pongan límites al uso de estas aplicaciones.

Voy a poner un ejemplo de lo que podría pasar en caso de no tener una legislación al respecto.

Un productor audiovisual, necesita una voz masculina y otra femenina para un spot sobre un producto X. El productor se sirve de una inteligencia artificial para clonar la voz de dos profesionales de la voz que le gustan cómo suenan, y que considera ideales para su proyecto. Coge muestras de trabajos que tengan en sus webs o en algún banco de voces y clona las mismas. Las usa para su proyecto, sin pagar un euro a nadie, y lo hace además a perpetuidad. Ni el locutor ni la locutora verían un céntimo, mientras sus voces se están usando para fines con ánimo de lucro. Lo mismo podría pasar con otro tipo de profesionales.

Por eso creo que lo primero debe ser crear ese marco legal que regularice el uso que se puede o no puede hacerse de las IA. Parece que a nivel europeo algo se está haciendo. O sino al igual que se crean IA para estas aplicaciones, puede haber otras IA que autorregulen su uso o alcance como esta que ya se está desarrollando en Chicago.

Finalmente, y siguiendo con el hilo del uso fraudulento. Ya se han encontrado estudios y empresas, que en sus contratos, te invitan a firmar unas cláusulas en las que se dice que tu voz, va a ser utilizada también para entrenar a estas inteligencias artificiales. Si lo aceptas, bien, sino, te quedas sin ese trabajo y posiblemente todos los que vayan asociados a ese extra.

¿Qué podemos hacer para protegernos?

Hoy precisamente lo he podido consultar con una abogada, que si bien no está especializada en este ámbito en concreto sí que me ha hecho alguna recomendación para estar protegidos ante posibles abusos de este tipo.

Me comentaba que esas prácticas de algunas empresas pueden estar exentas de moral o ética, pero que entran dentro de la legalidad ya que ellos ofrecen un trabajo y tu lo aceptas o no. Así que ahí de momento no hay mucho que rascar, o aceptas o te niegas.

Por otro lado, me comentaba que lo que podemos hacer para estar protegidos ante posibles usos no deseados de nuestra voz, lo más sencillo es añadir alguna cláusula a nuestro presupuesto. En caso de que usemos contrato, habría que añadirlo a este, pero sino con incluirlo en el presupuesto sería suficiente. Se trataría por lo tanto de un acuerdo entre proveedor y cliente y si se aceptan las condiciones pactadas, ya tendríamos una buena base legal a partir de la cual reclamar cualquier otro uso que no aparezca en ese contrato.

En resumen. Empieza a colocar en tu contrato o presupuesto una cláusula que diga expresamente que esa demo o esa grabación sólo se podrá usar para el fin establecido en ese contrato, quedando terminantemente prohibida su difusión y uso en otros medios y para otras finalidades que no sea la de (aquí el trabajo que vayas a realizar, género, marca y difusión incluidas).