Congreso de IA: resumen de jornadas

Ryan Abott

Ryan Abott
 

Antonio Onetti

Antonio Onetti
 

Mariano de Paco

Mariano de Paco
 

Ryan Abbott

Ryan Abbott
 

Jane Ginsburg

Jane Ginsburg
 

Jane Ginsburg

Jane Ginsburg
 

Jane Ginsburg

Jane Ginsburg
 

Jane Ginsburg y Andy Ramos

Jane Ginsburg y Andy Ramos
 


 


 


 


 


 


 


 


 


 


 


 


 


 


 

14 de marzo de 2024

Comparte esta noticia

Con motivo de la celebración de su 125 aniversario, la Sociedad General de Autores y Editores (SGAE), a través de su Fundación y del Instituto Autor, ha abordado las inquietudes y los desafíos que genera la Inteligencia Artificial (IA) en un congreso internacional titulado La propiedad intelectual y las industrias culturales ante la inteligencia artificial generativa. Ha tenido lugar los días 14 y 15 de marzo en la Casa de las Alhajas de Madrid (Plaza de San Martín, 1 y se ha podido seguir por streaming (a través del canal de Youtube de SGAE). El foro, que ha reunido a referentes internacionales en el ámbito, ha contado con la colaboración de la Consejería de Cultura, Turismo y Deporte de la Comunidad de Madrid y el Ministerio de Cultura.

Aquí te lo contamos.

Inauguración.

Antonio Onetti, presidente de SGAE.

«A lo largo de la historia, las autoras y autores han tenido que enfrentarse a todo tipo de retos y avances tecnológicos, y han debido adaptarse a ellos. Pasó con la aparición del gramófono, con la difusión del cine o con el surgimiento de la radio. Por eso debemos seguir abordándolos todos juntos: científicos, juristas, legisladores y autores».

«En estos momentos urge una reflexión global sobre el impacto de la IA en cultura. Es hora de escuchar a quienes están en primera línea para dar respuesta a cuestiones tales como el uso actual de la IA en la industria cultural, cuál debería ser su uso ético, cómo promover la diversidad cultural y garantizar que la IA no perpetúe los prejuicios y desigualdades existentes».

Mariano de Paco Serrano, consejero de Cultura, Turismo y Deporte de la CAM.

«Queremos ser competitivos, pero también rigurosos y confiables. Debemos examinar antes de decidir. Es evidente que la relación entre la IA generativa y la Propiedad Intelectual es conflictiva, por ser algo nuevo e inexplorado (…) Los poderes públicos llevamos años invirtiendo en las industrias culturales. Gozamos de un sector robusto que nos convierte en una potencia cultural mundial. Ese esfuerzo, todos esos puestos de trabajo, no pueden desaparecer por la aparición de una IA no regulada. Por eso, debemos velar por una ordenada implementación de la IA y lograr que la IA se convierta en un instrumento a favor del ser humano».

Debates y mesas redondas.

-Propiedad intelectual e inteligencia artificial generativa, una visión general.

Ryan Abbott – Abogado experto en inteligencia artificial, médico y escritor.

«La IA es un ordenador comportándose como una persona y eso, a nivel social, genera muchos interrogantes y preocupaciones en torno a cómo va a afectar esto al sector cultural. Por ejemplo, si va a enviar a muchas personas al paro. Lo que está claro es que la IA va a suponer una ganancia económica muy importante. En la próxima década se estima que va a ser superior a los 13 billones de euros. En ese contexto, se plantea un enorme problema regulatorio y grandes retos que nos obligarán a decidir qué vamos a hacer y cómo. Así pues, estamos en un ciclo legislativo en el que los legisladores tienen que decidir qué tipo de sistema queremos tener (…) El mundo en el que ahora nos encontramos es muy emocionante, pero hay que ver cómo queremos que sea este mundo y qué beneficios podemos obtener de la IA».

«Si la IA puede hacer algo mejor que yo y de una forma más barata, tendremos ante nosotros una riqueza ilimitada. No significa que nos vayamos a quedar sin trabajo, sino que no tendremos que realizar según qué trabajos».

 

-¿Infringen las inteligencias artificiales los derechos de propiedad intelectual?.

Jane C. Ginsburg – Abogada y Profesora de propiedad intelectual en la Universidad de Derecho de Columbia.

«La cuestión principal a analizar es si vulneran los derechos de autor de las obras de origen las entradas de datos a los sistemas de IA. Está claro que esas obras se copian durante el proceso de entrenamiento de la IA, aunque no siempre se infringen los derechos de autor, ya que hay plataformas que permiten esos usos y excepciones específicas (para usos no comerciales, educativos, investigación…) a la minería de datos y textos (…) En cualquier caso, es fundamental garantizar que no se perjudica el interés legítimo de los autores».

«En ese proceso de entrenamiento de la IA, malos datos de entrada generan malos resultados, por lo que para obtener datos fiables se requiere de licencias sobre las obras de uso. Solo de este modo lograremos los resultados más fiables».

 

Aproximaciones europeas y norteamericanas para un desafío global.

Coloquio entre Jane C. Ginsburg y Andy Ramos, abogado y socio de Pérez-Llorca.

Andy Ramos: «En estos momentos, se está generando un debate en los tribunales, en los medios de comunicación… en el que se están planteando los distintos enfoques para poder entender mejor qué es lo que hay que hacer. Es lo que necesitamos abordar y resolver: ¿Cómo podemos enfrentarnos al reto de la IA? Disponemos de una tecnología increíble, pero que sin ayuda no es nada. ¿Qué hacemos? ¿Cómo lograr ese equilibrio entre la IA y los creadores para evitar que se vulneren derechos y que nadie salga perjudicado? (…) Creo que los investigadores de la IA están buscando ya dónde están los límites del sistema. Se están planteando cuáles son las excepciones, las diferentes directivas y legislaciones, el uso razonable y legítimo de las obras… Es decir, planteando barreras de protección para lograr un modelo no configurado para la vulneración del copyright».

Jane C. Ginsburg: «Todo libro es una base de datos. Por lo tanto, si copias un libro, copias una base de datos y, entonces, debes enfrentarte a la ley de vulneración de datos europea (…) Cuando lees un libro no vulneras derechos de autor. Lo mismo se podría aplicar a la IA. Aunque en ese caso se está haciendo una copia y, además, una copia a gran escala. Y si hay copia, hay vulneración de derechos. Dado que es muy complicado obtener una licencia de cada una de las obras que se utilizan en ese proceso, el problema se podría resolver mediante una licencia colectiva. Así pues, el desarrollo del mercado de licencias es clave. No es sólo una cuestión de dinero, sino también de dignidad y respeto por las obras y los autores».

 

El uso de contenidos protegidos por los sistemas de Inteligencia Artificial Generativa.

Fernando Carbajo Cascón – Catedrático de Derecho Mercantil de la Universidad de Salamanca; Antonio Muñoz Vico – Abogado. Socio de Propiedad Intelectual de Garrigues; Nuria Oliver – Experta en Inteligencia Artificial, doctora por el Instituto Tecnológico de Massachusetts; Modera: Marisa Castelo – Abogada y Presidenta del Instituto Autor.

Nuria Oliver: «Para la mayoría de usuarios de redes sociales, si algo no está ahí, no existe. Es la puerta de acceso para muchas personas a contenidos culturales, noticias, entretenimiento… Así, tener presencia en las plataformas sociales es fundamental para tener visibilidad, público, obtener beneficios… En dicho contexto, se han definido ciertas reglas para moderar los contenidos que se suben a estas redes y proteger a los usuarios de ciertos contenidos inapropiados, violentos, pornográficos… Todas las plataformas realizan actualmente ese trabajo mediante algoritmos de IA. Esto afecta especialmente a los contenidos artísticos, ya que con frecuencia el algoritmo equipara los desnudos artísticos, que son clave en el arte, con la pornografía. Es la censura algorítmica del arte. Algo que se ha convertido en un problema social y cultural, y que afecta muy gravemente a los artistas, dado que les provoca un fuerte impacto económico, emocional y psicológico, creativo y social. En consecuencia, muchos artistas han optado por la autocensura (…) Esta situación requiere una urgente reflexión social: ¿Qué es el arte? El arte no es solo el objeto artístico, sino un proceso en el que entra también una voluntad de interpretar la vida, transmitir emociones, belleza… Eso el algoritmo no lo entiende. Por eso, hay que intentar mejorar el algoritmo de IA para que combine el contenido visual con su contexto; es decir, con otra información que complemente el contenido meramente visual».

Fernando Carbajo: «No hay que judicializar algo que se está usando masivamente, como es la IA. No se trata de abrir la mano a todo, pero no olvidemos que vivimos en un mundo global y, por lo tanto, en un escenario de comercio global. Así, hay que encontrar un equilibrio que favorezca la competencia y proteja a la vez los derechos de los creadores. Y dado que la IA se nutre de obras protegidas por derechos de autor, hay que establecer un derecho de remuneración justa y equitativa para tratar de legitimar los intereses de una parte y de la otra. Eso es lo imprescindible: garantizar la libre competencia y la justa remuneración a los titulares de derechos».

Marisa Castelo: «Si no podemos hacer que la IA olvide todo lo que ya ha aprendido, ya llegamos tarde. Ha de haber, por lo tanto, una remuneración justa para el creador por lo preexistente. Existen grandes corporaciones con una gran avaricia empresarial».

Antonio Muñoz: «La IA está impactando en todos los sectores productivos, incluido el audiovisual y, en general, en todo el del entretenimiento. Aquí lleva ya mucho tiempo usándose esa tecnología, pero ahora las herramientas son cada vez más potentes. La industria asiste a esto con gran expectación y de dos formas muy diferentes: con miedo o con adhesión; es decir, lo de los apocalípticos e integrados de Umberto Eco. En Europa debemos ser optimistas porque se están marcando muy seriamente las reglas del juego, se está poniendo orden de forma clara: respeto a los derechos de protección intelectual por defecto, transparencia… Y respecto a los sistemas de remuneración, se apuesta por un equilibrio entre la evolución tecnológica y la protección de derechos».

Nuria Oliver: «Como sociedad civil, no estamos suficientemente movilizados en cuanto al impacto que está teniendo la IA. Por falta de conocimiento sobre el tema. Por eso es muy importante invertir en educación y desarrollar actividades tan interesantes como este congreso, para tratar de analizar y descubrir las implicaciones que la IA puede tener sobre las personas. En adelante, vamos a ver más ejemplos de movilización de la sociedad civil en este ámbito (como ocurrió con la huelga de guionistas y actores en Hollywood), pero han de ser movilizaciones informadas».

 

¿Sueñan las entidades de gestión con autoras eléctricas? La Inteligencia Artificial que viene: escenarios probables, seguros o remotos para los derechos de autor en el futuro.

MONOS ESTOCÁSTICOS (Antonio Ortiz y Matías S. Zavia – ME) graban su podcast habitual en directo entrevistando a ponentes.

ME: “Cuando hablamos del legado de la propiedad intelectual en el contexto de la IA, nos encontramos con que el fine-tunning añade una base nueva de conocimiento especializada por ejemplo en música, que permite a ciertas empresas pasar de la comunicación pública a la comunicación íntima en torno al legado de ciertos autores o personajes fallecidos”.

Marisa Castelo: «Ahora mismo, con el conjunto de tecnologías que tenemos, es más necesario que nunca distinguir entre los derechos de propiedad intelectual y los derechos de imagen». «Tiene que haber mecanismos legales y técnicos ágiles para la retirada de contenidos cuando se vulneran estos derechos».

ME: «Los nuevos modelos de Open IA rompen la escala humana y multiplican exponencialmente la capacidad de reproducción de contenidos. Esto aumenta la capacidad de negocio y las posibilidades de monetizar la generación de contenidos, tanto para nuevas empresas como para empresas que ya estaban y se están adaptando; ahí parece que los ganadores están siendo dos: los generadores de IA y los creadores de nuevos modelos de lenguaje».

ME: “La libertad creativa con los nuevos sistemas de IA no debería ser menoscabada, pero debe haber una convergencia entre los generado y sus derivadas legales (no solo en Propiedad Intelectual) y éticas”.

José María Anguiano, abogado: «La regulación de la IA debe servir para poner coto a que la super-inteligencia artificial supere a la humana, un escenario que puede llegar antes o después según quién. Una manera de preservar el derecho puede ser otorgándole personalidad jurídica a las IA, no solo en el ámbito del derecho de autor».

 

La titularidad y el registro de las creaciones realizadas por los sistemas de Inteligencia Artificial.

Alejandro Puerto – Registrador Territorial de la Propiedad Intelectual de Madrid; Concepción Sáiz García – Profesora de Derecho Civil de la Universidad de Valencia; Ryan Abbot – Promotor de The artificial inventor project . Modera: José María Anguiano – Abogado experto en derecho informático y tecnológico.

Ryan Abbot: “Cuando hablamos de IAs y sus derivadas legales en Propiedad Intelectual, en estos momentos, el punto de vista jurídico está pendiente de la interpretación de los jueces. Pero la legislación debe adaptarse ya porque lo existente es en gran medida anterior a cuanto está ocurriendo”.

«En el caso de las IAs generadoras de conciencia simuladora de conciencia humana – un salto cualitativo en este debate – lo importante no es la analogía entre ambas, sino el fomento de la utilización de las IAs de forma beneficiosa para la sociedad».

Concepción Sáiz García: “Puede haber una permeabilidad entre el proceso creativo y el resultado final que genera desde un punto de vista legal; la arquitectura del modelo generativo IA puede estar limitando esta necesidad actualmente”.

«Siempre que intervenga el factor humano pese a que haya IA por medio, hablamos de creación a proteger desde el punto de vista del derecho de autor».

Alejandro Puerto: “Desde que aparece la IA el debate de la autoría y la creación de obra intelectual debe calificarse de igual manera que toda creación anterior, es decir, pienso que los productos generados por IA generan igualmente derechos de autor; el mayor problema lo encontramos cuando nos enfrentamos a creaciones mixtas, hechas en parte por IA y en parte en base a creaciones humanas”.

 

Estudio económico y estadístico sobre el impacto de la Inteligencia Artificial en el sector musical.

Klaus Goldhammer – Socio y director general de Goldmedia.

«Realizamos un estudio sobre el impacto de la IA en el sector musical, en los mercados francés y alemán. Según este estudio, dos tercios de las personas encuestadas creen que el proceso creativo va a adoptar cada vez más la IA, lo que genera mucha presión sobre los músicos. La mayoría de autores de música urban y rap, especialmente los más jóvenes, ya la han usado. Es más, el 43% dice que la IA puede aportar nuevos focos de creatividad. No obstante, el 63% de los encuestados están preocupados, ya que consideran que las oportunidades existen, pero los riesgos de la IA son mayores».

«Hay sectores (como los de la música, la publicidad, los disc jockeys…) que son especialmente vulnerables, porque es probable que sus profesionales puedan ser sustituidos por IA. Lo mismo ocurre con ciertos estilos de música (como la de relajación, para hacer deporte, música incidental para el audiovisual…)».

«Las empresas de IA generativa, que roban mucha música de internet para el entrenamiento de sus sistemas, han disparado enormemente sus ingresos. Esto debería revertir en una remuneración justa para los propietarios del copyright, ya que se están usando sus obras para ese entrenamiento. Además, están poniendo en riesgo el trabajo de los creadores musicales. En esa línea, según nuestro estudio, en torno al 90% de las autoras y autores musicales piden transparencia, consentimiento (que se soliciten autorizaciones para el uso de sus obras) y una justa remuneración por el uso de sus creaciones para el entrenamiento de la IA. Es decir, se pide respeto a la propiedad intelectual. Sin duda, hay que trabajar en esas áreas si queremos que el mercado se desarrolle convenientemente».

Accede al estudio

 

La regulación de la inteligencia artificial en Europa: una aproximación humanística.

Leonardo Cervera Navas – Secretario General del Supervisor Europeo de Protección de Datos

«Una de las naturalezas del Supervisor Europeo de Protección de Datos es ser autoridad en materia de IA para las instituciones de la Unión Europea (UE). Y acabamos de empezar ahora con este asunto. En estos momentos, los derechos de propiedad intelectual están en el centro de las batallas de debate de la IA generativa, especialmente en los Estados Unidos. Afortunadamente, en la UE la situación en materia de protección de datos es mejor que en EEUU, ya que el reglamento de IA europea deja muy claro que se han de respetar los derechos de propiedad intelectual y cumplir, además, obligaciones de transparencia muy claras».

«Se puede decir con total seguridad que las reglas europeas son claras y contundentes en la protección de los titulares de los derechos de autor. Ahora, lo que hay que ver es cómo podemos ponerlas en práctica con éxito».

«Después de 25 años de trabajo en políticas digitales en la UE, y a título personal, creo que el desarrollo de la IA va a poner las industrias culturales patas arriba. Algunos pedirán que se pare este tipo de nuevas tecnologías, pero eso no es posible. Lo que sí podemos es controlarlas, mediante regulación específica, y eso es lo que ha hecho la UE con mucha anticipación. Otros, en cambio, quienes se benefician de las nuevas tecnologías, lo que piden es que se pare una ley que les pone limitaciones. En la UE no solo no estamos de acuerdo con esto, sino que estamos aplicando un reglamento que se ha convertido en un modelo mundial».

«Las máquinas no pueden ni deben reemplazar nunca a los autores. Da igual lo inteligentes, baratas y autónomas que sean estas máquinas. Los europeos no podemos consentir eso. Por eso, la regulación europea debe centrarse en el ser humano».

 

Tendencias legislativas en Europa y España.

Ibán García del Blanco – Eurodiputado, portavoz S&D en la Comisión de Asuntos Jurídicos; Lara Chaguaceda Bermúdez – Subdirectora General de Propiedad Intelectual del Ministerio de Cultura; Cristina Perpiñá-Robert Navarro – Directora General de SGAE.

Ibán García del Blanco: «La ley europea se aproxima al fenómeno de la IA desde la perspectiva del uso, para que no quede inmediatamente obsoleta (…) Entre otros asuntos, especifica los espacios que necesitan una especial transparencia. Por ejemplo, en lo referido a los datos usados para entrenamiento de los sistemas de IA, garantizando que los tenedores de derechos puedan saber si sus obras han sido usadas para eso o no, y si, por lo tanto, tienen derecho a una compensación e, incluso, a poder pedir la paralización del proceso (…) En cualquier caso, la ley europea es una declaración de principios. Ahora hay que desarrollarla. Por delante nos queda un desempeño tan importante como el que ya se ha hecho».

Cristina Perpiñá-Robert: «La IA lleva utilizándose desde hace décadas en los ámbitos de la música y del audiovisual. Esto no es una novedad y nadie lo duda. Los autores se han beneficiado de ella y hasta ahora no ha sido un problema. La cuestión es que el nivel de sofisticación al que se ha llegado supone un salto cualitativo en el que los autores empiezan a temer que la IA no sea ya sólo una herramienta, sino que pueda llegar a sustituirles. Así, hay preocupación en SGAE, como en el resto de entidades de gestión de derechos de autor, porque los creadores están viendo que en el mundo digital cada vez son menos los que pueden vivir de sus obras. Es una situación alarmante. Es evidente que va a haber cada día más música generada por IA en ámbitos como los de la música de librería, los videojuegos, el audiovisual… Y en ese contexto, los autores son los más vulnerables».

Lara Chaguaceda: «El gobierno español está trabajando en cuestiones referidas a la IA de manera polifacética o transversal, y también sectorial. Ha puesto en marcha, por ejemplo, la Agencia Española de Supervisión de la IA, que está desarrollando diferentes proyectos, como la proyección de la lengua española, que para nosotros es un pilar fundamental, o la difusión misma de la IA (…) Por parte del Ministerio de Cultura, se ha creado una guía de buenas prácticas relativas al uso de la IA, que constituye la primera piedra para construir algo más grande. Esta guía se aplica a cuestiones como la contratación de actividades y servicios creativos, premios o subvenciones. Y en ese sentido, se establece que el derecho a la creación corresponde a los creadores, a los seres humanos, frente a las creaciones desarrolladas por máquinas. El autor es al que hay que proteger».

Mercedes del Palacio: «La carta europea de derechos fundamentales menciona explícitamente a la propiedad intelectual. Luego, la sitúa al mismo nivel que cualquier otro derecho fundamental».

 

Conclusiones.

Juan José Solana – Presidente de la Fundación SGAE; Marisa Castelo – Presidenta del Instituto Autor.

Marisa Castelo: «La IA viene para quedarse. Y cuanto más se hable sobre ello, como en este congreso, mejor será, porque es algo que afecta a todo el mundo (…) Como decía Asimov, la literatura de ciencia ficción debe llevar a la gente a pensar sobre cosas que podrían ser posibles. También explicaba que llegará un momento en el que la humanidad deberá tomar decisiones muy serias sobre la tecnología y que de esas decisiones dependerá cómo será el futuro de la humanidad. Yo creo que ese momento es ahora (…) La IA es un fenómeno imparable, pero debe implementarse de manera racional y que no destroce todo lo que se ha construido hasta ahora».

Juan José Solana: «No es la primera vez que se produce un cataclismo en la música provocado por la irrupción de las tecnologías. Recuerdo que en los años 80 aparecieron ordenadores, secuenciadores, programas informáticos para creación musical… Se produjo inmediatamente una democratización de la música y aparecieron músicos por todas partes. Músicos sin ningún tipo de formación. Entonces, los músicos con formación se refugiaron en la calidad. Como músico, sé que las obras de calidad lo son por algo. Por eso, creo que la IA jamás será capaz de hacer una película como ‘Casablanca’, con toda su complejidad».

Clausura.

Carmen Páez Soria – Subsecretaria del Ministerio de Cultura.

«Nos encontramos en un momento interesante desde la perspectiva jurídica, porque es ahora cuando debemos decidir qué sistema queremos. Y yo creo que Europa es un sistema humanista (…) La cultura es lo que nos define como especie, por eso hay que protegerla. Por su parte, la tecnología ofrece una innegable oportunidad para el sector cultural, en cuanto puede ser, por ejemplo, una herramienta muy útil en la lucha contra la piratería o para facilitar el acceso a millones de obras en todo el mundo. Pero es fundamental que los sistemas de IA cumplan con el marco regulatorio actual de propiedad intelectual. El desarrollo tecnológico deber servir, pues, para el desarrollo de la sociedad. El futuro, dicen, no se construye solo, pero no deberíamos dejar que lo construya la IA».

 

Fotografías: ©Luis Camacho

Únete a SGAE, registra tu obra, y comienza a obtener los beneficios generados por derechos de autor