Repositorio Institucional de Documentos

Repositorio de la Universidad de Zaragoza – Zaguan http://zaguan.unizar.es Trabajo Fin de Grado La creación de obras musicales por medios cibernéticos. The creation of musical works by cybernetic means. Autor/es Gemma Rosés Sáiz Director/es Miguel Luis Lacruz Mantecón Facultad de Derecho 2019/2020 La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 1 ÍNDICE. LISTADO DE ABREVIATURAS. .................................................................................. 3 INTRODUCCIÓN. ........................................................................................................... 4 I. ALGUNOS EJEMPLOS DE OBRAS GENERADAS POR ORDENADOR. ............. 5 1. La canción Daddy’s car creada con el sistema de Flow Machines de Sony CSL. 5 2. El Doodle de Bach creado por Google .................................................................. 5 3. Emmy (EMI Experiments in Musical Intelligence) de David Cope ..................... 6 4. Ordenador Iamus de la Universidad de Málaga .................................................... 6 5. El grupo musical de robots llamado Z-Machines .................................................. 6 6. El robot – pintor Aaron .......................................................................................... 7 7. The Next Rembrandt ............................................................................................. 7 II. LAS REGLAS DE AUTORÍA EN EL DERECHO DE AUTOR ESPAÑOL. ........... 8 1. Autor ...................................................................................................................... 8 2. Originalidad ......................................................................................................... 10 3. Concepción y Ejecución de la obra ..................................................................... 12 III. LA POSIBILIDAD DE UN CREADOR NO HUMANO. ....................................... 13 1. ¿Son las máquinas inteligentes? .......................................................................... 13 1.1. Test de Turing .............................................................................................. 14 1.2. El Teorema de Gödel.................................................................................... 15 1.3. El experimento de la habitación china ......................................................... 15 2. La personalidad robótica ..................................................................................... 16 2.1. Argumentos a favor de una autoría robótica ................................................ 19 2.2. El rechazo a la personalidad robótica en la doctrina española ..................... 21 IV. PROPUESTAS DE SOLUCIÓN PARA LA ATRIBUCIÓN DE DERECHOS. .... 23 1. La autoría como una atribución exclusivamente humana ................................... 23 1.1. La atribución de los derechos de autoría según el tipo de máquina utilizado ……………………………………………………………………………...24 La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 2 1.2. La titularidad de los derechos de autor según la influencia en el proceso creativo .................................................................................................................... 27 2. Otras propuestas .................................................................................................. 30 2.1. Obras sin autor ............................................................................................. 30 2.2. Distinción entre autor material y autor jurídico ........................................... 31 2.3. Dominio público ........................................................................................... 32 2.4. Cesión de derechos ....................................................................................... 33 2.5. La posible creación de un nuevo derecho específico: el Derecho de la robótica ……………………………………………………………………………...33 V. CONCLUSIONES. .................................................................................................... 35 BIBLIOGRAFÍA. ........................................................................................................... 37 La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 3 LISTADO DE ABREVIATURAS. Art. Artículo Arts. Artículos EMI EMI Experiments in Musical Intelligence IA Inteligencia Artificial No. Número P. Página PP. Páginas STJUE Sentencia del Tribunal de Justicia de la Unión Europea TJUE Tribunal de Justicia de la Unión Europea TRLPI Texto Refundido de la Ley de Propiedad Intelectual Vol. Volumen La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 4 INTRODUCCIÓN. ¿Qué es la Inteligencia Artificial? ¿Qué implicaciones ha tenido el desarrollo de la tecnología en el ámbito del Derecho de Autor? ¿Deben ser los robots sujetos de derecho y, por tanto, ser considerados como autores de las obras que generen? El avance en las nuevas tecnologías de la información ha originado la proliferación del uso de máquinas o robots para todo tipo de sectores. En el sector de la medicina se usan los robots para las operaciones quirúrgicas; en el automovilístico se están creando vehículos sin conductor; en el comercial, se están poniendo de moda los drones… Esta rápida difusión en el uso de las máquinas ha llevado al surgimiento de nuevos problemas en el ámbito jurídico, y, especialmente, en el tema que nos ocupa, el de la propiedad intelectual. La introducción de medios cibernéticos para la creación artística ha provocado que se susciten nuevas cuestiones jurídicas con respecto a una posible autoría robótica. Importancia capital en este asunto tiene la Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho Civil sobre robótica (2015/2013 (INL)), en la que se solicita el estudio de una posible personalidad robótica. En la actualidad, el ordenamiento jurídico español no cuenta con una regulación adecuada para los nuevos desafíos que se nos presentan con el avance de las nuevas tecnologías y de la robótica. Es por ello que, a través de este trabajo, intentaré mostrar la compleja situación de las obras generadas por medios cibernéticos, en especial, de las obras musicales, y su posible protección por el Derecho de Autor. En primer lugar, se partirá de una serie de ejemplos de obras creadas por medios cibernéticos para un primer acercamiento a la cuestión que nos ocupa. Seguidamente, se explicará la regulación actual del Derecho de Autor, contenida en el Texto Refundido de la Ley de Propiedad Intelectual de 1996, en relación con el concepto de autoría de las obras del ingenio, así como de los requisitos que dichas obras han de cumplir para poder ser objeto de protección. Asimismo, la creación de estas obras sin apenas intervención humana hace necesario preguntarse sobre la posibilidad de una autoría robótica, y, consecuentemente, de una personalidad robótica. Por ello, se presentarán distintos puntos de vista sobre el posible La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 5 tratamiento jurídico de las obras generadas por medios cibernéticos, teniendo en cuenta tanto el tipo de máquina utilizado, como la influencia en el proceso creativo de cada uno de los sujetos intervinientes en la creación de la obra, haciendo acopio tanto de la visión de la doctrina extranjera como de la doctrina española. Finalmente, se proporcionará una serie de conclusiones y de posibles soluciones, en aras a una mejor adaptación y renovación del derecho español ante los desafíos a los que el mundo jurídico debe enfrentarse. I. ALGUNOS EJEMPLOS DE OBRAS GENERADAS POR ORDENADOR. Para poder entender la cuestión que aquí vamos a tratar se exponen, a continuación, una serie de ejemplos en los que los robots son utilizados para la creación de una obra artística susceptible de ser protegida por el derecho de autor. 1. La canción Daddy’s car creada con el sistema de Flow Machines de Sony CSL. 1 “Daddy´s Car” es la primera canción compuesta por inteligencia artificial, a través de un programa llamado Flow Machine desarrollado por la empresa SONY CSL Research Laboratory. Para la creación de esta canción, en primer lugar, fue creada una base de datos llamada LSBD, que contiene alrededor de 13.000 partituras con una gran cantidad de estilos y compositores. Después, el compositor humano (el francés Benoît Carré) seleccionó un estilo (en este caso el de The Beatles) y generó una partitura utilizando un sistema llamado FlowComposer. Como tercer paso, se utilizó otro sistema llamado Rechord, con el cual el músico buscaba compatibilidades entre partes de otras canciones y las partituras generadas, para luego unirlas si eran compatibles. El músico, finalmente, completa la producción y la mezcla. 2. El Doodle de Bach creado por Google. Con motivo del aniversario del nacimiento del compositor Johann Sebastian Bach, Google lanzó en 2019 su primer doodle basado en inteligencia artificial. Elaborado de forma conjunta por los equipos de Google Magenta y Google PAIR, este doodle nos ofrece la posibilidad de componer nuestra propia melodía a partir de una serie de notas musicales que el usuario elige. Tras la elección de dichas notas musicales, el usuario solo 1 https://www.sonycsl.co.jp/ La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 6 deberá presionar el botón de «armonizar» para obtener como resultado una composición musical nueva con el estilo de la música de Bach. El programa desarrollado por Google parte del análisis de 306 armonizaciones para coro del compositor con el fin de crear nuevas composiciones. De esta forma, el usuario puede crear una línea musical que el doodle reconoce y con la que crea nuevas voces. Una vez creada la melodía y armonizada, el usuario puede compartirla o puede bajar la canción compuesta para reproducirla para uso personal. Para conseguir este resultado, Google utiliza un modelo de máquina capaz de aprender (machine learning) que fue desarrollado durante 3 años. 3. Emmy (EMI Experiments in Musical Intelligence) de David Cope. EMI es un programa especializado en imitar el estilo de Johann Sebastian Bach creado por David Cope, profesor de musicología de la Universidad de California. El programa analiza la música que Cope había introducido en la base de datos de EMI, y esos datos se utilizan para dirigir la composición de nuevas obras en el mismo estilo. Cope, que también era compositor, introdujo al software del programa sus propias composiciones y comenzó a usar la máquina para crear nuevos trabajos, basados tanto en sus propias creaciones como también en composiciones de otros músicos. 4. Ordenador Iamus de la Universidad de Málaga. 2 Iamus es un ordenador compositor capaz de crear música clásica contemporánea. Las principales novedades de Iamus son que obtiene partituras y que sus obras son indiferenciables de compositores humanos. El módulo compositivo de Iamus trabaja con tecnología de Melomics y tarda unos 8 minutos en crear una composición y generar todos sus formatos. Iamus está construyendo un repositorio de composiciones en continuo crecimiento, que cubre los principales géneros musicales. 5. El grupo musical de robots llamado Z-Machines. 3 Z-Machines es una banda de música compuesta íntegramente por robots. Fue un proyecto elaborado por la Universidad de Tokio y son capaces de interpretar cualquier partitura con una precisión perfecta. La banda está formada por tres robots: Hay Mach, el 2 https://www.uma.es/inteligencia-computacional/ 3 http://www.yurisuzuki.com/design-studio/z-machines La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 7 guitarrista, cuenta 78 dedos, dos guitarras y doce púas; Ashura, el batería, es capaz de utilizar hasta 22 baquetas de manera simultánea; y Cosmo, que toca los teclados mediante láser proyectado desde sus ojos. Los componentes de Z-Machines pueden ejecutar cualquier partitura o tempo y ya han hecho sus primeros conciertos. No solo en el sector musical se ha introducido el uso de medios cibernéticos para la creación artística, sino que dos ejemplos importantes de estos nuevos métodos de creación intelectual los encontramos con los programas AARON y The Next Rembrant. 6. El robot – pintor Aaron. 4 Aaron es otro ejemplo de creación artística mediante la inteligencia artificial, pues fue el primer robot de la historia capaz de pintar obras completamente nuevas. Mediante una base de datos sobre objetos, formas, cuerpos y otros elementos, así como unas reglas de procedimiento, el robot es capaz de crear obras pictóricas únicas desde cero sin necesidad de intervención humana. Así pues, gracias a la acumulación de los datos introducidos en su software Aaron va creando de forma autónoma obras irrepetibles y aleatorias. 7. The Next Rembrandt. 5 El programa informático The Next Rembrandt examina toda la colección de arte del pintor, estudiando sus pinturas pixel por pixel (las geometrías, los pigmentos, los patrones de composición…). A través de esta recopilación de datos y utilizando el sistema de deep learning, la máquina es capaz de analizar las obras del pintor para crear una pintura nueva al estilo del artista. Además, para poder exponer dichas obras utilizan una máquina impresora 3D para la impresión una a una de diferentes capas de pintura con el objetivo de conseguir la textura de las pinturas obra de Rembrandt. Una vez realizado este primer acercamiento a la problemática que aquí nos ocupa, debemos analizar las reglas de la autoría recogidas en nuestro ordenamiento jurídico, en concreto, en el Texto Refundido de la Ley de Propiedad Intelectual. 4 http://www.aaronshome.com/aaron/index.html 5 https://www.nextrembrandt.com/ La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 8 II. LAS REGLAS DE AUTORÍA EN EL DERECHO DE AUTOR ESPAÑOL. De acuerdo con el artículo primero del Texto Refundido de la Ley de Propiedad Intelectual 6 (en adelante TRLPI), la propiedad intelectual de una obra literaria, artística o científica corresponde al autor por el solo hecho de su creación, considerándose autor a la persona natural que crea dicha obra literaria, artística o científica, y reconociéndose también la autoría, en determinados casos previstos expresamente por la ley, a las personas jurídicas. La obra es el objeto sobre el que la propiedad intelectual concede un poder de exclusiva a favor de su titular, inicialmente el autor. El derecho nace solo si hay obra y su alcance queda circunscrita a la misma. La obra objeto de protección debe ser una creación original de un ser humano, pues no se protege en la actualidad las posibles obras creadas por animales, por la naturaleza o por las máquinas autónomamente, es decir, sin intervención humana. Para que una obra creada por ordenador sea susceptible de protección jurídica se establecen, en el Derecho español, una serie de requisitos: 1. Autor. Nuestra regulación sobre Propiedad Intelectual está basada en la teoría personalista del derecho de autor, por lo que la titularidad de una obra originaria pertenece al autor efectivo (persona natural) que haya creado dicha obra, pudiendo proteger sus derechos de autoría ante los tribunales españoles. El origen de esta idea de autoría lo encontramos en el filósofo alemán Immanuel Kant, quien consideraba que las obras o creaciones constituyen la emanación de la personalidad del creador y tienen como objeto su misma persona. En el Texto Refundido de la Ley de Propiedad Intelectual (TRLPI) podemos observar en su artículo 5 que, además de la persona natural, también la persona jurídica (art.5.2) puede beneficiarse de la protección que la ley concede a los autores personas físicas en 6 Real Decreto Legislativo 1/1996, de 12 de abril, por el que se aprueba el Texto refundido de la Ley de Propiedad Intelectual, regularizando, aclarando y armonizando las disposiciones legales vigentes sobre la materia. La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 15 derechos de autor. Los partidarios de la IA concluyen que, si no es posible diferenciar entre el pensamiento humano y la actividad computacional, significa que no existe diferencia entre ambos. 1.2. El Teorema de Gödel. Uno de los argumentos matemáticos en contra del Test de Turing es el Teorema de Gödel que establece que hay ciertas cosas que la máquina no puede hacer. Pese a que esté preparada para dar respuestas a las cuestiones del juego de la imitación, habrá algunas preguntas a las que dará una respuesta incorrecta o no dará ninguna, aunque se le deje mucho tiempo para responder, en concreto no podrá responder las cuestiones autorreferentes. Esto demostraría que no todos los problemas pueden resolverse mediante algoritmos por lo que la inteligencia de los robots no podría ser equiparada a la de los humanos. No obstante, Turing replica que el ser humano es también falible y se equivoca, o desconoce la respuesta a muchas preguntas, por lo que este argumento no es suficiente de por sí para negar la inteligencia de las máquinas. 1.3. El experimento de la habitación china. 18 En contra de las argumentaciones de Turing, Searle propone el llamado experimento de la habitación china para defender que la simple contestación a una serie de preguntas no supone que la máquina sea verdaderamente inteligente en un sentido humano, pues la máquina no entiende el contexto y el significado de lo que se le está preguntando. Esto es así, nos dice, ya que la actividad de cualquier ordenador es una actividad de manipulación de símbolos que sólo tiene en cuenta sus aspectos sintácticos o formales (es decir, si es 0 o 1, si tiene que pasar al siguiente dígito o reescribirlo) pero no atiende a su semántica, a su significado, mientras que las mentes humanas se mueven precisamente atendiendo al significado de los símbolos que utilizan. Searle se imagina solo en una habitación con un catálogo de caracteres chinos que muestra los caracteres que hay que utilizar para responder a los caracteres que se deslizan debajo de la puerta. Searle no sabe chino y, sin embargo, al usar el catálogo para manipular 18 https://plato.stanford.edu/entries/chinese-room/#3 La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 16 símbolos y números, tal como lo hace un ordenador, produce cadenas apropiadas de caracteres chinos que engañan a los que están afuera pensando que hay un hablante chino en la habitación. La conclusión del argumento es que programar una computadora digital puede hacer que parezca entender el lenguaje, pero no produce una comprensión real. Por lo tanto, el Test de Turing es inadecuado, pues sin la comprensión no se les puede clasificar realmente como «pensantes» de la misma manera que los humanos. 2. La personalidad robótica. Una vez expuestos los argumentos principales a favor y en contra de la inteligencia robótica, debemos tratar la difícil cuestión de una posible personalidad robótica. Tiene especial importancia en este sentido la Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho Civil sobre robótica (2015/2013 (INL)), en cuyo punto 59 apartado F) se pide a la Comisión que estudie la posibilidad de «crear a largo plazo una personalidad jurídica específica para los robots, de forma que como mínimo los robots autónomos más complejos pueden ser personas electrónicas responsables de reparar los daños que puedan causar, y posiblemente aplicar la personalidad electrónica a aquellos supuestos en los que los robots tomen decisiones autónomas inteligentes o interactúen con terceros de forma independiente». En el Anexo de la Resolución se recoge una definición de lo que el Parlamento Europeo entiende por «robots autónomos inteligentes», que son aquellos que cuentan con las siguientes características: • La capacidad de adquirir autonomía mediante sensores y/o mediante intercambio de datos con su entorno (interconectividad) y el análisis de dichos datos. • La capacidad de aprender a través de la experiencia y la interacción. • La forma del soporte físico del robot. • La capacidad de adaptar su comportamiento y acciones al entorno. Se hace necesario contemplar, por tanto, la posibilidad de admitir en el ordenamiento jurídico a los robots como sujetos de derecho, es decir, recoger la figura de la «persona electrónica o persona ciber-física». La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 17 En la doctrina española nos encontramos con partidarios de incluir este tercer sujeto de derechos junto con las ya existentes personalidad física y personalidad jurídica. Partiendo de las tesis de Savigny, para quien el núcleo de la personalidad jurídica se encuentra en la voluntad, entendiendo ésta como la facultad de proponerse fines y realizarlos, Javier Ercilla defiende la introducción de una personalidad robótica o electrónica. De esta forma, y siguiendo las tesis ya nombradas, debería dotarse de personalidad jurídica a aquellos robots dotados de voluntad, es decir, a aquellos que puedan tomar decisiones autónomas inteligentes, en el sentido de que no dependieran de una indicación previa para actuar. De acuerdo con esta postura, Ercilla 19 defiende que «el ordenamiento jurídico futuro contaría con tres personalidades jurídicas: la del ser humano con voluntad propia (persona física), la de las colectividades humanas dotadas de una voluntad común fruto de voluntades aisladas (persona jurídica) y la de los sistemas ciber-físicos dotados de una voluntad surgida de procesos algorítmicos (persona ciber-física)». Para explicar la necesidad de una personalidad jurídica específica para robots ERCILLA 20 argumenta que las máquinas capaces de aprender (learning machines) y dotadas de inteligencia artificial se diferencian las unas de las otras por las circunstancias en torno a las cuales han desarrollado su existencia, las habilidades aprendidas, así como por su capacidad para relacionarse con terceros de forma independiente tomando decisiones autónomas inteligentes. Todo ello reviste a los robots de tal individualidad que hace necesaria la creación de la ya mencionada personalidad jurídica. Como hemos visto, la UE contempla la personalidad electrónica para «aquellos supuestos en los que los robots tomen decisiones autónomas inteligentes o interactúen con terceros de forma independiente». Para abordar esta cuestión resulta conveniente aportar una definición de Inteligencia Artificial (IA). La propia Comisión en la Comunicación sobre inteligencia artificial para Europa (COM/2018/237) explica que la inteligencia artificial «se aplica a los sistemas que manifiestan un comportamiento inteligente, pues son capaces de analizar su entorno y pasar a la acción –con cierto grado de autonomía– con el fin de alcanzar objetivos 19 ERCILLA GARCÍA, J., «Aproximación a una Personalidad Jurídica Específica para los robots», Revista Aranzadi de Derecho y Nuevas Tecnologías (mayo-agosto) cit., pp. RR -6.7. Se puede encontrar en https://dialnet.unirioja.es/servlet/articulo?codigo=6559920 20 Ibidem, pp. RR -6.7 La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 18 específicos». Añadiendo que pueden consistir en un programa informático, pero que también puede estar incorporada en dispositivos de hardware (p. ej. robots avanzados, automóviles autónomos, drones o aplicaciones del internet de las cosas). Se añade también que el aprendizaje profundo (deep learning) ha supuesto un punto de inflexión y que una vez entrenados, los algoritmos, son capaces de clasificar correctamente objetos que nunca han visto, siendo sus capacidades superiores en algunos casos a las de los seres humanos. Por ello, a raíz de esta Comunicación, la Comisión exhorta a conseguir medidas de ámbito europeo para potenciar e incentivar el desarrollo y la investigación de la IA, así como para contribuir a la consecución de una posición de liderazgo de Europa en el ámbito de la robótica. Son muchos los autores que han aportado su definición de IA. En este sentido LACRUZ MANTECÓN 21 nos señala que Miles BRUNDAGE la define como: «un ámbito de investigación e ingeniería centrado en el uso de la tecnología digital para crear sistemas capaces de realizar tareas (a menudo como resultado de su autoaprendizaje) que se estima comúnmente que requieren inteligencia cuando las realiza un humano o un animal». Se distingue dentro de la Inteligencia artificial entre IA débil e IA fuerte. Según LÓPEZ DE MÁNTARAS Y MESEGUER la IA débil «es la ciencia e ingeniería que permite diseñar y programar ordenadores de forma que realicen tareas que requieren inteligencia. La IA fuerte es la ciencia e ingeniería que permitirá replicar la inteligencia humana mediante máquinas». Tal y como nos indica LACRUZ MANTECÓN 22 , para el filósofo americano John Searle (que es el creador de la diferenciación entre ambos tipos), la IA débil consistiría en la capacidad resolutoria de problemas que tienen los programas de ordenadores que ayudan al ser humano en sus actividades mentales. En cambio, la IA fuerte implica algo más, significa que un ordenador dotado de auténtica inteligencia no simula una mente, sino que es una mente y, por consiguiente, pensaría igual que el ser humano. 21 LACRUZ MANTECÓN, M., «Potencialidades de los robots y capacidades de las personas», Ponencia presentada a la Jornada «Robots y Derecho» organizada por Editorial Reus, Madrid, 27 de septiembre 2018, p. 93. 22 Ibidem, p.101 La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 19 2.1. Argumentos a favor de una autoría robótica. Una de las posibilidades que se discute hoy en día es la de otorgar la autoría de las obras creadas por los ordenadores a los propios ordenadores. Esta teoría estaría basada en la afirmación de que los robots cumplen totalmente los actuales requisitos de concepción y ejecución de la obra, y que de ellos depende todo el proceso creativo que dará como resultado una obra nueva. Esta idea de la máquina como sujeto de derechos de autor deberá ir unida necesariamente a la creación de una personalidad robótica, pues tal y como hemos dicho anteriormente, las legislaciones actuales sobre derechos de autor recogen en sus ordenamientos la teoría de la personalidad, es decir, la necesidad de una persona natural como titular de estos derechos. Otorgar la titularidad de los derechos de las obras a sus propios creadores, es decir, las máquinas, incentivaría como es lógico una mayor inversión e investigación en los campos de la tecnología y el sector comercial. Entre los partidarios de esta «autoría robótica» se encuentra Ryan ABBOT 23 para quien determinados requisitos hoy exigidos para la autoría serían prescindibles en aras de proteger las obras generadas por medios cibernéticos. En primer lugar, argumenta que el requisito de la concepción de la obra es un requisito ambiguo e indeterminado, por lo que el hecho de que la invención involucre un acto mental como es el de concebir la obra antes de su creación no debería ser un impedimento para poder reconocer la autoría robótica. Para Abbot no es importante si un robot puede o no pensar para otorgarle derechos sobre sus obras, lo único importante sería la obra que efectivamente dicha máquina ha dado como resultado. La protección de una obra del ingenio debería quedar determinada por la contribución que dicha obra hace para el desarrollo y avance del arte, y no que esa protección dependa de que se cumplan otros requisitos externos al producto final 24 . Un apunte interesante que realiza Abbott es que rechazar una posible autoría robótica en base a la interpretación de los textos legales actuales sería algo completamente desaconsejable, pues estas normas fueron escritas cuando la invención de obras por 23 ABBOTT, R., «I Think, Therefore I Invent…», cit., p. 1108. 24 Esta idea es propia del sistema del copyright: al igual que en la propiedad industrial, la nueva obra intelectual, para ser considerada nueva obra y valiosa, debe contribuir al avance del conocimiento y de las artes. La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 20 medios cibernéticos no existía, por lo que sería necesario realizar una renovación legislativa. Según ERCILLA GARCÍA 25 , aunque actualmente las obras del ingenio generadas por inteligencias artificiales tienen como autores a los programadores de los algoritmos, en un futuro la IA evolucionará en tal sentido que se acercará a la inteligencia humana, esto es, la llamada IA fuerte o súper inteligencia artificial que ya hemos comentado. En consecuencia, según este autor, nos encontraríamos con una obra generada por un ente autónomo, dotado de la capacidad de aprendizaje (deep learning), y que debido al diferente entorno en el que se ha desarrollado posee esa individualidad que le distingue del resto de los robots. Es por eso que adquiriría personalidad jurídica y, por tanto, la consecuente autoría y derechos de explotación de las obras que él mismo crease. Haciendo un análisis de la creatividad computacional, el ingeniero español LÓPEZ DE MÁNTARAS 26 argumenta que consiste en el estudio de la creación de obras del ingenio mediante un software cuyo comportamiento y resultados serían considerados como creativos si estos mismos fueran llevados a cabo por humanos. El autor critica que se niegue la creatividad de las máquinas pues, para él, el hecho de simular las técnicas artísticas, es lo mismo que simular el pensamiento y razonamiento humano. Según López de Mántaras la creatividad no es un don independiente de toda explicación científica, sino que es algo que puede ser estudiado, investigado, estimulado y simulado. Siendo que no hay nada que pueda surgir del vacío, debemos entender que todo trabajo o idea creativa es fruto de la herencia cultural y de las experiencias vividas. Citando a la autora Margaret Boden, defiende que los nuevos pensamientos o ideas que aparecen en nuestra mente no son del todo nuevos, sino que tienen su origen en representaciones que ya estaban previamente en ella. De esta forma, una idea creativa es una nueva y variable combinación de ideas conocidas. Este mismo argumento traspasado a la creación musical significaría que las piezas musicales pueden ser generadas desde una infinita lista de elementos, y, por lo tanto, la creatividad es una forma avanzada de resolver un problema que involucra la memoria, la 25 ERCILLA GARCÍA, J., «Aproximación…», cit., pp. RR -6.7. Se puede encontrar en https://dialnet.unirioja.es/servlet/articulo?codigo=6559920 26 LÓPEZ DE MÁNTARAS BADIA, R. (2013). “Computational Creativity”. Arbor, 189 (764): a082. doi: http://dx.doi.org/10.3989/arbor.2013.764n6005 La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 21 analogía, el aprendizaje, el razonamiento, y, por ello, replicable por medios cibernéticos. López de Mántaras rechaza la idea de que sea necesario que los robots tengan conciencia de sus logros para que sea reconocida su potencial creatividad o inteligencia. Defiende que la causa del rechazo de las capacidades creativas de los robots no se mide desde la perspectiva científica, sino moral. Desde la perspectiva científica, señala, el proceso creativo es solo una serie de problemas que pueden ser resueltos a través de normas, lo que llevaría, a su vez, a que estas normas puedan ser transcritas a algoritmos. Por ello, no podríamos negar que estas máquinas son creativas o inteligentes, pues científicamente estas creaciones satisfarían todos los requisitos que hacen que una persona física sea considerada como tal. 2.2. El rechazo a la personalidad robótica en la doctrina española. Dentro de la doctrina española varios autores se muestran contrarios a la posibilidad de que los robots sean considerados agentes jurídicos titulares de derechos de cualquier tipo. ROGEL VIDE 27 recuerda que los robots son máquinas «… cosas, todo lo singulares que se quiera; objetos inanimados que, aun pudiendo realizar tareas, como las personas, difieren de ellas en muchos y capitales aspectos». En concreto, respecto a la cuestión principal que aquí nos ocupa, Rogel Vide niega la posibilidad de que un robot sea reconocido como autor de obras intelectuales de conformidad con el ordenamiento jurídico actual: «Con el Derecho en la mano, es autor la persona que concibe y realiza alguna obra literaria o crea y ejecuta alguna artística; obras, en todo caso, originales, que no surgen del mero acopio de conocimientos adquiridos o de experiencias habidas… Las obras creadas con la ayuda de un programa de ordenador son de quien las creó, siéndolo de aquél que haya elaborado el programa en cuestión si de la utilización del mismo y de sus posibilidades, resultare la obra creada… Una obra del espíritu ha de pertenecer, necesariamente, a una persona y nunca a una máquina, que, por muy versátil y sofisticada que sea, es objeto y no sujeto de derechos». Contraria a que los robots sean considerados como titulares de derechos de autor se muestra también SAIZ GARCÍA 28 , quien igualmente hace referencia a la conciencia para afirmar que, de acuerdo con el ámbito de aplicación del derecho de autor vigente, el 27 ROGEL VIDE, C., Los Robots y el Derecho, Reus, Madrid, 2018, p.17. 28 SAIZ GARCÍA, C., «Las obras creadas…», cit, p.15. La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 22 resultado exclusivamente producido por una máquina, independientemente de que ésta simulase de manera exacta el funcionamiento del cerebro humano, no podría calificarse como obra de ingenio, por lo que tampoco sería protegible por derechos de autor. Más tarde, SAIZ GARCÍA 29 apunta que a diferencia de los seres humanos las máquinas no tienen conciencia, ni tampoco ejercen un esfuerzo en la creación de la obra nueva que pueda justificar una protección como autores de las mismas. Otro obstáculo que impide el reconocimiento de los robots como agentes del ordenamiento jurídico es su incapacidad para tener sentimientos, experiencias o de ser conscientes de sí mismos. Tal y como indica Lacruz Mantecón 30 «como sujetos pensantes, cada uno tenemos experiencias y sentimientos que experimentamos como propios y no prestados. [...] Los humanos diferenciamos lo que ha sucedido en la realidad, de lo que hemos experimentado, de lo que nos han contado, o de los sucesos inventados de las novelas o el cine, lo que la máquina no diferenciaría si se le implanta la información como propia». Debido a que ni siquiera nosotros mismos, los humanos, somos capaces de entender o describir determinados comportamientos o sentimientos, dicha información no puede traducirse a algoritmos, por lo que será imposible que los robots los reproduzcan. Sí es cierto que podemos hacer que los robots solucionen determinados problemas, pero no podemos dotarles de conciencia o alma. No hay que olvidar que, al fin y al cabo, los robots solo serán capaces de realizar aquellas acciones para las que han sido programados, sin que sea posible que realicen actividades completamente autónomas (al menos en la actualidad). El funcionamiento y acciones de los robots dependerán en toda medida de la información contenida en el software, pues no podemos obviar que los robots no dejan de ser una creación humana, una máquina, un objeto. Así pues, si no podemos transcribir a algoritmos determinadas situaciones, sentimientos o ideas, entonces tampoco existen algoritmos capaces de solucionar todos los problemas o robots capaces de imitar exactamente el comportamiento humano. La conclusión de todo esto es que, si bien podemos dar instrucciones a las máquinas para que actúen de determinada forma o solucionen una serie de inconvenientes, no podemos 29 Ibidem 30 LACRUZ MANTECÓN, M., «Potencialidades de los robots…», cit., p.125. La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 23 darles conciencia o la capacidad de pensar, puesto que ni nosotros mismos entendemos dichos procesos. IV. PROPUESTAS DE SOLUCIÓN PARA LA ATRIBUCIÓN DE DERECHOS. 1. La autoría como una atribución exclusivamente humana. Como ya hemos comentado, una máquina no puede ir más allá de la información que le ha sido introducida por el programador, es decir, incluso aquellas «experiencias» o contenidos nuevos que el robot desarrolla son resultado de la introducción de una serie de algoritmos que hacen posible dicha enseñanza. Por ello, GINSBURG Y BUDIARDJO 31 sostienen que cualquier tipo de aparente creatividad en el resultado u obra final de una máquina es directamente atribuible a la información introducida por los programadores o por las instrucciones dadas por el usuario. Ninguna máquina, por sí sola, es fuente de creatividad (al menos, como ya hemos dicho, las máquinas que existen hoy en día). Esto mismo, argumentan, también sería aplicable para el hipotético caso de que el resultado final originado por la máquina sorprendiera al ser humano por ser totalmente inesperado, pues todos los resultados que puedan surgir de la propia máquina siempre serán consecuencia de la información programada por un ser humano, ya sea directa o indirectamente. Por tanto, si una máquina no puede ser autora de obras creativas, debemos preguntarnos a quién corresponde la autoría o los derechos de explotación de dichas obras. Para dar respuesta a esta difícil cuestión, algunos autores centran su estudio en el tipo de máquina que se utiliza, mientras que otros, sin entrar a valorar dicha distinción, ofrecen una visión más centrada en el peso creativo de cada uno de los intervinientes en la creación de la obra. Por ello, en los siguientes apartados trataré de reflejar los diferentes enfoques de unos y de otros. Entre los diferentes tipos de máquinas que poseen inteligencia artificial distinguimos entre: aquellas que poseen la llamada inteligencia artificial débil y aquellas que se caracterizan por la inteligencia artificial fuerte. 31 GINSBURG y BUDIARDJO, Luke Ali, «Authors and Machines» (August, 2018). Columbia Public Law Research Paper No. 14-597; Tecnhnology Law Journal, Vol. 34, No.2, 2019, p.55. La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 24 De este modo, como indican SAIZ GARCÍA 32 y GINSBURG Y BUDIARDJO 33 , en el ámbito de la autoría es preciso distinguir entre: - Los casos en los que la máquina es una de las partes del proceso creativo en las que el programa de ordenador es utilizado simplemente como una herramienta para el autor: las denominadas computer-aided Works” (CGW) o “ordinary tools” para la doctrina anglosajona. - Las obras generadas por el ordenador sin intervención humana: “computergenerated Works” (CGW) o “fully generative machines”. - Por último, nos encontramos con los casos más complicados, que son aquellas que se encuentran entre uno y otro extremo o “partially generative machines”. 1.1. La atribución de los derechos de autoría según el tipo de máquina utilizado. A) La máquina como una herramienta más para el proceso creativo. Son aquellas máquinas cuyo proceso creativo descansa total o mayoritariamente en el usuario de la misma, es decir, los programadores o diseñadores de la máquina contribuyen de manera mínima o incluso inexistente en el proceso creativo de la obra generada. Por muy sofisticada y avanzada que sea la máquina utilizada, el proceso creativo descansa únicamente en el usuario por lo que él mismo será el autor de todas las obras creadas con la ayuda de la máquina. Este tipo de uso de la máquina no genera ninguna problemática respecto a la autoría del usuario. B) Las obras generadas totalmente por el ordenador sin intervención humana. Son aquellas máquinas cuyo proceso creativo recae completamente en el programador, es decir, en los algoritmos introducidos en la máquina, por lo que no requieren ninguna aportación creativa o manipulación del usuario para la creación de una obra intelectual. Este tipo de obras no cuentan hoy en día con una regulación específica en el ordenamiento jurídico español por lo que se discute si podrían ser protegibles por el derecho de autor o si, en cambio, deberían recaer en el dominio público. 32 SAIZ GARCÍA, C., «Las obras creadas…», cit., p.27. 33 GINSBURG y BUDIARDJO, «Authors and Machines», cit., pp.65-80. La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 31 lugar, en relación con el programador informático, la autora nos explica que el programa por él creado no tiene nada que ver con las obras musicales que a través del mismo se generan, pues su actividad es puramente técnica y ya está protegida por el ordenamiento jurídico. En consecuencia, entiende que la propiedad intelectual sobre este tipo de obras musicales no corresponde, en exclusiva, a ningún sujeto y pueden usarse libremente por cualquiera. De modo que podrán reproducirse, ejecutarse en público, etc., sin necesidad de pedir autorización alguna. De esta forma, concluye, la música enteramente determinada por un programa informático puede utilizarse igual que las obras musicales que reúnen todos los requisitos del art.10 LPI cuando ingresan en el dominio público. 2.2. Distinción entre autor material y autor jurídico. Como hemos dicho el Derecho de Autor descansa sobre la persona física, por lo tanto, si la creación proviene de un animal, algoritmo o de una máquina de forma autónoma quedaría fuera de la protección de derechos de propiedad intelectual y entraría de manera inmediata en el dominio público. NAVAS NAVARRO 49 señala que la doctrina estadounidense utiliza el concepto de los llamados “work made for hire” en virtud de los cuales, el empleador u otra persona bajo cuyo encargo se realizó una obra es considerada autor. Así pues, surge la distinción entre el «autor material» y el «autor jurídico». Si se rechaza que el ordenamiento jurídico deba admitir la creación de una personalidad robótica y que solo son protegibles aquellas obras creadas por un ser humano, Navas Navarro plantea la posibilidad de establecer una ficción legal en la que se distinga el «autor jurídico», es decir, aquella persona física o jurídica que encargó el algoritmo en cuestión o que utilizó el algoritmo previamente creado, y que acabó produciendo la obra «original», y el «autor material», esto es, la máquina que, efectivamente, da lugar a la obra o producto final. De esta forma, el «autor jurídico» sería el titular de los derechos morales y de explotación económica. 49 NAVAS NAVARRO, S., «Obras generadas por algoritmos…», cit., p.284. La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 32 Esta solución ya ha sido adoptada por algunos ordenamientos jurídicos pertenecientes al Common Law como Gran Bretaña 50 , Nueva Zelanda 51 , Irlanda 52 y Sudáfrica 53 , pero sin hacer referencia a las obras creadas por robots sin intervención humana, es decir, a los ya comentados “computer-generated works”. 2.3. Dominio público. Otro posible tratamiento de las obras creadas por medios cibernéticos sería la de que entraran directamente en dominio público, es decir, que fueran accesibles para todos. Desde esta perspectiva, explica Robert YU 54 , el verdadero «autor» de la obra sería el programador, por lo que éste podría recibir una compensación económica y una correcta protección legal en relación a su software. NAVAS NAVARRO 55 también se muestra a favor de esta posibilidad, explicando las llamadas “creative commons” 56 como figuras de dominio público de facto. Las cesiones de “creative commons”, explica, son cesiones de facultades de explotación económica de carácter perpetuo y mundial, pues la cesión se realiza normalmente por Internet y cualquier persona puede solicitar la celebración del contrato. Navas Navarro define las cesiones “creative commons” como «negocios jurídicos de cesión de facultades de explotación económica que pueden consistir en una cesión de todas las facultades de las que dispone el autor o solo algunas de ellas». Normalmente, en estos negocios jurídicos siempre se transmiten las facultades de reproducción, de distribución y de comunicación pública (arts. 18, 19 y 20 TRLPI respectivamente), mientras que la facultad de transformación (art.21 TRLPI), puede ser reservada por el autor para evitar que se lleven a cabo obras derivadas. Posteriormente, señala que en el caso de que se cediera también esta facultad de transformación y en el ejercicio de la misma se ejecutase una «obra derivada» (art.11 50 Copyright, Design and Patent Act (1988) 51 New Zeeland Copyright Act (1994) 52 Ireland Copyright Act and Related Rights Act (2000) 53 South Africa Copyright Act (1978) 54 YU, R., «The Machine Author…», cit., p.1104. 55 NAVAS NAVARRO, S., «Dominio público, diseminación on-line de las obras del ingenio y cesiones “creative commons” (necesidad de un nuevo modelo de propiedad intelectual)», cit., p. 243. 56 www.creativecommons.com La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 33 TRLPI) sobre ésta, su autor ostentará los derechos de explotación económica que podrá ceder o no en el mismo régimen en virtud del cual accedió a la obra originaria. Por un lado, colocando todas las obras generadas por ordenador en el dominio público se promovería el interés del público en acceder a dichas obras, lo que incentivaría a su vez la creación de más programas o robots creadores. Por otro, no protegiendo obras que, en cambio, si hubieran sido creadas por personas físicas sí estarían amparadas por el Derecho de autor, se podría desincentivar el comercio y la investigación en la tecnología pues las empresas no obtendrían tanto dinero como si sus obras entraran en el mercado. 2.4. Cesión de derechos. Otra de las opciones a valorar sería la posible cesión de derechos de propiedad intelectual de las obras creadas por robots a los dueños de los mismos a través del pago de una compensación económica al programador o empresa creadora de dichos robots como ya hemos comentado con anterioridad. Esta opción se examinaría para el caso de robots con IA fuerte, contemplada ya por la UE. Actualmente, las obras de arte generadas por IA tienen como autores a los programadores de los algoritmos, pudiendo defender también que cuando haya intervención de otra persona como puede ser el usuario final se adjudique a este último los derechos de explotación de dicha obra. No obstante, en un futuro la IA puede evolucionar hasta el punto de que un robot autónomo, gracias a su capacidad de aprender y a las experiencias «vividas» en su entorno, sea capaz de crear, por sí solo, obras susceptibles de protección por el derecho de autor. Es en este sentido cuando debemos entender que en caso de que estos robots entren en el mercado y creen por sí solo obras del ingenio, se podría optar por una cesión de derechos de propiedad intelectual en favor del dueño del robot (para lo que habría que reconocer personalidad cibernética en la máquina-cedente). 2.5. La posible creación de un nuevo derecho específico: el Derecho de la robótica. En vista de las dificultades que existen tanto para determinar la autoría de las obras generadas por medios cibernéticos como para establecer los límites y medidas de protección de aquellas en el ámbito de las legislaciones de derechos de autor actuales, se plantea la posibilidad de crear un nuevo derecho específico, el Derecho de la robótica. La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 34 Algunos autores como el ya mencionado LACRUZ MANTECÓN 57 consideran que no sería necesario crear un Derecho nuevo específicamente creado para regular la robótica, comparando la situación actual con la del Derecho de Internet que en un principio parecía exigir una nueva regulación específica, pero que al final se ha regulado adaptándolo al Derecho existente añadiendo simplemente algunos preceptos nuevos. No obstante, hemos de tener en cuenta todas las implicaciones que puede conllevar el desarrollo de estas máquinas inteligentes, cuyas acciones o interacciones en el mundo social provocan consecuencias jurídicas que actualmente no tienen solución. La robótica tiene implicaciones no solo en el ámbito de la creación y la creatividad que aquí hemos expuesto de manera sucinta, sino también en el ámbito de la medicina, del automóvil, del mercado laboral y, en especial en el ámbito que nos interesa, el ámbito jurídico. En la doctrina española, se muestra partidario de una regulación propia de la robótica BARRIO ANDRÉS 58 quien considera que la robótica, a diferencia del Derecho de Internet, contiene tres características diferenciadoras: la corporeidad (frente al software, ya que el robot es corpóreo), la impredecibilidad (en el sentido de que los robots podrán llegar a tomar decisiones de forma autónoma) y el impacto social (preocupación social por las posibles implicaciones y consecuencias que ocasionará el desarrollo de la tecnología en este ámbito). No obstante, creo que, si bien tendríamos que tener presente esta posibilidad, es necesario, en mi opinión, ser prudentes y seguir estudiando sobre la materia pues no sabemos el alcance real que puede llegar a tener. Por ello, quizá podría ser más eficaz el intentar abordar esta cuestión encontrando su acomodo dentro del ordenamiento jurídico existente, al menos hasta que estemos más seguros de la trascendencia que dicha cuestión puede llegar a alcanzar. 57 LACRUZ MANTECÓN, M., «Cibernética y Derecho Europeo: ¿una inteligencia robótica?», Diario La Ley, núm.9376, Sección Doctrina, 13 de marzo de 2019, Editorial Wolters Kluwer. 58 BARRIO ANDRÉS, M., «Hacia una personalidad electrónica para los robots», Revista de Derecho Privado, núm.2, marzo-abril 2018, p.91, y pp. 106-107. La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 35 V. CONCLUSIONES. En este apartado final, me gustaría aportar mis propias conclusiones sobre la difícil problemática que hemos intentado tratar aquí de manera concisa. Por un lado, en programas como AARON o EMI que permiten crear obras artísticas sin apenas intervención humana, en mi opinión, los derechos de explotación sobre dichas obras pertenecerían a los programadores cuando dichos programas o robots no hubieran sido puestos en el mercado y solo existiera un único modelo capaz de crear dichas obras. En cambio, en el momento en que los programas fueran comercializados y el público pudiera acceder a ellos de manera «masiva», sí que estoy a favor de que se realice una cesión de derechos en favor del usuario que va a utilizar el software, o en caso de que dichos robots sean comercializados por dispositivos de hardware que sean los dueños de los robots los que tengan los derechos de explotación sobre dichas obras. Si bien en un primer momento, podría parecer más sencillo reconocer una autoría robótica, debemos tener en cuenta en todo momento que los robots no dejan de ser máquinas creadas por los seres humanos, y que las acciones de éstas dependerán en todo momento de la información que ha sido introducida por los programadores. Incluso en aquellos casos en los que la máquina puede desarrollar sus habilidades (deep learning) esto habrá sido gracias a los algoritmos introducidos. Otra de las posibilidades que parecería más «justa», como podría ser la de establecer una coautoría entre el programador y el usuario, ha de ser rechazada puesto que no cumpliría con los requisitos que exige el ordenamiento jurídico para que se dé esta figura. Además, no debemos olvidar que, si el programa o el robot se comercializan pudiendo disponer todo el mundo fácilmente de un robot creador, no tendría mucho sentido que un mismo programador fuera el autor de todas las distintas obras, pues ya se le habría recompensado económicamente con la compra del robot o del software, y los programas de ordenador ya aparecen protegidos como obra distinta a la artística, literaria o científica en el artículo 97 TRLPI. En un primer momento, una solución bastante atractiva sería la de que estas obras entraran directamente en dominio público, haciendo posible que todo el mundo pudiera acceder a ellas. Sin embargo, esta solución no parece ser la más apropiada si queremos que se incentive y se siga desarrollando la tecnología y la robótica, pues las empresas no podrían La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 36 sacar un beneficio tan alto como en el caso de que estos robots o programas se comercializaran. Por otra parte, y aunque me ha parecido muy interesante, no comparto la opción de que se establezca una distinción entre «autor material» y «autor jurídico», ya que no comprendo la utilidad de reconocer esta especie de autoría material en favor de una máquina si finalmente no va a tener (como es lógico) los derechos de explotación sobre la obra. Por tanto, sí que me parecería una buena opción que en los casos en los que la máquina pudiera llegar a crear obras del ingenio por sí misma, sin intervención humana, los derechos de explotación sobre dichas obras se reconociesen en favor del usuario final o del dueño del robot, pero que no se estableciera una autoría (“authorless”), es decir, que una vez que la obra hubiera llegado al público, no se señale quién es el creador de la misma, puesto que un robot, como ya hemos dicho, no puede ser reconocido como autor. Respecto a la opción de crear un derecho especial para la robótica, entiendo que quizá sí puede ser necesaria una legislación nueva para poder dar solución a todos los problemas que están surgiendo en la actualidad, pero poniendo el foco, en todo momento, en los seres humanos. Con esto quiero decir que, si se recogiese un código de derecho de la robótica, las implicaciones, responsabilidades y derechos ahí reconocidos tuvieran como sujetos a las personas físicas o personas jurídicas, rechazando totalmente la posibilidad de establecer una personalidad robótica. Finalmente, si defendemos que las obras creadas por medios cibernéticos deben ser protegidas por el derecho de autor, deberíamos establecer unos requisitos más exigentes para que pudieran ser protegidas, y también que dicha protección fuera más limitada que la que se ofrece para las obras creadas por las personas físicas, pues debemos tener en cuenta el esfuerzo creativo y la necesidad de que se sigan creando obras del espíritu. La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 37 BIBLIOGRAFÍA. ABBOTT, Ryan, «I Think, Therefore I Invent: Creative Computers and The Future of Patent Law», Boston College Law Review, Vol. 57, Iss.4, No.1079-1126, 2016. BARRIO ANDRÉS, Moisés, «Hacia una personalidad electrónica para los robots», Revista de Derecho Privado, No.2, (marzo-abril) 2018. BERCOVITZ RODRÍGUEZ CANO, R., (dir.), Comentarios a la Ley de Propiedad Intelectual, 4ª edic., Tecnos, Madrid, 2017. BERCOVITZ RODRÍGUEZ CANO, R., (dir.), Manual de Propiedad Intelectual, 8ª edic., Tirant lo Blanch, Valencia, 2018. BODEN, M.A., «What is Generative Art?», consultado el 20-02-2020 en https://www.researchgate.net/profile/Margaret_Boden CARRASCO PERERA y DEL ESTAL SASTRE., «Comentario al art.5 LPI» y «Comentario al art.7 LPI», en R. Bercovitz (dir.), Comentarios a la Ley de Propiedad Intelectual, Tecnos, Madrid, 2017. DE ROMÁN, PÉREZ, R., «Obras musicales, compositores, intérpretes y nuevas tecnologías», Reus, S.A., Madrid, 2003. ERCILLA GARCÍA, J., «Aproximación a una Personalidad Jurídica Específica para los robots», Revista Aranzadi de Derecho y Nuevas Tecnologías, No.47, 2018. GINSBURG y BUDIARDJO, «Authors and Machines» (August, 2018). Columbia Public Law Research Paper No. 14-597; Technology Law Journal, Vol. 34, No.2, 2019. LAMBERT, P., «Computer Generated Works and Copyright: Selfies, Traps, Robots, IA and Machine Learning», European Intellectual Property Rewiev. Vol.39, No.1, 2017. LACRUZ MANTECÓN, M., «Cibernética y Derecho Europeo: ¿una inteligencia robótica?», Diario La Ley, No.9376, Sección Doctrina, 13 de marzo de 2019. LACRUZ MANTECÓN, M., «Potencialidades de los robots y capacidades de las personas», Ponencia presentada a la Jornada «Robots y Derecho» organizada por Editorial Reus, Madrid, 27 de septiembre 2018. LACRUZ MANTECÓN, M., «Robots y Derecho de autor: La posibilidad de una autoría cibernética». Ponencia presentada al Congreso internacional “Bases para una reforma La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 38 de la Ley de Propiedad Intelectual” (28-29 noviembre 2019). PALMERINI, E., «Robótica y derecho: sugerencias, confluencias, evoluciones en el marco de una investigación europea», Revista de Derecho Privado, No.32, enero-junio de 2017, pp. 53 a 97. LÓPEZ DE MÁNTARAS BADIA, R. (2013). “Computational Creativity”. Arbor, 189 (764): a082. doi: http://dx.doi.org/10.3989/arbor.2013.764n6005 NAVAS NAVARRO, S., «Dominio público, diseminación on-line de las obras del ingenio y cesiones “creative commons” (necesidad de un nuevo modelo de propiedad intelectual)». Actas de derecho industrial y derecho de autor, ISSN 1139-3289, Tomo 32, 2011-2012, pp. 239-262. NAVAS NAVARRO, S., «Obras generadas por algoritmos», Revista de Derecho Civil, Vol.V, No.2 (abril-junio), Ensayos. ROGEL VIDE, C., Autores, coautores y propiedad intelectual, Tecnos, Madrid, 1984. ROGEL VIDE, C., Los Robots y el Derecho, Reus, Madrid, 2018. SAIZ GARCÍA, C., «Las obras creadas por sistemas de inteligencia artificial y su protección por el derecho de autor», InDret, No.1, 2019. TEUBNER, G., «Digital Personhood? The Status of Autonomous Software Agents in Private Law» consultado en https://international.vlex.com/vid/digital-personhood-thestatus-739715217 el 17/02/2020. Legislación: - Convenio de Berna para la Protección de las Obras Literarias y Artísticas (1886). - Copyright, Design and Patent Act (1988). - Ireland Copyright Act and Related Rights Act (2000). - New Zeeland Copyright Act (1994). - Real Decreto de 24 de julio de 1889 por el que se publica el Código Civil. - Real Decreto Legislativo 1/1996, de 12 de abril, por el que se aprueba el texto refundido de la Ley de Propiedad Intelectual, regularizando, aclarando y armonizando las disposiciones legales vigentes sobre la materia. La creación de obras musicales por medios cibernéticos. Gemma Rosés Sáiz 39 - Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho Civil sobre robótica (2015/2013 (INL)). - South Africa Copyright Act (1978). Jurisprudencia: - STJUE (Sala Tercera) de 1 de diciembre de 2011. Asunto C-145/10. Painer. - STJUE (Sala Cuarta) de 16 de julio de 2009. Asunto C-5/08. Infopaq. - STJUE (Sala Tercera) de 22 de diciembre de 2010. Asunto C-393/09. BSA. Recursos de internet : http://www.aaronshome.com/aaron/index.html consultado en 15-02-2020. www.creativecommons.com consultado en 12-02-2020. https://www.nextrembrandt.com/ consultado en 8-02-2020. https://www.sonycsl.co.jp/ consultado en 13-02-2020. https://www.uma.es/inteligencia-computacional/ consultado en 25-02-2020. http://www.yurisuzuki.com/design-studio/z-machines consultado en 8-02-2020.