Inteligencia artificial y filosofía del derecho; Fernando H. Llano Alonso (dir.), Joaquín Garrido Martín y Ramón Valdivia Jiménez (coords) [1ª recensión]

INTELIGENCIA ARTIFICIAL Y FILOSOFÍA DEL DERECHO; FERNANDO H. LLANO ALONSO (DIR.), JOAQUÍN GARRIDO MARTÍN Y RAMÓN VALDIVIA JIMÉNEZ (COORDS) [1ª RECENSIÓN] ALESSANDRA ESTHER CASTAGNEDI RAMÍREZ Universidad de Sevilla La obra colectiva “Inteligencia Artificial y Filosofía del Derecho”2 reúne en un único corpus los trabajos de los participantes en la segunda edición del Congreso Internacional sobre Inteligencia Artificial, Robótica y Filosofía del Derecho, celebrado en la Facultad de Derecho de la Universidad de Sevilla en diciembre de 2021 y que forma parte de las actividades que se enmarcan dentro del Proyecto Europeo de Investigación, reconocido por el siguiente código: PID2019-108155RB-I00/AEI/10.13.13039/501100011033 “Biomedicina, Inteligencia Artificial, Robótica y Derecho: los retos del jurista en la era digital”. La internacionalidad de este evento se debe a la presencia y participación de profesionales y expertos de las varias ramas de IA, que ejercen su propia profesión en notorias universidades españolas e italianas. El objetivo principal del trabajo es entusiasmar al lector sobre uno de los temas de mayor actualidad, tanto a nivel nacional como internacional, o sea el gran reto al que deben enfrentarse los juristas ante el desarrollo irrefrenable de la tecnología. Su carácter interdisciplinario presenta como denominador común el análisis de algunos temas candentes relacionados con la Filosofía del Derecho y el Derecho Internacional de los Derechos Humanos en la era digital. Los primeros estudios sobre el impacto de las nuevas tecnologías en las generaciones presentes y futuras fueron realizados por parte de ilustres filósofos del derecho, considerados el punto de partida de importantes reflexiones respecto a la IA. No son casuales, de hecho, tanto la decisión de dedicar la obra a Antonio E. Pérez Luño, catedrático en la Universidad de Sevilla, así como las menciones a los distinguidos profesores Mario G. Losano y Vittorio Frosini, pioneros en Italia en la IA junto 2 Ediciones Laborum, Murcia, 2022. 360 CRÓNICA JURÍDICA HISPALENSE Nº 20-21/2022-2023 a Pérez Luño. Estas referencias subrayan las contribuciones cruciales y los proyectos vanguardistas de estos académicos en el progreso de este campo de estudio. Para cerrar esta primera parte de presentación, seguramente el mínimo común denominador de cada artículo publicado en esta obra colectiva es la gran preocupación de los Estados y de las Organizaciones Internacionales por definir un marco regulatorio del uso de la IA, en el respecto de los principios éticos planteados. De aquí la pregunta: estamos asistiendo a un verdadero progreso para la humanidad o estamos conociendo el principio de una larga etapa de regreso? Seguramente una lectura atenta de este libro nos permitirá dar una respuesta a esta duda. Teniendo en cuenta la estructura del libro observamos que está compuesto por veintiún capítulos en los que cada experto se ha propuesto destacar distintos aspectos relacionados con la IA centrándose en los puntos neurálgicos de este tema. A partir de los temas analizados, el trabajo se divide en cuatro partes: Inteligencia Artificial, Derechos y Libertades; Ética de la Inteligencia Artificial; Robótica e Inteligencia Artificial aplicada al sector legal; La Inteligencia Artificial en el Derecho Internacional y Europeo, la importancia del Estado de Derecho en una sociedad digital y las herramientas de la Administración Digital. En la primera parte, los autores analizan las varias implicaciones de la IA respecto a los derechos humanos fundamentales. El punto de partida es una ilustración precisa de cuales derechos humanos podrían verse amenazados por el uso masivo de las nuevas tecnologías. Rafael De Asís Roig cuestiona sobre la posibilidad de reconocer una nueva categoría de derechos humanos en el ámbito de la Neurotecnología, IA y Genética. Algunos consideran que esta solución sea positiva, pero señalan la eficiencia parcial de este cambio. Se destaca, que, para la obtención de una efectividad integral en la protección de los neuroderechos, sería necesario introducir nuevas estrategias normativo-políticas, incluyendo entre ellas la creación de una Comisión de Expertos en Derecho Internacional y Ciencia sobre los Neuroderechos en las Naciones Unidas; el nombramiento de miembros especializados en neuroderechos, que realizan actividades de consultoría en empresas, instituciones e industrias; la creación de una Agencia especializada para coordinar las actividades globales de los neuroderechos y codificarlas en un tratado especial de derechos humanos internacionales. Estas propuestas también fueron reiteradas por el Comité de Ética en Bioética de la UNESCO, en el Informe sobre “Cuestiones éticas de la neurotecnología” del 15 de diciembre 361ALESSANDRA ESTHER CASTAGNEDI RAMÍREZ de 2021. Esta primera reflexión termina con el invito a cambiar el punto de vista, exactamente como lo propuso el profesor Edward Ashford Lee de la Universidad de California ubicada en Berkeley, visualizando un desarrollo de las nuevas tecnologías no solo en vertical sino también en una dirección horizontal. Según este último, el tecnólogo no es solo quien diseña máquinas inteligentes sino también quien concibe instrumentos tecnológicos que, en base a su éxito, potencian su uso. Por lo tanto, se hace necesario centrarse en su aplicación y no en el diseño, sugiriendo de igual modo proceder a la formación de la sociedad sobre la titularidad de los derechos humanos y los riesgos que corren frente a la nuevas tecnologías, a través de cursos sobre la ética de la IA. También es interesante la explicación aportada por Nuria Belloso Martín respecto a los prejuicios derivados de una actividad incorrecta de los algoritmos, especialmente en el macro-tema de la discriminación de género, que hoy en día está en constante aumento. Por lo tanto, se hace un llamado a la acción utilizando cualquier recurso que pueda eliminar o mitigar la formación de dichos sesgos. Asimismo, con una perspectiva más anticipada, se extiende una convocatoria especial a las mujeres para que tengan una presencia notable en investigaciones y proyectos relacionados con la ética de la Inteligencia Artificial. El objetivo es fomentar un ambiente de equidad de género que, eventualmente, contribuya a disminuir los prejuicios existentes, dada la imposibilidad real de neutralizarlos definitivamente. El autor de este capítulo reitera la posibilidad de reconocer nuevos derechos humanos, como el “derecho a la protección contra los prejuicios algorítmicos”, que se expresaría con la esperanza de que los conocimientos adquiridos a través de la neurociencia no traigan consigo rasgos discriminatorios evidentes por razones de sexo, raza, idioma, religión, origen nacional o social, posición económica, etc. Finalmente, para llegar a la conclusión de este primer bloque temático, es imprescindible mencionar toda la discusión que se desarrolla alrededor de lo que se conoce como la cultura de la posverdad, entendida como un fenómeno cultural en el que los grandes demagogos explotan la viralidad de la información para la difusión de desinformación en la sociedad. Muy a menudo este instrumento confunde y distorsiona la opinión pública para favorecer ciertos fines ideológicos o políticos. El término posverdad señala el declive de la importancia de la verdad, un dilema que, si bien se origina en el pasado, ha experimentado un notable crecimiento en la actualidad debido a la digitalización. María Olga Sánchez Martínez señala que cuando los hechos se subordinan a las opiniones y la ciencia es sustituida con la ideología, las emociones prevalecen sobre la razón, como una forma de acercarse a la realidad, actuando también como pauta del compor- 362 CRÓNICA JURÍDICA HISPALENSE Nº 20-21/2022-2023 tamiento. Esta última afirmación, por lo tanto, hace comprensible la razón por la cual la tecnología es una arma de rápida difusión de desinformación y noticias falsas destinadas a engañar a la población, comprometiendo algunos de los derechos humanos fundamentales como el derecho a la información, el derecho a obtener un conocimiento real y efectivo de la realidad y el derecho a la libertad de expresión. Por lo tanto, se aclama la necesidad de poder llenar los vacíos dentro de la sociedad digital del siglo XX. El camino que conduciría a un cambio de paradigma sería la resolución de un debate que cuestione la importancia de los derechos humanos, el respeto hacia los mismos y cómo se hacer un buen uso del pensamiento democrático. El segundo bloque del libro incluye un análisis respecto a la evolución del derecho en la sociedad digital, centrándose en las deficiencias que hasta la fecha se han diagnosticado en el uso de la tecnología tanto en el ámbito profesional forense como en la enseñanza de la materia de derecho, como ilustrado por Thomas Casadei. Grandes puntos de reflexión son sin duda los trabajos de los profesores Joaquín Garrido Martín y Fernando H. Llano Alonso. En particular, el primero se centra en cuestiones relacionadas con la neurociencia computacional y en la necesidad, ya aclamada en el pasado, de querer estudiar el funcionamiento cerebral a través de la creación de un cerebro plástico, advirtiendo al lector sobre el potencial impacto de la IA en la mente humana. Analizar cómo utilizamos nuestras capacidades cognitivas equivale a dar oportunidades a las máquinas inteligentes para lograr resultados sorprendentes, tomando esta última como método de operación. Claramente, esto significa que las herramientas tecnológicas se convierten lentamente en una extensión del pensamiento humano, con el riesgo de arruinar la capacidad crítica del ser humano y caer en la automaticidad de su propia autodeterminación. Relevante es la frase reportada al final del primer capítulo: “sería un día triste si los seres humanos, al adaptarse a la revolución informática, se volvieran tan perezosos intelectualmente que perdieran el poder del pensamiento creativo”. Fernando H. Llano Alonso sorprende el lector con temas de extrema actualidad como la nueva generación de derechos digitales y el reconocimiento de los neuroderechos, la identidad humana y el metaverso, el estatus legal de los robots, la regulación del espacio digital y los fundamentos sobre los que la ética de la IA debería asentarse. El momento histórico que atraviesa la humanidad está definido por Luciano Floridi como infosfera, en la que el ser humano comparte su espacio digital con otras entidades y otro tipo de inteligencias, transhumanas y posthumanas. Sobre este último tema también intervino Stefano Pietropaoli, estructurando todo el capítulo como un réquiem de Mo- 363ALESSANDRA ESTHER CASTAGNEDI RAMÍREZ zart y concluyendo precisamente con la famosa frase “Lacrimosa dies illa”. El autor expresa la urgencia de tener que encontrar una definición jurídica de estos seres no biológicos, que como se afirmó anteriormente, coexisten en la vida cotidiana junto con los seres humanos y comparten con ellos la “condición” de persona. Finalmente, tras un breve preludio sobre el que se pueden hipotetizar perspectivas en relación con la libertad religiosa ante la singularidad de la tecnología, una lectura atenta merece el capítulo de Ramón Valdivia Jiménez. Este último retoma la concepción de la ética de los ilustres autores, Hans Jonas y Jurgen Habermas, cuestionando la posibilidad de introducir unos principios ético-jurídicos que puedan proteger y salvaguardar a la sociedad del poder de la tecnología, capaz de controlar la autodeterminación de los hombres en materia religiosa. La tercera macroárea trata temas estrechamente relacionados con el uso de robots por parte de los estados y los sistemas legales de IA. Roger Campione, analizando un episodio real ocurrido en Afganistán en el verano de 2021, que ha conocido la muerte de civiles inocentes, elabora una reflexión sobre el uso de armas trabajando con sistemas de IA que programan ataques sobre la base de una “certeza razonable”. Tras la consolidación del ius publicum europaeum, que dejó atrás el concepto de ius ad bellum, se puede desencadenar una guerra independientemente de la existencia de una causa justa como prerrogativa de la soberanía estatal, siempre y cuando se respeten las reglas que imponen el respeto al enemigo. Por lo tanto, está claro que, si bien la introducción de robots militares evita la muerte de soldados, también conduce a numerosas sanciones por incumplimiento de los códigos de honor militares tradicionales. Si inicialmente la guerra fue reconocida como un instrumento para originar un nuevo derecho, así como un objeto de regulación legal, ahora ha vuelto a cubrir el rol de antítesis del derecho, como afirma Hobbes. De hecho, la gestión de una guerra llevada a cabo por sistemas militares con distintos grados de autonomía es complicada porque no es posible predecir los márgenes de la acción bélica de la misma, teniendo como consecuencia la dificultad de reconocer todos los aspectos relacionados con la responsabilidad técnica, política y militar. En la actualidad, el debate sobre el uso de los autómatas se está extendiendo en dos direcciones contradictorias: los que están a favor de usarlos y los que están en contra de ellos. Estos últimos, en particular, argumentan que solo el ser humano de hoy sabe explicar las razones de sus acciones (audi alteram parte), a pesar de la “inteligencia suprema” de la tecnología. En el siguiente capítulo, Miguel De Asís Pulido ilustra los tres posibles usos de los sistemas de IA en el ámbito procesal: el uso de la justicia predictiva para 364 CRÓNICA JURÍDICA HISPALENSE Nº 20-21/2022-2023 sanar la sobrecarga de trabajo que sufre enormemente la administración de justicia; el control de las sentencias para verificar la presencia de prejuicios o esquemas discriminatorios presentes en el ordenamiento jurídico y la disposición para definir la estrategia procesal de los abogados y sus clientes. María Isabel González explica la posible intervención del Derecho Penal en el campo de los neuroderechos, dados los riesgos potenciales del uso directo de las neurotecnologías en el ser humano. El punto de partida es la conciencia de que el uso del big data neurobiológico junto con la neurotecnología y los sistemas de IA, en un futuro próximo, podrán actuar sobre nuestro cerebro, generando artificialmente estímulos, reprimiendo emociones etc. Por esta razón, es necesario reconocer nuevas neuro-leyes que protejan la diversidad, la autonomía y la identidad de los seres humanos. Esta exigencia es evidente sobre todo si consideramos la relevancia constitucional de los bienes jurídicos que pueden verse comprometidos: salud, integridad física y psíquica, libertad, autonomía individual, dignidad o integridad moral. Del mismo modo aparece particularmente interesante el tratamiento de la personalidad electrónica de los robots a cargo de Adolfo J. Sánchez Idalgo, quien propone una visión antropomórfica de las herramientas de IA en clave religiosa, filosófica, neurológica y legal. Los dos últimos capítulos se centran respectivamente en la relación entre la IA y el derecho laboral, así como la justicia jurídica y digital. En el último capítulo, Josè Ignacio Solar Cayón hace muestra al lector en las herramientas de IA más utilizadas en la actualidad, explicando cuales son los riesgos posibles ante un uso muy elevado de la tecnología en el sector legal. El estudio finaliza con una detallada descripción de cómo se regula el uso de la IA a nivel internacional. Por una parte, destaca la relevancia del estado de derecho en la estructuración de su legislación; por otra, explica el empleo de decisiones automatizadas y su repercusión en el ámbito administrativo. La tecnología no es imparcial y, por naturaleza, incorpora numerosos sesgos, originados tanto por los datos que utiliza como por las decisiones tomadas durante su proceso de integración. Por esta razón, los debates actuales sobre la ética de la IA se centran preliminarmente en la necesidad de crear una ética global sobre valores fundamentales, que debe tenerse en cuenta al desarrollar sistemas de IA. En segundo lugar, se considera que el instrumento legislativo más adecuado para la regulación de la IA sean las recomendaciones, como señala Daniel Ignacio García San José. Una importante resolución fue emitida el 23 de noviembre de 2021 por la UNESCO, conocida como “Recomendación sobre la Ética de la Inteligencia Artificial”. Entre los valores identificados destacan el derecho a vivir en sociedades 365ALESSANDRA ESTHER CASTAGNEDI RAMÍREZ pacíficas, justas e interconectadas para sentar las bases de un futuro digital que beneficie a la sociedad entera, compatible con los derechos humanos y las libertades fundamentales, donde la población pueda participar plenamente en su construcción. La idea de justicia social tiene sus raíces en el pasado, con el advenimiento de la ONU, y es uno de los principios fundamentales para mantener un orden global y permitir que la sociedad continúe desarrollándose. Esto conlleva a que todos los sujetos involucrados en los ciclos de vida de la IA tienen como tarea principal asegurar ese desarrollo, sin que nadie pueda ser excluido de esa responsabilidad. Los principios de las Naciones Unidas también son fundamentales para entender el fenómeno de la desinformación en la sociedad digital, que hasta la fecha ha experimentado una rápida expansión gracias a la llegada de las redes sociales, plataformas que permiten el intercambio masivo de contenidos y datos. La presencia de los llamados “filtro-burbujas”, tal y como los define Ana Garriga Domínguez, que limitan la visión de los usuarios, mostrando únicamente los contenidos de interés, seleccionados por un algoritmo especial de un sistema IA, es un ulterior problema que se suma a lo anteriormente expuesto. El funcionamiento de tales instrumentos es de difícil comprensión para el usuario promedio debido al fenómeno de la opacidad. Por esta razón, querían detener los numerosos escándalos generados por la Directiva 2002/58 / CE y otras acciones tomadas por el Parlamento Europeo. El reconocimiento del derecho a la transparencia es urgentemente necesario, ya que las elecciones algorítmicas actúan directamente sobre las oportunidades vitales de las personas, además de desviar su conducta hacia ciertos horizontes. Por lo tanto, como se ha ilustrado, en el contexto del control de datos y plataformas, se insiste en una aceleración del proceso de adopción del Reglamento de servicios digitales. Leonor Moral Soriano, a diferencia de otros autores, es partidaria del uso de sistemas automatizados de decisión en el ámbito del derecho internacional, especialmente si se realizan para la redacción de actos administrativos. Sin embargo, reitera un concepto importante para que la tecnología no pueda usurpar el razonamiento legal y los jueces robot no puedan anular a los jueces humanos. En general, es necesario respetar los principios del Derecho administrativo y las normas relativas a la competencia, la garantía y la motivación de las sentencias en el ámbito administrativo. Una visión general de cómo la nación española está tomando las riendas para una regularización de los sistemas de IA ha sido proporcionada por Álvaro Sánchez Bravo. Se trata del proyecto denominado España Digital 2025, que pone de manifiesto las estrategias políticas y áreas de actuación en las que se actuará. Entre ellas: las habilidades y competen- 366 CRÓNICA JURÍDICA HISPALENSE Nº 20-21/2022-2023 cias digitales, la ciberseguridad, la digitalización del sector público español, la transformación digital de la sociedad y el emprendimiento digital, el impulso de la tecnología para trabajar en 5G etc. Finalmente, aplicando el método inductivo, llegamos a una visión general de la importancia del Estado de Derecho dentro de un sistema sujeto al desarrollo digital. Diana Carolina Wisner Gusko, considerando como base de partida lo dicho anteriormente, trata de responder a tres grandes preguntas: la primera sobre el respeto efectivo del principio del Estado de Derecho dentro del marco regulador europeo de la IA; la segunda sobre cuál de los dos aspectos entre el desarrollo frenético de la tecnología y la formulación de la ley prevalece entre sí; la tercera pregunta pretende dar una visión positiva de la tecnología, afirmando que ella misma contribuye a reforzar el principio del Estado de Derecho o al menos no determina su debilitamiento. En conclusión, el grande debate del siglo XXI tiene como objeto todas las cuestiones abordadas en esta importante obra colectiva. La tecnología avanza cada vez más rápidamente y la ley necesita encontrar soluciones con urgencia. El contenido de este libro destaca todos estos aspectos de relevancia global e ilustra al lector los puntos focales de la gran temida Inteligencia Artificial.