Introducción

INTRODUCCIÓN A primeros de diciembre del año 2021 se celebró, de forma presencial, en el Salón de Grados de la Facultad de Derecho de la Universidad de Sevilla, la segunda edición del Congreso Internacional sobre Inteligencia Artificial, Robótica y Filosofía del Derecho 1 . A diferencia de la mayoría del seminarios y congresos jurídicos que se habían organizado hasta entonces en torno a las implicaciones de la Inteligencia Artificial y las Nuevas Tecnologías en el mundo del Derecho contemporáneo, este congreso, realizado en el marco del Proyecto de Investigación PID2019-108155RB-I00/AEI/10.13039/501100011033 “Biomedicina, Inteligencia Artificial, Robótica y Derecho: los retos del jurista en la era digital”, con la colaboración oficial de la Agencia Española de Investigación del Ministerio de Ciencia e Investigación, reunió a destacados especialistas en Nuevas Tecnologías, Informática, Robótica e Inteligencia Artificial jurídica dentro del panorama iusfilosófico español e italiano contemporáneo. Durante la presentación de la conferencia inaugural, dictada por el Prof. Rafael de Asís Roig 2 , recordé que a la Filosofía del Derecho le corresponde el honor de haber sido la primera disciplina jurídica en haberse ocupado de cuestiones relacionadas con el Ciberderecho, la Informática jurídica, las Nuevas Tecnologías y su impacto en el ámbito de los derechos y las libertades de los ciudadanos en la sociedad global de la información. En este sentido, los primeros estudios iusfilosóficos sobre esta materia específica se publicaron hace ya más de cincuenta años en Italia, Inglaterra y España. A este respecto, entre nuestros clásicos de referencia destacan los trabajos de Mario G. Losano: Giuscibernetica. Macchine e modelli giuscibernetici nel diritto, Einaudi, Torino, 1965; Vittorio Frosini: Il diritto nella società tecnológica, Giuffrè, Milano, 1981; Colin Tapper: Computers and the Law, Weidenfeld and Nicolson, London, 1973; Antonio E. Pérez Luño: Cibernética, Informática y Derecho. Un análisis metodológico, Publicaciones del Real Colegio de España, Bolonia, 1976. La investigación sobre Inteligencia Artificial, Robótica e Informática Jurídica en clave iusfilosófica ha tenido su continuidad hasta el presente a 1 La primera edición de este congreso internacional hubo de realizarse, debido a las restricciones de la pandemia COVID-19, a través de un webinar durante los días 9-11 de diciembre de 2020, y fue seguido regularmente por más de trescientas personas, lo cual da una idea aproximada del interés que suscitó el contenido del programa. A resultas de este primer congreso sobre Inteligencia Artificial y Derecho, se publicó el libro Inteligencia Artificial y Derecho. El jurista ante los retos de la era digital, Fernando H. Llano Alonso y Joaquín Garrido Martín (eds.), Cizur Menos (Navarra), Thomson Reuters Aranzadi, 2021. 2 La conferencia del Prof. Rafael de Asís llevaba por título: “Derecho(s) y tecnologías convergentes”. © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] 18 FERNANDO H. LLANO ALONSO través de los ensayos de, entre otros autores (y sin ánimo de exhaustividad), Enrico Pattaro, Intelligenza Artificiale e diritto dell´ambiente, Edizione di Documentazione del Consiglio Regionale dell´Emilia-Romagna, Bologna, 1991; Giovanni Sartor: Artificial Intelligence in Law, Tano, Oslo, 1993; Ugo Pagallo: The Laws of Robots. Crimes, Contracts, and Torts, Dordrecht-Heidelberg-New York-London, Springer, 2013; Rafael de Asís Roig: Una mirada a la robótica desde los derechos humanos, Madrid, Dykinson-Instituto de Derechos Humanos Bartolomé de Las Casas. Universidad Carlos III de Madrid, 2014; Derecho y tecnologías, Madrid, Dykinson-Universidad Carlos III de Madrid, 2022; José Ignacio Solar Cayón, La Inteligencia Artificial Jurídica, Cizur Menor (Navarra), Thomson Reuters Aranzadi, 2019; Thomas Casadei y Stefano Pietropaoli (eds.), Diritto e tecnologie informatiche, Milano, Wolters Kluwer, 2021; Fernando Llano Alonso y Joaquín Garrido Marín (eds.), Inteligencia Artificial y Derecho. El jurista ante los retos de la era digital, Cizur Menos (Navarra), Thomson Reuters Aranzadi, 2021; Luciano Floridi, Etica dell´intelligenza artificiale. Sviluppi, opportunità, sfide, Milano, Raffaello Cortina Editore, 2022. El presente volumen reúne los trabajos elaborados en forma de capítulos por los ponentes que participaron en la segunda edición del ya mencionado Congreso Internacional sobre Inteligencia Artificial, Robótica y Filosofía del Derecho. Aunque la perspectiva jurídica desde la que se aborda el objeto principal de estudio de este libro es interdisciplinar, los veintiún capítulos que lo integran tienen un denominador común: todos se orientan al estudio de cuestiones que guardan relación directa con muchos de los temas centrales de la Teoría y la Filosofía del Derecho, la teoría de la justicia y los derechos humanos en la era digital. La obra se estructura en cuatro partes bien diferenciadas, pero a la vez complementarias entre sí: El primer bloque temático versa sobre Inteligencia Artificial, derechos y libertades, y en él se engloban los capítulos de Rafael de Asís Roig, a propósito de los retos éticos que plantean las tecnologías convergentes a la sociedad contemporánea, en particular a propósito de la protección de la identidad y la suficiencia del enfoque de derechos humanos; Nuria Belloso Martín, que aporta razones justificativas de la necesidad de desarrollar el Derecho de protección de los sesgos algorítmicos (con especial referencia a los que discriminan por razón de género); Stefano Bini, quien considera indispensable mantener la dimensión instrumental de la tecnología ante el dilema humanidad-artificialidad sobre todo en relación con la buena gestión y el funcionamiento correcto del sistema judicial contemporáneo; Laura Gómez Abeja, que analiza el impacto del big data y el uso de algoritmos (para la toma de decisiones que afectan a personas) concretamente en dos derechos fundamentales: el derecho a la protección de © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] INTRODUCCIÓN 19 datos personales (art. 18.4 CE) y el derecho a la no discriminación (art. 14 CE); y Mª Olga Sánchez Martínez, que se centra en el estudio de la posverdad en la sociedad de las nuevas tecnologías y de la comunicación que, paradójicamente, pueden ser utilizadas justamente para todo lo contrario, es decir, para generar desinformación y polarización en la sociedad si se hace un uso inadecuado de las mismas. La segunda parte comprende varios temas de naturaleza filosófica y de ética de la Inteligencia Artificial de los que se ocupan en sus respectivos capítulos los siguientes autores: Thomas Casadei, que reflexiona a propósito de las transformaciones del Derecho en la era de la ciudadanía digital (tanto a raíz del impacto de la red y de las nuevas tecnologías en la experiencia jurídica, como por la transformación de las profesiones jurídicas y forenses), en el estudio en torno al fenómeno de las brechas digitales en la era de la ciudadanía digital, así como en la enseñanza y el estudio del Derecho en la era digital; Joaquín Garrido Martín, quien, por su parte, se aproxima, desde un punto de vista filosófico-científico, al estudio del impacto de la neurociencia, las ciencias cognitivas y computacionales, y el fenómeno del progresivo automatismo de la mente humana debido al desarrollo de la Inteligencia Artificial y la robótica avanzada; Fernando H. Llano Alonso, que se ocupa del problema de la deshumanización del mundo real y de la absorción del homo faber en el universo del metaverso, lo cual nos pone de relieve, cada vez de forma más patente, la enajenación de la identidad humana en el mundo de las no-cosas (parafraseando a Byung-Chul Han); Stefano Pietropaoli, el cual profundiza en el fenómeno de la deshumanización del Derecho y en la aparición en el escenario digital sin precedentes de nuevas personas no-biológicas sui iuris que lleguen a compartir (e incluso acaben arrebatando) la condición de personas a los seres humanos; por último, a propósito del futuro de la libertad religiosa ante el anunciado advenimiento de la singularidad tecnológica; y Ramón Valdivia Jiménez, que invoca la ética humanista de Hans Jonas y Jürgen Habermas para preguntarse por la oportunidad de recuperar unos principios ético-jurídicos que salvaguarden a la humanidad de una posible deriva excesivamente controladora de la IA en materia de religión. La tercera parte contiene seis capítulos a propósito de la robótica y la Inteligencia Artificial jurídica: Roger Campione se adentra en el ámbito del ius in bello y las armas autónomas en la era de la revolución tecnológica 4.0, y pone de manifiesto cómo el uso de drones, los sistemas de armamento autónomo, (Lethal Autonomous Weapon Systems - LAWS), las formas de potenciamiento humano mediante la técnica, y los sistemas autónomos de inteligencia artificial que permiten reemplazar soldaos humanos por máquinas puede contribuir a reducir el coste de vidas humanas, pero también plantea otras hipótesis ciertamente inquietantes, por ejemplo, el supuesto de que se adquiriesen killer © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] 20 FERNANDO H. LLANO ALONSO robots por parte de regímenes represivos irrespetuosos con el Derecho internacional y desconsiderados hacia los derechos humanos; Miguel de Asís Pulido centra su estudio en torno a tres posibles usos de la Inteligencia Artificial aplicada al proceso: el empleo de la justicia predictiva para solucionar el colapso que sufre nuestra Administración de Justicia, la fiscalización de sentencias para detectar ciertos sesgos o patrones discriminatorios presentes en el sistema jurídico, y el pronóstico para definir la estrategia procesal de los abogados y sus representados; Mª Isabel González Tapia reflexiona en su capítulo sobre si el Derecho penal debe intervenir en el ámbito de los neuroderechos frente a los riesgos potenciales y el uso directo de las neurotecnologías sobre el ser humano y, en caso afirmativo, en qué términos debería hacerlo; Adolfo Sánchez Hidalgo nos acerca en su estudio a la cuestión de la personalidad electrónica de los robots teniendo en cuenta la complejidad de este objeto de estudio y las diferentes perspectivas desde las que se puede contemplar este asunto: una visión antropomórfica de estos sistemas de IA en clave religiosa, filosófica, neurológica y jurídica, por citar solamente algunos de los principales puntos de vista; el capítulo de María Sepúlveda Gómez se sitúa en el marco del Derecho del trabajo y de la Inteligencia Artificial, y en él se justifica la necesidad de realizar un proceso de transición digital del mercado de trabajo que sea justa, porque el nuevo paradigma técnico-económico no puede renunciar a ser también social, ahora bien, para llevar a cabo una transición verdaderamente justa, es preciso fortalecer (y no debitar) los valores y los principios propios del Estado social y democrático; por último, José Ignacio Solar Cayón se centra en uno de los temas de su especialidad: la Inteligencia Artificial jurídica y la justicia digital, y nos invita a conocer las principales herramientas de inteligencia artificial que se están empleando en diversas jurisdicciones y las experiencias internacionales más avanzadas en el diseño de tribunales en línea, a fin de ofrecernos una visión panorámica de las ventajas y los riesgos que comportan estas tecnologías. El cuarto bloque abarca contiene cinco capítulos sobre temas vinculados al Derecho internacional y de la Unión Europea, el Estado de Derecho y la Administración digital: Daniel García San José estudia el significado y la justificación de los valores que inspiran la Carta de las Naciones Unidas en la regulación internacional de la Inteligencia Artificial, centrándose en particular en la Recomendación sobre la ética de la Inteligencia Artificial aprobada por la UNESCO el 23 de noviembre de 2021; Ana Garriga Domínguez reflexiona sobre la obtención de perfiles, particularmente ideológicos, y su relación con las libertades de expresión e información, las fake news y el fenómeno de la desinformación a través de la red; Leonor Moral Soriano pretende demostrar que los sistemas de decisión automatizada resultan aplicables al Derecho Administrativo, sobre todo cuando se utilizan en la adopción de actos © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] INTRODUCCIÓN 21 administrativos; sin embargo, para que la tecnología no acabe adueñándose del razonamiento jurídico, y el juez-robot no termine usurpando la posición del juez humano, es preciso que, al usar estos sistemas de decisión automatizada, se observen los principios del Derecho Administrativo y la normas relativas a la competencia, el procedimiento administrativo como garantía, y la motivación de los actos administrativos (esencial para su revisión); Álvaro Sánchez Bravo analiza en detalle el contenido de la Estrategia Nacional de Inteligencia Artificial (denominada España Digital 2025), que consta de casi medio centenar de medidas articuladas en torno a diez ejes estratégicos: conectividad digital, impulso a la tecnología 5G, competencias digitales, ciberseguridad, transformación digital del sector público, transformación digital de la empresa y emprendimiento digital, proyectos tractores de digitalización sectorial, España como hub audiovisual, economía del dato e Inteligencia Artificial, y derechos digitales; por último, Diana Carolina Wisner Glusko razona sobre la importancia del Estado de Derecho en el desarrollo del marco legal sobre los sistemas de inteligencia artificial en la Unión Europea e intenta responder a tres grandes cuestiones: en primer lugar, en qué medida las propuestas europeas para la regulación de la IA se fundamentan en la garantía del Estado de Derecho; en segundo lugar, si el derecho condiciona cómo se desarrollan y se aplican esas tecnologías vinculadas a la IA o si, por el contrario, son estas tecnologías disruptivas las que dan forma al derecho; y, finalmente, cómo debería ser la inteligencia artificial para no contribuir al debilitamiento del Estado del Derecho e inclusive para mantenerlo y reforzarlo. En la pluralidad de los estudios que se unifican en este volumen bajo el rótulo de Inteligencia Artificial y Filosofía del Derecho se aportan algunas de las claves necesarias para entender, en toda su complejidad y con sentido crítico, el cambio de paradigma que se está operando en muchos de los conceptos, las categorías e instituciones del Derecho y la justicia, y también se proporcionan al lector argumentos válidos para responder a muchas de las interrogantes que, a propósito del impacto de la Inteligencia Artificial en la experiencia jurídica contemporánea, interpelan tanto al estudioso como al profesional del Derecho. El objetivo principal que persigue esta obra es, precisamente, contribuir al debate doctrinal sobre los itinerarios que tendrán que seguir y los retos que habrán de afrontar los juristas ante el horizonte cada vez más cercano de la singularidad tecnológica. Confiamos en que el lector de este libro encuentre en él razones que justifiquen el cumplimiento de este propósito. FERNANDO H. LLANO ALONSO Catedrático de Filosofía del Derecho Facultad de Derecho. Universidad de Sevilla © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected]