Implicaciones éticas y jurídicas en los avances de la Inteligencia Artificial. Una aproximación a los neuroderechos

IMPLICACIONES ÉTICAS Y JURÍDICAS EN LOS AVANCES DE LA INTELIGENCIA ARTIFICIAL. UNA APROXIMACIÓN A LOS NEURODERECHOS ANTONIO TIRSO ESTER SÁNCHEZ Universidad de Las Palmas de Gran Canaria Sumario: I. INTRODUCCIÓN. II. EVOLUCIÓN, CATEGORÍAS Y DESAFÍOS JURÍDICOS DE LA INTELIGENCIA ARTIFICIAL. III. AVANCES NORMATIVOS Y ÉTICOS EN LA REGULACIÓN INTERNACIONAL DE LA INTELIGENCIA ARTIFICIAL. IV. LA INTELIGENCIA ARTIFICIAL Y LOS NEURODERECHOS: UNA RESPUESTA JURÍDICA Y ÉTICA NECESARIA. V. CONCLUSIONES Resumen: El presente trabajo analiza los avances tecnológicos de la inteligencia artificial y su impacto sobre los derechos humanos desde una perspectiva filosófica y jurídica. Se ofrece una visión integral que combina el análisis normativo con la reflexión ética proporcionando herramientas para promover el uso responsable y equitativo de la inteligencia artificial. También se examinan los desafíos éticos y normativos asociados a esta tecnología, prestando especial atención a los neuroderechos. Por tanto, se plantea la necesidad de un marco regulador que garantice la protección de los derechos humanos en la era de la inteligencia artificial y las neurotecnologías asegurando que el desarrollo tecnológico se alinee con los principios de justicia, equidad y dignidad humana. Palabras clave: Neuroderechos. Inteligencia artificial. Derechos humanos. Redes neuronales. Ética tecnológica. Abstract: This paper analyses the technological advances of artificial intelligence and their impact on human rights from a philosophical and legal perspective. It proffers a comprehensive perspective that integrates normative analysis with ethical contemplation, thus furnishing instruments to advocate for the conscientious and egalitarian utilisation of artificial intelligence. The analysis further delves into the ethical and normative challenges associated with this technology, with a particular focus on neuro-rights. The necessity for a regulatory framework that ensures the protection of human rights in the era of artificial intelligence and neurotechnologies is thus raised, with the aim of ensuring that technological development is aligned with the principles of justice, equity and human dignity. Keywords: Neurorights. Artificial intelligence. Human rights. Neural networks. Technological ethics. 110 CRÓNICA JURÍDICA HISPALENSE Nº 22/2024 I. INTRODUCCIÓN La inteligencia artificial se ha consolidado como una de las tecnologías más transformadoras de nuestra era. Su desarrollo no solo ha reconfigurado sectores económicos y productivos, sino que también ha planteado profundos desafíos éticos y legales que requieren una reflexión crítica y una regulación normativa que asegure un uso responsable. En este contexto, la reciente Ley de Inteligencia Artificial de la Unión Europea representa un hito crucial al establecer un marco normativo orientado a equilibrar la innovación tecnológica con la protección de los derechos fundamentales. Entre los debates recientes en torno a la ética de la inteligencia artificial se encuentra el de los neuroderechos, un concepto que surge en respuesta a los avances en las neurotecnologías y su potencial para acceder y controlar la actividad cerebral. El objetivo general de esta investigación es analizar y contextualizar los avances en inteligencia artificial y su regulación desde las perspectivas de la filosofía, el derecho y la ética tecnológica. Para ello, se examina la dicotomía entre el enfoque humanista y posthumanista en la regulación de la inteligencia artificial, evaluando sus implicaciones en los derechos fundamentales y en la evolución del marco jurídico internacional. En este sentido se aborda la tensión entre el progreso de la inteligencia artificial y la salvaguarda de principios éticos y derechos humanos con un enfoque particular en los neuroderechos. Los neuroderechos constituyen una categoría emergente de derechos humanos destinada a la protección de los aspectos esenciales relacionados con la actividad cerebral, como es la privacidad mental, la identidad personal y la autonomía cognitiva frente a posibles amenazas de intrusión y manipulación derivadas de los avances tecnológicos. Este estudio invita a reflexionar sobre las implicaciones de los avances en inteligencia artificial para la filosofía del derecho y los derechos humanos, ofreciendo perspectivas para futuras investigaciones. La importancia de esta investigación radica en que la inteligencia artificial está redefiniendo rápidamente el panorama tecnológico y social, planteando desafíos inéditos que exigen una respuesta normativa y ética urgente. La Ley de Inteligencia Artificial de la Unión Europea representa un esfuerzo pionero para abordar estos desafíos, aunque su implementación y efectividad requieren un análisis profundo y crítico de sus implicaciones. Los neuroderechos se han consolidado como una categoría de derechos esencial para la protección de la integridad mental y cognitiva de los indi- 111ANTONIO TIRSO ESTER SÁNCHEZ viduos frente a tecnologías cada vez más invasivas. La convergencia entre la inteligencia artificial y las neurotecnologías plantea dilemas jurídicos y éticos de gran relevancia, que afectan a la autonomía, la privacidad y la identidad personal. Resulta fundamental desarrollar un marco de derechos humanos adaptado a los retos del presente siglo, garantizando que la innovación tecnológica se alinee con los valores de justicia, equidad y dignidad humana. II. EVOLUCIÓN, CATEGORÍAS Y DESAFÍOS JURÍDICOS DE LA INTELIGENCIA ARTIFICIAL A pesar de la complejidad inherente a la definición de la inteligencia artificial, esta se conceptualiza como un campo interdisciplinario enfocado en el desarrollo de sistemas y tecnologías capaces de imitar la inteligencia humana para ejecutar tareas de manera autónoma. Es evidente que la noción de inteligencia artificial ha evolucionado con el paso del tiempo abarcando una amplia gama de enfoques y aplicaciones1. En esta línea, la Ley de Inteligencia Artificial define estos sistemas como “el software que se desarrolla empleando una o varias de las técnicas y estrategias que figuran en el anexo I y que puede, para un conjunto determinado de objetivos definidos por seres humanos, generar información de salida como contenidos, predicciones, recomendaciones o decisiones que influyan en los entornos con los que interactúa”2. Partiendo del análisis de su evolución, en las últimas décadas, es posible identificar la capacidad de las máquinas para ejecutar comportamientos inteligentes de manera automática, llegar a conclusiones y desarrollar formas de razonamiento comparables a las humanas. No obstante, este avance no exime las limitaciones existentes en el conocimiento y desarrollo de esta tecnología. De hecho, la inteligencia artificial permite procesar y analizar volúmenes masivos de datos que exceden la capacidad humana, identificar patrones y tomar decisiones apoyándose en algoritmos y modelos matemáticos para obtener resultados específicos3. 1 A. MARTÍNEZ DEVIA, “La inteligencia artificial, el Big Data y la era digital: una amenaza para los datos personales”, Revista la propiedad inmaterial, núm. 27, 2019, págs. 6 y 7. 2 Parlamento Europeo. Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial, 2024. Disponible en: https://eur-lex. europa.eu/eli/reg/2024/1689/oj. Fecha de consulta: 6 de marzo de 2025. 3 J. J. RAINER GRANADOS y L. RODRÍGUEZ BAENA, “Perspectiva histórica y evolución de la inteligencia artificial”, La inteligencia artificial, aplicada a la defensa, Instituto Español de Estudios 112 CRÓNICA JURÍDICA HISPALENSE Nº 22/2024 Dentro de este campo se distinguen dos categorías fundamentales. La inteligencia artificial débil y la inteligencia artificial fuerte. La primera se refiere a sistemas diseñados para ejecutar tareas específicas dentro de un ámbito limitado, como el reconocimiento de voz, la traducción automática o los sistemas de recomendación de productos. Estos sistemas son altamente eficientes en sus funciones, pero carecen de la capacidad de comprensión y razonamiento más allá de su aplicación concreta. Por otro lado, la inteligencia artificial fuerte busca replicar la inteligencia humana, incorporando capacidades como el aprendizaje, el razonamiento, la planificación y la adaptación a nuevas situaciones. Aunque aún se encuentra en desarrollo, esta forma de inteligencia artificial plantea importantes desafíos técnicos y éticos, al tiempo que ofrece un potencial significativo para transformar la sociedad y la economía. Además de estas categorías, la inteligencia artificial abarca diversas técnicas y enfoques, como el aprendizaje automático, las redes neuronales artificiales, el procesamiento del lenguaje natural y la visión por computadora4. Cada uno de estos métodos presenta fortalezas y limitaciones específicas, aplicándose en sectores como la salud, la educación, el comercio y la industria5. Los sistemas de inteligencia artificial débil son de uso cotidiano y se emplean en múltiples ámbitos, desde asistentes virtuales hasta aplicaciones de redes sociales para la clasificación de imágenes. Estos sistemas destacan por su capacidad para aprender a partir de datos específicos del dominio en el que operan. A través del aprendizaje automático y otros enfoques estadísticos, perfeccionan su desempeño conforme procesan un mayor volumen de datos y reciben retroalimentación de los usuarios. Sin embargo, a pesar de su eficacia, la inteligencia artificial débil presenta diversas limitaciones. Como señala Alastruey, estos sistemas pueden manifestar sesgos y cometer errores cuando los datos utilizados para su entrenamiento no son representativos o presentan fallos en su diseño. Además, la falta de comprensión Estratégicos, Ministerio de Defensa, España, 2019, pág. 23. 4 A. ABELIUK y C. GUTIÉRREZ, “Historia y evolución de la inteligencia artificial”, Revista Bits de Ciencia, vol. 21, 2021, págs. 19 y 20. 5 Á. F. RODRÍGUEZ TORRES, K. E. OROZCO ALARCÓN, J. A. GARCÍA GAIBOR, S. D. RODRÍGUEZ BERMEO, y H. A. BARROS CASTRO, “La implementación de la inteligencia artificial en la educación: análisis sistemático”, Domino de las ciencias, vol. 9, núm. 3, 2023, pág. 2171. 113ANTONIO TIRSO ESTER SÁNCHEZ y conciencia limita su capacidad de adaptación frente a situaciones imprevistas o cambiantes6. La inteligencia artificial fuerte, también llamada general o simbólica, representa el objetivo más ambicioso en este campo. Según Albert Márquez, esta categoría, a diferencia de la inteligencia artificial débil, busca emular la complejidad y la flexibilidad de la inteligencia humana en máquinas y sistemas computacionales7. Desde la filosofía del derecho, la inteligencia artificial fuerte tiene profundas implicaciones, ya que no sólo implicaría la creación de sistemas capaces de ejecutar tareas específicas con eficacia, sino que también comprender, razonar y adaptarse a diversas situaciones de forma similar al ser humano. Esto abarcaría habilidades cognitivas complejas como el aprendizaje abstracto, la resolución de problemas, la creatividad y la toma de decisiones éticas. Uno de los retos más significativos radica en la posibilidad de diseñar sistemas que sean conscientes de sí mismos y capaces de experimentar el mundo de forma subjetiva. Aunque la realización práctica de la inteligencia artificial fuerte sigue siendo un objetivo difícil de alcanzar, se han registrado avances significativos en áreas como el procesamiento del lenguaje natural, el reconocimiento de patrones y el aprendizaje automático. No obstante, la creación de sistemas verdaderamente conscientes y autónomos plantea importantes desafíos técnicos, éticos y filosóficos que aún están lejos de resolverse. En este contexto, las neurotecnologías emergen como un campo complementario clave, especialmente en la interacción entre la inteligencia artificial y el cerebro humano. Las interfaces cerebro-computadora permiten la comunicación directa entre el cerebro y dispositivos externos, facilitando aplicaciones en rehabilitación neurológica, control de prótesis y mejora cognitiva. Estas tecnologías, al combinar inteligencia artificial con neurociencia, presentan el potencial de optimizar el procesamiento de datos neuronales y mejorar la interpretación de señales cerebrales en tiempo real. No obstante, su integración con sistemas de inteligencia artificial fuerte plantea importantes dilemas éticos y jurídicos, en especial en lo relativo a la privacidad 6 C. F. ALASTRUEY, “Estado de la cuestión de la inteligencia artificial y los sistemas de aprendizaje autónomo”, Sociología y tecnociencia: Revista digital de sociología del sistema tecnocientífico, vol. 11, núm. 2, 2021, pág. 193. 7 M. ALBERT MÁRQUEZ, “Posthumanismo, inteligencia artificial y Derecho”, Persona y derecho, vol. 84, 2021, págs. 211-213. 114 CRÓNICA JURÍDICA HISPALENSE Nº 22/2024 mental, la autonomía cognitiva y la posible manipulación de pensamientos o emociones. El aprendizaje automático constituye una disciplina clave de la inteligencia artificial y se divide en el aprendizaje automático supervisado y en el aprendizaje automático no supervisado, que cada uno cuenta con sus características, aplicaciones y desafíos específicos. A tal efecto, el aprendizaje supervisado conforma un enfoque de aprendizaje automático en el que se entrenan modelos utilizando conjuntos de datos etiquetados con el objetivo de aprender una función que relacione las entradas con las salidas conocidas8. Este enfoque, a efectos prácticos, es utilizado en múltiples aplicaciones, como la clasificación de correos no deseados, el diagnóstico neurológico basado en imágenes y la predicción del precio de las acciones en los mercados financieros. Desde el prisma del aprendizaje automático no supervisado se utilizan conjuntos de datos no etiquetados para entrenar modelos. En este caso, no se proporciona información sobre las salidas esperadas, y el objetivo es que el modelo descubra patrones intrínsecos en los datos sin guía explícita9. Asimismo, los algoritmos de aprendizaje no supervisado pueden incluir técnicas como el clustering, la reducción de dimensionalidad y la asociación. Continuando con el análisis de diversos tipos de inteligencia artificial, las redes neuronales artificiales constituyen un modelo computacional que toma como referencia la estructura y el funcionamiento del cerebro humano. Estas redes están compuestas por capas de unidades interconectadas (neuronas), que procesan y transmiten información a través de la red. De este modo, su capacidad para aprender y adaptarse a partir de datos las convierte en una herramienta fundamental en el ámbito del aprendizaje automático y la inteligencia artificial10. Existen distintos tipos de redes neuronales: a) las redes neuronales feedforward, que representan el modelo más básico de redes neuronales artificiales donde la información fluye en una sola dirección, desde la capa de entrada hasta la capa de salida, sin retroa- 8 M. Y. LEYVA VÁZQUEZ, J. ESTUPIÑAN RICARDO y V. VEGA FALCÓN, “La inteligencia artificial y su aplicación en la enseñanza del Derecho”. Estudios del desarrollo social: Cuba y América Latina, vol. 10, núm. 3, 2022, pág. 369. 9 Ibidem, pág. 370. 10 A. E. RODRÍGUEZ SÁNCHEZ, “La inteligencia artificial y sus modelos de redes neuronales”, Ciencia Vital, vol. 2, núm. 1, 2024, págs. 9 y 10. 115ANTONIO TIRSO ESTER SÁNCHEZ limentación11; b) las redes neuronales recurrentes, permiten conexiones retroalimentadas, lo que les permite modelar secuencias y datos temporales; y c) las redes neuronales convolucionales, están especializadas en el procesamiento de imágenes mediante capas de convolución para detectar características espaciales en los datos de entrada12. Las redes neuronales artificiales se utilizan en una amplia variedad de aplicaciones como puede ser la visión por computadora, el procesamiento del lenguaje natural o el reconocimiento de voz. En particular, las redes neuronales convolucionales se emplean en los sistemas de reconocimiento de imágenes y videos, como en la detección de rostros, y en cambio, las redes neuronales recurrentes se utilizan en aplicaciones de generación y traducción automática de textos. Más allá de las redes neuronales, han surgido nuevas tecnologías emergentes en el campo de la inteligencia artificial con aplicaciones significativas. Estos enfoques representan nuevas formas de procesar datos, así como nuevas formas de abordar problemas complejos en la inteligencia artificial. Un ejemplo de ello lo constituye el aprendizaje profundo como “una rama del aprendizaje automático que utiliza redes neuronales con múltiples capas de procesamiento para aprender representaciones de datos cada vez más abstractas”13. A diferencia de las redes neuronales tradicionales, suelen tener pocas capas, las redes de aprendizaje profundo pueden incluir múltiples capas ocultas, lo que les permite capturar y aprender características complejas de los datos. El aprendizaje por refuerzo es un enfoque de aprendizaje automático en el que un agente aprende a tomar decisiones secuenciales dentro de un entorno con el objetivo de maximizar una recompensa acumulada. A diferencia del aprendizaje supervisado, donde el modelo trabaja con ejemplos etiquetados, y del aprendizaje no supervisado, que busca descubrir patro- 11 C. SERRANO CINCA y B. MARTÍN DEL BRÍO, “Predicción de la quiebra bancaria mediante el empleo de redes neuronales artificiales”, Revista española de financiación y contabilidad, núm. 74, 1993, pág. 160. 12 De cara a facilitar la comprensión de los diferentes tipos de redes neuronales ilustramos con un ejemplo cada una de las categorías mencionadas: a) una red neuronal feedforward puede ser entrenada para clasificar los diferentes tipos de contratos en categorías de derecho civil, derecho mercantil, derecho laboral, etc.; b) una red neuronal recurrente podría servir para llevar a cabo un resumen coherente de un caso legal; y c) una red neuronal convolucional podría configurar un sistema que analice imágenes para reducir el riesgo de fraudes financieros detectando por ejemplo la firma de un usuario en diferentes cheques que no coinciden. 13 A. IGLESIAS, “Cognición Artificial: una disciplina emergente para explicar la toma de decisiones de las redes neuronales artificiales”, Ciencia Cognitiva, vol. 16, núm. 1, 2022, pág. 11. 116 CRÓNICA JURÍDICA HISPALENSE Nº 22/2024 nes en los datos sin resultados etiquetados. El aprendizaje por refuerzo implica aprender a través de la interacción directa con el entorno. Este enfoque es utilizado en una variedad de aplicaciones, en el campo de la robótica, en los videojuegos y en la optimización de campañas publicitarias14. La evolución de la inteligencia artificial plantea desafíos fundamentales para los conceptos tradicionales como la normatividad, la autonomía y responsabilidad jurídica. La distinción entre inteligencia artificial débil y fuerte refleja una transformación en la manera en que las máquinas interactúan con el entorno normativo, desdibujando las fronteras entre la automatización técnica y la toma de decisiones autónoma con implicaciones jurídicas. Mientras la inteligencia artificial débil sigue operando dentro de los límites normativos existentes, su capacidad de aprendizaje plantea cuestiones sobre el control de sesgos, la transparencia en la toma de decisiones y la responsabilidad derivada de errores o impactos no previstos. En este sentido, la exigencia de explicabilidad en los algoritmos y su regulación adquiere una relevancia central en la gobernanza de estos sistemas. En contraposición, la inteligencia artificial fuerte representa un reto ontológico y normativo más profundo. Si llegara a desarrollarse plenamente se plantearían interrogantes sobre la atribución de agencia jurídica, la capacidad de formular juicios éticos y la posible sujeción de estos sistemas a derechos y deberes. La posibilidad de que una máquina tome decisiones basadas en un razonamiento autónomo introduce el problema de la legitimidad de su accionar dentro de un orden jurídico construido sobre la base de la intencionalidad humana. En este punto, la filosofía del derecho debe preguntarse si el marco jurídico actual se encuentra preparado para regular entidades no humanas con capacidad de juicio y deliberación, y qué principios éticos deberían regir su conducta. Asimismo, el desarrollo de técnicas como el aprendizaje automático y el aprendizaje por refuerzo plantea desafíos en el ámbito de la justicia y la equidad. Si los sistemas de inteligencia artificial participan en procesos de decisión jurídica, surge la necesidad de garantizar que sus modelos no reproduzcan injusticias estructurales ni operen con sesgos que vulneren derechos fundamentales. La relación entre derecho y tecnología debe, por tanto, 14 A. J. CALLE GARCÍA, M. C. QUIMIS VERA, M. T. PIGUAVE VARGAS y J. S. ZAMBRANO LUZARDO, “La inteligencia artificial como herramienta en la segmentación de mercado”, Ciencia y Desarrollo, vol. 27, núm. 1, 2024, pág. 199. 117ANTONIO TIRSO ESTER SÁNCHEZ orientarse hacia una concepción garantista, en la que la inteligencia artificial se someta a criterios de control normativo y supervisión ética que aseguren su compatibilidad con los valores fundamentales del ordenamiento jurídico. En definitiva, la inteligencia artificial en sus diversas manifestaciones interpela a la filosofía del derecho en aspectos esenciales como la redefinición de la agencia, la atribución de responsabilidad y la configuración de nuevos marcos normativos para regular su impacto en la sociedad. A medida que la inteligencia artificial avanza, el derecho deberá adaptar sus principios y categorías para responder a los desafíos emergentes, asegurando que la innovación tecnológica se alinee con los valores de justicia, equidad y dignidad humana. III. AVANCES NORMATIVOS Y ÉTICOS EN LA REGULACIÓN INTERNACIONAL DE LA INTELIGENCIA ARTIFICIAL La regulación internacional de la inteligencia artificial adquiere una mayor relevancia a medida que esta tecnología se integra con mayor profundidad en los diversos ámbitos científicos. Por ello, es preciso analizar cómo distintas organizaciones internacionales han impulsado avances significativos, reconociendo la necesidad de establecer un diálogo internacional acerca de la implantación de unos determinados estándares éticos, legales y técnicos que permitan orientar el desarrollo y el uso de la inteligencia artificial a nivel global15. En este sentido, abordaremos algunos antecedentes normativos de las organizaciones internacionales tomadas como referencia. En particular, la Unión Europea ha desarrollado marcos legislativos clave para la regulación de la inteligencia artificial. Por un lado, la comunicación Artificial Intelligence for Europe presentada por la Comisión Europea en abril de 2018, representa un hito en la materia16. Esta comunicación tiene como objetivo principal adaptar la legislación europea a la rápida evolución de las nuevas tecnologías, con un enfoque específico en el desarrollo de la inteligencia artificial. Con ella, se busca fomentar la competitividad de Europa en el campo de la inteligencia artificial 15 I. IGLESIAS ÁLVAREZ, “Funcionarios de la ONU instan a regular la IA abriendo líneas de diálogo internacional”, Computerworld, publicado el 19 de julio de 2023. Disponible en: https:// www.computerworld.es/article/2101164/funcionarios-de-la-onu-instan-a-regular-la-ia-abriendo- lineas-de-dialogo-internacional.html. Fecha de consulta: 6 de marzo de 2025. 16 https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM%3A2018%3A237%3AFIN. Fecha de consulta: 6 de marzo de 2025. 124 CRÓNICA JURÍDICA HISPALENSE Nº 22/2024 valores, principios y derechos en las normas constitucionales que se hallan en la cúspide de los Estados de Derecho”25. Y en cuanto al enfoque posthumanista, el mismo autor sostiene que: “Se niega, abiertamente, la existencia del libre albedrío y, por tanto, la posibilidad de un ejercicio autónomo e incondicionado de la libertad de elección y decisión. De ahí, que la libertad que actualmente importa no es tanto la que atañe a los derechos o facultades de los individuos, sino que pone el énfasis en la libre investigación científica, sin límites o tabúes que puedan impedir su pleno ejercicio. Desde la ideología posthumanista se entiende cualquier restricción moral o legal a la libre investigación y experimentación como un símbolo anacrónico de oscurantismo”26. La contraposición entre el enfoque humanista y posthumanista en relación con la inteligencia artificial evidencia un conflicto de intereses de relevancia jurídica, en tanto pone en juego principios esenciales del ordenamiento jurídico contemporáneo. Desde una perspectiva normativa, el desafío radica en la articulación de un marco regulatorio que armonice la tutela de los derechos fundamentales con la promoción de la innovación tecnológica, evitando tanto restricciones desproporcionadas que obstaculicen el desarrollo científico como una liberalización absoluta que comprometa valores esenciales del Estado de derecho. En este contexto, resulta imperativo que el legislador establezca disposiciones normativas que garanticen la integración de la inteligencia artificial en la sociedad bajo principios de justicia, equidad y seguridad jurídica, asegurando que su implementación no vulnere los derechos humanos ni desplace el rol central de la persona en el diseño y control de dichas tecnologías. La capacidad de la inteligencia artificial para aprender, tomar decisiones y ejecutar tareas de manera autónoma ha planteado una serie de dilemas éticos que requieren una reflexión profunda y una regulación adecuada para asegurar su uso responsable y equitativo27. Así, es preciso analizar los dilemas éticos más relevantes que surgen con la implementación y el uso de la inteligencia artificial, explorando cómo estos no son enteramente nuevos, sino que exacerban dilemas preexistentes en campos como la medicina y el derecho. Asimismo, se examina cómo estos desafíos pueden ser abordados 25 A. E. PÉREZ LUÑO, “El posthumanismo no es un humanismo”, Doxa. Cuadernos de Filosofía del Derecho, núm. 44, 2021, pág. 297. 26 Ibidem, pág. 298. 27 M. V. CÁCERES, E. MAJUL, V. PALMERO, A. I. PEREA y C. VICARI, Una aproximación a las neurotecnologías: Avances, ética y regulación de los neuroderechos, Editorial Universidad Católica de Córdoba, 2024, pág. 9. 125ANTONIO TIRSO ESTER SÁNCHEZ desde la perspectiva de la filosofía del derecho, en consonancia con los recientes avances normativos en la Unión Europea. Los dilemas éticos que plantea la inteligencia artificial son diversos y abarcan cuestiones fundamentales relacionadas con la privacidad, la autonomía, la transparencia y la discriminación. Uno de los principales dilemas éticos asociados con la inteligencia artificial es la protección de la privacidad y la confidencialidad28. Los sistemas de inteligencia artificial, especialmente aquellos basados en Big Data y aprendizaje automático, requieren grandes cantidades de datos para funcionar eficientemente. Esto implica la recopilación, almacenamiento y procesamiento de datos personales, lo que puede poner en riesgo la privacidad de los individuos. A pesar de regulaciones como el Reglamento General de Protección de Datos de la Unión Europea, aún persisten preocupaciones sobre el manejo de estos datos y quién tiene acceso a ellos . La autonomía de los usuarios y su capacidad para tomar decisiones informadas constituye otro dilema crítico29. En el ambito de la medicina, por ejemplo, el consentimiento informado es un pilar fundamental. Con la inteligencia artificial, surge la pregunta de si los usuarios realmente entienden cómo funcionan los algoritmos que afectan sus vidas. Garantizar la transparencia algorítmica y el derecho a conocer el razonamiento detrás de las decisiones automatizadas resulta esencial para preservar la autonomía individual. Asimismo, la falta de transparencia en los procesos de toma de decisiones de la inteligencia artificial plantea serios desafíos éticos. Muchos algoritmos operan como “cajas negras” debido a su complejidad y a la dificultad de explicar cómo llegan a determinadas conclusiones30. Esto dificulta la atribución de responsabilidad cuando ocurren errores o sesgos en los resultados. La necesidad de algoritmos accesibles y auditables es crucial para garantizar que las decisiones tomadas por la inteligencia artificial sean justas y puedan ser sujetas a escrutinio. 28 M. T. HERNÁNDEZ BORGES y P. J. BAQUERO PÉREZ, “Datos policiales e Inteligencia Artificial: un equilibrio delicado entre la privacidad, la utilidad y la ética”, Revista Canaria de Administración Pública, núm. 23, 2024, págs. 158 y 159. 29 Z. G. JIMÉNEZ RUÍZ y J. ORTEGA SORIANO, “El rol del médico en la protección de la privacidad del paciente: estrategias para una práctica ética en un mundo digital”, Cirugía de Columna, núm. 2, 2024, pág. 128. 30 M. DE ASÍS PULIDO, “Ética de la Inteligencia Artificial jurídica aplicada al proceso”, Cuadernos electrónicos de filosofía del derecho, núm. 48, 2023, pág. 70. 126 CRÓNICA JURÍDICA HISPALENSE Nº 22/2024 A colación de lo anterior, la inteligencia artificial tiene el potencial de amplificar los sesgos existentes en los datos de entrenamiento. Esto es, si los datos utilizados para entrenar un sistema de inteligencia artificial contienen sesgos, estos se reflejarán en las decisiones automatizadas, perpetuando la discriminación en áreas como el empleo, la justicia penal y el acceso a servicios. Por tanto, es imperativo desarrollar e implementar técnicas para detectar y mitigar estos sesgos a fin de garantizar equidad y justicia en los procesos de toma de decisiones automatizadas. Desde esta perspectiva, podemos llegar a la reflexión de que la ética en la inteligencia artificial no introduce necesariamente nuevos dilemas, sino que amplifica y recontextualiza los desafíos éticos ya presentes en otros sectores. Por ejemplo, en campo de la medicina, los dilemas éticos relacionados con el consentimiento informado, la privacidad de los pacientes y la toma de decisiones autónomas han sido objeto de debate durante décadas. La inteligencia artificial profundiza sobre estos dilemas al introducir sistemas capaces de diagnosticar y recomendar tratamientos sin intervención humana directa. Esto plantea interrogantes sobre la responsabilidad médica y la capacidad de los pacientes para comprender y confiar en estas recomendaciones automatizadas. En el ámbito jurídico, la inteligencia artificial puede influir en decisiones judiciales, desde la evaluación de riesgos hasta la sentencia de condenados. Esto plantea preocupaciones sobre la imparcialidad y la transparencia en la administración de justicia. Además, la capacidad de la inteligencia artificial para predecir comportamientos basados en datos históricos puede reforzar prejuicios existentes y afectar negativamente a grupos vulnerables31. La intersección de la inteligencia artificial con los derechos humanos es un área crítica, ya que incide directamente en aspectos fundamentales como la privacidad, la igualdad y la libertad de expresión. La recopilación y el análisis masivo de datos pueden vulnerar el derecho a la privacidad, exponiendo información personal sin el consentimiento adecuado. Además, los algoritmos pueden perpetuar o amplificar discriminaciones existentes, afectando a la igualdad de oportunidades en el empleo y la justicia. Por último, las tecnologías de vigilancia impulsadas por la inteligencia artificial pueden restringir la libertad de expresión y el derecho a la protesta, al facilitar el monitoreo y control de la actividad ciudadana. La protección de 31 T. AUSÍN, “¿Por qué ética para la Inteligencia Artificial? Lo viejo, lo nuevo y lo espurio”, Sociología y tecnociencia, vol. 11, núm. 2, 2021, págs. 6 y 11. 127ANTONIO TIRSO ESTER SÁNCHEZ derechos fundamentales como la privacidad, la no discriminación y la libertad de expresión se ve desafiada por las capacidades de vigilancia y análisis masivo de datos de la inteligencia artificial. La necesidad de un marco ético y legal robusto que proteja estos derechos es más urgente que nunca. Examinados los principales dilemas éticos a los que se enfrentan los sistemas de inteligencia artificial, es posible proponer diversas estrategias para mitigar los riesgos éticos asociados a la inteligencia artificial. Como se ha mencionado, la Unión Europea ha tomado la delantera con la Ley de Inteligencia Artificial, que busca establecer un marco legal para el uso ético y seguro de la inteligencia artificial. Este reglamento incorpora principios de transparencia, seguridad, y responsabilidad, además de exigir evaluaciones de impacto para aplicaciones de alto riesgo. Esta normativa es un paso crucial hacia la creación de un entorno regulatorio que equilibre la innovación con la protección de los derechos humanos , y que, además, sirve como referencia para el desarrollo normativo en el resto de Estados Miembros de la UE. En segundo lugar, la ética debe estar presente desde el diseño de los algoritmos32. Esto incluye la incorporación de principios éticos en el proceso de desarrollo, la realización de auditorías éticas y la implementación de mecanismos para detectar y corregir sesgos. Las organizaciones deben adoptar una cultura de responsabilidad y transparencia para garantizar que sus sistemas de inteligencia artificial operen de manera justa y equitativa. Y, en tercer lugar, es fundamental educar a desarrolladores, usuarios y responsables políticos sobre los desafíos éticos asociados a la inteligencia artificial. La formación en ética de la inteligencia artificial debería incorporarse en los programas educativos de ciencias de la computación, ingeniería y derecho. Además, sensibilizar a la sociedad sobre el funcionamiento de la inteligencia artificial y sus implicaciones éticas puede fomentar una mayor demanda de transparencia y rendición de cuentas en su uso . IV. LA INTELIGENCIA ARTIFICIAL Y LOS NEURODERECHOS: UNA RESPUESTA JURÍDICA Y ÉTICA NECESARIA Los avances en neurotecnología e inteligencia artificial han generado nuevas posibilidades de interconectar el sistema nervioso con la tecnología, incluyendo la lectura y la manipulación de la actividad cerebral. La neurotec- 32 M. F. SÁNCHEZ DÍAZ, “Inteligencia artificial generativa y los retos en la protección de los datos personales”, Estudios en derecho a la información, núm. 18, 2024, pág. 190. 128 CRÓNICA JURÍDICA HISPALENSE Nº 22/2024 nología es entendida como un conjunto de “dispositivos y procedimientos utilizados para acceder, controlar, investigar, evaluar, manipular y/o emular la estructura y función de los sistemas neuronales de animales o seres humanos”33. Ahora bien, si estas innovaciones ofrecen aplicaciones prometedoras en el ámbito de la medicina, la economía y la sociedad, también plantean desafíos éticos y jurídicos, ya que pueden afectar a determinados derechos humanos, tales como la privacidad, la libertad de pensamiento, la autonomía personal y la integridad mental. En este contexto, surge el concepto de neuroderechos, como una categoría emergente destinada a proteger aspectos esenciales de la actividad cerebral y cognitiva humana frente a los riesgos derivados del uso indebido de estas tecnologías. En palabras de Ienca, los neuroderechos son definidos como “los principios éticos, legales, sociales o naturales de libertad o derecho relacionados con el dominio cerebral y mental de una persona; es decir, las normas fundamentales para la protección y preservación del cerebro y la mente humana”34. Desde una perspectiva filosófica-jurídica, los neuroderechos se sustentan en los principios de dignidad humana y autonomía individual. Estos derechos parten de la idea de que el cerebro y la mente humana conforman el núcleo más íntimo e inalienable de la persona, siendo, por tanto, áreas que requieren una protección reforzada frente a cualquier intrusión tecnológica. Esta categoría de derechos se alinea con los postulados de la cuarta generación de derechos humanos, la cual abarca derechos emergentes relacionados con el impacto de las nuevas tecnologías en la sociedad. Por consiguiente, esta generación se orienta a la protección frente a riesgos globales y tecnológicos que no fueron contemplados por las generaciones anteriores de derechos humanos. Así, los neuroderechos reflejan la necesidad de adaptar las normativas y los marcos éticos a los desafíos del siglo XXI. Los neuroderechos pueden definirse como una categoría específica de derechos humanos orientada a salvaguardar la integridad mental y cognitiva de las personas frente al impacto de las neurotecnologías. Estas tienen la capacidad de acceder, manipular e incluso alterar funciones cerebrales fundamentales. En este contexto, aunque aún se encuentren en desarrollo, los neuroderechos se pueden agrupar en tres dimensiones principales: a) 33 UNESCO. Estudio preliminar sobre los aspectos técnicos y jurídicos relativos a la conveniencia de disponer de un instrumento normativo sobre la ética de la neurotecnología. Disponible en: https://unesdoc.unesco.org/ark:/48223/pf0000385016_spa. Fecha de consulta: 6 de marzo de 2025. 34 M. IENCA, “On Neurorights”, Frontiers in Human Neuroscience, vol. 15, 2021, pág. 1. 129ANTONIO TIRSO ESTER SÁNCHEZ la privacidad mental protege a los individuos frente a tecnologías capaces de acceder, recopilar o interpretar pensamientos, emociones o patrones de actividad cerebral sin su consentimiento explícito. Se define como “el derecho a no sufrir injerencias o intrusiones por parte de un tercero en la actividad cerebral, garantizando la confidencialidad de la información derivada de la misma”35. En este sentido, constituye una extensión del derecho a la privacidad en el contexto de las neurotecnologías, reconociendo a la mente humana como un espacio inviolable; b) la identidad y la autonomía personal busca preservar la esencia individual frente a tecnologías que puedan alterar recuerdos, emociones o procesos cognitivos comprometiendo la percepción del yo. Este derecho protege contra cualquier forma de manipulación externa que modifique la identidad personal, garantizando que las innovaciones tecnológicas respeten la integridad psicológica y cognitiva de los individuos. En este sentido, la identidad de cada persona debe permanecer delimitada y libre de alteraciones no consentidas. Por ello, cualquier tecnología que pueda afectar la identidad o la autonomía personal debe ser utilizada de manera transparente, proporcionando información clara y detallada sobre sus posibles consecuencias36, y c) la autonomía cognitiva asegura la capacidad de los individuos para tomar decisiones libres e informadas, evitando influencias externas indebidas provenientes de neurotecnologías o sistemas de inteligencia artificial que puedan interferir con los procesos de pensamiento o la voluntad personal. El avance acelerado de la neurotecnología y la inteligencia artificial ofrece oportunidades sin precedentes en diversos campos, como la medicina, la educación, la economía y la justicia37. Sin embargo, también plantea riesgos y amenazas significativas, tales como la intrusión en la privacidad mental, la manipulación cognitiva y la desigualdad en el acceso a estas tecnologías. Las interfaces cerebro-computadora, los dispositivos de estimulación cerebral profunda y los algoritmos de inteligencia artificial diseñados para interpretar señales neuronales son ejemplos de cómo la tecnología pue- 35 A. INTXAURTIETA ZUBIZARRETA, “Privacidad mental y equidad en la aumentación cognitiva. Desafíos y perspectivas desde el marco jurídico español y chileno”, Universitas, núm. 44, 2024, pág. 6. 36 N. WALKER SILVA y J. ROJAS AGUILERA, “Neuroderechos un intento de protección jurídica a las personas frente al uso de neurotecnologías”, Revista de direito sanitario, vol. 23, núm. 1, 2023, pág. 9. 37 A. BARDAJÍ GÁLVEZ y L. BARDAJÍ GÁLVEZ, “Neuroderechos: ser o no ser: una propuesta de adscripción sistemática en el ordenamiento jurídico español”, Revista de Derecho y Genoma Humano: Genética, Biotecnología y Medicina Avanzada, núm. 57, 2022, pág. 52. 130 CRÓNICA JURÍDICA HISPALENSE Nº 22/2024 de penetrar en el ámbito cognitivo de las personas. Entre los riesgos más preocupantes se encuentran: a) la intrusión en la privacidad mental, con el acceso a pensamientos privados por parte de empresas y gobiernos, lo que representa una amenaza directa a la libertad de pensamiento y expresión; b) la manipulación cognitiva, que podría influir en la toma de decisiones individuales38; y c) la desigualdad tecnológica, que exacerba las brechas sociales y económicas, creando nuevas formas de discriminación39. Frente a estos riegos, los neuroderechos también representan una oportunidad para promover un marco ético y normativo que garantice el desarrollo responsable de estas tecnologías. Países como Chile, primeramente, y posteriormente, Brasil (Estado de Rio Grande del Sur) y Estados Unidos (Estado de Colorado), han avanzado en la regulación de estos derechos, incluyendo la protección de la integridad mental y los neurodatos en sus constituciones nacionales, lo que representa un precedente a nivel mundial40. Brasil y Estados Unidos también se suman a la lista de países pioneros en la regulación de los neuroderechos41. Esta ausencia de regulación legal y ética deja abierta la posibilidad de que proyectos como Neuralink se desarrollen sin un marco ético que garantice la seguridad y el bienestar de las personas involucradas. Aunque el propósito inicial sea terapéutico, la ausencia de dichos límites podría derivar en escenarios distópicos donde se normalice la manipulación mental y la vulneración de la privacidad cerebral. Por tanto, es imperativo establecer estándares internacionales que regulen el uso de la inteligencia artificial en el ámbito de las neurotecnologías. Estos estándares deben salvaguardar la autonomía individual, garantizar la privacidad de los datos cerebrales y prevenir cualquier forma de manipulación. Además, es necesario fomentar la transparencia en el desarrollo de estas tecnologías y promover el debate público sobre sus implicaciones éticas y sociales. 38 L. MIRAUT MARTÍN, “New realities, new rights. Some reflections on the need to safeguard personal data”, en L. Miraut Martín y M. Zalucki (eds.), Artificial intelligence and human rigths, Dykinson, Madrid, 2021, pág. 41. 39 L. COTINO HUESO, “Big Data e Inteligencia Artificial. Una aproximación a su tratamiento jurídico desde los derechos fundamentales”, Dilemata, núm. 24, 2017, pág. 138. 40 P. LÓPEZ SILVA y R. MADRID, “Acerca de la protección constitucional de los neuroderechos: la innovación chilena”, Prudentia Iuris, núm. 94, 2022, pág. 51. 41 R. YUSTE, “Neurotecnología y neuroderechos”, en M. E. Casas Baamonde (Dir.) y D. Pérez del Prado (Coord.), Derecho y tecnologías, Editorial Centro de Estudios Ramón Areces, Madrid, 2025, pág. 724. 131ANTONIO TIRSO ESTER SÁNCHEZ La convergencia entre inteligencia artificial y neurotecnologías representa uno de los mayores retos contemporáneos en materia de derechos humanos. Si bien estas innovaciones ofrecen oportunidades extraordinarias para el progreso científico y médico, también exigen una regulación rigurosa que priorice la dignidad y la libertad del ser humano. Los neuroderechos no son una opción, sino una necesidad urgente para preservar la esencia de lo que significa ser humano en la era digital. De manera correlativa, la integración de los neuroderechos en el marco de la cuarta generación de derechos humanos subraya su carácter innovador y transformador. A diferencia de generaciones previas, esta categoría no solo se centra en proteger al individuo de amenazas tradicionales, sino que también busca regular el impacto de las tecnologías emergentes que redefinen los límites de la humanidad. Los neuroderechos no solo garantizan la protección de la mente frente a intrusiones externas, sino que también promueven la equidad, la justicia y la dignidad en la era digital. La premisa desde la cual es preceptivo estudiar los neuroderechos son los avances que, de manera conjunta con la inteligencia artificial, han generado un impacto significativo en diversas áreas del conocimiento humano y en la sociedad, incluido el ámbito de protección sobre los derechos humanos. En este contexto, los neuroderechos emergen como una respuesta crítica para abordar los dilemas éticos y legales asociados a la interacción entre la tecnología y la mente humana. Tales prerrogativas buscan proteger la integridad mental y la privacidad de los individuos frente a las tecnologías que pueden intervenir o interpretar procesos neuronales. No en vano, a medida que la inteligencia artificial avanza, se hace imprescindible considerar cómo estas innovaciones afectan la autonomía y la privacidad personal, llevando a la necesidad de formular un marco normativo que garantice la protección de los derechos humanos en la era digital. Los neuroderechos son un conjunto de derechos humanos que buscan proteger la privacidad, la identidad y la integridad mental de los individuos frente a las tecnologías que pueden intervenir en los procesos neuronales. Estas tecnologías incluyen interfaces cerebro-computadora, neuroimagen avanzada y algoritmos de inteligencia artificial capaces de interpretar o modificar la actividad cerebral42. La relevancia de los neuroderechos radica en la necesidad de salvaguardar la autonomía cognitiva de las personas en un 42 M. I. CORNEJO PLAZA y M. F. GUIÑAZÚ, “Límites éticos y legales (neuroderechos) a la utilización de las interfaces cerebro-computadora (BCIS) para aumentar las capacidades cognitivas”, en 132 CRÓNICA JURÍDICA HISPALENSE Nº 22/2024 contexto donde la inteligencia artificial tiene el potencial de influir significativamente en la mente humana. Según Yuste, Genser y Herrmann43, los neuroderechos se pueden clasificar en cinco categorías principales: a) el derecho a la privacidad mental está referido a la protección de los datos cerebrales de las personas para evitar que esos datos sean leídos, manipulados o transferidos sin consentimiento; b) el derecho a la identidad y autonomía personal implica la salvaguarda de la identidad individual frente a manipulaciones externas que podrían alterar la percepción y el comportamiento; c) el derecho al libre albedrío establece la garantía de que las decisiones personales no sean influenciadas indebidamente por tecnologías externas; d) el derecho a la integridad mental nos brinda la protección contra intervenciones que puedan causar daños psicológicos o neurológicos; y e) el derecho a la igualdad de acceso a las tecnologías mentales supone una garantía para que todos los individuos tengan acceso equitativo a los beneficios de las tecnologías neurocientíficas. Como punto de partida, esta intersección entre la inteligencia artificial y la neurotecnología plantea una serie de dilemas éticos que deben ser abordados para garantizar que el desarrollo tecnológico se realice de manera responsable y respetuosa con los derechos humanos, con el fin de cerrar el círculo antes abierto en este trabajo. Entre los dilemas más destacados se encuentran: a) la capacidad de las tecnologías de neuroimagen y las interfaces cerebro-computadora para acceder a la actividad cerebral plantea serias preocupaciones sobre la privacidad mental. El riesgo de que empresas o gobiernos puedan acceder a pensamientos y emociones sin consentimiento es una amenaza significativa para la autonomía individual; b) las tecnologías capaces de alterar la actividad cerebral podrían ser utilizadas para modificar el comportamiento o la identidad de una persona. Este potencial de manipulación plantea preguntas fundamentales sobre la autenticidad y la libertad personal; c) la brecha entre aquellos que tienen acceso a las tecnologías avanzadas y aquellos que no lo tienen puede exacerbar las desigualdades existentes. Es crucial garantizar que todos los individuos puedan beneficiarse equitativamente de los avances neurocientíficos; y d) el uso de tecnologías que interactúan con el cerebro requiere un alto nivel de consentimiento informado. Sin embargo, la complejidad de estas tecnologías puede M. Azuaje Pirela (coord.) Introducción a la ética y el derecho de la inteligencia artificial, La ley, Madrid, 2023, págs. 101-115. 43 R. YUSTE, J. GENSER y S. HERRMANN, “It’s time for neuro-rights”, Horizons: Journal of International Relations and Sustainable Development, num. 18, 2021, págs. 160 y 161. 133ANTONIO TIRSO ESTER SÁNCHEZ dificultar la comprensión completa de los riesgos y beneficios, planteando desafíos para el consentimiento verdaderamente informado. Por tanto, la tesis defendida confirma que los neuroderechos se presentan como una respuesta necesaria para abordar los dilemas éticos asociados con la interacción entre la inteligencia artificial y la neurotecnología. Al establecer un marco normativo claro y protector, los neuroderechos buscan garantizar que los avances tecnológicos se realicen de manera que respeten y promuevan los derechos humanos fundamentales. Esto incluye las siguientes cuestiones: a) desarrollar leyes y regulaciones específicas que protejan los neuroderechos, asegurando que las tecnologías neurocientíficas sean utilizadas de manera ética y responsable. La legislación debe abordar aspectos como la privacidad mental, el consentimiento informado y la equidad en el acceso, considerándose el reglamento comunitario como un comienzo prometedor; b) fomentar la educación y la conciencia pública sobre los neuroderechos y los riesgos asociados con las tecnologías neurocientíficas. Esto puede incluir campañas informativas y programas educativos que ayuden a los individuos a comprender sus derechos y cómo protegerlos; c) establecer mecanismos de transparencia y responsabilidad para las empresas y los desarrolladores de tecnología. Esto incluye la implementación de auditorías éticas y la creación de comités independientes que supervisen el uso de tecnologías neurocientíficas44; y d) promover la investigación ética en el campo de la neurociencia y la inteligencia artificial, asegurando que los estudios se realicen con respeto a los derechos humanos y que los resultados se utilicen para el beneficio de la sociedad en su conjunto. La evolución de los Derechos Humanos ha seguido una trayectoria histórica que refleja fielmente los cambios sociales, tecnológicos y culturales45. La clasificación de los derechos humanos en generaciones, es una propuesta que data del año 1979 presentada por el jurista checo Karel Vasak, que abarcan los derechos civiles y políticos reconocidos por la primera generación de derechos humanos, también conocidos como los derechos de libertad, que surgen en pleno siglo XVIII influenciados por la Revolución Francesa. La segunda generación de derechos humanos comprende los derechos económicos, sociales y culturales, desarrollados a principios 44 B. I. MURRUGARRA RETAMOZO, Neuroderechos, neurotecnologías e inteligencia artificial: protección de la actividad cerebral humana, Editorial Colex, La Coruña, 2024, pág. 88. 45 H. BARRIOS TAO y V. DÍAZ PÉREZ, “Inteligencia artificial y emociones: psicopolítica mediante datos y algoritmos”, Revista de ciencias sociales, vol. 30, núm. 1, 2024, págs. 251-267.