España digital 2025. Estrategia nacional de inteligencia artificial

CAPÍTULO XX ESPAÑA DIGITAL 2025. ESTRATEGIA NACIONAL DE INTELIGENCIA ARTIFICIAL ÁLVARO SÁNCHEZ BRAVO Universidad de Sevilla 1. INTRODUCCIÓN Las sociedades tecnológicas tienen ante sí el reto de adaptarse a las nuevas exigencias sociales, culturales, políticas y económicas, con las que están fuertemente imbricadas. Para ello las nuevas tecnologías, y especialmente Internet, pueden ayudar a la consecución de tales objetivos. Pero no quedándose sólo en la introducción y en el uso de los nuevos recursos tecnológicos, sino asimilando que ello deberá ir inescindiblemente unido a determinados cambios jurídicos, institucionales, organizativos, e incluso de redefinición del propio papel de las administraciones públicas en los nuevos entornos tecnológicos. Ello supone hacer frente, como premisa, a tres grandes desafíos: 1. Asimilar unas realidades sociales en constante transformación. El sector público es el principal motor de los cambios económicos y sociales, con el horizonte último de una mejora de la calidad de vida de los ciudadanos y de la cohesión social. Los ámbitos de actuación del sector público, aumentan exponencialmente a medida que aumentan las necesidades de los ciudadanos, pero no sólo de manera cuantitativa, sino cualitativamente. Los ciudadanos no sólo quieren recibir prestaciones de la administración, sino que quieren saber cómo se adoptan las decisiones, e, incluso participar en algunas de ellas. Si la administración está llamada a ser la principal impulsora de los cambios, los ciudadanos quieren ser también protagonistas de esos cambios, y es a través de las nuevas tecnologías, como hoy se hace factible esas fórmulas de participación. Como ya, premonitoriamente, señaló el entonces Comisario Europeo para la Sociedad de la Información: “El sector público, al igual que el resto de la economía, se enfrenta al desafío de reaccionar ante nuevos avances tecnológicos, en concreto en lo que respecta a la tecnología de la información y la comunicación. Internet ha hecho posible nuevas formas de participación en el diseño de políticas, tales como los grupos de opinión en línea, formados de manera muy rápida, o la exigencia a las autoridades públicas de que revisen su modo establecido de tomar decisiones” (Likanen, 2003). © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] 502 ÁLVARO SÁNCHEZ BRAVO 2. Dar respuesta a las nuevas expectativas. Los ciudadanos y las empresas demandan cada vez más, no sólo nuevos servicios, sino que estos se presten de manera más rápida y sin reiterar tramites engorrosos y reiterativos. Todo ello teniendo presente que las necesidades de los ciudadanos son diferentes, y que por lo tanto el objetivo estará en conseguir una atención personalizada al margen de la capacidad, cualificación o ubicación de aquéllos. 3. Ofrecer más con el mismo presupuesto. Las administraciones deben hacer frente a esas nuevas necesidades y exigencias en un escenario de control del gasto público y de contención presupuestaria. Así pues, con el mismo presupuesto deben ofrecerse más y mejores servicios. No olvidemos que debemos desenvolvernos en un entorno de estabilidad presupuestaria pero sin renunciar a las prestaciones de los estados de bienestar como el nuestro. Ante estos retos, la cuestión parece estar en la consecución de una nueva administración pública que encuentre en las nuevas tecnologías y en la Inteligencia Artificial el motor de su adaptación a las nuevas realidades. Ahora bien, el salto desde la prestación de determinados servicios, utilizando como soporte los nuevos entornos tecnológicos, hasta la consecución de una disponibilidad generalizada y un uso “universal” de los servicios ofertados exigen que nos detengamos en la consideración de los principales obstáculos que en la hora presente dificultan esa transición. Sin ánimo de ser exhaustivos, dos son los aspectos más relevantes a considerar. Por un lado, sólo si todos los ciudadanos, en condiciones de igualdad, tienen posibilidad de acceder a los servicios públicos en línea, podrá cimentarse correctamente la administración electrónica. Uno de los mayores exponentes del desarrollo humano es la posibilidad creciente de los individuos de participar plenamente en la vida social de la colectividad, evitando toda forma de exclusión, con todas las consideraciones políticas y jurídicas que ello implica (Pérez Luño, 2003, especialmente cap. 4). A ambos objetivos puede contribuir la sociedad de la información e Internet si partimos de la premisa de que es esencial que las personas, o los grupos en que se integran, no sean forzadas a ajustarse a las nuevas tecnologías, si no que sean las nuevas tecnologías las que se adapten a las necesidades de los hombres (Sánchez Bravo, 2010). Cuestión capital en este ámbito resulta asimismo la consideración de los problemas que las nuevas tecnologías pueden plantear para determinados sectores sociales, tales como los pobres, enfermos, minusválidos, excluidos, marginados, e incluso para los países en vía desarrollo. El riesgo de “fractura digital” vinculado a la desigualdad en el acceso a la tecnología no es © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] CAPÍTULO XX 503 demagogia; es una cuestión real. Esta situación puede ser especialmente difícil para el número considerable de analfabetos que aún existen, para los inmigrantes que desconocen la lengua del país de acogida, y, en general, para aquellas personas que tengan cualquier problema de aprendizaje (Criado Grande, 2001). Es por ello que los grupos que tengan un riesgo de exclusión sean especialmente integrados en la sociedad de la información, prestando una especial atención a sus concretas necesidades, pues como en la práctica se ha evidenciado, las TIC, y especialmente Internet, pueden contribuir sustancialmente a la mejora de la calidad de vida y la autonomía de numerosas personas que tienen problemas para acceder a determinados servicios o subvenir a sus necesidades empleando los métodos tradicionales. Desde el punto de vista técnico la inclusión de todos en la sociedad tecnológica requerirá la apuesta por un acceso rápido y generalizado a las nuevas tecnologías. El aumento de usuarios de Internet, de las plataformas digitales, de utilidades tecnológicas, es una realidad constatable, que va unida a un aumento de los contenidos y de la interactividad de los mismos. Pero para que ello se consolide, y sea verdaderamente operativo, debe producirse la migración a las redes de banda ancha que puedan soportar con fiabilidad y eficacia el evidente aumento del tráfico en la Red, con la generalización de la tecnología 5G. Con todo, los poderes públicos siguen teniendo un papel que desempeñar en los casos en los que los mercados no proporcionan las inversiones necesarias. De este modo, las estrategias nacionales de banda ancha tienen que tener como objetivo incrementar la cobertura en las zonas insuficientemente servidas y estimular la demanda 1 . Por otro lado, un elemento capital en el desarrollo de la sociedad digital es el que el ciudadano confíe en lo que la moderna tecnología le aporta, en que se sienta cómodo y seguro, porque el sistema es fiable y no permite la intrusión de terceros. Cuestiones como la protección de datos, la certificación digital y la seguridad de los sistemas informáticos son asuntos en los que las administraciones públicas no pueden permitirse ningún fallo. Los ciudadanos tienen que saber que, cuando, para que y durante qué periodo sin datos van a ser usados, almacenados. En definitiva, su derecho a la libertad informática 1 Infraestructuras digitales seguras y sostenibles. Conectividad: Gigabit para todos, 5G en todas partes. BRÚJULA DIGITAL 2030: SU DÉCADA DIGITAL. COMUNICACIÓN DE LA COMISIÓN AL PARLAMENTO EUROPEO, AL CONSEJO, AL COMITÉ ECONÓMICO Y SOCIAL EUROPEO Y AL COMITÉ DE LAS REGIONES´. Brújula Digital 2030: el enfoque de Europa para el Decenio Digital. COM (2021) 118. Bruselas. 09.03.2021. © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] 504 ÁLVARO SÁNCHEZ BRAVO debe ser garantizado (Sobre la delimitación del derecho a la libertad informática, vid. Pérez Luño, 1987; 1989; 1989/90; 1992; 1996; 2000; 2001; Lucas Murillo 1989/90; 1990; 1993; 1999; Sánchez Bravo, 1998). Junto a ello el ciudadano debe tener seguridad en que la Administración podrá comprobar con diligencia y rapidez su identidad, proporcionándole herramientas de autentificación electrónica (firma electrónica y certificados digitales), Así como el desarrollo de aplicaciones para evitar intrusiones no deseadas o “robos de identidad” (Sánchez Bravo, 2001). Los sistemas electrónicos exigirán, por otro lado, una infraestructura de comunicaciones segura, con unos equipos y programas seguros, que deberán responder a tres exigencias ineludibles: confidencialidad (impedir la divulgación no autorizada de los datos), integridad (impedir la modificación no autorizada de los datos) y disponibilidad (impedir la retención no autorizada de información o recursos) (Sánchez Bravo 1998; 2014). 2. PLAN ESPAÑA DIGITAL 2025 La digitalización tiene potencial para ofrecer soluciones a muchos de los retos a los que se enfrentan Europa y los europeos. Las tecnologías digitales están cambiando no solo la forma en que las personas se comunican, sino también, de manera más general, la manera en que viven y trabajan. Como tal, la pandemia de COVID-19 ha hecho más acuciante la necesidad de acelerar la transición digital en Europa. 2 Las soluciones digitales contribuyen a la creación de empleo, al progreso de la educación y al aumento de la competitividad y la innovación, y pueden mejorar la vida de los ciudadanos. La tecnología digital tiene un papel clave que desempeñar en la transformación de la economía y la sociedad europeas con el fin de lograr una UE climáticamente neutra de aquí a 2050, objetivo acordado por los dirigentes de la UE. Salvaguardar los valores de la UE y los derechos fundamentales y la seguridad de los ciudadanos es un elemento clave de la transición digital. La UE pretende seguir un enfoque antropocéntrico que respete las diferencias sociales en toda la Unión. España, como estado miembro de la UE, participa y colabora en la elaboración e implementación de estas estrategias europeas. Y así, en los últimos años se han ido adoptando diferentes programas, en consonancia con 2 https://www.consilium.europa.eu/es/policies/a-digital-future-for-europe/# © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] CAPÍTULO XX 505 las agendas digitales europeas 3 4 , mediante la colaboración público-privada y con la participación de todos los agentes económicos y sociales del país. En la elaboración de esta agenda digital han participado más de 15 ministerios y organismos públicos y más de 25 agentes económicos, empresariales y sociales. España Digital 2025 5 contempla la puesta en marcha durante 2020-2022 de un conjunto de reformas estructurales que movilizarían un importante volumen de inversión pública y privada, en el entorno de los 70.000 millones de euros. La inversión pública en el periodo 2020-2022 se situaría en torno a los 20.000 millones de euros, de los cuales 15.000 millones de euros, aproximadamente, corresponderían a los diferentes programas y nuevos instrumentos comunitarios de financiación del Plan de Recuperación Next Generation EU 6 , que establece que la digitalización tiene que ser uno de los ejes principales para movilizar estos recursos. A ello se sumaría la inversión prevista por el sector privado, de unos 50.000 millones de euros, en un escenario moderado de despliegue de las medidas. España Digital 2025 centrará sus objetivos en el impulso a la transformación digital del país como una de las palancas fundamentales para relanzar el crecimiento económico, la reducción de la desigualdad, el aumento de la productividad y el aprovechamiento de todas las oportunidades que brindan las nuevas tecnologías, con respeto a los valores constitucionales y europeos, y la protección de los derechos individuales y colectivos. Esta agenda consta de cerca de 50 medidas que se articulan en torno a diez ejes estratégicos, entre los cuales merecen destacarse, en la materia que nos ocupa: 3 Comisión Europea, SHAPING EUROPE’S DIGITAL FUTURE. https://ec.europa.eu/info/sites/ default/files/communication-shaping-europes-digital-future-feb2020_en_4.pdf 4 COMUNICACIÓN DE LA COMISIÓN AL PARLAMENTO EUROPEO, AL CONSEJO, AL COMITÉ ECONÓMICO Y SOCIAL EUROPEO Y AL COMITÉ DE LAS REGIONES Brújula Digital 2030: el enfoque de Europa para el Decenio Digital. COM (2021) 118. Bruselas, 09.03.2021. REGLAMENTO (UE) 2021/694 DEL PARLAMENTO EUROPEO Y DEL CONSEJO de 29 de abril de 2021 por el que se establece el Programa Europa Digital y por el que se deroga la Decisión (UE) 2015/2240, DOUE L 166, 11.05.2021. 5 https://avancedigital.mineco.gob.es/programas-avance-digital/Documents/EspanaDigital_ 2025_TransicionDigital.pdf 6 https://ec.europa.eu/info/strategy/recovery-plan-europe_es © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] 506 ÁLVARO SÁNCHEZ BRAVO 2.1. Conectividad digital Garantizar una conectividad digital adecuada para toda la población, promoviendo la desaparición de la brecha digital entre zonas rurales y urbanas, con el objetivo de que el 100% de la población tenga cobertura de 100 Mbps en 2025. Deberán fomentarse el uso de redes y servicios digitales, ya que la ir más allá de la disponibilidad de infraestructuras de banda ancha para toda la población. La conectividad entre personas, objetos y empresas sólo existe si las infraestructuras son utilizadas. Es necesario fomentar la utilización de los servicios digitales, comenzando por los usos productivos, buscando apoyo en las fortalezas del sector digital español de servicios de comunicaciones electrónicas, especialmente en términos de identidad digital segura, al objeto de que cualquier persona en cualquier territorio tenga acceso a estos servicios. Para ello, se explorará la posibilidad de desarrollar bonos de conectividad social para los colectivos más vulnerables, facilitando así la integración. Una exigencia vendrá determinada por la transposición de la Directiva 2018/1972, del Parlamento Europeo y del Consejo, de 11 de diciembre de 2018 por la que se establece el Código Europeo de las Comunicaciones Electrónicas 7 . A este respecto, se ha elaborado el Proyecto de Ley de Telecomunicaciones 8 , 7 Directiva (UE) 2018/1972 del Parlamento Europeo y del Consejo, de 11 de diciembre de 2018, por la que se establece el Código Europeo de las Comunicaciones Electrónicas (versión refundida). DOUE L 321, 17.12.2018. 8 Las modificaciones incorporadas proporcionan mayor seguridad jurídica y flexibilidad a los operadores, mejoran la protección de los derechos de los usuarios y refuerzan las competencias de la Comisión del Mercado de las Telecomunicaciones (CMT). Operadores. El Proyecto de Ley crea un marco de mayor seguridad jurídica e incentivador de las inversiones. En concreto, se crea un marco más adecuado para la realización de inversiones para el despliegue de redes de nueva generación, que permita ofrecer servicios innovadores y tecnológicamente más adecuados a las necesidades de los ciudadanos. Estas redes, tanto fijas como móviles, permitirán ofrecer a los ciudadanos velocidades de acceso a Internet superiores a los 100 Mbits por segundo. Asimismo, establece que la Comisión del Mercado de Telecomunicaciones, a la hora de imponer obligaciones y condiciones de acceso a las redes debe tener en cuenta el riesgo inversor de los operadores. Igualmente, se promueve un uso más eficaz y eficiente del espectro radioeléctrico mediante la generalización de los principios de neutralidad tecnológica (utilización de cualquier tecnología) y de servicios (prestación de cualquier servicio). Respecto a la designación de operador encargado de la prestación del servicio universal, se establece el mecanismo de licitación, mientras que hasta ahora sólo se acudía a este mecanismo si había varios interesados que así lo habían manifestado tras un proceso de consulta. Además, los operadores que pongan su red a disposición de otras entidades para la realización de emisiones radioeléctricas deberán comprobar, previamente al inicio de dichas emisiones, que estas entidades dispongan del correspondiente título habilitante del dominio público radioeléctrico, lo que constituye una importante medida para evitar las emisiones ilegales de radio y televisión. Usuarios. Las modificaciones introducidas refuerzan los derechos de los usuarios y su protección. Así, se establece que los usuarios finales tendrán derecho a recibir mayor información sobre las (…) © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] CAPÍTULO XX 507 que está en debate, en el momento de escribir este estudio, en sede parlamentaria. Con el objetivo de convertir a España en un polo de atracción de infraestructuras digitales transfronterizas, tanto puntos de amarre de cables submarino como infraestructuras de almacenamiento y procesamiento de datos, el Gobierno adoptará un Plan de Infraestructuras Transfronterizas. 2.2. Seguir liderando el despliegue de la tecnología 5G en Europa e incentivar su contribución al aumento de la productividad económica, al progreso social y a la vertebración territorial Se fija como objetivo que en 2025 el 100% del espectro radioeléctrico esté preparado para el 5G. La implementación de servicios e infraestructuras 5G no se confina en el desarrollo de una nueva generación de telefonía móvil, sino que plantean nuevos desafíos, aún no claramente determinados, sobre la transformación industrial y social por sus características de capacidad, baja latencia y densidad de conexiones entre objetos. Estas características técnicas favorecerán usos y nuevos modelos de producción, cambio de las relaciones en las cadenas globales de la economía y el desarrollo de aplicaciones de mayor riqueza en contenidos e interactividad entre personas y objetos, aún en exploración en todo el mundo. Reforzando la posición de liderazgo de España en el desarrollo y despliegue de redes 5G, es necesario desarrollar un entorno de confianza para el despliegue de estos nuevos servicios, lo que contribuirá a un despliegue temprano de las redes 5G por parte de los operadores económicos. características y condiciones de provisión de los servicios y sobre la calidad con que se prestan (precios, limitaciones de las ofertas, etcétera). También se protegen de modo más eficaz los datos de carácter personal. Por ejemplo, se aplican las normas de protección de datos a aquellos que se obtengan de las etiquetas de los productos comerciales mediante dispositivos de identificación que hacen uso del espectro radioeléctrico (RFID). Además, establece que se debe dar más información al usuario sobre los archivos o programas informáticos (“cookies”) que se almacenan en los ordenadores y demás dispositivos empleados para acceder a Internet con el propósito de facilitar la navegación por la red. La nueva normativa precisa que el cambio de operador manteniendo el número (portabilidad) deberá realizarse en el plazo de un día laborable. Asimismo, mejora el acceso a los servicios para personas con discapacidad o con necesidades sociales especiales, estableciendo que deberá ser en condiciones equivalentes al del resto de los usuarios. Con este Proyecto de Ley, esta garantía se extiende a todos los operadores, mientras que antes el acceso sólo se garantizaba para el operador designado para el servicio universal. Por otra parte, se define como infracción el incumplimiento por los operadores de las resoluciones que ponen fin al procedimiento de reclamación de los usuarios. En la Ley de Economía Sostenible se incluye, como parte integrante del servicio universal de telecomunicaciones, que la conexión debe permitir comunicaciones de datos de banda ancha a una velocidad de un Mbit por segundo. Vid. https://www.lamoncloa.gob.es/consejodeministros/paginas/enlaces/130511-enlaceteleco.aspx © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] 508 ÁLVARO SÁNCHEZ BRAVO Entre las medidas desarrolladas en este eje estratégico, merece destacarse, y siguiendo lo establecido por la Unión europea 9 , el desarrollo de un marco de medidas comunes para mitigar los riesgos de seguridad en las redes 5G, donde se procura mantener un balance entre las medidas de ciberseguridad 10 y el mantenimiento de una competencia efectiva. Sobre esta cuestión volveremos más adelante, al considerar el eje estratégico 4. 2.3. Reforzar las competencias digitales de los trabajadores y del conjunto de la ciudadanía Como indicamos anteriormente, el desarrollo de programas digitales debe estar abierto para todos, ser inclusivos y no discriminatorios. Los ciudadanos necesitan competencias digitales, siquiera básicas, para poder desenvolverse con confianza en las redes, comunicarse, informarse o realizar operaciones económicas o entrar en contacto con las administraciones públicas. No obstante los datos evidencian como en España todavía un 43% de la población carece de estas competencias básicas, lo que puede determinar que una amplia capa de población sufra exclusión digital. Además, se requieren competencias digitales avanzadas para poder desarrollar actividades más avanzadas. Especialmente habrá que considerar la situación de la población activa, donde ya en numerosos sectores, son además necesarias competencias digitales específicas ligadas al trabajo desempeñado, como el manejo de herramientas digitales complejas. A sensu contrario, los empleados con competencias digitales limitadas o nulas tienen más riesgo de perder su empleo, acentuándose aún más esta brecha. Por otro lado, existen sectores estratégicos que trabajan directamente en el mantenimiento y operación de sistemas digitales o en el diseño e implementación de las propias herramientas digitales, lo que crea un nicho de empleo de alto valor añadido, con alta cualificación y salarios. Por ello, se impone el sistema educativo y la formación a lo largo de toda la vida, asumiendo lo establecido en el Plan Europeo de Educación Digital 11 . 9 Recomendación (UE) 2019/534 de la Comisión, de 26 de marzo de 2019, Ciberseguridad de las redes 5G. DOUE L 188. 20.03.2019. 10 COMUNICACIÓN DE LA COMISIÓN AL PARLAMENTO EUROPEO, AL CONSEJO, AL COMITÉ ECONÓMICO Y SOCIAL EUROPEO Y AL COMITÉ DE LAS REGIONES Despliegue seguro de la 5G en la UE - Aplicación de la caja de herramientas de la UE. COM (2020) 50. Bruselas, 29.01.2020. 11 (1) el alumnado que actualmente cursa sus estudios primarios o secundarios o estudios de formación profesional debe tener garantías de que adquirirán en el sistema educativo las competencias digitales demandadas por la sociedad para desarrollar una vida plena, personal y laboralmente; (2) la Formación Profesional y la Universidad, junto con las empresas, deberán (…) © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] CAPÍTULO XX 509 Se contempla, en primer lugar, la implementación del Programa “Educa en Digital” 12 , que consiste en un conjunto de acciones para apoyar la Transformación Digital del sistema educativo mediante la dotación de dispositivos, recursos educativos digitales, adecuación de las competencias digitales de los docentes, y acciones que conlleven la aplicación de la Inteligencia Artificial a la educación personalizada. En segundo lugar, se ha elaborado un Plan Nacional de Competencias Digitales 13 , que se vertebra en cuatro ejes de actuación que actúan sobre un conjunto de retos a bordar: (a) la formación digital transversal para la ciudadanía (ciudadanía digital), con énfasis en la capacitación digital de mujeres y niñas, para que todas las personas puedan, entre otras acciones, comunicarse, comprar, realizar transacciones o relacionarse con las Administraciones utilizando las tecnologías digitales con autonomía y suficiencia; (b) el desarrollo de competencias digitales para la educación, desde la digitalización de la escuela hasta la universidad, pasando por la Formación Profesional; (c) la formación en competencias digitales a lo largo de la vida laboral (upskilling y reskilling, tanto de las personas desempleadas como empleadas), con foco en el desarrollo de competencias digitales para las pymes; y (d) el fomento de los especialistas TIC 14 . Por último, el Plan Uni-Digital se estructura en cuatro líneas estratégicas que se basan en desarrollar proyectos de infraestructuras y servicios TIC, diseñar proyectos de desarrollo de software, generar medidas de apoyo, ayudas e incentivos a la digitalización y la docencia, y un cuarto bloque de medidas estratégicas y de coordinación. De esta manera, algunos de los principales realizar las adaptaciones necesarias para garantizar que los trabajadores actuales y futuros dispongan de las competencias requeridas; y (3) los agentes y organizaciones sociales, y las Administraciones Públicas deben actuar para incorporar las competencias digitales en la formación a lo largo de la vida. COMUNICACIÓN DE LA COMISIÓN AL PARLAMENTO EUROPEO, AL CONSEJO, AL COMITÉ ECONÓMICO Y SOCIAL EUROPEO Y AL COMITÉ DE LAS REGIONES sobre el Plan de Acción de Educación Digital. COM (2018) 22. Bruselas, 17.01.2018. 12 Resolución de 7 de julio de 2020, de la Subsecretaría, por la que se publica el Convenio entre el Ministerio de Educación y Formación Profesional, el Ministerio de Asuntos Económicos y Transformación Digital y la Entidad Pública Empresarial Red.es, M.P., para la ejecución del programa “Educa en Digital”. BOE 189, 10.07.2020. 13 Gobierno de España. Plan Nacional de Competencias Digitales. https://portal.mineco.gob.es/RecursosArticulo/mineco/ministerio/ficheros/210127_plan_nacional _de_competencias_digitales.pdf https://portal.mineco.gob.es/RecursosArticulo/mineco/ministerio/ficheros/210127_plan_nacional _de_competencias_digitales.pdf 14 https://planderecuperacion.gob.es/politicas-y-componentes/componente-19-plan-nacional-de- competencias-digitales-digital-skills © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] 516 ÁLVARO SÁNCHEZ BRAVO El 14 de julio de 2021 se presentó la Carta de Derechos Digitales 24 , que como indica el propio texto, “no tiene carácter normativo”, sino que propone “un marco de referencia para la acción de todos los poderes públicos, que, siendo compartido por todos, permita navegar el entorno digital aprovechando y desarrollando todas sus potencialidades y oportunidades”. Además, “pretende servir de guía para futuros proyectos legislativos y desarrollar políticas públicas más justas, que nos protejan a todos” 25 . A mayor abundamiento, se explicita claramente como “no se trata necesariamente de descubrir derechos digitales pretendiendo que sean algo distinto de los derechos fundamentales ya reconocidos o de que las nuevas tecnologías y el ecosistema digital se erijan por definición en fuente de nuevos derechos. La persona y su dignidad son la fuente permanente y única de los mismos y la clave de bóveda tanto para proyectar el Ordenamiento vigente sobre la realidad tecnológica, como para que los poderes públicos definan normas y políticas públicas ordenadas a su garantía y promoción…la Carta de derechos digitales que se presenta no trata de crear nuevos derechos fundamentales sino de perfilar los más relevantes en el entorno y los espacios digitales o describir derechos instrumentales o auxiliares de los primeros. Se trata de un proceso naturalmente dinámico dado que el entorno digital se encuentra en constante evolución con consecuencias y límites que no es fácil predecir” 26 . Los derechos se articulan en torno a cinco grandes principios: Respecto a los derechos de libertad, el texto incluye el derecho a la identidad del entorno digital, a la protección de datos 27 , al pseudonimato, el derecho a no ser localizado y perfilado, el derecho a la ciberseguridad, o el derecho a la herencia digital. En cuanto a los derechos de igualdad, la Carta recoge el derecho a la igualdad y a la no discriminación en el entorno digital, el derecho de acceso a Internet y el derecho de accesibilidad universal en el entorno digital. El texto también promueve la protección de menores en el entorno digital para que tutores o progenitores velen porque los menores de edad hagan un uso equilibrado de entornos digitales, garanticen el adecuado desarrollo de su personalidad y preserven su dignidad; además promueve el fomento del 24 https://www.lamoncloa.gob.es/presidente/actividades/Documents/2021/140721-Carta_ Derechos_Digitales_RedEs.pdf 25 https://www.lamoncloa.gob.es/presidente/actividades/Paginas/2021/140721-derechos-digitales.aspx 26 Ibíd. 27 Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales. BOE 294. O6.12.2018. Especialmente, Título X. © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] CAPÍTULO XX 517 acceso a todos los colectivos y la promoción de políticas públicas para eliminar brechas de acceso al entorno digital. El derecho a la neutralidad de la red, a recibir libremente información veraz, el derecho a la participación ciudadana por medios digitales y el derecho a la educación digital son otras de las novedades del texto en el apartado de derechos de participación y conformación del espacio público. En el ámbito laboral, la Carta de Derechos Digitales recoge el derecho a la desconexión digital, al descanso y a la conciliación de la vida personal y familiar, la evaluación de impacto en el uso de los algoritmos o el desarrollo de condiciones óptimas para la creación de espacios de pruebas controladas (sandbox). En relación con los derechos en entornos específicos, se incluyen contenidos muy novedosos y pioneros. Es el caso los derechos ante la inteligencia artificial. El texto recoge que la IA deberá asegurar un enfoque centrado en las personas y su inalienable dignidad y que en el desarrollo de los sistemas de inteligencia artificial se deberá garantizar el derecho a la no discriminación. También se incluyen los derechos digitales en el empleo de las neurotecnologías para, entre otras cuestiones, garantizar el control de cada personal sobre su propia identidad, asegurar la confidencialidad y asegurar que las decisiones y procesos basados en estas tecnologías no sean condicionados por el suministro de datos 28 . Como garantías se establecen, entre otras, el derecho de todas las personas a la tutela administrativa y judicial de sus derechos en los entornos digitales. Especial importancia debía prestarse a la regulación normativa aplicable al trabajo a distancia, estableciendo una normación ad hoc que garantizara la seguridad jurídica y que permita el desarrollo de esta modalidad laboral, como medio de organización empresarial que promueva la productividad y la eficiencia, garantizando la protección de los derechos de los trabajadores ante los nuevos entornos digitales. Esta previsión se ha visto colmada con la aprobación de la Ley de Trabajo a Distancia 29 , que nace con el objetivo de proporcionar una regulación suficiente, transversal e integrada en una norma sustantiva única que dé respuestas a diversas necesidades, equilibrando el uso de estas nuevas formas de prestación de trabajo por cuenta ajena y las ventajas que suponen para 28 https://administracionelectronica.gob.es/pae_Home/pae_Actualidad/pae_Noticias/Anio2021/ Julio/Noticia-2021-07-15-El-Gobierno-de-Espana-adopta-Carta-Derechos-Digitales.html 29 Ley 10/2021, de 9 de julio, de trabajo a distancia. BOE 164. 10.07.2021. © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] 518 ÁLVARO SÁNCHEZ BRAVO empresas y personas trabajadoras, de un lado, y un marco de derechos que satisfagan, entre otros, los principios sobre su carácter voluntario y reversible, el principio de igualdad de trato en las condiciones profesionales, en especial la retribución incluida la compensación de gastos, la promoción y la formación profesional, el ejercicio de derechos colectivos, los tiempos máximos de trabajo y los tiempos mínimos de descanso, la igualdad de oportunidades en el territorio, la distribución flexible del tiempo de trabajo, así como los aspectos preventivos relacionados básicamente con la fatiga física y mental, el uso de pantallas de visualización de datos y los riesgos de aislamiento. 2.7. Transitar hacia una economía del dato, garantizando la seguridad y privacidad y aprovechando las oportunidades que ofrece la Inteligencia Artificial El big data está en el centro de todas las grandes transformaciones que la digitalización tiene en la sociedad actual. Los datos pueden ser creados por personas o generados por máquinas, como sensores que recopilan información climática, imágenes de satélite, fotografías y videos digitales, registros de transacciones de compra, señales de GPS y más. Cubre muchos sectores, desde la salud hasta el transporte y la energía. La generación de valor en las diferentes etapas de la cadena de valor de los datos estará en el centro de la futura economía del conocimiento. El buen uso de los datos también puede brindar oportunidades a sectores más tradicionales como el transporte, la salud o la manufactura 30 . Ahora bien, debe darse prioridad a las personas en el desarrollo tecnológico y promoverlos valores y derechos democráticos en el mundo digital 31 . El uso extendido y la gestión de los datos mediante la acción de los algoritmos y sistemas autónomos tienen múltiples implicaciones en el plano ético y moral que exige procesos y mecanismos de control que protejan nuestros valores, principios y derechos. Igualmente, se establecen otros, como aumentar la digitalización de las empresas, con especial atención a las micropymes y a las start-ups, acelerar la digitalización del modelo productivo mediante proyectos tractores de transformación digital en sectores económicos estratégicos como el Agroalimentario, Movilidad, Salud, Turismo, Comercio o Energía, entre otros; y 30 https://digital-strategy.ec.europa.eu/en/policies/big-data 31 Propuesta de REGLAMENTO DEL PARLAMENTO EUROPEO Y DEL CONSEJO, sobre gobernanza europea de datos (Ley de gobernanza de datos), COM (2020) 767. Bruselas, 25.11.2020. © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] CAPÍTULO XX 519 mejorar el atractivo de España como plataforma audiovisual europea para generar negocio y puestos de trabajo. Además, España Digital 2025 quiere contribuir a cerrar las diferentes brechas digitales que se han ensanchado en los últimos años, ya sea por motivos socioeconómicos, de género, generacionales, territoriales, o medioambientales, y que se han puesto de manifiesto durante la pandemia. Una misión que se encuentra alineada a los Objetivos de Desarrollo Sostenible (ODS) y la Agenda 2030 de Naciones Unidas. 3. ESTRATEGIA NACIONAL DE INTELIGENCIA ARTIFICIAL La Inteligencia Artificial (IA) se está desarrollando a alta velocidad en todo el planeta, debido en parte, a la gran proliferación de datos. Sin embargo, su extremada versatilidad es también una fuente potencial de riesgos (discriminación provocada por conjuntos de datos sesgados; decisiones automatizadas difíciles de entender; intrusión en la vida privada de las personas; o utilización con propósitos delictivos) si no se respetan determinadas reglas (Sánchez Bravo, 2020). El aumento de la capacidad computacional hizo que fuera posible la implementación de algoritmos cada vez más complejos, potentes y flexibles. Al mismo tiempo, la amplia disponibilidad de datos dio lugar a grandes avances en el campo de la inteligencia artificial (IA). Los datos están, por tanto, en el centro de esta transformación. Pero la forma en que se recojan y utilicen los datos debe situar los intereses de las personas en primer lugar, conforme los valores, derechos fundamentales las normas jurídicas propias de Estados democráticos de Derecho. Uno de los más relevantes objetivos de los sistemas modernos de IA es distinguir y extraer patrones de datos sin procesar para construir su propio conocimiento. Frente a los sistemas expertos, la solución actual no es trabajar con una base de datos de conocimiento, sino aprender conocimiento. Esa capacidad de la IA para aprender se conoce como aprendizaje de máquina y permiten que las computadoras resuelvan problemas que requieren cierta comprensión del mundo real y tomen decisiones situacionales y subjetivas. El aprendizaje supone que las máquinas puedan encontrar patrones diferentes de los generalmente asimilados por los cerebros humanos 32 . 33 32 Comisión Económica para América Latina y el Caribe (CEPAL), Datos, algoritmos y políticas: la redefinición del mundo digital (LC/CMSI.6/4), Santiago, 2018, p. 169-176. 33 La IA puede utilizarse para el desarrollo económico y social, basado en los Objetivos de Desarrollo del Milenio (ODM), identificándose cuatro elementos que enmarcan los efectos de la IA en el desarrollo: (…) © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] 520 ÁLVARO SÁNCHEZ BRAVO El crecimiento de la capacidad informática y la disponibilidad de datos, así como los avances de los algoritmos hacen de la inteligencia artificial una de las tecnologías más estratégicas del siglo XXI. Transferencias de inteligencia. 1) La inteligencia a distancia hace referencia a que las modernas redes de telecomunicaciones permiten aplicar a distancia sistemas de inteligencia artificial altamente entrenados. La inteligencia a distancia es la capacidad de las tecnologías de inteligencia artificial (IA), en combinación con las telecomunicaciones, para remediar la carencia de recursos en campos que no cuentan con personal suficiente o han sido poco investigados. Esto es especialmente importante si se considera que el aprendizaje multitarea y de transferencia permite reutilizar la inteligencia generada u obtenida en otro lugar. Una de las aplicaciones pioneras es el uso de la IA en los sectores de educación y salud, como en el caso de la educación a distancia automatizada y los diagnósticos a distancia para tratar una serie de enfermedades (cataratas congénitas, tuberculosis y cáncer de mama, entre otras). En el ámbito de la educación, las soluciones de IA permiten automatizar los sistemas de educación y tutoría, proceso que a su vez permite soluciones de bajo costo a gran escala. Se pueden automatizar actividades especialmente estructuradas, como el aprendizaje de idiomas, la programación de software o las habilidades analíticas cuantitativas. Los sistemas de IA de aprendizaje posibilitan la masificación de una experiencia de educación individualizada para un curso estructurado. La inteligencia a distancia puede revolucionar la industria de la salud al incrementar la eficiencia y la cobertura. 2) La inteligencia local se refiere al hecho de que los sistemas IA se pueden aplicar de forma autónoma localmente, adaptándose al contexto y requisitos locales. Casos emblemáticos son los relacionados con el cambio climático, igualdad de género en el lugar de trabajo y en el aula y ciudades inteligentes. Manipulación de la realidad. 3) La realidad aumentada, virtual y duplicada se refiera al hecho de que la IA permite crear los llamados gemelos digitales de aspectos de la realidad que luego puedan usarse para mejorar nuestra comprensión de la realidad o duplicar aspectos ésta. En muchas aplicaciones prácticas, la inteligencia a distancia y local se combina cada vez más con el uso de la realidad virtual y aumentada. Así los vehículos autónomos, por ejemplo, pueden usar mapas tridimensionales para tomar decisiones en tiempo real. Las realidades virtuales guiadas por la IA también se utilizan para fomentar la educación y la igualdad de género. Más allá de las realidades aumentadas y virtuales, la IA también se está utilizando para duplicar el diseño de átomos del mundo real y objetos moleculares, como los alimentos. Se trata de duplicar la estructura de un determinado artículo para desarrollar una versión más sostenible de este. La duplicación se podría utilizar para combatir el hambre. 4) La realidad de grano fino hace referencia al hecho de que la huella digital proporciona mapas cada vez más detallados de la realidad y el aprendizaje de máquina permite explotar la información resultante para impulsar el logro de los objetivos de desarrollo. Una de las formas en que la IA puede proporcionar información más detallada sobre áreas específicas en materia de desarrollo económico y social es refinando nuestra comprensión de la realidad mediante una nueva manera de recopilar datos con mayor granularidad. El aprendizaje automatizado de representación permite transformar detalles recién obtenidos en características útiles. Ibídem. © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] CAPÍTULO XX 521 A este respecto, y como medida fundamental, entre otras, se ha elaborado la Estrategia Nacional de Inteligencia Artificial (ENIA) 34 . Por IA debe entenderse, conforme a los señalado por la Comisión Europea, “el software que se desarrolla empleando una o varias de las técnicas y estrategias que figuran en el anexo I y que puede, para un conjunto determinado de objetivos definidos por seres humanos, generar información de salida como contenidos, predicciones, recomendaciones o decisiones que influyan en los entornos con los que interactúa” 35 . Como señala ENIA, por una serie de factores, que parten de sistema de programación humana y esquemas de decisión predeterminados, se ha puesto en marcha un proceso sin precedentes, y parece que irreversible, de expansión de la IA que está modificando nuestros sistemas económicos, sociales y jurídicos, y que encuentra su apoyo en determinados elementos configuradores de esta nueva realidad: El enorme crecimiento en la cantidad de datos disponibles; los avances en la potencia y capacidad de los sistemas de computación y almacenamiento; y la investigación y desarrollo con éxito de nuevos algoritmos y métodos de aprendizaje automático 36 . La situación en nuestro país respecto a la IA ha mejorado considerablemente en los últimos años, con relevantes inversiones en infraestructuras y tecnologías de la información y la comunicación, pero todavía existen relevantes retos que es necesario considerar: Así, es necesario avanzar en los siguientes sectores estratégicos: – Aumentar las competencias digitales de la población, en especial la de las personas en situación o riesgo de exclusión social. 34 Estrategia Nacional de Inteligencia Artificial 2020. https://www.lamoncloa.gob.es/presidente/actividades/Documents/2020/ENIA2B.pdf 35 Propuesta de REGLAMENTO DEL PARLAMENTO EUROPEO Y DEL CONSEJO POR EL QUE SE ESTABLECEN NORMAS ARMONIZADAS EN MATERIA DE INTELIGENCIA ARTIFICIAL (LEY DE INTELIGENCIA ARTIFICIAL) Y SE MODIFICAN DETERMINADOS ACTOS LEGISLATIVOS DE LA UNIÓN. COM (2021) 206. 21.04.2021. Art. 3.1. Por su parte, el Anexo I establece: “ANEXO I. TÉCNICAS Y ESTRATEGIAS DE INTELIGENCIA ARTIFICIAL mencionados en el artículo 3, punto 1: Estrategias de aprendizaje automático, incluidos el aprendizaje supervisado, el no supervisado y el realizado por refuerzo, que emplean una amplia variedad de métodos, entre ellos el aprendizaje profundo. Estrategias basadas en la lógica y el conocimiento, especialmente la representación del conocimiento, la programación (lógica) inductiva, las bases de conocimiento, los motores de inferencia y deducción, los sistemas expertos y de razonamiento (simbólico). Estrategias estadísticas, estimación bayesiana, métodos de búsqueda y optimización. 36 Estrategia Nacional de Inteligencia Artificial 2020, p. 2. https://www.lamoncloa.gob.es/ presidente/actividades/Documents/2020/ENIAResumen2B.pdf p.2 © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] 522 ÁLVARO SÁNCHEZ BRAVO – Acelerar la digitalización del tejido de pequeñas y medianas empresas (PYMEs). – Promover la creación de repositorios de datos y facilitar el acceso a los mismos. – Mejorar la eficiencia y productividad de los servicios públicos. – Estimular la colaboración e incrementar la inversión pública y privada en I+D+I. 37 . A este respecto, el plan estatal resalta la capital importancia que se otorga a los poderes públicos y su liderazgo, pues “en la medida en que contribuye a poner el desarrollo tecnológico al servicio de la sociedad y como un factor de salvaguarda de nuestro estado de bienestar social. Sanidad, Educación, Justicia, dependencia y sistema de prestaciones son pilares y marca distintiva de España como país. España busca que la IA contribuya a consolidar nuestro estado de bienestar, aportando a su vez los datos y activos necesarios para impulsar la innovación y un desarrollo tecnológico por y para la sociedad, en un círculo virtuoso entre la tecnología y nuestro sistema político, social, económico e industrial” 38 . Para ello, ENIA se diseña, no sólo como una estrategia de investigación científica, y/o un campo prioritario de innovación empresarial y desarrollo industrial, sino que pretende convertir a la IA en el gran vector de cambios estructurales en la sociedad española. Para ello, se requiere, siguiendo lo explicitado en la Estrategia, “una aproximación interdisciplinar centrada en las personas y el medio ambiente, que incorpore las distintas perspectivas de la Ingeniería en Informática, las ingenierías técnicas, las matemáticas, la biología, la neurociencia, la sociología, psicología, la economía, la física, las ciencias terrestres y ambientales, el derecho y las humanidades, con el fin de impulsar el despliegue de la IA en un marco que preserve nuestros valores democráticos, y el respeto al marco de derechos individuales y colectivos” 39 . ENIA se articula en torno a siete Objetivos Estratégicos (OE): – Excelencia científica e innovación en Inteligencia Artificial. Situar a España como país comprometido a potenciar la excelencia científica y la innovación en Inteligencia Artificial. 37 Ídem, p. 3. 38 Ibídem . 39 Estrategia Nacional de Inteligencia Artificial 2020, cit., p. 10. © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] CAPÍTULO XX 523 – Proyección de la lengua española. Liderar a nivel mundial el desarrollo de herramientas, tecnologías y aplicaciones para la proyección y uso de la lengua española en los ámbitos de aplicación de la IA. – Creación de empleo cualificado. Promover la creación de empleo cualificado, impulsando la formación y educación, estimulando el talento español y atrayendo el talento global. – Transformación del tejido productivo. Incorporar la IA como factor de mejora de la productividad de la empresa española, de la eficacia en la Administración Pública, y como motor del crecimiento económico sostenible e inclusivo. – Entorno de confianza en relación a la Inteligencia Artificial. Generar un entorno de confianza en relación a la IA, tanto en el plano de su desarrollo tecnológico, como en el regulatorio y en el de su impacto social. – Valores humanistas en la Inteligencia Artificial. Impulsar el debate a nivel global sobre el desarrollo tecnológico de valores humanistas (Human-Centered AI), centrado en velar por el bienestar de la sociedad a la hora de realizar avances o desarrollos tecnológicos, creando y participando en foros y actividades divulgativas para el desarrollo de un marco ético que garantice los derechos individuales y colectivos de la ciudadanía. – Inteligencia Artificial inclusiva y sostenible. Potenciar la IA inclusiva y sostenible, como vector transversal para afrontar los grandes desafíos de nuestra sociedad, específicamente para reducir la brecha de género, la brecha digital, apoyar la transición ecológica y la vertebración territorial. En la misma línea incorpora la necesidad de que el diseño de estos sistemas sea robusto, seguro e imparcial, para avanzar hacia una IA fiable, explicable, transparente e inclusiva que asegure el cumplimiento de los derechos fundamentales y de la regulación aplicable, así como el respeto a los principios y valores fundamentales, y tenga en cuenta las aspiraciones colectivas de la ciudadanía 40 . 40 https://www.boe.es/boe/dias/1999/10/20/pdfs/A36825-36830.pdf en el que se dispuso que los derechos fundamentales son el fundamento básico para garantizar la “primacía del ser humano” en un contexto de cambio tecnológico, y es de manera similar, como se ha propuesto la “Guía de ética de AI” https://ec.europa.eu/digital-single-market/en/news/draft-ethics-guidelines-trustworthy-ai producida por el Grupo de expertos de alto nivel sobre IA de la Comisión Europea. © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] 524 ÁLVARO SÁNCHEZ BRAVO Estos objetivos se articularán, en el período 2020-2025, en seis Ejes de Actuación Estratégicos (EAE), que definirán las líneas de actuación en cada uno los EAE. – Impulso de la investigación científica, desarrollo tecnológico e innovación en IA. Entre las medidas dirigidas a generar este impulso, se anuncia la Red Española de Excelencia en IA, un programa de ayudas a empresas para el desarrollo de soluciones en IA y datos, la creación de un Programa de Misiones de I+D+i en IA o el refuerzo de la red de Centros de Innovación Digital. – Fomento de las capacidades digitales, desarrollo del talento nacional y atracción del internacional. En este punto, se enuncian medidas tales como el desarrollo del Plan Nacional de Competencias Digitales o promover la formación a través de diversos programas. – Desarrollo de plataformas de datos e infraestructuras tecnológicas que den soporte a la IA. Con esta finalidad, se informa de la creación de la Oficina del Dato y del Chief Data Officer (un nuevo rol sobre el que cada vez escuchamos hablar más, sobre todo en otros países de la Unión Europea), o la creación de espacios compartidos de datos sectoriales e industriales y repositorios descentralizados y accesibles (que sigue la línea de la Estrategia de Datos de la Unión Europea). – Integración de la IA en las cadenas de valor para transformar el tejido empresarial. Para conseguir este objetivo, se prevé el lanzamiento de programas de ayudas para empresas para la incorporación de IA en los procesos productivos de las cadenas de valor, programas de impulso a la transferencia de innovación en IA (veremos a ver si esto se traduce en un mayor movimiento en las transacciones tecnológicas) o el lanzamiento de un fondo (fondo “NextTech”) de capital riesgo público-privado para impulsar el emprendimiento digital y crecimiento de empresas en IA. – Impulso del uso de la IA en la Administración Pública y en las misiones estratégicas nacionales, a través del fomento de las competencias en IA y su incorporación a la administración pública. – Establecimiento de un marco ético y normativo que garantice la protección de los derechos individuales y colectivos, con el bienestar social y la sostenibilidad. En este eje, se enmarca, entre otras cuestiones, el desarrollo de un sello nacional de calidad IA o el desarrollo de la Carta de Derechos Digitales o la puesta en marcha de un modelo de gobernanza nacional de la ética en la IA. © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected] CAPÍTULO XX 525 Esta somera exposición nos permite trazar las líneas fundamentales de esta relevante iniciativa patria, que como señala la propia ENIA, y ante la situación de crisis mundial, virus y guerra, la IA está jugando un papel primordial en las soluciones implementadas y las que están por llegar. Es muy importante aprender las lecciones sobre los principales problemas que se han puesto sobre la mesa, para tomar las medidas necesarias para corregir las disfuncionalidades, avanzar en nuevas medidas, y preparar los sistemas tecnológicos para para en el futuro puedan obtener aún mayor partido de la aplicación de la tecnología digital en general y de la IA en particular a gestiones de posibles, aunque no deseadas, situaciones de crisis como la actual. Concluyamos con las propias reflexiones de la ENIA, al señalar las lecciones aprendidas: “1. Contar con mecanismos que aseguren la recolección de datos de calidad y estandarizados. 2. Tomar siempre en consideración todos los aspectos relacionados con el uso de estos sistemas (privacidad y seguridad de datos, accesibilidad, usabilidad) 3. Asegurar que la IA se aplica sólo cuando es realmente necesaria y no despertar expectativas exageradas 4. Establecer metodologías para la evaluación formal y medición de resultados tras la aplicación de sistemas IA. 5. Incrementar la cooperación internacional y entre áreas de conocimiento (ciencias, tecnologías, humanidades, etc.) en la búsqueda de soluciones a este tipo de crisis”. 41 4. A MODO DE CONCLUSIÓN Las nuevas tecnologías digitales son ya una realidad. Instaladas en la práctica cotidiana y la consciencia tecnológica de nuestras sociedades su crecimiento es ciertamente exponencial. Pero ante todo creo necesario una última reflexión sobre la percepción de los fenómenos tecnológicos por los ciudadanos y el papel que en el mismo corresponde a las instancias públicas. En esta nueva sociedad digital, el ciudadano debe seguir siendo el centro de toda política, el alfa y el omega, el principio y el fin. Lo contrario es arrastrar los procesos tecnológicos a una despersonalización que los haga asfixiantes e inoperantes frente a los ciudadanos. La sociedad digital que se pretende implementar debe tener en el flujo de informaciones el instrumento indispensable para que los distintos pueblos y sociedades, se conozcan, se integren y comportan ideales e inspiraciones comunes. El intercambio de información, de informaciones de calidad (big data cualificado), es la base sobre la que fomentar el respeto mutuo, la tolerancia y la consecución de metas comunes, sin renuncia a la idiosincrasia propia. La información puede 41 Estrategia Nacional de Inteligencia Artificial 2020, cit., p. 84. © Ediciones Laborum - Licencia a Universidad de Sevilla Biblioteca de Derecho y Ciencias del Trabajo, [email protected]