Diseño de un Grado en Ciberseguridad e Inteligencia Artificial

Dise˜ no de un Grado en Ciberseguridad e Inteligencia Artificial Rodrigo Rom´ an∗, Isaac Agudo†, Rub´ en R´ ıos‡y Javier L´ opez§ NICS Lab, Universidad de M´ alaga Email: ∗[email protected], †[email protected], ‡[email protected], §ja[email protected] Resumen—La ciberseguridad y la inteligencia artificial son disciplinas estrechamente relacionadas con una importancia cada vez mayor, y a su vez con una demanda laboral creciente a nivel mundial. Este art´ ıculo se centra en uno de los esfuerzos para combatir dicha demanda: el proceso de creaci´ on del Grado en Ciberseguridad e Inteligencia Artificial de la Universidad de M´ alaga, pionero en Espa˜ na, el cual comenz´ o a impartirse en el curso acad´ emico 2023/24. Para ello, se describe la relaci´ on entre ambas disciplinas a nivel estrat´ egico, regulatorio y tecnol´ ogico, la definici´ on de los planes de estudio del grado incluyendo las fuentes de informaci´ on consultadas, y un resumen de los contenidos del grado detallando aspectos espec´ ıficos de su dise˜ no. Con ello esperamos poner de relieve la importancia de proporcionar ofertas formativas espec´ ıficas a nivel de grado para solventar la brecha laboral en estas disciplinas. Index Terms—Grado, Ciberseguridad, Inteligencia Artificial, IA, Docencia Tipo de contribuci´ on: Formaci´ on e innovaci´ on educativa I. INTRODUCCI´ ON La ciberseguridad es, a d´ ıa de hoy, uno de los pilares esenciales para que nuestro ecosistema digitalizado e hiperconectado se mantenga s´ olido. Esta importancia se ve reflejada en las m´ ultiples regulaciones, estrategias de I+D+i, inversiones, y programas de formaci´ on existentes tanto a nivel nacional como internacional. Por ejemplo, s´ olo en Europa en los ´ ultimos a˜ nos se han definido diversos reglamentos (como el “Cyber Resilience Act”, “Cybersecurity Act”, y el “Cyber Solidarity Act”) dentro del marco de la estrategia de ciberseguridad Europea [2] para responder y reaccionar ante las amenazas presentes y futuras que puedan afectar a nuestro entorno. No obstante, la necesidad de profesionales en ciberseguridad no para de aumentar: en Europa el d´ eficit de profesionales de la ciberseguridad se acerca al mill´ on de personas, mientras que a nivel mundial ya ha superado la cifra de los cuatro millones de personas [1]. Esto hace necesaria la creaci´ on de nuevas iniciativas formativas, a todos los niveles, que permitan afrontar esta demanda laboral. Existe otra disciplina, adem´ as de la ciberseguridad, cuya importancia no para de crecer a todos los niveles – tanto empresarial como acad´ emico, tecnol´ ogico, y pol´ ıtico. Nos referimos a la inteligencia artificial (IA), cuya capacidad para analizar grandes vol´ umenes de datos y predecir tendencias, entre otros aspectos, la ha convertido en un componente fundamental para la innovaci´ on y el desarrollo en m´ ultiples sectores (p.ej. fiabilidad de sistemas cr´ ıticos, salud, finanzas y educaci´ on). La inteligencia artificial se ha convertido en un elemento de importancia estrat´ egica en las relaciones y pol´ ıticas internacionales, generando la necesidad de marcos regulatorios como el “EU Artificial Intelligence Act” a nivel Europeo [4]. Sin embargo, al igual que con la ciberseguridad, la creciente importancia de esta disciplina ha generado una brecha laboral a nivel mundial – la cual afecta especialmente a Europa [3]. Para solventar dicha brecha laboral, ambas disciplinas, ciberseguridad e inteligencia artificial, est´ an contando con un n´ umero cada vez m´ as creciente de ofertas formativas a todos los niveles. Sin embargo, a´ un cuando ambas disciplinas est´ an ´ ıntimamente relacionadas, la disponibilidad de una formaci´ on que aunase ambas disciplinas a nivel de grado era extremadamente limitada a nivel mundial. Por esta raz´ on la Universidad de M´ alaga, dentro de la actualizaci´ on de sus planes de estudio, dise˜ n´ o el Grado en Ciberseguridad e Inteligencia Artificial, pionero en Espa˜ na, entre el a˜ no 2021 y 2022, el cual empez´ o a impartirse en el curso acad´ emico 2023/24 (septiembre de 2023). El objetivo de este art´ ıculo es describir el proceso de creaci´ on de dicho grado y sus contenidos finales, de cara a mostrar tanto la necesidad de integrar ambas disciplinas en el ´ ambito educativo como la importancia de disponer de estas ofertas formativas. Para ello, dentro de la secci´ on II se mostrar´ a la relaci´ on entre ambas disciplinas, analizando adem´ as las titulaciones de grado y m´ aster existentes a nivel Espa˜ nol y mundial. Posteriormente, la secci´ on III describir´ a el proceso de dise˜ no del grado, indicando tanto las fuentes de informaci´ on como el proceso completo de definici´ on de los planes de estudio y la propuesta de t´ ıtulo. La secci´ on IV ofrecer´ a un resumen de los contenidos del grado, incidiendo en aspectos espec´ ıficos de su dise˜ no e implantaci´ on. Finalmente, la secci´ on V mostrar´ a las conclusiones de nuestra exposici´ on. II. CIBERSEGURIDAD E INTELIGENCIA ARTIFICIAL II-A. Relaci´ on entre ambas disciplinas La naturaleza transversal tanto de la ciberseguridad como de la inteligencia artificial hacen que ambas disciplinas tengan una relaci´ on muy cercana entre ellas, relaci´ on cuya importancia no hace m´ as que crecer. Esta relaci´ on puede encontrarse en diversos ´ ambitos, tanto estrat´ egico como regulatorio y tecnol´ ogico. Un ejemplo de esta relaci´ on a nivel estrat´ egico la podemos encontrar dentro del ´ ambito de las estrategias de Investigaci´ on y Desarrollo en Tecnolog´ ıas de la Informaci´ on y las Comunicaciones (TIC) desarrolladas en Espa˜ na, Europa y el resto del mundo. Por ejemplo, en Europa, la Comisi´ on Europea desarroll´ o su “Plan Coordinado sobre Inteligencia Artificial”, en 2018, que fue revisado en 2021 [5]. En este plan, la ciberseguridad se considera como una de las ´ areas estrat´ egicas donde se debe integrar la inteligencia artificial. Dicha importancia se ratifica en la “Estrategia de Ciberseguridad” de la UE, desarrollada en diciembre de 2020 [6]. En cuanto a Espa˜ na, la “Estrategia Nacional de Inteligencia JNIC 2024 ISBN:978-84-09-62140-8 174 Artificial” (ENIA) [7], derivada del plan coordinado de la CE, es uno de los ejes de la “Agenda Espa˜ na Digital 2026” [8] y uno de los componentes centrales del “Plan de Recuperaci´ on, Transformaci´ on y Resiliencia” de la econom´ ıa espa˜ nola. En dichas estrategias se menciona expl´ ıcitamente que “la I+D+i en IA aplicada a la ciberseguridad (...) es esencial para nuestra sociedad”. M´ as all´ a del ´ ambito estrat´ egico, a nivel regulatorio podemos observar la importancia de la protecci´ on del ciclo de vida de la inteligencia artificial, y los peligros relacionados con los usos maliciosos de la misma. Por ejemplo, dentro de la Ley de Inteligencia Artificial de la Uni´ on Europea [4], se menciona expl´ ıcitamente como “la ciberseguridad desempe˜ na un papel crucial a la hora de garantizar que los sistemas de inteligencia artificial sean resistentes a los intentos de manipular su comportamiento, (...) siendo necesario adoptar medidas adecuadas de protecci´ on (...) en sistemas del alto riesgo”. Adicionalmente, dentro de la misma ley se describen condiciones de transparencia en el uso de tecnolog´ ıas generativas de contenidos de imagen, audio y/o v´ ıdeo que puedan utilizarse para falsificar la realidad y enga˜ nar a las personas (“deep fakes”). Esta regulaci´ on tambi´ en viene respaldada por el trabajo realizado por la ENISA en el ´ ambito de la ciberseguridad de la inteligencia artificial [9], la cual ha elaborado diversos documentos relacionados con la estandarizaci´ on de la ciberseguridad aplicada a la IA, la definici´ on de amenazas, y la protecci´ on tanto de la IA en general como de verticales espec´ ıficos, documentos que sirven como base para las medidas de protecci´ on definidas dentro de la propia Ley de Inteligencia Artificial. A nivel tecnol´ ogico, la uni´ on entre la ciberseguridad y la inteligencia artificial siempre ha estado presente: inicialmente centrada en la creaci´ on de sistemas de detecci´ on de anomal´ ıas (incluyendo el correo basura o “spam”) [10], esta uni´ on ha evolucionado hacia otras ´ areas tales como el an´ alisis de malware, la automatizaci´ on de procesos de prevenci´ on (p.ej. gesti´ on de alertas, evaluaci´ on de riesgos), el desarrollo de agentes inteligentes para la ciberdefensa y el ciberataque (p.ej. descubrimiento de vulnerabilidades), la integraci´ on con entornos de aprendizaje (“cyber-ranges”), y muchos otros [11]. Otro ´ ambito de evoluci´ on se encuentra en las inteligencias artificiales generativas, donde m´ as all´ a de su potencial aplicaci´ on maliciosa (y mecanismos de defensa asociados como la identificaci´ on de “deep fakes” [12]), encontramos otras aplicaciones relacionadas con la ciberseguridad – en la forma del an´ alisis del comportamiento de c´ odigo fuente [13] y la definici´ on de se˜ nuelos (“honeypots“) adaptables a escenarios particulares como la Internet de las Cosas [14]. Finalmente, tambi´ en cabe mencionar que a´ un existen varios desaf´ ıos a nivel I+D+i, incluyendo la optimizaci´ on de su funcionamiento, la protecci´ on de la privacidad de los datos, y la existencia de herramientas y entornos estandarizados para verificar el funcionamiento de los mecanismos de forma continua [15]. II-B. ´ Ambito acad´ emico existente Durante el periodo de definici´ on del Grado en Ciberseguridad e Inteligencia Artificial, a nivel Espa˜ nol no exist´ ıan t´ ıtulos de grado que abarcasen ambas disciplinas, sin embargo, s´ ı exist´ ıan diversos t´ ıtulos de grado que se centraban en alguna de estas disciplinas. Un resumen de dichos t´ ıtulos puede verse Tabla I GRADOS SOBRE CIBERSEGURIDAD O IA ASEPTIEMBRE DE 2022. ´ Area Universidad C´ odigo RUCT Ciencia de datos e IA Univ. Deusto 2504021 Ciencia de datos e IA Univ. Polit´ ecnica Madrid 2503943 Ciencia de datos e IA Univ. Le´ on 2504435 Ing. Datos e IA Univ. Complutense Madrid 2504344 Computaci´ on e IA IE Universidad 2503928 Computaci´ on e IA Univ. Alfonso X El Sabio 2504450 Ing. Matem´ atica e IA Univ. Pontificia Comillas 2504382 IA Univ. Pa´ ıs Vasco 2504060 IA Univ. Pol. Catalunya 2504183 IA Univ. Rey Juan Carlos 2504258 IA Univ. San Jorge 2504553 IA Univ. a Coru˜ na 2504532Univ. Santiago Compostela Univ. Vigo Gesti´ on Ciberseguridad Univ. Francisco de Vitoria 2503932 Ing. Ciberseguridad Univ. Rey Juan Carlos 2503932 Ing. Ciberseguridad Univ. Europea Madrid 2504457 Ing. Ciberseguridad Univ. San Jorge 2504551 Ciberseguridad Univ. Int. la Rioja 2504425 en la Tabla I. Puede comprobarse que la mayor´ ıa de los t´ ıtulos (12) se dedican al ´ ambito de la inteligencia artificial, mientras que el resto (5) se centran en la ciberseguridad. Adicionalmente, s´ olo uno de los t´ ıtulos relacionados con la ciberseguridad es impartido por una universidad p´ ublica (Universidad Rey Juan Carlos), siendo el resto impartidos por universidades privadas. Todos estos t´ ıtulos de grado se encuentran adscritos a Escuelas o Facultades de Inform´ atica. Precisamente, el ACM Computer Curricula 2020 [17], referente de la gu´ ıa de t´ ıtulos de Inform´ atica a nivel mundial, y una de las bases en la preparaci´ on de este grado, describe las especialidades de la Ciberseguridad, Ciencia de datos, y la futura especialidad de Inteligencia Artificial como parte del ´ ambito de la Inform´ atica. Asimismo, la Estrategia Nacional de Inteligencia Artificial Espa˜ nola 2021-2023 [7] refleja como las competencias de la IA “(...) est´ an incluidas en todos los Grados de Inform´ atica y Computaci´ on y en los M´ aster de Tecnolog´ ıas Inform´ aticas”. Respecto al ´ ambito internacional, tambi´ en podemos encontrar m´ ultiples t´ ıtulos de grado relacionados con la IA o la ciberseguridad – pero no t´ ıtulos expl´ ıcitamente enfocados a la formaci´ on en ambas disciplinas. Esta formaci´ on dual si podemos encontrarla en t´ ıtulos de m´ aster de diversas universidades europeas y norteamericanas (p.ej. University of Klagenfurt, University of Udine, University of Sheffield, Radboud University, ESIEE Paris, Purdue University Northwest), as´ ı como de diversas universidades espa˜ nolas (p.ej. Universidad Rovira i Virgili). Cabe mencionar que, desde Septiembre de 2022 hasta la fecha de publicaci´ on de este art´ ıculo, se han empezado a impartir nuevos t´ ıtulos de grado relacionados con la IA y la ciberseguridad. En particular, 4 t´ ıtulos relacionados con la inteligencia artificial y 1 t´ ıtulo relacionado con la ciberseguridad (impartido por una universidad privada). Adicionalmente, se est´ an definiendo otros t´ ıtulos que a´ unan las disciplinas de la ciberseguridad y la IA, como el grado interuniversitario de Inteligencia Artificial y Ciberseguridad impartido conjuntamente por la Universidad de Almer´ ıa y la Universidad de Ja´ en. Dise˜no de un Grado en Ciberseguridad e Inteligencia Artificial 175 III. DISE ˜ NO DEL GRADO III-A. Enfoque del grado Durante la fase del dise˜ no del grado, se valor´ o inicialmente seguir el libro blanco del grado de ingenier´ ıa inform´ atica, creando una especialidad en ciberseguridad e IA. Esta opci´ on hubiera sido mucho m´ as directa, y habr´ ıa permitido a los egresados retener la calificaci´ on de graduados en inform´ atica. No obstante, el coste a pagar era disponer de un n´ umero reducido de cr´ editos espec´ ıficos, los cuales ser´ ıan relegados a los cursos superiores, quedando as´ ı un primer y segundo curso muy similar al del resto de titulaciones del centro. Adicionalmente, dicho n´ umero de cr´ editos no ser´ ıa suficiente para cubrir las competencias y resultados de aprendizaje esperados de una formaci´ on espec´ ıfica e interconectada de ambas disciplinas. Por ello, la apuesta del centro fue proporcionar una formaci´ on espec´ ıfica amplia y desde el primero curso, renunciando a la calificaci´ on de graduado en inform´ atica. Esta apuesta obligaba a adaptar contenidos que actualmente se ofertaban en otros grados en cursos superiores a los primeros cursos del grado, para que sirvieran de base para los contenidos espec´ ıficos avanzados. Adem´ as, se prest´ o especial atenci´ on dentro del dise˜ no del grado en cubrir las necesidades de formaci´ on b´ asica en inform´ atica, esenciales para la formaci´ on del alumnado en su profesi´ on. III-B. Fuentes de informaci´ on M´ as all´ a del uso del “ACM Computer Curricula 2020” (CC2020, [17]) y la normativa existente (Libro Blanco del T´ ıtulo de Grado en Ingenier´ ıa Inform´ atica [19], Reales Decretos 1393/2007 y 822/2021, etc), para la definici´ on de las competencias y los objetivos de aprendizaje relacionados con la inform´ atica dentro del nuevo grado, la integraci´ on de los itinerarios de la ciberseguridad y la inteligencia artificial oblig´ o al an´ alisis de fuentes de informaci´ on adicionales, las cuales se detallan a continuaci´ on. III-B1. Planes de estudio e Informes: Dentro de los planes de estudio relacionados con la ciberseguridad, las principales fuentes de informaci´ on fueron no s´ olo el “ACM Curriculum Guidelines for Post-Secondary Degree Programs in Cybersecurity” (CSEC2017 [17]), sino tambi´ en el “ACM Cybersecurity Curricular Guidance for Associate-Degree Programs 2020” (Cyber2yr2020 [18]). Se decidi´ o por este enfoque dada la naturaleza dual del grado, puesto que Cyber2yr2020 persigue proporcionar un plan de estudios para programas de ciberseguridad de dos a˜ nos. Adicionalmente, se consider´ o el curriculum de referencia en ciberseguridad definido por ECSO dentro de su grupo de trabajo 5, incluido dentro del documento “European Cybersecurity Education and Professional Training: Minimum Reference Curriculum” [20]. Respecto a los planes de estudio relacionados con la inteligencia artificial, aunque a la fecha de la definici´ on del grado no exist´ ıa ninguna gu´ ıa de planes de estudio espec´ ıfica para este itinerario, s´ ı que se consideraron aquellos aspectos relacionados ya definidos dentro del “ACM Computing Competencies for Undergraduate Data Science Curricula” (CCDS2021 [17]). Adicionalmente, tambi´ en se tuvieron en cuenta aquellos aspectos definidos dentro de los diversos planes estrat´ egicos nacionales y europeos, incluyendo la “Estrategia Nacional de Inteligencia Artificial” y el “Plan Coordinado sobre Inteligencia Artificial”. Finalmente, para la definici´ on de aquellos aspectos comunes a la ciberseguridad y la inteligencia artificial, se utilizaron diversas fuentes disponibles en varios ´ ambitos. Por ejemplo, el curr´ ıculum de referencia en ciberseguridad definido por ECSO define el contenido y los resultados de aprendizaje de diversas asignaturas comunes a la ciberseguridad y la inteligencia artificial – en particular “Cybersecurity for Artificial Intelligence” (10 ECTS) y “Machine Learning Security” (5 ECTS). Adicionalmente, existen diversos informes creados por entidades afines a la Comisi´ on Europea, como el “Artificial Intelligence and Cybersecurity: Technology, Governance and Policy Challenges” desarrollado por el “Centre for European Policy Studies (CEPS)” [21], o las diversas gu´ ıas desarrolladas por la ENISA dentro de su grupo de trabajo de inteligencia artificial [9]. III-B2. Certificaciones: Debido a la importancia de las certificaciones profesionales dentro del ´ ambito empresarial a nivel internacional, para el dise˜ no de los contenidos del grado tambi´ en se tuvieron en cuenta las principales certificaciones existentes en la actualidad, principalmente aquellas relacionadas con el campo de la ciberseguridad. Aunque el dise˜ no del grado no persegu´ ıa que los graduados/as obtengan dichas certificaciones de forma inmediata tras finalizar sus estudios, si consideraba la necesidad de facilitar a dichos egresados/as la obtenci´ on de dichas certificaciones en su futura carrera profesional, mediante la inclusi´ on de aquellas competencias y resultados de aprendizaje considerados como b´ asicos. En particular, durante el dise˜ no del grado se consultaron y revisaron las siguientes certificaciones: a. COMPTIA – Computing Technology Industry Association [22] Security+: Cybersecurity CASP+: Advanced Security Practitioner PenTest+: Penetration Testing CySA+: Cybersecurity Analyst b. ISC2 – International Information System Security Certification Consortium [23] SSCP: Systems Security Certified Practitioner CCSP: Certified Cloud Security Professional CSSLP: Certified Secure Software Lifecycle Professional ISSEP: Information Systems Security Engineering Professional ISSMP: Information Systems Security Management Professional III-B3. I+D+i: Dentro del dise˜ no de los planes de estudio del nuevo grado tambi´ en se consideraron los principales avances de I+D+i en el campo de la ciberseguridad y la inteligencia artificial. Para ello se realiz´ o un an´ alisis del estado del arte en este campo, cuyos resultados se encuentran resumidos en la secci´ on II-A. Dicho an´ alisis del estado del arte permiti´ o identificar no s´ olo los principales campos de aplicaci´ on de la inteligencia artificial hacia la ciberseguridad, sino tambi´ en sus principales problemas de ciberseguridad, as´ ı como las soluciones existentes. Esta informaci´ on se utiliz´ o para determinar con exactitud qu´ e tem´ aticas (p.ej. Gesti´ on de Anomal´ ıas y Ciberincidentes) se beneficiar´ ıan de la inR. Rom´an, I. Agudo, R. R´ıos and J. L´opez 176 Tabla II ESTRUCTURA DE LAS ENSE ˜ NANZAS DEL GRADO POR M ´ ODULOS Y MATERIAS M´ odulo Formaci´ on B´ asica (60 cr´ editos) Matem´ atica Matem´ atica I, Matem´ atica II, Probabilidad y Estad´ ıstica, Representaci´ on del Conocimiento y Razonamiento Fundamentos de Inform´ atica Programaci´ on I, Programaci´ on II, Fundamentos de Redes Telem´ aticas, Arquitectura de Computadores, Identidad Digital y Privacidad, Fundamentos de Ciberseguridad M´ odulo Formaci´ on Com´ un (60 cr´ editos) Ing. SW y Procesamiento Informaci´ on Bases de Datos, Miner´ ıa de Datos, Programaci´ on Segura, Ingenier´ ıa del SW Seguro, Seguridad en Aplicaciones Web Inteligencia Computacional Fundamentos de Inteligencia Artificial, Algoritmos de B´ usqueda y Optimizaci´ on Computacional Tecn. Inform´ aticas y de Sistemas Arquitectura de Sistemas Virtualizados, Sistemas Operativos Inform´ atica y Sociedad Aspectos Sociales, ´ Eticos y Legales de la Ciberseguridad e IA M´ odulo Formaci´ on Espec´ ıfica en Ciberseguridad (24 cr´ editos) Ciberseguridad Seguridad en Servicios y Protocolos de Internet, Pentesting y Hacking ´ Etico, Inform´ atica Forense y Ciberdelincuencia, Seguridad en Entornos M´ oviles M´ odulo Formaci´ on Espec´ ıfica en Inteligencia Artificial (24 cr´ editos) Inteligencia Artificial Aprendizaje Computacional I, Aprendizaje Computacional II, Aprendizaje profundo, Rob´ otica Inteligente M´ odulo Formaci´ on Espec´ ıfica en Sistemas CiberSeguros e Inteligentes (30 cr´ editos) Integraci´ on de Ciberseguridad e IA Inteligencia Malware, Seguridad en Sistemas de Inteligencia Artificial, Gesti´ on Inteligente de Anomal´ ıas y Ciberincidentes, Sistemas de Inteligencia Artificial Ciberseguros, Sistemas Biom´ etricos M´ odulo Trabajo Fin de Grado (12 cr´ editos) M´ odulo Formaci´ on Complementaria en Pr´ acticas Externas (18 cr´ editos) M´ odulo Materias Optativas (30 cr´ editos) tegraci´ on de la inteligencia artificial durante las actividades formativas. III-C. Definici´ on de los Planes de Estudio III-C1. Creaci´ on de Grupos de Trabajo: Para la definici´ on de los planes de estudio del grado, se involucraron a diversos grupos de trabajo internos y externos a la Universidad de M´ alaga. Los grupos de trabajo internos vinieron definidos, seg´ un la normativa de la UMA, para el establecimiento de nuevos t´ ıtulos de grado. As´ ı, por un lado, se cre´ o una Comisi´ on de Expertos, con amplia experiencia en la docencia de los grados de inform´ atica y las necesidades del alumnado a nivel de conocimientos b´ asicos en esta disciplina, la cual fue encargada de la creaci´ on de un ‘Libro blanco’ que incluyera las asignaturas m´ as adecuadas para el nuevo grado (tanto b´ asicas como espec´ ıficas) junto con sus descriptores (datos generales de la asignatura (nombre, curso, cuatrimestre), objetivo general, resultados de aprendizaje, contenidos, competencias espec´ ıficas, actividades formativas, sistemas de evaluaci´ on, otros comentarios). Por otro lado, se cre´ o una Comisi´ on de Grado de Centro encargada de definir las gu´ ıas de cada asignatura seg´ un las directrices del ‘Libro blanco’. Respecto al grupo de trabajo externo, la semilla de dicho grupo surgi´ o de una reuni´ on con empresas bajo el paraguas de las jornadas Transfiere 2021, celebradas en Abril de 2021 en M´ alaga. All´ ı, se debatieron los perfiles profesionales m´ as demandados, as´ ı como las competencias m´ as importantes en ciberseguridad e inteligencia artificial. Posteriormente, se cre´ o el grupo de trabajo “GT Talento”, compuesto por representantes del tejido empresarial de M´ alaga y el Vicerrectorado de Empresa, Territorio y Transformaci´ on Digital de la UMA. Este grupo fue el encargado de proporcionar comentarios durante el proceso de definici´ on de los planes de estudio a trav´ es de diversas consultas. III-C2. Definici´ on del ‘Libro blanco’: Para la definici´ on de las asignaturas relacionadas con la ciberseguridad e inteligencia artificial en el ‘Libro blanco’ del nuevo grado, la Comisi´ on de Expertos analiz´ o las ´ areas de conocimiento definidas en los documentos indicados en la secci´ on III-B1, agrupando las diversas competencias (tanto esenciales como optativas) y objetivos de aprendizaje en diversas tem´ aticas. Posteriormente, se agruparon estas tem´ aticas en potenciales asignaturas del grado. Tanto para esta agrupaci´ on como para la concreci´ on de los descriptores espec´ ıficos, incluyendo los contenidos necesarios para alcanzar las competencias y objetivos de aprendizaje necesarios, tambi´ en se tuvieron en cuenta las certificaciones y estudios del estado del arte mencionados en las secciones III-B2 y III-B3, respectivamente. Un ejemplo de una ficha de asignatura del grado (Fundamentos de Ciberseguridad) tal y como fue descrita dentro del ‘Libro Blanco’ puede verse en el Anexo I1. Durante este proceso, la experiencia del personal docente e investigador de la UMA que formaba parte de la Comisi´ on de Expertos posibilit´ o un an´ alisis del dimensionamiento de cada una de estas asignaturas, lo cual permiti´ o una mejor definici´ on de los objetivos – posibilitando, por ejemplo, la inclusi´ on de objetivos adicionales (p.ej. objetivos incluidos dentro del CSEC2017 m´ as all´ a de los ya considerados por el Cyber2yr2020). Adicionalmente, la visi´ on general de los directores de la comisi´ on permiti´ o una definici´ on temprana de un gr´ afico de dependencias entre tem´ aticas y posteriormente asignaturas, lo cual permiti´ o una mejor coordinaci´ on tanto horizontal como vertical entre las diversas asignaturas y sus elementos. Como paso final a la creaci´ on del ‘Libro blanco’, la direcci´ on y las ´ areas de conocimiento se pusieron de acuerdo sobre la adscripci´ on de las asignaturas a las diversas ´ areas. Este proceso se desarrollo persiguiendo que las asignaturas coincidieran con las ´ areas adecuadas y con la experiencia docente y/o investigadora del profesorado de dichas ´ areas. Asimismo, durante este proceso, se procur´ o limitar el impacto de los cambios indicados dentro del ‘Libro blanco’ sobre el trabajo del profesorado. III-C3. Elaboraci´ on de las gu´ ıas de las asignaturas: Una vez elaborado el ‘Libro blanco’, la Comisi´ on de Grado de 1Se proporciona esta ficha para que pueda visualizarse la granularidad con la que se desarroll´ o el ‘Libro blanco’, as´ ı como para compararla con el plan docente final disponible en la web de la UMA. Dise˜no de un Grado en Ciberseguridad e Inteligencia Artificial 177 Centro se encarg´ o de la elaboraci´ on de las diversas gu´ ıas docentes. Para ello, se defini´ o un representante de ´ area para cada una de las 11 ´ areas involucradas en el desarrollo del t´ ıtulo de grado, y cada uno de dichos representantes se encarg´ o de seleccionar y coordinar a los diversos equipos docentes – de forma que ´ estos pudieran refinar y completar las fichas de cada asignatura. Este proceso se realiz´ o de forma iterativa, involucrando tanto a la Comisi´ on de Grado de Centro, para cohesionar propuestas y mantener la consistencia con los contenidos del ‘Libro blanco’, como al grupo de trabajo externo “GT Talento”, para enriquecer las propuestas considerando las necesidades empresariales. Tambi´ en, durante la elaboraci´ on de las gu´ ıas de las asignaturas, se complet´ o la definici´ on de competencias y resultados de aprendizaje, indicando cu´ ales eran para cada asignatura las competencias, conocimientos o contenidos, habilidades o destrezas, y competencias transversales a considerar. La Comisi´ on de Grado de Centro tambi´ en se encarg´ o de revisar las competencias y resultados de aprendizaje del grado en su conjunto, comprobando la consistencia con los planes de estudio definidos en la secci´ on III-B1 y las leyes vigentes. III-C4. Finalizaci´ on de la propuesta y aprobaci´ on: Una vez fueron finalizadas todas las gu´ ıas, se realiz´ o una reuni´ on para finalizar el t´ ıtulo completo, revisando que el plan de estudios fuera coherente y siguiera las sugerencias de los expertos mencionadas en el ‘Libro blanco’, y ultimando los detalles relacionados con las asignaturas optativas. Adicionalmente, se realiz´ o una presentaci´ on al grupo de trabajo externo “GT Talento”, recabando sus comentarios finales – aunque ´ estos fueron muy positivos y no implicaron cambios en la propuesta. Finalmente, dentro de la Junta de Centro de Julio de 2022 se aprob´ o la propuesta de t´ ıtulo de grado. El Grado en Ciberseguridad e Inteligencia Artificial fue verificado en Mayo de 2023, y recibi´ o la autorizaci´ on del Consejo de Ministros en Octubre de 2023. Su plan de estudios fue publicado en el BOE del 30/12/2023, y su impartici´ on dio comienzo en el curso 2023/24. IV. GRADO CIBERSEGURIDAD E IA La definici´ on del Grado en Ciberseguridad e Inteligencia Artificial de la Universidad de M´ alaga, as´ ı como una descripci´ on detallada de sus competencias y resultados de aprendizaje, se encuentra disponible en su p´ agina web [16], la cual incluye tanto los planes de estudios finales como la memoria de verificaci´ on del t´ ıtulo. No obstante, en esta secci´ on ofrecemos tanto un resumen como una explicaci´ on del dise˜ no de dichos contenidos. IV-A. Caracter´ ısticas del grado El Grado en Ciberseguridad e Inteligencia Artificial de la UMA es un grado de la rama Ingenier´ ıa y Arquitectura, bajo el c´ odigo ISCED Ciencias de la Computaci´ on. Ofrece un tipo de ense˜ nanza presencial, impartido en castellano, y est´ a compuesto de 240 cr´ editos, de los cuales 60 cr´ editos son de formaci´ on b´ asica, 138 cr´ editos son obligatorios, 30 cr´ editos son optativos, y 12 cr´ editos pertenecen al trabajo de fin de grado. Cabe mencionarse que 18 de los 30 cr´ editos optativos pueden realizarse mediante pr´ acticas externas. Los cr´ editos de formaci´ on b´ asica y obligatoria se reparten entre los departamentos que se listan a continuaci´ on: Figura 1. Distribuci´ on de cr´ editos por departamento Arquitectura de Computadores (AC) Derecho P´ ublico (DP) Ingenier´ ıa de Sistemas y Autom´ atica (ISA) Lenguajes y Ciencias de la Computaci´ on (LCC) Matem´ atica Aplicada (MA) Como puede apreciarse en la Figura 1, aunque intervienen hasta cinco departamentos en las tareas docentes del grado, la mayor parte de los cr´ editos recae sobre el departamento de Lenguajes y Ciencias de la Computaci´ on, principalmente por tratarse de un grado del ´ ambito de la ingenier´ ıa inform´ atica. Por lo general, los cr´ editos de cada asignatura pertenecen a un ´ unico departamento, aunque existe un caso excepcional (la asignatura ‘Inform´ atica Forense y Ciberdelincuencia’), en el que los cr´ editos se reparten entre dos departamentos debido a su car´ acter claramente multidisciplinar. Adicionalmente, cabe destacar que en los ´ ultimos cursos hay una carga importante de cr´ editos optativos y de trabajo fin de grado, que no est´ an pre-asignados a un departamento concreto. Por ese motivo, se incluye el item ‘Varios’ en la leyenda. A nivel de ´ areas de conocimiento, el reparto de docencia se hace entre un total de 8 ´ areas de los cinco departamentos citados anteriormente: Arquitectura y Tecnolog´ ıa de Computadores (ATC) Ciencias de la Computaci´ on e Inteligencia Artificial (CCIA) Derecho Administrativo (DA) Derecho Penal (DP) Ingenier´ ıa de Sistemas y Autom´ atica (ISA) Ingenier´ ıa Telem´ atica (ITEL) Lenguajes y Sistemas Inform´ aticos (LSI) Matem´ atica Aplicada (MA) En la Figura 2 se muestra la distribuci´ on de cr´ editos a nivel de ´ area de conocimiento. En ´ esta puede observarse que las ´ areas de CCIA, ITEL y LSI, pertenecientes al departamento de Lenguajes y Ciencias de la Computaci´ on (LCC), son las que tienen una mayor carga docente. El resto de ´ areas tiene un mapeo uno a uno con sus respectivos departamentos, salvo en el caso de las ´ areas DA y DP, las cuales pertenecen al departamento de Derecho P´ ublico. IV-B. Contenidos del grado Un resumen de la estructura de las ense˜ nanzas por m´ odulos y materias se presenta en la Tabla II. A su vez, esta estructura se encuentra dividida en cuatro aspectos troncales, de los cuales nos centraremos en las especializaciones del grado: (I) Formaci´ on en inform´ atica. R. Rom´an, I. Agudo, R. R´ıos and J. L´opez 178 Figura 2. Distribuci´ on de cr´ editos por ´ areas de conocimiento Pentesting y hacking ético TERCERO Gestión int. de anomalías y ciberincidentes CUARTO Seguridad en entornos móviles CUARTO Identidad digital y privacidad PRIMERO Seguridad en Servicios y Protocolos de Internet SEGUNDO Seguridad en Aplicaciones Web SEGUNDO Programación segura SEGUNDO Ingeniería del Software Seguro SEGUNDO Informática Forense y Ciberdelincuencia TERCERO Inteligencia Malware TERCERO Sistemas Biométricos CUARTO Fundamentos de Ciberseguridad PRIMERO Figura 3. Tabla de dependencias ciberseguridad (II) Formaci´ on en ciberseguridad. (III) Formaci´ on en inteligencia artificial. (IV) Formaci´ on interdisciplinar de IA y ciberseguridad. IV-B1. Formaci´ on en ciberseguridad: El objetivo de esta formaci´ on dentro del grado se centra principalmente en dos ´ ambitos: la integraci´ on de capacidades de seguridad y privacidad en el dise˜ no, desarrollo, configuraci´ on y evaluaci´ on de aplicaciones y sistemas de informaci´ on interconectados, y la reacci´ on – tanto reactiva como proactiva – ante los ciberincidentes, conociendo sus implicaciones, programas maliciosos, herramientas, soluciones, y otros. La Figura 3 muestra una visi´ on de la tabla de dependencias de las asignaturas relacionadas con ciberseguridad, desarrollada durante la elaboraci´ on del ‘Libro blanco’ (cf. secci´ on III-C2). Esta figura contiene adicionalmente ciertas asignaturas de formaci´ on interdisciplinar, marcadas en gris y presentes en el dise˜ no inicial de la tabla. Podemos observar que existen dos asignaturas, ‘Fundamentos de Ciberseguridad’, y ‘Seguridad en Servicios y Protocolos de Internet’, que ejercen gran influencia sobre el resto de asignaturas debido a su car´ acter fundacional. Ambas se encargan de proporcionar conceptos y capacidades esenciales, incluyendo la protecci´ on ante las amenazas m´ as comunes a trav´ es de la aplicaci´ on de protocolos y servicios de seguridad b´ asicos. Respecto al resto de asignaturas, podemos observar que existen diversos itinerarios orientados a proporcionar al alumnado conocimientos, habilidades y competencias en diversas ramas de la ciberseguridad, consistentes con los objetivos de la formaci´ on en esta disciplina. ´ Estas incluyen, entre otras, la integraci´ on de mecanismos de identidad digital, el desarrollo seguro de aplicaciones y sistemas en varios contextos (p.ej. aplicaciones web, entornos m´ oviles), los procedimientos y herramientas de seguridad ofensiva (p.ej. pentesting, malware), y la gesti´ on de las amenazas – sea antes, durante, o despu´ es de un ciberataque. IV-B2. Formaci´ on en inteligencia artificial: El objetivo de esta formaci´ on dentro del grado persigue el desarrollo de soluciones basadas en inteligencia artificial siguiendo todas las etapas necesarias en esta disciplina: desde la adquisici´ on y procesamiento de datos hasta la evaluaci´ on, aplicaci´ on, y mantenimiento de los modelos resultantes, siempre teniendo en cuenta las implicaciones ´ eticas asociadas. La tabla de dependencias de las asignaturas relacionadas con la inteligencia artificial – y aquellas de formaci´ on b´ asica en matem´ aticas que forman la base de los mecanismos de la IA – no se incluyen en este art´ ıculo, puesto que dicha relaci´ on de dependencias es m´ as sencilla al seguir un itinerario m´ as lineal. Inicialmente, en los primeros cursos, se proporcionan tanto las bases matem´ aticas de los mecanismos de inteligencia artificial (p.ej. ‘Representaci´ on del Conocimiento y Razonamiento’, ‘Probabilidad y Estad´ ıstica’) como los conceptos fundacionales de esta disciplina (p.ej. ‘Fundamentos de Inteligencia Artificial’, ‘Algoritmos de B´ usqueda y Optimizaci´ on Computacional’). Posteriormente, se introducen los diversos algoritmos que han conformado y conforman la inteligencia artificial hoy en d´ ıa: desde los algoritmos de aprendizaje no profundo supervisado (p.ej. m´ aquinas de vector soporte (SVM), ´ arboles de decisi´ on, bosques aleatorios), no supervisado (p.ej. An´ alisis de Componentes Principales (PCA), agrupamiento, modelos probabil´ ısticos) y por refuerzo (p.ej. basados en modelos, libre de modelos), hasta los algoritmos de aprendizaje profundo (p.ej. Autocodificadores, Redes generativas de adversarios (GAN), transformadores). Adicionalmente, se ofrece una asignatura aplicada en el entorno de la rob´ otica – gracias a la experiencia investigadora y docente de una de las ´ areas de conocimiento de la Escuela de Inform´ atica. IV-B3. Formaci´ on interdisciplinar de IA y ciberseguridad: Como hemos mencionado a lo largo del art´ ıculo, ambas disciplinas se encuentran altamente interrelacionadas: la inteligencia artificial necesita ser protegida – tanto ante ataques externos como de s´ ı misma (p.ej. “deep fakes”) – para evitar manipulaciones en la toma de decisiones, y la ciberseguridad puede enriquecerse a todos los niveles gracias a la aplicaci´ on de la inteligencia artificial. Precisamente, las asignaturas relacionadas con esta formaci´ on interdisciplinar siguen estas dos vertientes. Por una parte, existen asignaturas (‘Ciberseguridad en Sistemas de Inteligencia Artificial’ y ‘Sistemas de Inteligencia Artificial Ciberseguros’) que se centran en los desaf´ ıos asociados a las amenazas y vulnerabilidades de la inteligencia artificial (p.ej. por actividad maliciosa, por infraestructuras subyacentes inseguras, por causas externas) y en la robustez de ´ esta ante, p.ej., explotaci´ on de los modelos y datos sesgados, entre otros. Por otra parte, existen asignaturas que proporcionan una formaci´ on espec´ ıfica en aspectos de ciberseguridad (‘Inteligencia Malware’, ‘Gesti´ on Inteligente de Anomal´ ıas y Ciberincidentes’, ‘Sistemas Biom´ etricos’), donde la inteligencia artificial forma parte integral de los contenidos – en cuanto a que la mayor´ ıa de las actividades formativas consideran de una forma u otra la aplicaci´ on de la inteligencia artificial. No obstante, cabe mencionar que esta clase de integraci´ on no est´ a Dise˜no de un Grado en Ciberseguridad e Inteligencia Artificial 179 limitada a estas asignaturas, puesto que se anima al profesorado del grado a incorporar dentro de sus actividades formativas soluciones de inteligencia artificial que sean consistentes con el nivel del alumnado en ese momento. IV-B4. Formaci´ on optativa: La oferta de asignaturas optativas cae en el ´ ambito de todos los aspectos troncales anteriormente mencionados. Esto es as´ ı porque, de las 37 asignaturas ofertadas, existen un total de 21 asignaturas que se han dise˜ nado de manera espec´ ıfica para el grado, tratando aspectos espec´ ıficos de ciberseguridad y/o inteligencia artificial. Ejemplos de ello son las asignaturas ‘Aceleradores para Seguridad e Inteligencia Artificial’, ‘Aprendizaje Federado’, ‘Blockchain’ o ‘Seguridad en Entornos Industriales y Robotizados’. De esta forma, la formaci´ on del estudiantado se complementa con un total de 30 cr´ editos optativos con 5 asignaturas de libre elecci´ on, programadas para el tercer y cuarto curso del grado. Tambi´ en cabe la posibilidad de completar 18 de estos cr´ editos optativos mediante pr´ acticas externas. IV-C. Implantaci´ on del grado El Grado en Ciberseguridad e Inteligencia Artificial de la UMA empez´ o su primera edici´ on en el curso lectivo 2023/24. Este grado se ha implantado a “coste cero”; es decir, su implantaci´ on no ha supuesto ning´ un coste para esta universidad al sustituir al Grado de Ingenier´ ıa de Computadores, aprovechando los recursos tanto materiales como humanos ya existentes – incluyendo profesorado y grupos de investigaci´ on con gran experiencia acad´ emica e investigadora en las disciplinas espec´ ıficas del grado. A la fecha de realizaci´ on de este art´ ıculo ha concluido el 1er semestre del grado, el cual ha ofertado 65 plazas de nuevo ingreso para el curso 2023/24 – cubri´ endose todas estas plazas con una nota de corte de 12,46 en la primera adjudicaci´ on del proceso de preinscripci´ on, convirti´ endose en la sexta carrera m´ as demandada de la UMA en este curso acad´ emico. De cara a dar cobertura a los docentes implicados en la implantaci´ on de este nuevo grado, se han marcado diversas lineas de acci´ on encaminadas a una mejor coordinaci´ on. Por ejemplo, se solicit´ o un proyecto de innovaci´ on docente donde unp de los objetivos principales era ayudar a la creaci´ on del contenido de las asignaturas de ciberseguridad del grado. Este proyecto ha permitido una mayor cohesi´ on a la hora de definir contendidos concretos y actividades de evaluaci´ on, sirviendo como un foro de debate donde intercambiar ideas. Tambi´ en se han definido por parte del centro mecanismos de coordinaci´ on transversal, y se ha hecho un seguimiento de la implantaci´ on centrado en las metodolog´ ıas docentes y de evaluaci´ on. Con respecto a los resultados de los estudiantes a´ un es pronto para sacar conclusiones significativas, pero si observamos la distribuci´ on de las notas del primer semestre, representadas en la Figura 4, podemos obtener varias conclusiones. Primero, el ratio de aprobados supera el 80 % en todas las asignaturas. Esto supera tanto a la tasa de rendimiento media para el primer curso de la todas las titulaciones de la universidad de M´ alaga (78 %) como a la tasa de rendimiento del Grado de Ingenier´ ıa de Computadores (44%), al que reemplaza este nuevo grado. Segundo, la decisi´ on de colocar asignaturas espec´ ıficas de ciberseguridad desde el primer curso, como ‘Fundamentos de Ciberseguridad’ (FdC), no ha supuesto una dificultad para el estudiantado, sino una motivaci´ on extra. A´ un cuando se 10 7.5 5.0 2.5 0.0 FdC FdRT MAT I PRO I RdCyR Figura 4. Distribuci´ on de notas del primer semestre han tenido que adaptar contenidos que en otras titulaciones se imparten en tercer curso, esta asignatura ha tenido la mejor tasa de rendimiento del primer cuatrimestre – llegando al 98 % de aprobados en primera convocatoria y al 100% de aprobados en segunda convocatoria. V. CONCLUSIONES Este art´ ıculo ha perseguido mostrar no s´ olo los contenidos del nuevo Grado en Ciberseguridad e Inteligencia Artificial de la Universidad de M´ alaga, sino tambi´ en su proceso de creaci´ on – desde su concepci´ on inicial a su implantaci´ on. Esperamos que este art´ ıculo muestre la importancia de la creaci´ on de itinerarios formativos a nivel de grado que involucren ambas disciplinas, y sirva de inspiraci´ on para nuevas ofertas formativas en un futuro cercano. AGRADECIMIENTOS Este art´ ıculo ha sido desarrollado en el ´ ambito del Grupo permamente de Innovaci´ on Educativa en Ciberseguridad (PIE22-040) del programa INNOVA22 de la Universidad de M´ alaga. El primer autor tambi´ en ha recibido el soporte del Ministerio de Universidades de Espa˜ na a trav´ es de las “Ayudas para la recualificaci´ on del sistema universitario espa˜ nol”, modalidad recualificaci´ on del profesorado universitario funcionario o contratado, financiado por la Uni´ on Europea, NextGenerationEU (Resoluci´ on de 19 de julio de 2023). REFERENCIAS [1] Galina Misheva: “Mind the Cyber Skills Gap: a deep-dive”, EU Digital Skills & Jobs Platform. https://digital-skills-jobs.europa.eu/en/latest/ briefs/mind-cyber-skills-gap-deep-dive, 2023. [2] Europe Digital Strategy: “Cybersecurity Policies”. https: //digital-strategy.ec.europa.eu/en/policies/cybersecurity-policies, 2024. [3] ARISA consortium: “ AI Skills Strategy for Europe”. https://aiskills.eu/ news/arisa-launches-the-ai-skills-strategy-for-europe, 2024. [4] European Commission: “Ley de Inteligencia Artificial”, https://eur-lex. europa.eu/legal-content/ES/TXT/?uri=CELEX:52021PC0206, 2024. [5] Europe Digital Strategy: “Coordinated Plan on Artificial Intelligence”, https://digital-strategy.ec.europa.eu/en/policies/plan-ai, 2021. [6] European Commission: “The EU’s Cybersecurity Strategy for the Digital Decade”, https://digital-strategy.ec.europa.eu/en/library/ eus-cybersecurity-strategy-digital-decade-0, 2020. [7] Gobierno de Espa˜ na: “Estrategia Nacional de Inteligencia Artificial”, https://www.lamoncloa.gob.es/presidente/actividades/Documents/ 2020/ENIA2B.pdf, 2020. [8] Gobierno de Espa˜ na: “Espa˜ na Digital 2026”, https://espanadigital.gob. es/documentos, 2022. R. Rom´an, I. Agudo, R. R´ıos and J. L´opez 180 [9] ENISA: “Topic - Artificial Intelligence (AI)”, https://www.enisa.europa. eu/topics/iot-and-smart-infrastructures/artificial intelligence, 2024. [10] K. Shaukat, S. Luo, V. Varadharajan, I.A. Hameed, y M. Xu: “A Survey on Machine Learning Techniques for Cyber Security in the Last Decade”. en IEEE Access, vol. 8, pp. 222310–222354, 2020. [11] Z. Zhang, H. Ning, F. Shi, et al.: “Artificial Intelligence in Cyber Security: Research Advances, Challenges, and Opportunities”. en Artificial Intelligence Review, vol. 55, pp. 1029–1053, 2022. [12] S. Jia et al.: “Can ChatGPT Detect DeepFakes? A Study of Using Multimodal Large Language Models for Media Forensics”, arXiv:2403.14077, https://doi.org/10.48550/arXiv.2403.14077, 2024. [13] Bernardo Quintero: “Crowdsourced AI += NICS Lab”, VirusTotal blog, https://blog.virustotal.com/2023/08/crowdsourced-ai-nics-lab. html, 2023. [14] J. Ragsdale, y B.V. Boppana: “On Designing Low-Risk Honeypots Using Generative Pre-Trained Transformer Models With Curated Inputs”. en IEEE Access, vol. 11, pp. 117528-117545, 2023. [15] ENISA: “Report: Artificial Intelligence and Cybersecurity Research”, https://www.enisa.europa.eu/publications/ artificial-intelligence-and-cybersecurity-research, 2023. [16] ETSI Inform´ atica UMA: “Grado en Ciberseguridad e Inteligencia Artificial”, https://www.uma.es/ grado-en-ciberseguridad-e-inteligencia-artificial, 2024. [17] ACM: “Curricula Recommendations”, https://www.acm.org/education/ curricula-recommendations, 2024. [18] ACM: “Cybersecurity Curricular Guidance for Associate-Degree Programs”, http://ccecc.acm.org/guidance/cybersecurity, 2020. [19] ANECA: “Libro Blanco: T´ ıtulo de Grado en Ingenier´ ıa Inform´ atica”, https://www.aneca.es/documents/20123/63950/libroblanco jun05 informatica.pdf, 2005. [20] European Cybersecurity Organisation (ECSO): “WG5 Paper: European Cybersecurity Education and Professional Training: Minimum Reference Curriculum”, https://ecs-org.eu/, 2022. [21] Centre for European Policy Studies (CEPS): “Artificial Intelligence and Cybersecurity: Technology, Governance and Policy Challenges”, https://www.ceps.eu/ceps-publications/ artificial-intelligence-and-cybersecurity-2/, 2021. [22] CompTIA: “Computing Technology Industry Association”, https:// www.comptia.org/, 2024. [23] ISC2: “International Information System Security Certification Consortium”, https://www.isc2.org/, 2024. ANEXO I: FICHA DE “FUNDAMENTOS DE CIBERSEGURIDAD” Datos de la asignatura Asignatura: Fundamentos de Ciberseguridad Grado: Grado en Ciberseguridad e Inteligencia Artificial Curso: 1 Cuatrimestre: 1 Resultados de Aprendizaje RA1: Evaluar las principales amenazas de seguridad y su impacto en redes y sistemas de informaci´ on RA2: Distinguir los diferentes protocolos y servicios de seguridad aplicables a la protecci´ on frente a las amenazas m´ as comunes Contenidos Bloque I: Introducci´ on a la Ciberseguridad 1.1 Conceptos y principios b´ asicos de seguridad 1.2 Amenazas y riesgos de seguridad 1.3 Servicios de seguridad 1.4 Organizaciones, normativas y est´ andares de seguridad 1.5 Roles y caminos de especializaci´ on en ciberseguridad Bloque II: Algoritmos y Protocolos criptogr´ aficos 2.1 Criptograf´ ıa cl´ asica 2.2 Criptograf´ ıa sim´ etrica 2.3 Criptograf´ ıa asim´ etrica 2.4 Protocolos de autenticaci´ on e Intercambio de claves 2.5 Protocolos avanzados Bloque III: Fundamentos de seguridad en redes 3.1 Protocolos de seguridad en TCP/IP 3.2 Mecanismos de seguridad en internet Competencias espec´ ıficas Dise˜ nar y desplegar mecanismos que aborden la gesti´ on de identidad, autenticaci´ on, autorizaci´ on y auditor´ ıa (IAAA), adem´ as de saber configurarlos y gestionarlos adecuadamente. Actividades formativas Lecciones magistrales, Debates, Pr´ acticas de laboratorio, Resoluci´ on de problemas. Sistemas de evaluaci´ on Examen escrito, Observaci´ on del desempe˜ no, Examen tipo test, Resoluci´ on de problemas. Dise˜no de un Grado en Ciberseguridad e Inteligencia Artificial 181