Perspectivas del alumnado ante la inteligencia artificial en educación: Usos, oportunidades y dilemas éticos

Capítulo XXX PERSPECTIVAS DEL ALUMNADO ANTE LA INTELIGENCIA ARTIFICIAL EN EDUCACIÓN: USOS, OPORTUNIDADES Y DILEMAS ÉTICOS ION ANDONI DEL AMO CASTRO Universidad del País Vasco (UPV/EHU) ITZIAR KEREXETA BRAZAL Universidad del País Vasco (UPV/EHU) KARMELE ARTETXE SÁNCHEZ Universidad del País Vasco (UPV/EHU) MIRIAM URETA GARCÍA Universidad del País Vasco (UPV/EHU) La Inteligencia Artificial (IA en adelante) ha irrumpido en el ámbito educativo mediante herramientas generativas, especialmente en la Universidad. Ello ha generado dilemas éticos de calado y derivado en muchos debates epistemológicos y pedagógicos, cristalizando en investigaciones académicas, e incluso dando lugar a lo que podría considerarse cierto pánico moral, rescatando el concepto de Stanley Cohen (2017). El término Inteligencia Artificial, y sus desarrollos e investigación, en efecto, no son nuevos, sino que se remontan a la década de los 50 del siglo pasado. El test de Turing es considerado el precursor de la IA, quien intentó refutar a las máquinas argumentando que, tras un aprendizaje, podrían tomar decisiones más inteligentes, incluso engañando a la persona perceptora de estas respuestas; este aprendizaje debía realizarse en base a repeticiones y almacenamiento de información. Con todo, la investigación y uso en torno a la IA se concentraba especialmente en ámbitos tecnológicos, aunque formase parte, como ciencia-ficción, del imaginario de la cultura popular, las más de las veces de forma distópica, con referencias emblemáticas como “2001: Una odisea en el espacio” o la saga Terminator. En tal sentido, lo que constituye un fenómeno social nuevo y reciente es la extensión y universalidad de acceso, a través de aplicaciones de Inteligencia Artificial Generativa (IAG) de textos, imágenes, audio e incluso vídeo, de las cuales la más popular sea probablemente el generador de texto ChatGPT de OpenAI. Éstas, además, se apoyan en un fenómeno previo, la enorme acumulación de datos e información, ya que la IAG se basa en el Big Data, siendo las estrategias de almacenamiento y recuperación de la información los mecanismos que han facilitado alcanzar un nivel de resultados tan rápidos y con tal nivel de exactitud (Abdaljaleel et al, 2024). Esta popularización de su acceso y uso constituye un fenómeno social nuevo y potencialmente disruptivo, que combina reacciones que van desde múltiples expectativas y experimentación, hasta el pánico moral. Antes bien, existen motivos para ello: la gran pertinencia de las respuestas contextuales que ofrecen estas herramientas supera los resultados académicos de los estudiantes (Cabañuz y García-García, 2024). La universalidad de acceso y bajo esfuerzo de aprendizaje (Nikolopoulu et al, 2021) hace que su implementación sea realmente generalizada en el Educación Superior. De este modo, la IA se ha convertido a una velocidad vertiginosa en el ámbito de investigación más prolífero de 2023 y 2024, con más de 150 mil publicaciones sobre la temática registradas en Web of Science (WOS). Gran parte de la producción científica al respecto recoge experiencias de utilización de la IA en el aula, en distintos ámbitos, áreas de conocimiento y niveles, tanto como apoyo a la docencia como a la evaluación, haciendo tambalear una vez más el rol docente (Kerexeta y Camara, 2019). Entre los posibles usos de la IA en la educación se reseñan los orientados a facilitar la gestión y programación, automatizar tareas rutinarias del profesorado, sistemas de tutoría inteligente, y los llamados sistemas de enseñanza adaptativos que permiten personalizar la experiencia educativa, además de soluciones para atender a necesidades educativas especiales, como el subtitulado en directo o audio descripción (Alonso-Rodríguez, 2024). Recientes investigaciones específicas a este nivel destacan la accesibilidad y facilidad de uso que muestra ChatGPT, ejerciendo este bajo esfuerzo como agente catalizador (Duong, et al, 2023) en su implementación. Destaca como un elemento de gran ayuda para la realización de tareas académicas, especialmente salvando las dificultades que el idioma pueda presentar, como es el caso de los estudios realizados en varios países de habla árabe (Abdaljaleel, et al, 2024). Incluso se plantea un instrumento validado de evaluación específico denominado TAMEChatGPT para conocer la percepción del alumnado ante este chat, que no incluye cuestiones sobre aspectos éticos. Por su parte, el equipo de Chad et al (2024) en un estudio con una muestra muy inferior, refiere que el alumnado considera chatGPT una herramienta adecuada para realizar tareas, y confiable para la realización de sus ejercicios académicos; sin embargo, no consideran oportuno que este mismo chatGPT participe en la evaluación y emisión de calificaciones por parte del profesorado. No cabe duda de que chatGPT se ha convertido en una herramienta educativa crucial que ofrece ventajas tanto a estudiantes como a docentes. No obstante, es necesario reparar en la integridad académica y las trampas, incidiendo en la necesidad de regular desde las instituciones directrices y políticas para la implantación de herramientas de IAG en la educación (Abderraman et al, 2024). Así, y en concreto en el ámbito de la Educación Superior, la principal preocupación del profesorado radica en el potencial de la IAG para influir en los hábitos de estudio y la integridad académica de los estudiantes, dado que estas herramientas facilitan el acceso rápido a respuestas y recursos generados automáticamente. El uso de la IAG puede llevar a que algunos estudiantes recurran a prácticas deshonestas, como el plagio, al emplear textos creados por IA sin el debido reconocimiento. Otro problema importante es el riesgo de dependencia en las herramientas de IAG, lo cual podría limitar el desarrollo de habilidades fundamentales como el pensamiento crítico, el análisis o la capacidad de resolver problemas de manera independiente. En definitiva, si bien la IAG puede servir como soporte para el aprendizaje y mejorar la comprensión de temas complejos, puesto que puede ayudar a los estudiantes a explorar nuevos métodos de estudio, recibir retroalimentación instantánea y acceder a materiales educativos personalizados, también existe el riesgo de fomentar una dependencia que limite el desarrollo de habilidades críticas y creativas en los estudiantes (Galllent-Torres, et al, 2023). En suma, si bien una parte del profesorado experimenta con la IA en el aula, incluso en la investigación, aparecen algunos riesgos como la falta de competencias digitales docentes para su implementación (Ocaña et al, 2019; Kerexeta y Cámara, 2022). Además, la generalización de su uso por parte del alumnado suscita también preocupación sobre el papel docente y la evaluación de aprendizajes en este nuevo contexto. En el extremo, incluso se instala la sospecha permanente sobre el alumnado, y puede propiciar cierta pedagogía paranoica obsesionada con identificar e impedir su utilización. Plantea, por tanto, debates éticos en torno a sus usos, tanto por parte del alumnado como del profesorado (especialmente en la evaluación) o en la investigación. En este sentido, existen iniciativas para desarrollar recomendaciones y directrices para la utilización de la AI en educación, destacando el trabajo realizado por la UNESCO (Huang et al, 2021), incluidas las consideraciones éticas (UNESCO, 2021), o la Unión Europea (2022), que ha desarrollado la primera regulación sobre la IA (Unión Europea, 2024). En general, estas propuestas de códigos de alto perfil para la IA establecen un marco universal con cinco principios básicos, cuatro de los cuales convergen con los utilizados en Bioética: beneficencia, que supone promover el bienestar, preservar la dignidad y la sostenibilidad, No maleficencia, que remite a la privacidad, seguridad y precaución, Autonomía, entendida como la capacidad de decisión humana, Justicia, que implica promover la prosperidad, preservar la solidaridad y evitar la injusticia, y explicabilidad, que permite habilitar los otros principios a través de la inteligibilidad y la rendición de cuentas (Floridi & Cowls, 2021; AlonsoRodríguez, 2024). Este último, propio de los sistemas de IA, resulta quizás más complejo operacionalizar. En cualquier caso, el estudio de los impactos de la IAG en educación superior requiere una mirada amplia que considere potencialidades y usos en la docencia, investigación y evaluación, así como dilemas y consideraciones éticas, algunas de las cuales ya eran previas. En este sentido, resulta interesante la triple perspectiva planteada por Gallent-Torres, Zapata-González, y Ortego-Hernando (2023): alumnado, profesorado y centro (o institucional). Como decíamos, gran parte de la investigación actual parte de la experimentación por parte del profesorado. La perspectiva institucional ha venido desarrollando directrices a nivel internacional y estatal, aunque en el ámbito universitario son aún bastante escasas. Tenemos menos evidencia, sin embargo, sobre los usos y perspectivas del propio alumnado (Galllent-Torres, et al, 2023). Ante esta situación, se considera necesario analizar en profundidad la visión del alumnado al respecto de estas tecnologías, sus usos y potencialidades, así como las cuestiones éticas que estas prácticas y herramientas plantean. OBJETIVOS Atendiendo a la realidad observada en el empleo de la IA en la universidad, así como a las investigaciones en la materia, los objetivos de este estudio son: 1. Conocer los usos de la inteligencia artificial por parte del alumnado. 2. Identificar sus percepciones sobre la utilidad de la IA. 3. Realizar una aproximación a los aspectos éticos que identifican en el uso de estas herramientas. METODOLOGÍA Se ha llevado a cabo la técnica del grupo de discusión, la cual se caracteriza por la generación de micro situaciones reales pre-existentes que involucran a los/as jóvenes estudiantes universitarios con respecto a un tema en concreto: la Inteligencia Artificial. La realización de grupos de discusión nos permitió un primer abordaje a la temática, además de recolectar datos primarios para interpretarlos y conocer los frames (Bloor et al., 2001). El reclutamiento se realizó a través de anuncios públicos de forma voluntaria. Se realizaron en primer lugar tres grupos de discusión a estudiantes de Grados universitarios introduciendo una pregunta-detonante sobre Inteligencia Artificial. Encadenada y combinada, después, se realizaron otros tres grupos de discusión a alumnado universitario, ya solo sobre la temática específica de la Inteligencia Artificial. A lo largo de la primera fase citada, los tres grupos de discusión fueron deliberadamente seleccionados: (i) un primer grupo de discusión integrado por perfiles de estudiantado relacionado con la informática; (ii) un segundo grupo de discusión configurado en torno a alumnado proveniente de ingenierías; (iii) un tercer grupo de discusión constituido por estudiantes no tecnológicos procedentes de los grados de Biología Bioquímica, Física y Educación Social. El tamaño de la muestra no superó los ocho participantes. En la segunda fase se realizaron otros tres grupos de discusión a alumnado del Grado de Educación Social, donde de forma específica se abordaron las preocupaciones, retos y oportunidades que enfrentan en relación con la Inteligencia Artificial. En este caso, en el guion se introducen ideas-fuerza que provienen de las dimensiones clave del estudio: usos, utilidad y dilemas éticos relacionados con la Inteligencia Artificial. Adicionalmente, se utiliza como contraste un cuarto grupo formado por estudiantes de ESO en Extremadura, que trabajan en paralelo el mismo guion. En la primera fase los grupos de discusión son guiados por los investigadores, registrados y transcritos. En la segunda fase, al alumnado se le proporciona únicamente el guion, y los investigadores no están presentes en la discusión, para facilitar así la expresión libre y la confidencialidad del alumnado, que es quien recoge por escrito, a través de la figura relatora, lo expresado en el grupo, y lo expone oralmente al conjunto de los grupos e investigadores. El grupo de ESO sí que lo trabaja juntamente con su profesor. Sobre lo recogido de los grupos, se ha realizado un trabajo interpretativo, de selección de partes del discurso, de búsqueda de significados, de recontextualización (Juaristi, 2003) y de encadenamiento de una idea con otras (Schreier, 2012). RESULTADOS A continuación, se presentan los resultados obtenidos, ordenados en las tres principales categorías planteadas: usos, utilidades percibidas, y dilemas éticos. USOS Respecto de los usos, el alumnado reporta que utiliza la IA con fines académicos para tareas consultivas como “buscar información”, “consultar dudas” y “conceptos”; “puedes conseguir mucha información” subrayan. Señalan también una dimensión generativa y creativa, en sen- tidos tales como “sacar ideas” u orientativos (“quitar bloqueo”). Reconocen, al tiempo, utilizarlo en tareas académicas como “hacer trabajos” y “resúmenes”: “Igual tengo un trabajo de un artículo científico por ejemplo y tengo que..., si tengo que escribir un párrafo sobre, no sé, leyes de Mendel, por ejemplo. Pues le digo ‘ponme brevemente pues las leyes explícame’ y ya está”. Pero su uso no se limita a cuestiones relacionadas con los estudios. Así, apuntan utilizar la IA “para consultar dudas tanto laborales como de tu vida cotidiana”, y “como entretenimiento”. En cuanto a las aplicaciones que utilizan, se reseña en primer lugar el popular ChatGPT, pero también you.com, TikTok, Bing, o Parafrasear Texto. Los dispositivos sobre los que las utilizan son móviles, ordenador (“lo que más”), Tablet, y reloj. Respecto de la frecuencia de utilización, apuntan que dependiendo del trabajo o tarea a realizar puede ir desde semanalmente, 4/5 días a la semana, hasta diariamente. UTILIDAD La percepción de utilidad del alumnado respecto a la IA en educación superior refleja una principal idea destacada, “la oportunidad de ahorrar tiempo”, de “maximizar el tiempo”: “También facilita tu vida, malgastas menos tiempo de tu vida ya que tardas menos”. Con todo, esta idea es matizada: “Sí, pero depende de cómo lo uses y de cómo hagas las preguntas”. Este aprovechamiento del tiempo se deriva, en la línea de los usos reseñados, en que “facilita la obtención de información” y “entenderla mejor”, sirve “para orientar”. Mejora así tareas de organización de la información tales como “aclarar ideas”, “resumir”, “hacer esquemas”, o “traducir”. Al tiempo, complementa y resuelve dudas surgidas en el aula: “ayuda a encontrar la respuesta a nuestras dudas”, “para comprender temas que en clase no te quedan claros”. También para apoyar otras tareas más tediosas como la generación de citas académicas. E incluso para la programación, en el grupo de discusión con alumnado de informática afirman que “la Inteligencia Artificial muchas veces te saca de los apuros esos”: Hombre: Incluso ChatGPT aunque no sea... Hombre: Para corregir a veces el código, o sea... Moderadora: ¿Sí? Ya lo ha utilizado. Hombre: Quizás no se oiga hablar muy bien, pero... Moderadora: ¿Sí? Hombre: Nos ha ayudado por lo menos. Hombre: Sí, sí. Moderadora: ¿Sí os ha ayudado Chat GPT con algo de lenguaje? Hombre: Sí. Moderadora: Sí, también. Hombre: Con un lenguaje..., a veces dices "es que esto no funciona" y no sabes por qué no eres capaz de encontrarlo, no eres capaz y pues quizás... Hombre: Luego igual es una tontería y entonces se lo pasas y como es una tontería... Moderador: Se lo pasas y... Moderadora: Ya, sí, una coma, ¿no? O cosas así. Hombre: Que sea un punto coma mismamente o yo qué sé. Moderadora: Sí, sí. Moderador: Fallos de ese tipo. Hombre: Y te salva. Aún más, permite obtener un conocimiento más profundo: “Para aprender nuevas metodologías relacionadas con la educación y que satisfagan mejor las necesidades presentes”, o “conocer en profundidad el colectivo en cuestión, hacer estudios sobre datos que le proporciones”. También se apunta que la IA “ayuda a ser más creativo”. En este sentido, se reseña que puede facilitar “conocer nuevas estrategias”, “crear dinámicas/ideas”, o “saber métodos pedagógicos, nuevas ideas de intervención”. Al tiempo, facilitaría otras labores de creación audiovisual, tales como crear subtítulos, hacer vídeos, “creación de imágenes”, “crear cosas audiovisuales”. Y más allá de lo educativo, se destaca su utilidad en otros aspectos como “hacer canciones, para la salud, para los coches, etc.”, “electrodomésticos de la casa”, “transportes públicos”, SiRi, Alexa, TikTok. Con todo, en algunos casos, como en el grupo de discusión de perfiles no tecnológicos, se cuestiona la fiabilidad: Bueno, nosotras hemos llegado a la conclusión de que el ChatGPT no siempre va bien. O sea, por ejemplo, en algunos test que hemos tenido que entregar y tal igual dices "¿cuál de estas es la correcta?". Y te pone una y luego "¿estás seguro? -Ay, no, me confundí". Entonces, yo la verdad que no me guío mucho de Chat GPT. Es más, el alumnado percibe también algunos riesgos en la utilización de la IA. Así, se apunta hacia la posibilidad devaluación cognitiva: “si lo usas demasiado en el futuro es posible que te cueste hacerlo tú solo/a”. Al tiempo, se recogen posibles usos no éticos, maleficencia, como los deepfakes: “para hacer el mal (nudes), crear contenido falso, para lucrarse (manipulación, elecciones, enriquecerse…)”. Pero junto a ello, se alude también a la idea de que la IA serviría “para que el trabajo sea objetivo”, e incluso se llega a afirmar que “las IAs no fallan”. ÉTICA Al ser preguntado sobre las implicaciones éticas del uso de la IA en educación, el alumnado apela sobre todo a los modos de uso: “es una herramienta si la usas bien”. Sin embargo, los usos para los que resultaría apropiada no aparecen del todo claros. Se reitera que “ayuda a ampliar ideas”, y se señala que “no es para todos los trabajos, para la práctica, para investigar sí, para teóricas no, tenemos que aprender”. Pero por contra, otras intervenciones la ven adecuada también como apoyo para los contenidos teóricos: “para la chapa bien”. Se apunta que el uso debería dirigirse a obtener información, que luego permita obtener ideas propias, en línea con la idea de autonomía, de capacidad de decisión humana: “Transformar ideas. La IA no es nuestra idea”, “nos tenemos que basar en nuestras ideas”. Y en ese sentido se reitera el riesgo de devaluación cognitiva y crítica: “Pierdes pensamiento crítico, valores”. El alumnado reconoce la dificultad de combinar ética e IA: “Es complicado compaginarlas”. Se alude a una suerte de (auto)regulación: “Sin abuso. Buena intención. No plagio. No copiar y pegar”, “el usuario le da un marco ético”. En la enseñanza no universitaria su uso se considera también adecuado, pero con cierta regulación: “En los colegios también, pero con limitaciones”. La idea de establecer ciertos “límites”, de regulación, aparece reiterada: “Un límite, me sobrepasa. Criterio, unos límites de conocimiento”. En este sentido, se señalan los riesgos de que las IAs sean utilizadas con “intereses particulares”, o contribuyan a reforzar las cámaras de eco, a “hacemos creer lo que queremos”. Al respecto de otras cuestiones éticas como las de autoría, el alumnado afirma que “hay algunas que dan la fuente, pero en otras tienes que pagar”. En el grupo de discusión con alumnado de biología se advierte también sobre los problemas de confidencialidad y no maleficencia: Y luego relacionado a lo del Chat GPT en concreto en mi campo hay que tener cuidado porque no guarda secretos, entonces si estás investigando algo sobre alguna patente, alguna cosa que quieras patentar no hay que preguntarle nada al Chat GPT porque claro, queda ahí...