Usos y Riesgos de la Inteligencia Artificial en las campañas electorales 2023: Encuesta Delphi a expertos estratégicos de Colombia

Esta obra está bajo una Licencia Creative Commons Atribución 4.0 Internacional DOI: 10.7195/ri14.v22i2.2078 | ISSN: 1697-8293 | Año 2024 Volumen 22 Nº 2 | ICONO14 Usos y Riesgos de la Inteligencia Artificial en las campañas electorales 2023: Encuesta Delphi a expertos estratégicos de Colombia Uses and Risks of Artificial Intelligence in electoral campaigns 2023: Delphi survey of strategic experts in Colombia Usos e riscos da Inteligência Artificial nas campanhas eleitorais de 2023: inquérito Delphi a especialistas em estratégia na Colômbia Marcela López-Ponce1* Daniel Barredo-Ibáñez2** Hada Sánchez Gonzales3*** 1 Universidad de Sevilla, España. 2 Universidad Fudan, Shanghái, China. 3 Universidad de Sevilla, España. * Consultora de Marketing Digital. Doctora por la Universidad de Sevilla (US). Colombia. [email protected] ** Investigador Emergia, Universidad de Málaga (UMA), España. Investigador en la Universidad Fudan, Shanghái, China. España. daniel.barr[email protected] *** Profesora Titular del Departamento de Periodismo II de la Universidad de Sevilla (US), España. [email protected] 2 | Marcela López-Ponce, Daniel Barredo-Ibáñezs, Hada Sánchez Gonzales ICONO14 | Año 2024 Volumen 22 Nº 2 | ISSN: 1697-8293 | DOI: 10.7195/ri14.v22i2.2078 Resumen La propaganda computacional y los bots han surgido como herramientas en redes sociales para moldear opiniones. Sin embargo, la inteligencia artificial (IA) llega como actor para permitir el procesamiento del lenguaje natural y el desarrollo de estrategias de comunicación política automatizadas. Aunque promete beneficios, también plantea desafíos éticos y riesgos de desinformación. Países como Colombia exploran el uso de IA en campañas políticas, al tiempo que buscan regular su aplicación en su contexto democrático. Con la llegada de las elecciones 2023, el debate sobre la ética y el impacto de la IA en la comunicación política adquiere relevancia. Por ello, el objetivo de este estudio fue identificar los posibles usos de la IA en la comunicación política colombiana, su influencia en la polarización y su impacto en la desinformación. Se utilizó el método Delphi en un grupo de expertos en estrategia electoral. Los resultados arrojaron que concuerdan en que la IA es útil para crear contenido en redes sociales y segmentar mensajes políticos. No obstante, discrepan en considerar su uso para planes de gobierno y de su influencia en la percepción de la imagen de los candidatos. Además, coinciden en que la comunicación algorítmica aumenta la polarización en redes sociales, sin embargo, difieren en si fomenta o reduce la participación electoral. Palabras clave: Inteligencia artificial; comunicación política; ChatGPT; procesos electorales; polarización; desinformación Recibido: 14/09/2023; Revisado: 16/10/2023; Aceptado: 19/03/2024; Publicado: 19/08/2024 Para citar este artículo: López-Ponce, Marcela; Barredo-Ibáñez, Daniel; & Sánchez Gonzales, Hada. (2024). Usos y Riesgos de la Inteligencia Artificial en las campañas electorales 2023: Encuesta Delphi a expertos estratégicos de Colombia. ICONO 14. Revista Científica De Comunicación Y Tecnologías Emergentes, 22(2): e2078. https:// doi.org/10.7195/ri14.v22i2.2078 Usos y Riesgos de la Inteligencia Artificial en las campañas electorales 2023 | 3 DOI: 10.7195/ri14.v22i2.2078 | ISSN: 1697-8293 | Año 2024 Volumen 22 Nº 2 | ICONO14 Abstract Computational propaganda and bots have become tools within social networks for shaping opinions. However, the integration of artificial intelligence (AI) has added complexity to this landscape, allowing for natural language processing and the creation of automated strategies for political communication. While AI offers potential benefits, it also raises ethical concerns and the risk of spreading misinformation. Consequently, countries like Colombia are exploring the application of AI in political campaigns while simultaneously working on regulating its use within their democratic framework. In view of the 2023 upcoming elections, the debate surrounding the ethics and impact of AI in political communication gains significant relevance. Therefore, the aim of this study was to investigate the potential applications of artificial intelligence (AI) in Colombian political communication, its influence on polarization, and its role in disseminating disinformation. By employing the Delphi method with a panel of electoral strategy experts, the findings revealed a consensus among experts regarding AI's utility in creating content for social networks and segmenting political messages. However, there was disagreement regarding its suitability for generating government plans and its influence on the perception of the candidates' image. Additionally, experts concurred that algorithmic communication exacerbates polarization on social networks but held differing opinions on whether it enhances or diminishes electoral participation. Keywords: Artificial intelligence; political communication; ChatGPT; electoral processes; polarization; disinformation Resumo A propaganda computacional e os bots surgiram como ferramentas nas redes sociais para moldar opiniões. No entanto, a chegada da inteligência artificial (IA) complexificou ainda mais o cenário, permitindo o processamento de linguagem natural e o desenvolvimento de estratégias de comunicação política automatizadas. Embora prometa benefícios, também coloca desafios éticos e riscos de desinformação. 4 | Marcela López-Ponce, Daniel Barredo-Ibáñezs, Hada Sánchez Gonzales ICONO14 | Año 2024 Volumen 22 Nº 2 | ISSN: 1697-8293 | DOI: 10.7195/ri14.v22i2.2078 Assim, países como a Colômbia exploram o uso da IA em campanhas políticas, ao mesmo tempo em que buscam regulamentar sua aplicação em seu contexto democrático. Com as eleições de 2023 no horizonte, o debate sobre a ética e o impacto da IA na comunicação política ganha relevância. Portanto, o objetivo deste estudo foi explorar os possíveis usos da inteligência artificial (IA) na comunicação política colombiana, sua influência na polarização e seu impacto na desinformação. Assim, utilizando o método Delphi em um grupo de especialistas em estratégia eleitoral, os resultados mostraram que os especialistas concordam que a IA é útil para criar conteúdo em redes sociais e segmentar mensagens políticas. No entanto, discordam quanto ao seu uso para criar discursos ou planos de governo. Além disso, concordam que a comunicação algorítmica aumenta a polarização nas redes sociais, mas diferem quanto a se ela fomenta ou reduz a participação eleitoral. Palavras-chave: Inteligência artificial; comunicação política; ChatGPT; processos eleitorais; polarização; desinformação 1. Introducción La polarización social y política se ha convertido en una herramienta para estrategas electorales y en un fenómeno de interés para investigadores (Mora Ledesma, 2011). No obstante, existen opiniones encontradas sobre el efecto de la polarización en la participación política. Por una parte, algunos autores sostienen que genera apatía y retraimiento (Fiorina & Abrams, 2008), mientras que otros afirman que estimula al electorado y que, al hacer explícitas las posturas, lo inclinan hacia la participación (Lupu, 2015). Lo anterior se muestra coherente con que, en las últimas décadas, los candidatos ganadores y los votantes estadounidenses se hayan venido desplazando en direcciones opuestas, generando una interesante paradoja de la polarización (Galston, 2023). Aun así, con la tendencia a privilegiar el sensacionalismo, la exacerbación y la dramatización; la polarización política ha conllevado el desarrollo de actitudes y posiciones políticas extremas (Lobo, 2017), así como la generación de incentivos perversos en los grupos de poder para privilegiar el conflicto por sobre la cooperación con sus oponentes (Iyengar & Westwood, 2015). No obstante, algunos autores Usos y Riesgos de la Inteligencia Artificial en las campañas electorales 2023 | 5 DOI: 10.7195/ri14.v22i2.2078 | ISSN: 1697-8293 | Año 2024 Volumen 22 Nº 2 | ICONO14 señalan que la investigación aún es insuficiente y limitada en cuanto a la relación que la polarización tiene con los procesos democráticos (Marino & Iannelli, 2023). En consecuencia con las nuevas posibilidades, grupos de interés de diversas corrientes políticas se han visto inclinados a desarrollar diferentes tipos de estrategias en las redes sociales, alcanzando un peso relativo en la influencia electoral (Magnani, 2017). Por ejemplo, durante las elecciones presidenciales de 2016 en Estados Unidos, la exposición a X redujo el porcentaje de votos republicanos, con efectos limitados en la participación y los votos para la Cámara de Representantes y el Senado (Fujiwara etal., 2020). Por otro lado, en Taiwán las redes sociales tuvieron un impacto positivo en la participación y la actitud de los electores (Lee, 2020). Asimismo, tenemos a la propaganda computacional como otro actor que hace uso de algoritmos automatizados para difundir información moldeada a servicios intereses o agendas políticas (Howard etal., 2023). Por ello, esta investigación busca identificar los usos que estrategas políticos hacen de estas herramientas y la influencia de las mismas en la polarización en Colombia. 1.1. Polarización y comunicación política Las redes sociales promueven la conectividad dentro de grupos, sin embargo, también generan tendencias a ignorar o atacar información que contradiga la identidad partidista o ideológica. (Interian etal., 2023), llegando a consolidar identidades y limitar fronteras entre grupos políticos (Iyengar & Westwood, 2015), y en algunos casos, incluso de manera más acentuada que en el mundo real (Barredo-Ibáñez etal., 2021). Este fenómeno, conocido como polarización, no solo afecta la difusión y alcance de los mensajes políticos, sino que también se ve impulsado por la capacidad de ciertos temas polarizantes para influir más en las opiniones y conexiones en las discusiones públicas que aquellos menos divisivos (Schuliaquer & Vommaro, 2020). Este efecto se intensifica con mensajes que evocan sentimientos de ira y disgusto, lo que contribuye a un mayor éxito en la persuasión (Brady et al., 2019). La exposición a medios afines aumenta la polarización ideológica y emocional, mediante estrategias como la desinformación y discursos de odio (Vasist et al., 2023). Aunque los medios partidistas son especialmente polarizadores, aún se desconoce el efecto de la exposición a medios no afines (Kubin & von Sikorski, 2021). En este 6 | Marcela López-Ponce, Daniel Barredo-Ibáñezs, Hada Sánchez Gonzales ICONO14 | Año 2024 Volumen 22 Nº 2 | ISSN: 1697-8293 | DOI: 10.7195/ri14.v22i2.2078 sentido, las redes sociales promueven la hiperemocionalidad en la política, obstaculizando la creación de consensos entre partidos divergentes (García, 2019). Por ejemplo, Facebook y X funcionan como cámaras de eco virtuales, donde individuos con opiniones similares refuerzan narrativas compartidas que restringen el debate político (Boxell et al., 2017; Cinelli et al., 2021). En ello, se ha sugerido que modelos de análisis multifactorial podrían ser útiles para recomendar noticias y así reducir la polarización dentro de estas cámaras de eco (Treuillier et al., 2023) 1.2. Propaganda computacional y comunicación política La era de la información y el ciberespacio generaron un nuevo medio de comunicación que escapaba al control mediático y gubernamental (Castells, 2012; Roetzel, 2019). En este contexto, surgió la propaganda computacional como una herramienta estratégica para crear corrientes artificiales de opinión (Bradshaw & Howard, 2017) para luego definirse, dentro del ámbito académico, como comunicación algorítmica (Campos-Domínguez & García-Orosa, 2018) y tecnopolítica (López-López & Oñate, 2019). Ahora bien, los impactos asociados a estrategias mediáticas digitales pueden ser variables dependiendo del sistema político. En democracias emergentes, la participación política y el consumo de información pueden ser beneficiosos, mientras que, en democracias establecidas, la disminución de la confianza política, el aumento del populismo y la polarización resultarían perjudiciales (Lorenz-Spreen et al., 2023). La propaganda computacional se realiza principalmente en procesos electorales debido a sus altos costos (Barredo-Ibáñez et al., 2021). Gracias a avances tecnológicos como el aprendizaje automático y el análisis de sentimientos (Persily & Tucker, 2020), ha permitido la creación de contenido personalizado (Campos-Domínguez & García-Orosa, 2018). Lo que ha dado lugar a la generación automatizada de información por parte de partidos y candidatos (Gutiérrez-Rubí, 2018), con beneficios para propagandistas estatales y tendencias autoritarias (Trauthig et al., 2023). 1.3. Uso de bots en comunicación política Ahora bien, la comunicación algorítmica, como recurso para las estrategias de marketing electoral, puede presentar riesgos significativos para la sociedad Usos y Riesgos de la Inteligencia Artificial en las campañas electorales 2023 | 7 DOI: 10.7195/ri14.v22i2.2078 | ISSN: 1697-8293 | Año 2024 Volumen 22 Nº 2 | ICONO14 democrática actual (López-López etal., 2023): en primer lugar, los algoritmos pueden generar calumnias y dejar a los medios y ciudadanos en estado de indefensión (Lewis etal., 2019) y, en segundo lugar, su uso ha llevado a desviaciones racistas mediante la dispersión de discursos de odio (Turner Lee, 2018). En este punto, surge la fabricación de consenso a través de la difusión automatizada de propaganda por medio de social bots (Persily & Tucker, 2020). Estos bots generan incertidumbre y distorsiones inflando métricas de alcance, promoviendo narrativas dominantes que fomentan emociones negativas y desafíos en la gobernanza de la red (Barredo-Ibáñez et al., 2021; Cai et al., 2022). Las cibertropas asociadas a entidades gubernamentales, partidos políticos o servicios subcontratados, buscan influir en la opinión pública a su favor (Bradshaw & Howard, 2017). Por ejemplo, Politibot en España se destaca por su calidad informativa (Sánchez & Sánchez, 2017; Sánchez & Sánchez, 2020), mientras que en Estados Unidos se ha observado la influencia de bots en las opiniones políticas de los usuarios (Bail et al., 2018). En Ecuador, se encontraron pruebas de estrategias automatizadas y humanas de manipulación en X durante las elecciones presidenciales de 2017 (Puyosa, 2017). Durante la campaña presidencial de 2020, se observó un aumento en la conversión de bots comerciales en bots electorales, lo que sugiere un mayor uso de esta tecnología en campañas políticas (Ackerman et al., 2020). En México, se han detectado "cyborgs", que son bots capaces de simular el comportamiento humano (Clark et al., 2016). Durante eventos políticos como elecciones, aumenta el uso de propaganda computacional (Bradshaw et al., 2020). En Colombia, durante las elecciones presidenciales de 2014, aproximadamente el 22% de los usuarios eran bots (Cerón-Guzmán y León-Guzmán, 2015). En las elecciones presidenciales de 2018, se detectaron cibertropas que emplearon técnicas de propaganda computacional a favor y en contra de los candidatos para influir en el debate público (Bradshaw et al., 2021), aunque no se pudo atribuir responsabilidad directa. En Colombia, se detectó propaganda computacional en grupos de WhatsApp afines a Iván Duque, donde se compartían contenidos distorsionados para mejorar su imagen y desacreditar a otros candidatos (Chenou et al., 2020; Serrano, 2018; Worley, 2018). 8 | Marcela López-Ponce, Daniel Barredo-Ibáñezs, Hada Sánchez Gonzales ICONO14 | Año 2024 Volumen 22 Nº 2 | ISSN: 1697-8293 | DOI: 10.7195/ri14.v22i2.2078 1.4. Inteligencia artificial, comunicación política y desinformación La IA capacita a softwares para realizar tareas avanzadas, como razonar, aprender, crear y planificar, de manera equiparable a los humanos (Google, s/f; Parlamento Europeo, 2020). En política, se emplea en asistentes virtuales para discursos y campañas (Dader & Campos Domínguez, 2017), permitiendo la creación y difusión automática de mensajes personalizados mediante la combinación de big data y software avanzado (Kreiss & Jasinski, 2016). La IA se emplea para influir en la opinión política y social (Campos-Domínguez & García-Orosa, 2018; Mattelart & Vitalis, 2015). En Latinoamérica, se utilizó IA en campañas electorales, como en Quito, Ecuador, en 2019, donde ayudó al triunfo de Jaime Yunda (Calderón, 2019). De hecho, su papel está evolucionando en los ámbitos gubernamentales: en Dinamarca, como líder de partido político con Leader Lars (Jaimovich, 2023); y en Rumania, como asesor de políticas sociales del gobierno con Ion (Sánchez, 2023). Además, se utiliza cada vez más para manipular y generar contenido audiovisual político, como la difusión de una imagen falsa de Donald Trump siendo detenido (Devlin & Cheetham, 2023) y un video del partido republicano que describe cómo sería el país si Joe Biden fuera reelegido presidente de los Estados Unidos (Seisdedos, 2023). Por otro lado, la IA ha facilitado la creación de representaciones audiovisuales hiperrealistas, conocidas como deepfakes (palabra que combina deep learning, aprendizaje profundo, y fake, es decir, falso), en la que simulan la apariencia y el habla de personas reales (García-Ull, 2021). El primer intento de creación deepfake resultó de una aplicación desarrollada en el año 2017 por un usuario de la plataforma Reddit autodenominado “Deepfakes” (Cole, 2017) que usó una técnica de autoencoder, es decir, codificador automático (Deshmukh & Wankhade, 2021). Estas técnicas, combinando aprendizaje profundo y falsificación, plantean graves preocupaciones en términos de privacidad, ya que aumentan el riesgo de suplantación de identidad. Y su uso para manipular rostros representa una amenaza para la política (Pérez Dasilva et al., 2021) especialmente tras la aparición de deepfakes de figuras destacadas como Barack Obama o Donald Trump (Devlin & Cheetham, 2023). Este panorama presenta desafíos en la detección de noticias falsas, ya que la creciente sofisticación de los deepfakes dificulta distinguir entre lo real y lo ficticio, (Chawla, 2019). Usos y Riesgos de la Inteligencia Artificial en las campañas electorales 2023 | 9 DOI: 10.7195/ri14.v22i2.2078 | ISSN: 1697-8293 | Año 2024 Volumen 22 Nº 2 | ICONO14 1.5. Modelo de lenguaje natural en comunicación política: ChatGPT En este escenario, empresas como Microsoft, Google, Meta y OpenAI compiten por desarrollar plataformas amigables para el procesamiento de lenguaje natural (Medina, 2023). Entre ellas se ha popularizado, ChatGPT de OpenAI, con más de la mitad de los estadounidenses habiendo escuchado sobre ella y un 14% que la ha utilizado (Vogels, 2023). ChatGPT es un modelo que genera respuestas coherentes gracias a su capacidad para procesar grandes cantidades de datos (OpenAI, 2023). Guadián (2023) sugiere que el modelo ChatGPT tiene aplicaciones en áreas como el marketing y la política, como la redacción de discursos electorales y propuestas gubernamentales. En India, se explora su uso en el sector legal a través de un comité de inteligencia artificial en la Corte Suprema (Gandhi & Talwar, 2023). Por otro lado, diputados en Costa Rica lo usaron para redactar una ley de regulación de la IA (Sequeira, 2023). El debate sobre su regulación está en auge en Estados Unidos y Europa (Bohórquez, 2023; Gonzalo, 2023). 1.6. Desafíos éticos sobre el empleo de la Inteligencia Artificial Estos avances plantean debates éticos y preocupaciones sobre su posible manipulación (Laux, 2021). Ya que, aunque poderosa, la IA también puede ser más perjudicial que tecnologías anteriores al difundir noticias falsas, como alerta Corrales (2023). Preocupa el impacto de la influencia de un deepfake en una comunidad y en la imagen pública de un dirigente. A la luz de las nuevas herramientas de la IA liberadas al público general, se han hecho llamados de atención hacia los riesgos que puede conllevar un uso generalizado para los procesos electorales y cómo es necesario desarrollar estrategias de protección (Panditharatne & Giansiracusa, 2023). Las implicaciones éticas plantean diversas preocupaciones, que van desde la preservación de la privacidad, la equidad, la necesidad de responsabilidad, hasta la transparencia en los procesos algorítmicos de discriminación (Big Data Marketer, 2023). Como advierte el filósofo John K. Roth, la mera discusión ética no es suficiente; debemos actuar considerando el contexto de un mundo imperfecto y desigual. (Hagerty,& Rubinov, 2019). Por ello, según los autores, los sistemas de IA generarán 16 | Marcela López-Ponce, Daniel Barredo-Ibáñezs, Hada Sánchez Gonzales ICONO14 | Año 2024 Volumen 22 Nº 2 | ISSN: 1697-8293 | DOI: 10.7195/ri14.v22i2.2078 favoreciendo a candidatos o partidos políticos en lugar de promover la participación democrática. También se menciona que la IA podría ser utilizada para detectar y contrarrestar acciones negativas de candidatos opositores. 3.3.Aplicación de la IA en procesos electorales: desinformación. Aunque el uso de la comunicación política algorítmica en procesos electorales se asocia con escenarios de influencia negativos (Bender, 2022; Gagrčin et al., 2023), encontramos un consenso total del 100% entre los expertos que consideran que fomenta la participación de los electores al votar. Sin embargo, y en oposición, un 70% afirman que los contenidos con IA generan desinterés en los electores (ver tabla 5). Los expertos señalaron que herramientas como los chatbots y la personalización de los mensajes pueden influir en los ciudadanos a la hora de ir a votar. Pero el auge de noticias falsas por esos mismos bots pueden generar desinterés, aumentar las divisiones entre los ciudadanos y fomentar discursos de odio que aviven las tensiones del país. Asimismo, los expertos ven la IA útil en procesos electorales: detecta desinformación, genera contenido audiovisual y automatiza análisis. También manipula tendencias en X y opiniones hacia candidatos (tabla 6), como indican Lorenz- Spreen et al. (2023), con impactos variables según la corriente política. Los expertos expresan preocupación por el potencial de la IA para propagar desinformación y odio en lugar de fortalecer la democracia en Colombia. Aunque se reconoce su utilidad para crear mensajes dinámicos, la falta de regulación ética y legal, incluyendo el uso de software como ChatGPT, genera inquietudes. Por otro lado, no hubo consenso sobre si los contenidos generados por IA pueden estructurar un plan de gobierno o influir en la percepción de los votantes Tabla 5. Consensos de la influencia de la comunicación política algorítmica en la participación electoral No. Consenso Frecuencia Porcentaje Interpretación 1Fomenta la participación de los electores a la hora de votar. 10 100% Muy de acuerdo. 2Genera desinterés en los electores. 7 70% De acuerdo. Usos y Riesgos de la Inteligencia Artificial en las campañas electorales 2023 | 17 DOI: 10.7195/ri14.v22i2.2078 | ISSN: 1697-8293 | Año 2024 Volumen 22 Nº 2 | ICONO14 sobre la imagen de un candidato o la propagación de discursos de odio (Tabla 7). Premisas que se pueden completar con estudios relacionados con la influencia y percepción de candidatos. Tabla 6. Consensos de la aplicación de la IA en procesos electorales y desinformación No. Consenso Frecuencia Porcentaje Interpretación 1Detectar y combatir la desinformación. 9 90% Muy de acuerdo. 2Propagar noticias falsas. 9 90% Muy de acuerdo. 3Manipular las tendencias en X. 9 90% Muy de acuerdo. 4Generar productos audiovisuales. 8 80% De acuerdo. 5Automatizar tareas de análisis y toma de decisiones. 7 70% De acuerdo. 6Manipular la opinión pública en contra de un candidato. 7 70% De acuerdo. Tabla 7. Puntos en los que no se tuvo consenso No. Consenso Frecuencia Porcentaje Interpretación 1Los modelos de lenguaje natural, como ChatGPT, pueden ser herramientas útiles para elaborar planes de gobierno. 4 40% En desacuerdo. 2Los contenidos generados por IA tienen la capacidad de cambiar la imagen que se tiene de un candidato. 4 40% En desacuerdo. 3Los contenidos generados por IA tienen la capacidad de aumentar la imagen favorable propia del candidato. 4 40% En desacuerdo. 4Los contenidos generados por IA tienen la capacidad de desacreditar al candidato opositor. 5 50% No lo tengo claro. 5Los contenidos generados por IA tienen la capacidad de propagar discursos de odio. 5 50% No lo tengo claro. 6Los contenidos generados por IA tienen la capacidad de influir en la decisión de voto. 5 50% No lo tengo claro. 7La IA puede ser utilizada durante campañas electorales para evaluar el impacto de estrategias y discursos en tiempo real. 5 50% No lo tengo claro. 18 | Marcela López-Ponce, Daniel Barredo-Ibáñezs, Hada Sánchez Gonzales ICONO14 | Año 2024 Volumen 22 Nº 2 | ISSN: 1697-8293 | DOI: 10.7195/ri14.v22i2.2078 4. Discusiones y conclusiones Los resultados revelan opiniones diferentes sobre el papel de la IA en la comunicación política colombiana. Aunque se destaca su potencial para fortalecer la participación ciudadana, también se señala su capacidad para restringirla mediante la difusión de discursos de odio o desinformación. Se expresan preocupaciones acerca de que estrategias algorítmicas puedan incrementar la polarización y el conflicto entre opositores. Por otro lado y en contraposición a lo afirmado por Guadián (2023), entre los expertos no hubo consensos en cuanto a considerar si los modelos de lenguaje natural, como ChatGPT, pueden ser herramientas útiles para crear discursos de campaña y elaborar planes de gobierno. No obstante, es un fenómeno que ya ocurre en la práctica política del país. Se tiene en cuenta que estas herramientas optimizan su uso y resultados día a día, por ejemplo, ChatGPT con el uso de prompts para obtener la información, puede ser entrenado como un consultor político y perfeccionar documentos requeridos en estrategias en campañas electorales. En cuanto al impacto en los procesos democráticos en Colombia, hay opiniones divergentes. Mientras algunos estudios sugieren que la polarización puede reducir la participación electoral (Fiorina & Abrams, 2008), otros sostienen que puede promoverla. Sin embargo, Marino & Iannelli (2023) señalan la incertidumbre sobre los efectos generales de la polarización influenciada por herramientas de IA. Teniendo en cuenta lo expuesto, se considera relevante la afirmación de que el uso de herramientas de IA pueden aumentar en las elecciones en Colombia, la propagación de noticias falsas, la manipulación de tendencias en la opinión pública y el descrédito a candidatos opositores, lo que puede incentivar a que los grupos políticos privilegien el conflicto sobre la cooperación para alcanzar una mayor influencia electoral, aunque aún sea incierta la magnitud de su impacto. Con esta información, se conoce que es una realidad el uso de la IA y que influye directamente en la formación de opiniones y decisiones ciudadanas, así como en la calidad del debate y la salud democrática. Por lo que es esencial considerar cómo diferentes contextos políticos, culturales y regulatorios afectan la implementación y los impactos de la IA, y abordar las consecuencias políticas, especialmente la desinformación y la polarización, sobre todo, la credibilidad que el uso de IA puede generar no solo en un candidato sino en el estratega político al saber si la está usando como complemento a su trabajo o que realice la mayoría de su trabajo por él. Usos y Riesgos de la Inteligencia Artificial en las campañas electorales 2023 | 19 DOI: 10.7195/ri14.v22i2.2078 | ISSN: 1697-8293 | Año 2024 Volumen 22 Nº 2 | ICONO14 Finalmente, se sugiere establecer límites éticos y medidas de protección al usar estas herramientas en campañas electorales en Colombia. Este estudio examina el impacto de la IA en la política y elecciones en Colombia, resaltando ventajas y preocupaciones éticas, como polarización y desinformación. Se recomienda investigar la relación entre IA y decisiones de voto, estudio cuantitativos de influencia en la polarización política y que ayuden a establecer regulaciones éticas para futuras elecciones. Además, sería útil comparar la situación de Colombia con otros países en términos de uso de IA en comunicación política y explorar cómo diferentes contextos afectan su implementación y efectos. El estudio tiene limitaciones en su muestra y enfoque en opiniones de expertos. Se recomiendan estudios cuantitativos con muestras representativas de la población para obtener resultados más concluyentes. Futuras investigaciones podrían realizar experimentos controlados y encuestas durante elecciones para informar regulaciones éticas en el uso de IA. Contribución de autores Marcela López Ponce: investigación, análisis formal, metodología, curación de datos, validación, redacción borrador original. Daniel Barredo Ibáñez: conceptualización, supervisión, metodología y software, redacciónrevisión y edición. Hada Sánchez Gonzáles: conceptualización, supervisión, redacciónrevisión y edición. Todos/as los/ las autores/as han leído y están de acuerdo con la versión publicada del manuscrito. Conflictos de interés Los/las autores/as declaran no tener conflicto de intereses. Referencias Ackerman, John M.; Cabo de la Vega, Antonio de; Casado, Fernando; Chávez V., Gonzalo; Hernández Zubizarreta, Juan; Luque, Ana; Macías, Javier; Maniglio, Franco; Mateos, Carlos; Merino, Antonio; Oliván, Fernando; Puglisi, Stefano; 20 | Marcela López-Ponce, Daniel Barredo-Ibáñezs, Hada Sánchez Gonzales ICONO14 | Año 2024 Volumen 22 Nº 2 | ISSN: 1697-8293 | DOI: 10.7195/ri14.v22i2.2078 & Vera, Sergio. (2020). La democracia de los trolls y el asalto a la democracia: Análisis del proceso electoral en Ecuador y los elementos irradiadores que lo conforman a través de sus redes sociales. Ediciones UTM. https://biblioteca-re- positorio.clacso.edu.ar/handle/CLACSO/7917 Bail, Christopher A.; Argyle, Lisa P.; Brown, Taylor W.; Bumpus, John P.; Chen, Haohan; Hunzaker, M. B. Fallin; Lee, Jaemin; Mann, Marcus; Merhout, Friedolin; & Volfovsky, Alexander. (2018). Exposure to opposing views on social media can increase political polarization. Proceedings of the National Academy of Sciences, 115(37), 9216–9221. https://doi.org/10.1073/pnas.1804840115 Barredo-Ibáñez, Daniel; De-la-Garza-Montemayor, Daniel-Javier; Torres- Toukoumidis, Ángel; & López-López, Paulo-Carlos. (2021). Artificial intelligence, communication, and democracy in Latin America: A review of the cases of Colombia, Ecuador, and Mexico. Profesional de la Información, 30(6), Article e3006. https://doi.org/10.3145/epi.2021.nov.16 Barredo-Ibáñez, Daniel; Rivera González, José Gabriel; & Amézquita, Álex. (2015). La influencia de las redes sociales en la intención de voto. Una encuesta a partir de las elecciones municipales en Ecuador 2014. Quórum Académico, 12(1), 136–154. https://dialnet.unirioja.es/servlet/articulo?codigo=5304980 Bender, Sarah. (2022). Algorithmic Elections. Michigan Law Review, 121.3, 489. https://doi.org/10.36644/mlr.121.3.algorithmic Big Data Marketer. (2023, 15 de octubre). Los desafíos éticos en la aplicación de la inteligencia artificial: Un análisis profundo de las implicaciones actuales. [Entrada de Blog]. Bigdata Social. https://www.bigdata-social.com/desafiosde-la-etica-en-la-inteligencia-artificial-aplicada/ Bohórquez, Lucía. (2023, mayo 16). “Si esta tecnología va mal, puede ir bastante mal”: Creador de ChatGPT pide regular IA. El Tiempo. https://www.eltiempo. com/tecnosfera/novedades-tecnologia/sam-altman-creador-de-chatgpt-pide- regulacion-de-ia-y-advierte-riesgos-769190 Usos y Riesgos de la Inteligencia Artificial en las campañas electorales 2023 | 21 DOI: 10.7195/ri14.v22i2.2078 | ISSN: 1697-8293 | Año 2024 Volumen 22 Nº 2 | ICONO14 Boxell, Levi; Gentzkow, Matthew; & Shapiro, Jesse M. (2017). Is the internet causing political polarization? Evidence from demographics (Working Paper No. w23258). National Bureau of Economic Research. https://doi.org/10.3386/ w23258 Bradshaw, Samantha; Bailey, Hannah; & Howard, Philip N. (2021). Industrialized Disinformation: 2020 Global Inventory of Organized Social Media Manipulation. Oxford Internet Institute. https://demtech.oii.ox.ac.uk/research/posts/industrialized-disinformation/ Bradshaw, Samantha; Campbell-Smith, Ualan; Henle, Amelie; Perini, Antonella; Shalev, Sivanne; Bailey, Hannah; & Howard, Philip N. (2020). Country Case Studies Industrialized Disinformation: 2020 Global Inventory of Organized Social Media Manipulation. https://demtech.oii.ox.ac.uk/wp-content/uploads/sites/12/2021/03/Case-Studies_FINAL.pdf Bradshaw, Samantha; & Howard, Philip N. (2017). Troops, Trolls and Troublemakers: A Global Inventory of Organized Social Media Manipulation. Computational Propaganda Research Project. https://ora.ox.ac.uk/objects/uuid:cef7e8d9- 27bf-4ea5-9fd6-855209b3e1f6 Brady, William J.; Wills, Julian A.; Burkart, Dominic; Jost, John T.; & Van Bavel, Jay J. (2019). An ideological asymmetry in the diffusion of moralized content on social media among political leaders. Journal of Experimental Psychology: General, 148, 1802–1813. https://doi.org/10.1037/xge0000532 Cai, Meng; Luo, Han; Meng, Xiao; & Cui, Ying. (2022). Differences in Behavioral Characteristics and Diffusion Mechanisms: A Comparative Analysis Based on Social Bots and Human Users. Frontiers in Physics, 10, 875574. https://www. frontiersin.org/articles/10.3389/fphy.2022.875574 Calderón, María José. (2019). The use of social media and AI to shape democracy in Ecuador. En Global Information Society Watch (pp. 124–128). Association for Progressive Communications. 22 | Marcela López-Ponce, Daniel Barredo-Ibáñezs, Hada Sánchez Gonzales ICONO14 | Año 2024 Volumen 22 Nº 2 | ISSN: 1697-8293 | DOI: 10.7195/ri14.v22i2.2078 Campos-Domínguez, Eva; & García-Orosa, Berta. (2018). Comunicación algorítmica en los partidos políticos: Automatización de producción y circulación de mensajes. El Profesional de la Información, 27(4), 769. https://doi.org/10.3145/ epi.2018.jul.06 Castells, Manuel. (2012). Redes de indignación y esperanza: Los movimientos sociales en la era de Internet. Alianza. Cerón-Guzmán, Jhon Adrián; & León, Elizabeth. (2015). Detecting Social Spammers in Colombia 2014 Presidential Election. En O. Pichardo Lagunas, O. Herrera Alcántara, & G. Arroyo Figueroa (Eds.), Advances in Artificial Intelligence and Its Applications (pp. 121–141). Springer International Publishing. https://doi. org/10.1007/978-3-319-27101-9_9 Chawla, Ronit. (2019). Deepfakes: How a pervert shook the world. International Journal of Advance Research and Development, 4(6), 4-8. Chenou, Jean-Marie; Cabarcas Velandia, Daniel; & Sepulveda, Maria Nicoll. (2020). Social media and political polarization in Latin America: Analyzing online discussions during the 2018 presidential campaign in Colombia 1. En The Politics of Technology in Latin America (Volume 2). Routledge. https://doi. org/10.4324/9780429343247-11 Cinelli, Matteo; De Francisci Morales, Gianmarco; Galeazzi, Alessandro; Quattrociocchi, Walter; & Starnini, Michele. (2021). The echo chamber effect on social media. Proceedings of the National Academy of Sciences, 118(9), e2023301118. https://doi.org/10.1073/pnas.2023301118 Clark, Emily M.; Williams, Jake R.; Jones, Cameron A.; Galbraith, Robert A.; Danforth, Christopher M.; & Dodds, Peter Sheridan. (2016). Sifting robotic from organic text: A natural language approach for detecting automation on Twitter. Journal of Computational Science, 16, 1–7. https://doi.org/10.1016/j. jocs.2015.11.002 Usos y Riesgos de la Inteligencia Artificial en las campañas electorales 2023 | 23 DOI: 10.7195/ri14.v22i2.2078 | ISSN: 1697-8293 | Año 2024 Volumen 22 Nº 2 | ICONO14 Cole, Samantha. (2017, 11 de diciembre). AI-Assisted Fake Porn Is Here and We’re All Fucked. Vice. https://motherboard.vice.com/ en_us/article/gydydm/galgadot-fake-ai-porn accessed 10 September 2021. Corrales, Diego. (2023). Campañas ganadoras. Bronce. Dader, José Luis; & Campos Domínguez, Eva (Eds.). (2017). La búsqueda digital del voto: Cibercampañas electorales en España 2015-16. Tirant lo Blanch. https:// dialnet.unirioja.es/servlet/libro?codigo=702481 Dalkey, Norman Crolee. (1972). Studies in the quality of life: Delphi and decisionmaking. Lexington Books. Deshmukh, A., & Wankhade, S. B. (2021). Deepfake detection approaches using deep learning: A systematic review. En V. E. Balas, V. B. Semwal, A. Khandare, & M. Patil (Eds.), Intelligent computing and networking (pp. 285-295). Springer. https://doi.org/10.1007/978-981-15-7421-4_27 Devlin, Kayleen; & Cheetham, Joshua. (2023, marzo 25). Cómo detectar imágenes creadas por inteligencia artificial como las fotos falsas del arresto de Trump. BBC News Mundo. https://www.bbc.com/mundo/noticias-65071726 Fiorina, Morris P.; & Abrams, Samuel J. (2008). Political Polarization in the American Public. Annual Review of Political Science, 11(1), 563–588. https:// doi.org/10.1146/annurev.polisci.11.053106.153836 Fujiwara, Thomas; Müller, Karsten; & Schwarz, Carlo. (2020). The Effect of Social Media on Elections: Evidence from the United States. SSRN Electronic Journal. https://doi.org/10.2139/ssrn.3719998 Gagrčin, Emilija; Ohme, Jakob; Buttgereit, Lena; & Grünewald, Franziska. (2023). Datafication Markers: Curation and User Network Effects on Mobilization and Polarization During Elections. Media and Communication, 11(3). https://doi. org/10.17645/mac.v11i3.6641 24 | Marcela López-Ponce, Daniel Barredo-Ibáñezs, Hada Sánchez Gonzales ICONO14 | Año 2024 Volumen 22 Nº 2 | ISSN: 1697-8293 | DOI: 10.7195/ri14.v22i2.2078 Galloway, Alexander. (2005). Non-Probability Sampling. En Encyclopedia of Social Measurement (pp. 859–864). Elsevier. https://doi.org/10.1016/B0-12-369398- 5/00382-0 Galston, William. (2023, january 20). The polarization paradox: Elected officials and voters have shifted in opposite directions. Brookings. https://www.brookings. edu/articles/the-polarization-paradox-elected-officials-and-voters-have- shifted-in-opposite-directions/ Gandhi, Parth, & Talwar, Vikram. (2023). Artificial intelligence and ChatGPT in the legal context. Indian Journal of Medical Sciences, 75, 1–2. https://doi. org/10.25259/IJMS_34_2023 García, Javier. (2019, mayo 14). Polarización política: El fenómeno que debería estar en boca de todos. CaixaBank Research. https://www.caixabankresearch. com/es/economia-y-mercados/sector-publico/polarizacion-politica-fenome- no-deberia-estar-boca-todos García-Ull, F. J. (2021). Deepfakes: el próximo reto en la detección de noticias falsas. Anàlisi: Quaderns de Comunicació i Cultura, 64, 103-120. https://doi. org/10.5565/rev/analisi.3378 Gonzalo, María. (2023, abril 27). La Unión Europea prepara la normativa de inteligencia artificial que regulará a ChatGPT. Newtral. https://www.newtral.es/ ley-inteligencia-artificial-ia-chatgpt-union-europea-ue/20230427/ Google. (s/f). ¿Qué es la inteligencia artificial o IA? | Google Cloud. Google Cloud. Recuperado el 17 de mayo de 2023, de https://cloud.google.com/learn/ what-is-artificial-intelligence?hl=es-419 Guadián, Carlos. (2023). Del spin doctor al spin prompter. ACOP, 81, 5–8. https:// compolitica.com/n81-et-2-chatgpt-y-comunicacion-politica-una-ia-para- controlar-el-mensaje/ Usos y Riesgos de la Inteligencia Artificial en las campañas electorales 2023 | 25 DOI: 10.7195/ri14.v22i2.2078 | ISSN: 1697-8293 | Año 2024 Volumen 22 Nº 2 | ICONO14 Gutiérrez-Rubí, Antoni. (2018, febrero 26). ¿Asistentes virtuales también para partidos y políticos? El País. https://elpais.com/politica/2018/02/26/micropolitica/1519636154_945042.html Hagerty, Alexa; & Rubinov, Igor. (2019). Global AI Ethics: A Review of the Social Impacts and Ethical Implications of Artificial Intelligence. Arxiv. https://arxiv. org/abs/1907.07892 Howard, Philip; Lin, Frank; & Tuzov, Valery. (2023). Computational propaganda: Concepts, methods, and challenges. Communication and the Public, 8(2), 47– 53. https://doi.org/10.1177/20570473231185996 Hoyos, Federico. (2023, abril 11). Inteligencia artificial: ¿Aliada o enemiga de la democracia? El colombiano. https://www.elcolombiano.com/opinion/ columnistas/inteligencia-artificial-aliada-o-enemiga-de-la-democracia- FF21066344 Interian, Roberto; G. Marzo, Roberto; Mendoza, Ignacio; & Ribeiro, César C. (2023). Network polarization, filter bubbles, and echo chambers: An annotated review of measures and reduction methods. International Transactions in Operational Research, 30(6), 3122–3158. https://doi.org/10.1111/itor.13224 Iyengar, Shanto; & Westwood, Sean J. (2015). Fear and Loathing across Party Lines: New Evidence on Group Polarization: FEAR AND LOATHING ACROSS PARTY LINES. American Journal of Political Science, 59(3), 690–707. https:// doi.org/10.1111/ajps.12152 Jaimovich, Ariel. (2023, marzo 21). Una charla con el robot que lidera el Partido Sintético en Dinamarca y que busca un escaño en el parlamento. La Nación. https://www.lanacion.com.ar/tecnologia/una-charla-con-leader-lars-el- robot-que-lidera-el-partido-sintetico-en-dinamarca-y-que-busca-darle- nid21032023/