Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artificial.

Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artificial Doctorando Juan de la Cruz Berlanga Tesis doctoral UPV/EHU 2024 Director de tesis Dr. Carlos Martínez Gorriarán Programa de doctorado en Filosofía, Ciencia y Valores (cc) 2024 Juan de la Cruz Berlanga (cc by 4.0) Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 2 Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 7 Dedicatoria A Germán, que llegó mientras escribía esta tesis, y a Esther, que lo hizo todo posible Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 8 Agradecimientos A Carlos Martínez Gorriarán, por haberme guiado todos estos años en el mundo de la filosofía. Al grupo de investigación Praxis, por sus enriquecedores debates, especialmente entorno a la filosofía del lenguaje. Al grupo de investigación IAS, por ayudar en las cuestiones sobre la agencia y GPT. Al equipo de ética de la Inteligencia Artificial de la UC3M, por sus recomendaciones y coloquios, especialmente a Antonio Rodríguez de las Heras y a su recuerdo A la asociación OdiseIA, por su facilidad a la hora de acceder a documentación y al debate público sobre los problemas de la Inteligencia Artificial Y a mi familia, siempre Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 9 Índice Índice ..................................................................................................................................................... 9 Introducción general ........................................................................................................................... 11 Objetivos ............................................................................................................................................. 31 CAPÍTULO I: MARCO HISTÓRICO Y TECNOLÓGICO DE LA INTELIGENCIA ARTIFICIAL ...... 33 1.0 Historia de la Inteligencia Artificial a través de la ficción ............................................................. 35 1.1 Introducción a la historia de la Cibernética y de la computación. ................................................ 40 1.2 La IA imitativa a la computacional ................................................................................................ 45 1.3 Desarrollo actual de marcos éticos sobre Inteligencia Artificial ................................................... 47 1.4 Sobre la definición de Inteligencia ................................................................................................ 77 1.5 La agencia en la Inteligencia Artificial ........................................................................................... 81 1.6 Usos del concepto Inteligencia en el ámbito de la Inteligencia Artificial ..................................... 84 1.7 La IA como sistema racional orientado a fines ............................................................................. 90 1.8 Conclusión CAPÍTULO I ................................................................................................................ 106 CAPÍTULO II: EL MODELO DE LA TEORÍA DE LA ACCIÓN COMUNICATIVA DE HABERMAS Y LA INTELIGENCIA ARTIFICIAL ..................................................................................................... 109 2.1 Los conceptos de racionalidad en la Teoría de la Acción Comunicativa de Habermas .............. 111 2.2 Los vínculos de la Inteligencia Artificial y el Pragmatismo .......................................................... 118 2.3 Acerca de la consideración de Internet como mundo de la vida ................................................ 128 2.4 Resumen de la dialéctica sistema – mundo de la vida, sus críticas y encaje con la IA ............... 131 2.5 Sobre los actos de habla y la Inteligencia Artificial ..................................................................... 149 2.6 La intencionalidad colectiva en la Inteligencia Artificial ............................................................. 164 2.6.1 La habitación china y la intencionalidad colectiva: Searle contra Searle ................................ 172 2.6.2 Intencionalidad colectiva y los actos de habla para Searle y Habermas ................................. 175 2.7 Sobre la Transformación Digital .................................................................................................. 195 2.8 Conclusión CAPÍTULO II ............................................................................................................... 200 CAPÍTULO III: PROBLEMAS PRÁCTICO OPERATIVOS ................................................................. 202 3.1 Impacto sobre los prejuicios ....................................................................................................... 203 3.2 Creatividad, propiedad intelectual e Inteligencia Artificial......................................................... 224 3.3 En relación con la creatividad y el problema de la propiedad intelectual .................................. 249 3.4 IA y economía .............................................................................................................................. 257 3.5 Impactos en la privacidad ........................................................................................................... 270 Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 10 3.6 Impacto sobre la identidad y la percepción del mundo ............................................................. 282 3.7 Interactuación directa ................................................................................................................. 289 3.8 Las decisiones destructivas sobre el mundo físico-objetivo de la Inteligencia Artificial ............ 298 3.9 Desarrollo actual de legislación sobre Inteligencia Artificial a propósito de la ética discursiva . 324 3.10 Conclusión CAPÍTULO III ............................................................................................................ 337 Conclusiones ............................................................................................................................................. 344 Referencias ................................................................................................................................................ 362 Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 11 Introducción general La Inteligencia artificial (IA) ocupa cada vez mayor atención social y espacio en el debate público por sus posibles impactos en todos los ámbitos de la vida personal y social. La cuestión va mucho más allá de los problemas tecnológicos o económicos, y requiere una investigación filosófica que contemple sus distintos aspectos. Esta investigación se propone examinar: La capacidad de la Teoría de la Acción Comunicativa de Habermas como marco teórico válido para el análisis posterior de los principales problemas éticos asociados a la Inteligencia Artificial. La obra e influencia de Habermas es muy extensa. En esta tesis nos centraremos en su trabajo y periodo de la Teoría de la Acción Comunicativa (Habermas, 1981) sin perjuicio de emplear otras de sus obras que sirvan para ilustrar mejor su pensamiento. Empleamos la Teoría de la Acción Comunicativa como obra principal del análisis de esta tesis por las siguientes razones: 1. En el fundamento de la Teoría de la Acción Comunicativa, se encuentra una crítica al concepto de racionalidad, en particular al de la racionalidad económica. Este mismo concepto en nuestra investigación observamos que se emplea para el desarrollo de la Inteligencia Artificial. 2. Igualmente, entre los fundamentos de la Teoría de la Acción Comunicativa, se emplea y critica la organización humana basada en sistemas. En Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 12 el transcurso de nuestra investigación también observamos en el concepto de sistema como base de la Inteligencia Artificial 3. La Teoría de la Acción Comunicativa refiere a que, como consecuencia entre otras de los dos puntos anteriores, surgen una serie de “patologías sociales”: desórdenes sociales, dilemas éticos, tensión psicológica… Este tipo de tensiones suceden hoy en día sucede en el ámbito de la Inteligencia Artificial, por lo que puede aportar un marco explicativo común 4. En la Teoría de la Acción Comunicativa, Habermas ofrece su visión acerca de los actos de habla, apoyándose en la Teoría de los Actos de Habla de Austin y Searle. Dada las nuevas capacidades para el procesamiento de lenguaje natural de la Inteligencia Artificial esta característica de la teoría ofrece también la posibilidad de un punto de anclaje entre el ámbito de esta tecnología y el del sistema filosófico habermasiano. En el marco de este último punto, nos ocuparemos especialmente de la cuestión, que consideramos central, acerca de si la comunicación e interacción con una IA puede o no considerarse un "acto de habla" en el sentido definido por la filosofía del lenguaje de Austin y Searle, en las que se apoyó Habermas para implementar su teoría, y las consecuencias de esa cualidad. La tesis es pues un estudio basado en la obra de la Teoría de la Acción Comunicativa y su dialéctica sistema-mundo de la vida, en la cual los actos de habla tienen un papel principal. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 13 Aunque emplea en ocasiones elementos, la tesis no estudia otros aspectos del pensamiento de Habermas como la ética discursiva, la democracia deliberativa o sus críticas a la tecnología como ideología. La dialéctica sistema-mundo de la vida sí es un fundamento de otros trabajos posteriores de Habermas, y esta es una de la razones por las que entendemos es necesario su análisis en el ámbito de la Inteligencia Artificial, pero el objetivo de la tesis no es centrarse en la gobernanza de la tecnología o en las respuestas que una ética discursiva pudiera dar a sus problemas, si no el de estudiar el marco filosófico que empleó Habermas para llevar a cabo estas otras herramientas posteriores. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 20 02. Problemas principales en la investigación En la sección anterior hemos introducido como el impacto social y ético de la Inteligencia Artificial está siendo contemplado desde distintos ámbitos a escala global. En nuestra tesis, queremos investigar como la Teoría de la Acción Comunicativa de Jürgen Habermas que, entre otros objetivos, pretendía dar una explicación al porqué surgían las llamadas “patologías sociales” de su época. El objetivo es analizar si esta teoría sirviera también como marco válido para explicar las “patologías sociales”, siguiendo su denominación, de la nuestra. A la hora de elaborar marcos, recomendaciones o guías sobre ética de la Inteligencia Artificial, como los mencionados en el capítulo anterior, que pueden servir de base posterior para estandarización de productos o regulación legal, se emplea de manera habitual conceptos de gobernanza y principios de actuación de influencia habermasiana. Un ejemplo de esto es la orientación al consenso y deliberación entre stakeholders o el respecto a la cultura del colectivo en el entorno de la Inteligencia Artificial. Entendemos sin embargo que dada la influencia en estos textos de la ética deliberativa de Jürgen Habermas, ir a su raíz, a la Teoría de la Acción Comunicativa, puede aportar conclusiones que permitan un mejor enfoque de los distintos problemas asociados a esta tecnología. Para ello estos serían los siguientes problemas encontrados en nuestra investigación: RC#1 Encaje de la Inteligencia Artificial en la dialéctica sistema – mundo de la vida que establece Habermas en su Teoría de la Acción Comunicativa Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 21 RC#2 Justificación de Internet como mundo de la vida RC#3 Justificación de la Inteligencia Artificial como sistema RC#4 Justificación de la Inteligencia Artificial para poder realizar o alterar actos de habla RC#5 Cómo este último hecho genera un impacto social y ético a través de las denominadas “patologías sociales”. Estos cinco puntos revelan problemas en la investigación relacionados mutuamente. Cada uno de ellos solucionan una parte del argumentario de la tesis y es el encaje de los cinco lo que nos permitirá entender con detalle el problema principal acerca del grado de aplicación de la Teoría de la Acción Comunicativa a la cuestión de la Inteligencia Artificial. Los cuatro primero de ellos pertenecen al ámbito teórico conceptual. La mayor parte de los problemas de la tesis es tratar de enmarcar los distintos conceptos planteados. Finalmente, hay un problema prácticooperativo en la investigación a la hora de vincular el marco conceptual con los problemas concretos destacados por la actividad normativa, reguladora y deliberativa. 0.3-1 Problemas teórico-conceptuales Una parte importante de la problemática de nuestra investigación es el encaje conceptual del ámbito actual en el de la Teoría de la Acción Comunicativa, como indicamos en el #RC1. Así por ejemplo enmarcar tecnologías actuales como Internet dentro de conceptos utilizados en la Teoría de la Acción Comunicativa como mundo de la vida, heredado de la fenomenología de Husserl (1936) de la primera mitad del siglo XX, supone un adecuado conocimiento tanto de la Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 22 tecnología como del término. Si bien autores como Etxeberría hacen referencia al mismo (Etxeberría, 2008), la literatura actual emplea con más frecuencia la aproximación de contexto en la comunicación como un término próximo al que Habermas usa como mundo de la vida (Sperber, 1986). Hay muchos elementos de este concepto sin embargo dispersos y que asiduamente se utilizan en la academia como el de comunidades, el de identidad o el de autopercepción (Zhao S. , 2004) (Odaci, 2013) (Warschauer, 2013) (Nakamura, 2013). Mientras que el concepto de mundo de la vida surge de la fenomenología y de la filosofía de la mente, Habermas lo aplica al de la filosofía del lenguaje, que, aunque estrechamente relacionados, tienen características y términos propios con los que pueden existir confusión o solapamiento. En su “giro lingüístico”, Habermas reinterpreta conceptos de la filosofía de la mente, de la que se pretende alejar, para la filosofía del lenguaje, en la que se pretende posicionar. Es necesario además justificar que efectivamente la Inteligencia Artificial se relaciona con el mundo de la vida, en caso de que lo haga, sistematizándolo y no adaptándose al mismo entrando así en la dialéctica. Aunque históricamente la literatura hablaba con asiduidad del llamado “Frame Problem” (McCarthy J. &., 1981) y la incapacidad de la Inteligencia Artificial para adaptarse a su contexto, los recientes avances de procesamiento de lenguaje natural (GPT-3) han hecho tambalearse esta barrera. El “Frame Problem” nos habla de la imposibilidad de aprehender la realidad computacionalmente debido al carácter exponencial de las opciones que van surgiendo en una determinada situación en función de su marco (“frame”) o contexto. Hasta hace poco tiempo para algunos era un obstáculo insalvable que impediría a una Inteligencia Artificial mantener conversaciones equiparables a las de un ser humano. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 23 El hecho de que el “Frame Problem” a raíz de los recientes resultados comience a dejar de verse como un obstáculo infranqueable, o al menos sí gestionable, fuerza a considerar las nuevas capacidades de la Inteligencia Artificial para no sistematizar, y por tanto reducir, el mundo de la vida según la dialéctica, si no su capacidad para adaptarse al mismo o al menos a su faceta de contexto comunicacional. Hay finalmente una tercera necesidad con respecto a este primer punto #RC2, que es el concepto de economía de Habermas de la etapa de su Teoría de la Acción Comunicativa. La economía se plantea a lo largo de la teoría como un sistema construido por el ser humano y sus sociedades, desvinculado del mundo de la vida. Este aspecto a nuestro entender requiere de matización para poder entender como la Inteligencia Artificial tiene efectos en el ámbito económico desde la perspectiva de la dialéctica planteada en el problema #RC1. El comportamiento del mercado es complicado de entender sin valorar el trasfondo social y cultural en el que se dan las relaciones comerciales. El tercer problema #RC3, relacionado también con el #RC1, lo encontramos a la hora de justificar a la Inteligencia Artificial como un sistema. Si bien la Teoría de Sistemas nos permite un análisis de la realidad de innumerables temáticas la complejidad que ha alcanzado la Inteligencia Artificial actual y sus vínculos con el ámbito del lenguaje, por medio de miles de millones de parámetros, hacen necesario justificar que es abordable como sistema. Esto es debido a que, desde la perspectiva de la dialéctica del sistema-mundo de la vida, obviamente no todo en la realidad es sistema. Esto es uno de los puntos de discusión que tenía Habermas, por ejemplo, con los cibernetistas (Moynahan, 2018). El mundo de la vida, dada esta visión, se opone concepto de sistema y si la Inteligencia Artificial actual, como la estamos observando, puede Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 24 imbricarse con éxito en la cultura y el lenguaje, podría argumentarse que su situación no está ya, hoy en día, al lado de la sistematización como se podría intuir dados sus orígenes, si no que habría que entenderla como un ente que forma parte del mundo de la vida al igual que el ser humano. Justificar que se trata de un sistema lo vemos de relevancia pues para poder consolidar su papel en la dialéctica. El cuarto problema #RC4, relacionado, es que la Inteligencia Artificial que planteamos debe de tener la capacidad de irrumpir en el ámbito de los actos de habla a la manera que lo hacen los sistemas sociales planteados por la Teoría de la Acción Comunicativa. La dialéctica que plantea Habermas se da debido a estos actos de habla por lo que para solucionar #RC1 necesitamos justificar que la Inteligencia Artificial tiene esta posibilidad. Revisaremos también la crítica a la interpretación de la Teoría de los Actos de Habla (Searle J. R., Speech acts: An essay in the philosophy of language, 1969) de manera que comprobemos su validez con lo propuesto. Un aspecto problemático de la interpretación de los actos de habla que hace el Habermas de la Teoría de la Acción Comunicativa se encuentra, de nuevo, en el aspecto económico donde el intercambio de dinero no lo considera tal, a diferencia de su cocreador de la teoría, John Searle. Pero también en otros aspectos como su desvinculación entre acciones y acciones comunicativas y su desvinculación entre actos ilocutivos y perlocutivos. Hay otro factor relevante respecto al problema #RC4 y es la existencia o no de una intencionalidad colectiva que aborde el problema de los actos de habla realizados por organizaciones. Existe un debate en si el acto de habla lo hace realmente un individuo concreto, en nombre del colectivo, o si realmente es el colectivo en sí el que genera el acto concreto. Por Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 25 ejemplo al promulgar la ley o norma. Esta cuestión como veremos tendrá importancia a la hora de analizar la posibilidad de enmarcar a la Inteligencia Artificial en la dialéctica. 0.3.2 Problemas práctico-operativos de la investigación Una vez enfocados los cuatro primeros problemas teórico-conceptuales y asentada la relación entre la terminología del ámbito de la Inteligencia Artificial con la de la dialéctica sistema-mundo de la vida habermasiana el problema aparece al tratar de aplicar este marco a problemas concretos de la Inteligencia Artificial El ámbito de áreas afectadas por la Inteligencia Artificial, en tanto en cuanto influye en la comunicación entre personas, abarca facetas dispares que van desde la propiedad intelectual a la amenaza sobre la desaparición de puestos de trabajo. Tomaremos varios ejemplos de este tipo de problemas, propios del impacto social y ético de la Inteligencia Artificial, y los revisaremos desde la perspectiva de la dialéctica una vez el marco teórico-conceptual de los #RC1, #RC2, #RC3 y #RC4 queden convenientemente fijados. El #RC5 consiste en una adecuada selección de los casos a analizar, lo que requiere una comprensión de cada uno de los problemas, los efectos sociales y éticos que implican y cómo la Inteligencia Artificial afecta actualmente a cada uno de esos ámbitos. La comprensión de la tecnología y sus efectos son un componente importante para el trabajo, también, de cada uno de los casos tratados. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 26 En la tesis se estudian ocho escenarios principales de cara a ser explicados desde el marco de la Teoría de la Acción Comunicativa. 0.4. Objetivos e hipótesis Superados los problemas de la sección anterior, el objetivo de la tesis es analizar la viabilidad de la Teoría de la Acción Comunicativa, y en particular la dialéctica sistema – mundo de la vida que plantea, como marco explicativo de los problemas sociales y éticos derivados de la Inteligencia Artificial. Entendemos que la base dialéctica sistema – mundo de la vida es una base principal del proyecto filosófico de Habermas sobre la cuál va construyendo para abordar otras temáticas. Una vez explica su forma de entender los procesos históricos, reinterpretando las ideas de la filosofía y sociología alemanas, desarrolla la propia Teoría de la Acción Comunicativa y desde ahí continúa hacia el campo de la ética, con la ética discursiva, y el de la filosofía política, con la democracia deliberativa, entre otras cuestiones. En esta tesis vamos a la base misma investigando si el desarrollo de la Inteligencia Artificial actual tiene cabida en esta dialéctica y si desde la misma pueden explicarse los problemas fruto de las colisiones que mencionaba Habermas. Al adquirir conocimiento sobre la viabilidad de esto pensamos puede contribuir a un mejor desarrollo de los marcos y guías éticas, siempre que consideren la deliberación de Habermas como uno de sus elementos clave (por ejemplo, en la inclusión de todos los stakeholders) o en las políticas de gobernanza sobre tecnología. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 27 Así mismo, considerar a la Inteligencia Artificial actual dentro de la dialéctica sistema – mundo de la vida sirve de base para nuevos enfoques para entender las implicaciones de la Inteligencia Artificial desde la perspectiva también de la filosofía del lenguaje. Aunque la línea principal del proyecto de Habermas deriva mayoritariamente sobre los otros ámbitos arriba expuestos, la Teoría de la Acción Comunicativa tiene fundamentación en las ideas sobre el lenguaje de Searle y en aspectos de la fenomenología de Husserl, como ya hemos indicado , como teoría que surge durante el contexto histórico del “giro hacia el lenguaje” de la filosofía. Al intentar observar la aplicabilidad de la Inteligencia Artificial aquí es inevitable tratar de resolver también estos aspectos, como apuntamos en el #RC4. De este estudio obtenemos como objetivo secundario de la tesis la capacidad de la Inteligencia Artificial para generación de actos de habla, gestionados y canalizados desde colectivos. Los objetivos pues de la tesis serían los siguientes: #O1 Argumentar que la dialéctica sistema – mundo de la vida de la Teoría de la Acción Comunicativa es un marco que explica los problemas sociales y éticos de la Inteligencia Artificial, estudiando casos concretos, y que como tal sienta una base que ayuda a justificar la deliberación en el ámbito de la ética y la gobernanza de esta tecnología #O2 Dar una explicación de la forma de actuar de la Inteligencia Artificial actual por medio de la Teoría de los Actos de Habla, a través del concepto de intencionalidad colectiva. 0.5. Estructura de la disertación La tesis se divide en tres capítulos donde se aborda la resolución de los #RC. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 28 El primer capítulo se centra en el desarrollo de la Inteligencia Artificial, tanto actual como a lo largo de la Historia. En él se explica la tecnología, sus capacidades actuales y cómo surge a partir del concepto de la racionalidad económica. Del mismo modo, se explica cómo fue desarrollada mediante las ideas de la Teoría de Sistemas. Esta primera parte es necesaria para poder consolidar el concepto de Inteligencia Artificial, y especialmente su relación con el #RC3, sin el cual no es posible abordar uno de los dos componentes principales de la dialéctica de Habermas: el de sistema. El segundo capítulo sienta los tres primeros problemas teórico – conceptuales (#RC1, #RC2, #RC3) en el que se focaliza en explicar la dialéctica sistema – mundo de la vida, el porqué de la consideración de sistema a la Inteligencia Artificial y una justificación sobre Internet como mundo de la vida. Durante los mismos, los dos pares de conceptos se vinculan entre ellos y se plantea como interactúan entre sí y se compara con la forma en que la plantea Habermas. Igualmente se aborda en el segundo capítulo la cuestión del mundo de la vida y la economía de acuerdo con el #RC2. En este segundo capítulo se plantea nuestra propuesta principal y se argumenta a favor de la justificación de los términos expuestos a la hora de alinearlos con los conceptos principales de la dialéctica. Posee pues la base principal de la tesis en cuanto al abordaje de los problemas teórico - conceptuales, abordando también el #RC4, vinculado a la filosofía del lenguaje. En este segundo capítulo se produce una alineación de los principales conceptos. Por un lado, el de Inteligencia Artificial con el de sistema para lo cual se hace una revisión histórica, Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 29 pragmática en cuanto al uso del lenguaje y de su construcción actual desde el punto de vista de la ingeniería. Así mismo, puesto que lo que planteamos es un marco con dos categorías, justificamos por qué debe ser ubicada en el lado del sistema y no en el del mundo de la vida pese a que a tenor de las nuevas capacidades como ya hemos indicado en #RC3 ambas categorías se confunden. La siguiente alineación para estudiar es la de Internet y mundo de la vida, revisando la literatura existente y dándole justificación. Tanto este problema como el anterior establecen el fundamento ontológico de la tesis sobre el que se irá construyendo los siguientes pasos. En concreto, una vez tenemos ubicada la Inteligencia Artificial como sistema y el ámbito donde actúa como mundo de la vida, tenemos ya preparado el planteamiento de esta dialéctica mediante la cual Habermas fundamentó su teoría. Por lo que, en este segundo capítulo, expondremos también la misma y como ambas piezas encajarían. Además, como mencionamos, en el segundo capítulo de la tesis nos enfocamos en el #RC4, tratando de resolver el problema que a la investigación le supone la cuestión de la filosofía del lenguaje. Para que la dialéctica establecida funcione, de acuerdo con el planteamiento de la Teoría de la Acción Comunicativa la relación entre sistema y mundo de la vida se produce a través del lenguaje. Es necesario por tanto ver el rol que acomete aquí la Inteligencia Artificial, en tanto en cuanto si queremos emplear el marco propuesto por la teoría hay que considerar la existencia de actos de habla. En este segundo capítulo de la tesis se trabaja sobre esta cuestión y se trata de dar una explicación a como interactúa la Inteligencia Artificial actual a través de estos. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 36 autómatas antropomórficos, aunque en el caso del de Juanelo destaca la Historia por como el mito popular le atribuye rasgos propios de la consciencia. En la primera revolución industrial y su impacto en y desde el mundo de la ciencia, en pleno romanticismo, Mary Shelly escribe la novela el Monstruo de Frankenstein en el que por medio de las técnicas eléctricas y de la medicina que sorprendían entonces se conseguía crear de nuevo vida de lo inerte. Esta vez era el conocimiento científico-técnico lo que posibilitaba crear la vida. La autora señalaba en su obra el sobrenombre de el moderno Prometeo y es que, al igual que veíamos en el Golem y en los mitos de Dédalo, existe el denominador común en esta creación de Inteligencia de aproximarse a la Divinidad. A diferencia de los mitos y leyendas anteriores Shelly pretendía más reflejar el espíritu de su época y extraer una serie de conclusiones moralizantes que ofrecer mediante la ciencia para sugerir verosimilitud (McCutcheon, 2018). En la misma línea hay otra obra del siglo XX, esta vez en el teatro de Bernard Shaw, que señala el vínculo del lenguaje con la dotación de la vida: Pigmalión. La obra se basa en el mito griego en el cual el Rey de Chipre Pigmalión crea una estatua de la que se enamora y esta finalmente cobra vida. En la Obra de Shaw esta vez es un logopeda el que enseña a hablar correctamente a su alumna, de carne y hueso, devolviéndole metafóricamente a la vida y enamorándose finalmente de ella por medio del habla (Shaw, 1913). En la segunda revolución industrial se acuña el término robot a raíz de la obra teatral R.U.R. Del filósofo checo Karel Capek. Esta obra se enmarca ya en la Ciencia Ficción y refleja los conflictos de la lucha de clases (es del año 1923, tras el triunfo de la revolución soviética). Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 37 Los robots son aquí similares al Monstruo de Frankenstein: autómatas y conscientes, pero además con capacidad de organizarse como clase social. El mismo autor, checo, al finalizar la obra cayó en la cuenta de que había creado una versión moderna del Golem de Praga. Existe también el denominador común de la rebelión de la creación contra el creador en muchos de estos mitos a lo largo de la Historia (Christoforou, 2016). Acompañada de esta revolución la mitología de la Inteligencia Artificial persiste en los nuevos formatos de comunicación como son el cine y las novelas de Ciencia Ficción. Por lo general de una manera u otra se mantiene la moraleja moralizante de los mitos antiguos, esta vez con forma de distopía. Actualmente y frente al hecho de volver a caer en una nueva forma de representar un mito conforme al paradigma moderno que nos parezca “razonablemente factible”, que es lo que produce una mayor sensación de miedo y hace que las historias por ello funcionen mejor, la Inteligencia Artificial hoy en día está por fin “desmitificada” y se encuentra inserta en el día a día. Si bien, a diferencia de los mitos antiguos, ha dejado de ser, por ahora, antropomórfica, encontrándose inserta en herramientas y dispositivos cotidianos y en muchas ocasiones siendo apenas identificada como tal. Tras la consolidación de las tecnologías de procesamiento de información basadas en la electrónica y los dígitos binarios, veremos si en el futuro inmediato las nuevas tecnologías cuánticas aplicadas a la computación crean nuevos paradigmas acerca de lo que supone la Inteligencia y lo que nos define como humanos. La clasificación de esta información como forma de canalizar el esfuerzo de la sociedad va también unido al modelo socioeconómico en Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 38 desarrollo. Durante la era de la agricultura el individuo se encontraba adherido a la sociedad de su entorno inmediato y a su marco mental en base al espacio. Su vida transcurría alrededor de un terreno en el cual por la ausencia de movilidad, infraestructuras y transporte le era difícil escapar. La regulación se marcaba en base a un cacique o feudo (Rojas, 2004) y su marco mental se veía circunscrito a la mentalidad de la tribu bajo la guía del chamán o sacerdote. En el antiguo régimen el individuo estaba circunscrito al espacio, en virtud de su modelo socioeconómico. Ya en la revolución industrial y del transporte donde las distancias se acortaron el individuo estaba sujeto a su sociedad en base al tiempo. La jornada de 8 o más horas al día 5 o más días a la semana junto con el cuidado familiar marcaban su rutina y su marco mental. Este último, en su tiempo libre, se veía condicionado por la televisión o la prensa de una u otra ideología política. Comienza esta era mercantil en la que el tiempo es dinero por medio de la profundización en las primeras estructuras de conectividad global: las de agua, en vez de las de electromagnetismo (Gordon, 2018). Esto es lo que Sloterdijk llama la primera globalización (Sloterdijk, 2014). Con la llegada de la red, donde la comunicación entre una y otra parte del mundo se realizan a velocidad luz y es difícil medir la productividad laboral en base a horas de trabajo, la barrera del tiempo también se rompe. El marco mental de la vida del individuo en la sociedad de la red se basa ahora en la información y la prioridad de ésta. Esta prioridad y la información que es o no accesible es marcada por los llamados filtros burbuja, que estudiaremos, de ahí su relevancia y su posible impacto ético e influencia o no en la relación del individuo con su sociedad. El esfuerzo social se canaliza no ya a golpe de tiempo o de espacio, pues se puede Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 39 acceder a la información en cualquier lugar, en cualquier momento, y lo que el individuo da es su atención e interactuación: los flujos del modelo cibernético. Por un lado, el individuo se libera de la rutina del espacio y del tiempo, pero por otro puede caer preso de este otro tipo de sistema racionalizador orientado a fines. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 40 1.1 Introducción a la historia de la Cibernética y de la computación. Al finalizar la Segunda Guerra Mundial, a partir de los años 50, comienza el desarrollo de las Ciencias de la Computación y a “mecanizarse” algunas actividades cognitivas hasta entonces patrimonio único del ser humano, como el cálculo matemático. Es entonces cuando la perspectiva de crear Inteligencia mediante la tecnología parece tangible. La máquina de propósito general de Turing (Turing, On Computable Numbers, with an Application to the Entscheidungsproblem, 1937) se considera el primer diseño para esta función. Simultáneamente, Claude Shannon (Shannon, 1948) desarrolla su Teoría de la Información que servirá de base en el futuro para la transmisión de información tanto por parte de las máquinas como aplicación al campo de la lingüística. Claude Shannon, trabajador de la compañía telefónica Bell; junto a Marvin Minsky, cofundador del laboratorio de Inteligencia Artificial del MIT; McCarthy y Rochester (estos dos últimos empleados de la compañía IBM) fueron los creadores del término Inteligencia Artificial en la Conferencia de Dartmouth en 1956 (McCarthy J. M., 1955). Previamente a la conferencia de Dartmouth, Norbert Wiener, profesor de Claude Shannon, desarrolla su Teoría de la Cibernética. La Teoría de la Cibernética se define como el campo interdisciplinario acerca del estudio la comunicación y el control y las analogías entre los sistemas de los seres vivos y las máquinas (Wiener, Dios y Golem, S. A. Comentarios sobre ciertos puntos en que chocan cibernética y religión, 1964). La Cibernética se fundamenta en la Teoría de sistemas y la Teoría de Control (Wiener, Cybernetics or Control and Communication in the Animal and the Machine, 1948). La primera establece la existencia de elementos que interactúan con su entorno en base a unas reglas Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 41 internas. Los elementos están individualizados, son diferenciables respecto a su entorno, e interactúan de forma bidireccional con el mismo. A la dirección desde el entorno al elemento se la denomina entrada y la dirección desde el elemento hacia su entorno salida. Mediante la entrada y la salida los elementos pueden interactuar entre sí y al interactuar muchos de estos elementos entre sí establecen nuevos sistemas que pueden tener propiedades emergentes. Los sistemas no tienen por qué estar orientados a unos fines o a cumplir unos objetivos, sino simplemente realizar intercambios de entrada y de salida con su entorno sin necesariamente propósito alguno (Leight, 2004). La Teoría de Control, también fundamento de la cibernética, establece además la existencia de una retroalimentación entre la salida y entrada del sistema. Mediante la aplicación de la Teoría del Control y la existencia de esta retroalimentación negativa los sistemas cibernéticos tienden a mantener su entorno de manera estable dentro de unos parámetros a lo largo del tiempo (Leight, 2004). Wiener observó que mediante este planteamiento de sistemas bajo la Teoría de Control era posible modelizar matemáticamente tanto comportamientos de la naturaleza como artefactos humanos, iniciando así la cibernética. Un ejemplo del caso de un artefacto es un transistor convencional de silicio pensado para amplificar señales sin exceder unos parámetros manteniendo la emisión controlada. Otro ejemplo en el caso de un sistema natural sería un ecosistema con su cadena trófica, donde depredadores y presas tienden a un equilibrio. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 42 Claude Shannon con su Teoría de la Información estableció los postulados para la entrada y la salida de los sistemas descritos por Wiener. Basándose en la máquina universal de Turing y su planteamiento de que cualquier computación puede ser modelizada mediante secuencias de código binario con sólo dos símbolos, unos y ceros, estableció un modelo de comunicación de información a través de las entradas y salidas del sistema. La comunicación de entrada y salida y la retroalimentación para algunos sistemas cibernéticos cabría pues modelarse mediante código binario. Tras la aparición de la invención del primer computador por parte del equipo de von Neuman (Goldstine, 1946), Watson, Crick y Franklin descubren también el código binario en el ADN (Watson, 1953) y cómo mediante sus algoritmos basados en proteínas describen una forma de vida. Se apuntala en el pensamiento de la época esta visión de correspondencia entre la vida y la nueva tecnología con base a la información en código binario y manipulación algorítmica. La Teoría de Sistemas establece por otro lado la emergencia de propiedades cuando una organización de subsistemas o elementos interactúa entre sí. La cibernética establece también por tanto que la interacción de muchos elementos o sistemas interactuando entre sí pueden dar lugar a propiedades emergentes. Un ejemplo clásico de esto es el tráfico de una ciudad donde a raíz de múltiples vehículos interactuando entre sí aparecen fenómenos como los atascos y la degradación ambiental de las zonas que los sufren. Un sistema básico es como hemos visto por ejemplo un transistor convencional de silicio, el cual ante determinadas entradas electromagnéticas genera unas determinadas salidas. La interconexión de miles de millones de transistores posibilita los procesadores GPU actuales, una Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 43 evolución de los procesadores CPU ideados originalmente por von Neumann (Yuen, D. A., & International Workshop of GPU Solutions to Multiscale Problems in Science and Engineering (1st:2010: Harbin, China), 2013). A su vez, un procesador forma un sistema informático con otros elementos electrónicos como la memoria electromagnética o las entradas y salidas que posibilitan su interacción con personas u otras máquinas. La interacción posibilita por ejemplo los lenguajes de programación, en el caso de la interacción con personas, o de Internet, en el caso de la interacción con máquinas. En ambos casos nuevos sistemas con sus propiedades debido a la interconexión organizada de otros subsistemas y elementos más básicos. Entre las nuevas propiedades que surgen se encuentra una mayor potencia de cómputo para realizar operaciones en un menor tiempo. Esto explica que los últimos 70 años desde que se acuñó el término de Inteligencia Artificial las capacidades de esta hayan aumentado ostensiblemente. Estas mejoras en la potencia de cómputo se fundamentan en nuevas formas de interconexión y organización de los sistemas previos. Algunos ejemplos de esto son las GPU, ya mencionadas, pero también se observa en los siguientes sistemas: • La computación en paralelo que posibilita a varios procesadores dividirse un determinado cómputo, realizarlo en paralelo de forma simultánea y finalmente agrupar el resultado, dividiendo así los tiempos totales de la tarea (Özgüner Füsum, E. F., North Atlantic Traty Organization. Scientific Affairs Division, & NATO Advanced Study Institute on Parallel Computing on Distributed Memory Multiprocessors, 1993) Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 44 • Las bases de datos verticales que posibilitan gestionar volúmenes de datos mucho más elevados en un menor tiempo (Gorla, 2008) • La computación en la nube que permite ahorros energéticos y de inversión económica en potencia de cómputo muy significativos (Li X. &., 2014) • Nuevos algoritmos como el “Deep Learning” (LeCun, 2015) o, anteriormente, el algoritmo de “backpropagation” (Werbos, 1990) que permiten alcanzar el estado de equilibrio que postula la Teoría Cibernética en un menor tiempo de cómputo. Las bases de los algoritmos descritos en el último punto se asentaron poco después de la conferencia de Darmouth mediante el concepto del perceptrón. No fue posible profundizar en el perceptrón debido a las limitaciones en potencia de cómputo de aquella época (Werbos, 1990). El desarrollo de Internet y su capa de protocolos TCP/IP posibilitó el resto de los sistemas descritos. Muchas veces para posibilitar nuevas propiedades es necesaria la disponibilidad de interconexión con otros nuevos sistemas que con anterioridad eran inexistentes. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 45 1.2 La IA imitativa a la computacional En paralelo a estas mejoras en la potencia de cómputo se produce además un cambio en el enfoque de la Inteligencia Artificial. Se pasa de un concepto de Inteligencia Artificial que trata de emular a la del ser humano a otro que busca la resolución de problemas (Schiaffonati, 2013) (Bryson, 2019). Empleando las definiciones de Searle el foco de los esfuerzos se traslada de la Inteligencia Artificial Fuerte o General a la Inteligencia Artificial Débil o Estrecha (Narrow) (Searle J. , 1980). Entra en el terreno de la ingeniería y la técnica con el objetivo de solucionar problemas concretos. Vinculados además a las corporaciones, tanto en Occidente como en China, la Inteligencia Artificial pasa a tener un protagonismo mayor en el ámbito privado que en el público y busca maximizar beneficios y rentabilizar inversiones siguiendo la lógica económica del capital (Wirtz B. W., 2019). Esto es consecuencia de un hecho: la necesidad de organización de la información de Internet. Uno de los problemas principales que surgen durante el desarrollo de Internet es la dificultad para saber que es relevante ante la enorme cantidad de información y datos que se generan a finales del siglo XX (Drayfus, 2004). La Inteligencia Artificial de las corporaciones estadounidenses Google y Amazon buscará y encontrará formas para resolver qué información es la más relevante para cada persona basándose en el aprendizaje automático sobre sus elecciones previas y adaptándose a ella. A este método se le denomina personalización (Vesanen, 2007). La capacidad de organizar esta información implica también réditos económicos en las corporaciones que los impulsaron y los organizaron como las mencionadas Amazon y Google. Ser capaz de clasificar y conocer qué es relevante para cada ser humano posibilita personalizar la Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 52 Las éticas deontológicas IEEE las argumenta, con base kantiana, en el no emplear a las personas como medios para obtener fines en entornos orientados por ganancias económicas, considerar que a la hora de desarrollar Inteligencia Artificial debe considerarse el bienestar de la humanidad y ser consciente de que cada persona debe tener autonomía moral sin ser influenciada para tomar sus propias decisiones. Hay en todo el código un enfoque a no emplear a ningún ser humano como un medio, sino como un fin hacia el que destinar el progreso técnico de la Inteligencia Artificial. Acerca del consecuencialismo considera debe tenerse en cuenta todas las consecuencias que puede implicar la toma de decisiones de una IA y el beneficio/sufrimiento a corto/largo plazo que produce, teniendo en especial en cuenta a todos los "stakeholders" vinculados al proyecto. Este análisis consecuencialista de las implicaciones de una Inteligencia Artificial se vincula así a la búsqueda de la universalización: a quién afecta y, en un segundo paso, ¿cómo puedo hacer se encuentre "cómodo" con el actual desarrollo? IEEE subraya además la necesidad de hacer comprensible la tradición, historia y rica trayectoria de la ética al plano de la ingeniería y al de los desarrolladores de políticas. Expresa así una intención de intersectorialidad. Esto es una dificultad inmanente en todo este proceso pues por un lado los ingenieros necesitan instrucciones claras de qué deben desarrollar y, por otro lado, el poder legislativo y los reguladores necesitan ser capaces de llevar a la práctica los consensos que se alcancen y ver, en detalle, como se traducen y los sistemas, si proceden, de penalización o recompensa. Como indicamos hay una vocación de compatibilizar la universalidad con la multiculturalidad. Mientras que las éticas arriba descritas corresponden a las tradiciones occidentales IEEE es una organización de carácter global y para encontrar el Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 53 consenso busca fuentes del mismo modo en otras tradiciones. Con respecto a la tradición budista IEEE observa es conveniente contemplar, por un lado, sus indicaciones con respecto a la relación máquina-humano y, por el otro, la adaptación al conflicto con las éticas occidentales, especialmente con el utilitarismo (IEEE, 2019). Con respecto a la filosofía Ubuntu subsahariana indica es importante considerar, especialmente, como la Inteligencia Artificial afectará a la comunidad donde va a ser desplegada (IEEE, 2019). En concreto IEEE centra en las siguientes comunidades: • La comunidad de investigadores • La comunidad entre la comunidad de la Inteligencia Artificial, científicos de la computación, desarrolladores y usuarios • La relación entre los anteriores con, a su vez, Inteligencias Artificiales • La relación entre usuarios e Inteligencias Artificiales • La relación entre Inteligencias Artificiales entre sí. El planteamiento de Inteligencia Artificial que nos da IEEE sigue siendo pues una IA orientada a fines, pero de una manera tal que ni dichos fines ni los medios que emplee para lograrlos pueda contradecir los deberes y objetivos consensuados en el marco de la ética. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 54 Del mismo modo se solicitan métricas para medir el impacto en el bienestar de la Inteligencia Artificial, si bien esta cuestión como veremos no siempre es sencilla. A la hora de establecer, y acordar, estas métricas en un sistema orientado a fines surgen una serie de problemas que mencionan en el código ético para ser deliberados por los “stakeholders”: o Qué es bienestar puede tener diversas interpretaciones en función de cara miembro del colectivo afectado o No todos los aspectos del bienestar son fácilmente cuantificables o Malinterpretaciones de lo que necesitan los “stakeholders” por parte de ingenieros o la corporación, pues suelen proceder de entornos muy diferentes o Ciertos individuos, por educación o habilidades, pueden monopolizar el debate o Surgen cuestiones alejadas del asunto a tratar o Ingenieros y científicos pueden imponer sus puntos de vista sobre cuestiones técnicas o Asimetrías de poder entre grupos o No hay reconocimiento de quién o quién no puede estar invitado al debate Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 55 Este tipo de cuestiones se plantean como obstáculos para alcanzar ese consenso que permita definir en qué medios y qué fines encuadrar la Inteligencia Artificial. No obstante, plantea transformar las organizaciones para permitir este tipo de enfoques y para ello propone una serie de supuestos: o El diseño del proceso para la toma de acuerdos es creado por expertos en procesos de deliberación o Se lleva a cabo por individuos sensibles a las cuestiones del poder y con habilidades en procesos de deliberación mediada o Los actores menos poderosos son apoyados por otros que sí lo son para amplificar sus voces o Los actores más poderosos están significados como tales y se comprometen a hacer un esfuerzo por escuchar con humildad, curiosidad y una mente abierta o La deliberación es convocada por individuos o instituciones en los que todos creen, respetan y confían Estos supuestos de la IEEE tratan de estar alineados con la ética discursiva derivada de la Teoría de la Acción Comunicativa y sus problemas. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 56 El siguiente marco ético que repasaremos es el de la “Association For Computer Machinery” (ACM) (Association for Computing Machinery, 1992). La ACM mantiene una estrecha colaboración igualmente con la comunidad investigadora y educativa de ciencias de la computación, con una participación muy importante de la industria. En particular es destacable la contribución de Microsoft. Establece también un código ético para los profesionales de la computación. Considera que el objetivo debe ser el bien de la sociedad y el bienestar de la humanidad. Considera además a todas las personas como “stakeholders” del ámbito de la computación. Esto viene a ser que no existen grupos de interés particulares si no que debemos considerar afectada siempre a toda la Humanidad. Tiene pues vocación universal y considera que la computación afecta a todo el mundo ya hoy en día. Este aspecto tiene una especial relevancia pues implica que las decisiones sobre la computación, como sería el caso de la Inteligencia Artificial, y en aras de la universalidad propia de la Ética discursiva, no debería dejar de lado a ningún colectivo. Todos se ven afectados e influenciados por la misma. El enfoque principal del código ético de la ACM es el de una ética de la virtud en la cual se espera que el profesional sea honesto, transparente, no acepte la corrupción, no falsee información y respete la privacidad. Centra un apartado especial en la gestión de equipos donde se busca el profesional sea adecuadamente tratado, así como la promoción de los valores de este código. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 57 ACM establece pues un ideal de lo que debe ser un científico o ingeniero de la computación, incluyendo a sus mandos, y considera un comportamiento profesional debe estar alineado al mismo. Las éticas de la virtud pueden servir para dotarse de unos valores mínimos al profesional como los mencionados acerca de la transparencia o el respeto a la privacidad de los usuarios, la honestidad o el no caer en la corrupción, pero pueden generar conflicto dos conceptos distintos de la honestidad o ser insuficientes ante la disrupción que supone el progreso tecnológico y la necesidad de emplear valores adicionales o más precisos. Lo más interesante de este código ético quizás sea precisamente esa vocación universal y el haber detectado como la computación afecta a todos los seres humanos y esto debe ser considerado. Veamos a continuación el punto de vista de la “Association of Internet Researchers” (AoIR) (Franzke, 2020). La AoIR tiene un código ético muy desarrollado, igualmente amparado en distintas tradiciones éticas y centrado en sus aplicaciones prácticas. No llega, ni lo pretende, a las propias del establecimiento de un control de calidad industrial, pero sí lleva a cabo una serie de preguntas clave en muchas de las fases y aspectos en los que se desarrolla la Inteligencia Artificial. Tiene una importante influencia, que explicitan, del NESH escandinavo apoyándose también en la normativa GDPR europea. El carácter, a diferencia del de la ACM más centrado en Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 58 la virtud, aquí tiene un marcado enfoque deontológico, según destacan, enfatizando “la dignidad, libertad, autonomía, solidaridad, igualdad, democracia y confianza”. En este sentido GDPR, en 2018, supuso un paso importante al regular con gran detalle la protección de datos, un problema recurrente en el Internet que se fraguaba en paralelo a los recientes desarrollos de la Inteligencia Artificial. La cuestión de la protección de datos es, como vemos de hecho ya en el marco ético de la IEEE, algo habitual a lo largo de todos los problemas éticos asociados a esta tecnología. GDPR supuso tras muchos años de debate y problemas una iniciativa reguladora (con sanciones asociadas) por parte de la Unión Europea y explica también en parte el interés por la ética por parte de la industria en los últimos años. El mensaje está alineado con que si no se alcanza un consenso de autolimitaciones basadas en la ética se puede dar lugar a una iniciativa más o menos unilateral legislativa. GDPR en cualquier caso detalla bien, profundiza y protege los datos de los ciudadanos a los que los hace propietarios de estos en línea con muchas de las propuestas éticas que se ven en estos códigos de las asociaciones de investigadores e industriales. De alguna manera muchos de los aspectos relacionados con la transparencia, la trazabilidad, la dignidad del individuo y la propiedad de su información que aparecen en el ámbito de la Inteligencia Artificial proceden de estos anteriores consensos. Pone un foco especial por ejemplo sobre el problema de obtener consentimiento real e informado del usuario en la cesión de datos personales, incluyendo en repositorios semipúblicos vía API. Se considera que la aceptación de los términos y condiciones de uso muchas veces no Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 59 implica un consentimiento reflexivo o informado de lo que sucede realmente con ese tipo de datos y que deben abordarse desde otras perspectivas. Existen limitaciones a la investigación en redes sociales como cualquier forma de “scrapping” en algunas, como Facebook o LinkedIn (Krotov, 2018), o en el caso de Facebook incluso vía API. Tampoco se puede emplear perfiles falsos. Este tipo de limitaciones se llevaron a cabo a raíz del escándalo ya mencionado de Cambridge Analytica (Isaak, 2018): el por ejemplo dar consentimiento a la red social Facebook parece no debería implicar poder explotar opiniones políticas para investigación o que aceptas ser influenciado mediante acciones publicitarias personalizadas. Bajo la influencia de la GDPR y la explotación de la información procedente de las Redes Sociales el código se centra especialmente en esta protección de la información: cómo acceder a ella, cómo emplearla y hacerlo de la manera justa y necesaria para nuestros objetivos investigadores. Especifican también un riesgo en la cuestión de los datos ante la necesidad, cada vez mayor, de llevar a cabo las investigaciones mediante alianzas con terceros y como el empleo de los datos que una organización puede hacerles llegar puede dar lugar también a la aparición de dilemas éticos que afecten a la totalidad del proyecto. El código de la AoIR apuesta igualmente por la universalidad de la ética a lo largo de diferentes culturas y como adaptar la multiculturalidad con la necesidad de universalidad. En este sentido tiene un enfoque también análogo a la del IEEE y apuesta por apoyarse no únicamente en las tradiciones éticas occidentales, sino ampararse también en la de otras culturas. Para ello, el código ético de la AoIR recomienda al iniciar una investigación conocer el contexto social, conocer a sus “stakeholders”, conocer sus normas actuales, valores y sensibilidades. Y con ello plantearse como se les va a impactar. Parte de esa base, de ese conocimiento del entorno en donde la Inteligencia Artificial va a ser aplicada. Esta idea está también alineada con la de la Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 60 filosofía ubuntu que vimos en el desarrollo de la IEEE. Como nota de universalización respecto a la normativa de protección de datos, la reciente Ley de Protección de la Información Personal, en la República Popular China, PIPL, se asemeja mucho igualmente a la europea GDPR (Chen J. &., 2021). AoIR propone hacerse una serie de cuestiones para abordar en primer lugar el impacto en la sociedad hacia la que vamos a aplicar la IA. No llega como indicamos al nivel de los controles de calidad industriales, pero sí recomienda plantearse una serie de cuestiones que pueden servir de guía para la reflexión a un científico o ingeniero de datos, máxime si no es un especialista en la cuestión ética. Algunos ejemplos: “¿Se puede herir física o emocionalmente a colectivos o a usuarios? ¿Cómo se les ayuda si es que se hace de algún modo? ¿Puede haber afectados secundarios? ¿Los tenemos identificados? ¿Han sido informados de una manera inteligible y que les permita reflexionar sobre la cuestión? ¿Están de acuerdo con ellos y lo han expresado así tras ese debido proceso? ¿Cuál es la relación entre los fines positivos y la pérdida de libertad individual de los afectados?” Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 61 Respecto a esto último se pretende que si se da el caso en que vayamos a condicionar la capacidad de elección sobre una temática de una persona, si esta es consciente de ello y a cambio recibe un beneficio positivo. Un cuestionario en línea con el anterior lo aplica a la recolección de los datos, uno de los aspectos que más le preocupan a la AoIR: • “¿Los datos no son excesivos para la investigación y están alineados con la misma? • ¿Hasta qué punto es posible identificar individuos directa o indirectamente mediante inferencia gracias a esos datos? • ¿Hay datos especialmente protegidos? En caso afirmativo, ¿cuáles son y qué propósito persiguen? ¿Cuál es el criterio de protección de estos datos más allá de las políticas de seguridad? ¿Hay algún protocolo definido? • También sobre los “datasets” existentes: • ¿Se trata de un “dataset” público o ha sido reutilizado desde un tercero sin que conozcamos el permiso? ¿Está restringido el “dataset” bajo algún criterio legal? • ¿Se puede emplear el “dataset” para usos más allá del inicialmente previsto? ¿Si es así, hay consentimiento de los usuarios? Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 68 Como vemos los principios e intenciones se repiten en la literatura y en los comunicados de los principales actores. Hasta ahora estamos revisando códigos éticos del ámbito occidental, aunque tanto IEEE y AoIR tienen una vocación universal. En línea con esta pretensión de universalidad es conveniente investigar también qué sucede con estos principios éticos en otras regiones y principalmente en aquellas que lideran el desarrollo actual de la Inteligencia Artificial a nivel global. Es el caso de China. China empujó en el año 2019 los "Beijing AI principes", principios que deberían guiar la investigación y desarrollo de la Inteligencia Artificial. Los llevó a cabo con el apoyo de las principales compañías (Baidu, Alibaba, Tencent) y Universidades del país (Pekín, Tsinghua, la Academia de Ciencias...) en un consenso análogo al seguido por las organizaciones anteriormente revisadas. Estos principios se enumeran como siguen: “ - La investigación en Inteligencia Artificial debe perseguir el bien común de toda la humanidad y civilizaciones, y estar orientada a la ecología. - La IA debe respetar la autonomía, la libertad y la dignidad de los seres humanos. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 69 - No debe de afectar a los prejuicios o preconcepciones discriminando a nadie por razón de su género o raza. Debe ser inclusiva. - Los sistemas deben ser seguros, robustos y fiables. - Debe ser igualmente abierta y compartible y contraria al establecimiento de monopolios. - Se debe educar y entrenar a los “stakeholders”, emplearla de forma sabia, que aumente el beneficio y minimice los riesgos y pedir siempre consentimiento a los afectados. - Debe estar enfocada a optimizar el empleo, la cooperación intersectorial, ser capaz de adaptarse a la regulación y debe existir una visión de planificación a largo plazo. “ Observamos como los principios que guían a Pekín son prácticamente análogos a los que mantienen los consensos que se están logrando en Occidente. Sucede parecido a su regulación PIPL con respecto a GDPR. Se añaden además dos focos que en los principios occidentales no aparecen con frecuencia como el evitar monopolios o la optimización del empleo, con cuya destrucción se indica hay preocupación. Se observa pues por un lado que también en China se llega a un consenso en el que se comprometen la comunidad investigadora y la empresarial del que se extraen unos valores-guía iguales a los occidentales. Esto supone un grado de universalización de esos valores amplio. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 70 Supone una primera fase de universalización en toda la humanidad de unos valores comunes entorno al uso que debe tener la Inteligencia Artificial. Otra interesante iniciativa que desarrolla un marco ético específico es la de StopkillerRobots (Carpenter, 2016). Hemos incluido a esta organización, cercana a programas de las Naciones Unidas, también por su temática a una cuestión muy concreta de los problemas de la Inteligencia Artificial. En concreto al hecho de que una Inteligencia Artificial pueda decidir de manera autónoma matar a un ser humano. Se trata de un escenario contemplado en situaciones de guerra y en el que actualmente se está llevando a cabo investigación por parte de algunos Estados, incluyendo a los involucrados en los Códigos Éticos arriba expuestos. En concreto en la Comisión de Asesoramiento del Senado de EE. UU. Se han dejado fuera los asuntos militares, en los que como se ve no hay representación. En el caso de Google, uno de los impulsores de Asilomar, se disolvió también su comité de ética según algunas noticias debido a que quedaría fuera de los proyectos militares. También ha sido así en la regulación de la Unión Europea contra el reconocimiento facial. La cuestión militar parece quedar fuera del marco donde se entiende de algún modo deberían quedar fuera alguno de los códigos éticos arriba expuestos. Veremos la problemática más adelante, pero para StopKillerRobots esto no debería ser así y lanza una serie de puntos que considera se deberían de cumplir: Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 71 “Mantener el control humano informado sobre las decisiones de considerar a un ser humano un objetivo y proceder a su ataque prohibiendo el desarrollo, producción y empleo de armas completamente autónomas, legislando dicha prohibición por medio de leyes nacionales y tratados internacionales. Todos los países deben articular sus puntos de vista sobre la problemática de los sistemas de armas completamente autónomos y comprometerse a crear un nuevo tratado de prohibición que establezca el control humano sobre el uso de la fuerza. Todas las compañías tecnológicas y organizaciones, también los profesionales que trabajan en el desarrollo de Inteligencia Artificial y robótica deberían firmar un compromiso para no contribuir jamás al desarrollo de armas completamente autónomas.” Hemos considerado que estos puntos abordan una temática que no se suele abordar en otros códigos de una manera tan explícita. Si bien en todos se habla de uno emplear al ser humano como medio, garantizar su autonomía y derechos humanos y puede suponerse que ninguna Inteligencia Artificial en base a ello podría tomar una decisión autónoma de matar. Se trata de nuevo de un enfoque deontológico con reminiscencias a las Leyes de la Robótica de Asimov. Entran sin embargo las lógicas de las carreras armamentísticas en juego. Por otro lado, una cuestión que se plantea aparte es que sucede con los virus informáticos. ¿Puede una Inteligencia Artificial erradicar a otras Inteligencias Artificiales? ¿Y qué sucede si un virus decide destruir una industria o una infraestructura crítica provocando muertes indirectamente? Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 72 Por el momento la organización se ha propuesto un objetivo de máximos: evitar esa toma de decisiones autónoma en el ámbito militar. Cuestión que a diferencia de con las anteriores no parece en las que se esté avanzando un consenso universal. En el ámbito internacional la OCDE, organización supranacional cuyas recomendaciones e informes tienen una influencia relevante en los países adscritos, realiza también una serie de recomendaciones entorno a la Inteligencia Artificial (Council of Artificial Intelligence of the OCDE, 2019). La propuesta de la OCDE, aprobada en 2019, consiste en la siguiente normativa. Define la Inteligencia Artificial en primer lugar como orientada a objetivos, conforme a la definición que indicamos en la primera parte de la Tesis. Esta denominación aquí es explícita, al igual que ocurre en el ámbito de lo legislativo, donde se busca tener una definición que aclare el debate y permita comenzar el principio de la regulación. En otros códigos éticos anteriormente revisados no se entra a definir la Inteligencia Artificial, sino que el foco es, sea lo que esta sea, tratar de establecer unos valores para su desarrollo. Pero a la hora de definirla en el marco de la Comisión Europea o del Senado de EE. UU. La definición es análoga y siempre con este enfoque a objetivos. En base a la definición anterior la OCDE propone una serie de consideraciones: -La IA debe estar orientada al bienestar común de la sociedad y al crecimiento inclusivo -Alineado con los valores humanos y la inclusividad Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 73 -Debe ser transparente -Robustez y Seguridad Como observamos son los mismos principios que mantienen los fabricantes o la comunidad investigadora, en Occidente y en China, y que ya hemos visto con anterioridad. Por último, hace también una mención al sector de las telecomunicaciones. A través de la ITU, la organización de Telecomunicaciones adscrita a las Naciones Unidas mantiene también un programa llamado “AI For Good”. No es exactamente un código ético, sino más bien la intención de promocionar fines benéficos orientado a los objetivos de las Naciones Unidas y su Agenda 2030. Mediante el mismo se busca alinear el empleo de la Inteligencia Artificial con el cumplimiento de los objetivos del desarrollo sostenible, que giran en torno a la eliminación de la pobreza, el analfabetismo, la inclusión, la ecología, etc. La UNESCO, también una organización de las Naciones Unidas publicó a finales de 2021 un documento de recomendaciones sobre Inteligencia Artificial (UNESCO, 2021). Caracterizado por un amplio y diverso grupo de “stakeholders” en los que destacan representantes de países musulmanes, pero también miembros de organizaciones no gubernamentales además de representantes estatales, de corporaciones y académicos. El llamamiento que hace la UNESCO en sus recomendaciones hace hincapié en las cuestiones ya vistas como la trazabilidad, posibilidad de explicación, impacto ecológico, la seguridad, el no condicionar la autonomía de ningún ser humano, la no discriminación de colectivos etc. Y explícitamente se basa en sus intenciones en consensos previos sobre derechos Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 74 humanos y otras resoluciones de las Naciones Unidas. Realiza además un llamamiento constante a lo largo de sus 30 páginas a la búsqueda de la integración con los “stakeholders” afectados por la Inteligencia Artificial y el verlo como una oportunidad para la interconexión entre culturas sin dejar de lado a los estados más desfavorecidos. De los manifiestos por la Inteligencia Artificial el de la UNESCO, como parte de las Naciones Unidas, es el que muestra una mayor línea habermasiana por su carácter integrador. Hay que tener en cuenta no obstante que se trata de una recomendación, en sí misma un llamamiento a la involucración y la cooperación de los estados miembros y los “stakeholders” involucrados, tanto en el interior de estados como a nivel global. No tiene rango de ley ni obliga a los estados, pero da unas directrices de cara a la elaboración de las regulaciones internas. Como conclusión podemos entender que existe un consenso sobre valores éticos reflejados en distintos códigos en la comunidad investigadora y de profesionales del ámbito, de la industria y en los Estados tal y como señala el llamado consenso de Harvard. El consenso sobre los valores se da tanto en China como en Occidente y a nivel de organizaciones supranacionales como la Unión Europea, la OCDE o, especialmente, la UNESCO. En este consenso la participación no suele ser de organizaciones civiles o laborales (fuera de las del ámbito de la Inteligencia Artificial) aunque se mencionan en todos los códigos la preocupación por los prejuicios y la discriminación y, en algunos con en el chino, la destrucción del empleo. Tampoco forma parte de este consenso el ámbito de lo militar. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 75 En la ética discursiva se habla de vocación universal en la que todos los afectados puedan opinar y hablar. Existe una vocación de universalidad como hemos observado en la cual se trata de encajar esa búsqueda de valores con los problemas asociados al multiculturalismo. Hay en general una serie de valores basados en consensos anteriores. Se observa sin embargo algunas limitaciones al avance de este consenso. El hecho de que la industria sea principalmente norteamericana y china hace que la generalización de estos principios en todas las culturas no sea sencilla. Algunos problemas han sido encontrados como hemos visto por la AoIR e IEEE tiene investigaciones para, apoyándose en las tradiciones filosóficas budista, ubuntu o sintoísta tratar de generalizar los valores en otros ámbitos. No existe sin embargo por ejemplo una interlocución importante en el mundo musulmán fuera de la iniciativa de la UNESCO y en sus tradiciones, un ámbito que engloba a África y una buena parte de Oriente, pese a que están igualmente expuestos a la Inteligencia Artificial: tal y como indica la ACM toda la humanidad está ya afectada por la computación. Tampoco se aplica la universalidad ni el consenso al plano de lo militar. Una vez entramos en el ámbito de la supervivencia o de los riesgos de una carrera armamentística parece que la ética discursiva, por definición, falla. Nos sirve sin embargo el presente estudio para entender el Estado de la Cuestión de los diferentes códigos éticos y como se aborda hoy la búsqueda de estos principios de máximos. Existe una tensión entre la necesidad del conocimiento experto que lidere estas iniciativas con el Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 76 rigor y calidad adecuados y la involucración de “stakeholders” que, aunque afectados, no son expertos en la materia. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 77 1.4 Sobre la definición de Inteligencia La Comisión Europea al definir Inteligencia Artificial de cara al desarrollo legislativo considera que Inteligencia debe entenderse en el sentido de racionalidad (Independent HighLevel Expert Group on Artificial Intelligence set up by European Comission, 2019). Este mismo criterio siguen autores como el Doctor Stuart Russell y el director de innovación de Google Doctor Peter Norvig, que denominan a la Inteligencia Artificial como agente racional y precisan que este término es más correcto. El término racional y racionalidad de acuerdo con estos autores y a la propia Comisión Europea se aplica al agente que se adapta a la circunstancia para maximizar la estrategia de cumplimiento de unos objetivos determinados (Russell, 2005): entienden la Inteligencia como “resolución racional de objetivos”. Analizamos el concepto de agente racional que se encontraría vinculado al de Inteligencia. El concepto de artificial no requiere análisis al entenderse que es aquello fabricado por el hombre. Comencemos primero por el concepto de racional para posteriormente proceder con el de agente. Se precisa del término racional porque el concepto de Inteligencia se considera por parte de los autores mencionados como poco riguroso, aunque fue popularizado como hemos visto a raíz de la conferencia de Darmouth. Russell y Norvig en su obra sobre Inteligencia Artificial, un enfoque moderno, explican que barajaron nombres para finalmente optar por el término Inteligencia con motivo de abordar problemas asociados a lo que se consideraba identificado con lo humano, como el del habla o la creatividad (Russell, 2005). Otros términos más alejados al Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 84 1.6 Usos del concepto Inteligencia en el ámbito de la Inteligencia Artificial A la hora de trabajar con una definición siguiendo el criterio pragmatista es necesario que sea precisa y, también que sea utilizable. Hemos definido qué criterio vamos a utilizar cuando hablemos de Inteligencia Artificial y a continuación vamos a observar si este criterio se usa de manera habitual hoy en día. Analizamos el uso pragmático del término Inteligencia Artificial. El primer uso que vemos de este tipo de término así usado lo vemos en el ámbito del Derecho. La Comisión Europea a la hora de elaborar su normativa sobre Inteligencia Artificial la define del siguiente modo: “Software (and possible also Hardware) Systems designed by humans that, given a complex goal, act in the physical or digital dimension by perceiving their environment through data adquisition, interpreting the collected structured or unstructured data, reasoning on the knowledge, or processing the information, derived from this data and deciding the best action(s) to take to archive the given goal(...)” (Comisión Europea, 2019) Observamos como la definición que emplea se encuentra alineada con la equivalente a la de agente racional ya mencionada. La “FUTURE of the Artificial Intelligence Act of 2017” de EE. UU. proporciona definiciones también análogas a las de la Unión Europea (GovTrack.tus, 2017). Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 85 Cuando las principales potencias occidentales definen la Inteligencia Artificial para dotar de un marco regulador emplean las propiedades descritas: contexto perceptible, orientación a fines y acciones en base a la ejecución de reglas. Se suele especificar en los documento el hecho de que el contexto sea “real o virtual” y la manera de percibirlo mediante el empleo de datos. Este aspecto lo investigaremos más adelante en el subcapítulo específico sobre el contexto con el que interactúa la Inteligencia Artificial. Por tanto, la definición que emplearemos se usa actualmente en el ámbito del derecho. Pero veremos también como se emplea en el ámbito de la tecnología. En el ámbito de la tecnología a la hora de emplear redes neuronales, el tipo de algoritmo del que se compone la tecnología “Deep Learning” que, como indicamos en el capítulo anterior, es una de las disrupciones en el ámbito de la Inteligencia Artificial de la última década. Las redes neuronales están inspiradas vagamente por el descubrimiento en medicina de Ramón y Cajal. Funcionan como un sistema que recibe una entrada desde el exterior, aplica una serie de normas internas y genera un resultado. En función del valor de ese resultado y la comprobación con un patrón tienen la capacidad de reajustar autónomamente sus reglas de procesamiento interno. Las redes neuronales artificiales son un algoritmo que optimiza al valor cuadrático medio de la salida producida por una función interna, compartida a lo largo de las neuronas que conforman la red distribuida en capas. Se realiza un paso dentro del algoritmo de propagación paso atrás (“back propagation” en inglés) para reajustar variables dentro de las funciones que hacen las neuronas. Este paso atrás se hace en función del resultado comparándolo con el conocimiento previamente almacenado por la red. La función de propagación paso atrás suele ser una función sigmoide u otras cuya derivada se exprese en función de sí misma. La derivada nos Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 86 marca la tendencia hacia la que avanza una función. Imaginemos que nuestra red neuronal consiste una función que asigna a una foto la probabilidad de tratarse de un determinado animal, como por ejemplo un gato. La derivada actuaría como un medidor de lo cerca que queda el criterio de la red neuronal a “acertar” correctamente que la fotografía que se le ha señalado es efectivamente de un gato. La nueva función en el paso siguiente se compondrá de su estado actual más la tendencia señalada y gracias a la cual se reajustará, más cerca o más lejos, de acertar la próxima vez que vea la imagen de un gato. Este tipo de procedimiento matemático para tratar información combinado con la mayor capacidad computacional alcanzada a principios del siglo XXI ha posibilitado el renacer de la Inteligencia Artificial que mencionábamos en la introducción de esta investigación (Hwang, 2018). Gracias a las redes neuronales se consigue producir reconocimientos de patrones en la voz, en el lenguaje, en imágenes visuales y entre datos proporcionando así diversas disciplinas. Las redes neuronales son actualmente empleadas y comercializadas por las principales empresas globales atendiendo a su valor en bolsa. Nótese como la Cibernética puede aplicarse también al comportamiento de las neuronas biológicas ya que se comportan también como un sistema de Entrada-Salida empleado para comunicar flujos de información en base a estados químicos (Hebb, 1949). Este tipo de coincidencia o “base común” entre lo biológico y lo natural fue lo que impulsó el entusiasmo por estas ideas durante la segunda mitad del siglo XX. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 87 La forma en la que se diseña la tecnología en la que se fundamenta la Inteligencia Artificial, como en este ejemplo de las redes neuronales, se orienta hacia la definición planteada de optimización en el cumplimiento de objetivos (racionalidad económica). El tercer ámbito donde podemos ver el empleo habitual de este concepto de Inteligencia se da en el de las organizaciones humanas. Algunos filósofos, como List y Pettit, argumentan que las organizaciones humanas conforman agencias: un sistema de agentes actuando en grupo (List C. & Pettit, 2006). El estudio de la cibernética afecta también a las organizaciones humanas (Weinstein, 1974) Un ejemplo de esto es el llamado ciclo de Inteligencia, empleado hoy en día por las organizaciones dedicadas a la llamada función de Inteligencia tanto de tipo privado como público (Gruszczak, 2016). Este tipo de ciclo lo emplean las agencias de Inteligencia gubernamentales, civiles o militares, o los departamentos de corporaciones privadas interesadas en un conocimiento más detallado del funcionamiento del mercado o de su competencia. En el llamado ciclo de la Inteligencia se sigue el proceso análogo al de los agentes racionales. Se establece una fase inicial en la que se entregan unos fines/objetivos a los que orientar la percepción/detección de la información de la organización humana en un determinado entorno. Esta información una vez detectada se procesa mediante una serie de reglas y, finalmente, se difunde (actúa de manera verbal con el comportamiento establecido por dichas reglas). Al finalizar se establece una retroalimentación entre el resultado de la acción/difusión y Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 88 la necesidad de reajustar objetivos o criterios de percepción del entorno, en su caso de colecta de información. Se compone pues el ciclo de Inteligencia de cinco fases, dependiendo del autor: - Establecimiento de fines - Establecimiento de contextos - Detección de información - Procesamiento de la información - Actuación en base a la información Como vemos este tipo de metodologías de Inteligencia están alineadas con la definición y se aplican a nivel práctico tanto en el ámbito de los gobiernos, lo militar y del derecho como de las corporaciones y el económico-financiero, por lo que siguiendo un criterio pragmático tendría validez tanto el concepto de agente racional modelado como sistema como los cuatro puntos de la definición de Inteligencia que comprenden la objetivos-contexto-percepción-procesamientoactuación. En este capítulo hemos asentado la definición de Inteligencia Artificial que usaremos a lo largo de la tesis. Tres son las conclusiones: - Se basa en la Teoría Cibernética Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 89 - Se basa en el criterio de racionalidad económica - Sus acciones carecen de intencionalidad o estados mentales - Este tipo de concepto asociado a Inteligencia es de uso habitual en distintas disciplinas Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 90 1.7 La IA como sistema racional orientado a fines Explicamos en capítulos anteriores como una red neuronal funciona como sistema racional orientado a fines, pero conviene detallar este punto ya que las redes neuronales no son los únicos algoritmos empleados en el ámbito de la Inteligencia Artificial. Además, puesto que la Teoría de la Acción Comunicativa contrapone sistema racional orientado a fines con una racionalidad anclada en el mundo de la vida y, en nuestra tesis, tratamos de mostrar la pertinencia de un análisis desde ese mismo prisma de la Inteligencia Artificial actual, necesitamos precisar por qué y cómo encaja en esta dialéctica. Observemos a continuación si la Inteligencia Artificial actual puede categorizarse como sistema racional orientado a fines: esto es, un sistema que se comunica con un entorno y que optimiza los medios para cumplir un objetivo marcado. Una de las mejoras técnicas que explican el desarrollo de la Inteligencia Artificial actual junto con las vinculadas a la potencia de cómputo es el desarrollo de Internet. Con anterioridad, ya explicamos que Internet es un sistema de sistemas en el cual a medida que aumenta su complejidad es divisible en niveles de abstracción. La estratificación por capas es habitual en el ámbito de las ingenierías vinculadas a Internet y a la computación tanto a nivel de desarrollo de software como de sistemas o telemática. La Inteligencia Artificial actual está inmersa en este sistema. No se parece al paradigma del siglo XX, antes de la proliferación de Internet, en la que la ciencia ficción la representaba como un humanoide que actuaba en nuestro espacio físico. La investigación giraba en torno al computador aislado interactuando con video cámaras o voz. Este Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 91 punto es importante considerarlo de cara a entender el funcionamiento de la Inteligencia Artificial y el porqué de la eficacia de los algoritmos informáticos en los que se basa. El hecho de disponer de Internet facilita el acceso a una cantidad de información mucho más grande que posibilita el aprendizaje de la Inteligencia Artificial. En este capítulo vamos a hacer un repaso sobre los principales algoritmos relacionados con la Inteligencia Artificial y observar si en todos los casos pueden analizarse bajo la perspectiva de un sistema racional orientado a objetivos. Observaremos también cómo la información se organiza de forma óptima para el cumplimiento de dichos objetivos. Haremos nuestro análisis dividiendo los algoritmos en tres categorías amplias en función de sus características principales como el objetivo que persiguen y su comportamiento. Las categorías, basadas en el artículo de Warwick y Nasuto Historical and current machine intelligence, son las siguientes (Warick, 2006): - Algoritmos de ciencia de datos - Algoritmos evolutivos y genéticos - Sistemas expertos Los algoritmos de ciencia de datos, correspondientes al primer tipo de nuestra clasificación, son los que, combinados con las nuevas capacidades de cómputo, han provocado la Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 92 actual disrupción de la tecnología de Inteligencia Artificial. Se denominan así a algoritmos vinculados al ámbito del aprendizaje automático y del “Big Data”. Este tipo de algoritmos se caracterizan por el descubrimiento de patrones en grandes conjuntos de datos que pueden ser asignados a una categoría a la hora de hacer comprensible un escenario a humanos. Puesto que permite establecer categorías también posibilita hacer predicciones a futuro o, dada la aparición de un nuevo dato, saber a cuál de esas categorías pertenece con un cierto grado de precisión. Por eso en este último caso se habla de aprendizaje automático: en función de los datos previos el artificio será capaz de decidir a qué categoría pertenece cualquier nueva entrada que reciba. Lo primero es pues establecer la categorización de datos actuales, del llamado “dataset”, para en una segunda fase comenzar a trabajar con predicciones o categorizando las novedades que aparezcan. Hay dos formas de establecer estas categorías: de manera supervisada, esto es, con la intervención de humanos que categoricen previamente los datos que explotará el algoritmo, o no supervisada, esto es sin etiquetado humano y dejando que el algoritmo categorice de manera autónoma pero sin que estas categorías, a priori, sean conocidas por nadie ni tengan nombre, esto es etiqueta, alguna. También existe el aprendizaje por refuerzo el cual es un término medio mediante el que uno o varios seres humanos corrigen de forma interactiva las categorías que autónomamente va desplegando la Inteligencia Artificial. Como este tercer tipo es un término medio de los otros dos nos centraremos a continuación en el análisis de los algoritmos de ciencia de datos supervisados y no supervisados. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 93 Cuando hablamos de un dato a analizar por la Inteligencia Artificial debemos considerar un vector, en el sentido matemático: una colección de n valores numéricos. Estos valores numéricos se sitúan en un hiperespacio de dimensión n sobre el que trabajará la Inteligencia Artificial. 1 El aprendizaje supervisado se divide a su vez en algoritmos clasificadores y redes neuronales. Los algoritmos clasificadores más habituales son las máquinas de vectores de soporte, los K-vecinos, el clasificador bayesiano ingenuo, los árboles de decisión y el árbol aleatorio. Cada uno de ellos establece grupos de categorías diferentes para cada valor en el hiperespacio ya sea recurriendo a hiperplanos (vectores de soporte), hiperesferas (K-vecinos), probabilidades (bayesianos), o clasificador en base a determinados valores dentro del vector paso a paso (árboles). Cada una de las técnicas tiene sus ventajas e inconvenientes en función del tipo de vector, valores y variedad de estos que vayan a existir en las entradas. Otros algoritmos tienen propiedades que los hacen más adecuados para ciertas necesidades como los de tipo árbol. Por ejemplo, posibilitando de una forma más sencilla la trazabilidad y la posibilidad de explicar cómo se ha llevado a cabo una determinada clasificación. La forma de modificar el comportamiento de estos algoritmos es o bien modificando algunos parámetros, como el tamaño del radio de las hiperesferas o el número de categorías que se espera encontrar, y cambiando el etiquetado realizado por humanos a la manera del 1 Hay que tener en cuenta que los objetos del mundo deben traducirse a este tipo de vectores para ser inteligibles por la Inteligencia Artificial para entender algunos de los problemas que veremos a lo largo de la tesis Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 100 null}], "model": "davinci:2"}data: {"id": "cmpl-GxetY7rxbQDVuGoMhX19c8Qy", "object": "text_completion", "created": 1592103423, "choices": [{"text": " there", "index": 0, "logprobs": null, "finish_reason": null}], "model": "VAR_engine_id:2"}data: {"id": "cmplGxetY7rxbQDVuGoMhX19c8Qy", "object": "text_completion", "created": 1592103423, "choices": [{"text": " was", "index": 0, "logprobs": null, "finish_reason": "length"}], "model": "VAR_engine_id:2"}data: [DONE] Se trata de una estructura JSON, un formato de tipo de datos habitual, que se ofrece en la salida y que puede ser visualizada en la salida estándar del Sistema Operativo empleado por el ser humano, por ejemplo, una shell de comando, o puede ser que la salida se redirija a otro sistema artificial, como un chat bot. Los campos text se observa las palabras que considera gpt-3 con las que se debe continuar: “, there was” Un ejemplo completo en una aplicación lo observamos en esta continuación del inicio del Quijote de la Mancha: En un lugar de la Mancha2, de cuyo nombre no quiero acordarme3, no ha mucho tiempo que vivía un hidalgo de los de lanza en astillero, adarga antigua, rocín flaco y galgo corredor4. Una olla de algo más vaca que carnero, salpicón las más noches5, duelos y quebrantos los sábados6, lantejas los viernes7, algún palomino de añadidura los domingos8, consumían las tres partes de su hacienda9. El resto della concluían sayo de velarte10, calzas de velludo para las fiestas, con sus pantuflos de lo mesmo11, y los días de entresemana se honraba con su vellorí de lo más fino12. Tenía en su casa una ama que pasaba de los cuarenta y una sobrina que no llegaba a los veinte, y un mozo de campo y plaza que así ensillaba el rocín como tomaba la podadera13. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 101 Frisaba la edad de nuestro hidalgo con los cincuenta años14. Era de complexión recia, seco de carnes, enjuto de rostro15, gran madrugador y amigo de la caza. Quieren decir que tenía el sobrenombre de «Quijada», o «Quesada», que en esto hay alguna diferencia en los autores que deste caso escriben, aunque por conjeturas verisímilesII se deja entender que se llamaba «Quijana»III, 16. Pero esto importa poco a nuestro cuento: basta que en la narración dél no se salga un punto de la verdad. GPT-3 responde así: Pasó un día nuestro hidalgo por uno de esos caminos que llaman de las afueras17, y como le sobrevino una gran necedad de comer unas avellanas que se le ofrecieron en una encina, sacó su navaja, y poniéndose a hacer puñetas18 con ella, se la resbaló de la mano El resultado puede ser espectacular y emplear una gran complejidad interna de, como indicamos, medio billón de datos. Sin embargo, desde la perspectiva del observador, como se aprecia, el sistema de entrada y salida se reduce a unas pocas líneas. Podemos considerar pues la Inteligencia Artificial como sistema ¿Pero está orientado a objetivos y optimiza los medios? Todos los algoritmos vistos tienen que cumplir unos objetivos marcados por quienes los haya desarrollado, incluyendo los no supervisados, aunque sea en la forma de establecer categorías. ¿Tienen estos algoritmos sin embargo la capacidad para adaptarse al medio de manera automatizada y óptima tal y como indicaban Russell y Norvig? También, aunque con diferencias con respecto a su flexibilidad en este sentido. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 102 Los algoritmos de clasificación tanto supervisados como no supervisados no cambian sus reglas internas para adaptarse al entorno de forma automatizada, pero a medida que reciben más información del entorno llevan a cabo su actividad de clasificación con una mayor precisión. Las redes neuronales son una excepción y en cambio sí adaptan su normatividad interna. Esta retroalimentación la mayoría de las veces es humana, aunque podría ser también natural o de artificios. Por ejemplo, una red neuronal puede aprender el patrón de comportamiento del tráfico de una red de computadores o el de las medidas para la detección de exoplanetas. Incluso existen algoritmos de redes neuronales adversarias que aprenden unas de otras. El circuito de retroalimentación, humano, natural o artificial, reconfiguran esta normatividad interna ya sea ajustando determinadas variables, como los pesos de una red neuronal, el radio de una hiperesfera en un algoritmo clasificador o la selección de unas determinadas funciones de código en un sistema experto. La Inteligencia Artificial varía en su racionalidad también en lo relativo a la capacidad para adaptar medios al cumplimiento de objetivos, ya sea por el tipo y estructura de datos que procesan o por la capacidad para utilizar óptimamente los recursos de cómputo existentes. Los algoritmos clasificadores siguen una deriva en la cual, salvo que un humano los modifique, van adquiriendo con el paso del tiempo una mayor capacidad de precisión. Pero no adaptan su normatividad interna. Los algoritmos expertos pueden ejecutar algunas partes de su código u otras en función de la información que reciban, pero esa normatividad debe haber sido previamente desarrollada por humanos, haber sido prevista. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 103 La racionalidad de la Inteligencia Artificial es pues limitada. Pero por otro lado también lo es la del Hombre. El ser humano no puede optimizar su cerebro para encontrar el tipo de patrones que es capaz de categorizar un algoritmo no supervisado o aprender a reconocer determinados patrones con la velocidad de la Inteligencia Artificial en volúmenes de datos. Aprender, en el sentido que empleamos, consiste en poder adaptarse a la circunstancia actual en base a sucesos pasados en un histórico. Para que exista una racionalidad óptima debe de haber aprendizaje. Inteligencia Artificial, desde esta perspectiva, es sinónimo de aprendizaje. Por otro lado, la Inteligencia Artificial categoriza los patrones que puede recibir en su entrada descubriendo, precisando o pronosticando categorías futuras o presentes de hechos de la realidad que el ser humano no puede abordar, por falta de medios físicos, o que ni si quiera conocía como en el caso de los algoritmos no supervisados. Una vez la Inteligencia Artificial establece una categoría ya sea para un texto, una imagen, un compuesto químico o cualquier elemento que haya podido ser medible y traducido a un vector, sucede la cosa de qué acción tomar con esa categorización y qué proceso, automático o no, disparará. Igualmente, las transformaciones de información que lleva a cabo la Inteligencia Artificial en función de la entrada pueden condicionar una acción finalmente. Es donde surgen los problemas de la Inteligencia Artificial. La categoría o transformación decidida puede servir para que un órgano de toma de decisiones humano vaya adelante o no con algún tipo de medida. O puede servir para mostrar u ocultar una información, enviar un determinado texto o imagen o, finalmente, tomar una decisión física sobre el mundo como frenar o acelerar un coche autónomo. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 104 En este capítulo hemos visto pues que la Inteligencia Artificial es efectivamente un sistema racional orientado a objetivos, siendo esta racionalidad, en términos económicos, peor o mejor que la del ser humano dependiendo de a qué se aplique. ¿Son estos objetivos necesariamente alineados con una acción estratégica o puede haber lugar a acciones comunicativas? La Inteligencia Artificial puede emplearse para respaldar acciones orientadas a acuerdos como cuando un algoritmo de ciencia de datos encuentra un patrón en un “dataset” enorme, por ejemplo, para descubrir un nuevo medicamento, y esta información puede compartirse con la comunidad científica de manera que sea reproducible y comprobable por otros investigadores. De este modo la Inteligencia Artificial es una herramienta que aporta argumentos para un consenso. Pero también una Inteligencia Artificial puede ser empleada para cumplir objetivos estratégicos de acuerdo con la denominación de Habermas y ser empleada de manera intencional, o automatizada, para ello. En primer lugar la Inteligencia Artificial establece una categoría de los sucesos existentes en un contexto. Después, pasa a llevar a cabo una acción que puede consistir en comunicar a un grupo humano la categoría encontrada, quienes tomarán una decisión, o llevar a cabo una acción automatizada sobre el mundo físico, como girar el volante de un coche autónomo. Sirva este último párrafo para entender mejor cómo funciona una Inteligencia Artificial en tanto en cuanto sistema cibernético y las implicaciones que eso tendrá a lo largo de los siguientes capítulos de la tesis. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 105 Tabla resumen Familia Tipo Racionalidad Orientación a Fines Ciencia de Datos Supervisado Elevada, dependiente Categorías predefinidas No Supervisado Poco flexible, independiente Categorías no predefinidas Evolutivos y Genéticos Elevada, pero en un contexto muy definido Categorías definidas Sistemas Expertos Elevada, pero con gran esfuerzo humano Categorías definidas Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 106 1.8 Conclusión CAPÍTULO I En esta primera parte hemos revisado el concepto de Inteligencia Artificial, su fundamento en la Teoría Cibernética y como esta, a su vez, entronca con el de racionalidad económica. Este concepto de racionalidad fue puesto en cuestión por Habermas en la Teoría de la Acción Comunicativa como base posterior a la construcción de sistema y como, este sistema, al tratar de reinterpretar mundos de la vida generaba conflicto. Comenzando por dotar a nuestra argumentación de un marco histórico, hemos continuado con un análisis de los conceptos de la dialéctica sistema – mundo de la vida de Habermas y su alineación con el ámbito de la Inteligencia Artificial. Por un lado hemos visto como la Teoría de Sistema y la capacidad de sistematización de un entorno son el fundamento de la Inteligencia Artificial basada igualmente en el cumplimiento de unos objetivos economizando medios. La misma Teoría de Sistemas, que junto con la Teoría de Control sientan la arquitectura de la Teoría Cibernética, es la base conceptual para el desarrollo de Internet y las tecnologías de computación y comunicaciones asociadas. Es en el componente de la Teoría de Control donde se busca el cumplimiento de objetivos alcanzándolos mediante una economía de medios. Ambos están presentes en el desarrollo filosófico de la Inteligencia Artificial actual. Estas ideas las hemos visto tanto a la hora de conceptualizar la ingeniería e implementación tecnológica de la Inteligencia Artificial como a la hora de manejar el propio concepto de Inteligencia Artificial a nivel deóntico y jurídico. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 107 Por otro lado, se ha desarrollado un mundo de la vida en Internet. Siendo Internet una infraestructura de comunicaciones, en ella el ser humano lleva a cabo sus lazos sociales, profundiza en su identidad personal, aprende, emplea nuevos códigos del lenguaje, generándose una cultura. La Inteligencia Artificial es una tecnología que surge de, por y para Internet por lo que de alguna forma esta infraestructura donde se desarrolla un mundo de la vida para el ser humano es el “entorno natural” de la Inteligencia Artificial. Sin duda hay también “patologías sociales” que se dan en este entorno coincidiendo, por ahora casualmente o no, con la presencia de una Inteligencia Artificial actuando. En la Teoría de la Acción Comunicativa Habermas se enmarca en el “giro lingüístico” de la filosofía, algo que enlaza ya en la misma base de la teoría a través de la revisión del concepto de racionalidad, pero que continúa reutilizando las ideas del Husserl del Crisis para explicar la evolución de la Historia de la sociedad por medio de la sistematización de la pragmática lingüística y sus consecuencias. La Inteligencia Artificial no sólo colisiona con la pragmática lingüística a través del “Frame Problem”, ya estudiado, si no que tras la superación parcial actual de este otros problemas existen o han aparecido, como veremos próximamente. Sin embargo, dado que en la dialéctica que establece Habermas, objetivo del análisis de esta primera parte, la relación entre sistema y mundo de la vida se fundamenta en el lenguaje y más en particular en la Teoría de los Actos de Habla, en boga en el momento en que Habermas desarrolla su marco conceptual, Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 108 necesitamos solventar esta cuestión para profundizar en el encaje que estamos haciendo con el ámbito de la Inteligencia Artificial. Por un lado hemos comparado cada uno de los elementos del ámbito de la Inteligencia Artificial con los de la Teoría de la Acción Comunicativa. En la siguiente parte de la tesis veremos cómo interactúan entre sí. Así pues este sería el desarrollo realizado en esta primera parte: o Racionalidad económica como fundamento de la modernidad y aplicación de este al de Inteligencia Artificial o Concepto de sistema y aplicación de este al de Inteligencia Artificial Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 109 CAPÍTULO II: EL MODELO DE LA TEORÍA DE LA ACCIÓN COMUNICATIVA DE HABERMAS Y LA INTELIGENCIA ARTIFICIAL El capítulo anterior lo dedicamos al estudio de la idea de Inteligencia Artificial sobre la que trabajamos. En este otro capítulo procedemos con el encaje de esta tecnología en la dialéctica sistema – mundo de la vida que Habermas establece en su Teoría de la Acción Comunicativa. Para ello necesitamos progresar los #RC indicados en la introducción de la tesis. Por otro lado, hemos decidido ubicar en una única parte el problema lingüístico #RC4 de nuestra tesis. La razón es que, como el mismo nombre de la Teoría de la Acción Comunicativa expresa, la idea de actuar y comunicar es un aspecto central del marco filosófico que nos plantea Habermas y, al mismo tiempo, el desarrollo tecnológico actual de la Inteligencia Artificial con sus capacidades para el procesamiento de lenguaje natural es lo que ha supuesto un salto diferencial con respeto a la Inteligencia Artificial planteada durante la segunda mitad del siglo XX. Cuando hablamos de actuar y comunicar y tratamos de aplicar ambos conceptos a la Inteligencia Artificial aparecen los problemas. ¿Actúa la Inteligencia Artificial? ¿Comunica la Inteligencia Artificial? Si la respuesta es no, ¿cómo podemos aplicar la Teoría de la Acción Comunicativa a este ámbito? Si la respuesta es sí, ¿qué implicaciones tiene para la filosofía de la mente? El objetivo de esta parte de la tesis es centrarnos en estas determinantes cuestiones. Hemos establecido el concepto de Inteligencia Artificial en la primera parte de la tesis, ahora Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 116 Esto implica que la racionalidad está condicionada al lenguaje y a la consideración de otros. No se trataría tanto pues de una racionalidad cartesiana, dada previamente, prelingüística y presocial, como pudiera ser el caso de la racionalidad económica. Por último una aclaración sobre el concepto de racionalidad económica y el uso que de él haremos en la tesis. Para la Teoría Cibernética, como hemos visto, la racionalidad se da en la naturaleza ya que en ésta se da una tendencia hacia situaciones de equilibrio procurando la forma óptima de alcanzarlo. A sí mismo los sistemas biológicos buscan también el cumplimiento de unos objetivos, como son la supervivencia y la reproducción, al mínimo coste energético. En el caso de los sistemas artificiales y para el caso particular de la Inteligencia Artificial, y siguiendo el criterio de Russell y Norvig de considerarla “racionalidad automatizada”, la racionalidad es desarrollada por el ser humano. Habermas expresa que este tipo de racionalidad, a la que denomina Cognitiva-Instrumental procedente de la cuál son propias las acciones estratégicas, surgen de la condición de naturaleza del ser humano: dada sus necesidades de supervivencia y reproducción se amolda a las mismas tratando de optimizar los medios para su consecución de fines (Habermas J. , Ciencia y Técnica como "Ideología", 1984). Existe pese a todo un debate abierto acerca de si es pertinente aplicar el concepto de racional a la naturaleza, tal como considera la cibernética, considerado por algunos como hegeliano (Broncano, 2017), es decir, como la consecuencia del despliegue ontológico y dialéctico de la razón a lo largo de la historia, un punto de vista determinista, teleológico e idealista. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 117 Para nuestra tesis nos apoyaremos en la línea que empleó Habermas en la cual la racionalidad económica se da en la naturaleza como fruto de la evolución y, en tanto en cuanto parte de esta, también en el ser humano. Esto es, la racionalidad económica posibilita conseguir objetivos de supervivencia y reproducción a un coste menor de energía lo que hace que la dinámica de la evolución la catalice. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 118 2.2 Los vínculos de la Inteligencia Artificial y el Pragmatismo En la primera parte de la tesis definimos el término Inteligencia aplicado a Inteligencia Artificial con el que trabajaremos equiparándolo al de racionalidad conforme a diversos autores y literatura. Estudiamos también como el concepto de racionalidad converge con la Teoría de Sistemas y la Teoría de Control dando lugar a la Cibernética. Para comprender sin embargo adecuadamente por qué se produce esta convergencia y cuál es su origen conviene analizar cuál era el marco de pensamiento en el contexto histórico en el que surgen estas ideas. Esto nos permitirá dotar al desarrollo histórico de la cibernética de un contexto. Profundizar más en las ideas en las que se basa posibilitará también consolidar la definición de Inteligencia. Hemos observado como la cibernética se inspiró en los avances en biología y evolución como el concepto de osmosis o de ecosistema. También en la búsqueda de un estado de equilibrio de las maquinarias industriales decimonónicas y de principios de siglo XX. Desde el punto de vista de la historia del pensamiento de Estados Unidos la filosofía pragmatista ejerce en ese periodo una importante influencia. Explicamos a continuación como esta influencia deja sus huellas en la Teoría de la Cibernética. Consideramos que este estudio complementará el entendimiento del uso que hacemos del término Inteligencia visto en el capítulo anterior. En primer lugar, antes de que Wiener desarrollara su teoría, uno de los máximos representantes de la corriente pragmatista, John Dewey, tenía una gran influencia en el Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 119 pensamiento norteamericano, en particular en las políticas educativas (Ruiz, 2013). En 1910 Dewey establecía ya cuatro fases para el pensamiento humano: • La experiencia, frente a una necesidad de una situación empírica real a la que nos enfrentamos con base a nuestra memoria y al ensayo-error, la disposición de datos, adquiridos mediante la observación y la comunicación. • Las ideas, entendidas como una planificación y una prospección hacia el futuro para alcanzar unos fines. • La aplicación y comprobación: hasta que no se aplican dichas ideas éstas se encuentran incompletas. • Las comprobamos y aprendemos de la experiencia (Dewey J. , 1910). En este último punto observamos cómo se produce un proceso de retroalimentación donde se aplica el concepto, se realiza una comprobación y se tiene una experiencia en base a esa comprobación por medio de la cual se adquiere el conocimiento. En este tipo de proceso se ven ya coincidencias con el planteamiento de la Teoría Cibernética. La experiencia en tanto en cuanto que percepción sensible, empleando los términos de Dewey, la disposición de datos con respecto a la percepción, las ideas como procesamiento de dichos datos y su enfoque a fines a futuro y finalmente la acción y retroalimentación dentro de nuestro entorno. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 120 Dewey obviamente habla aquí del pensamiento humano. No es una definición de Inteligencia adaptada por los científicos y filósofos de la Inteligencia Artificial. Wiener toma este planteamiento que hace aquí Dewey sobre el pensamiento humano y generaliza algunos de sus componentes. Wiener entiende que muchos problemas pueden plantearse en términos de sistemas y estos ser aplicados al ser humano, a la naturaleza o a las máquinas existiendo el denominador común principal de la racionalidad enfocada al cumplimiento de unos objetivos. Cuando Dewey trata el pensamiento humano, el aprendizaje no es exactamente equiparable al proceso seguido por una Inteligencia Artificial actual. El sentido que le da a la experiencia, a la planificación y la versatilidad que tiene la mente humana con la que trabajaba Dewey no son comparables, pero el esquema del planteamiento que hace cuando describe el pensamiento es análogo en muchos de los componentes de la Teoría Cibernética cuando plantea como se lleva a cabo el proceso racional. Vamos a ver a continuación tres de estos aspectos de coincidencia y como ellos se encuentran insertos en el pensamiento pragmatista también de Peirce: la acción, la retroalimentación y el establecimiento de reglas lógicas. Estudiemos en primer lugar la acción. Peirce la identifica igualmente como clave para el estado mental que él definió como hábito (Peirce, El Pragmatismo, 1908). Mediante la acción con el entorno el ser humano se adapta a él interiorizando sus acciones hasta conseguir el objetivo previsto. Por medio de la acción sobre su entorno desarrolla creencias y un estado mental de anticipación (Määttänen, 2015). Para Peirce el hábito, al igual que el signo, es lo que posibilita el pensamiento (Gomila, 1996). Literalmente, en 1868: “No tenemos ninguna facultad de pensar sin signos” (Peirce, Collected Papers, 2014) Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 121 Es una forma estructurada y esquematizada de actos en el mundo en parte inconsciente pero no por ello irracional, pues se basa en la interpretación de la experiencia y en la interiorización de su valor cognitivo, conectando ciertos signos con ciertas expectativas de significación. El hábito se establece en función del éxito percibido de nuestra acción y en base a ello el estado mental se ajusta. Para Määtänen, también enmarcado en el pragmatismo: “To think with habits is to think about what to do in the world in order to achieve one’s goal.” (Määtänen, 2015) Tal y como lo define aquí el concepto de hábito sería compatible con la racionalidad aplicada a la Inteligencia Artificial basada en la cibernética que vimos en el anterior capítulo. Para llevar a cabo lo que denomina la Ley de Asociación Pragmatista entre el ajuste mental interno, las acciones exteriores y el cumplimiento de objetivos, Määtänen igualmente considera que la intencionalidad en los estados mentales es prescindible (Määtänen, 2015). Cita literalmente: “In the present pragmatist framework there is no reason to look for intentionality in the brain.” Peirce consideraba además que el sentido de las palabras se entendía mediante el uso que hacíamos de las mismas. Merece la pena señalar que la Inteligencia Artificial actual no da sentido a lo que hace, simplemente manipula símbolos, pero sí tiene la capacidad de crear nuevos Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 122 símbolos para llevar a cabo un cometido comunicacional de una forma óptima sin que los humanos intervengan (Lewis M., 2017). En términos de Peirce crea palabras propias a las que da un uso, sin intervención humana (Peirce, Collected Papers, 2014). Por tanto, la IA desarrolla sistemas de inferencia y, en términos de Peirce, sus propios interpretantes. Otro de los aspectos que relacionados, el de retroalimentación, es similar en algunos aspectos al autocontrol de Peirce (“self-control”) (Petry, 1992). Peirce lo aplicaba a la conducta y como ésta debía compararse y adaptarse a un modelo correcto (“correctness”). Establecemos un patrón ideal y mediante nuestros actos, resultados y comparación con ese ideal nos adaptamos hasta acercarnos a lo que entendemos por la conducta correcta. Se observa la analogía con la Teoría del Control: se establecen unas condiciones de entorno ideales y mediante el bucle percepción-acción el sistema cibernético trata de llegar a las mismas Por último, la cibernética establece que los sistemas poseen unas reglas internas para enlazar las entradas que reciben con sus salidas. Estas reglas se fundamentan en la lógica y nuevas formas de lógica como la abducción de Peirce son también posibles, como muestran los trabajos de Atocha Aliseda (Aliseda, 2006). La aplicación de las reglas lógicas forman parte de la normatividad interna del sistema que puede procesar la información que recibe bajo el criterio deductivo, propio de los sistemas expertos; el inductivo, que es el habitual en los procesos de aprendizaje automático en los cuales el sistema adopta decisiones en base a la coincidencia de numerosos patrones de entrada, como es el caso de las redes convolucionales; o el abductivo de Peirce, mediante el empleo del razonamiento hacia atrás que señala Aliseda. En este último caso ante un fallo en una conclusión Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 123 el algoritmo busca otras posibles teorías-variable que produzcan una mejor coincidencia heurística. La comprobación y reproducción de esto llega a su estado más representativo con el “machine learning” o aprendizaje automático, ya explicado, donde mediante acción, retroalimentación/reajuste y percepción un artificio puede adaptarse a su entorno y aprender en consecuencia: el estado actual de la cuestión. El aprendizaje automático habitual funciona mediante reglas lógicas de inducción para llegar a una conclusión debido a que se les proporcionada como entradas los datos de los que se desea aprender y una condición sobre su veracidad. Llegan a la conclusión de la veracidad definitiva que expresan a su salida mediante la comprobación de amplias cantidades de estos datos. Existen sin embargo como indicamos posibilidades con respecto a la lógica deductiva como los sistemas expertos donde un desarrollador humano implementa, de manera manual, las reglas lógicas por las que se guiará el sistema. De manera similar a la de los sistemas expertos Atocha Aliseda nos plantea también sistemas basados en una serie de reglas que permiten presentar una determinada teoría que explique un comportamiento habido cuenta de unos datos. Un segundo punto de analogía entre la Teoría de la Cibernética y el Pragmatismo tiene también puntos de vista alineados con el pensamiento del principal fundador de esta filosofía, Peirce. Así, de acuerdo con Pierre Steiner, Peirce consideraba que la Inteligencia humana siempre era artificial, en tanto en cuanto para desarrollarse debe de interactuar con artificios como tecnología, herramientas, máquinas, el lenguaje o la manipulación simbólica (Steiner, 2013). Conviene destacar aquí como Peirce consideraba el lenguaje y la manipulación simbólica Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 124 como una tecnología y una condición para que se dé el pensamiento (Peirce, El Pragmatismo, 1908), al igual que la acción y el hábito. Cuando Shannon implanta el álgebra de Boole (Shannon, 1948) y Turing plantea su Máquina de propósito general (Turing, On Computable Numbers, with an Application to the Entscheidungsproblem, 1937), podemos entender conforme a nuestra interpretación que se da un paso clave empleando el concepto de la triada semiótica de Peirce a través de la utilización del código binario para cualquier signo. El código binario facilita que el interpretante de dicha triada pueda ser algo que, sin tener capacidad de experimentar o de mantener un estado mental intencional, sí pueda mediante ese signo llevar a cabo una determinada acción en el entorno. Este lenguaje simbólico puede traducirse en base a numerosos estados y reglas internos tal y como vimos en el primer capítulo al analizar un computador desde el punto de vista de la Teoría de Sistemas. La Teoría Cibernética comparte el punto de vista con respecto a la necesidad de la existencia de signos y de interpretante, éste último sería el agente. Emplea el código binario para definir el signo y prescinde de nuevo de la cuestión de los estados mentales, dejando únicamente proceso y reglas. La cibernética no entra en la cuestión de las representaciones mentales de Peirce o en fenomenología alguna, por tanto, pero sí toma como base la necesidad de manipulación de signos (ceros y unos) para disponer de racionalidad. Un tercer punto en común con la cibernética lo tenemos en la eliminación de la dicotomía entre naturaleza y cultura, entendiendo lo artificial como un subconjunto de la cultura. Dewey cita a la biología como puente entre ambas (Dewey J. , 1987). No es exactamente el Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 125 planteamiento que hace la cibernética con Wiener centrándose en la información como elemento común entre naturaleza y tecnología, pero sí vemos un intento en ambos planteamientos de eliminar esas categorías. La contribución de Peirce en este caso no es tanto a la Teoría de la Cibernética en sí, sino a las reglas de la lógica que empleará tanto la Inteligencia Artificial como otros programas. Conviene distinguir esto. Encontramos pues una serie de puntos en la Teoría Cibernética que ya se encuentran en los planteamientos pragmatistas: • Las fases del pensamiento y el bucle de retroalimentación entre acción-percepción, mediado por reglas lógicas • La relación entre pensamiento y signos • El enfoque a unificar naturaleza y cultura Todos estos puntos aparecen en los escritos de Peirce y de John Dewey. Wiener toma estos conceptos empleando para los signos los trabajos de Turing y Shannon y la actuación y el bucle de retroalimentación a través de la Teoría de Control. Finalmente comparte con el pragmatismo su vocación de trascender la división entre naturaleza y tecnología. Peirce no enfoca su cuestión al ámbito de las máquinas y sus trabajos se centran en la lógica y la semiótica. Dewey enfocó sus trabajos en el ámbito de la pedagogía y la psicología. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 132 Inteligencia Artificial también tiene efectos sobre el mismo que implican reflexiones de tipo ético. También consideramos, como explicamos anteriormente, que el mundo intersubjetivo no es una virtualidad ni una ficción sino una emergencia del mundo objetivo. La Teoría de la Acción Comunicativa surge en plena crítica al concepto de racionalidad y modernidad, tras la Segunda Guerra Mundial, la Guerra Fría y la descolonización. Contra esta situación surge la crítica posmoderna. Para la posmodernidad el proyecto ilustrado de la razón fracasó y condujo “al siglo más violento que haya existido con la bomba nuclear y las cámaras de gas”. Habermas trata de recuperar el proyecto de la razón y renovarlo, de ahí su análisis pragmatista del término racionalidad con el que comienza la Teoría de la Acción Comunicativa. La Teoría de la Acción Comunicativa, como no podía ser de otra manera, es pues una consecuencia de su marco histórico. Para ello adapta parte de la terminología de Husserl y denomina al contexto histórico, cultural y del lenguaje mundo de la vida (Lebenswelt): lo que condiciona nuestra manera de observar el mundo. Pero Habermas va más allá del uso que le da Husserl para observar el mundo (Husserl, La elucidación originaria de la posición moderna entre objetivismo fisicalista y subjetivismo trascendental., 1936) y lo aplica también al ámbito lingüístico donde este mundo de la vida nos va a proporcionar el contexto pragmático de la comunicación a la hora de hablar con otros (Habermas J. , El concepto del mundo de la vida y el idealismo hermeneútico de la Sociología comprensiva). De acuerdo con Mario Heler no busca, como otras corrientes críticas con el momento como el posmodernismo, refutar la racionalidad, sino que pretende reformularla y retomar el proyecto ilustrado (Heler, 2007). Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 133 Recurre a la descripción del proceso histórico de racionalización de Weber (Habermas J. , La Teoría de la Racionalización de Max Weber., 1981), Mead y Durkheim en la sociedad (Habermas J. , El cambio de paradigma de Mead y Durkheim: de la actividad Teleológica a la Acción comunciativa., 1981). Habermas entiende que en las sociedades primitivas no existe una sistematización, sino un mundo de la vida en lo que lo subjetivo, lo social y lo cultural confluyen y, haciendo uso de los tres mundos de Popper, también con el mundo objetivo mediante el pensamiento mítico (Popper, 1968). Para el hombre antiguo los elementos de la naturaleza tienen consciencia y forman parte de la sociedad. Se puede hablar con ellos. Las prácticas económicas están integradas en la cultura y el rol del individuo estrechamente vinculado a su tribu. Esto no significa que sea irracional. Habermas justifica que, bajo un determinado prisma y contexto histórico, desde ese mundo de la vida, el ser humano aplica la lógica y las acciones tanto orientadas a objetivos como comunicativas (Habermas J. , Accesos a la problemática de la racionalidad. Racionalidad de la acción y racionalización social, 1981). Según la Teoría de la Acción Comunicativa, con la especialización del trabajo, a medida que las sociedades se vuelven más complejas, surgen los sistemas sociales y la actividad económica, antes vinculada al mundo de la vida, se racionaliza. Surgen también los Estados y con el desarrollo del capitalismo el dinero se convierte, según Habermas, en un elemento” sin lenguaje”, coordinador, en el que se enmarca tanto el funcionamiento del sistema estatal vía impuestos como del sistema económico. Entre las comunidades antiguas en las que todo es mundo de la vida, pero no existía una organización sistemática capaz de enfrentar con eficacia los problemas de la naturaleza y de la sociedad humana, y la sistematización que racionaliza el mundo de la vida, donde los acuerdos Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 134 culturales y consensos entre humanos se insertan, Habermas plantea la alternativa de la acción comunicativa. Los sistemas racionalizadores deben existir pues garantizan nuestra supervivencia, pero no sustituir la libre deliberación propia del mundo de la vida por acciones orientadas a fines desde sistemas que lo condicionen. El mundo de la vida para Habermas no es una organización social o una estructura, sino que es ese trasfondo y redes de conocimiento entretejido entre los sujetos que implican una cultura y valores comunes y que posibilitan la comunicación y el diálogo entre los seres humanos, dando soporte al contexto pragmático en la comunicación. La racionalidad orientada a fines que sustituye a la racionalidad comunicativa genera una serie de patologías sociales. Al avanzar la especialización y la racionalización orientada a fines sobre el mundo de la vida se menoscabaría la capacidad para la acción comunicativa orientada a acuerdos con los otros. En la sistematización sucede también una “deslengüístización” de acuerdo con la Teoría de la Acción Comunicativa. Al recurrir a medios como el dinero o el empleo del poder el entendimiento no se da ya recurriendo a mundos de la vida que faciliten el contexto lingüístico en común con los otros. La existencia de elementos no lingüísticos como el dinero también posibilitan la coordinación entre sujetos mediante el cálculo de la racionalidad orientada a fines y permite prescindir de la orientada a acuerdos, pero de una forma que menoscabaría la autonomía de los individuos (Habermas J. , Accesos a la problemática de la racionalidad. Racionalidad de la acción y racionalización social, 1981). Como vimos en el capítulo anterior la Inteligencia Artificial como sistema racionalizador orientado a fines puede ser empleado para obtener consensos. No sucede menos en el caso de los Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 135 sistemas descritos por Habermas como el Estado o los mercados. Las patologías sociales surgen cuando estos sistemas se orientan a la consecución de sus propios objetivos en lugar de la búsqueda de consensos en el ámbito de un mundo de la vida. Habermas argumenta una serie de patologías en la Teoría de la Acción Comunicativa como consecuencia de las crisis en las que entran los sistemas en las que, cuando se producen, tienden a estresar el mundo de la vida. Explica una serie de daños que generan en la sociedad, en la cultura y en las personas de este modo. Puede haber perturbaciones desde los sistemas en la reproducción cultural, la integración social o la socialización. Cuando estas perturbaciones que categoriza afectan a las distintas facetas del mundo de la vida, se producen patologías que van desde la pérdida de sentido a la de legitimación, motivación o tradiciones, pasando por la anomia, la alienación descrita por Marx, las crisis educativas o las psicopatologías (Habermas J. , El concepto del mundo de la vida y el idealismo hermeneútico de la Sociología comprensiva). La época en la que se escribe la Teoría de la Acción Comunicativa coincide con el llamado momento cibernético en el cuál éste se asocia estrechamente al paradigma de la ilustración y la modernidad. Habermas polemiza con Parsons o Luhmann, cuyas teorías cibernéticas sistematizan la sociedad, al considerar que el mundo de la vida no puede considerarse parte de la sistematización. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 136 El mundo de la vida pasa a ser el entorno de estos sistemas de acuerdo con su cosmovisión (Habermas J. , Talcott Parsons: problemas de la construcción de la Teoría de la Sociedad., 1981). Parsons y Luhmann consideran, sin embargo, que sociedad y cultura son más que un entorno, otros dos sistemas relacionados con el económico y administrativo. Para Parsons hay cuatro sistemas principales: el estatal, el económico, la comunidad y el cultural, con diferentes funciones en la sociedad (Parsons, 1951). Para Habermas comunidad y cultura, junto con la subjetividad, además de sistema son componentes del mundo de la vida en el que llevamos a cabo nuestras observaciones y acciones. Aunque admite que debido al avance y absorción de los otros dos sistemas este se encuentra reducido hasta el punto de “aparentar ser un sistema más.” Cuando Peirce en el pragmatismo aborda como empleamos la comunicación, lo expresa como signos e imágenes mentales, parte que aborda la cibernética, pero también como los usos y costumbres que se hacen de un término bajo el tamiz de una comunidad lingüística. La Teoría de la Acción Comunicativa emplea ambas partes mientras que la cibernética considera que este aspecto del mundo de la vida son parte de las reglas del sistema, lo que Parsons al aplicarla a la sociología denomina las “pattern variables”. Las “pattern variables” son a la vez mantenidas por lo que Parsons denomina sistema cultural para dotarlas de anclaje. Habermas considera esto como algo confuso o poco preciso y en su lugar prefiere la denominación mundo de la vida. Podrían sintetizarse las diferencias entre cibernetistas y Habermas en que el segundo no considera a la pragmática como una normatividad dentro del sistema, sino algo externo, y para los cibernetistas ésta sí es sistematizable. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 137 Por otro lado, y a pesar de la posición de la Teoría de la Acción Comunicativa, es un hecho que a la hora de enfrentar sociedades cosmopolitas o en el sistema mundial la sistematización facilita la acción en común entre diferentes colectivos con distintos trasfondos culturales. La visión de los sistemas económico y administrativo como algo opuesto al mundo de la vida genera problemas. Como hemos señalado Habermas ve el mercado como algo sistematizado por parte de acciones orientadas a fines “deslinguistizadas”, esto es por medio del dinero. El propio Searle contradice esta postura al considerar, al revés, el dinero como un acto de habla que intermedia (Searle J. R., Creando el mundo social. La estructura de la civilización humana., 2014). No critica las relaciones de mercado por no transcurrir bajo la influencia del ámbito del mundo de la vida, cosa que sería incorrecta, sino por la falta de lenguaje en ellas. Tiene poco sentido considerar actualmente que el mundo de la vida como lo concibe Habermas no condiciona la toma de decisiones económicas (Elder-Vass, 2018). Al revés, el homo oeconomicus absolutamente racional y orientado a fines con el que se idealiza al consumidor no existe, sino que las decisiones económicas se toman atendiendo en muchas ocasiones a aspectos culturales, de posición social o basados en la personalidad, los tres aspectos que Habermas considera como conformadores del mundo de la vida. Vale la pena puntualizar que la dialéctica de Habermas no significa que todo lo que se encuentra en el mundo de la vida “bueno” frente a lo que se da en el sistema “malo”. No es esa la dialéctica. Los condicionantes culturales, sociales o subjetivas que definen el mundo de la vida pueden llevar a cabo acciones que no sean éticas. La capacidad de la organización sistemática para solucionar los problemas objetivos de la Humanidad tiene también una ética implícita. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 138 La postura de Habermas no es necesariamente roussoniana bajo el mito del buen salvaje en el cuál la prehistoria, bajo la inexistencia de sistemas y la exclusividad de las relaciones en el ámbito del mundo de la vida era idílica, produciéndose a partir de entonces una sociedad que pervierte a los individuos; aunque el tinte que da Habermas a la Teoría de la Acción Comunicativa sí puede trasladar esa sensación. Es fácil observar desde nuestro mundo de la vida de ciudadanos occidentales en el siglo XXI los aspectos poco éticos de los sistemas totalitarios o colonialistas y como estos condicionaban la cultura, sociedad y personalidad del entorno donde sucedían. Pero la Teoría de la Acción Comunicativa tenía dificultades para explicar los aspectos negativos de los sistemas orientados a fines en las sociedades occidentales. La ética utilitarista mantiene que la racionalidad orientada a fines, incluyendo el egoísmo personal propio de la Teoría Económica, genera beneficios para el común de la sociedad en virtud de las propiedades emergentes. En las sociedades plurales y cosmopolitas occidentales donde los ciudadanos tienen mundos de la vida muy diversos la Teoría de la Acción Comunicativa necesita un mayor grado de detalle con respeto a los efectos éticos. La razón es que, si mundos de la vida distintos deben compartir un espacio público y político dispuestos a convivir y los contextos procedentes de estos son fundamentales para una coordinación comunicativa, serían precisamente los sistemas racionales orientados a fines los que facilitan y garantizan dicha coordinación siendo un mundo de la vida un obstáculo para el entendimiento (Fine, 2003). La Acción Comunicativa, irónicamente, se convertiría en un argumento contrario a las sociedades abiertas, pues estas dificultarían la colaboración lingüística que propugna Habermas y en este tipo de sociedades la colaboración ciudadana sería más eficaz, integradora y diversa mediante la sistematización orientada a fines Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 139 como defienden los utilitaristas. Mark Murphy reconoce esto como uno de los problemas a la hora de conformar una Europa postnacional (Murphy, 2005). Igualmente, el sistema parlamentario democrático permite en teoría acciones comunicativas orientadas a consensos que deberían considerar aspectos del mundo de la vida que compensaran el sistema basado en el poder (Wirts, 2014). ¿Cómo explica pues la Teoría de la Acción Comunicativa la solución a las patologías en las sociedades occidentales si los sistemas administrativos democráticos y los económicos de libre mercado ayudan a integrar mundos de la vida propios de las sociedades plurales? Es aquí donde comienza el problema ético. El corolario de la Teoría de la Acción Comunicativa es la ética discursiva. Si sistemas orientados a fines modifican este mundo de la vida y sustituyen la posibilidad de llegar a acuerdos entre individuos o colectivos por el cumplimiento de sus propios fines, da lugar a que las personas sean utilizadas o no queda lugar para la acción coordinada y compartida. De cara a evitar que las acciones estratégicas de sistemas colonicen, como describe Habermas, el mundo de la vida, recomienda una serie de prácticas para que en el marco del kantianismo se respete la ética. Detrás de la ética discursiva se encuentra la regla kantiana de no emplear a los otros como medios sino como fines en sí mismos. La relación con los otros no debe basarse como parte de una acción estratégica sino como un igual con el que se aspira a la comunicación. Habermas a través de la influencia pragmatista la enmarca en la filosofía del lenguaje y reenfoca la influencia cartesiana de Kant. El sujeto no está aislado, sino que a la hora de razonar o de emplear el lenguaje se apoya en contextos comunicativos. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 140 Surge pues como corolario de la Acción Comunicativa la ética discursiva que contempla la ética kantiana a través de su universalidad, y el imperativo categórico pero basada en la intersubjetividad que emplea la filosofía pragmatista. Su ética discursiva la lleva a cabo en frecuente colaboración con su colega Karl-Otto Appel, con el que, aunque tenía algunas divergencias, fue también artífice del desarrollo de este tipo de ética (Apel, Discourse ethics as a response to the novel challenges of today's reality to corresponsability., 1993).Traducido al marco habermasiano: no se debe condicionar el mundo de la vida ajeno para los propios intereses. Por esto en su Ética del Discurso establece una serie de pautas del proceso que se debe seguir para que se dé este caso. En particular: • Que todos los afectados por una regla legal o moral puedan participar en el debate • Que puedan hablar en el mismo sin coacción alguna • Que todos los participantes acepten las reglas acordadas (Heller, 1985) De esta forma se vuelve compatible la Acción Comunicativa con la ética pública en las sociedades abiertas occidentales y la racionalidad comunicativa se postula como una alternativa mejor a la sistematización racional económica. Se plantea una alternativa al utilitarismo y a la sistematización cibernética que, a diferencia del posmodernismo, conserva el proyecto ilustrado. No ya en reglas sistemáticas no-lingüísticas, de acuerdo con su criterio, sino en la comunicación basada en procedimientos entre Mundos de la vida diversos. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 141 Pero el precio a pagar por Habermas es el idealismo de su ética, muy criticado como es natural por, entre otros, posmodernos (Habermas J. J., 2008) (El Colegio de México, 2001) y utilitaristas (Flyvbjerg, 2000), y también por los neo-pragmatistas(Rorty) (Salvá, 1970). A la hora de sentar en el debate a todos los participantes existen problemas en establecer quienes son los interlocutores válidos. Garantizar las condiciones de no coacción puede ser complicado, o imposible desde el punto de vista de los posmodernos, y en la aceptación de una norma puede haber muchos matices (Kulynynch, 1997). Se argumenta también, desde la perspectiva marxista clásica, que la búsqueda de consensos favorece el Statu Quo político ya que, desde su posición inicial de Poder y dominador de la cultura, puede condicionar el discurso a colectivos históricamente discriminados. En la posición contraria, la idealización además del concepto de mundo de la vida frente al de sistema hace que en ocasiones la Teoría de la Acción Comunicativa tenga tintes roussonianos, como indicamos con anterioridad. Habermas se apoya en el proceso de racionalización que describen otros y establece una categorización para entender la Historia. Las relaciones y acciones que se dan bajo la cooperación del mundo de la vida no son intrínsecamente éticas, como tampoco lo son las que vienen derivadas de una sistematización. Más aun, con respecto a los argumentos contrarios desde una perspectiva económica, como ya hemos indicado, el empleo que se hace del dinero no siempre persigue la función útil. El racionalismo económico puro está refutado (Gorriarán, 2022). El ser humano emplea el dinero de manera muy estrecha con su mundo de la vida en cuestiones propias de su cultura, su sociedad y su identidad. Esto los publicistas y los expertos en mercadotécnica lo saben bien. Cuando apelan al consumidor para promocionar un producto rara vez se refieren a su función útil, sino a Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 148 Cuando las leyes violan tales principios, uno actúa de acuerdo con el principio. Los principios son los principios universales de la justicia: la igualdad de derechos humanos y el respeto por la dignidad de los seres humanos en cuanto individuos. Estos no son únicamente valores que se reconocen, sino que también son principios que se utilizan para generar decisiones concretas. La razón para hacer lo justo es que, en la condición de persona racional, uno ve la validez de los principios y se compromete con ellos (Habermas J. , Conciencia moral y acción comunicativa, 1996, pág. 129). “ Como conclusión este capítulo sirva para enmarcar mejor la dialéctica que establece Habermas en su Teoría de la Acción Comunicativa. Por otro lado, los sistemas económicos y administrativos de la Teoría de la Acción Comunicativa pueden matizarse en su colisión con el mundo de la vida cuando se fundamentan con base a la ética discursiva y no realizan acciones estratégicas si no orientas a consenso. Igual sucede con la Inteligencia Artificial, como sistema racionalizador orientado a fines, que puede ser empleado para orientar a consensos. Las patologías sociales aparecen cuando los fines a los que se dedica son aquellos propios de las acciones estratégicas o la racionalidad cognitivo-instrumental. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 149 2.5 Sobre los actos de habla y la Inteligencia Artificial Hemos observado en la primera parte de esta Tesis como en la literatura actual se menciona la aparición de “patologías sociales”, empleando la terminología de Habermas, vinculadas a la Inteligencia Artificial (Habermas J. , Accesos a la problemática de la racionalidad. Racionalidad de la acción y racionalización social, 1981). Como vimos en el apartado anterior, estas patologías están vinculadas al término mundo de la vida que utilizó en su Teoría de la Acción Comunicativa en 1981 que engloba los aspectos culturales, sociales y de subjetividad que conforman la base de la que parte la mente humana. En su Teoría de la Acción Comunicativa Habermas explica como la tensión entre los sistemas racionales orientados a fines y el mundo de la vida en el que se desenvuelven los sujetos genera desórdenes y patologías. La Inteligencia Artificial en tanto en cuanto sistema racional orientado a fines, como hemos visto en anteriores capítulos, impacta sobre la sociedad, la cultura y la experiencia subjetiva que mantienen los humanos en interacción con ella en virtud de dos capacidades: - La del procesamiento de lenguaje natural (NLP) - La de la omnisciencia de Internet y la comunicación mediante el mismo Podemos plantear un análisis del impacto de la Inteligencia Artificial mediante la Teoría de la Acción Comunicativa: la Inteligencia Artificial transforma la información, y al procesar el Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 150 lenguaje natural de la información verbal intercambiada (comunicación) entre personas, categorizarla y devolverla afecta a su mundo de la vida. Se mencionó más específicamente este proceder en el primer capítulo de la Tesis. La comunicación entre individuos es mediatizada por un sistema racional orientado a fines: en este caso la Inteligencia Artificial. Explicaremos esta mediatización algunos párrafos más adelante, y con más detalle en los problemas práctico-operativos del capítulo III al ver algunos ejemplos concretos. Como vimos en la primera parte de la tesis, Internet se construyó de manera sistemática: son una serie de sistemas interconectados en los que a medida que se escalan se generan nuevas propiedades. Entre otras propiedades tiene la capacidad de contener y comunicar lenguaje escrito y de manera audiovisual y transportarlo electromagnéticamente a lo largo del mundo. La manera en que la comunicación se realiza por medio de estos sistemas puede ser almacenada, detectada, procesada y reenviada por automatismos que en el caso de la Inteligencia Artificial están optimizados para cumplir objetivos reajustándose en función de resultados previos. Este reajuste hasta un punto de equilibrio, como ya explicamos en el apartado sobre los vínculos de la Inteligencia Artificial y el pragmatismo, es muy similar al proceso en el que se establecen los hábitos de Peirce y Apel. Esta comunicación puede explicarse mediante la Teoría de los Actos de Habla. Esta teoría considera que cuando hablamos a su vez actuamos. El que sea por medio de Internet no quedaría exceptuado. De esta forma cuando hablamos podemos prometer, amenazar, contratar, acordar, saludar, ofrecer un dato o dar una opinión, generando con ello un acto sobre el mundo. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 151 Habermas analizaba en la Teoría de la Acción Comunicativa el impacto en la comunicación entre personas los sistemas racionales orientados a objetivos empleando la Teoría de los Actos de Habla, a la cual aportó sus propios puntos de vista y modificaciones. Estas diferencias y el debate subsiguiente los veremos en los apartados siguientes. Conforme veremos en el capítulo III acerca de los problemas práctico-operativos que existen actualmente de la Inteligencia Artificial surgen desde varios mecanismos. -De cómo se presenta la información a los usuarios -De qué información se extrae -De la realización de acciones con esa información El cómo se presenta la información se basa en la tecnología de los sistemas de recomendación encargados de organizar la información de Internet para evitar el desorden bajo criterios de relevancia y, habitualmente, de personalización. La información que se extrae de los usuarios puede tener efectos sobre su privacidad y existe una amplia legislación al respecto. La Inteligencia Artificial categoriza. Con esa categorización bien se puede llevar a cabo una acción que sea dañina para un tercero, dando lugar a los dilemas propios de por ejemplo el coche autónomo, o bien al establecer categorías sobre la información personal generar, por ejemplo, problemas de sesgos. Sin embargo, la Inteligencia Artificial puede a sí mismo realizar Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 152 acciones mediante el empleo de información verbal generada. Estas acciones pueden ser tanto verbales como mecánicas: mover por ejemplo el volante de un coche autónomo. ¿Cómo afecta estas tres maneras de comportarse la Inteligencia Artificial considerando la Teoría de los Actos de Habla? El motor de recomendación puede priorizar o permitir a un usuario que sólo vea determinados actos de habla realizados por otros. Por ejemplo, los actos de habla propios de los mensajes de una red social. Este fenómeno es lo que genera el “clustering” en redes sociales y mediante ellos las cámaras de eco y filtros burbuja que veremos en detalle en el capítulo III. Al sistematizar el mundo de la vida este adquiere una forma mediante la cual es presentable a un observador: le posibilita una navegación organizada por Internet. Pero al hacerlo el contexto de la comunicación puede condicionarse hasta el punto de hacerla desaparecer. Por otro lado, las categorías establecidas por una Inteligencia Artificial pueden emplearse para disparar una acción en el mundo, como girar el volante de un coche autónomo o automatismos propios de la Industria 4.0 (Gubán, 2017). Sin embargo, también pueden emplearse para generar un mensaje verbal o audiovisual que simule hechos que no sucedieron (“Deep Fake”). La Inteligencia Artificial intermedia entre los actos de habla entre humanos. Esto incluye la información que una persona ha subido en distintas páginas web y un motor de recomendación prioriza bajo determinados criterios aprendidos. Esta priorización de la información es una irrupción de un sistema racional orientado a objetivos. Sin embargo, hay un tipo de problemas Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 153 derivados también de la Inteligencia Artificial que no son relativos a la información que se muestra si no a la información que la propia Inteligencia Artificial genera: las creaciones artísticas de Inteligencia Artificial, los “Deep Fakes” o el empleo de “Bots” (aislados o en redes) para relacionarse con una determinada organización o servicio. Veremos estos casos más en detalle cuando tratemos los problemas práctico-operativos. Los mensajes desarrollados por una Inteligencia Artificial actúan sobre el mundo, en el sentido en que son capaces de modificarlo y crear hechos. Cuando una noticia falsa apoyada en un “Deep Fake” fuerza a un colectivo a tomar una decisión política esa decisión política tiene consecuencias reales. Cuando una obra de arte creada por Inteligencia Artificial viola unos derechos de autor suponiéndole un perjuicio económico es tan real como si la hubiera llevado a cabo un ser humano. O cuando la Inteligencia Artificial de un banco propone un crédito, establece una negociación con el usuario mediante pautas simples para, finalmente, conseguir que lo acepte tiene un compromiso real para él como cliente de un banco. Otro ejemplo positivo sería cuando un asistente personal nos reserva una cita en la peluquería, llamando y acordando la fecha con el interlocutor humano en el otro extremo. 3 Al realizar una intermediación entre los Actos de habla entre personas la Inteligencia Artificial modifica elementos de la comunicación. Si nos basamos en el esquema tradicional de la comunicación de emisor, receptor, canal, mensaje y contexto, la Inteligencia Artificial puede decidir quién es el receptor, como veremos en el caso de los filtros burbuja por ejemplo; en qué contexto se produce el mensaje, como veremos en los ejemplos del colapso del contexto o del derecho al olvido debido a la memoria virtualmente infinita de los mensajes; en la interceptación Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 154 del mensaje que puede ser alterado y modificado para crear identidades y noticias falsas; o incluso el canal, creando problemas de privacidad comunicando el mensaje que lanza el emisor en foros no deseados. La Inteligencia Artificial funciona aquí como un modificador de los elementos comunicativos. ¿De qué manera modifica la comunicación que se realiza entre humanos? De una manera tal que se cumplan los objetivos con los que ha sido desarrollada. . Pero ¿pueden entenderse como actos de habla de manera que sean compatibles con la Teoría de los Actos de Habla en la que se basa Habermas? Muchos de los problemas analizados se explican por la categorización de los actos de habla que se lleva a cabo en Internet al mediar entre emisor y receptor de un mensaje la Inteligencia Artificial, pero otros lo son debido a que la Inteligencia Artificial es capaz de generar nuevos mensajes. ¿Puede explicarse estos nuevos mensajes proyectados por una Inteligencia Artificial mediante la Teoría de los Actos de Habla de John Searle tal y cómo la usa la Teoría de la Acción Comunicativa? (Singh M. P., 1993) (Briggs, 2013) La IA y los actos de habla se estudiaron por primera vez en 1975 (Bertram, 1975), casi inmediatamente después en el tiempo de su aparición. En ese primer artículo de Bertram C. Bruce ya se habla de la posibilidad de recibir retroalimentación sin entendimiento, a la manera de la cibernética. El empleo de los actos de habla en Inteligencia Artificial es una constante desde 3 Esto es un caso real realizado en una demostración de Google Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 155 entonces donde se trata de emular los estados mentales que requiere la teoría mediante estados internos dentro del sistema. (Abbott, 2018) (Adelman, 2012) Sin embargo, esto no cierra el debate pues el propio Searle requiere para el desarrollo de los actos de habla la noción de intencionalidad, brevemente tratado cuando revisamos los vínculos de la Inteligencia Artificial y el pragmatismo. Para Searle, sin intencionalidad ni estado mental no habría acto de habla. Algo que con su argumento de la habitación china elimina de la Inteligencia Artificial (Searle J. , 1980). Ya vimos en el segundo capítulo como durante los años 90 hubo una corriente para eliminar la intencionalidad de la Teoría de la Acción para explicar filosóficamente la capacidad de la Inteligencia Artificial de actuar. Pasa a emplearse el concepto de agencia y de agente siendo especialmente esclarecedora a este respecto el concepto de agencia mínima de Barandiaran donde argumenta que puede haber acción sin intencionalidad. Con la agencia mínima se postula que podemos considerar el concepto de agente autónomo sin necesidad de la intencionalidad. Se trata de una agencia mínima en la que no existe la intencionalidad, uno de los elementos principales de la Teoría de la Acción, pero que sigue siendo agencia a fin y al cabo, esto es, la capacidad de llevar a cabo actos. Sin embargo, si bien está aceptado que las máquinas son agentes que actúan autónomamente sin necesidad de una intencionalidad o mente, el debate sobre sí además comunican sigue vigente. Es decir, conceptos como el de agencia mínima son aplicados a la Teoría de la Acción, pero no a la Teoría de los Actos de Habla. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 156 De esta forma y mediante este criterio se establecen dos categorías de actos: los de habla y los convencionales. Para los segundos no es necesaria una intencionalidad y se puede actuar sin necesidad de consciencia. Para los primeros se requeriría intencionalidad de manera que una máquina, al no ser consciente, podría llevar a cabo actos, pero no de habla, pues sin intencionalidad no hay comunicación posible. La Teoría de los Actos de Habla no cubriría los intercambios de lenguaje que se llevan a cabo entre un hombre y una máquina mediante esta posición. Cabría hacer otro análisis en los actos de habla que llevamos a cabo hacia un asistente personal. Éste sería el caso al dar una instrucción a un dispositivo tipo Alexa o Siri. Lo veremos a continuación junto a otros casos que requieren de un análisis más preciso: el de la comunicación máquina hacia hombre y la comunicación entre dos máquinas. En todos los casos partiremos de la base de que la máquina, conforme al estado del arte de la tecnología actual, carece de consciencia y por tanto de voluntad de cooperación e intencionalidad. Veamos en primer lugar el uso del habla para lograr acciones de una máquina. Vaya por delante que antes de que las máquinas pudieran ejecutar una orden humana transmitida de manera oral los animales también las recibían. De la misma manera no podían entrar en un diálogo cooperativo e intencional con el ser humano, pero la tradición filosófica ha estudiado ya este tipo de efectos (Horn, 1997). En un acto de habla tal y como lo describe Searle requiere de un hablante y un/unos oyentes. Busca cambiar el estado mental del hablado e incluye su concepto de las dos Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 157 direcciones: desde el mundo, para los actos ilocutivos, y hacia el mundo para los performativos. Cuando hablamos hacia una máquina actuamos, pero no modificamos, en principio, el estado mental de nadie ni nada más allá del nuestro propio. Cambia nuestra forma, eso sí, de actuar sobre el mundo. Por ejemplo, si queremos subir la persiana de una sala para que entre más luz antes de la tecnología de procesamiento de lenguaje natural teníamos que acercarnos a la ventana y tirar de la cuerda de la persiana. Esto era un acto, pero no de habla. El desarrollo tecnológico permite hacer ese mismo acto pero empleando palabras. En términos de Searle hablaríamos en dirección mente -> mundo. Nosotros tenemos una intención y un deseo que es que entre más luz y así lo expresamos abiertamente. Para dirigirnos al asistente personal con un “Alexa, sube la persiana” pudiera parecer que empleamos un acto de habla directivo, para forzar a Alexa a subir la persiana. Sin embargo, esto no es correcto al carecer Alexa de estado mental alguno. En realidad, se trataría de un acto de habla expresivo de acuerdo con la denominación de Searle en la que expresamos un deseo en voz alta: deseo que la persiana esté arriba para que entre luz (Chesher, 2019). El que Alexa esté programada para entender el imperativo es una forma de “humanizar” la comunicación con el dispositivo (Seon, 2014). Se trata pues de un interfaz que modifica la forma en la que actuamos sobre el mundo. Para subir la persiana ahora puede hacerse mediante contenido verbal. Este contenido verbal podría ser aleatorio y no significar nada para un oyente externo que en principio observara la situación. Por ejemplo, puedo pedirle a Alexa que apague la luz y ella tenga programada esa instrucción para, en realidad, elevar la persiana. En este sentido para un observador externo el uso que hacemos de la expresión en voz alta de “apaga la luz” quedaría resignificado en esa Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 260 Por eso nos interesa matizar en primer lugar esta aclaración con respecto a la Teoría que presenta Habermas. Adela Cortina presenta un modelo alineado con estas posiciones en su filosofía sobre la Responsabilidad Social Corporativa. Para ella la actividad económica de la empresa, un sistema, debe estar armonizada con el mundo de la vida en el que se desarrolla. Adela Cortina, que basa su ética en la discursiva de Habermas y Apel, no separa pues la economía del mundo de la vida si no que considera que un sistema económico sea ético debe estar en armonía, Una vez considerada esta posición analicemos ambos ejemplos citados sobre el impacto de la Inteligencia Artificial en la economía. La IA en el sector económico y financiero supone una transformación en la producción de los sectores convencionales. Cuando un importante porcentaje del tiempo del día empleamos Internet y lo que visualizamos se ve mediado por la Inteligencia Artificial con su capacidad de personalización esto afecta a cómo los clientes contratan productos y servicios. Al tomar, desde Internet, la posición de relación con el cliente el proveedor de productos y servicios tradicional se ve fuera de la intermediación (Ladd, 2021) (Bernardo, 2014). Ya no es el cliente el que elige entre varios proveedores en base a un sistema de competencia orientado por la publicidad, si no que pasa a elegir al proveedor en base a la recomendación de la Inteligencia Artificial que emplea una nueva organización. Si la Inteligencia Artificial decide que un determinado proveedor no existe, sencillamente no aparece en la visualización de los usuarios. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 261 Esto tiene consecuencias en el pequeño comercio, en el caso de Amazon; en los medios de comunicación, en el caso de Google y las Redes Sociales; en las operadoras de Telefonía, en el caso de WhatsApp; en la hostelería, en el caso de Booking; sector inmobiliario, Idealista; transporte público, Uber; trabajadores, Glovo… Como se observa para cada negocio tradicional donde, aproximadamente, regía un sistema de competencia más o menos consolidado éste se ve sustituido por un motor de recomendación, esto es, una Inteligencia Artificial especializada, a menudo en condiciones próximas al monopolio (Li J. &., 2021) (Yaojia, 2021). Si existía cierto grado de consenso social en torno a un sector este se ve alterado por una nueva sistematización. En la totalidad de los ejemplos arriba descritos ha habido tensiones entre los nuevos y antiguos actores. No se trata de un nuevo competidor, sino de un nuevo marco que varía las reglas de juego. Siempre que entendamos ese sector económico como un mundo de la vida, donde existían unos acuerdos consensuados y unos usos en los intercambios económicos y de consumo, la colisión resultante por la entrada de la Inteligencia Artificial como sistema racional orientado a fines encajaría con la Teoría de la Acción Comunicativa de Habermas. Otra característica principal de estas Plataformas es la no posesión del producto o servicio que recomienda: facilita la información y posiciona, pero no produce el producto o servicio final. Así Uber no posee vehículos, Booking no posee hoteles, Amazon no posee mercancías o Google no genera contenidos. Su Inteligencia Artificial lo que haría es, teóricamente, potenciar la Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 262 Inteligencia de la persona para que esta cumpla sus objetivos: adquirir el producto o servicio que más le satisfaga ajustándose a su personalización. Suponiendo que la Inteligencia Artificial aquí no posea objetivos estratégicos propios, que los tiene y son asignados por la organización propietaria, se comporta llevando a cabo una sinergia con el ser humano funcionando como un “teleobjetivo” que amplifica sus capacidades haciéndole de guía en Internet. Sin embargo, si esta función se lleva a cabo sin respetar esos consensos sociales previos o sumar a los “stakeholders” afectados, inevitablemente se producen conflictos. Entre otros la destrucción de empleo generada al eliminar a los antiguos productores como consecuencia de la desintermediación (Thelen, 2018) (Rogers, 2016) (Del Romero Renau, 2018). Otro modo en la que el empleo es afectado es a través de la automatización que supone la Inteligencia Artificial. Esto es algo habitual en el desarrollo de nuevas tecnologías. Está por ver si el ritmo de destrucción de empleos que esta vez supone puede ser compensado con la creación de nuevos: si este empleo es sustituido o no a la manera que describía Schumpeter es objeto de polémica (Caballero, 2010) (Schlesinger, 2015) (Kim, 2018) (Liss, 2013). El sector financiero también ha cambiado de manera profunda con la irrupción de la Inteligencia Artificial. La inmensa mayoría de compraventa de productos financieros hoy en día se lleva a cabo de manera automatizada (Hendershott, 2011) (Nunes, 2021). La Inteligencia Artificial descubre patrones, emprende compraventas y en función del resultado aprende. Tiene la ventaja además de poder realizar estas maniobras en microsegundos con lo que optimiza al máximo el valor del tiempo, como la tecnología SOR (Smart Order Router por sus siglas en inglés). Este tipo de comportamientos ha tenido consecuencias nocivas como el “flash crash” de Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 263 2008 en la Bolsa de Nueva York (Shirvani, 2020) o el de 2016 (Schroeder, 2020). Los algoritmos de Inteligencia Artificial pueden ser igualmente vulnerables a información falsa o a técnicas de envenenamiento de “dataset” (Boukherouaa, 2021). Este tipo de técnicas de inversión automatizada se están aplicando también a la inversión en criptomoneda. Las criptomonedas son un producto financiero especialmente volátil, con altas variaciones en cortos espacios de tiempo a lo largo de un mismo día. El automatizar su compraventa mediante el análisis del comportamiento de patrones y el aprendizaje de estos, esto es mediante Inteligencia Artificial, se ofrece como una ventaja estratégica determinante para estas inversiones (Agarwal, 2021) (Cho, 2021) (Al-Sunni, 2021). Existen plataformas especializadas como Augur, Neurobot, CryptoScanner, Senno, TradeConnect o Amanda (de Money Token). Las criptomonedas son un activo financiero especialmente adecuado para nuestro análisis. Por un lado, son el primer activo desarrollado en su totalidad en el Universo de Internet. Y sin embargo distan mucho de ser virtuales y ficticias. Su alto consumo energético preocupa a las autoridades por ejemplo en el marco del cambio climático (Egiyi, 2020) (Madadi, 2021). Para Facebook, recientemente renombrada como Meta, las criptomonedas, Lira en su caso, son un pilar esencial en su estrategia corporativa porque permitirían interoperar múltiples metaversos. Si finalmente Lira es la moneda para emplear en esta reconceptualización de Internet que son los metaversos es fácil ver quién de nuevo sería el intermediario principal y quién mantendría la influencia predominante. Aunque Bitcoin es la más conocida existen hoy en día miles de criptomonedas. Esta tecnología posibilita pues que cada persona cree las criptomonedas que desee y recaude Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 264 inversiones en función de la confianza, de la creencia compartida, que genere en el público dispuesto a invertir. Y no solamente las personas: si no también se pueden crear bajo Inteligencia Artificial (Ganapathy, 2020). En este caso la Inteligencia Artificial se encarga de parametrizar y diseñar criptomonedas para que tengan un determinado comportamiento y características que posibiliten se reevalúen más rápidamente. El ejemplo de las criptomonedas nos muestra hasta qué punto la economía se basa en creencias compartidas y acuerdos sociales, a menudo espontáneos, con una base material mínima detrás. Pero también muestra cómo estos acuerdos sociales lejos de ser ficciones tienen consecuencias sobre lo material tangibles y directas. La primera consecuencia de las criptomonedas no impacta tanto sobre el mundo de la vida como sobre nuestro Mundo, nuestro planeta: el coste energético que supone el llamado minado de criptomonedas. Las criptomonedas se han convertido en un elemento especulativo y han sufrido un comportamiento propio de las burbujas, a la manera de la famosa crisis de los tulipanes de Ámsterdam: un objeto digital, que encaja con la terminología de Yuk Hui, adquiere interés de mercado y es objeto de especulación. Pero no es algo intangible o virtual, sin respaldo con lo real, si no que lejos de ello su mantenimiento y crecimiento requiere altas cantidades de electricidad. Esto tiene una consecuencia sobre la contaminación como todo consumo energético. La Inteligencia Artificial y sus algoritmos y su uso masivo pueden también tener consecuencias similares. La Unión Europea por ello ha puesto un foco especial en el borrador de su Reglamento sobre Inteligencia Artificial en los llamados “Algoritmos Verdes” (Welter, 2014).Estos Algoritmos Verdes emplean elementos de control de la calidad del código como por ejemplo Sonar Cube (Calero, 2021). Este tipo de herramientas se ha usado históricamente para evitar que Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 265 el software realice bucles o rutinas de código poco óptimas o innecesarias lo que redundaba en mayores tiempos de procesamiento o despilfarro de recursos informáticos. Esto, con algo más de enfoque sobre el consumo eléctrico concreto, consigue garantizar que los algoritmos sean más ecológicos. Se incluye en la cuestión de la ética la ecología y una rama de debate muy importante considera es poco ética una tecnología que no respeta sus efectos sobre la contaminación del planeta (Gellers, 2021). Tenemos aquí pues un primer punto de unión entre la Inteligencia Artificial, las criptomonedas y la ética. Por un lado, entender esto implica deshacernos, de nuevo, de la falsa dicotomía entre mundo virtual y mundo real que ya mencionamos en el capítulo sobre la ontología de lo digital: lo que sucede en Internet tiene consecuencias tan reales como para llegar a suponer una amenaza existencial a través del calentamiento global. Imaginemos que puede suponer algoritmos que no velen por el ahorro energético manipulando el minado de criptomonedas basadas en algoritmos que tampoco velan por el ahorro energético y la retroalimentación perversa que esto supone. Por otro lado, hay que deshacerse, como veremos a continuación, de la posición de que el dinero no forma parte del mundo de la vida y que no trata de acuerdos entre personas sino de injerencias de un sistema. Precisamente las redes horizontales de criptomonedas nos muestran lo contrario. No es un sistema a la manera de los Bancos Centrales, sino que son acuerdos entretejidos mediante dinámicas culturales llevadas a cabo por individuos que llegan a consensos. El riesgo de sistematización de las criptomonedas también está ahí, como lo está con Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 266 el dinero convencional, pero la postura que nos muestra Habermas en su Teoría de la Acción Comunicativa no aborda esta cuestión. Ambos problemas, la dialéctica entre sistema y mundo de la vida y la de mundo virtual y mundo real, sufren de tratar de enfocar los problemas de una manera binaria. No olvidemos que Habermas se proponía, entre otros objetivos y como miembro de la Escuela de Fráncfort, reformular el materialismo dialéctico marxista y ésta está estrechamente vinculada a la necesidad de elementos binarios enfrentados. Veamos esto con más detalle revisando como afectan distintos algoritmos de Inteligencia Artificial a la inversión en criptomonedas. Básicamente se emplean para una cuestión: predecir el comportamiento del valor de las criptomonedas. La Inteligencia Artificial aquí no está fuera de la lógica del mercado y las personas que recurren a ella buscan, en el ámbito de la razonabilidad económica, hacer inversiones con una rentabilidad tan alta como sea posible. La forma en la que la Inteligencia Artificial realiza estas predicciones es de dos maneras: 1) Basándose en el histórico de datos previos y comportamiento en el mercado junto con alguna técnica habitual tipo Fibonacci (Allahyari Soeini, 2012) u ondas de Elliot (Ilalan, 2016). Un ejemplo de estas herramientas es Neurobot; TradeConnect, de la empresa ThinkCoin; o el Bot Amanda, de la empresa MoneyToken. En este último caso el Bot hace recomendaciones basadas en la personalización del usuario a través del procesamiento del lenguaje natural. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 267 2) Realizando análisis de sentimientos (Medhat, 2014) que las personas publican en Internet, ya sea en redes sociales, foros especializados, canales de Telegram, blogs, páginas web etc. Ejemplos de esto son Augur y Senno. Las aplicaciones basadas en los del segundo grupo a menudo emplean una mezcla de ambos criterios a la hora de predecir. El primer caso se fundamenta en los comportamientos previos de una determinada criptomoneda. Por ejemplo, si se ha observado que en el pasado una criptomoneda tiene una sucesión de subidas y bajadas y tras ella se produce una subida la predicción recomendará invertir. Esto tiene un inconveniente ya señalado, que es la imposibilidad de predecir comportamientos nuevos, cambios en el contexto o cisnes negros. Para paliar esta circunstancia surgen las fuentes de información del segundo tipo basadas en el análisis de sentimientos. La intención manifiesta de algunas organizaciones, como Augur, es intentar hacerlo mediante Inteligencia colectiva (Fast, 2016). Augur funciona como un mercado de apuestas de grandes dimensiones donde recopila las inversiones que hacen todos sus afiliados, ya sea en criptomonedas ya sea en cualquier otra cuestión. En función de esas tomas de decisiones colectivas realiza sus pronósticos bajo la premisa que lo que se decide por un colectivo muy amplio tiene más posibilidades de acertar que aquello que decide un grupo reducido de expertos. Augur trata de representar de este modo una intencionalidad colectiva. Este tipo de comportamientos se sabe que no tienen por qué ser de todos modos buenos predictores pues son el fundamento de, por ejemplo, las burbujas económicas. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 268 Senno realiza esta función de una forma más indirecta: revisando los contenidos de las numerosas fuentes que tiene Internet y extrayendo cuáles son las tendencias (Singh M. P., 1993). Herramientas de análisis como las de la red social Twitter o Google permiten averiguar estas tendencias, pero Senno busca emplear distintas fuentes especializadas y realizar prospecciones en el lenguaje empleado más detalladas. Mediante esta técnica Senno busca descubrir un cisne negro antes de qué suceda o un cambio de contexto, como por ejemplo si alguien está tratando de lanzar una nueva criptomoneda o se está preparando un determinado evento político que pudiera afectar a las inversiones. Esta tecnología hoy en día sin embargo no está suficientemente madura, pero es una tendencia. La Inteligencia Artificial trata de averiguar cuál es el espíritu de un colectivo social y trasladarlo a una opinión que posibilite guiar una inversión. Choca sin embargo con frecuencia con el “Frame Problem” para poder ubicar una conversación en un contexto, como en otros casos ya expuestos, pero ejemplifica qué es lo que se pretende con ella. Hay otro punto de unión en esto con la tecnología que soporta las criptomonedas: las cadenas de bloques. Las cadenas de bloques están demostrando una gran eficacia no solamente en las criptomonedas sino en todo aquello que implique una autoridad de confianza centralizada. La propiedad horizontal por ejemplo está asociada a un ciudadano debido a que existe en los estados modernos un registro que garantiza, y en el que la sociedad acepta y confía, que esa propiedad pertenece realmente a quien dice que pertenece. Las cadenas de bloques hacen que esto no necesite ya centralizarse en una determinada autoridad si no que el registro que estas autoridades tradicionalmente custodian pasa a estar dividido en estos bloques, y repartidos a lo largo de una red de ciudadanos. De esta forma es la red de ciudadanos la que garantiza la veracidad o no de un Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 269 determinado elemento. Por ejemplo, en el caso de criptomonedas no es una entidad centralizada la que asegura si un ciudadano posee una determinada cantidad o no, sino que es la red de ciudadanos participantes en la cadena de bloques de la criptomoneda en su conjunto la que así lo asegura. Esto se emplea también por ejemplo para asegurar los registros logísticos de un determinado producto y que este no sea robado o suplantado en ningún punto intermedio, dado que los elementos centralizados bajo una autoridad única pueden caer en la corrupción y en el abuso de poder. La cadena de bloques, a depender de todos los participantes, supondría una medida adicional contra esto. Estas cadenas de bloques tienen su utilidad en el mundo de la Inteligencia Artificial también para el entrenamiento de estas y evitar el ya mencionado envenenamiento de datos: qué ocurre si se entrena a los algoritmos con datos que los hacen tomar malas decisiones. Las cadenas de bloques se emplean como una garantía de que los proveedores de datos son legítimos y si alguien malicioso trata de introducir datos erróneos se bloquea el proceso de entrenamiento. Si la Inteligencia Artificial canaliza los datos de un colectivo las cadenas de bloques dan fe de la legitimidad de sus miembros. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 276 Más adelante las Redes Sociales imitaron esta misma dinámica: nos recomendaban a quién seguir, con quién interactuar y encontrar los contenidos que más se ajustaran a nosotros (Tang, 2016). Se produce una adaptación de la Teoría de la Relevancia al uso en que se ejerce la comunicación en Internet: se trata de comunicar aspectos relevantes y, para decidir lo que es relevante para cada persona, se emplean sus datos. La Inteligencia Artificial se comporta aquí pues como un interfaz hacia Internet. Nuestro cerebro humano evolucionó para adaptarse a los múltiples contextos del mundo físico y se adaptó, para maximizar nuestro consumo energético (y por tanto económico) en la naturaleza tal y como estudiamos indicaba Baer. De ahí surgen como observamos las preconcepciones y las intuiciones, pero también la capacidad para desenvolverse con una eficiencia tal que garantice la supervivencia en un universo contextual casi infinito y computacionalmente, hoy en día, inviable. A costa de fallar en la precisión de muchas informaciones. El Universo de Internet y su enorme volumen de información, virtualmente toda la del Mundo, requería para poder interactuar con él de otras interfaces o de una Inteligencia que no funcionase, precisamente, como la nuestra. Debía ser estrecha (“narrow”) según la terminología de Searle, pero mucho más eficiente manejando cantidades enormes de información para, a partir de ahí, encontrar la relevancia. La Teoría de la Relevancia lingüística, y lo lingüístico es al final de lo que se compone la mayor parte de Internet, como vemos analiza ese contexto de la comunicación, la pragmática, de Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 277 la que se deriva el “Frame Problem” que Dreyfus veía insalvable a inicios del siglo XXI. Sin embargo mediante la acumulación de datos personales y las preferencias de búsqueda y selección asociadas a los usuarios aparte de finalizar con el anonimato de Internet, otro de los problemas que denunciaba Dreyfus en esa "prehistoria de Internet" hace 20 años, se mostraron finalmente eficientes y al igual que sucede con la evolución y su economía energética, que posibilita la permanencia en el Universo de cambios y amenazas en los que se desenvuelve, la economía humana de los beneficios posibilitó finalmente el mantenimiento, por ahora, de este tipo de Inteligencia Artificial estrecha. Se debió elegir o bien perder capacidad de explotar toda la información de Internet o bien hacerlo, pero de manera mediada conforme a los criterios que los intermediarios consideraban se ajustaban mejor a nuestros intereses y preferencias, en base al histórico de nuestro uso, de manera que al realizar también esa misma preferencia y personalización se pudiera comercializar para hacer la infraestructura sostenible. Al aceptar usar estos servicios, esta mediación, estaríamos igualmente aceptando esta comercialización, incluso de datos que en principio no tendrían que ver con el objetivo del uso de la herramienta. La solución basada en la Inteligencia Artificial no terminó de solucionar estos problemas, salvo quizás el primero proporcionando una información que, al usuario, conforme a su historial, parece serle relevante, pero a cambio se generaron otros nuevos: la etiquetación y clasificación de mi subjetividad conforme a un histórico de mi información, de mi huella digital, y el filtro burbuja, una forma derivada de la intermediación de la Inteligencia Artificial con Internet. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 278 En ese tránsito entre el "prehistórico" Internet de principios de siglo XXI y el actual se produjeron estos desajustes y filtraciones de datos que llevaron, por un lado, a la regulación europea GDPR y como, lección aprendida tras esto, al desarrollo de los códigos éticos de Inteligencia Artificial en curso. Estos códigos éticos realizan aquí un doble enfoque: por un lado, el respeto a la intimidad de las personas en tanto en cuanto se utilizan estos datos. Por otro, las necesidades de seguridad que eviten su robo o desvirtúen su utilización. Si la acumulación se produjera en sí, sin objetivo alguno, podríamos entender que no se produce esos problemas, pero no es el caso porque dicha acumulación de información obviamente persigue unos fines, va seguida de una acción que puede ser de tipo estratégico. Esto puede ser para comercializar un determinado perfil o para suministrarme una serie de búsquedas, relacionadas con la curiosidad intelectual o informativa (Google), social (Redes sociales), de compra (Amazon), Musical (Spotify), laboral (LinkedIn/Microsoft) ... Por supuesto, también política. Otra derivada en torno a la privacidad y la Inteligencia Artificial es el reconocimiento facial. Por cuestiones de seguridad sistemas de videovigilancia se instalan en China, Brasil y otros países. La Inteligencia Artificial puede reconocer al individuo, grabar sus movimientos y mantenerse informando sobre su ubicación. Se trata de otro factor vinculado al reconocimiento de patrones, en este caso, los que componen nuestro rostro y fenotipo. La Unión Europea y las principales compañías se han posicionado críticamente acerca del uso de la Inteligencia Artificial en el reconocimiento facial (Rezende, 2020). IBM debido a problemas para interpretar el reconocimiento facial que derivaban en las preconcepciones y prejuicios a la hora de tomar Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 279 decisiones abandonó este tipo de programas en la fecha en la que se escribe esta tesis, seguida también por Microsoft y Facebook (Marks, 2021). El reconocimiento facial forma parte del fenómeno en el cual la Inteligencia Artificial, surgida para clasificar la información del mundo semiótico de Internet, colonizándolo, penetra también en el mundo físico mediante el Internet de las Cosas. Parámetros biométricos como nuestro rostro u otros (datos clínicos mediante sensores por ejemplo) o nuestra voz pueden ser percibidos por una Inteligencia Artificial y tomar decisiones al respecto. En el caso más extremo pueden ser emulados. Son los llamados “Deep Fakes” en los cuales una máquina puede hablar con la voz de otra persona e incluso crear un vídeo que nunca ha existido de un personaje con su rostro. Existe la posibilidad de combinar de hecho varias imágenes, o voces, para crear un rostro nuevo de una persona que no existe o una voz (Silbey, 2018). Esta particularidad recuerda a los postulados de Parfit, ya mencionados sobre la identidad, en el cual las células del cerebro de dos o más personas se van mezclado poco a poco hasta el grado de cuestionar nuestra “conexividad” psicológica, en términos de Parfit, que define nuestra identidad. El caso expuesto por Parfit a nivel biológico no es viable técnicamente hoy en día, pero a nivel “virtual” ya es posible. Una imagen nuestra, de nuestro rostro, máxima definición de nuestra identidad se ve alterada y mezclada con el de otra persona hasta que puede costar el punto de definir cuándo dejamos de "ser nosotros", que deja de ser nuestra imagen. Es un caso similar al que pasaba con las creaciones artísticas cuando se empleaban para crear a su vez otras obras. Esto ha dado lugar a situaciones conflictivas como cuando se empleó la imagen del político español Gaspar Llamazares para crear una imagen que hiciera identificable al terrorista Osama bin Laden Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 280 (Silbey, 2018). Sin duda esta información podría emplearse para ayudarme a hacer mejores búsquedas en Internet, pero desde luego debemos poder ponderar los pros y los contras de una forma reflexiva y simétrica. Aunque de manera automatizada y, en principio, sin que ningún otro ser humano pueda acceder a lo que hacemos, por qué ubicaciones ha transitado nuestro rostro grabado por una videocámara, sobre qué temas me gusta hablar por teléfono o qué mensajes envío a mi familia, pareja, amigos y compañeros de trabajo pueden ser, y son, empleados para construir estos perfiles que en principio nos ayuden a clasificar la información de Internet de una forma más ajustada a nuestras necesidades. Esto siempre con el objetivo teórico de no hacernos perder el tiempo en el mar de confusión de Internet y permitirnos ver el mundo de la forma más acorde a nuestra cosmovisión. Este material puesto en circulación en los espacios públicos digitales mediante las técnicas arriba expuestas puede ser desestabilizador, especialmente en momentos de campañas electorales o similares (Chesney, 2019). No se trata únicamente de procesamiento de lenguaje natural, sino creación de imágenes y discursos, de voces, que dan la sensación de sucesos y declaraciones que nunca han pasado. Se corre el riesgo de que en “nuestra interfaz con el mundo” se presente como real información que nunca sucedió, amoldada además a nuestras creencias y gustos particulares en base a un filtro burbuja. Para ello se plantea el uso como defensa ante esto de nuevas técnicas también de Inteligencia Artificial que permitan detectar y validar de manera automática el contenido ficticio (Nguyen, 2019) Sin embargo, ¿quién vigila al vigilante? ¿Quién decide qué es real y qué no? Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 281 (Boididou, 2014) (Rodríguez Pérez, 2020) Quién debe asumir este rol es otro desafío ético más al que nos somete las nuevas tecnologías vinculadas a la Inteligencia Artificial. Al estar sustituido nuestro “interfaz con el mundo” por una pantalla digital, o, más recientemente, por una voz en la que ni si quiera hay que poner el foco visual, puede tener impacto en lo que entendemos por real. Lo analizaremos en un capítulo aparte centrado en el impacto de la Inteligencia Artificial en la adquisición de conocimiento. Como conclusión de este capítulo podemos considerar que, por un lado, la protección a la privacidad y sobre el uso de los datos ya está consensuada y regulada, en el caso europeo por la GDPR. Por otro lado, nuestros datos pueden categorizarse, como todo lo que realiza la Inteligencia Artificial, pero estas categorizaciones por un lado pueden dar lugar a errores, con base al “Frame Problem” y al problema de sacar conclusiones procedentes de los datos que ya trató Husserl. Finalmente, el uso de nuestra información personal se emplea para actuar, al mismo tiempo, con la visión que nosotros tenemos del Mundo a través de los interfaces digitales. En este último caso porque hay que clasificar cómo se nos presenta la información. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 282 3.6 Impacto sobre la identidad y la percepción del mundo La Inteligencia Artificial tiene, además, una forma diferente de comportarse con respecto al "mundo subjetivo", particularmente de la memoria. Las personas tenemos una memoria falible en la cual nuestros recuerdos constantemente se reinventan (Parfit, 2004). Nuestra autopercepción tiene esta base. En Internet lo que se percibe y graba es potencialmente para siempre. Ante las consecuencias de este comportamiento el derecho al olvido surgió en la Unión Europea como respuesta (Mieres, 2014). Las líneas de tiempo de las redes sociales crean un histórico de nuestra vida, una memoria paralela (“self-monitoring”) (Vikanda, 2018). Recientemente una funcionalidad de recuerdos se ofrece en algunas de ellas haciendo que reaparezcan determinados contenidos. Es una costumbre también de los blogs, o micro blogs, que sus usuarios sitúen en ellos sus pensamientos diarios en una especie de diario de bitácora. Sucede que, dado la permanencia del formato de esta información, y el hecho de que sea pública, conlleva consecuencias para nuestra autopercepción y las relaciones con otros (Krasnova, 2009). Por ejemplo, es habitual hoy en día que reputaciones de personas públicas, o no, se puedan ver destruidas por comentarios antiguos, a veces sacados a la opinión pública fuera de contexto (Brandzaeg, 2018). La grabación permanente de toda la información que nosotros mismos dejamos sin ser en sí una violación de nuestra privacidad implica como, sin un contexto, terceros puedan interpretarnos de manera que no corresponda a la intención inicial de nuestra comunicación. Incluso nosotros mismos, con el paso del tiempo y la pérdida del contexto en la que un mensaje fue escrito, podemos encontrarnos a nosotros mismos extraños en un futuro (Brandzaeg, 2018). Aparece de nuevo los problemas de la comunicación y sus vínculos con el contexto. Nuestra memoria humana nos hace reinterpretar lo que pensábamos Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 283 en el pasado para darles una coherencia con el actual, en una narración lineal de nuestra vida. Sin embargo, la información que nosotros mismos dejamos de nosotros, al releerla, se comporta como una memoria paralela, sólida y permanente, a la de nuestra propia narración (Bartoletti, 2011). Ocurre una situación similar a la hora de relacionarnos con los otros. Si las relaciones con los otros son priorizadas por Inteligencia Artificial, como sucede actualmente en las redes sociales, en función de afinidades, nuestra percepción del mundo se distorsiona (Chen J. &., 2021) (Pariser, 2011). La Inteligencia Artificial, en este sentido, funcionaría como un concentrador (“hub”) de relaciones entre personas. Esto no excluye únicamente las relaciones personales, sino también profesionales para el caso de redes sociales especializadas en el ámbito profesional (Arroyo-Vázquez, 2009). Por un lado, potenciaría el sentimiento de pertenencia a comunidades en el marco de la identidad (Kaakinen, 2020) y las relaciones con nuestros afines. Por otro, puede generar aislamiento y estrechez de miras ante el diálogo con posturas opuestas (Baumann, 2020). La cuestión es si se debe proveer la información similar a nosotros, la que nos gusta o mostramos preferencia, o bien otro tipo de información. Y si es así cual, y quién decide cuál debe ser nuestra forma de acceder a la información, nuestra ventana al mundo, o con quién debemos relacionarnos. En base a qué patrones. La Inteligencia Artificial en tanto en cuanto se use la red como forma de comunicación, y cada vez es más habitual emplear la pantalla digital para comunicarse tanto en lo profesional, como lo familiar, como en el espacio público, funcionaría de este modo como un distorsionador de las relaciones de los individuos y sus relaciones e influencias unos con los otros (Eirinaki, 2018). A quién comunico y de quién recibo información. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 284 Como vimos en el capítulo anterior, partimos de la base de un desarrollo de Internet donde al principio hay una cantidad descomunal de datos para los que el cerebro humano, evolucionado en el mundo físico, no es capaz de acceder con un orden o una prioridad. Ya no se trata pues de una plataforma de comunicación sino de una plataforma inabarcable para el ser humano, un magma de datos, en su versión de la “World Wide Web”. Para organizar este magma de datos surgen los buscadores y las plataformas, donde los buscadores actúan en el ámbito general y las plataformas se especializan en la organización de la información por temáticas, desde las compras minoristas como Amazon pasando por el turismo, el mercado de trabajo o las relaciones personales como el caso de las redes sociales. Para lograr clasificar esa información y que se ajuste a cada persona, desde estos buscadores y plataformas se desarrolla la Inteligencia Artificial que lo que hace es aprender del comportamiento de cada usuario y hacer dos cosas: crear un perfil conforme a su histórico y proporcionar una presentación del mundo conforme a ese perfil. De la creación del perfil surge el problema, entre otros, de la privacidad ya mencionado en tanto en cuanto por un lado es comercializado a terceros y, en general la pérdida del control de todos mis datos incluyendo los de la esfera personal y subjetiva que van desde mis conversaciones y mensajes con los más allegados, mis pensamientos y experiencias personales o mis parámetros biométricos. Por otro, tiene efectos debido a la memoria “sólida” y permanente en la que se basa Internet y la Inteligencia Artificial. Esto además se combina con el problema de las preconcepciones y las deficiencias de la Inteligencia Artificial para interpretar contextos. El segundo problema es el derivado de que nuestro empleo del mundo de la vida, al menos en parte, se lleve a cabo de manera mediada por Inteligencia Artificial. Parafraseando a Etxeberría, de alguna manera esta intermediación se comporta como la caverna de Platón: existe un Internet Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 285 casi infinito, pero percibimos sólo las sombras proyectadas de esa realidad a la luz de la Inteligencia Artificial (Etxeberría, 2008). Este fenómeno de la personalización de la información es el bautizado por Eli Parisier como filtro burbuja (Pariser, 2011), que se basa en mostrar información publicitaria o priorizar el contenido de búsqueda de los usuarios tanto por buscadores (Google) como por redes sociales en base al perfil que de ellos ha sido creado. Mediante el “Machine Learning” alimentado con estos datos se potencia el efecto. La priorización de contenidos a automatizada puede conocer que en base a las decisiones A, B y C del pasado, al ciudadano le gusta cenar, por ejemplo, X o Y los martes por la tarde. De este modo puede facilitar, todos los martes por la tarde, una sugerencia gastronómica (Ismoilov, 2010). Los filtros burbuja tienen la particularidad de funcionar como “cajas de eco”, de forma que refuerzan el pensamiento o los gustos que una persona ya tiene al recibir una y otra vez el mismo estímulo (Cinelli, 2021). Más aun, de acuerdo con Parisier, dificultan la diversidad de ideas o el recibir de otras influencias. Limitan, en resumen, el mundo del ciudadano. Considerando que cada vez más horas el interfaz con el mundo se tiene a través de pantallas digitales, estos filtros burbuja modulan la forma de relacionarse y percibir del ciudadano el mundo (Gottron, 2016). El empleo del procesamiento de lenguaje natural como técnica en el marco de la Inteligencia Artificial hace también que el interfaz pase a ser la voz. Ya no hace falta fijar la mirada en una superficie limitada a unas pulgadas, sino que nuestra forma de relacionarnos con Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 292 existencia de un cuerpo parece más sencillo como ocurría con el caso del robot desactivador de minas para el que sus compañeros humanos pidieron una medalla (Turner, 2018), el caso de niños en escuelas infantiles de California donde desarrollaban empatía hacia un juguete robot (Tanaka, 2007) o nuestra relación actual con vehículos y mascotas (Gellers, 2021). Las obras de arte son objetos a los que el ser humano les damos un valor emocional incalculable y cuya protección y conservación goza de legislación especial. Una Inteligencia Artificial, sobre todo si participó en los principales hitos de la disciplina, podría tener una consideración de este tipo como en el caso de Deep Blue al ser la primera en lograr el hito de vencer a un campeón mundial de ajedrez (Gellers, 2021). Otro caso peculiar son las Inteligencias Artificiales oráculo. Son Inteligencias Artificiales cuya única capacidad es la de simular locuciones, siguiendo la terminología de Austin. En lugar de mostrar una serie, enorme, de resultados como hace Google, como se comportan es respondiendo a una determinada pregunta que introducimos en ese buscador. ChatGPT podría considerarse una Inteligencia Artificial de este tipo. Una cuestión de cultura general o sobre un determinado dato concreto. Esto igualmente y sólo de por sí tiene muchas implicaciones. Puede tener un carácter epistemológico reducido, como nos sucede con Wikipedia que, en el dominio común, y por supuesto, académico, no es considerado una fuente de peso, pero esto no quita que su uso sea popular y generalizado. Es importante además por la posibilidad de que pueda dar unos contenidos que sean incluso ilegales. El caso del “Bot” Tay de Microsoft (Neff, 2016) aprendió a raíz de “tweets” y debió ser desconectado a las pocas horas debido a que sus comentarios propagaban el odio. En este caso se observaron las consecuencias de dejar aprender a una Inteligencia Artificial sin reglas, en virtud de lo que percibe de los propios usuarios. Si se Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 293 pretendiera que ofreciera equivalentes a actos locutivos, postulase verdades objetivas o intersubjetivas, el modelo podría ser propenso al fallo. Hay una diferencia fundamental con la interactuación textual y oral. Para proceder a la conversación textual con un “Bot” hay que recurrir a una pantalla y un teclado, a un computador. Al hacerlo seguimos el ritual de conectarnos a “lo virtual”, un hecho al que estamos acostumbrados desde finales del siglo XX. En soledad, nos situamos junto a un dispositivo y nuestro foco de atención se sitúa en una pantalla de cristal líquido, en la que procedemos a percibir y a mandar mensajes textuales con nuestros datos. Conectamos con Internet mediante la atención de nuestros ojos, y de nuestras manos, sobreponiendo a nuestro flujo de entrada y salida de información, mayoritario a nuestros cuerpos en ese momento, sobre la máquina y esta a su vez nos conecta con ese maremágnum de ideas de Internet, en la que somos guiados por el lazarillo de la Inteligencia Artificial. Al viajar por este mundo en el que nuestro cerebro es “ciego”, la Inteligencia Artificial nos señala lo que considera que deseamos ver, conforme a nuestro comportamiento previo u otras acciones de terceros, y mientras tanto se detectan y comercializan nuestros datos en una relación que llevada a la licencia literaria recuerda al clásico de la literatura española del Lazarillo de Tormes. Pero al hacer este ritual de abrir nuestro dispositivo, poner los dedos sobre él y prestar el foco de nuestra atención a su pantalla, sabemos que conectamos los flujos por los que enviamos y recibimos información al mismo, y que voluntariamente nos retiramos del mundo convencional donde mientras tanto pueden estar sucediendo otras cosas. La voz, como señala Antonio Rodríguez de las Heras (de las Heras Pérez, 2019), rompe esta dinámica. La Inteligencia Artificial aquí penetra nuestro mundo físico convencional. Ya no es necesario conectar nuestros dedos, a modo de flujo de entrada de información, a un Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 294 dispositivo ni tener que situar nuestro foco visual contra un objeto, aislándonos de todo lo demás. Basta con lanzar un acto de habla al aire y escuchar la respuesta de forma análoga a como lo hacemos con otros seres humanos. Se trataría de una colonización del mundo de la vida habitual llevada a cabo por la Inteligencia Artificial a la manera del Internet de las Cosas, y ya no sólo de esa colonización de Internet. El Internet de las Cosas tendría más que de Cosas enviando datos a Internet, como las personas, del proceso contrario: Internet y lo verbal avanzando hacia “lo físico”. En nuestra vida cotidiana la Inteligencia Artificial “escucha”, y también “ve”, lo que genera los problemas relacionados con la privacidad vistos anteriormente. Nuestra información biométrica es, en todo momento que técnicamente sea posible, perceptible y clasificable. Recientemente, las principales compañías han dejado de llevar a cabo sus comercializaciones de reconocimiento facial por los problemas de prejuicios que podían generar derivados del “Frame Problem” pues, en todo esto además no debemos olvidar que la Inteligencia Artificial falla mucho en realidad a la hora de entender lo que sucede o expresamos (Klein, 2020). De una Inteligencia Artificial oráculo con capacidad de responder a este tipo de preguntas, por voz, en la que no es necesario tanto una información contextual como la capacidad de enlazar preguntas y respuestas, lo que puede lograrse con mero poder de cómputo, estaríamos envueltos gracias al reconocimiento de voz. Podemos extrapolar lo sucedido en el empleo de Internet con respecto a estas tecnologías. El acceso a información general, datos de la realidad, empíricos, puede suponer algo neutro más allá del hecho de delegar determinadas habilidades en la máquina de manera en que como Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 295 actualmente llevamos a cabo con nuestros dispositivos móviles: problemas de memoria, de habilidades de cálculo, de orientación en mapas o de atención. Son problemas relevantes y es una cuestión que actualmente ya se da en esta tendencia a delegar en la máquina: cuando algo supone un ahorro de energía o de esfuerzo rápidamente se rechaza el continuar trabajando así y se decide poner la energía del hombre en otras direcciones, hacia esas cosas que no son delegables en una máquina, conforme al problema de definición de la Inteligencia que vimos en la primera parte de esta tesis. Esta cuestión por ejemplo nos afecta también a la educación acerca de cómo se plantean alternativas a la educación tradicional en tanto en cuanto la información general, el dato o la capacidad de cómputo residen ya en máquinas y, en su lugar, otras habilidades parecen tornarse más cruciales como las de convencer, trabajar en equipo, gestionar un proyecto o buscar un documento, encontrar su relevancia y saber desarrollar y argumentar una postura en base al mismo (Wang Y. , 2020). Conviene destacar sin embargo que, cuando un interfaz de voz, Alexa, Siri o Google Echo, interactúa con nosotros y nosotros con él, mediante estos actos de habla adaptados y matizados, no nos comunicamos en realidad con un dispositivo. El dispositivo no es más que un interfaz. La comunicación, esa unión de palabras que definía Searle en su habitación china, se realiza en una “cloud” cuya ubicación es desconocida y cambiante. Sucede en uno o muchos lugares al mismo tiempo, pero no cerca nuestra sino a quizás cientos de kilómetros de donde nos encontramos. El siguiente mensaje que expresamos puede estar siendo procesado en otro lugar cualquiera. La inmediatez de la transmisión electromagnética hace que nos dé la sensación de que sea ese pequeño dispositivo, o nuestro terminal móvil, el que interactúa con nosotros. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 296 Para un bebé o un niño pequeño interactuar así con la Inteligencia Artificial se vuelve natural. Bebés que todavía no hablan son capaces de interactuar con sus gestos ante una Inteligencia Artificial de un filtro de Snapchat y mover su cara y hacer gestos porque les llama la atención como al otro lado de la pantalla se reproduce su comportamiento con colores llamativos (Yadav, 2020). Para un niño pequeño dirigirse a Alexa, o al buscador de Google, mediante un mensaje oral es algo que entiende de manera natural y no distingue de la forma de dirigirse a sus juguetes, a un amigo imaginario o a un familiar: emula el comportamiento de los familiares. Con la Inteligencia Artificial colonizando el mundo físico y mediante esa ruptura que supone el interfaz de voz en lo binario entre físico y digital, nos encontraremos en ese mismo escenario. Si bien las sugerencias de la Inteligencia Artificial oráculo nos influenciarán no significará que necesariamente desaparezcan otros ámbitos y otras posibilidades de experiencias. Pero sí implica interfaces hacia lo semiótico que serán potencialmente omniscientes. Las tecnologías, los usos y las modas se solapan y no se destruyen del todo. El cine y el teléfono llevan existiendo más de cien años. Se readaptan y transforman conforme el contexto social y cultural pero pocas tecnologías aniquilan todo lo anterior. Hasta el correo postal, aunque minoritario persiste y se sigue trabajando en la agricultura, aunque de otras maneras. Algunas tecnologías duran poco en el mercado como el Fax, pero, aunque su uso no sea popular mantienen su cabida en determinadas situaciones. Aspectos determinantes para nuestra vida se buscarán mediante consultas a la Inteligencia Artificial oráculo tal y como ahora lo hacemos mediante buscadores o las redes sociales. Pero eso probablemente se sume a los estilos de vida existentes y producirá cierta hibridación, más que producirse una aniquilación completa. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 297 Es cierto que cuando automatizamos algo y lo delegamos el público general no suele volver atrás, como ocurría con el ejemplo que poníamos de la calculadora o las enciclopedias. Actividades cerebrales se delegan. Pero eso no significa que no existan hoy en día eruditos o que los ingenieros y los físicos hayan dejado de saber calcular. Con las tareas de búsqueda sucedería parecido: la intermediación para comprar, para insertarse en el mercado laboral o para la búsqueda de amigos o pareja se delegará en mayor o menor medida en lo virtual, pero sin que esto signifique la destrucción de los modelos anteriores o la imposibilidad del acceso a los mismos. La interactuación directa permite aumentar los problemas vistos con anterioridad al facilitar el acceso a Internet al mismo tiempo que, en determinadas situaciones como señala David Gunkel, puede darse lugar al engaño de no saber que con quien se interactúa no es realmente un ser humano. En este último caso sin embargo sucede constantemente, como hemos venido analizando, que la comunicación entre dos seres humanos se ve intermediada por una Inteligencia Artificial sin ser en ocasiones conscientes de este hecho. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 298 3.8 Las decisiones destructivas sobre el mundo físico-objetivo de la Inteligencia Artificial Si en capítulos anteriores observamos como la Inteligencia Artificial colisionaba con el mundo de las creaciones artísticas e intelectuales y en el capítulo de las preconcepciones sobre las relaciones intersubjetivas, en este veremos cómo afecta al mundo objetivo, en el sentido de Popper, y al margen de Internet. Por eso la adenda del término físico al de objetivo, prescindiendo en esta ocasión de los aspectos verbales mencionados con anterioridad. En este contexto el caso más popular en los últimos años es el del coche autónomo. El dilema del coche autónomo es una variación del dilema del tranvía aplicada a la Inteligencia Artificial a cargo de vehículos y es de los ejemplos más habituales sobre las cuestiones éticas de la nueva tecnología (Li J. Z., 2016) (Greene, 2016) (Deng, The robot's dilemma, 2015). Como es sabido, el problema del tranvía consiste en tomar una decisión acerca de si mover la palanca del cambio de vía y con ello matar a un número inferior de personas a las que morirían sino se aplicara cambio alguno. En el caso de un vehículo autónomo conducido por Inteligencia Artificial la cuestión surge a propósito de cómo debe decidir el automatismo entre dos males cuando dañan a personas, en el caso más extremo con resultado mortal. Una vez una máquina aprende de su entorno y toma decisiones se abre la cuestión de quién es responsable ante los perjuicios contra la vida de las personas o sus bienes de la toma de decisiones de dichas máquinas. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 299 Se habla con el ejemplo de los vehículos autónomos por su presencia mediática, pero puede considerarse igualmente el caso para cualquier sistema industrial autónomo guiado por Inteligencia Artificial. Como señala Jacob Turner no es, sin embargo, un caso nuevo en la Historia de la Humanidad (Turner, 2018). Existían en el pasado precedentes de vehículos inteligentes y autónomos que ante una determinada decisión podía costar la vida de personas: los caballos. Cita el ejemplo del juez Easterbrook en los Estados Unidos que consideraba que crear ciber leyes para regular Internet era tan absurdo como crear un código separado como la Ley del Caballo. En algunos sistemas jurídicos el daño causado por el caballo era responsabilidad del caballo, en otra responsabilidad del propio dueño. En muchas ocasiones esta deliberación debe ser llevada a cabo por un juez. Existe sin embargo una diferencia fundamental: mientras que el caballo dispone de un cierto grado de autonomía impredecible, la Inteligencia Artificial tiene predictibilidad o puede diseñarse conforme a un criterio humano. Aún más, de acuerdo con los códigos éticos se pide trazabilidad en la toma de decisiones. Existe la posibilidad de imputar la responsabilidad de las Inteligencias Artificiales a sus usuarios/propietarios. En el caso del coche autónomo al dueño del vehículo a la manera de estos códigos sobre la propiedad de los animales en que el dueño fuera responsable de los daños que pueda causar. Si cada cual es responsable de las Inteligencias Artificiales que adquiere parece que puede velar por no crear riesgos y esto redundaría en beneficio de todos. Sin embargo, no es factible que el usuario pueda ejercer el mismo control o formación sobre una máquina basada en la Inteligencia Artificial que en la de un animal o decida responsabilizarse del desarrollo de terceros. Después de todo a un animal doméstico, pongamos por caso un perro, es posible Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 300 mantenerlo controlado mediante algunas medidas, pero a priori no es posible evitar que un coche autónomo tome la decisión ante una emergencia de atropellar a varios peatones. La Inteligencia Artificial, al menos en el corto plazo, no parece vaya a ser consciente de sufrimiento alguno por lo que los métodos punitivos sobre la misma se convierten en algo absurdo. Si bien no son ni animales ni seres sintientes tampoco podemos considerarlas artificios convencionales. De quién es pues la responsabilidad de dicho daño: ¿del desarrollador de la Inteligencia Artificial, del dueño de ésta, del que le enseñó la actuación en el caso de que se tratase del sistema industrial del que hablamos con anterioridad o de nadie y se trata de un caso de fuerza mayor? Conviene revisar bien lo sucedido para lo cual conocimiento técnico de la toma de decisiones será necesario. Esto choca de nuevo con la transparencia, criterios y visibilidad de los algoritmos e incluso de la capacidad técnica para interpretar las causas de la toma de decisiones, una constante en la mayoría de los códigos éticos. Sin esta posibilidad de transparencia para interpretar lo sucedido ante una toma de decisiones con resultado mortal es complicado, por un lado, hacer justicia si procediese y, por el otro, impulsar la mejora en los desarrollos de la tecnología. Por otro lado, ¿cómo demostrar (especialmente la víctima) que el producto es defectuoso, si ha sido el caso, y ha provocado un accidente? La empresa puede ampararse en la fuerza mayor o incluso que el afectado puede estar teniendo un comportamiento incorrecto que provoca, de algún modo, el recibir un impacto negativo desde la Inteligencia Artificial. ¿Podría cualquier Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 301 particular costear a los ingenieros y matemáticos capaces de demostrar que la Inteligencia Artificial actuó mal? Genera de alguna forma desigualdad e indefensión. La cobertura de seguros de responsabilidad a la hora de emplear este tipo de tecnología de acuerdo con los planteamientos del Parlamento Europeo parece necesaria, quizás de forma similar a los procedimientos que ya se siguen ante situaciones de fuerza mayor como catástrofes o emergencias. Se habla de la necesidad de constitucionalizar jurídicamente aspectos de la Inteligencia Artificial y llegar a algún consenso social (Celeste, 2019). En Alemania el BMVI, el Ministerio del Transporte Alemán, llevó a cabo unas guías éticas que deben seguirse para el caso de los vehículos autónomos y llevar a cabo la toma de decisiones del dilema del tranvía: a quien debe elegir el vehículo para atropellar en caso de un conflicto (Luetge, 2017). Lo que nos dice esta guía, alineada con los códigos éticos y la cuestión de los prejuicios, es que no se podrá aplicar ningún criterio basado en edad, género o características físicas o mentales. También compromete a los fabricantes a establecer mejoras permanentes. Otro planteamiento siguiendo la lógica de la libertad individual, que el mismo código de la BMVI dice proteger, es el que cada propietario del coche autónomo (persona física o jurídica) decida que ética aplicará su vehículo en todo caso. Esto lejos de favorecer el interés personal puede dar lugar a situaciones propias del dilema del prisionero en la cual, buscando mi propio interés, o el de, por ejemplo, mis hijos, hace que sea peor para la defensa de éste al seguir el resto de la sociedad un criterio similar. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 308 La BMVI establece que deberá existir un proceso de adquisición de datos, trazables, y destinados a realizar mejoras en el proceso de toma de decisiones y reconocimiento de contextos y situaciones. Este enfoque podría servir para tomar este tipo de cálculo de posibilidades y llevar a cabo una toma de decisiones que sea lo menos lesiva posible. Existe finalmente la posibilidad de un término medio entre las decisiones de la Inteligencia Artificial como “Actos de Dios” sin responsabilidad y la negligencia, que es, y esto sigue el principio de Abbott, no tomar ninguna decisión. Esto es lo que, de acuerdo con experimentos como el de la máquina moral del MIT (Award, 2018), llevan a cabo la mayoría de las personas cuando, en un escenario real, se ven obligados a tomar esa decisión, contrariamente a lo que expresan desde posiciones teóricas. El mover la palanca del tranvía te hace ser responsable de matar a una persona, mientras que la omisión hace sentir menos responsable de la muerte de las otras cinco (Guevara, 2021). Este era el punto de vista de la propia Foot, la creadora del dilema, con respecto a lo que trataba de explicar con el mismo: desde una perspectiva de la ética de la virtud el apretar el botón te hace ser partícipe de la muerte de una persona, mientras que, en el primer caso, se trataría de un dejar morir algo de algún modo cualitativamente inferior (Foot, 1967). Se evidencia más en casos extremos, como el del ejemplo teórico del conserje cuyos órganos son válidos para trasplantar a cinco personas y en donde se plantea si en tal caso es moral asesinarlo. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 309 De nuevo y una vez más siguiendo el principio de Abbott, ¿podría culparse a una persona de no tomar ninguna decisión cuando sucede un accidente? En el caso de un ser humano nos justifica el miedo. Si una Inteligencia Artificial simplemente no decide y quizás, desde esa óptica, la responsabilidad podría ser eximida: no se toma la decisión de quitar la vida de nadie por parte de ningún otro humano, se deja simplemente que un accidente, una desgracia, siga su curso. Si parece claro que la Inteligencia Artificial en sí no tiene responsabilidad alguna, tal y cómo mencionábamos al tratar la cuestión de la creatividad es perderse en juegos del lenguaje: juzgar a una Inteligencia Artificial hoy sería tan absurdo como los juicios medievales a los animales. El planteamiento total combinado sería como sigue pues: la Inteligencia Artificial no corrige el rumbo de la física ante un accidente y “deja hacer” a la naturaleza. No toma ninguna decisión que pueda salvar un determinado número de vidas a costa de otras. El comportamiento coincide con el principio de Abbot al ser una decisión que en caso de accidente pudiera no hacer responsable moral del mismo al ser humano. Tal y como establece la legislación de Nueva Zelanda al ser las muertes provocadas por el actuar habitual de la física son considerados “Actos de Dios” de los cuales nadie se responsabiliza y las víctimas, o sus beneficiarios, son aseguradas. Las compañías tecnológicas tienen el aliciente de mejorar la seguridad de sus vehículos autónomos de una manera análoga a la que se realiza actualmente en la seguridad del mundo del motor, donde ha evolucionado muy rápidamente en los últimos años. Finalmente, tampoco se producen situaciones injustas en la manera de atropellar a la persona que había tomado medidas de seguridad y había sido previsora yendo por la acera con respecto a otras que, aun siendo más numerosas, estaban exponiendo sus vidas yendo por el carril contrario. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 310 En este último aspecto es interesante destacar como con base a Dreyfus es complicado para una Inteligencia Artificial decidir lo ético ante ese tipo de situaciones debido al “Frame Problem” ya mencionado. Un cálculo basado en las matemáticas morales es sencillo y alineado al consecuencialismo, un cálculo basado en esas situaciones de justicia conforme a un contexto con la tecnología actual no es viable. La carga de responsabilidad se pone también aquí en cada ciudadano el cual velará por su seguridad de forma similar a cómo se lleva hoy a cabo en la seguridad con los vehículos no autónomos. Podría dar lugar la situación consecuencialista del caso contrario a una paradoja: lo seguro pasaría a ser ir en grupos. Si yo cruzo la calle acompañado de 15 personas sería más seguro que si la cruzo solo, pero por el paso de cebra. Desde el punto de vista consecuencialista podría darse la paradoja, que ocurre con cierta frecuencia como nos indica Parfit en su Razones y Personas, en que esa decisión basada en el interés personal en el que debería ayudar a salvar más vidas a la larga genera un número mayor de estos problemas. Si por ejemplo se considera que en un mundo de coches autónomos se puede ser todo lo imprudente que se quiera porque la seguridad nos la garantiza el ir en grupo, podría darse el caso absurdo en que esto podría incentivar los grupos vialmente imprudentes y que indirectamente, a su vez, esto aumentara el número de siniestros. Ya hemos observado sin embargo que la ética de la virtud, en la que se apoyaba Foot, puede ser sin embargo no universal y cambiar con el paso del tiempo. La deontología kantiana cuando aborda el problema del tranvía, como señala Jarvis Thomson (Thomson, 1985), coincide Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 311 con Foot pero no desde la óptica de la ética de la virtud, sino del imperativo categórico y la importancia de los derechos individuales. En línea con este último enfoque la ética discursiva no nos da una solución a estas cuestiones, sino que se centra en el procedimiento. Lo que solicita es que para llegar a un grado de verdad sobre qué decisión tomar se debe de hacer mediante consenso. En Nueva Zelanda se consideran “Actos de Dios” de los cuales nadie es responsable mientras que en Alemania se responsabiliza al fabricante y se da directrices éticas. Llegado el caso, cada vehículo autónomo tendría que adaptarse a los principios de la región donde se encuentre y esto puede afectar a la universalidad. La crisis del Coronavirus nos muestra además una cuestión útil de cara a los consensos sociales y son los experimentos llevados a cabo mediante el velo de la ignorancia de Rawls: las personas de una mayor edad eligen sacrificar su vida para darles el respirador a alguien más joven mayoritariamente, sin saber si a ese caso van a alcanzar (Huang, 2021). El velo de la ignorancia y la reflexión que propone Rawls pueden ser un principio adecuado para profundizar en un consenso en torno al dilema del tranvía aplicado al coche autónomo. Como siempre que se trata la cuestión de los consensos habermasianos, y tal como señala los códigos éticos de la IEEE, generar un consenso genera problemas en primer lugar sobre quiénes han de ser los interlocutores (The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems, 2017). Al tratarse de una cuestión ética y no necesariamente legal, aunque entendemos que debería terminar derivando en ello, deberían formar parte de la Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 312 interlocución los colectivos afectados. Los sindicatos, fabricantes, consumidores, suministradores y empresas para el caso de sistemas autónomos industriales que puedan poner en peligro la vida de personas y quizás entidades similares para la cuestión de la edad, la discapacidad u otras cuestiones semejantes y relacionadas con los prejuicios que pudieran afectar a la toma de decisiones del coche autónomo. ¿Pero es un consenso universal viable? Realmente no todos los ciudadanos quizás estuvieran con él de acuerdo. El velo de la ignorancia de Rawls puede ayudar con este tipo de cuestiones. Si el dilema del tranvía se propusiera a siete personas sin que estas supieran que lugar van a ocupar probablemente consensuaran pulsar el botón por unanimidad ante la perspectiva de que es la forma más probable de satisfacer su interés de mantenerse con vida. Pero el velo de la ignorancia podría dar lugar a otras situaciones como nos ha mostrado la experiencia del Coronavirus. Si entre los siete hay una persona con una esperanza de vida limitada, por su avanzada edad o porque tiene una enfermedad crónica y mortal, podría tal vez romper con ese consenso y ofrecerse voluntaria. Este tipo de situaciones han tenido lugar en la reciente crisis. Sobre esta cuestión la ética discursiva y su vocación de consenso podría ser una solución, basada en la metodología de Rawls. Lejos de haber disputa entre las posiciones de ambos como se mostró en su debate hay también puntos de encuentro. Todavía es pronto, en el momento de escribirse esta tesis, para concluir sobre las consecuencias éticas provocadas por la pandemia del Coronavirus. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 313 Hay además otro aspecto relacionado con la tabla de Carneades: si es moral obligar al propietario de un coche autónomo a sacrificar su vida personal para salvar a otro u otros. Tomás de Aquino manifestaba que se actúa mediante una defensa propia y Hobbes opinaba que la prioridad de todo hombre y su principal derecho es el de defender su propia vida y que, en caso de que el Estado no tuviera el compromiso de protegerla, sería perfectamente lícito el romper su Contrato Social. En esto se fundamentan derechos como la no obligación de declarar en un juicio en contra de uno mismo. ¿Es ético pues que el Estado, conforme a una regulación sobre vehículos autónomos, considere que el propietario y ocupante de un vehículo autónomo es el que debe ser sacrificado para salvar la vida de otras cinco personas? El contrato social de Hobbes, como denunció Marx, contiene la asimetría en que no estamos en condiciones como individuos de rechazarlo. Podría suceder algo similar con el coche autónomo. Podríamos suponer que, una vez logrado ese consenso social, buscado por la ética discursiva y amparado por la metodología de Rawls, pudiera haber individuos que no están de acuerdo en asumir ese consenso. Aún más, podría darse el caso de individuos, propietarios de un vehículo autónomo, que no estuvieran de acuerdo con el “Acto de Dios” y dejar hacer, sino que expresamente quieren salvar su vida mediante su propiedad y que el vehículo atropelle a las otras cinco personas. Esto como hemos visto puede dar lugar al dilema del prisionero y cómo la vida de dichos individuos corre más peligro aplicando este criterio que mediante la regulación de la emergencia social. Pero aun así conforme a la filosofía moral de Aquino, Hobbes y Carneades, de alguna Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 314 manera también recogida por las diferentes constituciones democráticas, estaría en su derecho a en lo posible salvaguardar su propia vida. ¿Podría negarse a no participar en dicho consenso simplemente renunciando a su derecho de tener un coche autónomo? ¿Y si el mismo tuviera capacidad para desarrollar su propio coche autónomo, por una serie de razones, y decidiera bajarse de ese consenso programándolo de una manera tal que priorizara la salvación de su vida y la de su familia, sería moralmente reprochable? Si ese individuo, en virtud de su alta capacidad intelectual o amplios recursos económicos, puede elegir salvar su vida mediante ese tipo de coche autónomo especial, ¿sería injusto que otros a los que la naturaleza no les ha dado esas capacidades no pudieran? La deontología cuando se pasa al ámbito del derecho con pretensiones de universalidad puede ser contradictoria con la libertad individual. Sin embargo, para este caso el individuo desea emplear las carreteras públicas, el espacio público y pone mediante sus acciones en peligro la vida de los demás de una forma tal que no es recíproca ni tampoco simétrica en función de sus atributos intelectuales o económicos. Podría emplear ese vehículo en un circuito privado cerrado, si es su intención, sin problemas, pero decidiría hacerlo en el espacio público. Podría irse un paso más allá y considerar que debe prevalecer el derecho individual y la protección de la propia vida, aunque desde el punto de vista consecuencialista esto nos lleva a una mayor mortandad incluso vaya en prejuicio del interés individual. Se puede considerar que la injerencia del Estado en la vida y muerte de un individuo no es admisible mediante regulación y que, aunque fallecieran más individuos, es el precio que pagar por evitar esa barrera. Si a dicho enfoque se alcanza por consenso en el cual de alguna forma todos estén afectados puede ser una aproximación válida. El problema surge cómo hacer prevalecer ambas Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 315 posturas: entre los que desean que activamente se elimine a otros antes que al propietario mismo del vehículo y entre los que prefieren el menor número de muertos, o que no se tome decisión alguna, aun a costa del mismo propietario. Alguien que buscara el interés personal desde la perspectiva de las matemáticas morales lo tendría claro: en un mundo en que existe un consenso en torno a minimizar el número de muertes aun a costa del propio conductor yo quiero no participar de ello y procurar quedarme al margen y sin perder mi derecho a emplear coches autónomos con todas sus ventajas. Llevado al extremo de, y aun si esto se permite y si muchos más se suman a mi opción, aumentando y mucho mis posibilidades de muerte, “no me importa, pues considero que eso es más importante que dar al Estado el derecho a eliminar activamente mi vida por medio de una decisión regulada por la Inteligencia Artificial”. Ésta podría ser una posición y una argumentación contraria a la cuestión del empleo de la ética discursiva. Se puede ir un paso más allá argumentando que se está de acuerdo con la ética discursiva y la búsqueda de consensos comunes, pero que el conductor es “un firme defensor de la postura de Hobbes” así como del otro consenso que es el constitucional y que por tanto piensa que su vida personal es el mayor valor que tiene que defender, desde un punto de vista completamente ético, y que piensa posicionarse allí. Si es necesario hackeará o dedicará sus recursos a que su coche autónomo priorice su propia vida, aun en el escenario del dejar hacer. En otros aspectos el debate puede ser más claro sobre donde depositar la basura o las cuestiones económicas, pero en el problema del coche autónomo estamos hablando de la propia vida de uno, y argumentando el consenso de Habermas o de Rawls, eliminaría el derecho de uno mismo a defenderla. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 316 El defensor de este enfoque tampoco violaría el imperativo categórico necesariamente. Podría argumentar que está dispuesto a aceptar que los otros conductores se posicionen exactamente igual que él y que su norma fuera universal. Hablamos del consenso de Habermas y de Rawls entrando en colisión con la vida individual, en una situación máxima, pero que ocurriría con el dejar hacer. Lo que pediría este ciudadano sería que el desarrollador de la Inteligencia Artificial ya sea el mismo con sus recursos o el propio Estado, permitiese el atropello de otras personas para salvarse él mismo. Parece que de la misma manera que el Estado no debería permitir que un sistema tomase la decisión de matar a una persona propietaria del vehículo tampoco debería decidir que dicho sistema matase a otros ciudadanos, incluidos si están en número mayor, aunque el primero fuera propietario del sistema que tome dicha decisión. Pero ¿puede dejar hacer y si el propietario tiene esa capacidad, en base a sus recursos, que esto no sea punible y ni si quiera sea considerado éticamente reprochable? Volvamos al problema del tranvía y supongamos que es el conductor de este el que puede girar la palanca. Al final de los dos tramos de vía hay un muro, con el cual el tranvía chocará y el conductor irremediablemente morirá. La única forma de librarse es atropellando a las cinco personas, pues con sus cuerpos detendrán al tranvía y evitará que este choque contra el muro. La vía con un sólo cuerpo no es suficiente. Desde esta perspectiva, ¿es ético que el conductor del tranvía atropelle a las cinco personas? Se trata efectivamente del problema que planteara Carneades. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 317 La ética de la virtud de nuevo aquí no nos ayuda. Para algunas personas o culturas atropellar a muchos inocentes para salvarse uno mismo puede alejarnos de la virtud y que esto valga para considerarnos alguien inmoral. En el derecho penal la tabla de Carneades se contempla (Hruschka, 2004). Hay sin embargo un matiz y es el empleo de tecnología de Inteligencia Artificial para arrebatar, de manera automática, la vida de otros seres humanos en aras de proteger la suya. Esto viola los códigos éticos y entronca con la cuestión de los robots asesinos. La plataforma StopKillerRobots pide el cese de investigación de robots que deciden eliminar vidas de seres humanos de manera autónoma, especialmente pensados como arma de guerra (Carpenter, 2016). Investigaciones en esta línea se están llevando a cabo por parte de EE. UU., China, Rusia y Reino Unido, entre otros países (Haner, 2019). Esta tecnología podría ser equipada en drones, robots de tierra o misiles autodirigidos. Desde la Plataforma se solicita no desarrollar este tipo de tecnología y que se prohíba mediante leyes nacionales y tratados internacionales de forma similar a las armas biológicas y químicas. También evitar su proliferación. El argumento a favor de este tipo de armas es que, de nuevo, pueden salvar vidas. Si un comando terrorista o un batallón amenazan a una población civil o están cometiendo un crimen de lesa humanidad un argumento a favor es que la Inteligencia Artificial podría localizar quienes son los perpetradores y de manera autónoma, sin perder tiempo consultando a humanos y minimizando el riesgo de daños colaterales, eliminarlos. En el reciente conflicto Rusia-Ucrania Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 324 3.9 Desarrollo actual de legislación sobre Inteligencia Artificial a propósito de la ética discursiva Existe hoy en día una corriente de pensamiento generalizada acerca de problemas asociados a la Inteligencia Artificial y la necesidad de la regulación de ésta (van Assen, 2020). Hay innumerables ejemplos. Estudiamos cuales son las actuales iniciativas a nivel legislativo y de marcos éticos a nivel mundial y observemos cuáles son estos problemas. Comencemos por las legislativas. Desde el Senado de los Estados Unidos se propuso el desarrollo de un comité de asesoramiento con competencias sobre ética y observación en el impacto social por medio de la FUTURE of the Artificial Intelligence Act of 2017” de los EE. UU (GovTrack.tus, 2017). En ella se especifica en su sección 4 artículo b.1.d el propósito del desarrollo y entrenamiento ético del personal responsable del desarrollo de la Inteligencia Artificial de EE. UU. por parte de este comité de asesoramiento nombrado por el senado. Este comité, cuyo desarrollo legislativo se lleva a cabo ya en la administración Trump, procura tener un enfoque en donde se encuentren representados distintos colectivos afectados. En concreto lo componen 5 miembros de la comunidad académica e investigadora, 6 miembros de la industria, 6 de la sociedad civil de los cuales al menos 2 deben de proceder de grupos defensores de los derechos civiles y 2 representantes sindicales. Además, se compone de otros 9 miembros vinculados a los ministerios de los EE. UU. y organizaciones científicas y de estandarización (NIST). No hay presencia militar, pese al impacto que la ética tiene en este tipo de esferas. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 325 El comité sin embargo no se regula mediante consenso, sino mediante voto mayoritario. Se trata de un órgano cuya función es prestar asesoramiento al Senado y se busca su operatividad de cara al desarrollo legislativo. En Europa existe también una iniciativa similar. Se canaliza desde el “European Group on Ethics in Science and Technology” (EGE), grupo asesor de la Comisión Europea, que anima igualmente a la Comisión a plantear un debate amplio que incluya a la Academia y a la industria y a tratar de ponerse en la vanguardia mundial en la cuestión relativa a la Inteligencia Artificial y la ética. Este grupo se compone con 15 expertos, nombrados por el presidente de la Comisión Europea y cuya función es asesorar a la misma. Se especifica deben tender a la pluralidad, también territorial en el marco de la Unión Europea, y por supuesto serán expertos en la materia a tratar, que puede ser mucho más amplia que la del campo de la Inteligencia Artificial. Su función es asesorar a la Comisión (Palladino, 2021). En su composición se especifica que se buscará el consenso, si bien no es obligado y en caso de que no se alcance han de constar los votos particulares. Su función, al igual que ocurre con el de EE. UU., tiene que ser operativa de cara a prestar un servicio a la Comisión y puede tener tiempos de resolución acotados. En particular y desde el EGE se proponen una serie de mínimos a la hora de tratar la cuestión de la Inteligencia Artificial: a) La prevalencia de la dignidad humana, que incluye el hecho de no hacer creer a nadie que trata con un ser humano cuando en realidad lo hace con un robot. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 326 b) Los sistemas autónomos deberán tener la capacidad de ofrecer transparencia y predictibilidad en su toma de decisiones, pues su autonomía es en realidad delegada de la humana que debe de tener claro qué, cuándo y cuánto puede abarcar dicha autonomía. c) La responsabilidad a la hora de diseñar Inteligencia Artificial deben ser empleados y desarrollados de forma que beneficien a la sociedad y al bien del entorno en base a un proceso de deliberación democrática. Deben de contemplar pues la pluralidad de los derechos humanos fundamentales y sus valores. Tampoco deben poder lesionar de modo alguno a seres humanos ni engañarles u ocultarles información ni inducirles a engaño. Este apartado justifica bien la deliberación habermasiana a la hora de abordar las cuestiones de la Inteligencia Artificial. d) Los principios de justicia, equidad y solidaridad. Se persigue que la Inteligencia Artificial no aumente la brecha social entre los que dispongan de habilidades para entenderla y desarrollarla y los que no, a la hora de repartir socialmente sus beneficios y asegurar la pluralidad en su acceso e) También en línea con la visión habermasiana la democracia debe ser uno de los principios fundamentales de actuación de la Inteligencia Artificial. Los nuevos desarrollos con un impacto social deben contener un debate público, transparente, amplio y orientado a la cooperación mutua entre los distintos actores. Se debe promover la educación y la información para que todo el mundo pueda acceder en lo posible a las oportunidades de la Inteligencia Artificial y conocer sus implicaciones éticas y riesgos. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 327 f) Estado de Derecho y trazabilidad. Las decisiones de la Inteligencia Artificial han de ser observables y comprensibles ante una auditoría externa o peritaje y siempre deben estar sometidas al Estado de Derecho. Como se ve estas ideas aparecen en los marcos éticos vistos con anterioridad. g) La Inteligencia Artificial debe ser segura respecto a causar daños a humanos o al entorno, especialmente pensado en las aplicaciones robóticas o vehículos, debe ser resistente a los intentos de ser hackeada por atacantes y debe también de ser cauta para evitar crear ese tipo de daños a nivel emocional en sus interactuaciones con humanos. Tengamos en cuenta sobre el punto anterior que las capacidades de procesamiento de lenguaje natural actuales permiten a un sistema informático “conversar” con un interlocutor humano. h) Los datos empleados en la Inteligencia Artificial deben estar correctamente protegidos conforme a la Ley y garantizar la privacidad en lo que pudiera afectar a los humanos que los proporcionan i) La Inteligencia Artificial deberá igualmente estar alineada con la protección del medio ambiente y la sostenibilidad de la vida animal y vegetal Estas recomendaciones del EGE se plasmaron finalmente en el Libro Blanco de la Inteligencia Artificial de la Comisión Europea (European Comission, 2020) y en el borrador de un futuro reglamento, en el momento de escribir esta Tesis. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 328 Como se ve esta directiva del órgano asesor en ética de la Comisión Europea pone foco, primero, en las necesidades de una ética entorno a la Inteligencia Artificial al igual que así lo indica el senado de EE. UU. Por otro lado, se centra en los valores democráticos y se centra en alinear con los valores fundamentales europeos que van desde la equidad y la solidaridad pasando por la dignidad humana, el Estado de Derecho o la ecología. En cualquier caso, el propio EGE dista mucho de estar compuesto en la manera en que lo dicta el proceso de la Teoría de la Acción Comunicativa al debatir sobre las cuestiones expertos considerados por la Comisión bajo un criterio intencional. Los principios descritos por el EGE están alineados en los principios Asilomar (Future of Life Institute, 2017) para la Inteligencia Artificial. Los principios de Asilomar, foro de naturaleza transhumanista, sí están suscritos por una amplia variedad de firmantes, la mayoría investigadores de primer nivel internacional de distintos campos que van desde la filosofía y psicología a las ciencias de la computación o la física. También se encuentran firmados por representantes de las primeras industrias en Inteligencia Artificial como Facebook o Google o Apple. Como vemos de hecho los descrito en los marcos éticos generados en estos foros y compañías coinciden con las líneas principales de la regulación europea. Hay carencia sin embargo de representantes públicos, trabajadores, colectivos u otros afectados por el ámbito de la Inteligencia Artificial. De alguna manera Asilomar sí reúne un importante consenso, que a su vez es recogido por el EGE de la Comisión Europea, pero que dista también de cumplir con estos requisitos de la Acción Comunicativa al no participar en la elaboración de los principios todos los afectados por las futuras normas a aplicar, sino estando compuestos principalmente por expertos en la materia. Como ejemplo, ya mencionamos que un proceso similar a la de Asilomar Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 329 también ha sido seguida en China donde universidades de varios puntos del país, así como sus principales compañías (Baidu, Alibaba, Tencent) se alinean con unos principios similares a los que establece el EGE y Asilomar, incluyendo la transparencia, la protección de la intimidad y de los datos y el fomento de la pluralidad y la diversidad (Independent High-Level Expert Group on Artificial Intelligence set up by European Comission, 2019) (Bal, 2020). Hacemos un aparte para desarrollar estos últimos puntos en relación con la ética discursiva. La ética discursiva, generada a través de la Teoría de la Acción Comunicativa, no es una ética de la virtud o consecuencialista en la que importa el resultado o los valores encontrados, sino es una ética basada en el procedimiento que se sigue para alcanzar dichos resultados y que tiene como uno de sus máximos pilares en que todos los afectados por una norma moral puedan participar en el diálogo mediante el cual se establece. Por el contrario, que dichos principios sean asumidos por el EGE como paso previo a que sean respaldados por la Unión Europea puede ser visto en cualquier caso como un avance. Que a su vez sean principios alineados con las intenciones del Senado norteamericano y de la República Popular China supone también un paso hacia la universalización. La apertura de la Unión Europea proponiendo un “White Paper” abierto a la colaboración que llevó a cabo para la elaboración del Libro Blanco buscó, entre otras cosas, sumar a este consenso de forma tal que cualquiera se sienta capacitado para contribuir al mismo mediante sus propuestas (European Comission, 2020). Sin duda la acción legislativa corresponde a los órganos democráticos establecidos a tal efecto, pero ¿qué sucede a la hora de desarrollar consensos basados en la ética discursiva? ¿Son estos mecanismos suficientes para abordar el problema desde la óptica de la democracia deliberativa que también postuló Habermas? Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 330 Existe un amplio debate público en lo concerniente a la Inteligencia Artificial. Las grandes corporaciones están envueltas en el mismo y también la Academia, representaciones de colectivos sociales, trabajadores, organizaciones de consumidores e instituciones en el caso del EGE europeo (Palladino, 2021). Como se indicó anteriormente ante la ausencia de consenso cualquiera de estos “stakeholders” puede emitir su posición particular. El Libro Blanco de la Unión Europa y el borrador del reglamento mencionan velar por los Derechos Fundamentales y de los consumidores a la hora de aplicarse la Inteligencia Artificial. Establece esta distinción. Se basa en los valores anteriormente ya especificados y pretende asentar un marco de coordinación entre Estados, la Academia y el sector privado a través del llamado “constitucionalismo digital”. A nivel de individuos se centra en el respeto en particular a los derechos fundamentales de privacidad, intimidad y no discriminación. A nivel del consumidor habla de responsabilidad, supervisión humana, posibilidad de explicación técnica y disponibilidad de los sistemas (Floridi L., 2019). La nueva regulación de la Unión Europea apunta también dirección al uso de la estandarización tecnológica como solucionador de los problemas derivados de la Inteligencia Artificial y establece también el siguiente artículo: “protected by the Charter, under Union law or when Member States are implementing Union law giving effect to such rights. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 331 2. The Commission is empowered to adopt delegated acts in accordance with Article 64 to specify technical elements of the definitions laid down in pragraph 1, including Annex I, and to update those definitions to market and technological developments. TITLE II PROHIBITED ARTIFICIAL INTELLIGENCE PRACTICES Article 4 1.The following list of artificial intelligence practices are prohibited as contravening the Union values or violating fundamental rights protected under Union law: (a) AI systems designed or used in a manner that manipulates human behavior, opinions or decisions through choice architectures or other elements of user interfaces, causing a person to behave, form an opinion or take a decision to their detriment. (b) AI systems designed or used in a manner that exploits information or prediction about a person or group of persons in order to target their vulnerabilities or special circumstances, causing a person to behave, form an opinion or take a decision to their detriment. (c)AI systems used for indiscriminate surveillance applied in a generalized manner to all natural persons without differentiation. The methods of surveillance may include large scale use of AI systems for monitoring or tracking of natural persons through direct interception or gaining access to communication, location, meta data or other personal data collected in digital and/or Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 332 physical environments or through automated aggregation and analysis of such data from various sources. (d) AI systems used for general purpose social scoring of natural persons, including online. General purpose social scoring consists in the large-scale evaluation or classification of the trustworthiness of natural persons [over certain period of time] based on their social behavior in multiple contexts and/or known or predicted personality characteristics, with the social score leading to: (i) a systematic detrimental treatment of certain natural persons or whole groups thereof in social contexts not related to the contexts in which the data was originally generated or collected; or (ii) detrimental treatment of certain natural persons or whole groups thereof that is disproportionate to the gravity of their social behavior.” Estas consideraciones previenen de la manipulación de manera estructural respecto a individuos. La normativa europea tiene pues dos vertientes: una relativa a Derechos Fundamentales ya existentes y que incluso añade nuevos como cuestiones sobre la manipulación de personas por medio de tecnología. Y una normativa referente a mantener la calidad del producto: Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 333 “Authorities] in order to safeguard public security an d are subject to appropriate safeguards for the rights and freedoms of third parties in compliance with Union law. TITLE III HIGH-RISK AI SYSTEMS Article 5 High - risk AI systems 1.AI systems intended to be used as safety components of products, or which are themselves products, covered by, the Union harmonization legislation listed in Annex III shall be classified as high-risk, irrespective of whether they are placed on the market independently from the product or not, if the product in question undergoes the conformity assessment system with a third-party conformity assessment body pursuant to that relevant Union harmonization legislation. Where, in accordance with that relevant Union harmonization legislation, the product in question does not under go a conformity assessment system with a third-party conformity assessment body because the manufacturer has applied all harmonised standards in full, those harmonised standards shall also cover all the applicable requirements of this Regulation as listed in Title III Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 340 Wikipedia. Podríamos contabilizar el número de opiniones a favor y en contra respecto a un tema: si hay una mayoría o mejor, si existe un consenso, la Inteligencia Artificial podrá detectarla en un “dataset”. De esta forma la actividad intersubjetiva llevada a cabo por humanos es recolectada y canalizada: la Inteligencia Artificial intermedia. Una expresión, o un pensamiento, dotada de un contexto, se traduce a una información empírica que puede ser trasladada, aunque perdiendo matices. Esta es una de las razones por las cuales el filtro burbuja tampoco es práctico. Si al interferir en una opinión, mediándola, haciendo que el individuo interactúe no mediante acciones discursivas, sino mediante acciones estratégicas basadas en la identidad y en la reacción para, finalmente, hacer nexos comunes con mentes afines a los mismos memes, lo que obtendremos es esa colonización del mundo de la vida y del diálogo intersubjetivo y no información procedente de un “debate real”. La Inteligencia Artificial no buscará una verdad por esa vía, por la del consenso, sino que la buscará en todo caso a costa de dichos consensos mediante la “colisión de opiniones” y en la cual la verdad se obtiene o por una victoria, con unos derrotados, o por un agotamiento que termina por generar la síntesis. No se basa en argumentos racionales o en la calidad, sino en la cantidad de estos. Los hombres aquí seríamos generadores de memes opuestos, en el sentido de Dawkins, que compiten en el mundo de la vida por ver si se transforman, de qué manera, o terminan por conquistar el espacio público sobre una determinada temática. Este segundo enfoque parece el que triunfa. Una suerte de mecanismo de mercado de opiniones. Finalmente, esta opinión traducida a la Inteligencia Artificial por mayoría, o bien vivir en ámbitos virtualmente separados (Gaines, 2009). Adicionalmente que una Inteligencia Artificial, impulsada por una empresa cuya posición tiende al monopolio en determinados sectores y que, además, por cuestiones técnicas es difícilmente trazable, se encuentre en posesión Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 341 de una verdad, aunque se haya alcanzado por medio del consenso intersubjetivo, también tiene implicaciones, en particular para nuestro actual sistema democrático. Además de la educación, una alternativa a esto sería de tipo técnico, empleando un criterio a la hora de señalar la relevancia del contenido de Internet que no nos retroalimente de forma positiva, sino que, de forma combinada con esa formación ética, estimule la acción intersubjetiva y discursiva con ánimo de encontrar verdades (Tian, 2019) (Zhang Z., 2020). Existe investigación algorítmica como los trabajos referenciados, asociados a la Academia china. Si el mundo que se nos muestra es limitado y conforme a lo que sabemos, si sólo interactuamos con los que piensan como nosotros, esto nos hace menos libres y autónomos al no tener la capacidad o posibilidad de conocer otros puntos de vista. La función de la Inteligencia Artificial a la hora de clasificar la información de Internet no sería desde esta perspectiva la de un espejo, sino que tendría que ayudarnos de alguna forma a percibir como es el mundo. Esta pérdida de libertad y autonomía como consecuencia de una sistematización del mundo de la vida es la que preocupaba a Habermas, basándose en la ética kantiana, y como ya hemos visto los códigos éticos analizados son partidarios de protegerlas. El planteamiento del filtro resulta contradictorio con los principios declarados en los propios códigos éticos desarrollados debido a los ataques a la autonomía descritos (Susser, 2019). Las técnicas de Inteligencia Artificial posibilitan, además, la capacidad no ya de alterar la prioridad de información y de poner o no luz sobre aquello que debemos ver, aunque sea en función de nuestro comportamiento pasado, sino que la tecnología además puede ser utilizada para falsear una información conforme a las reglas del mundo físico. Por supuesto todos los Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 342 códigos éticos presentes rechazan este tipo de fraudes, e incluso se menciona el empleo de la tecnología blockchain para "sellar" todo producto virtual y verificar su autenticidad (Hasan, 2019). También se menciona de Inteligencias Artificiales dedicadas a revisar los contenidos, aprender de qué es falso y qué no para automatizar, con plena capacidad de cómputo, la tarea de detección y aviso de este tipo de fraudes (Albahar, 2019). Junto con el efecto del filtro burbuja y estos “Deep Fakes”, podemos encontrarnos una situación pues en la que ya no sólo veamos sombras en la caverna de Platón proyectadas por la luz del propio observador, sino que veamos sombras de cosas que simple y llanamente son mentira y nunca han pasado. La ciencia ficción plantea en numerosas ocasiones una Inteligencia Artificial con forma de robot, similar a un humano, corpórea, basada en la filosofía de la conciencia, como en el caso de “Yo, Robot” (Manrique, 2007), o bien una Inteligencia Artificial de propósito general incorpórea que gestiona una ciudad, como en “Alphaville” (Goddard, 2000), o una nave espacial, como en “2001 una Odisea en el Espacio” (Stork, 2001). La realidad es que puede haber una interactuación en un mismo entorno entre muchos procesos gestionados por Inteligencia Artificial, que se entremezclan entre sí. Un ejemplo sería una red social en la cual un proceso de Inteligencia Artificial decide la prioridad de cómo se nos presenta la información, y en ella observamos información falsa creada por Inteligencia Artificial que es distribuida por un ejército de “Bots” automáticos que siguen también ese tipo de criterios o son comentadas con ideas o argumentos generados también por otra técnica. Podemos en un sólo vistazo tener frente a nosotros cuatro procesos guiados por Inteligencia Artificial en una misma pantalla, sin contar por ejemplo aquellos que funcionan en paralelo en nuestros dispositivos o portátiles (Oliver, 2021). No existe pues una única Inteligencia Artificial que gestiona todo, sino que convivimos ya, actualmente, en el mundo de la vida, incluido el de Internet, con Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 343 innumerables procesos y entidades gestionadas por Inteligencia Artificial con un ámbito mayor o peor de actuación y mayor o menor potencia de cómputo. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 344 Conclusiones En la primera parte de la tesis observamos como la Inteligencia Artificial encaja en la definición de sistema racional orientado a objetivos dado que tiene raíces en la cibernética. Este esquema de racionalidad orientado a objetivos fue empleado por Habermas para definir su dialéctica entre este tipo de sistemas y su definición de mundo de la vida, basada en la de Husserl. Con la aparición de Internet se generan nuevos mundos de la vida, o se prolongan los actuales, sobre los cuales, dado estas características de la Inteligencia Artificial, ésta interviene. Esto sucede a las propiedades emergentes de los sistemas sobre los cuáles se establece Internet. Mediante esta intervención pueden ser explicadas las patologías sociales, de acuerdo con la definición que empleó Habermas en su Teoría de la Acción Comunicativa, del mundo moderno asociadas al impacto de la Inteligencia Artificial que van desde sus decisiones destructivas, a la cuestión de los prejuicios, la propiedad intelectual o la privacidad. Esto se produce, por un lado, por esa mediación que realiza la Inteligencia Artificial orientado a objetivos de una manera racional en el sentido económico y por otras de sus características como el “Frame Problem”: una variación del problema descrito por Husserl, maestro de Habermas, en su Crisis, y que le lleva a no ser precisa en su reconocimiento y manejo del lenguaje ya que la gestión de los contextos de la comunicación se vuelve difícilmente computables. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 345 Las nuevas capacidades de procesamiento de lenguaje natural hacen que la Inteligencia Artificial además pueda llevar a cabo actos de habla para generar efectos en su entorno. Estos actos de habla suceden porque tras la Inteligencia Artificial se encuentra una intencionalidad colectiva que la diseña, desarrolla y la hace adaptable para actuar como canal de comunicación, y es entrenada con lo que es capaz de sistematizar procedente de mundos de la vida. Finalmente, y siguiendo el planteamiento habermasiano buscamos observar el encaje de esta problemática en la legislación y códigos éticos tanto en su metodología de desarrollo como en sus contenidos. En esto se puede observar que, aunque existe una marcada influencia de la ética discursiva, su delimitación y puntualización sigue siendo tímida tanto a la hora de unir a distintos colectivos afectados a los consensos como a la hora de focalizar el problema descrito. La Inteligencia Artificial puede ser una herramienta tremendamente poderosa de cara a la comunicación autónoma y creación de consensos. Por ejemplo, cuando por medio del “Big Data” se obtienen nuevos datos, patrones y comportamientos que posibiliten llegar a conclusiones a la comunidad científica lo que puede llevar a mejores desarrollos que acepten a la sanidad, a la tecnología o a la economía. O también cuando sirve para llevar a cabo innovaciones artísticas y nuevas creaciones con las que poder inspirar a la humanidad. Cuando se canaliza hacia el mundo físico la Inteligencia Artificial puede tomar decisiones no destructivas en donde se respete la vida humana y, por el contrario, salvar vidas tanto evitando riesgos laborales como en actividades como en la conducción. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 346 También puede ser un canal de enorme potencia a la hora de generar actos de habla desde ilocutivos que faciliten el acceso al conocimiento universal o en la toma de decisiones política y empresarial, mostrando datos certeros sobre nuestra realidad, o para cuidar a personas dependientes o acercar organizaciones, como la administración, al ciudadano. Surgen los problemas sociales y éticos cuando se mediatiza esa libre comunicación ciudadana de manera tal que se orienta a objetivos sin contemplar el mundo de la vida en que transcurre. Si se emplea un acto de habla de Inteligencia Artificial para manipular, como los “Deep Fakes”, o se reorienta la forma que tiene la población de comunicarse con el mundo hacia filtros burbuja. Falla cuando se invisibiliza las posibilidades del mundo mediante sesgos o cuando se emplean los datos personales privados para orientarle hacia determinadas acciones en el mundo. En definitiva, como indicaba Habermas, cuando se emplea la comunicación con un objetivo estratégico y no orientado a consensos. En el caso de la Inteligencia Artificial de manera directa, mediante actos de habla orientados, o indirecta, manipulando la comunicación entre personas mediante alteraciones en el receptor de los mensajes, los contextos y los canales. Nuestro enfoque tiene varias derivaciones. Por un lado, la consideración de la Inteligencia Artificial de ser el canal de comunicación de una intencionalidad colectiva posibilita una revisión de la responsabilidad detrás de todos estos problemas. Por otro, hace aplicable sobre la Inteligencia Artificial criterios ya empleados derivados de la ética discursiva sobre las empresas, a la manera en que lo hace por ejemplo Adela Cortina. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 347 De esta manera la Inteligencia Artificial no tendría que ser desarrollada únicamente orientada al cumplimiento de objetivos, sino también con un enfoque anclado en la legitimidad social, por un lado, y por otro en el consenso suficiente de los respectivos “stakeholders” que por su acción se ven afectados. Dejar fuera a la Inteligencia Artificial de los actos de habla desde esta perspectiva sería un error de planteamiento, pues la desvincula del concepto de intencionalidad colectiva y por tanto genera confusión a la hora de asignar responsabilidad sobre sus actuaciones (o propiedades intelectuales) y de las comunicaciones que lleva a cabo. Además, el hecho de asociarla a este concepto facilita la implantación de metodologías éticas como las arriba descritas. Estas metodologías deberían ser consideradas no sólo en la elaboración de normativas, desarrollos y procesos internos de las organizaciones orientadas al desarrollo de Inteligencia Artificial, sino en el núcleo mismo de la Inteligencia Artificial: si debe ser ética de acuerdo con la ética discursiva no debe llevar a cabo acciones estratégicas, ni directa ni indirectamente, sino estar orientada hacia consensos. Podemos entenderla con su actual estatus de desarrollo tecnológico como un sistema o subsistema de los que describió Habermas en su día, pero con características propias. Sin embargo, este tipo de análisis, que puede abrir una vía de investigación, se vuelve interesante en cuanto a lo que implica a la hora de abordar cuestiones como la de la intencionalidad colectiva. Por ejemplo, qué ocurriría si la organización humana y su intencionalidad colectiva que desarrolló una determinada Inteligencia Artificial, tratándose esta de un sistema racional Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 348 orientado a objetivos, desaparece, pero la Inteligencia Artificial continúa funcionando ya sin una organización humana detrás. El planteamiento de la Inteligencia Artificial como parte de la dialéctica de Habermas posibilita un análisis ulterior de todas estas cuestiones. También abre cuestiones como, además de la necesidad de una mayor profundidad de la ética discursiva en el propio núcleo de esta nueva tecnología y sus desarrollos, vinculadas a la intencionalidad colectiva y los actos de habla que pueden requerir una revisión en estos escenarios. Existen además variantes adicionales en lo que afecta a la organización empresarial. Por un lado, en el marco de la Transformación Digital entender que la Inteligencia Artificial supone una reorganización de la intencionalidad colectiva de la misma y una forma de Inteligencia Híbrida. Por otro esto debe contemplar la responsabilidad social corporativa y el encaje del sistema en esta Sociedad. Otra derivada consiste en la aparición de tecnologías que buscan proteger la conversación libre en Internet, esto es el mundo de la vida, de la sistematización de la Inteligencia Artificial: por ejemplo, las basadas en la Web3 en la que se salvaguarda la identidad y datos personales mediante el uso de cadenas de bloques. La dialéctica se traslada a aquello que es sistematizable y lo que no, entendido esto último como mundo de la vida. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 349 La Teoría de la Acción Comunicativa de Habermas adolece sin embargo de problemas que necesitan una revisión: o Crítica del dinero o Idealismo de la ética discursiva. Aunque esto es prescindible, desde el punto de vista de la dialéctica) o “Roussonianismo”: el fin del lenguaje no es necesariamente el entendimiento o Necesidad de actualización hacia la filosofía del lenguaje: teoría de la relevancia y la importancia del contexto, compatibilidad de actos perlocutivos e ilocutivos o Desvinculación de la filosofía del lenguaje y la filosofía de la mente: cómo se hacen los actos de habla colectivos o Sistematización de mundo de la vida: puede haber mundo de la vida dentro del sistema, tal y como indica Cortina El primer problema, relacionado con la crítica del dinero, lo observamos principalmente en el capítulo sobre IA y Economía. Habermas, como miembro de la tradición marxista, realiza una crítica al dinero y su uso centrándola principalmente en el argumento de la “deslingüistización”. El dinero no sólo es un facilitador de la comunicación en numerosas circunstancias, como hemos visto, si no que precisamente esta “deslingüistización” facilita con frecuencia el entendimiento y la cooperación entre mundos de la vida diversos, dentro y fuera de las sociedades occidentales, donde el “logos” no tiene el mismo éxito. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 356 estar realizando una tarea colectiva, de la que forma parte, y cuyos actos van orientados al cumplimiento de dicho grupo. Para Searle esta intencionalidad tiene una conexión física a través de cada una de las mentes del grupo que en ella participan. Es clave que los individuos sean conscientes de su aportación y de la dirección mente -> mundo que su colectivo está desempeñando. En nuestra tesis concluimos que la Inteligencia Artificial puede comunicar como fruto de una intencionalidad colectiva que respaldaría la realización de actos de habla. En este caso la intencionalidad no recae en la Inteligencia Artificial, que sigue careciendo de fenomenología, pero sí tiene la capacidad técnica de “hablar por”. Por supuesto, este comportamiento de la Inteligencia Artificial no se da en todos los casos. Una Inteligencia Artificial puede estar enviando mensajes pseudoaleatorios o que una persona esté “conversando” con ella sin que no haya ningún grupo humano en última instancia. En este caso entendemos que no hay comunicación alguna. Lo que defendemos es que cuando se dan las condiciones de intencionalidad colectiva a la hora de diseñar, desarrollar e implantar una Inteligencia Artificial para que realice determinados actos de habla, sí existe comunicación. En concreto entre el colectivo responsable de esa Inteligencia Artificial y los sujetos con quienes interactúan. Como es natural pueden existir problemas durante esa comunicación entre el colectivo y el sujeto. Esto no es inusual en la comunicación institucional entre la administración de los Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 357 ciudadanos, o entre una empresa y sus trabajadores. Lejos de invalidar la comunicación de la Inteligencia Artificial la asemeja. Este planteamiento sirve, a su vez, de base para enfocar muchos aspectos de qué es una Inteligencia Artificial y cuál es su vínculo y por tanto responsabilidad de las organizaciones humanas asociadas. Así por esta razón una organización humana asociada a una Inteligencia Artificial debe responsabilizarse de sus comunicaciones, pues esta, cuando su objetivo es efectivamente comunicar con otros, no deja de ser una prolongación del colectivo detrás de ella. La fórmula de la Inteligencia Artificial como canal de intencionalidad colectiva facilita aspectos de tipo legal, también por ejemplo el caso de las obras de arte y la propiedad intelectual, así como cuál sería la forma jurídica más adecuada para estos sistemas (como era el caso de la persona electrónica). Hay otros aspectos también estudiados en los que hemos visto, a lo largo de los ·#RC5, que la Inteligencia Artificial no se comporta como un canal de intencionalidad colectiva generando actos de habla, pero que también afecta a la comunicación que llevan a cabo personas en Internet. La Inteligencia Artificial lo que hace en estos casos es distorsionar el mundo de la vida por medio de efectos como el del filtro burbuja o la personalización. Por mundo de la vida entendemos también el asociado al mercado en la economía De esta forma la Inteligencia Artificial puede interferir en la comunicación que otros mantienen entre sí, o bien simplemente alterar la percepción del mundo cambiando por ejemplo una orientación política, como en el caso de los “Deep Fakes”. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 358 A lo largo de la tesis hemos estudiado ocho ejemplos en los cuáles el problema planteado se explicaría mediante un esquema similar al anterior: un sistema técnico basado en Inteligencia Artificial, asociado a un sistema organizativo humano, realiza acciones ya sea generando sus propios actos de habla o ya sea perturbando la comunicación o percepción del contexto que tiene un usuario impactando así en su mundo de la vida. El planteamiento es explicable mediante esa dialéctica en los ocho casos dando lugar a algún tipo de “patología social”, o impacto social y ético, que va desde el robo de propiedad intelectual a la destrucción de puestos de trabajo. “Patologías sociales” no muy diferentes de las que narrara Habermas en su Teoría de la Acción Comunicativa. La Inteligencia Artificial en tanto en cuanto sistema homologable a la dialéctica de Habermas supone una confirmación de su análisis histórico, pues sirve para anticipar problemas que suceden 40 años después del desarrollo de su Teoría de la Acción Comunicativa. Podemos concluir que el marco explicativo de la Teoría de la Acción Comunicativa es adecuado como herramienta para entender los problemas actuales de la Inteligencia Artificial y como punto de entrada, en base a la lógica de la anticipación en Filosofía, para otras cuestiones relacionadas con la distorsión de los elementos de comunicación, incluyendo la intencionalidad, y la necesidad de considerar la ética discursiva no ya sólo en los procedimientos de investigación y desarrollo de nueva tecnología, sino en la tecnología misma. Como hemos visto sin embargo la dialéctica de Habermas necesita de correcciones que la hagan adaptarse, por un lado, a la Economía vista como parte también del mundo de la vida y a Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 359 la Filosofía del lenguaje con los nuevos trabajos de Searle y otros a propósito de la intencionalidad colectiva. El desarrollo de los marcos éticos actuales y las recomendaciones proporcionadas por distintas organizaciones tratan de concretizar aspectos específicos de esto cuando hablan de la necesidad de conservar la autonomía de los individuos, informar de la interactuación con Inteligencia Artificial, respetar los derechos de propiedad intelectual y la privacidad de los datos o no omitir información ni comunicaciones, discriminando, por razones sustanciales de identidad (género, sexualidad, raza…). Si bien en el desarrollo de códigos éticos se realizan intentos por alcanzar los consensos que demanda la ética habermasiana, en ocasiones insuficientes al ser llevados a cabo desde colectivos especializados tanto de la industria como de la Academia, la implantación de la ética discursiva en la tecnología en el sentido de respetar el mundo de la vida de individuos y colectivos se ha tratado de materializar en esos aspectos más concretos y específicos y alejados de tecnicismos filosóficos. Otras cuestiones sin embargo quedan fuera siempre que se entienda no condicionan la autonomía de nadie: como la propensión a las cámaras de eco basadas en “clústeres” de identidad, la polarización política, la desconexión/censura automatizada de las redes sociales, la interactuación conductista enfocada a la generación de adicciones, la desintermediación económica entre clientes y trabajadores, empresas o administraciones tradicionales… De la misma manera a la hora de realizar actos de habla por parte de dispositivos debe contemplarse la presencia de una intencionalidad colectiva que los genera: la de la organización que dispone de la Inteligencia Artificial para llevarlos a cabo como sistema de comunicación. Que estos actos de habla se realicen mediante criterios estratégicos siguiendo el principio de Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 360 interés de la organización queda también fuera de los sistemas de diseño. Si se quiere seguir los principios de la Teoría de la Acción Comunicativa y la ética discursiva subsiguiente en el diseño de las tecnologías de procesamiento de lenguaje natural en las que se generen este tipo de actos de habla se debería respetar la autonomía de sus interlocutores humanos. Recordemos que es precisamente la autonomía de los interlocutores humanos, su mundo de la vida, la que proporciona los datos con los que se entrena a la Inteligencia Artificial. La Inteligencia Artificial se encuentra pues con dos de los problemas apuntados en los años 70 por la TAC de Jürgen Habermas: - En primer lugar, los propios de un intento de sistematización del lenguaje, donde se pierde la información pragmática y de contexto lingüístico al no ser, hoy en día, computacionalmente abarcable, quedando afectado de este modo los mundos de la vida de las personas que se ven intermediadas por ella - La sustitución de las comunicaciones en las organizaciones empresariales y del Estado, por Inteligencia Artificial y automatización en lugar de estructuras organizativas burocratizadas, hacen que la Inteligencia Artificial ocupe parcialmente el lugar de los sistemas económicos y administrativos descritos en la TAC de los años 70. La crítica a la cibernética que realizó Habermas cobra hoy un nuevo sentido al reenfocarse no tanto a los sistemas sociales, que defendieran Parsons y Luhmann, como al aspecto tecnológico original con el que comenzara Wiener. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 361 Nuestra conclusión es que la Teoría de la Acción supone un marco teórico válido para el estudio y comprensión de los problemas asociados a la Inteligencia Artificial pero que es necesario contemplar algunas de las críticas mencionados en su núcleo central a la hora de abordar su gestión. Algunas de estas críticas son la de Searle y el grupo de CREA a los actos de habla (Searle J. R., 2004), la inclusión del concepto sobre la intencionalidad colectiva, también de Searle (Searle J. R., Creando el mundo social. La estructura de la civilización humana., 2014) y la crítica de Adela Cortina a la separación entre sistema y mundo de la vida, especialmente en el plano económico (Orts, 2014). Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 362 Referencias Abbott, R. (2018). The reasonable computer: disrupting the paradigm of tort liability (Vol. 86). Geo: Wash L. Rev. Adelman, R. A. (2012). Sowing the sea: Visualizing terror, time and Osama bin Laden. Continuum, 767782. Agarwal, J. A. (2021). Economics of Cryptocurrencies: Artificial Intelligence, Blockchain and Digital Currency. . Information for Efficient Decision Making: Big Data, Blockchain and Relevance, 331430. Aguilar, A. E. (2017). Los troles políticos. Realidad y reflexión, 67-75. Alava, C. J. (2003). Dle románico al gótico en la arquitectura de Navarra: un problema terminológico entre creación y evolución. Príncipe de Viana, 255.293. Albahar, M. &. (2019). Deep fakes: Threats and countermeasures systematic review. Journal of Theoretical and Applied Information Thecnology, 3242-3250. Aliseda, A. (2006). Abductive reasoning: logical investigations into discovery and explanation. Ser. Synthese library, 330: Springer. Allahyari Soeini, R. N. (2012). Using fibonacci numbers to forecast the stock market. International Journal of Management Science and Engineering Management, 268-279. Al-Sunni, A. A.-A. (2021). A Methodology for Securities and Cryptocurrency Trading Using Explanatory Data Analysis and Artificial Intelligence. 1st International Conference on Artificial Intelligence and Data Analytics (CAIDA), 54-61. Ambrosetti, N. (2012). Improbable Mechanics: A Short History of Fake Automata. (C. M. Koetsiet T., Ed.) Explorations in the History of Machines and Mechanisms. History of Mechanism and Machine Science, 1. Ángel Prats, M. T. (2018). Diseño y aplicación de talleres educativos para el uso saludable de Internet y redes sociales en la adolescncia: descripción de un estudio piloto. Pixel-Bit, revista de medios y educación, 52. Apel, K. (1975). El camino del pensamiento de Charles S. Peirce. Madrid 1997: Visor. Apel, K. (1993). Discourse ethics as a response to the novel challenges of today's reality to corresponsability. In The Journal of Religion (pp. 496-513). Apel, K. (2003). Apel versus Habermas. Granada 2017: Comares. Arroyo-Vázquez, N. (2009). El uso profesional de las redes sociales. ThinkEPI, 145-152. Aspuru-Guzik A., &. P. (2018). Material Acceleration Platform: Acceleraton Advanced Enery Materials Discovery by Integrating Hight-Throughput Methods and Artificial Intelligence. Mission Innovation. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 363 Association for Computing Machinery. (1992). ACM ethical code. Retrieved from https://dusk.geo.orst.edu/ethics/codes/ACM_code.pdf Austin, J. L. (1990). Cómo hacer osas con palabras. Barcelona: Paidós. Award, E. D. (2018). The Moral Machine experiment. Nature, 59-64. Baer, T. (2019). Understand, manage and prevent algorithmic bias: a guide for business users and data scientists. . Apress. Bal, R. a. (2020). Policy Approaches to Artificial Intelligence Based Technologies in China, European Union and United States (Vol. 26). Duke Global Working Paper Series . Bansal, S. K. (2015). Integrating big data: A semantic extract-transform-load framework. Computer, 48(3), 42-50. Barandarin, X. D. (2009). Defining agency; individuality, normativity, asymmetry, and spatio-temporality in action. Adaptative Behaviour, 17(5), 367-386. Bartoletti, R. (2011). Memory and social media: New forms of remembering and forgetting. . Learning from memory: body, memory and technology in a globaliing world, 82-111. Batt, J. J. (2018). Lethal Autonomous Weapons and the Professional Military Ethic. US Army Command and General Staff College. Baumann, F. L.-S. (2020). Modeling echo chambers and polarization dynamics in social networks. . 048301: Physical Review Letters, 124(4). Bavaresco, A. (2014). Epistemology of Social Networks, Public Opinion and Theory of Agenda. . Canadian Social Science 10(6), 11-19. Beer, S. (1974). The Real Threat to "All We Hold Must Dear.". Designing Freedom, 6. Beijing AI Principles. (2019). Datenschutz Und Datensicherheit. Bellamy, R. K. (2019). AI Fairness 360: An extensible toolkit for detecting and mitigating algorithmic bias. . IBM Journal of Research and Development, 63(4/5), 4-1. Berman, B. J. (1992). Artificial intelligence and the ideology of capitalist reconstruction. AI & society 6(2), 103-114. Bernardo, F. &. (2014). Disintermediation effects on independent approaches to music business. International Journal of Music Business Research, 3(2), 7-27. Bertram, B. C. (1975). Generation as a social action. In Theoretical Issues in the Natural Language Processing, 64-67. Bessen, J. &. (2007). An empirical look at software parents. Journal of Economics & Management Strategy 16(1), 157-189. Boddington, P. (2017). Towards a code of ethics for artificial intelligence. Springer. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 364 Boddington, P. (2020). AI and moral thinking: how can we live well with machines to enhance our moral agency? AI and Ethics, 1-3. Boididou, C. P. (2014). Challenges of computational verification social multimedia. In Proceedings of the 23rd International Conference on World Wide Web , (pp. 743-748). Borel, E. (1913). La mécanique statique et l'irreversibilité. J. Phys. Theor. Appl., 3(1), 189-196. Boukherouaa, E. A. (2021). Powering the Digital Economy: Opportunities and Risks of Artificial Intelligence in Finance. Departmental Papers. Bradford, J. &.-L. (1995). An application of artificial intelligence to the choreography of dance. Computers and the Humanities, 29(4), 233-240. Brandzaeg, P. &. (2018). Time collapse in social media: extending the context collapse. Social Media + Society, 4(1). Briggs, G. &. (2013). A Hybrid Architectural Approach to Understanding and Appropriately Generating Indirect Speeck Acts. Proceedings of the AAAI Conference on Artificial Intelligence, 27. Bringsjord, S. B. (2003). Creativity, the Turing testm and the (better) Lovelace test. In The Turing Test, 215-239. Broncano, F. (2017). Racionalidad, acción y opacidad: Sujetos vulnerables en tierras libres (Vol. 1). EUDEBA. Brown, T. B. (2020, julio). Language Models are Few-Shot Learners. Retrieved from arXiv:2005.14165: http://arxiv.org/abs/2005.14165 Bryson, J. (2019). The past decade and the Future of the AI's Impact on Society. Retrieved from https://www.bbvaopenmind.com/en/articles/the-past-decade-and-future-of-ais-impact-onsociety/ Burke, R. (2002). Hybrid recommender systems: Survey and experiments. User modeling and useradapted interaction, 12(4), 331-370. Butterworth, M. (2018). The ico and artificial intelligence: the role of fairness in the gdpr framework. . Computer Law & Security Review: The International Journal of Technology Law and Practice, 34(2), 257-268. Caballero, R. J. (2010). Creative destruction. Economic Growth, 24-29. Calero, C. P. (2021). Investigating the impact on execution time and energy consumption of developing with Spring. Sustainable Computing: Informatics and Systems. Calvo, R. A. (2020). Supporting human autonomy in AI systems: A framework for ethical enquiry. In Ethics of Digital Well-Being, 31-54. Carpenter, C. (2016). Rethinking the political/-science/-fiction nexus: Global policy making and the campaign to stop killer robots. Perspective on Politics, 14(1), 53-69. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 365 Celeste, E. (2019). Digital constitutionalism: a new systematic theorisation. International Review of Lau, Computer & Technology, 33(1), 76-99. Chalmers, D. (1996). The Conscious Mind: In Search of a Fundamental Theory. Oxford University Press. Chen, H. Y. (2017). People opinion topic model: opinion based user clustering in social networks. Proceedings of the 26th International Conference on World Wide Web Companion, 1353-1359. Chen, J. &. (2021). Understanding the Chinese Data Security Law. International Cybersecurity Law Review, 1-13. Chesher, C. (2019). Trusting smart speakers: a typology of invocationary acts. In AoIR Selected Papers of Internet Research, 2019. Chesney, B. &. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. Calif. L. Rev, 107. Cho, H. L. (2021). Machine Learning and Cryptocurrency in the Financial Markets. Fintech with Artificial Intelligence, Big Data and Blockchain, 295. Christoforou, E. M. (2016). R.U.R. Revisited: Perspective and Reflections on Modern Robotics. Int J of Soc Robotics 8, 237-246. Cinelli, M. M. (2021). The echo chamber effect on social media. Proceedings of National Academy of Sciences, 118(9). Cohen, P. (2016). Harold Cohen and AARON. Ai Magazine, 37(4), 63-66. Coleman, K. (2016). Habermas and art: Beyond distinction. . American Journal of Cultural Sociology, 4(2), 157-195. Comisión Europea. (2019). Retrieved from https://ec.europa.eu/digital-singlemarket/en/news/definition-artificial-intelligence-main-capabilities-and-scientific-disciplines Convenio de Berna. (2021). Retrieved from https://leyderecho.org/convenio-de-berna/ Cooren, F. (2000). Towards another ideal speech situation: A critique of Habermas' reinterpretation of speech act theory. Quaternaly Journal of Speech, 86(3), 295-317. Cortina, A. (1995). Claves de la razón práctica. In Ética empresarial y opinión pública (pp. 48-75). Council Directive 85/374/EEC. (1985). On the approximation of the laws, regulations and adminsitrative provisions of the Member States concerning liability for detective products. Council of Artificial Intelligence of the OCDE. (2019). Recommendations. Retrieved from https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449#mainText Courtland, R. (2018). The bias detectives. Nature, 558(7710), 357-360. Cowell, R. (1999). Probabilistic networks and expert systems. Springer. Dastin, J. (2018). Amazon scraps secret AI recruiting tool that showed bias against women. Reuters. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 372 IBM Corp. (2019). Everday Ethics for AI. Retrieved from https://www.ibm.com/watson/assets/duo/pdf/everydayethics.pdf IEEE. (2019). Ethical Aspects of Autonomous and Intelligent System. Retrieved from http://globalpolicy.ieee.org/wp-content/uploads/2019/06/IEEE19002.pdf Ilalan, D. (2016). Elliot wave principle and the corresponding fractional Brownian motion in stock markets: Evidence from Nikkei 225. Chaos, Solutions & Fractals, 92, 137-141. Independent High-Level Expert Group on Artificial Intelligence set up by European Comission. (2019). A definition of AI: main capabilities and disciplines. Brussels. Isaak, J. &. (2018). User data privacy: Facebook, Cambridge Analytica, and privacy protection. Computer, 51(8), 56-59. Ismoilov, J. V. (2010). Tourist Classification in gastronomy of Santiago de Compostela: based on the data collectd from Santiago. Tapas contest. ITU. (2020). Artificial Intelligence for Good. Retrieved from https://aiforgood.itu.int/about-ai-forgood/ai-ml-pre-standarization ITU. (2020). Artificial Intelligence for Good. Retrieved from https://aiforgood.itu.int/about-ai-forgood/ai-ml-pre-standarization/ Kaakinen, M. S. (2020). Shared identity and shared information in social media: development and validation of the identity bubble reinforcement scale. Media Psychology, 23(1), 25-51. Kenney, M. &. (2015). Choosing a future in the platform economy: the implications and consequences of digital platforms. Kauffman Foundation New entrepreneurial Growth Conference. Kenney, M. &. (2020). The platform economy: restructuring the space of capitalist accumulation. Cambridge journal of regions, economy and society, 13(1), 55-76. Kim, K. B. (2018). Creative destruction of the sharing economy in action: The case of Uber. Transportation Research Part A: Policy and Practice, 110, 118-127. Klein, A. M. (2020). Measuring User Experience Quality of Voice Assitante Voice Communication Scales for the UEQ+ Framework. 15th Iberian Conference on Information Systems and Technologies (CISTI) (pp. 1-4). IEEE. Kopp, S. &. (2021). Revisiting human-agent communication: The importane of joint co-construction and understanding mental states. Frontiers in Psychology, 12, 597. Korzenny, F. &. (2005). Hispanic marketing: A cultural perspective. . Routledge. Krasnova, H. G. (2009). Privacy concerns and identity in online social networks. Identity in the Information Society, 2(1), 39-63. Krotov, V. &. (2018). Legality and ethics of web scraping. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 373 Kulynynch, J. J. (1997). Performing politics: Foucault, Habermas, and postmodern participation. Polity, 30(2), 315-346. Ladd, T. (2021). The Achilles heel of the platform business model: Disintermediation. Business Horizons. Lau, J. Z. (2018). Alexa, are you listening? privacy perceptions, concerns and privacy-seeing behaviours with smart speakers. Proceedings of the ACM on human-Computer Interaction, 2 (CSCW), 1-31. Leavy, S. &. (2018). Gender bias in artificial intelligence: the need for diversity and gender theory in machine learning. Prceedings - International Conference on Software Engineering, 14-16. LeCun, Y. B. (2015). Deep learning. Nature, 521, 436-444. Lee, M. (2020). Speech acts redux: Beyond request-response interactions. Proceedings of the 2nd Conference on Conversational User Interfaces, (pp. 1-10). Leerssen, P. (2015). Cut Out By the Middle Man: The Free Speech Implications of Social Network Blocking and Banning in the EU. The EU. J. Intell. Prop. Info Tech & Elec. Com. L., 6, 99. Leight, J. R. (2004). Control concepts: a non-mathematical introduction. In Control Theory, 2nd ed., Chap. 1. (pp. 1-10). Lewis M., Y. D. (2017). Deal or No Deal? End-to-End Learning of Negotiation Dialogues. Retrieved from ArXiv, abs/1706.05125. Lewis, P. B. (2017). Wittgenstein, Aesthetics and Philosopy. Routledge. Li, J. &. (2021). Platform Economy and Internet Platform Monopoly. BP Business & Management, 13, 160-163. Li, J. Z. (2016). From trolley to autonomous vehicle: Perceptions o responsability and moral norms in traffic accidents with self-driving cars. . SAE Technical paper, 10. Li, X. &. (2014). Cloud computing for data-intensive applications. Springer. Li, X. (2021). The Art of Dance from the Perspective of Artificial Intelligence. Journal of Physics: Conference Series (Vol. 1852, No. 4), 042011. Liebermann, Y. (2020). Born digital: The Black lives matter movement and memory after the digital turn. Memory Studies. Lim, M. (2020). Algorithmic Enclaves: Affective Politics and Algorithms in the Neoliberal Social Media Landscape. In Affective Politics of Digital Media (pp. 186-203). Routledge. Linklater, A. (1996). The achivements of critical theory. In International theory: Positivism and beyond (p. 279). Liss, J. M. (2013). Creative destruction and globalization: The rise of massive standardized education platforms. Globalizations, 10(4), 557-570. List C. & Pettit, P. (2006). Group Agency and Supervenience. The Southern Journal of Philosopy, XLIV, 85105. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 374 Livingston, P. (2005). Art and intention: A philosophical study. Oxford University Press on Demand. Luetge, C. (2017). The German ethics code for automated and connected driving. Philosophy & Technology, 30(4), 547-558. Luo, X. L. (2018). CoChat: Enabling "bot" and human collaboration for task completion. . Proceedings of the AAAI Conference on Artificial Intelligence (Vol. 31, No. 1). Määtänen, P. (2015). Mind in Action, Experience and Embodied Cognition in Pragmatism. Springfield Sapare. Studies in Applied Philosophy, Epistemology and Rational Ethics. Määttänen, P. (2015). Mind in action: experience and embodied cognition in pragmatism. Springer. Sapere. Studies in applied philosophy, epistemology and rational ethics, Volume 18. Madadi, M. &. (2021). An Analysis of the Civil Liability for Environmental Damages Resulted from Cryptocurrency Mining. Journal of Environmental Science and Technology. Manrique, R. G. (2007). Yo, Robot o las Tribulaciones de un Robot Kantiano. Bioética & Derecho, 9, 1. Marks, P. (2021). Can the biases in facial recognition be fixed; also, should they? Communications of the ACM, 64(3), 20-22. Masood, T. &. (2020). Adopting augmented reality in the age of industrial digitalisation. Computers in Industry, 115, 103112. McCarthy, J. &. (1981). Some philosophical problems from the standpoint of artificial intelligence. In Readings in artificial intelligence (pp. 431-450). Morgan Kaufmann. McCarthy, J. M. (1955). A Proposal for the Darmouth Summer Research Project on Artificial Intelligence. AI Magazine, 27(4), 12. McCutcheon, M. (2018). Frankenstein and the reinvention of Technology. In The Medium is the Monster (pp. 59-85). Athabasca University Press. McLean, R. &. (2009). Social networks, football fans, fantasy and reality: How corporate and media interests are invading our lifeworld. Journal of Information, Communication and Ethics in Society. Medhat, W. H. (2014). Sentiment analysis algorithms and applications: A survey. . Aun Shams engineering journal, 5(4), 1093-1113. Meijers, A. (2007). Collective speech acts. International acts and institutional facts: Essays on John Searle's social ontology, 93-110. Mieres, L. J. (2014). El derecho al olvido digital. Fundación Alternativas. Mihhelev, A. (2019). Folk Tradition and Multimedia in Contemporary Estonian Culture. Global Contexts, National Literatures, Miscellanea, 24(2), 396-407. Milano, S. T. (2020). Recommender systems and their ethical challenges. AI & Society, 35(4), 957-967. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 375 Milgram, P. &. (1999). A taxonomy of real and virtual world display integration. Mixed reality: merging real and virtual worlds, 1(1999), 1-26. Minsky, M. (1985). Papert's Principle. In The Society of Mind (pp. 99-109). New York: Simon and Schuster Paperbacks. Minsky, M. (1985). Problems and Goals. In The Society of Mind (p. 71). New York: Simon and Schuster Paperbacks. Moon, Y. K. (2016). Voices of the internet of things: An exploration of multiple voice effects in smart homes. International Conference on Distributed, Ambient, and Pervasive Interactions (pp. 270278). Springer. Moynahan, G. (2018). The Habermas/Luhmann Controversy and the "Cybernetics Moment". Graduate Faculty Philosophy Journal, 39(1), 131-166. Murphy, M. (2005). Between facts, norms and post-national constellation: Habermas, law and European Social Policy. Journal of European Public Policy, 12:1, 143-156. Nakamura, L. (2013). Cybertypes: Race, ethnicity, and identity on the Internet. Routledge. Neff, G. (2016). Talking to bots: Symbiotic agency and the case of Tay. International Journal of Communication. Nguyen, T. T. (2019). Deep leraning for deepfakes creation and detection. Retrieved from arXiv:1909.11573.1. Niklas, L. (1998). Complejidad y modernidad: de la unidad a la diferencia. Madrid: Trotta. Niklas, L. (1998). Complejidad y modernidad: de la unidad a la diferencia. Madrid: Trotta. Noland, J. &. (2010). Stakeholder engagement, discourse ethics and strategic management. International Journal of Management Reviews, 12(1), 39-49. Nunes, M. D. (2021). Automated Trading Systems VS Manual Trading in Forex Exchange Market. (Doctoral dissertation). Obar, J. A.-H. (2020). The biggest lie on the internet: Ignoring the privacy policies and terms of service policies of social networking services. Information, Communication & Society, 23(1), 128-147. Odaci, H. &. (2013). Who are the problematic internet users? An investigation of the correlations between problematic internet use and shynes, loneliness, narcisissm, aggresion and selfperception. Computers in Human Behaviour, 29(6), 2382-2387. Oliver, N. (2021). Inteligencia artificial, naturalmente: un manual de convivencia entre humanos y máquinas para que la tecnología nos beneficie a todos. In Inteligencia artificial, naturalmente (pp. 1-161). O'Neil, C. (. (2017). Armas de destrucción matemática: cómo el big data aumenta la desigualdad y amenaza la democracia. Capitán Swing. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 376 Orozco Macias, A. F. (2021). Las redes sociales digitales como espacio para ser otro: una discusión teórica. Revista de comunicación de la SEECI, 1-17. Orts, A. C. (2014). La ética en los negocios. Auditoría interna: publicación periódica del Instituto de Auditores Internos de España, 30(105), 36-37. Özgüner Füsum, E. F., North Atlantic Traty Organization. Scientific Affairs Division, & NATO Advanced Study Institute on Parallel Computing on Distributed Memory Multiprocessors. (1993). Parallel computing on distributed memory multiprocessors (Ser. Nato asi series.series f, computer and system sciences, vol. 103). Springer-Verlag. Pais, S. C. (2019). Socialnetcrawler: online social network crawler. Proceedings of the 11th International Conference on Management of Digital EcoSystems, (pp. 16-22). Palladino, N. (2021). The role of epistemic communities in the "constitucionalization" of internet governance: the example of the european comission high-level expert group on artificial intelligence. Telecommunications Policy, 45(6), 102149. Pan, S. J. (2010). A Survey of Transfer Learning. Knowledge and Data Engineering, vol. 22, no. 10 (pp. 1345-1359). IEEE Transactions. Parfit, D. (2004). Razones y personas (Vol. 14). A. Machado Libros. Pariser, E. (2011). The filter bubble: How the new personalized web is changing what we read and how we think. Penguin. Parsons, T. (1951). The social system. London: Routledge. Peirce, C. S. (1908). El Pragmatismo. Madrid: Encuentro (2008). Peirce, C. S. (2014). Collected Papers. Retrieved from https://colorysemiotica.files.wordpress.com/2014/08/peirce-collectedpapers.pdf Petry, E. (1992). The Origin and Development of Peirce's Concept of Self-Control. Transactions of the Charles S. Peirce Society, 28(4), 667-690. Pierrakos, O., Prentice, M., Silverglate, C., Lamb, M., Demaske, A., Smout, R., & 2019 IEEE Frontiers in Education Conference (FIE). (2019). Reimagining engineering ethics: from ethics education to character education. IEEE frontiers in education conference (FIE) (pp. 1-9). Covington, KY, USA: essay, IEEE. Pinna, R. M. (2018). The Unbiased Hiring? A critical analysis of Artificial Intelligence in e-HRM: the case of Pymetrics. 7th International e-HRM Conference. Popper, K. R. (1968). Epistemology without a knowing subject. In Studies in Logic and the Foundations of Mathematics (Vol. 52). Elsevier. Ramalho, A. (2017). Will robots rule the (artistic) world? A proposed model for the legal status of creations by artificial intelligence systems. Aplicabilidad de la Teoría de la Acción Comunicativa de Jürgen Habermas al impacto social y ético de la Inteligencia Artifical 377 Ravi, H. (2018). Application of artificial intelligence in investment banks. Review of Economic and Business Studies, 11(2), 131-136. Rawls, J. (1993). Political liberalism. Columbia University Press. Ray, L. (2004). Pragmatism and Critical Theory. European Journal of Social Theory, 7(3), 307-321. Redacción. (2021, 09 19). Inteligencia Artificial: cuando chatear con tu pareja facllecida hace años lo cambia todo. La Vanguardia. Rezende, I. N. (2020). Facial recognition in police hands: Assesing the 'Clearview case' from European perspective. New Journal of European Criminal Law, 11(3), 375-389. Rikap, C. (2020). Amazon: A story of accumulation through intellectual rentiership and predation. Competition & Change. Rodríguez Pérez, C. (2020). Una reflexión sobre la epistemología del fact -checking journalism: retos y dilemas. Revista de Comunicación, 19(1), 243-258. Roff, H. M. (2016). Meaningful human control, artificial intelligence and autonomous weapons. Briefing Paper Prepared for the Informal Meeting of Experts on Lethal Autonomous Weapons Systems. Rogers, B. (2016). Emplyment rights in the platform economy: getting back to basics. Harv. L. & Pol'y, 10, 479. Rojas, A. R. (2004). Espacio y tiempo en las sociedades globales según Manuel Castells. Revista Praxis, (57), 59-64. Romanes, G. J. (1884). The criterion of mind. In M. E. Animales. New York: D. Appleton and Company. Ruiz, G. (2013). La teoría de la experiencia de John Dewey: significación histórica y vigencia en el debate teórico contemporáneo. Foro de Educación, 11(15), 103-124. Russell, S. &. (2005). Agentes Inteligentes. In Inteligencia Artificial: Un Enfoque Moderno (pp. 37-67). Madrid: Pearson Educación. Sadler, W. R. (1981). Free Lance Artists, Work for Hire and the Copyright Act of 1976. UC Davis L. Rev., 15, 703. Salvá, P. (1970). Habermas, Rorty y la relación entre la verdad y la justificación. Logos. Anales del Seminario de Metafísica, 50. Sánchez, M. D. (2020). Inteligencia Artificial y oportunidad de creación de una personalidad electrónica. Ius et Scientia, 6(2), 83-95. Sartor, G. (2020). New aspects and challenges in consumer protection. Retrieved from https://www.europarl.europa.eu/RegData/etudes/STUD/2020/648790/IPOL_STU(2020)648790 _EN.pdf [Document text truncated for crawler view.]