Desafíos epistemológicos en la era de las redes neuronales artificiales: abordando sistemas complejos desde una perspectiva computacional

DOI: http://doi.org/10.12795/Argumentos/2023.i26.06 Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 DESAFÍOS EPISTEMOLÓGICOS EN LA ERA DE LAS REDES NEURONALES ARTIFICIALES: ABORDANDO SISTEMAS COMPLEJOS DESDE UNA PERSPECTIVA COMPUTACIONAL EPISTEMOLOGICAL CHALLENGES IN THE ERA OF ARTIFICIAL NEURAL NETWORKS: ADDRESSING COMPLEX SYSTEMS FROM A COMPUTATIONAL PERSPECTIVE ERICK RUBIO [email protected] Universidad del Atlántico, Colombia - Grupo FiloComplex, Sociedad Argentina de Análisis Filosófico, Argentina LEANDRO GIRI [email protected] Universidad Nacional de Tres de Febrero - Consejo Nacional de Investigaciones Científicas y Técnicas (CONICET) - Grupo FiloComplex, Sociedad Argentina de Análisis Filosófico, Argentina ANDRÉS ILCIC [email protected] Instituto de Investigaciones Filosóficas de la Sociedad Argentina de Análisis Filosófico, Consejo Nacional de Investigaciones Científicas y Técnicas (IIF-SADAF-CONICET) - Grupo FiloComplex, Sociedad Argentina de Análisis Filosófico , Argentina RECIBIDO: 22/08/2023 ACEPTADO: 24/11/2023 Resumen: En este artículo se explora un enfoque “manipulacionista” en la investigación científica, utilizando redes neuronales artificiales para abordar ERICK RUBIO – LEANDRO GIRI – ANDRÉS ILCIC Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 146 sistemas complejos. Se destaca la capacidad de estas redes para resolver problemas y representar patrones de comportamiento en estos sistemas. Además, se enfatiza la importancia de superar las limitaciones de los métodos analíticos tradicionales mediante métodos computacionales y la visualización de grandes cantidades de datos. El artículo toma como ejemplo significativo el problema del plegamiento de proteínas y el éxito de AlphaFold2 en este campo. Se plantea la necesidad de explorar las implicaciones epistemológicas más amplias de las simulaciones computacionales en la investigación científica, considerando la relación entre precisión predictiva y comprensión de los sistemas complejos estudiados. La estructura del trabajo se divide en cuatro secciones, que incluyen el estudio de sistemas complejos, el problema del plegamiento de proteínas y una discusión filosófica sobre los modelos de simulación computacional y las redes neuronales artificiales; además de una sección de comentarios finales. En conjunto, se enfatiza la relevancia de este enfoque para abordar sistemas complejos y su impacto en la filosofía de la ciencia. Palabras clave: sistemas complejos; redes neuronales artificiales; AlphaFold2; manipulacionismo; transparencia epistémica Abstract: The article delves into a “manipulationist” approach in scientific research, utilizing artificial neural networks to tackle complex systems. It highlights the networks' capacity to resolve problems and portray behavioral patterns within these intricate systems. Moreover, it underscores the significance of surmounting the limitations posed by traditional analytical methods through computational techniques and the visualization of vast amounts of data. The article specifically focuses on the issue of protein folding and mentions the achievements of systems like AlphaFold2 in this domain. It highlights the necessity to explore the broader epistemological implications of computational simulations in scientific research, taking into account the interplay between predictive accuracy and the comprehension of the studied complex systems. The work is structured into four sections, encompassing the study of complex systems, the problem of protein folding, a philosophical discussion on computational simulation models and artificial neural networks, and concluding with final remarks. Overall, it underscores the significance of this approach in addressing complex systems and its profound impact on the philosophy of science. Keywords: Complex systems; artificial neural networks; AlphaFold2; manipulationism; epistemic transparency DESAFÍOS EPISTEMOLÓGICOS EN LA ERA DE LAS REDES Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 147 Introducción En este artículo se explora la posibilidad de un abordaje metodológico científico de tipo «manipulacionista 1 », en el que las técnicas de experimentación computacionales puedan ser una herramienta fructífera para el abordaje de sistemas complejos. En esta dirección, se examinará la capacidad de las simulaciones computacionales para resolver problemas concretos, a partir de la identificación de patrones de comportamiento de sistemas complejos y su representación científica. 1 Es importante señalar que, si bien el término suele hacer referencia a cierta tradición en filosofía de la ciencia acerca de las explicaciones causales, con James Woodward a la cabeza, en el desarrollo de este trabajo no se hace mención, salvo en esta referencia, a James Woodward, tratando de tomar cierta distancia del problema de la explicación científica, y sobre todo de la causalidad. En el estudio de los sistemas complejos, dada sus características, no parece ser una estrategia favorable intentar un abordaje ligado a la causalidad. Piénsese, por ejemplo, en los impulsos nerviosos espontáneos que se dan en nuestro cerebro: el análisis de la causación interniveles genera enormes dificultades para dar cuenta de este fenómeno y otros por el estilo. El manipulacionismo de Woodward está pensado básicamente dentro de un contexto experimental empírico -de laboratorio-, donde se podría variar sistemáticamente las condiciones iniciales para obtener un mayor convencimiento de que ciertas condiciones son capaces de hacer aparecer un resultado particular, y ese proceso muestra que son esas y no otras las condiciones que lo causan. Woodward (p.e. 2003) está considerando el auge de la biología molecular a partir del desarrollo de técnicas e instrumentos para secuenciar y manipular por ejemplo moléculas concretas de ADN. A partir de una manipulación controlada de esta molécula se pueden obtener explicaciones causales, por ejemplo, de ciertas enfermedades. En cambio, como se verá, el manipulacionismo de nuestro enfoque actual sería principalmente de carácter virtual, algorítmico, abriendo incluso fuertemente la posibilidad a un automanipulacionismo que se distanciaría aún más de la propuesta woodwardiana. En el entrenamiento de una red neuronal podría modificarse el modelo subyacente con el que se estaría intentando abordar la dinámica del sistema. ERICK RUBIO – LEANDRO GIRI – ANDRÉS ILCIC Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 148 Debido a sus características, los sistemas complejos difícilmente pueden ser tratados ni satisfactoria ni exclusivamente por métodos analíticos tradicionales, pues los mismos solo tienen un alcance limitado y, en el mejor de los casos, éxito muy parcial (Lenhard, 2016; Vicsek, 2002). El tipo de aproximación que ha logrado tratar con cierto éxito a los sistemas complejos está basado principalmente en el uso intensivo e imprescindible de métodos computacionales de diversa clase (Vicsek, 2002) y la representación visual de enormes cantidades de datos (Lenhard, 2017). Un análisis de lo anterior arroja que se debe renunciar, al menos parcialmente, a las pretensiones epistémicas normativas (y, quizás en algunos casos, incluso a las de comprensión) para poder tratar adecuadamente estos fenómenos (Lenhard, 2016). ¿Qué se entiende aquí por “éxito”? Como defendemos en este trabajo, no se trata de transparencia epistémica ni de entendimiento, mucho menos en términos del establecimiento de teorías generales; sino más bien de la solución de problemas particulares en contextos determinados, sobre los que se logra una comprensión parcial por la articulación de modelos distintos, cada uno de los cuales enfatiza algunas de las propiedades del sistema complejo bajo estudio. En los últimos tiempos, las redes neuronales artificiales han sido objeto de discusión en la filosofía de la ciencia (Gao & Ganguli, 2015; Churchland & Sejnowski, 2016; Paninski & Cunningham, 2018; Chirimuuta, 2020), al ser consideradas como una forma de simulación computacional para abordar sistemas complejos; a veces como modelo propiamente y en otros casos como una técnica de procesamiento de datos. La dinámica de activación en las neuronas artificiales simularía (imitaría rudimentariamente), por ejemplo, la dinámica de las neuronas biológicas (Rumelhart et al., 1986). Suponiendo esto, lo que se buscaría básicamente sería extrapolar algunos resultados en el estudio dinámico de uno de los sistemas hacia el otro sistema en consideración, y la extrapolación se haría a DESAFÍOS EPISTEMOLÓGICOS EN LA ERA DE LAS REDES Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 149 partir de los resultados obtenidos del empleo de ordenadores en el abordaje dinámico de uno de los sistemas (Hartmann, 1996). Este proceder, justamente en el terreno del que sea quizá el sistema complejo por excelencia, a saber: nuestro cerebro, está abriendo flancos promisorios de ataque para avanzar un poco más en su comprensión. Por ejemplo, Timothy P. Lillicrap, junto con Geoffrey Hinton, entre otros, en un interesante artículo titulado ‘Backpropagation and the brain’ (Lillicrap et al., 2020), exploran la posibilidad de que en ciertas áreas de la corteza cerebral se pueda dar una suerte de implementación de uno de los algoritmos más destacados en el entrenamiento de las redes neuronales artificiales como lo es el algoritmo de retropropagación del error. Además, estas redes tienen la capacidad de “aprender” y adaptarse continuamente a partir de la experiencia, lo que las convierte en herramientas poderosas para la resolución de problemas de gran complicación, como el plegamiento de las proteínas, donde sistemas como AlphaFold2 ha dado un gran avance recientemente. En la literatura filosófica, se ha generado una controversia acerca de la justificación de las redes neuronales artificiales como herramientas para la investigación científica y la evaluación de sus resultados (Gao & Ganguli, 2015; Churchland & Sejnowski, 2016; Paninski & Cunningham, 2018). Algunos autores defienden su uso argumentando que proporcionan resultados precisos y útiles (Rumelhart et al., 1986; Lillicrap & Kording, 2019), mientras que otros cuestionan si son capaces de ofrecer una explicación adecuada de los fenómenos investigados (Gao & Ganguli, 2015; Pearl & Mackenzie, 2018). En este contexto, Mazviita Chirimuuta (2020), por ejemplo, ha señalado que la investigación en decodificación —del cerebro en general y del neocórtex en particular— en la neurociencia ERICK RUBIO – LEANDRO GIRI – ANDRÉS ILCIC Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 150 computacional revela un balance entre la precisión predictiva 2 y la capacidad de los modelos por simulación computacional —más concretamente por redes neuronales artificiales— para conferir comprensión. Según esta perspectiva, el progreso en la precisión predictiva no se traduce en un avance en la comprensión del sistema complejo objeto de estudio; en su caso, en una comprensión del cerebro. Ante la crítica de que el aprendizaje automático no produce un nivel aceptable de comprensión, algunos neurocientíficos (Bashivan et al., 2019, p. 1) sugieren redefinirla como la capacidad de predecir y controlar: en este caso, al cerebro. Chirimuuta defiende una noción no-factivista de la comprensión científica, que considera que los modelos reducen la complejidad natural a un tamaño manejable por los humanos mediante la abstracción e idealización. 3 En este marco, la inteligibilidad de los modelos se ve comprometida cuando se despliegan algoritmos como las redes neuronales artificiales. En otras palabras, la discusión acerca del valor de la comprensión como fin en sí mismo, no solo como medio hacia la predicción y el control, se presenta en el contexto del compromiso descrito por Chirimuuta. 4 En definitiva, se plantea la necesidad de explorar las implicaciones de las simulaciones computacionales en la 2 Sobre lo que podría considerarse el ‘giro predictivo’, particularmente en neurociencias, ver, por ejemplo: Weiskopf (2022) 3 Para un tratamiento comprehensivo del problema de la abstracción e idealización de los modelos científicos ver, por ejemplo: Frigg (2022, cap. 11). 4 La idea de comprensión suele estar asociada a la idea de encontrar, para los sistemas bajo estudio, los mecanismos causales (Durán, 2018). Sin embargo, para el caso de modelos que se construyen mediante enormes bases de datos y algoritmos de inteligencia artificial capaces de procesarlos en busca de correlaciones, se ha argumentado (Napoletani, Panza & Struppa, 2011; Mayer- Schomberg & Cukier, 2013) que la investigación correlacional debe reemplazar a la causal. En el presente trabajo, por motivos que iremos justificando durante su desarrollo, exploramos esta vía de razonamiento para los sistemas complejos y su análisis mediante simulaciones por redes neuronales. DESAFÍOS EPISTEMOLÓGICOS EN LA ERA DE LAS REDES Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 151 investigación científica desde una perspectiva epistemológica más amplia; una perspectiva que tome fuertemente en consideración a los sistemas complejos. El trabajo consta de cuatro secciones. En la primera se aborda el estudio de los sistemas complejos, que resulta inherentemente complicado por el surgimiento de propiedades emergentes, las cuales acarrean dificultades epistemológicas y metodológicas para su abordaje predictivo y explicativo. También se trabaja sobre los fenómenos de autoorganización, en tanto hacen a otra característica típica de estos sistemas. En la segunda se aborda el problema del plegamiento de proteínas y el avance significativo en su resolución logrado por AlphaFold, un sistema de redes neuronales artificiales desarrollado por la compañía DeepMind. El plegamiento de las proteínas es un desafío científico importante que ha interesado a investigadores en áreas como la biología, la bioquímica y la biomedicina durante décadas, y que nos servirá aquí de ejemplar paradigmático para señalar el modo en que la manipulación de parámetros relevantes de la dinámica del sistema a través de simulaciones “no clásicas” permite la identificación de patrones y correlaciones complejas difíciles de hallar por métodos analíticos y experimentales tradicionales. En la tercera sección se lleva a cabo una discusión filosófica sobre los modelos de simulación computacional y las redes neuronales artificiales. Se argumenta que estos métodos de simulación, especialmente las redes neuronales, son herramientas poderosas para abordar sistemas complejos con una gran cantidad de elementos, pues permiten explorar las posibles consecuencias en las dinámicas de estos sistemas al alterar parámetros relevantes. Ello, argumentamos, conlleva consecuencias epistemológicamente relevantes que exploraremos con cierto detalle. Finalmente, presentaremos algunas conclusiones. ERICK RUBIO – LEANDRO GIRI – ANDRÉS ILCIC Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 152 Aproximación a los sistemas complejos Como suele ocurrir a la hora de dar una definición concreta del objeto que estudia un nuevo campo de actividad científica, se tiende a partir de definiciones poco concretas, con términos que tienen muchos referentes posibles, algunos incluso con la misma dificultad definicional que el campo que se quiere delimitar. Esto es lo que sucede al aproximarse al campo de los sistemas complejos. Una primera aproximación que responde a muchas de las inquietudes de quienes dieron forma al campo ha sido el estudio de aquellos sistemas que exhiben características emergentes no triviales y comportamientos autoorganizados (Mitchell, 2009, p. 13). Ahora bien, a la hora de caracterizar qué constituye una propiedad emergente o un comportamiento autoorganizado, se tiende rápidamente a brindar una suerte de definición negativa, es decir, una por la vía de “aquello que no”: [Los] sistemas en los que los comportamientos organizados surgen sin un regulador o líder interno o externo son algunas veces llamados sistemas autoorganizados. Debido a que simples reglas producen comportamientos complejos en cierta manera difíciles de predecir, el comportamiento macroscópico de estos sistemas es algunas veces llamado emergente. (Mitchell, 2009, p. 13. nuestro énfasis) Aunque aún no parece haber consenso sobre cómo definir a estos sistemas, sí se han logrado identificar ciertos rasgos distintivos, muchos de ellos en términos de la incapacidad de someterse a cierto tipo de descripción o de metodología de resolución de problemas característicos o paradigmáticos de los contextos de producción de conocimiento sobre otras clases de sistemas o fenómenos. Aquí nos DESAFÍOS EPISTEMOLÓGICOS EN LA ERA DE LAS REDES Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 153 concentramos en dos aspectos íntimamente relacionados: la emergencia y la autoorganización. Emergencia El fenómeno de la complejidad suele ser visto como uno fuertemente asociado al de la emergencia (Bunge, 2004; Mitchell, 2009, 2004; Gell-Mann, 1998; Taylor, 2001); fenómeno en el que surgen propiedades globales irreductibles explicativamente a las propiedades de los (muchísimos) componentes (considerados bajo cierto nivel de organización) de un sistema, que dan lugar a ellas mediante sus múltiples interacciones no lineales. 5 Las propiedades emergentes pueden tomarse entonces como propiedades de un objeto complejo que ni sus constituyentes ni sus precursores poseen (Bunge, 2004, p. 20; Johnson, 2003). Ello no quiere decir que sean propiedades que no se puedan abordar a partir de los componentes del sistema o su trayectoria. Más bien, no se pueden explicar a partir únicamente de las propiedades de sus partes constitutivas, puesto que se requiere conocer el tipo de interacción que están teniendo dichas partes, y, sobre todo, el conjunto de valores paramétricos –e hiperparamétricos 6 – que bajo estas 5 La no linealidad se refiere aquí a una relación entre variables donde el cambio en una de ellas no produce un cambio de magnitud proporcional en la otra. Es decir, no siguen una relación directamente proporcional. En cambio, la relación puede ser compleja y extremadamente difícil de predecir. 6 La noción de hiperparámetro juega un rol muy importante en el tipo de enfoque aquí propuesto; a saber, uno basado principalmente en redes neuronales artificiales. En este sentido debemos diferenciar la estructura hiperparamétrica del modelo (cantidad de capas, cantidad y tipo de neuronas, etc.), de la estructura de parámetros que surge (o emerge) luego del entrenamiento del modelo. Por citar algunos ejemplos: para identificación o clasificación de imágenes, se modelan redes neuronales convolucionales; para predicciones en series de tiempo, redes recurrentes; para procesamiento de textos, redes recurrentes o Transformers; todas ellas con una estructura hiperparamétrica particular muy diferente y que facilita ERICK RUBIO – LEANDRO GIRI – ANDRÉS ILCIC Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 160 muchos campos, incluyendo la medicina, la ingeniería de proteínas y la biotecnología. La red neural artificial de aprendizaje profundo utilizada por el equipo de DeepMind para obtener un modelo tridimensional de la proteína, a partir de la secuencia de aminoácidos que la constituye, se conoce como AlphaFold. La misma es heredera de las capacidades ingenieriles de la empresa, que ya había ostentado un éxito abrumador con las versiones AlphaGo y AlphaZero, desarrolladas para jugar al Go y al ajedrez respectivamente: juegos en los que se evidencia que una exploración de todas las posibles partidas para determinar estrategias conducentes a una victoria resulta imposible. El abanico de posibilidades de combinaciones de movimientos es prácticamente infinito (Evans et al., 2018). Al igual que en AlphaFold, claramente, la búsqueda no puede ser exhaustiva. La misma se realiza mediante un árbol de búsqueda de Markov; 8 esto es, un árbol de búsqueda aleatorio. Si bien se realiza con cierta dosis de aleatoriedad, esta es guiada con la intervención del algoritmo del descenso del gradiente 9 (gradient descent), junto al de backpropagation (Nielsen, 2015) o retropropagación del error. Este 8 En un árbol de búsqueda de Markov, se representa un problema de toma de decisiones secuenciales, donde cada nodo del árbol representa un estado del sistema y cada arista representa una acción que se puede tomar en ese estado. Además, cada nodo contiene información sobre la recompensa asociada con ese estado y la probabilidad de transición a otros estados. El árbol de búsqueda de Markov se construye de manera recursiva, explorando el espacio de posibles acciones y estados futuros a partir del estado actual. Una de sus ventajas es su capacidad para modelar y resolver problemas complejos de toma de decisiones secuenciales en entornos inciertos. (Ver, por ejemplo, Puterman, 1990) 9 Más concretamente, el algoritmo del descenso del gradiente estocástico (SGD) y el descenso del gradiente adaptativo (Adam). Este último, en lugar de usar una tasa de aprendizaje constante como ocurre en el descenso del gradiente estándar, adapta la tasa de aprendizaje en función de los momentos del gradiente de los parámetros, lo que de alguna manera facilita o permite que esta se adapte automáticamente a la topología del modelo y a la naturaleza de los datos. DESAFÍOS EPISTEMOLÓGICOS EN LA ERA DE LAS REDES Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 161 algoritmo permite ir minimizando de manera iterativa la función de error, o el coste del modelo, seleccionando un subconjunto aleatorio de los datos para su entrenamiento (mini-batch) y analizando en cada caso la distancia con una solución conocida. Lo que se hace con este algoritmo es básicamente moverse en el espacio de búsqueda (traducido a la superficie de la función de coste) intentando encontrar mínimos locales mediante la manipulación de los valores de los parámetros considerados en dicho modelo. Así, la esencia del algoritmo consiste en actualizar los pesos del modelo en la dirección del gradiente negativo utilizando en cada actualización o iteración un subconjunto aleatorio de los datos seleccionados para su entrenamiento. Para el caso de AlphaFold, los parámetros considerados para la modelización son las distancias que separan a los aminoácidos que constituyen a la proteína y los ángulos de torsión de los enlaces químicos de dichos constituyentes (aminoácidos). Afirman los creadores de AlphaFold que […] Las propiedades que predicen nuestras redes son: (a) las distancias entre pares de aminoácidos y (b) los ángulos entre los enlaces químicos que conectan esos aminoácidos. […] Entrenamos una red neuronal por separado para predecir una distribución de distancias entre cada par de residuos en una proteína. Estas probabilidades se combinaron en una puntuación que estima cuán precisa es una estructura de proteína propuesta. También entrenamos una red neuronal separada que usa todas las distancias en conjunto para estimar qué tan cerca está la estructura propuesta de la respuesta correcta. Usando estas funciones de puntuación, estuvimos en capacidad de buscar en el paisaje de proteínas para encontrar estructuras que coincidieran con nuestras predicciones. Nuestro primer método se basó en técnicas comúnmente utilizadas en biología estructural, y se reemplazaron repetidamente piezas de una estructura proteica con nuevos fragmentos. Entrenamos una red neuronal generativa para ERICK RUBIO – LEANDRO GIRI – ANDRÉS ILCIC Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 162 inventar nuevos fragmentos, que se utilizaron para mejorar continuamente la puntuación de la estructura proteica propuesta. El segundo método optimizó los puntajes a través del descenso del gradiente –una técnica matemática comúnmente utilizada en el aprendizaje automático para realizar pequeñas y crecientes mejoras–, lo que resultó en estructuras altamente precisas. (Evans et al., 2018, s/p) Se intenta mostrar con lo anterior que un punto clave en el gran adelanto de resolución de este problema, que lleva algo más de cincuenta años de planteado, consistió en la manipulación y exploración de las consecuencias de dicha manipulación, vía modelo y simulación computacional, de los parámetros estimados relevantes en la dinámica del sistema. Esta exploración, dada la enorme cantidad de combinaciones de valores involucrados en el fenómeno emergente a explicar –la funcionalidad de la proteína–, no puede darse de manera exhaustiva, sino más bien aleatoriamente. A partir del conocimiento de las propiedades fisicoquímicas de los aminoácidos constituyentes de una proteína particular resulta impensable deducir la estructura o configuración específica que la hace funcional, requiriéndose entonces vías alternativas. Las redes neuronales artificiales son una herramienta que permiten dar cuenta de la interacción no lineal de muchísimos elementos. Esto representa una estrategia con la que se podría dar un tipo de aproximación no analítica de fenómenos emergentes como los que interesan en el estudio de los sistemas complejos. Se habla de aproximaciones no analíticas en el sentido de que en ellas no se parte estrictamente de un análisis de los contenidos de conocimiento de los elementos involucrados en el fenómeno –emergente– a explicar para poder dar cuenta de este. Se parte más bien de una suerte de manipulación o intervención, por medio de simulaciones computacionales de dichos elementos involucrados, hasta obtener una correlación entre el fenómeno a explicar y los valores de ciertos parámetros considerados relevantes en la dinámica del sistema y que DESAFÍOS EPISTEMOLÓGICOS EN LA ERA DE LAS REDES Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 163 se pueden codificar bajo los parámetros de otro sistema sobre el que la manipulación es más factible. En este sentido, el enfoque de simulación computacional permite identificar patrones y correlaciones que podrían pasar desapercibidos con un enfoque analítico tradicional, o bien directamente ser imposibles de lograr. El carácter “manipulacionista” de este tipo de aproximaciones radica en la posibilidad de manipular a gran escala los parámetros de la simulación para obtener resultados específicos y correlacionarlos con los datos del fenómeno a explicar (Vicsek, 2002), de hecho, guiando la manipulación hacia una mejor representación de la relación entre entradas y salidas. Así, se podría decir que la importancia de las correlaciones en la epistemología radica en la posibilidad de identificar patrones y relaciones emergentes que podrían ser difíciles de detectar mediante métodos analíticos tradicionales, y que la simulación computacional es una herramienta útil para identificar estas correlaciones y generar nuevas hipótesis. Es importante resaltar que la limitación de un acercamiento expresamente analítico al fenómeno de la emergencia, y en general al fenómeno de la complejidad, va más allá de la dificultad de encontrar esquemas generales aplicables a estos fenómenos. En principio, mediante el sistema de ecuaciones diferenciales parciales para representar la función de onda de Schrödinger se podría determinar la configuración molecular que pretendamos. Sin embargo, con estas ecuaciones diferenciales parciales, a partir de más de diez partículas, no es ya sólo que una solución analítica resulta prácticamente imposible, sino que, además, una solución por aproximación numérica resulta en extremo difícil, aun con el poder de cálculo que presentan hoy en día los computadores más poderosos de los que disponemos (Laughlin & Pines, 2000). Piénsese que sólo estamos considerando algo más de diez partículas. La situación para el problema del plegamiento de proteínas es extremadamente ERICK RUBIO – LEANDRO GIRI – ANDRÉS ILCIC Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 164 inmanejable desde la función de onda de Schrödinger, ya que en una proteína intervienen cientos de miles de partículas. Sin embargo, como se ha podido observar con el ejemplo de AlphaFold, a partir de la identificación de ciertos parámetros y de la exploración, posibilitada por simulaciones computacionales de las consecuencias de la manipulación de un amplio conjunto de valores paramétricos, ha resultado una estrategia conducente a resultados positivos. AlphaFold, u otros sistemas exitosos cuyos resultados sorprendentes no eran previsibles a partir de las propiedades individuales de sus componentes (neuronas), posee una estructura de hiperparámetros diseñada muy cuidadosamente para tal fin. En este diseño podemos ver que sí hubo una intervención ‘analítica’ más o menos precisa: por ejemplo, una decisión clara de diseño está implicada en la selección específica como parámetros de las distancias que separan a los aminoácidos que constituyen a la proteína. Además, incluso hasta el algoritmo del descenso de gradiente tiene una justificación totalmente analítica: ¿por qué utilizar las derivadas parciales para actualizar los parámetros en cada iteración y no utilizar otro método, o simplemente el azar puro? Claro está que en el diseño hiperparamétrico de cualquier sistema de aprendizaje automático existe una importante intervención de conocimiento de tipo teórico y técnico, tanto del dominio de aplicación (en nuestro ejemplo, la bioquímica) como de la ingeniería computacional. También es claro que las propiedades globales específicas que finalmente resulten del aprendizaje del sistema no son explicables ni predecibles con total transparencia de modo analítico, al menos en la mayoría de los casos. Esto es lo que suele denominarse el “problema de la caja negra” (Durán & Jongsma, 2021; Zednik, 2019). Sin embargo, sí existe la posibilidad de prever sus características mediante el diseño de hiperparámetros de un modo analítico. Además, si bien las propiedades globales no pueden preverse de DESAFÍOS EPISTEMOLÓGICOS EN LA ERA DE LAS REDES Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 165 antemano, más allá de sus características generales, en algunos casos sí pueden explicarse a posteriori: los casos donde los resultados de la red neuronal pueden entenderse bajo ciertas explicaciones observables en el sistema del mundo real que el sistema artificial está modelando (en dichos casos, podríamos rastrear la “lógica” seguida por la red, aunque hacerlo quizás no nos diga mucho en última instancia del fenómeno que estamos intentando comprender, dado su comportamiento emergente). Discusión filosófica sobre modelos de simulación computacional y redes neuronales artificiales En este artículo se pretende sostener que, en el abordaje de sistemas complejos, constituidos de cantidades abrumadoras de elementos, algunos métodos de simulación computacional (aquí nos enfocamos en las redes neuronales) han resultado una poderosa herramienta, principalmente porque han permitido una exploración –no sin cierta opacidad– manipulacionista de posibles consecuencias en sus dinámicas a partir de ciertas alteraciones en alguno o algunos de los parámetros estimados relevantes para intentar dar cuenta de dicha dinámica. El asunto es que la exploración facilitada por las redes neuronales no puede ser exhaustiva, como bien se intentó evidenciar con el ejemplo del problema del plegamiento de proteínas. Incluso para los potentes ordenadores de los que se disponen hoy día, explorar exhaustivamente las posibles consecuencias en la dinámica de los sistemas complejos de alterar los valores de ciertos parámetros estimados relevantes en el intento de dar cuenta de dicha dinámica bajo cierto modelo resultaría una tarea de nunca acabar. Si bien se establecen determinados criterios para la exploración, aun dentro del dominio de valores paramétricos resultante la exploración ERICK RUBIO – LEANDRO GIRI – ANDRÉS ILCIC Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 166 exhaustiva resultaría algo improcedente. Así, una vez establecidos ciertos criterios para la exploración en cuestión que trazan ciertas “rutas de tránsito” preliminarmente plausibles —que bien podríamos tratar de heurísticas—, el movimiento exploratorio se da más bien de manera aleatoria. En definitiva, en las redes neuronales artificiales de aprendizaje profundo —que son las de nuestro interés—, se presenta una situación epistemológica novedosa, y es una suerte de opacidad frente a lo que está ocurriendo en detalle en la búsqueda exploratoria de los valores de ciertos parámetros que se correlacionan con el fenómeno complejo/emergente a abordar. 10 Con las redes neuronales artificiales se sabe qué es lo que está ocurriendo en términos generales en el despliegue del modelo subyacente que está siendo ejecutado –mediante la estructura 10 Lo que se tiene en el ámbito de las redes neuronales es una opacidad epistémica más profunda que la teorizada por Paul Humphreys (2004; 2009) quien la definía del siguiente modo: “un proceso es esencialmente epistémicamente opaco a [un agente cognitivo] X si y sólo si es imposible, dada la naturaleza de X, para X conocer todos los elementos epistémicamente relevantes del proceso (Humphreys, 2009, p. 618). Para Humphreys, las simulaciones computacionales son epistémicamente opacas por la incapacidad humana de conocer la evolución de todos los elementos epistémicamente relevantes de los procesos computacionales mientras ocurren. Si bien la opacidad epistémica no sería exclusiva de los procesos computacionales, la naturaleza de la tecnología involucrada (Hardware y Software) la haría especialmente acuciante allí, toda vez que muchas de las operaciones que allí suceden lo hacen a un nivel muy bajo, lejos del usuario. Humphreys menciona la opacidad con relación al uso de simulaciones computacionales utilizadas para estudiar targets del mundo real. Sin embargo, las simulaciones que analiza Humphreys son auditables (su código es accesible, y fue programado manualmente por expertos humanos), cosa que no sucede con las simulaciones con redes neuronales, donde las ‘lógicas’ utilizadas para llegar a los modelos finales, como veremos, son mucho menos transparentes toda vez que los parámetros se logran en procesos que involucran aprendizaje automático y el procesamiento de enormes bases de datos. Sin embargo, aun con esta opacidad, veremos que es posible obtener conocimiento útil también de las redes neuronales. DESAFÍOS EPISTEMOLÓGICOS EN LA ERA DE LAS REDES Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 167 hiperparamétrica–, pero es prácticamente imposible determinar de antemano cuáles serán los valores finales de los parámetros aprendidos, dado que es muy difícil determinar a priori a qué mínimo local convergerá el sistema en su proceso de aprendizaje por el descenso del gradiente y, mucho más, cuáles serán los muchísimos parámetros aprendidos que conducirán a este mínimo error local. Es más, se diseña una programación de una naturaleza muy distinta a aquella en la que se dan las instrucciones precisas de qué hacer, más bien aquí se dota de suficiente variabilidad para que el algoritmo encuentre una serie de valores (como los numerosos parámetros que representan la intensidad de la conexión entre las neuronas de la arquitectura) que optimizan una métrica con respecto a un conjunto de datos. En esta búsqueda, el azar está implicado en la inicialización de variables y en otros procesos tales como la conformación de lotes aleatorios en el descenso del gradiente estocástico. Pero, más allá del azar implicado, lo que resulta prácticamente imposible es la determinación o previsión a priori de los mínimos locales existentes y a cuál de dichos mínimos la red convergerá: es la complejidad del problema y no el aspecto parcialmente no determinista lo que impide un tratamiento analítico tradicional. El azar, de hecho, es un recurso necesario, similar a como lo es en los métodos llamados Monte Carlo (Galison, 1996). Los modelos de redes neuronales artificiales son una herramienta útil para resolver problemas computacionales complejos, pero su opacidad epistémica es un tema de discusión, por ejemplo, entre los expertos en la neurociencia, y, sobre todo, recientemente, en el terreno de la filosofía de la ciencia (Barak, 2007; Chirimuuta, 2020; Durán & Jongsma, 2021; Lipton, 2006). Aunque los constructores del modelo conocen muchas características de su arquitectura y funcionamiento interno, la forma exacta en que una red llega a sus predicciones o clasificaciones a menudo es bastante opaca para ellos. Esta opacidad se refleja en el término “caja negra”, que se utiliza ERICK RUBIO – LEANDRO GIRI – ANDRÉS ILCIC Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 168 para describir dispositivos o piezas de código que transforman entradas en salidas sin proporcionar ninguna indicación del método detrás de esta operación (Chirimuuta, 2020, p. 3). En cuanto a esto, Omri Barak, por ejemplo, señala que “el aprendizaje automático nos proporciona niveles mayores de rendimiento, acompañados de un aumento paralelo en la opacidad” (2007, p. 5). Sin embargo, no sería del todo preciso afirmar que las redes neuronales artificiales son completamente opacas, ya que los creadores del modelo tienen conocimiento de varias características de su estructura y funcionamiento interno. Además, conocemos la conectividad completa de la red, la dinámica de cada neurona individual, la regla de plasticidad utilizada para entrenar la red y, de hecho, toda la experiencia de desarrollo de la red (Chirimuuta, 2020, p. 3). El problema no menor que surge consiste en poder ofrecer una caracterización de los grados relativos de transparencia y opacidad exhibidos por diferentes modelos. Frente a esto, un punto de partida interesante puede ser la noción de ‘inteligibilidad’. De acuerdo con De Regt y Dieks (2005, p. 143), la falta de inteligibilidad impide que un predictor perfecto de tipo caja negra, conocido como un oráculo, sea considerado una teoría científica válida. Según su perspectiva, una teoría científica debe ser comprensible, lo cual implica la capacidad de entender cómo se generan las predicciones y desarrollar un entendimiento de las consecuencias que la teoría tiene en situaciones específicas. La inteligibilidad no se limita a un componente psicológico adicional, sino que es fundamental para la habilidad de los científicos para utilizar las teorías (Chirimuuta, 2020, p. 3). De Regt reelabora una idea presentada originalmente por Werner Heisenberg y respaldada luego por Richard Feynman para caracterizar la inteligibilidad: Criterio de Inteligibilidad (CIT): una teoría científica T (en una o más de sus representaciones) se considera comprensible para los científicos DESAFÍOS EPISTEMOLÓGICOS EN LA ERA DE LAS REDES Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 169 (en el contexto C) si pueden reconocer las consecuencias cualitativas características de T sin necesidad de realizar cálculos exactos (De Regt, 2014: p. 33; también De Regt y Dieks, 2005, p. 151 y ss; Chirimuuta, 2020, pp. 3, 4). En nuestro caso de análisis, frente a esta suerte de opacidad epistémica ligada fuertemente al despliegue de modelos de redes neuronales artificiales, podemos oponer tres elementos que pueden ayudar a echar luz a esta caja negra. Por un lado, las estructuras hiperparamétricas, a las que ya nos hemos referido, si bien no nos permiten prever los mínimos locales y las propiedades emergentes exactas subyacentes, sí nos habilitan a prever ciertas características que poseerán dichas propiedades aprendidas por la red (como su cantidad, su capacidad de detectar regularidades espaciales, temporales o de otro tipo, etc.). Por otro lado, si bien no es posible determinar de antemano qué regularidades detectará la red luego de su aprendizaje (si así fuera, no sería necesaria su utilización para el problema estudiado), en algunos casos sí es posible entender a posteriori dichas regularidades. Claro que no siempre es posible entender las “decisiones” adoptadas por la red y, muchas veces, estas son completamente opacas a nuestro entendimiento analítico, tanto a priori como a posteriori. Respecto a lo que explayamos, podemos observar que en el caso en que las regularidades o propiedades globales aprendidas por la red puedan ser entendidas a posteriori, la opacidad epistémica podría considerarse solo aparente o al menos relativa al sistema computacional empleado, no con respecto al fenómeno sobre el que se ha aprendido algo gracias al método. De hecho, en el caso de AlphaFold, se puede argumentar que si bien no nos proporciona entendimiento del plegado mismo de las proteínas, su éxito predictivo con respecto a las estructuras puede constreñir el espacio de modelos posibles para el mecanismo de plegamiento, ERICK RUBIO – LEANDRO GIRI – ANDRÉS ILCIC Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 176 Gao, P., Ganguli, S. (2015). On simplicity and complexity in the brave new world of large-scale neuroscience. Current Opinion in Neurobiology, 32, 148–155. Gell-Mann, M. (1998). El Quark y el Jaguar: aventuras en lo simple y lo complejo (A. García y R. Pastor, Trad.). Tusquets. (Obra original publicada en 1994). Goldenfeld, N. & Kadanoff, L. P. (1999). Simple lessons from complexity. Science, 284: 87- 89. Hartmann, S. (1996). The World as a Process: Simulations in the Natural and Social Sciences, En: Hegselmann, R., Mueller, U., Troitzsch, K.G. (Eds). Modelling and Simulation in the Social Sciences from the Philosophy of Science Point of View (pp. 77-100). Kluwer. Hawkins, J., Blakeslee, S. (2005). On Intelligence: How a New Understanding of the Brain Will Lead to the Creation of Truly Intelligent Machines. St. Martin’s Griffin. Hidalgo, C. (2015). Why Information Grows. The Evolution of Order, from Atoms to Economies. New York: Basic Book. Holland, J. H. (1992). Complex Adaptive Systems. Daedalus, 121(1), 17–30. Humphreys, P. (1997). Emergence, Not Supervenience. Philosophy of Science, 64, 337- 345. Humphreys, P. (2004). Extending Ourselves. Computational Sciences, Empiricism, and Scientific Method. Oxford University Press. Humphreys, P. (2009). The philosophical novelty of computer simulation methods. Synthese, 169, 615-626. Humphreys, P. (2016). Emergence: A Philosophical Account. Oxford University Press. Johnson, S. (2003). Sistemas emergentes. O qué tienen en común hormigas, neuronas, ciudades y software. Fondo de Cultura Económica. DESAFÍOS EPISTEMOLÓGICOS EN LA ERA DE LAS REDES Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 177 Jumper, J., Evans, R., Pritzel, A. Green, T., Figurnov, M., Ronneberger, O., …, Hassabis, D. (2021). Highly accurate protein structure prediction with AlphaFold. Nature, 596: 583-589. Kauffman, S. A. (1993). The Origins of Order: Self-organization and Selection in Evolution. Oxford University Press.Laughlin, R. B., Pines, D. (2000). The Theory of Everything. Proceedings of the National Academy of Sciences, 97(1), 28-31. Lenhard, J. (2016). Computer Simulation, en: Humphreys, P. (ed.) The Oxford Handbook of Philosophy of Science (pp. 803-824). Oxford University Press. Lenhard, J. (2017). License to Explore: How Images Work in Simulation Modeling, en: Ammon S., & Capdevila-Werning, R. (eds). The Active Image. Architecture and Engineering in the Age of Modeling (pp. 233-254). Springer. Levinthal, C. (1968). Are there pathways for protein folding? Journal de Chimie Physique, 65, 44-45. Lillicrap, T., Kording, K. (2019). What does it mean to understand a neural network? Lillicrap, T. P., Santoro, A., Marris, L., Akerman, C. J., Hinton, G. (2020). Backpropagation and the brain. Nature Reviews Neuroscience, 21(6), 335-346. Mitchell, M. (2009). Complexity. A Guided Tour. Oxford University Press. Napoletani, D., Panza, M., Struppa, D. C. (2011). Agnostic science. Towards a philosophy of data analysis. Foundations of Science, 16(1), 1-20. Nicolis, G., Prigogine, I. (1989). Exploring Complexity. An Introduction. W. H. Freeman & Company. Nielsen, M. (2015). Neural Networks and Deep Learning. Pearl, J., Mackenzie, D. (2018). The Book of Why: The New Science of Cause and Effect. Basic Books. ERICK RUBIO – LEANDRO GIRI – ANDRÉS ILCIC Argumentos de Razón Técnica, n.º 26, 2023, pp. 145-178 178 Puterman, M. (1990). Markov Decision Processes. En Handbooks in Operations Research and Management Science Vol 2 (pp. 331-434). Elsevier. Rescher, N. (1998). Complexity. A Philosophical Overview. Transaction Publishers. Rumelhart, D., Hinton, G., Williams, R. (1986). Learning representations by back-propagation errors. Nature, 323, 533 536 Senior A.W., Evans, R., Jumper, J., Kirkpatrick, J., Sifre, L., Green, T., …, Hassabis, D. (2020). Improved protein structure prediction using potentials from Deep learning. Nature, 577: 706-710. Taylor, M. C. (2001). The Moment of Complexity. Emerging Network Culture. Chicago: The University of Chicago Press. Vicsek, T. (2002). The Bigger Picture. Nature, 418: 131. Weiskopf, D. (2022). The Predictive Turn in Neuroscience. Philosophy of Science (5). Woodward, J. (2003). Making Things Happen. A theory of causal explanation. New York: Oxford University Press. Yang, L., Shami, A. (2020). On hyperparameter optimization of machine learning algorithms: Theory and practice. Neurocomputing, 415: 295-316 Zednik, C. (2019). Solving the Black Box Problem: A Normative Framework for Explainable Artificial Intelligence. arXiv:1903.04361 [cs].