Del 14 al 18 de febrero de 2022 el Prof. P. Alberto Carrara, L.C., Director del Grupo de Neurobioética, Fellow de la Catedra UNESCO en Bioética y Derechos Humanos del Ateneo Pontificio Regina Apostolorum, ha impartido unas conferencias en el primer congreso internacional de la region de Veracruz. Las “Jornadas de Humanidades: Los Desafíos de la High Tech Era” (link) organizadas por la Coordinación de Humanidades del campus Anáhuac Veracruz – Córdoba-Orizaba tuvieron como temáticas: la algorética, el metaverso, la roboética, el transhumanismo, y la neuroética.
El primer día, el lunes 14 de febrero, el Prof. Carrara contextualizó su trayecto acádemico para dar un marco a toda la semana. Alberto Carrara nació en Padua, Italia en 1980, es tecnico de laboratorio quimico biologico por el Instituto Europeo “Pietro Scalcerle” y Doctor en Biotecnología médica por la Facultad de Medicina y Cirurgia de la Universidad de Padua. La tesis de su primer doctorado fue el papel de los poliomavirus y herpesvirus en la patogenesis de los tumores de las glandulas suprarenalicas humanas. El Dr. Carrara es además Doctor en Filosofía por el Ateneo Pontificio Regina Apostolorum de Roma con una tesis acerca de la filosofia de la mente y la neuroética: “El emergentismo composicional o nidificado de Walter Glannon como paradigma anropologico en la reflexion neuroética contemporanea”.
Desde el 2011 es Profesor de Antropología filosófica y Neuroética por la Facultad de Filosofía del Pontificio Ateneo Regina Apostolorum de Roma y por la Facultad de Psicología de la Universidad Europea de Roma (UER, una de las 18 Universidades de la RIU de las cuales pertenecen las Universidades Anáhuac de México, la Francisco de Vitoria de Madrid y la Finis Terrae de Santiago de Chile).
Desde el 2012 es docente MIU (Ministerio Italiano de las Universidades) de la SISPI (Escuela Internacional de Especialización con el Procedimiento Imaginativo, una escuela post-carrera para practicar la psicoterapia).
Desde el 2016 es miembro del consejo cientifico del Brain Research Fondazione onlus de Pisa colaborando entre otros con el Prof. Dr. Stephen M. Stahl (Cambridge University y Universidad de California).
Del 2017 es Miembro correspondiente (Academico) de la Pontificia Academia para la Vida, asesorando el Santo Padre Francisco en los temas de neuroética y neurociencias.
Después de haberse presentado, el Prof. Carrara expuso el desarrollo del GdN, el Grupo de Investigación en Neurobioética que dirige. Del 20 de marzo de 2009, el GdN hoy cuenta con unos 7 subgrupos de investigación y con una red de unos 600 profesionales en los contextos de neurociencias, ética, filosofía, derecho, teología y otras disciplinas.
La primera tematica abordada fue la así llamada Algor-Ética.
Para llegar a entender qué se entiende con este neo-logismo, se presentó el contexto del desarrollo tecnologicos de los ultimos dos siglos de olas de cambio: las cuatro revoluciones industriales. Se presentó el paradigma “Sophia”. Sophia es quizás la plataforma de inteligencia artificial más conocida del mundo. Su avanzado sistema de Machine Learning “incorporado” y apoyado por un robot humanoide con las aparentes características de la actriz Audrey Hepburn es capaz de interactuar cognitiva e incluso emocionalmente con nosotros. Numerosas pruebas han sido hechas, a lo largo de los años, las entrevistas televisivas, pero incluso las conferencias en las Naciones Unidas y el parlamento de Arabia Saudita que “le” incluso le otorgaron la ciudadanía honoraria.
En el ámbito jurídico y ético, el estatuto personal podría atribuirse a una entidad no humana si esto en sí mismo diera prueba de las capacidades que nosotros común o legalmente hemos elegido para que una persona humana posea y manifieste. Entre todas estas habilidades hay una que ha “motivado” al científico computacional estadounidense John McCarthy desde 1956 a definir las matematizaciones de las operaciones manuales y cognitivas humanas con el término “inteligencia artificial”. Junto con Allen Newell y Herbert Simon, McCarthy contribuyó a lo largo de los años a matematizar (es decir, a producir lo que ahora llamamos algoritmos) diferentes aspectos de la inteligencia humana compleja: desde la resolución de problemas matemáticos y geométricos, hasta la decodificación y reproducción de algunos rasgos del lenguaje humano.
Las importantes contribuciones del psicólogo evolutivo Howard Gardner al tema de la inteligencia múltiple, junto con los desarrollos neurocientíficos que integran el papel interdependiente de otros sistemas y aparatos de órganos en la centralidad coordinativa de nuestro sistema nervioso (la llamada Neurología Encarnada), han aseguró que los desarrollos en inteligencia artificial, más que enfocarse en la posibilidad de producir entidades robóticas dotadas de inteligencia similar a la humana, están ayudando a caracterizar con mayor profundidad el estado de la inteligencia humana, sus peculiaridades y, en consecuencia, el hiato que existe entre ellas, lo que nos caracteriza como especie biológica y lo que producimos como artefactos.
El problema de la imitación o reproducción del pensamiento humano ha caracterizado la historia de la humanidad: siempre hemos tratado de suplir nuestras deficiencias corporales mediante la construcción de artefactos. La técnica se convirtió, con la llegada del método experimental del siglo XVII, en tecnología. Desde la antigüedad clásica hasta la Edad Media, desde la modernidad hasta la posmodernidad, ha habido varias formas de resolver el problema de la imitación.
Se dieron algunas definiciones de inteligencia artificial y se plantearon algunas aplicaciones positivas y otros efectos negativos de la evolución algoritmica. Esto abrió a considerar la algor-ética: es decir, “una reflexión sistemática e informada sobre la evolucion de los algoritmos y acerca de las interpretaciones de la ciencia computacional, con el fin de comprender sus implicaciones para la autocomprensión humana y los peligros y perspectivas de sus aplicaciones” (A. Carrara, 2022).
Ya Papa Francisco en el 2020 en su Discurso a los participantes en la Asemblea Plenaria de la Pontificia Academia para la Vida afirmó: «Los temas que habéis tratado en estos días atañen a uno de los cambios más importantes del mundo actual. Todavía más, podríamos decir que la “galaxia digital”, y en particular la llamada “inteligencia artificial”, están en el corazón mismo del cambio de época que estamos atravesando. La innovación digital, efectivamente, alcanza a todos los aspectos de la vida, tanto personales como sociales. Afecta a la forma en que entendemos el mundo y a nosotros mismos. Está cada vez más presente en las actividades e incluso en las decisiones humanas, y está cambiando nuestra forma de pensar y actuar. Las decisiones, incluso las más importantes, las del ámbito médico, económico o social, son hoy fruto de la voluntad humana y de una serie de contribuciones algorítmicas. El acto personal se encuentra así en el punto de convergencia entre la aportación propiamente humana y el cálculo automático por lo que resulta cada vez más complejo comprender su objeto, prever sus efectos y definir sus responsabilidades.
Ciertamente, la humanidad ya ha vivido profundas transformaciones en su historia como, por ejemplo, cuando se introdujo la máquina de vapor, o la electricidad, o la invención de la imprenta que revolucionó la forma de conservar y transmitir la información. Hoy, la convergencia entre los diferentes saberes científicos y tecnológicos tiene un efecto amplificador y hace posible intervenir en fenómenos de magnitud infinitesimal y de alcance planetario, hasta el punto de desdibujar fronteras que hasta ahora se consideraban bien distinguibles: entre la materia inorgánica y la orgánica, entre lo real y lo virtual, entre las identidades estables y los acontecimientos en continua relación entre sí.
A nivel personal, la era digital cambia la percepción del espacio, el tiempo y el cuerpo. Infunde un sentido de expansión de sí mismo que ya no parece encontrar algún límite y la homologación se afirma como el criterio de agregación imperante: reconocer y apreciar la diferencia se hace cada vez más difícil. En el ámbito socioeconómico, los usuarios a menudo quedan reducidos a “consumidores”, sometidos a intereses privados concentrados en manos de unos pocos. A partir de los rastros digitales diseminados en Internet, los algoritmos sacan datos que consienten controlar nuestros hábitos mentales y relacionales para fines comerciales o políticos, a menudo sin que lo sepamos. Esta asimetría, por la que unos pocos saben todo de nosotros, mientras que nosotros no sabemos nada de ellos, adormece el pensamiento crítico y el ejercicio consciente de la libertad. Las desigualdades se amplifican desmesuradamente, el conocimiento y la riqueza se acumulan en pocas manos, con graves riesgos para las sociedades democráticas. Sin embargo, estos peligros no deben ocultarnos el gran potencial que ofrecen las nuevas tecnologías. Estamos ante un don de Dios, es decir, ante un recurso que puede dar frutos de bien.
También los temas de los que se ha ocupado vuestra Academia desde su creación se presentan hoy de una manera nueva. Las ciencias biológicas se sirven cada vez más de los dispositivos posibles gracias a la “inteligencia artificial”. Este hecho conlleva cambios profundos en la forma de interpretar y gestionar los seres vivos y las características propias de la vida humana, que estamos comprometidos a proteger y promover, no sólo en su dimensión biológica constitutiva, sino también en su irreductible calidad biográfica. La correlación e integración entre la vida viviente y la vida vivida no pueden obviarse en beneficio de un simple cálculo ideológico del rendimiento funcional y de los costos sostenibles. Los interrogantes éticos que surgen de la forma en que los nuevos dispositivos pueden —precisamente— “disponer” del nacimiento y el destino de las personas requieren un esfuerzo renovado en pro de la calidad humana de la entera historia comunitaria de la vida. […] A la luz de lo que se ha dicho, no es suficiente la simple educación en el uso correcto de las nuevas tecnologías que no son, efectivamente, instrumentos “neutrales” porque, como hemos visto, modelan el mundo y comprometen a las conciencias en el ámbito de los valores. Hace falta una acción educativa más amplia. Necesitamos madurar motivaciones fuertes para perseverar en la búsqueda del bien común, incluso cuando de ella no se derive un beneficio inmediato. Existe una dimensión política en la producción y el uso de la llamada “inteligencia artificial”, que no atañe solamente a la distribución de sus ventajas individuales y abstractamente funcionales. En otras palabras: no basta simplemente confiar en la sensibilidad moral de quienes investigan y proyectan dispositivos y algoritmos, sino que es necesario crear organismos sociales intermedios que garanticen que esté representada la sensibilidad ética de los usuarios y de los educadores.
Son muchas las herramientas que intervienen en el proceso de elaboración de los aparatos tecnológicos (investigación, diseño, producción, distribución, uso individual y colectivo), y cada una de ellas implica una responsabilidad específica. Se entrevé una nueva frontera que podríamos llamar “algor-ética” (cf.Discurso a los participantes en el congreso “Child Dignity in the digital world”, 14 de noviembre de 2019). Su objetivo es asegurar una verificación competente y compartida de los procesos con los que se integran en nuestra era las relaciones entre los seres humanos y las máquinas. En la búsqueda común de estos objetivos, los principios de la Doctrina Social de la Iglesia brindan una contribución decisiva: dignidad de la persona, justicia, subsidiariedad y solidaridad. Expresan el compromiso de ponerse al servicio de cada persona en su totalidad y de todas las personas, sin discriminación ni exclusión. Pero la complejidad del mundo tecnológico nos exige una elaboración ética más articulada para que este compromiso sea verdaderamente incisivo.
La “algor-ética” podrá ser un puente para que los principios se inscriban concretamente en las tecnologías digitales, mediante un diálogo transdisciplinario eficaz. Además, en el encuentro entre diferentes visiones del mundo, los derechos humanos constituyen un punto de convergencia importante para la búsqueda de un terreno común. En el momento actual, sin embargo, parece necesaria una reflexión actualizada sobre los derechos y deberes en este ámbito. En efecto, la profundidad y la aceleración de las transformaciones de la era digital plantean problemas inesperados que imponen nuevas condiciones al ethos individual y colectivo. Ciertamente la Call (el llamamiento) que habéis firmado hoy es un paso importante en esta dirección, con las tres coordenadas fundamentales para caminar: la ética, la educación y el derecho».
Ya en el ‘Video del Papa’ de noviembre 2020 salía a la luz un mensaje sobre el progreso que suponen los avances de la robótica y la inteligencia artificial. Papa Francisco puso el acento en la necesidad de orientarlos “al respeto de la dignidad de la persona y de la Creación” (link).
El 25 de febrero de 2019 Papa Francisco aclaraba también (link): “Es importante reiterarlo: «La inteligencia artificial, la robótica y otras innovaciones tecnológicas deben emplearse de tal manera que contribuyan al servicio de la humanidad y a la protección de nuestra casa común, en lugar de lo contrario, como algunos análisis, lamentablemente, prevén.» (Mensaje al Foro Económico Mundial en Davos, 12 de enero de 2018). La dignidad inherente de cada ser humano debe colocarse firmemente en el centro de nuestra reflexión y de nuestra acción.
A este respecto, conviene señalar que la denominación de “inteligencia artificial”, aunque ciertamente de efecto, puede ser engañosa. Los términos ocultan el hecho de que ―a pesar del útil cumplimiento de las tareas serviles (es el significado original del término “robot”)―, los automatismos funcionales siguen estando cualitativamente distantes de las prerrogativas humanas del saber y del actuar. Y por lo tanto pueden llegar a ser socialmente peligrosos. Además, el riesgo de que el hombre sea ‘tecnologizado’, en lugar de la técnica humanizada, ya es real: a las llamadas “máquinas inteligentes” se atribuyen apresuradamente las capacidades que son propiamente humanas.
Necesitamos entender mejor qué significan, en este contexto, la inteligencia, la conciencia, la emocionalidad, la intencionalidad afectiva y la autonomía de la acción moral. Los dispositivos artificiales que simulan las capacidades humanas, en realidad, carecen de calidad humana. Hay que tenerlo en cuenta para orientar su regulación de uso y la investigación misma, hacia una interacción constructiva y equitativa entre los seres humanos y las últimas versiones de las máquinas. Las máquinas, de hecho, se propagan en nuestro mundo y transforman radicalmente el escenario de nuestra existencia. Si conseguimos tener en cuenta estas referencias también en los hechos, el extraordinario potencial de los nuevos descubrimientos puede irradiar sus beneficios a cada persona y a toda la humanidad.
El debate en curso entre los mismos especialistas ya muestra los graves problemas de gobernabilidad de los algoritmos que procesan grandes cantidades de datos. Asimismo también plantean graves cuestiones éticas las tecnologías para la manipulación del patrimonio genético y de las funciones cerebrales. En cualquier caso, el intento de explicar todo lo que atañe al pensamiento, a la sensibilidad, al psiquismo humano sobre la base de la suma funcional de sus partes físicas y orgánicas, no explica la aparición de los fenómenos de la experiencia y la conciencia. El fenómeno humano supera el resultado del ensamblaje calculable de los elementos individuales. También en este contexto, el axioma según el cual el todo es superior a las partes adquiere una nueva profundidad y significado (ver Exhortación apostólica Evangelii Gaudium, 234-237).
Precisamente en esta línea de la complejidad de la sinergia de psique y techne, por lo demás, lo que aprendemos sobre la actividad cerebral proporciona nuevos indicios sobre la manera de entender la conciencia (del yo y del mundo) y del mismo cuerpo humano: no es posible prescindir del entrelazamiento de múltiples relaciones para una comprensión más profunda de la dimensión humana integral.
Por supuesto, partiendo de los datos de las ciencias empíricas no podemos hacer deducciones metafísicas. Sin embargo, podemos conseguir indicaciones que instruyan la reflexión antropológica, también en teología, como, por otra parte, siempre ha sucedido en su historia. De hecho, sería decididamente contrario a nuestra tradición más genuina colocarnos en un aparato conceptual anacrónico, incapaz de dialogar adecuadamente con las transformaciones del concepto de naturaleza y de artificio, de condicionamiento y libertad, de medios y fines, inducidos por la nueva cultura de la acción, típica de la era tecnológica. Estamos llamados a colocarnos en el camino emprendido con firmeza por el Concilio Vaticano II, que solicita la renovación de las disciplinas teológicas y una reflexión crítica sobre la relación entre la fe cristiana y la acción moral (cf. Optatam Totius, 16).
Nuestro compromiso ―también intelectual y especializado― será un punto de honor para nuestra participación en la alianza ética a favor de la vida humana. Un proyecto que ahora, en un contexto en el que los dispositivos tecnológicos cada vez más sofisticados involucran directamente las cualidades humanas del cuerpo y la psique, se vuelve urgente compartir con todos los hombres y mujeres dedicados a la investigación científica y a la asistencia. Es una tarea difícil, sin duda, dado el rápido ritmo de la innovación. El ejemplo de los maestros de la inteligencia creyente, que entraron con sabiduría y audacia en los procesos de su contemporaneidad, en vista de una comprensión del patrimonio de la fe a la altura de una razón digna del hombre, debe alentarnos y sostenernos”.
El segundo día, martes 15 de febrero, se abordó el tema del “Metaverso”. Del contexto cinematografico de Ready Player One (2018), el Prof. Carrara presentó los contextos positivos en los cuales la realidad virtual y augmentada ya están tomando pié: del sector de investigación médica, a la clinica, hasta la psicología. El empleo de estas tecnologias con finalidades de descruccion de la humanidad misma ponen cuestiones éticas no indeferentes. El término “Metaverso” acuñado en 1992 por Neal Stephenson (“Snow Crash”) se refiere a la producción de un gran entorno virtual capaz de generar una experiencia inmersiva y multisensorial en el uso aplicado de diversos dispositivos y desarrollos tecnológicos en internet. Más allá de nuestro universo físico el Metaverso ideado por Mark Zuckerberg se configura como un verdadero «experimento social» de un futuro imaginado para unos miles de de personas ¡no para todos! que plantea ya problemas de equilibrio psicologicos entre vida virtual y real, atribuciones de acuerdos no bien definidos, asuntos legales, potenciales abusos, de estandardización de mentalidades con el riesgo de manipulaciones masivas. Después de dos años de pandemia, el pensamiento tecnológico imagina integrar lo real y lo virtual permitiéndome abrir un número indefinido de pantallas virtuales mientras estoy cerrado. Parece una distopía: una mirada retraída y solitaria, que aleja el mundo para construir uno a su medida, en una relación distante con evasión y clausura en sí misma.
El tercer día, el miércoles 16 de febrero, el Prof. Carrara presentó la temática de la robo-ética. El problema de la imitación o reproducción del pensamiento humano ha caracterizado la historia de la humanidad: siempre hemos tratado de suplir nuestras deficiencias corporales mediante la construcción de artefactos. La técnica se convirtió, con la llegada del método experimental del siglo XVII, en tecnología. Desde la antigüedad clásica hasta la Edad Media, desde la modernidad hasta la posmodernidad, ha habido varias formas de resolver el problema de la imitación.
Ciertamente, la lógica aristotélica no previó la idea de reproducir determinadas actividades cognitivas humanas, pero sí consideró la cognición como un conjunto de procedimientos de carácter formal. Esta pista de comprensión fue la piedra angular en la Edad Media para que los lógicos Ramon Llull (italianizado en Raimondo Lullo, 1232-1316), Pierre de la Ramée (italianizado Pietro Ramo, 1515-1572) y otros, pudieran considerar el pensamiento humano, la inteligencia cognitiva humana, como una serie de procedimientos lógicos de deducción e inducción que pueden formalizarse y por tanto reproducirse incluso a partir de lo que no era humano. De estos desarrollos medievales sobre la cualidad lógica de la inteligencia humana surgió la idea de poder mecanizar la propia mente humana, ciertamente bajo este aspecto específico, el de un orden lógico formal.
La idea de que la inteligencia humana es el resultado de cálculos elementales capaces de generar incluso procesos muy complejos se ha ido diluyendo y amortiguando poco a poco con el tiempo para que el objetivo actual de la IA sea más limitado, humilde y por tanto real: la construcción de máquinas capaces de realizar cálculos útiles para realizar tareas específicas como, por ejemplo, el reconocimiento visual de objetos; reconocimiento auditivo de sonidos; reconocimiento de textos; la gestión y control de procesos muy complejos, como los de aviones, naves espaciales o sondas espaciales; Realización de actividades como las de los robots, drones o dispositivos similares.
Anticipándose en quince años a la famosa tesis sobre la intencionalidad del filósofo estadounidense John Rogers Searle (1932-), el filósofo italiano de la ciencia Evandro Agazzi (1934-) realizó un análisis y una crítica en profundidad de las diferentes aproximaciones a este tema, en particular hacia el computacionalismo y el funcionalismo, esbozando su propia concepción articulada de un molde realista (Lea, por ejemplo, los dos ensayos “Algunas observaciones sobre el problema de la inteligencia artificial” (1967) y “Operacionalidad e intencionalidad: el eslabón perdido de la inteligencia artificial” (1981). No se puede decir, como suele suceder, que las computadoras o los robots humanoides modernos como Sophia tengan pensamientos o sentimientos similares a los de los seres humanos porque no están dotados de intencionalidad.
Ciertamente la evolución de la inteligencia digital y artificial es patente y representa un bien si se pone al servicio del desarrollo integral de todo el hombre y de todos los seres humanos; ciertamente hoy en día se están construyendo máquinas complejas que son capaces de realizar desempeños muy similares a los del razonamiento humano o comportamientos dirigidos en muchos sectores de la producción, concepción, realización de bienes y servicios; ciertamente, sin embargo, esta similitud se limita a la capacidad de realizar ciertas operaciones, mientras que la diferencia que permanece, y permanecerá, es la capacidad de dar sentido a estas operaciones y sus resultados, y de establecer metas intencionalmente. Esto es lo que hace que nuestra inteligencia sea radicalmente diferente de la inteligencia artificial.
La roboética se puede definir como “una reflexión sistemática e informada sobre la robótica y las interpretaciones de la misma ciencia robótica que incluye las ciencias relacionadas de la informática y del desarrollo tecnológico, con el fin de comprender sus implicaciones para la autocomprensión humana y los peligros y perspectivas de sus aplicaciones (A. Carrara, 2022).
En el cuarto día, el jueves 17 de febrero, fue presentado el Proyecto Transhumanista 2045. El multimillonario ruso Dmitry Itskov, puso en marcha en 2011 su proyecto 2045 Iniciative, que pretende desarrollar el primer ciborg de la historia en dicho año y alcanzar la “inmortalidad cibernetica”. Itskov lleva años agrupando a científicos que estén dispuestos a trabajar con él en esta iniciativa.
En la página web www.2045.com se explica que esta idea nace de la creencia de que sea posible y necesario eliminar el envejecimiento o incluso la muerte, así como de superar los límites establecidos actualmente por las restricciones del cuerpo físico.
Cuatro son los pasos que va a seguir este proyecto:
- Avatar A, se intentará desarrollar un cuerpo robótico controlado por una interfaz cerebro- máquina. Quiere que esté terminado en 2025.
- El segundo paso se llama Avatar B y durante el mismo, los científicos intentarán trasplantar el cerebro de un humano dentro de un cuerpo robótico. En el texto se especifica que el cerebro será de una persona que haya fallecido.
- La tercera fase comenzaría en 2035. Avatar C se compondrá de un cuerpo y cerebro artificiales en el que los científicos introducirán la personalidad y experiencias de un humano antes de morir.
- Se crearía así el ciborg definitivo. Todas estas fases deberían culminar entre 2040 y 2045, con la transferencia de una autoconciencia humana digitalizada en la Red.
El quinto y último día, el viernes 18 de febrero, se concluyó con el marco sintetico de la neuroética, es decir, con la “reflexión sistemática e informada sobre la neurociencia y las interpretaciones de la misma neurociencia que incluye las ciencias relacionadas de la mente (psicología en todas sus formas, psiquiatría, inteligencia artificial, etc.), con el fin de comprender sus implicaciones para la autocomprensión humana y los peligros y perspectivas de sus aplicaciones” (J. Clausen – N. Levy, Handbook of Neuroethics, Springer 2015).
A seguir algunos de los momentos relevantes del viaje a México del Prof. Padre Alberto Carrara, L.C.
