El Papa Leo apunta a las grandes tecnologías en una amplia encíclica sobre la IA: NPR

CIUDAD DEL VATICANO (RNS) – El Papa León XIV apuntó directamente al poder de las grandes tecnologías en su primera encíclica el lunes (25 de mayo), advirtiendo que la inteligencia artificial corre el riesgo de ampliar la desigualdad, debilitar la democracia y socavar lo que significa ser humano.

El documento, titulado «Magnifica Humanitas», enmarca la IA como la nueva revolución industrial y hace un llamamiento a «desarmarla» sacándola de los intereses militares y económicos, sometiendo a las empresas de IA a regulaciones estatales e internacionales más estrictas e invitando a la amplia participación de individuos y comunidades en la configuración del futuro de esta tecnología en rápido desarrollo.

«Desarmar la IA significa liberarla de la mentalidad de competencia ‘armada’, que hoy no se limita simplemente al contexto militar, sino que es también un fenómeno económico y cognitivo», escribió Leo. «Desarmar no significa renunciar a la tecnología, sino impedir que domine a la humanidad», escribió el Papa León.

«Por eso no basta con regularlo; debe ser desarmado, acogedor y accesible», prosiguió.

Leo también abordó las grandes tecnologías en el documento, destacando los peligros de que unos pocos individuos ricos influyan en el futuro y el sustento de la humanidad, ampliando la brecha «entre aquellos que pueden participar en la revolución digital y aquellos que permanecen al margen».

«La IA tiende a amplificar el poder de quienes ya poseen recursos económicos, experiencia y acceso a los datos», escribió. «Los grupos pequeños pero muy influyentes pueden moldear los patrones de información y consumo, influir en los procesos democráticos y dirigir la dinámica económica en su propio beneficio, socavando la justicia social y la solidaridad entre los pueblos».

El Papa León presentó la encíclica el lunes en el Salón del Sínodo del Vaticano, donde hizo referencia a la encíclica de 1891 ‘Rerum Novarum’ (Sobre las cosas nuevas), escrita por su homónimo el Papa León XIII para abordar los desafíos planteados por la revolución industrial del siglo XIX.

«Me siento confiado a supervisar otra gran transformación a través de los ojos de la fe, con la claridad de la razón y con la apertura al misterio divino, con el grito de los pobres y de la tierra resonando en mi corazón», dijo Leo, añadiendo que la encíclica fue el resultado de una profunda escucha de científicos e ingenieros, líderes políticos y funcionarios públicos, padres y maestros profundamente preocupados por el futuro de las generaciones futuras.

«No basta con desarmar, hay que construir», añadió, pidiendo una amplia participación en la programación, la regulación y los beneficios de la IA.

El Papa presentó el documento junto con prelados de alto rango del Vaticano, teólogos católicos y Chris Olah, cofundador de Anthropic, la compañía estadounidense de inteligencia artificial detrás de Claude que ha estado presionando para calificarse como ética y orientada a la seguridad.

En su intervención en el evento, Olah dijo que el desarrollo de la IA «opera dentro de un conjunto de incentivos y limitaciones que a veces pueden entrar en conflicto con hacer lo correcto», citando preocupaciones comerciales, presión geopolítica y orgullo y ambición.

Por esa razón, dijo, «necesitamos que más personas del mundo (comunidades religiosas, sociedad civil, académicos, gobiernos) hagan lo que Su Santidad ha hecho aquí: tomar esto en serio, observar de cerca e impulsar los acontecimientos en una mejor dirección».

En el centro de la encíclica está la insistencia en que los seres humanos tengan prioridad sobre la inteligencia artificial. La dignidad de la persona humana «no depende de sus capacidades, riqueza o posición en la vida, ni de las decisiones correctas o incorrectas tomadas», sino simplemente en virtud de existir, sostiene la encíclica.

En una época de chatbots de IA, Leo escribió que el riesgo no es sólo que alguien que interactúa con un agente de IA crea que está hablando con una persona, sino que podría perder el deseo de buscar a otras personas. Y entregar la toma de decisiones a las máquinas puede «fomentar una dependencia excesiva y la búsqueda de respuestas ya preparadas, y debilitar la creatividad y el juicio personal».

En el documento, el Papa reconoce el impacto positivo que la innovación en IA puede traer a la sociedad humana y al cuidado del medio ambiente, al tiempo que advierte sobre sus peligros. «La tecnología nunca es neutral», escribió Leo, añadiendo que es una expresión de los intereses y partes interesadas que hay detrás de ella.

«Cuando ese poder se concentra en manos de unos pocos, tiende a volverse opaco y a evadir la supervisión pública, aumentando el riesgo de formas distorsionadas de desarrollo que dan lugar a nuevas dependencias, exclusiones, manipulaciones y desigualdades», escribió Leo.

Leo argumentó que la aplicación de principios morales y éticos a los modelos de IA no puede ocurrir después de que hayan causado estragos en la sociedad; esos valores deben aplicarse en su construcción. «Para que la IA respete la dignidad humana y sirva verdaderamente al bien común, la responsabilidad debe definirse claramente en cada etapa: desde quienes diseñan y desarrollan estos sistemas hasta quienes los utilizan y dependen de ellos para tomar decisiones concretas», escribió.

Leo respondió a los ejecutivos que se resisten a las restricciones al desarrollo de la IA y explicó que «pedir prudencia, evaluación rigurosa e incluso, a veces, un ritmo más lento en la adopción de la IA no significa oponerse al progreso; más bien, es un ejercicio de cuidado responsable de la familia humana».

En un guiño a los modelos de IA que han adoptado constituciones éticas (como la Antrópica), el Papa dijo que tales marcos aún deben discutirse y someterse a criterios de justicia social compartida. «Una IA más moral no es suficiente si esa moralidad está determinada por unos pocos», escribió.

El documento también aborda las filosofías populares de Silicon Valley, el transhumanismo y el posthumanismo, que el Papa definió como una serie de supuestos «que interpretan que el progreso supera la condición humana».

Estas filosofías ven las limitaciones (incluidas la enfermedad, la discapacidad, la vejez y la vulnerabilidad) como algo que hay que superar, escribió Leo, pero «debemos recordar que la humanidad florece no a pesar de limitaciones, pero a menudo a través de ellas», añadiendo que una vida sin limitaciones significaría en última instancia no ser humano.

El cardenal Víctor Manuel Fernández, que dirige el departamento doctrinal del Vaticano, afirmó en la presentación del documento que a diferencia de estas filosofías, que afirman «que la humanidad ha llegado a su fecha de caducidad y simplemente debe ser reemplazada», la enseñanza católica cree que «cada ser humano tiene una dignidad infinita».

Al contrastar los peligros de la IA, Leo señaló la verdad como «un elemento esencial de la democracia» e instó a que la gente reciba educación sobre la IA, especialmente los jóvenes. Si bien la IA promete aliviar las cargas del trabajo, Leo advirtió que «con frecuencia obliga a los trabajadores a adaptarse a la velocidad y las demandas de las máquinas, en lugar de que las máquinas estén diseñadas para apoyar a quienes trabajan».

En esta cuarta revolución industrial, la prioridad debe ser «la protección de las oportunidades de empleo y del papel irremplazable del individuo», escribió Leo.

A medida que crece la disparidad económica global, el Papa advirtió que «el progreso tecnológico producirá inevitablemente desigualdades estructurales». Leo pidió sistemas tributarios que alivien la carga de los más vulnerables y exijan más a quienes tienen mayores recursos, mientras que los beneficios de las innovaciones deben ser transparentes y compartidos con toda la comunidad.

El Papa advirtió contra «nuevas formas de esclavitud», destacando el rastro de explotación humana y ambiental detrás de la IA, desde los modelos que se entrenan con material protegido por derechos de autor hasta la extracción de minerales raros utilizados en el hardware de IA. León también reflexionó sobre la historia del comportamiento de la iglesia hacia la esclavitud, que no fue denunciada plenamente hasta el siglo XIX.^th siglo por León XIII, poniendo de relieve la lenta evolución de la doctrina católica a lo largo del tiempo.

«Por esto, en nombre de la Iglesia, pido sinceramente perdón», escribió Leo.

Hay una «nueva cara» del colonialismo, argumentó Leo, que no sólo domina los cuerpos, sino que también se apropia de datos: flujos sanitarios, perfiles epidemiológicos, mapas genéticos y datos demográficos. «Éstas se han convertido en las nuevas tierras raras del poder», dijo Leo, y agregó que la tecnología de inteligencia artificial en manos de unos pocos individuos o grupos con fines de lucro representa una nueva forma de dominio colonial.

«Aquí radica uno de los desafíos morales más urgentes de nuestro tiempo: garantizar que el conocimiento compartido se convierta en un verdadero bien común y no en un instrumento de dominación. Esto requiere devolver a los individuos no sólo los datos que los describen, sino también la capacidad de decidir cómo son utilizados, por quién y en beneficio de quién», escribió.

Una extensa parte del documento reflexiona sobre el tema de la guerra, que el Papa ha denunciado repetidamente en su primer año como pontífice. El uso militar de la IA «debe estar sujeto a las restricciones éticas más rigurosas», escribió, añadiendo que la responsabilidad de las acciones militares y especialmente letales debe recaer en los seres humanos, no en las máquinas.

Pidió trazabilidad dentro de los procesos de toma de decisiones en la guerra, supervisión humana y la creación de leyes internacionales para abordar el creciente uso de armas automatizadas y sus consecuencias.

El documento se basa en las contribuciones de pasados ​​pontífices, comenzando con el Papa León XIII, y se basa en la enseñanza social católica, la tradición de la Iglesia de aplicar principios morales a la vida social, económica y política, con la dignidad humana y el bien común en el centro.

La solidaridad y el cuidado del «prójimo» son aspectos claves de la reflexión de Leo, con especial preocupación por las próximas generaciones.

La justicia social «no se trata simplemente de una distribución más justa de los recursos o de la corrección de las injusticias actuales, sino que también asume una dimensión restaurativa», escribió Leo. Aplicando el mismo principio al ámbito digital, el Papa advirtió contra «nuevas formas de exclusión y privación de libertades», como la vigilancia invasiva, las comunidades a las que se niega el acceso a tecnologías básicas y los grupos perjudicados por algoritmos opacos que perpetúan la discriminación.

En este contexto, también abordó la migración como una «prueba de fuego para la justicia social hoy».

En la introducción, León se basa en la Biblia para yuxtaponer la ciudad de Babel, con su búsqueda de poder y autosuficiencia, y la reconstrucción de Jerusalén por parte de Nehemías, orientada a la oración y la participación de familias y comunidades. Esto refleja las enseñanzas de la orden religiosa del Papa, fundada en los principios de San Agustín, que contrastan el amor por la ciudad terrena, estructurada en torno a conceptos de poder y dominio, con el anhelo por la ciudad celestial de Dios.

«Como a lo largo de la historia, estos dos amores continúan luchando por el dominio en nuestros corazones hoy. La era de la IA no es una excepción: la construcción de Babel o la reconstrucción de Jerusalén comienza dentro de cada uno de nosotros», escribió.

«Esta es una oportunidad histórica para que el mundo observe una nueva tecnología y piense realmente en para qué sirve», dijo Brian Patrick Green, director de ética tecnológica en el Centro Markkula de Ética Aplicada de la Universidad de Santa Clara.

«¿Cuál es el propósito de esta tecnología? ¿Qué se supone que debe hacer en el mundo? ¿Cómo puede ayudar a la gente? ¿Qué necesitamos hacer para asegurarnos de que esta tecnología funcione lo mejor que puede para la mayor cantidad de personas en el mundo?»

Esta historia fue producida a través de una asociación entre NPR y Religion News Service.