Para continuar, suscribite a Todo Jujuy. Si ya sos un usuario suscripto, iniciá sesión.
SUSCRIBITELa encíclica advierte sobre los riesgos de la inteligencia artificial, cuestiona la concentración del poder tecnológico y reclama controles y regulación.
El papa León XIV publicó la encíclica Magnifica Humanitas y pidió que la inteligencia artificial “no domine al ser humano”.
León XIV dio a conocer el lunes su primera encíclica, titulada “Magnifica Humanitas” (“Humanidad magnífica”), un documento de 110 páginas centrado en el impacto de la inteligencia artificial sobre la dignidad de las personas.
El primer papa estadounidense de la historia, con formación en matemáticas y derecho canónico, sostiene en el texto que la IA “no puede considerarse moralmente neutra” y plantea la necesidad de “desarmarla” para impedir que “domine al ser humano”.
La encíclica establece la posición oficial de la Iglesia frente a lo que el propio pontífice definió, pocos días después de asumir, como el principal desafío de nuestro tiempo. El documento no busca ser un análisis técnico ni una crítica absoluta a la tecnología —cuyo aporte reconoce—, sino una reinterpretación contemporánea de la Doctrina Social de la Iglesia.
León XIV rubricó el texto el 15 de mayo, coincidiendo con el 135° aniversario de la Rerum Novarum de León XIII, la histórica encíclica publicada en 1891 como respuesta a la Revolución Industrial y de la cual el actual Papa toma inspiración, además de su nombre.
La idea central del texto sostiene que los avances tecnológicos “pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión”. En ese sentido, el Papa afirma que la inteligencia artificial “alimenta la brecha entre los incluidos y los excluidos”.
Diversos especialistas anticipan que esta postura convertirá al documento en una referencia clave dentro del debate actual. “Estoy convencido de que será un documento decisivo para nuestra época, profundo y profético”, señaló a la agencia AP Paolo Carozza, profesor de Derecho en Notre Dame y presidente del consejo de supervisión de Meta, quien definió la encíclica como un llamado a construir un modelo en el que la tecnología “sirva a los seres humanos en lugar de degradarlos”.
El eje principal de la crítica apunta a la acumulación de poder en manos del sector privado. Según plantea el documento, patentes, algoritmos, plataformas digitales, infraestructuras y bases de datos permanecen “concentrados en las manos de unos pocos”. Son esas compañías las que terminan fijando “las condiciones de acceso, los criterios de visibilidad, las formas de interacción e incluso las oportunidades económicas”.
El León XIV advierte que “cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público”, y considera que esto abre la puerta a “nuevas dependencias, exclusiones, manipulaciones y desigualdades”.
Ante este escenario, reclama medidas concretas: “No basta con invocar la ética de manera abstracta; se requieren marcos jurídicos sólidos, supervisión independiente, usuarios informados y un sistema político que no abdique de su responsabilidad”. Y sintetiza su postura con una frase contundente: “Una IA más moral no es suficiente si esa moralidad es determinada por unos pocos”.
Para el León XIV, esa acumulación de poder tecnológico también tiene consecuencias económicas directas. Advierte que la riqueza global “se concentra cada vez más en menos manos, lo que agranda las desigualdades”, y sostiene que, en un contexto marcado por la inteligencia artificial y la automatización, ya no alcanza con confiar únicamente en la “mano invisible” del mercado.
En ese marco, León XIV exhorta a los dirigentes políticos a impulsar medidas orientadas al “bien común” y a fomentar “el trabajo digno, la inclusión social y una distribución equitativa de los beneficios de la innovación”.
La preocupación planteada por el Papa no se limita al plano teórico. OpenAI y Anthropic, las dos compañías más fuertes del sector, aparecen entre las empresas privadas con mayor valor de mercado en Estados Unidos, alcanzando valuaciones de cientos de miles de millones de dólares, incluso por encima del PBI de muchos países.
A lo largo del documento, el pontífice les pidió en reiteradas ocasiones a los desarrolladores y a los dirigentes políticos que “hagan una pausa” para reflexionar sobre el rumbo que están tomando estas tecnologías, y reclamó que sus decisiones estén guiadas no por intereses económicos o de poder, sino por el bienestar de la humanidad.
El texto fue presentado este lunes en el Vaticano con la participación de Christopher Olah, cofundador de Anthropic, compañía que mantiene un conflicto con la administración de Donald Trump tras rechazar la posibilidad de habilitar un uso militar sin restricciones de su tecnología.
La presencia de Anthropic en el evento —enmarcado en un intercambio que el Vaticano y Silicon Valley sostienen desde hace una década sobre las consecuencias humanas de la inteligencia artificial— despertó cuestionamientos entre quienes interpretaron la invitación como un respaldo del Papa. Sin embargo, fuentes vaticanas aclararon que la situación debe entenderse del mismo modo que una audiencia con un jefe de Estado: un reconocimiento institucional, pero no un apoyo explícito.
El documento vuelve a poner el foco en la cuestión ecológica que Francisco instaló como uno de los ejes principales de su pontificado a través de la encíclica Laudato si’ (2015), aunque esta vez vinculada al avance de la inteligencia artificial. León XIV advierte que los centros de procesamiento utilizados para desarrollar estos sistemas requieren “enormes cantidades de energía y agua”, además de tener un fuerte impacto en la emisión de dióxido de carbono. Frente al crecimiento sostenido de los grandes modelos de lenguaje, el Papa reclama la implementación de “soluciones tecnológicas más sostenibles”.
Aunque identifica la acumulación de poder como uno de los principales problemas de fondo, el Papa dirige sus señalamientos más específicos hacia los sectores que considera en situación de mayor vulnerabilidad. En relación con los niños y adolescentes, advierte sobre el aumento de casos de “captación, chantaje y explotación sexual”, potenciados por el uso de cuentas falsas, sistemas algorítmicos que facilitan vínculos riesgosos y tecnologías de inteligencia artificial capaces de alterar fotos y grabaciones.
Ante este escenario, reclama controles de edad más estrictos y un mayor compromiso por parte de las plataformas y empresas responsables. En relación con el ámbito laboral, el pontífice advierte que muchas de las estrategias tecnológicas actuales tienden a quitar autonomía y especialización a los empleados, además de exponerlos a controles automatizados permanentes y a funciones mecánicas, estructuradas y repetitivas.
Frente a ese panorama, sostiene que cualquier proceso de automatización debería incluir mecanismos concretos y comprobables destinados a resguardar los puestos de trabajo y brindar nuevas instancias de formación para quienes deban adaptarse a otras tareas. También remarca que la economía no debe colocarse por encima del valor de la persona.
“La búsqueda de mayores beneficios no puede justificar decisiones que sacrifiquen sistemáticamente empleos”, afirma en el texto. A su vez, considera que los Estados tienen la responsabilidad de impulsar políticas que generen oportunidades laborales, al entender que el trabajo representa un elemento esencial tanto para las familias como para el conjunto de la sociedad.
Al abordar las guerras y los enfrentamientos bélicos, León XIV planteó la necesidad de dejar atrás la idea de la “guerra justa”, una noción que —según sostiene el documento— ha sido utilizada reiteradamente para legitimar distintos conflictos armados. Además, el pontífice remarcó que resulta “inadmisible” permitir que sistemas de inteligencia artificial asuman determinaciones irreversibles vinculadas con la muerte de personas.
El pontífice advirtió que “la humanidad se está deslizando hacia una cultura violenta del poder” y sostuvo que debe existir una línea clara de responsabilidades que incluya a todos los actores involucrados en el desarrollo y utilización de estas herramientas, desde quienes las crean y entrenan hasta quienes aprueban su implementación y las ponen en funcionamiento. Además, reclamó la construcción de normas internacionales compartidas que permitan contener la competencia tecnológica en materia armamentística y asegurar una protección efectiva para la población civil.
El Papa también concentra una parte importante del documento en el impacto que estas tecnologías pueden tener sobre la esfera pública. Allí plantea que las noticias falsas y los contenidos engañosos encontraron en la inteligencia artificial una herramienta capaz de expandirlos con mayor fuerza, debido a su facilidad para alterar textos, fotografías y grabaciones audiovisuales. En ese contexto, advierte que los sistemas democráticos comienzan a deteriorarse cuando la búsqueda de resultados prácticos o convenientes termina desplazando a la verdad como valor central.
“La indiferencia hacia la verdad conduce, lenta pero seguramente, a un descenso hacia el totalitarismo”, sostiene en el escrito. Además, el pontífice sostiene que las empresas y actores que administran las redes sociales y los entornos digitales deben ejercer esa influencia con un compromiso orientado hacia la verdad y la protección de la dignidad humana.
En esa línea, plantea que internet debería convertirse en un ámbito que favorezca el desarrollo del pensamiento crítico y la libertad personal, en lugar de transformarse en una herramienta destinada a generar distracción permanente, uniformidad de ideas o mecanismos de control sobre las personas.
El documento incluye también lo que representa la primera petición oficial de perdón realizada por un Papa por la responsabilidad histórica de la propia Santa Sede en la validación de la esclavitud, una práctica que León XIV define como una “herida en la memoria cristiana”.
“Por esto, en nombre de la Iglesia, pido sinceramente perdón”, señaló el pontífice en el escrito. Distintas investigaciones genealógicas difundidas por Henry Louis Gates Jr. sostienen que dentro de los antecedentes familiares de León XIV hubo tanto personas sometidas a la esclavitud como dueños de esclavos.
Con anterioridad, otros líderes de la Iglesia católica ya se habían pronunciado sobre este tema. Juan Pablo II pidió perdón en 1992 por la participación de cristianos en el comercio esclavista, mientras que Francisco condenó en reiteradas oportunidades las manifestaciones contemporáneas de esa problemática.
León XIV avanzó aún más en esa revisión histórica al admitir la responsabilidad que tuvieron antiguos pontífices, quienes durante el siglo XV habilitaron a las coronas de Portugal y España a conquistar, someter y esclavizar a quienes eran considerados “no creyentes”. En el texto también recuerda que la propia Iglesia mantuvo esclavos durante siglos y que recién después de casi dos mil años llegó a establecer una condena “formal, absoluta y universal” contra la esclavitud.
El Papa además conectó ese pasado con situaciones actuales al señalar que las condiciones laborales precarias dentro de la economía digital —entre ellas las vinculadas a la extracción de minerales utilizados para fabricar chips destinados a la inteligencia artificial— representan “una nueva forma de esclavitud y colonialismo”.
Recibí las noticias en tu celular sumándote al Canal de WhatsApp de TodoJujuy.com. Ingresá al siguiente enlace: https://whatsapp.com/channel/0029VaQ05Jk6BIErMlCL0v0j
Si querés, podés activar las notificaciones.
Además, podés comunicarte con nosotros a través del WhatsApp de las Noticias al 3885007777.
video
video
video
video
