Ricardo Porto
Introducción
“Mientras las fuerzas geopolíticas de Xi Jingpin y Donald Trump negocian las bases del nuevo orden económico internacional, el Vaticano y el Papa León XIV presentan, sorpresivamente, la encíclica Magnifica Humanitas. El Papa incorpora a la geopolítica el factor religioso….Magnifica Humanitas es un símbolo, ya que se publica en el 135 aniversario de Rerum Novarum de 1891, cuando el Papa León XIII respondió a los abusos de la Revolución Industrial protestante. Esta encíclica nace como la respuesta a la Revolución Digital protestante y confuciana….El Papa entra abierta y claramente al debate geopolítico sobre el uso de la IA y precipita una artillería de conceptos morales, válidos para el catolicismo, pero difícil de adoptar por países protestantes, confucianos o budistas”, afirmó Jorge Fernando Negrete, Presidente de la revista electrónica especializada en comunicaciones, Digital Policy & Lax Group, en una nota titulada Geopolítica, Inteligencia Artificial y religión.
La afirmación de Negrete plantea varios interrogantes. El primero de ellos es si es cierto que las consideraciones del Papa León XIV sólo son válidas en sociedades católicas. El titular de DPL Group refiere que el catolicismo tradicional vio históricamente la acumulación de riqueza con sospecha moral, mientras que el protestantismo calvinista la reinterpretó como una señal de salvación divina. Luego, agrega que la ética protestante proporcionó un sustento ideológico vital para el desarrollo de la libre empresa, fundó los primeros bancos centrales, las bolsas de valores y la conquista violenta del mundo. Los países protestantes hicieron la primera revolución industrial. El catolicismo se expandió, vía España y Portugal, como imperio de fe, esperanza y moral colectiva.
Max Weber, en su famosa obra, La ética protestante y el espíritu del capitalismo, señalaba que el desarrollo de este sistema económico se vinculaba fuertemente con ciertos valores religiosos derivados del protestantismo. El sociólogo alemán afirmaba que el trabajo duro, la austeridad y la responsabilidad individual que predicaba el protestantismo proporcionaban basamento moral al capitalismo. De acuerdo a su visión, los protestantes adoptaron una cultura laboral propicia para la acumulación del capital. En este contexto, el éxito económico constituía, no solamente la resultante del esfuerzo personal, sino la concreción de la salvación divina. Con posterioridad, otros autores, en una visión reduccionista de esta postura, atribuían el desigual desarrollo económico de las naciones protestantes y católicas a razones de índole religiosa.
No es el propósito de esta nota detenerse en estas complejas temáticas. El objetivo es más modesto. Coincidiendo con Fernando Negrete que, por lo pronto, Magnifica Humanitas es válida en países de raigambre católica y teniendo presente que el artículo 2 de la Constitución Nacional declara que nuestro país sostiene ese culto, puede afirmarse que los legisladores argentinos harían bien en leer la encíclica papal para elaborar proyectos de ley sobre Inteligencia Artificial.
En este orden de ideas, procuraré presentar ciertas vinculaciones entre Magnifica Humanitas y un conjunto de principios y declaraciones establecidos en la Constitución Nacional, como un pequeño aporte al debate en torno a la futura regulación de la Inteligencia Artificial.
¿Hay que regular la Inteligencia Artificial?
Comencemos con una pregunta, que puede parecer obvia, pero que no lo es. ¿Hay que regular la Inteligencia Artificial? El Papa León XIV no tiene dudas. Ya al comienzo del texto se afirma que “Es necesario adoptar instrumentos normativos adecuados, capaces de salvaguardar la justicia y de contener los efectos distorsionados del poder tecnológico”. La apuesta a la regulación aparece reiteradamente en el documento papal. Por citar solo algunos ejemplos, en la encíclica se advierte que “No basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios y una política que no renuncie a su tarea”. Más adelante, se indica que “La IA es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso, no basta regularla, es necesario desarmarla y hacerla acogedora”.
Sobre el particular, cabe advertir que existen otras voces que consideran que la regulación puede resultar un obstáculo al desarrollo de la Inteligencia Artificial, sugiriendo, en consecuencia, una normativa mínima, o, en casos extremos, una ausencia de legislación. En términos generales, se trata de autores que sustentan posturas anarcolibertarias, tecnolibertarias o aceleracionistas. Uno de ellos es Marc Andreessen, que expresa su postura en el Manifiesto Tecno-Optimista, publicado en octubre de 2023. En una orientación similar, Guillaume Verdon expresa su posición contraria a la regulación en el Manifiesto del Aceleracionismo Eficaz.
Estas corrientes ideológicas, más allá de sus particularidades específicas, coinciden en sustentar una visión que sobrevalora la tecnología. Creen que es necesario liberarla de todo tipo de ataduras regulatorias para alcanzar el progreso. Algunas visiones extremas postulan la potenciación del ser humano por medio de la tecnología, otras critican el antropocentrismo y proponen un hibridación entre el ser humano y las máquinas.
Magnifica Humanitas se refiere expresamente a estas ideologías, destacando “..algunas corrientes que interpretan el progreso como una superación del ser humano y que podemos clasificar con los nombres de transhumanismo y posthumanismo. Estas corrientes constituyen el trasfondo ideológico que reside en algunos centros de poder tecnológico y colonizan el imaginario colectivo de forma simplificada, especialmente en los medios y en las redes sociales, induciendo el entusiasmo por las nuevas tecnologías con una visión futurista de humanidad potenciada o de hombre hibridado con la máquina”. Posteriormente, se advierte que “…si el ser humano es tratado como materia para ser perfeccionada o superada, entonces se vuelve más fácil de aceptar que algunos sean considerados menos útiles, menos deseables, menos dignos”.
En nuestro derecho, la regulación de la IA puede enmarcarse en la denominada cláusula del nuevo progreso, contemplada en el artículo 75 inciso 19 de la Constitución Nacional, que faculta al Congreso a legislar promoviendo el progreso económico con justicia social, la investigación, el desarrollo científico y tecnológico. En ese mismo artículo se alienta al dictado de leyes que protejan la identidad y pluralidad cultural, la libre creación y circulación de las obras del autor; el patrimonio artístico y los espacios culturales y audiovisuales.
Defensa de la competencia
El artículo 42 de la Constitución Nacional dispone que las autoridades proveerán a la defensa de la competencia contra toda forma de distorsión de los mercados y al control de los monopolios naturales y legales. Magnifica Humanitas se ocupa de esta cuestión.
La encíclica papal advierte que el control de las plataformas, las infraestructuras y los datos no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos que, de hecho, determinan las condiciones de acceso, las reglas de visibilidad y las posibilidades de participación. Luego, agrega que “Cuando un poder de tal magnitud se concentra en pocas manos tiende a hacerse opaco y a eludir el control público”. Más adelante, evita todo tipo de eufemismo y afirma que en un mundo en donde tiene lugar semejante concentración “…hablar de bien común significa desenmascarar esta nueva asimetría epistémica, económica y política, nombrando los nuevos monopolios de la IA”.
Por lo demás, León XIV advierte que como ocurre con todo gran avance tecnológico, la Inteligencia Artificial tiende a aumentar el poder de aquellos que ya disponen de recursos económicos, competencias y acceso a los datos y manifiesta su temor que “…pequeños grupos muy influyentes puedan condicionar procesos democráticos e incidir en las dinámicas económicas en beneficio propio, contradiciendo la justicia social”.
Desigualdad, brecha digital
Una preocupación que recorre todo el texto de Magnifica Humanitas es la situación de los sectores excluidos de las nuevas tecnologías. Por caso, se destaca que si bien la riqueza mundial ha crecido en términos absolutos, su concentración en pocas manos ha aumentado de modo significativo y los desequilibrios se acentuaron tanto entre países, como dentro de un mismo país. Se agrega que el progreso tecnológico genera automáticamente desigualdades estructurales. Como consecuencia de ello, se afirma que se necesitan leyes e instrumentos de redistribución que corrijan tales desequilibrios. Específicamente, el Papa León XIV expresa que “…en la era de la IA y de la robótica ya no es posible confiar únicamente en la mano invisible del mercado. La política tiene la tarea de orientar las dinámicas económico – tecnológicas hacia el bien común, promoviendo el trabajo digno, la inclusión social y una distribución equitativa de los beneficios de la innovación”. Posteriormente, agrega que el logro de la inclusión y el acceso requiere inversiones en competencias, infraestructuras y servicios esenciales para que la tecnología no amplíe la brecha entre quienes tienen y quienes no tienen. Por último, propone medidas de equidad, tales como la fiscalidad, las protecciones sociales y las políticas industriales, que deben corregir los desequilibrios creados por la concentración de la riqueza y el poder, afirmando que tales medidas no son un freno a la innovación, sino que la hacen viable y humana.
La posibilidad de impulsar el crecimiento armónico de la Nación y promover políticas diferenciadas que tiendan a equilibrar el desigual desarrollo relativo de provincias y regiones está expresamente contemplado en el artículo 75 inciso 19 de la Constitución Nacional. De este modo, se cuenta con una herramienta institucional para reducir la brecha digital y elaborar políticas públicas específicas orientadas a la inclusión.
Democracia y verdad
El concepto democracia no estaba presente en la Constitución Nacional histórica de 1853-60. Dicho término fue incluído en la reforma de 1994 en diferentes artículos. Por caso, en el 36, que procura preservar el sistema democrático, el 38, que afirma que los partidos políticos son instituciones fundamentales del sistema democrático y el 75 inciso 19, en donde se alienta una educación que promueva valores democráticos.
La encíclica papal tiene un acápite denominado Verdad y democracia, en donde se destaca la importancia del debate público como sustento de este sistema. Por caso, se recuerda que el uso de las plataformas digitales y los sistemas de IA aceleran los profundos cambios en la comunicación pública y política. Herramientas que podrían favorecer el debate y la participación suelen utilizarse para construir narrativas sesgadas y difuminar los límites entre lo verdadero y lo falso. Si bien reconoce que la desinformación no surge con la Inteligencia Artificial, ve en ella un potente multiplicador. Asimismo, advierte los riesgos que se derivan de la manipulación informativa de contenidos e imágenes, señalando que una información veraz no surge de un control centralizado o automatizado, sino de un debate plural. Afirma, en consecuencia, que quienes disponen de poderosos recursos técnicos y económicos tienen una gran capacidad para provocar cambios culturales.
El Papa León XIV considera que en el discurso público la verdad de los hechos tiene una dimensión racional, que requiere verificación, cotejo de fuentes y responsabilidad argumentativa. Expresamente señala que “La búsqueda de la verdad es un elemento esencial para la democracia, que es en sí misma un instrumento de participación en el bien común. Cuando la pregunta sobre lo que es verdadero pierde interés y se impone un pragmatismo que se conforma con lo que parece útil o eficaz, la vida democrática se debilita”.
Una de las autoras citadas en el documento papal es Hannah Arendt, que afirmaba que el desinterés por la verdad conduce inexorablemente al totalitarismo. En esta cuestión, que relaciona verdad y democracia, coincide con el filósofo surcoreano Han Byung-Chul Han, que expresa que “En el orden digital, la verdad deja paso a la fugacidad de la información. Hoy vamos a tener que conformarnos con la información. Es evidente que la época de la verdad ha terminado… En la sociedad actual, los ciudadanos ya no son capaces de creer en un fondo común de discusión que permita iniciar una discusión. Ya no pueden siquiera suponer que han participado en esta discusión como miembros de la misma comunidad. La esfera pública que Arendt y Habermas presentan como ideal no existe….La democracia no es compatible con el nuevo nihilismo. Presupone un discurso de la verdad”.
Trabajo
El artículo 14 bis de la Constitución Nacional consagra una importante cantidad de derechos a los trabajadores y a los gremios. También en el artículo 75, inciso 19 se alienta al Congreso a dictar una legislación orientada al progreso económico con justicia social, a la generación de empleo y a la formación profesional de los trabajadores. En esa misma orientación, la encíclica papal concede una importancia sustancial a los trabajadores. Contiene un apartado específico La dignidad del trabajo en la transición digital, en donde se hace referencia al valor del trabajo y el problema del desempleo.
Al respecto, se recuerda que desde el nacimiento de la Doctrina social, con la Rerum novarum, la Iglesia ha llamado la atención sobre la protección de los trabajadores y la necesidad de combatir toda forma de explotación, aclarando que el trabajo no es un simple instrumento, sino que expresa y acrecienta la dignidad de la vida. Luego, se advierte que “Hoy en día, la combinación de la automatización, la robótica y la IA está transformando la estructura misma del trabajo. Se dice que esto traerá grandes mejoras para todos. En realidad, los nuevos modos de trabajar no son necesariamente mejores…Así, contrariamente a los beneficios anunciados sobre la IA, los enfoques actuales de la tecnología pueden paradójicamente desespecializar a los trabajadores, someterlos a una vigilancia automatizada y relegarlos a tareas rígidas y repetitivas”.
Asimismo, el problema del desempleo también es abordado en Magnifica Humanitas. Allí se señala que Juan Pablo II había afirmado que el desempleo es un mal grave y que cuando adquiere proporciones masivas, puede convertirse en una verdadera calamidad social. El Papa León XIV retoma esa preocupación por las consecuencias sociales, políticas y culturales del desempleo producido por las nuevas tecnologías, que generan preocupantes desigualdades. “Una sociedad que garantiza trabajo solo a una pequeña parte de la población expondría a muchos a una situación de inactividad forzada, de ausencia de responsabilidades, de falta de compromiso y de estímulos cotidianos, con consecuencias de empobrecimiento humano y cultural en contraste con el elevado nivel de desarrollo técnico. Nos encontraríamos ante una paradoja de progreso material y regresión antropológica, en las que desaparecerían las condiciones para una paz justa y estable”.
La preocupación por las consecuencias culturales del desempleo son abordadas también por Yuval Noah Harari, quien afirma que el colapso de la República de Weimar y el ascenso del nazismo es el ejemplo que más suele citarse para advertir sobre las derivaciones políticas de las pérdidas masivas de puestos de trabajo. Recuerda que en las elecciones alemanas de mayo de 1928 el Partido Nazi obutvo menos del 3% de los votos y parecía que la República de Weimar se consolidaba. Menos de 5 años después, la misma se había desplomado y Hitler ejercía el poder. Este cambio radical suele atribuirse a la crisis financiera de 1929. Antes del crac la tasa de desempleo alemana era del 4% y a principios de 1932 se había disparado al 25%. Afirma Harari que “Si tres años de una tasa de desempleo del 25% podían convertir a una democracia aparentemente próspera en el régimen más despiadado de la historia ¿que podría ocurrirles a las democracias si la automatización causara trastornos aún mayores en el mercado laboral del siglo XXI”.
Datos
La reforma constitucional de 1994, en el artículo 43, estableció un conjunto de pautas orientadas a la protección de los datos de las personas. En octubre de 2000, se dictó la Ley 25.32, de Protección de Datos Personales. Los profundos cambios generados como consecuencia de las tecnologías de la información y la comunicación exigen la actualización de esa norma. Magnifica Humanitas es una excelente referencia para llevar adelante esa tarea.
La encíclica advierte que no deben subestimarse las sutiles formas de dependencia vinculadas a la economía digital de la atención, donde las plataformas y los servicios están diseñados para captar el tiempo y la mirada de usuarios, explotando sus fragilidades y debilitando su libertad interior. Cuando los modelos de negocio prosperan a costa de la debilidad humana, la persona es tratada como un medio y no como un fin. Luego, se agrega que un riesgo adicional, menos visible pero no menos grave, es el control social que la recopilación masiva de datos y el uso de sistemas algorítmicos hace posible. Cuando cada gesto deja huellas, desplazamientos, compras, relaciones, preferencias, se crea un poder nuevo: el de perfilar, prever y orientar los comportamientos, sin que las personas tengan plena conciencia. Por eso, considera que la propiedad de los datos no puede confiarse sólo al sector privado, sino que debe reglamentarse. “Por eso la libertad, en la era digital, no es solo una cuestión interior, es también un asunto público, que exige normas claras, transparencia, vías de recurso y límites proporcionados al uso de tecnologías invasivas, para que la tecnología siga estando al servicio de la persona y no se convierta en una forma de dominio de las conciencias”.
Diferentes especialistas ponen énfasis en los riesgos institucionales que representan redes y plataformas por el denominado extractivismo de datos. Shoshana Zuboff, por ejemplo, fue quien planteó el concepto de capitalismo de la vigilancia. El mismo consiste, fundamentalmente, en la recolección, procesamiento y utilización de los datos de los usuarios de plataformas y redes sociales para fines económicos, vulnerando la privacidad de los mismos. En su último trabajo: ¿Capitalismo de la vigilancia o democracia? la autora cuestiona la supuesta neutralidad de las tecnologías afirmando, por el contrario, la estrecha conexión entre prácticas económicas, desarrollos tecnológicos y transformaciones institucionales. Para que esta situación tenga lugar, Zuboff afirma que existió al respecto una verdadera deserción democrática. “El capitalismo de la vigilancia es lo que sucedió cuando la democracia estadounidense se retiró. Fue una ganancia imprevista, nacida de una ideología económica antidemocrática y regalada por líderes democráticos que niegan la democracia…La profundización del orden del capitalismo de la vigilancia propaga el desorden y la desinstitucionalización democrática”.
Medio Ambiente
Otro artículo introducido por la reforma constitucional de 1994 es el 41, referido al medio ambiente. Alli, entre otras cosas, se afirma que todos los habitantes gozan del derecho a un ambiente sano, equilibrado, apto para el desarrollo humano y para que las actividades productivas satisfagan las necesidades presentes sin comprometer las de las generaciones futuras. Más adelante, se agrega que las autoridades proveerán a la protección de este derecho, a la utilización racional de los recursos naturales, a la preservación del patrimonio natural y cultural y de la diversidad biológica, y a la información y educación ambientales.
La encíclica papal también se refiere a esta cuestión. En esta temática, luego de reconocer determinadas ventajas que pueden venir de la mano de las nuevas tecnologías, destaca que una adopción rápida y acrítica de las mismas conlleva diversos riesgos, como subestimar el impacto ambiental. Explica el Papa León XIV que los actuales sistemas de IA requieren grandes cantidades de energía y agua, inciden de manera significativa en las emisiones de anhídrido carbónico y consumen recursos de manera intensiva. “Por eso, es esencial desarrollar soluciones tecnológicas más sostenibles para reducir el impacto sobre el medio ambiente y cuidar nuestra Casa común”.
Es dable apreciar la coincidencia entre la encíclica papal y la Constitución Nacional, especialmente en lo referido a la necesidad de alcanzar un desarrollo sostenible, que concilie la producción económica y la conservación de los recursos naturales.
Educación
La Constitución Nacional, en su artículo 75, inciso 19, faculta al Congreso sancionar leyes de organización y de base de la educación que consoliden la unidad nacional respetando las particularidades provinciales y locales; que aseguren la responsabilidad indelegable del Estado, la participación de la familia y la sociedad, la promoción de los valores democráticos y la igualdad de oportunidades y posibilidades sin discriminación alguna y que garanticen los principios de gratuidad y equidad de la educación pública estatal y la autonomía y autarquía de las universidades nacionales. Asimismo, se alienta al desarrollo científico y tecnológico, su difusión y aprovechamiento.
Magnifica Humanitas aborda extensamente esta cuestión, proponiendo una alianza educativa para la era digital. Allí se destaca especialmente la importancia de la educación y se advierte la profunda transformación en todos los niveles educativos que genera la tecnología de la información y la comunicación. Entre otras cosas, se pone de manifiesto que la omnipresencia de los medios digitales genera una cultura de la inmediatez y la sobreestimulación, que alimenta el cansancio, el aburrimiento y la apatía ante el esfuerzo que supone la búsqueda de la verdad. Los procesos educativos, en cambio, requieren tiempo para madurar, una confrontación con la realidad más allá de las apariencias y un camino paciente. Recuerda lo dicho por Platón, que las cosas más profundas sólo se aprenden tras mucho tiempo y mucho esfuerzo.
En ese orden de ideas, la encíclica propone una imprescindible actualización de las prácticas pedagógicas y la capacitación contínua de los docentes para incorporar las nuevas tecnologías de manera positiva, ayudando a los alumnos a hacer un uso responsable, crítico y creativo de ellas. En tal sentido, pretende evitar la instalación de un sistema educativo carente de amor por la verdad, en donde el flujo incesante de información sustituya el ejercicio de la investigación, la reflexión y el discernimiento. Por ello, considera “…necesario promover una verdadera higiene de la atención, ritmos que incluyan silencio, estudio reflexivo, lectura, análisis ponderado; sin estos elementos, la libertad interior puede verse comprometida”.
Regulación, ética y neutralidad
Por último, y a modo de conclusión, es necesario abordar un tema de singular importancia, referido a la regulación, la ética y la neutralidad. Al respecto, en la encíclica se afirma que los sistemas de IA suelen presentarse como neutrales y objetivos, mientras que en realidad, reflejan y refuerzan estereotipos o posiciones ideológicas de quienes los han diseñado y programado. Por eso, no podemos considerar a la IA como moralmente neutra; no es un simple instrumento que hay que usar correctamente. El discernimiento ético no se puede limitar a preguntarse si se usa un elemento para un fin bueno o para un fin malo, sino que debe interrogarse también sobre el modo en que fue diseñado y qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que lo guían. No serviría de nada una IA más moral si esta moral es decidida por unos pocos.
Como consecuencia de ello, el Papa León XIV exige que la política no renuncie a su tarea: De lo contrario “…el cambio será gobernado solo por lógicas tecnocráticas y presentado como necesario e imprescindible, terminando por imponer reglas dictadas por quienes poseen datos, infraestructuras y capacidad de cálculo”.
La demanda papal es clara e inequívoca; debe ser la propia sociedad, a través de sus representantes, los encargados de regular la Inteligencia Artificial. La deserción democrática allana el camino para que las reglas y la propia moral sean decididas por un pequeño grupo de poderosos empresarios tecnológicos.
Bibliografía
Andreessen. M (2023). Manifiesto Tecno-Optimista.
Byung-Chul Han. (2022). Infocracia. La digitalización y la crisis de la democracia. Taurus. Buenos Aires.
Harari. Yuval Noah. (2024). Nexus. Una historia de las redes de información desde la Edad de Piedra hasta la IA. Debate. Buenos Aires. Penguin Random House. Grupo Editorial.
Magnifica Humanitas. (2026), Carta Encíclica del Santo Padre León XIV. Sobre la custodia de la persona humana en el tiempo de la inteligencia artificial.
Negrete. J. (2026). Geopolítica, Inteligencia Artificial y religión. DPL.
Verdon. G. (2023). Manifiesto del Aceleracionismo Eficaz
Weber. M (2003). La ética protestante y el espíritu del capitalismo. Fondo de Cultura Económica. Buenos Aires.
Zuboff. Shoshana. (2020) La era del capitalismo de la vigilancia. Buenos Aires. PAIDOS.
Zuboff. Shoshana. (2025) ¿Capitalismo de la vigilancia o democracia?. Una lucha a todo o nada en la era de la información. Buenos Aires. Universidad Nacional de General San Martín.
Deja una respuesta