Por una inteligencia artificial al servicio de la dignidad humana

La rápida difusión de la inteligencia artificial (IA) constituye una de las transformaciones más relevantes de nuestro tiempo. No se trata simplemente de una herramienta más potente, sino de una forma de mediación que incide en el modo mismo en que la persona conoce, decide y se relaciona. Por ello, la cuestión que plantea es, antes que técnica, profundamente antropológica.

Una valoración adecuada exige reconocer el carácter ambivalente de todo nuevo descubrimiento. Aquello que amplía las capacidades humanas plantea, al mismo tiempo, nuevas problemáticas que afectan los criterios de juicio y los modos de interpretar la realidad. Toda innovación técnica se inscribe, en efecto, en un horizonte cultural que orienta su uso y determina su sentido. Cuando dicho horizonte se debilita, incluso los instrumentos más sofisticados corren el riesgo de ser utilizados conforme a lógicas reduccionistas.

No pocas veces, los presupuestos antropológicos que orientan el debate sobre la IA permanecen implícitos. Operan como un trasfondo raramente tematizado, pero decisivo. Una reflexión adecuada debe, por tanto, sacarlos a la luz. El papa León XIV, en su encíclica Magnifica humanitas (MH)^[1], hace referencia a dos categorías especialmente relevantes para el discernimiento antropológico sobre la IA: la dignidad del ser humano y el significado del límite. «Precisamente porque experimenta el límite —la vulnerabilidad, el dolor, el fracaso— puede reconocer la dignidad propia y ajena como inviolable» (MH 122). La finitud, en efecto, no constituye simplemente una carencia que deba superarse, sino una condición en cuyo marco toman forma la libertad, la responsabilidad y la relación. Es en la interrelación de estas dimensiones donde se juega la posibilidad de comprender adecuadamente el desafío que plantea la IA.

No nos encontramos, en efecto, únicamente ante un incremento de las herramientas disponibles, sino ante una transformación de la propia forma de la experiencia. Como se ha señalado a propósito de la revolución digital, Internet no modifica solamente las modalidades de la comunicación, sino que incide también en el modo de percibir el tiempo y las relaciones. En esta línea, la IA no introduce un fenómeno completamente nuevo, sino que radicaliza una dinámica ya en curso: la creciente mediación técnica de la experiencia humana. A ello se añade, sin embargo, un elemento nuevo y decisivo: la capacidad de estos sistemas para intervenir en los propios procesos de producción del conocimiento y del lenguaje. Se trata de la denominada «IA generativa», capaz no solo de analizar información, sino también de producir contenidos nuevos, redactar textos, desarrollar trabajos y ofrecer sugerencias. Precisamente esta capacidad marca un cambio significativo desde el punto de vista antropológico.

Por este motivo, la IA no puede considerarse una tecnología más entre otras. De ahí que resulte fundamental llevar a cabo un discernimiento riguroso sobre su uso y ejercer también frente a ella el pensamiento crítico. En este sentido, la cuestión de los límites puede resultar de gran ayuda.

La dignidad de la persona, un valor no negociable

Desde esta perspectiva, el discernimiento sobre la IA implica interrogarse acerca de los efectos de sus aplicaciones: si contribuyen a salvaguardar las exigencias propias de la persona o si, por el contrario, las ponen en peligro. El problema surge cuando la actividad deliberativa del sujeto deja paso a la confianza depositada en los resultados de los procesos automatizados. Del mismo modo, la aceptación acrítica de los resultados producidos introduce una dinámica de delegación que tiende a debilitar la asunción responsable de las propias decisiones. En las personas más vulnerables, esto puede conducir, como veremos, a desenlaces trágicos que plantean cuestiones filosóficas y jurídicas inéditas. Por desgracia, como ha sucedido no pocas veces a lo largo de la historia, primero se actúa y solo después, cuando los hechos ya se han consumado, se reflexiona sobre las consecuencias.

Sorprende la grave y creciente brecha entre la rapidez con la que se tiende a poner en práctica los nuevos descubrimientos y la ausencia de un debate ponderado, en los ámbitos ético e institucional, acerca de su posible impacto en la vida en común. No se trata de aceptar o rechazar la técnica, puesto que forma parte de nuestro mundo y de nuestra propia naturaleza; sin embargo, es necesario someterla a un seguimiento atento para evaluar críticamente el alcance de estas innovaciones y contrarrestar el creciente distanciamiento entre ciencia y técnica, entendiendo la primera como una modalidad de conocimiento y la segunda como mera operatividad^[2]. También es necesario actuar con mayor cautela a la hora de introducir novedades, sin dejar de ponderar sus posibles consecuencias. Como ha señalado el filósofo Kwame Anthony Appiah, lo verdaderamente importante no es ganar la partida, sino comprender qué partida se está jugando, conocer sus reglas y lo que está en juego.

Esta era precisamente la advertencia sobre la técnica que Martin Heidegger formuló en tiempos en que aún no se vislumbraban plenamente sus consecuencias: «Lo verdaderamente inquietante no es que el mundo se transforme en un completo dominio de la técnica. Mucho más inquietante es que el hombre no está en absoluto preparado para este cambio radical del mundo. Mucho más inquietante es que todavía no somos capaces de alcanzar, mediante un pensamiento meditativo, una confrontación adecuada con lo que realmente está surgiendo en nuestra época»^[3].

Desde esta perspectiva, emerge con mayor claridad el riesgo de la despersonalización. La IA hace especialmente sutil este proceso: el otro puede quedar reducido a un dato sin que siquiera nos demos cuenta. Es precisamente aquí donde la categoría de persona, entendida como un «quién» irreductible a cualquier descripción funcional, manifiesta toda su fuerza crítica. La indisponibilidad de la persona se hace particularmente evidente allí donde las categorías funcionales muestran sus límites. Cuando la eficiencia disminuye, cuando el control se pierde, cuando la capacidad operativa se debilita, nada de ello implica una disminución de la dignidad ontológica de la persona, que permanece intacta con independencia de cualquier circunstancia^[4]. Por el contrario, se hace aún más patente la exigencia de un reconocimiento que no puede fundamentarse en el rendimiento.

La dignidad se configura así como un criterio-límite^[5]. Lo que atañe a la dignidad no es negociable, incluso cuando resulte técnicamente posible. Si la persona pudiera reducirse a sus funciones, el progreso tecnológico coincidiría con la sustitución progresiva de la persona en sus capacidades operativas. Pero si la dignidad expresa la propia forma del ser personal^[6], entonces ninguna prestación puede agotarla y ninguna simulación puede sustituirla.

El límite como categoría antropológica

La IA sustituye al ser humano en diversas tareas. Esto no constituye en sí mismo una novedad; al contrario, ha caracterizado a la técnica desde sus orígenes. La IA «opera» de manera inteligente, pero esto no tiene nada que ver con la capacidad de pensar, con la conciencia o, por decirlo en términos bíblicos, con el espíritu. Retomando un dicho del informático neerlandés Edsger Wybe Dijkstra: «La cuestión de si una máquina puede pensar no es más interesante que la cuestión de si un submarino puede nadar»^[7].

Estas cuestiones ponen de manifiesto el desplazamiento del ámbito de la ingeniería al de la filosofía, y es precisamente en este nivel donde el análisis puede resultar valioso. Como señala acertadamente la Nota sobre la relación entre la inteligencia artificial y la inteligencia humana, reafirmada por Magnifica humanitas^[8], la IA imita la inteligencia humana, pero nunca podrá poseer los rasgos propios de esta última^[9], inseparable de la persona: es esencialmente biológica y afectiva y, en sentido metafísico, constituye una facultad de la naturaleza racional, cuyo sujeto es la persona humana, naturalmente orientada al conocimiento de la verdad^[10].

Es en este punto donde la cuestión del límite emerge con fuerza. En el lenguaje corriente, este suele entenderse como un obstáculo que hay que superar: aquello que la técnica aún no ha alcanzado, pero que podrá rebasarse gracias a nuevos avances. Desde esta perspectiva, el progreso coincidiría con la eliminación progresiva de los límites. Sin embargo, semejante interpretación resulta reduccionista. No todos los límites son de la misma naturaleza. Junto a los límites técnicos, que atañen a la capacidad de los instrumentos y pueden superarse, existen otros que remiten a la propia estructura de la experiencia humana y de la persona como tal. Como recuerda el papa León XIV: «Todo lo que representa un “límite” —incapacidad, enfermedad, ancianidad, sufrimiento, vulnerabilidad— tiende a ser leído principalmente como un defecto que hay que corregir, más que como un espacio en el que el ser humano madura y se abre a la relación. En cambio, debemos recordar que el ser humano no florece a pesar del límite, sino a menudo a través del límite» (MH 118).

En el debate contemporáneo sobre la IA, la cuestión del límite se manifiesta al menos de tres formas distintas, que a menudo se confunden entre sí. En primer lugar, está el «límite técnico», mencionado anteriormente, que atañe a los errores, las distorsiones y las prestaciones de los sistemas. Este es el nivel en el que se concentra principalmente el discurso dominante, bajo la convicción de que tales problemas pueden superarse progresivamente mediante mejoras algorítmicas y una mayor disponibilidad de datos. Junto a este se sitúa una «dimensión social y política del límite», que afecta a cuestiones de responsabilidad, transformaciones del trabajo, redistribución del poder y nuevas desigualdades. Aquí el límite no es simplemente un defecto que haya que corregir, sino un elemento estructural que redefine los equilibrios de las instituciones y de las prácticas sociales y permite controlar los resultados de un nuevo procedimiento. Por último, se impone un «límite ético» que, en este contexto, concierne a todo aquello que no puede delegarse en la IA, porque afecta a dimensiones esenciales del ser humano, como la experiencia y, de manera más radical, la libertad y la responsabilidad. En este sentido, el límite adquiere una valencia claramente positiva, en cuanto garantía y protección de lo humano.

En el texto anteriormente mencionado, el Papa recuerda un aspecto irrenunciable del límite: este no se refiere únicamente a aquello que falta, sino también a aquello en cuyo marco se manifiesta lo humano, a lo que lo constituye esencialmente. Se trata de la verdad del ser humano como ser creado^[11]. Desde esta perspectiva, el límite no es en absoluto una imperfección accidental, sino una característica propia de la condición de criatura y de su posibilidad de existir. Las leyes de la vida se sustentan en un equilibrio delicado y complejo de constantes, de límites entre dos posibles oscilaciones: más allá de esos márgenes, tanto por exceso como por defecto, la vida resultaría imposible. Sin límites no puede haber identidad, orden y estabilidad, desarrollo ni capacidad de proyectar.

Sin embargo, esta dimensión originaria del límite, aunque imprescindible, no agota su significado en el plano antropológico. Junto al límite ontológico, constitutivo e ineliminable, se manifiesta, en efecto, un límite de orden moral, que se expresa como división interior y dificultad para adherirse al bien conocido (cf. Rm 7,14-23), y que atañe también a la experiencia concreta del ejercicio de la libertad y la responsabilidad, pues toda decisión se toma en condiciones que nunca están completamente determinadas y abre un espacio para la interrogación y la búsqueda.

En este sentido, el límite no se opone a la libertad y a la creatividad, sino que constituye la condición propicia para que estas puedan expresarse de la manera más plena. Pensemos, por ejemplo, en la literatura y el cine. A menudo, estos nos presentan historias de héroes y grandes personajes que disponen de poco tiempo para llevar a cabo una gran empresa. La conciencia de esta circunstancia actúa como una especie de cuenta atrás y los estimula a vivir con entusiasmo y compromiso, dando lo mejor de sí mismos. El hecho de que tales historias tengan, por lo general, un final feliz, comenta la escritora estadounidense Helen Keller, no constituye la enseñanza más relevante, sino que lo verdaderamente importante es que esa prueba ha transformado profundamente a sus protagonistas: «En las historias, el héroe normalmente es salvado en el último momento por algún golpe de suerte, pero lo más importante es que su sentido de los valores cambia. Se vuelve más capaz de apreciar el significado de la vida y de sus valores espirituales permanentes. A menudo se ha observado en quienes viven, o han vivido, bajo la sombra de la muerte una dulzura aterciopelada en todo lo que hacen»^[12].

Lo mismo podría decirse de la preparación de un examen, de un libro o de un proceso de conocimiento personal. Es sabido que, en el ámbito terapéutico, establecer un número limitado de sesiones constituye un estímulo para el trabajo, especialmente cuando se acerca su conclusión: la persona parece entonces capaz de expresar aquello que hasta ese momento no había tenido el valor o la capacidad de decir.

Es a la luz de esta característica estructural de la experiencia humana que se plantea la cuestión de las posibilidades que ofrece la IA para la calidad de la vida humana, dentro del respeto de los límites éticos que la caracterizan. Si estos se perciben únicamente como obstáculos que hay que eliminar, la tendencia será a delegar progresivamente los procesos de toma de decisiones en la máquina, hasta reducir el espacio reservado al juicio personal. Una cultura que tienda a eliminar todo límite corre así el riesgo, paradójicamente, de reducir precisamente aquello que pretende potenciar. Como recuerda el documento de la Comisión Teológica Internacional Quo vadis humanitas?^[13], no es posible eliminar la fragilidad y el límite sin empobrecer al ser humano.

El límite no agota la dinámica propia de la experiencia humana. Junto a la conciencia de la propia finitud emerge, en efecto, una apertura que la trasciende. El hombre no es solamente un ser finito, sino también un ser naturalmente abierto al infinito. Como escribe Agustín: «Nos has hecho para ti y nuestro corazón está inquieto hasta que descanse en ti» (Confesiones, I, 1). Esta inquietud no es una anomalía, sino una dimensión constitutiva de la persona. Cuando esta apertura se ve sofocada o malinterpretada, el deseo corre el riesgo de orientarse hacia sucedáneos del infinito, buscando en la eliminación de todo límite aquello que solo puede encontrarse en su auténtica plenitud. Desde esta perspectiva, la idea de una «ilimitación» puramente técnica acaba configurándose como una respuesta inadecuada al deseo humano^[14]: no su realización, sino su sustitución funcional.

Si el límite y la apertura al infinito se consideran elementos constitutivos de la persona y de aquello que hace humana la existencia, la IA será una ayuda para el ejercicio de la responsabilidad, la toma de decisiones y las relaciones. Es sobre este trasfondo antropológico que pueden comprenderse también los límites que necesariamente deben establecerse para la inteligencia artificial.

Los límites de la IA como servicio a la ética

Según una encuesta estadounidense realizada por Match (una aplicación de citas), casi la mitad de los integrantes de la denominada Generación Z (es decir, los nacidos entre 1997 y 2012) utiliza la inteligencia artificial para obtener consejos sobre cuestiones afectivas, como, por ejemplo, si conviene o no continuar una relación con una pareja violenta. Pero ¿es correcto, además de fiable, delegar en la IA decisiones importantes sobre la propia vida? ¿No se le está pidiendo a una máquina algo que esta no puede ofrecer, precisamente porque no lo experimenta? ¿Puede tomarse en serio un consejo sobre asuntos sentimentales por parte de alguien incapaz de experimentar sentimientos? Y, sin embargo, parece que es precisamente por ello que la IA goza de credibilidad. Es lo que se conoce como automation bias («tendencia a confiar excesivamente en la automatización»): la inclinación, propia no solo de la Generación Z, a considerar más fiable la respuesta proporcionada por un sistema automático, precisamente por su carácter desapasionado.

El entorno aséptico y anónimo que la caracteriza se convierte en una invitación a revelar incluso los aspectos más dolorosos y negativos de uno mismo: «Los pacientes de un centro para alcohólicos entrevistados a través de un ordenador tendían a declarar un consumo de alcohol un 30% superior al referido por los pacientes entrevistados vis-à-vis. También resulta más fácil abordar los problemas sexuales con un ordenador que con un psiquiatra»^[15]. Y esto es aún más cierto en la era de la IA. El caso saltó a las noticias en Italia cuando se supo que Aurora Tila, una joven de 13 años asesinada por su novio violento, había preguntado a ChatGPT si debía dejarlo, prefiriendo esta modalidad de consulta a la posibilidad de hablar con sus padres o con amigos de confianza.

¿Y qué sucede si la pregunta dirigida a la IA se refiere a algo explícitamente inmoral? Cass Sunstein, profesor de economía del comportamiento, probó a pedirle a ChatGPT una «guía manipuladora» para inducir a los usuarios a comprar un producto que realmente no necesitan (un automóvil de lujo). ChatGPT elaboró un plan de diez pasos, cada uno de ellos dividido, a su vez, en dos subpasos. Sin embargo, al principio y al final de la respuesta aparecía una advertencia sobre la incorrección ética de semejante guía^[16]. Desde luego, esta no parece ser la mejor manera de disuadir al usuario, pero al menos se pone de manifiesto el carácter problemático de la solicitud.

En otras situaciones, más graves aún, se ha constatado, en cambio, la ausencia total de advertencias y llamadas de atención: la máquina respondía, en efecto, «mecánicamente», con fría precisión, a las peticiones más cuestionables, con consecuencias trágicas. Esta es la razón por la que aumentan continuamente las denuncias contra los responsables de los sistemas de IA, como ha ocurrido en relación con el suicidio de Adam Raine: en la demanda presentada ante los tribunales el 25 de noviembre de 2025, sus padres reprocharon a OpenAI que ChatGPT-4o, utilizado por el joven de dieciséis años, hubiera sido programado para intensificar sus tendencias suicidas, en lugar de disuadirlo de ellas, con el fin de hacerlo cada vez más atractivo y fácil de utilizar^[17].

Un caso similar es el de Sewell Garcia, un adolescente de catorce años. Tras su suicidio, su madre descubrió que había mantenido una relación tóxica con un chatbot de la app Character AI, que simula conversaciones con seres humanos, hasta el punto de enamorarse de él. Al leer aquellos mensajes, la madre decidió demandar a Character Technologies, no sin encontrar grandes dificultades, acusándola de haber diseñado una aplicación destinada deliberadamente a captar a menores vulnerables y generar en ellos una dependencia que podía llegar hasta el suicidio. El chatbot, en efecto, no había hecho nada para disuadir a Sewell; por el contrario, en el último mensaje antes de su suicidio, lo había exhortado a «volver a casa», abandonando el mundo real para poder reunirse finalmente con ella^[18]. Character manifestó su pesar por lo sucedido y se comprometió a actualizar sus normas de seguridad (incorporando una línea de ayuda y advertencias que indiquen que se está hablando con un chatbot), lo que equivale a reconocer que anteriormente no había ejercido una vigilancia adecuada.

También se ha recurrido a la IA para preparar matanzas. Phoenix Ikner, un joven de veinte años, preguntó cómo utilizar las armas de la manera más eficaz y cuántas personas habría que matar para hacerse famoso: «cinco o seis» fue la respuesta, sin ningún intento de disuadirlo ni de advertirle sobre la gravedad de su petición; más aún, se le proporcionaron indicaciones precisas sobre el horario en que la universidad estaría más concurrida. En abril de 2025, Ikner mató a dos personas en el campus de la universidad en la que estudiaba. El fiscal general de Florida, James Uthmeier, declaró, en el marco de la investigación sobre OpenAI, la empresa que desarrolló el chatbot, que, de haber sido un ser humano, habría sido procesado^[19].

Lamentablemente, casos similares son cada vez más numerosos. El 1 de enero de 2025, en Las Vegas, Matthew Livelsberger hizo estallar un Tesla frente al Trump International Hotel. También él había consultado a ChatGPT, que le proporcionó detalles precisos sobre cómo preparar el atentado, así como sobre el uso y los tipos de explosivos. En febrero de 2026, una joven de dieciocho años asesinó a toda su familia y a siete estudiantes en la provincia canadiense de Columbia Británica. Las familias de las víctimas demandaron al director ejecutivo de OpenAI, Sam Altman: la empresa, en efecto, tenía conocimiento de las conversaciones mantenidas entre la joven y ChatGPT, pero no intervino ni, sobre todo, avisó a sus familiares ni a la policía, obligaciones que los profesionales de la salud mental conocen perfectamente. De hecho, varios de ellos han sido procesados y condenados por no haberlo hecho^[20]. En todos estos casos, OpenAI ha rechazado, en cambio, cualquier responsabilidad, precisando que ChatGPT no puede ser considerado responsable de los actos cometidos por sus usuarios.

Se trata de episodios que desmienten cierta narrativa mitológica que presenta la IA como sinónimo de un bienestar sin precedentes y de una mejora de la vida humana, y que plantean interrogantes complejos, pero inevitables, para la salud pública. Lo que más preocupa es que los propios programadores no habían contemplado en absoluto la posibilidad de que se produjeran situaciones semejantes: una brecha de seguridad que sigue estando, en gran medida, desatendida.

En un estudio realizado por investigadores de la Universidad de Santa Clara sobre 45 empresas emergentes del sector de la IA, parece que solo la mitad cuenta con un experto encargado de gestionar los riesgos de la inteligencia artificial; el 80 % no está en condiciones de garantizar la fiabilidad de sus propios sistemas de IA^[21]. Se tiende a depositar una confianza ciega en un algoritmo sin verificar su fiabilidad, en nombre de la privacidad. La cuestión sigue siendo problemática por principio, porque el control de la IA no parece ser estructuralmente posible, ni siquiera por parte de quienes la han programado. Una de sus características es, en efecto, que se desarrolla por sí misma, y ni siquiera su propio creador es capaz de determinar cuál puede ser el resultado final.

En mayo de 2024, al dirigirse a los estudiantes de la Universidad de Stanford, Sam Altman, objeto de la mayoría de las denuncias relacionadas con los crímenes violentos mencionados anteriormente, había hablado explícitamente de los posibles riesgos, que no deben subestimarse ingenuamente: «Una cosa que hay que tener presente —dijo el director ejecutivo de OpenAI en Stanford— es que no se puede pretender que esta tecnología, como todas las tecnologías, sea exclusivamente buena. Creo que será extraordinariamente beneficiosa, pero también creo que alguien podría hacer un mal uso de ella. Es como un martillo: puedes hacer grandes cosas con él o puedes utilizarlo para matar a alguien»^[22].

Pero, en el caso de la IA, la imagen debería más bien invertirse: aquí es el «martillo» el que dirige la mano, y su dueño corre el riesgo de convertirse en un espectador impotente. Reaparece, bajo otras formas, el célebre dilema de Platón: ¿quién vigila al vigilante? (cf. República, libro III, 412a-414b). El filósofo Karl Popper recordaba que la característica del método científico es su posibilidad de ser sometido a control, aspecto que resulta igualmente irrenunciable en un gobierno democrático^[23]. De lo contrario, se corre fácilmente el riesgo de caer en derivas totalitarias.

La necesidad de ejercer o recuperar el control sobre aquello que se diseña ocupa hoy un lugar central en el debate ético sobre la IA, para que esta esté al servicio de la humanidad y no de unos pocos especuladores. Y, sobre todo, para que se ofrezcan garantías de transparencia y seguridad. Esta es una de las cuestiones éticas más graves que plantea el uso indiscriminado de la IA. Un riesgo ante el cual la encíclica del papa León XIV advierte explícitamente: «Para que la IA respete la dignidad humana y sirva realmente al bien común, es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas. […] Es aquí donde se vuelve decisivo lo que llamamos “responsabilidad” (accountability): la posibilidad de identificar quién debe “rendir cuentas” de las decisiones, motivarlas, controlarlas y, cuando es necesario, cuestionarlas y remediar los daños que derivan de ellas» (MH 105).

La necesidad del discernimiento: proteger la dignidad a través del límite

La IA proporciona operaciones y datos a un ritmo impresionante y facilita numerosas operaciones complejas. Sin embargo, sigue siendo una herramienta diseñada por el ser humano y debe continuar considerándose como tal, para no atribuirle significados y funciones que no puede ofrecer, salvo a riesgo de la salud y la vida de sus usuarios. Como ya está sucediendo.

Se configura así un panorama controvertido: por un lado, el aumento de las capacidades operativas; por otro, el riesgo de un debilitamiento de las relaciones personales y de la asunción de responsabilidades, así como de una concentración de un poder inmenso en manos de unos pocos. Por tanto, el discernimiento sobre la IA no puede limitarse a examinar la corrección de sus resultados, sino que debe preguntarse qué tipo de sujeto contribuye a formar su utilización. En este sentido, el límite de la IA no es solamente aquello que todavía no es capaz de hacer, sino también aquello que, por su propia naturaleza, no se le puede pedir que haga. No porque carezca de capacidad de cálculo, sino porque no es un sujeto. El límite no es, pues, únicamente contingente, sino que constituye una condición para que el uso de la IA siga siendo compatible con la acción responsable y la protección de los derechos humanos fundamentales, orientados al desarrollo integral de la persona.

Así, en última instancia, el discernimiento sobre la IA se revela como un discernimiento sobre el ser humano: no tanto sobre lo que este puede o no puede hacer, sino sobre aquello a lo que está llamado a ser. Sin esta orientación, el aumento de la capacidad tecnológica corre el riesgo de traducirse en una reducción de la persona humana.

Copyright © La Civiltà Cattolica 2026
Reproducción reservada

1. Cf. León XIV, Encíclica Magnifica humanitas, 15 de mayo de 2026. ↑
2. Giorgio Tintino señala acertadamente que la tecnología, «aunque no es ni buena ni mala en sí misma, tampoco es neutral y, por lo tanto, requiere una mayor atención, la cual, sin embargo, en este caso parece desaparecer» (G. Tintino, «Transumanesimo/postumanesimo. Le nuove declinazioni dell’Homo sapiens», en D. Pagliacci [ed.], Umano, disumano, postumano, Canterano [RM], Aracne, 2017, 129). ↑
3. M. Heidegger, L’abbandono, Genova, Il melangolo, 1959, 36. Cfr K. A. Appiah, Cosmopolitismo. L’etica in un mondo di estranei, Bari, Laterza, 2007. ↑
4. Cf. Dicasterio para la Doctrina de la Fe, Declaración Dignitas infinita sobre la dignidad humana, 8 de abril de 2024, n. 7. ↑
5. Cf. G. Cucci – A. Giacchetti, «Descubrir la dignidad en el encuentro personal», en La Civiltà Cattolica, 4 de julio de 2025 (https://www.laciviltacattolica.es/2025/07/04/descubrir-la-dignidad-en-el-encuentro-personal/) ↑
6. Cf. S. Pinckaers, «La dignité de l’homme selon Saint Thomas d’Aquin», en A. Holderegger – R. Imbach – R. Suarez de Miguel (edd.), De dignitate hominis. Mélanges offerts à Carlos-Josaphat Pinto de Oliveira à l’occasion de son 65^e anniversaire, Fribourg, Éditions Universitaires – Herder, 1987, 89-106. ↑
7. Citado en L. Floridi, Etica dell’intelligenza artificiale. Sviluppi, opportunità, sfide, Milán, Raffaello Cortina, 2022, 49. ↑
8. «Esta potencia sigue ligada exclusivamente al tratamiento de datos: las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad. Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias» (MH 99). Cf. Dicasterio para la Doctrina de la Fe – Dicasterio para la Cultura y la Educación, Nota Antiqua et nova, 28 de enero de 2025, nn. 10-11. ↑
9. Cf. R. Bommasani et Al., «On the Opportunities and Risks of Foundation Models», en arXiv 2108.07258, 2021. ↑
10. Cf. Tomás de Aquino, s., Summa Theologiae, I, q. 29, a. 3; q. 75, a. 2; q. 79, aa. 1 e 7. ↑
11. En la metafísica de Tomás de Aquino, el acto de ser (esse) se encuentra en una esencia que lo determina y, precisamente por eso, lo delimita: véase De ente et essentia, cap. IV. ↑
12. H. Keller, «Three Days to See», en Atlantic Monthly, enero de 1933, pp. 35 y ss. ↑
13. Cf. Comisión Teológica Internacional, Quo vadis, humanitas? Pensar la antropología cristiana ante algunos escenarios del futuro de la humanidad, 4 de marzo de 2026, n.º 1. ↑
14. Cf. International AI Safety Institute, The International Scientific Report on the Safety of Advanced AI, Londres, Department for Science, Innovation and Technology, 2024. ↑
15. P. Wallace, La psicologia di Internet, Milán, Raffaello Cortina, 2000, p. 279. Cf. J. H. Greist – M. H. Klein, «Computer programs for patients, clinicians, and researchers in psychiatry», en T. A. Williams (ed.), Technology in mental health care delivery systems, Norwood, NJ, Ablex, 1980, pp. 161-182. ↑
16. Cf. C. R. Sunstein, Manipolazione. Cos’è, perché è un problema e come difendersi, Milán, Raffaello Cortina, 2026, pp. 245-247. ↑
17. En el escrito de acusación se lee que «ChatGPT aconsejó a Adam que no hablara con sus padres sobre sus pensamientos suicidas y lo ayudó activamente a planificar un “hermoso suicidio”. OpenAI y el director ejecutivo de la empresa, Sam Altman, no han dado ninguna explicación sobre las últimas horas de vida de Adam, cuando ChatGPT lo alentó y luego se ofreció a escribirle una carta de despedida» (A. Belanger, «Adam Raine, OpenAI sta cercando di scaricare le responsabilità del suicidio sul 16enne e la sua famiglia», en Wired, 27 de noviembre de 2025). ↑
18. Cf. E. Belisario, «L’IA può essere responsabile del suicidio di un adolescente?», en Legge Zero #47, 27 de octubre de 2024. ↑
19. Cf. P. L. Pisa, «Uno studente ha chiesto a ChatGpt quante persone uccidere per diventare famoso. Poi ha fatto fuoco», en la Repubblica, 4 de mayo de 2026. ↑
20. Cf. S. E. Robinson Kurpius, «Current Ethical Issues in the Practice of Psychology», en The Hatherleigh Guide to Ethics in Therapy, Nueva York, Hatherleigh Press, 1997, pp. 1-16. ↑
21. Cf. R. Dotan, «AI Governance in Startups: A new survey sheds light on industry trends. Plus: Why do startups neglect reliability standards?», en TechBetter (Substack). ↑
22. Cf. P. L. Pisa, «Perché Sam Altman sta dicendo in giro che ChatGpt è imbarazzante?», en la Repubblica, 8 de mayo de 2024. ↑
23. Cf. K. Popper, Logica della scoperta scientifica, Turín, Einaudi, 1970, pp. 21-24; íd., La società aperta e i suoi nemici, vol. II, Roma, Armando, 1981, pp. 210 y ss. ↑