Los Dicasterios para la Doctrina de la Fe y para la Cultura y la Educación han elaborado una nota, aprobada por el Papa y publicada el pasado 28 de enero que profundiza sobre las diferentes dimensiones de la inteligencia artificial. Ofrecemos un extracto.
Qué es la IA
Uno de los objetivos de esta tecnología es el de imitar la inteligencia humana que la ha diseñado. Por ejemplo, a diferencia de otras muchas creaciones humanas, la IA puede ser entrenada en producciones del ingenio humano y por tanto generar nuevos “artefactos” con un nivel de velocidad y habilidad que, con frecuencia, igualan o superan las capacidades humanas. Además, como tal tecnología está diseñada para aprender y adoptar determinadas decisiones de forma autónoma, adecuándose a nuevas situaciones y aportando soluciones no previstas por sus programadores, se derivan problemas sustanciales de responsabilidad ética y de seguridad, con repercusiones más amplias para toda la sociedad. Esta nueva situación lleva a la humanidad a cuestionarse su identidad y su papel en el mundo.
La IA marca una nueva y significativa fase en la relación de la humanidad con la tecnología […]. Su influencia se hace sentir a nivel global en una amplia gama de sectores, incluidas las relaciones personales, la educación, el trabajo, el arte, la sanidad, el derecho, la guerra y las relaciones internacionales.
¿Inteligencia?
En lo que respecta al ser humano, la inteligencia es de hecho una facultad relativa a la persona en su conjunto, mientras que, en el contexto de la IA, se entiende en un sentido funcional, asumiendo a menudo que las actividades características de la mente humana pueden descomponerse en pasos digitalizados, de modo que incluso las máquinas puedan replicarlas.
Sus características avanzadas confieren a la IA capacidades sofisticadas para llevar a cabo tareas, pero no la de pensar. Esta distinción tiene una importancia decisiva, porque el modo como se define la “inteligencia” va, inevitablemente, a determinar la comprensión de la relación entre el pensamiento humano y dicha tecnología.
Límites
Las diferencias entre la inteligencia humana y los actuales sistemas de IA parecen evidentes. Si bien se trata de una extraordinaria conquista tecnológica capaz de imitar algunas acciones asociadas a la racionalidad, la IA obra solamente realizando tareas, alcanzando objetivos o tomando decisiones basadas sobre datos cuantitativos y sobre la lógica computacional.
Aunque la IA puede simular algunos aspectos del razonamiento humano y realizar ciertas tareas con increíble rapidez y eficacia, sus capacidades computacionales representan sólo una fracción de las posibilidades más amplias de la mente humana. Por ejemplo, actualmente no puede reproducir el discernimiento moral ni la capacidad de establecer relaciones auténticas.
Dado que la IA no posee la riqueza de la corporeidad, la relacionalidad y la apertura del corazón humano a la verdad y al bien, sus capacidades, aunque parezcan infinitas, son incomparables con las capacidades humanas de captar la realidad. Se puede aprender tanto de una enfermedad, como de un abrazo de reconciliación e incluso de una simple puesta de sol. Tantas cosas que experimentamos como seres humanos nos abren nuevos horizontes y nos ofrecen la posibilidad de alcanzar una nueva sabiduría. Ningún dispositivo, que sólo funciona con datos, puede estar a la altura de estas y otras tantas experiencias presentes en nuestras vidas.
Establecer una equivalencia demasiado fuerte entre la inteligencia humana y la IA conlleva el riesgo de sucumbir a una visión funcionalista, según la cual las personas son evaluadas en función de las tareas que pueden realizar. Sin embargo, el valor de una persona no depende de la posesión de capacidades singulares, logros cognitivos y tecnológicos o éxito individual, sino de su dignidad intrínseca basada en haber sido creada a imagen de Dios.
A la luz de esto, como observa el Papa Francisco, el uso mismo de la palabra “inteligencia” en referencia a la IA es engañoso y corre el riesgo de descuidar lo más valioso de la persona humana. Desde esta perspectiva, la IA no debe verse como una forma artificial de la inteligencia, sino como uno de sus productos.
Tanto los fines como los medios utilizados en una determinada aplicación de la IA, así como la visión global que encarna, deben evaluarse para garantizar que respetan la dignidad humana y promueven el bien común. De hecho, como ha dicho el Papa Francisco, la dignidad intrínseca de todo hombre y mujer debe ser “el criterio clave para evaluar las tecnologías emergentes”.
Responsabilidades
Dado que una causalidad moral en sentido pleno sólo pertenece a los agentes personales, no a los artificiales, es de suma importancia poder identificar y definir quién es responsable de los procesos de IA, en particular de aquellos que incluyen posibilidades de aprendizaje, corrección y reprogramación.
Además de determinar las responsabilidades, se deben establecer los fines que se asignan a los sistemas de IA. Aunque estos puedan utilizar mecanismos de aprendizaje autónomo no supervisado y a veces seguir caminos que no pueden reconstruirse, en última instancia persiguen objetivos que les han sido asignados por los humanos y se rigen por procesos establecidos por quienes los diseñaron y programaron.
Esto representa un desafío, ya que, a medida que los modelos de IA son cada vez más capaces de aprendizaje independiente, puede reducirse de hecho la posibilidad de ejercer un control sobre ellos para garantizar que dichas aplicaciones estén al servicio de los fines humanos.
Esto plantea el problema crítico de cómo garantizar que los sistemas de IA se ordenen para el bien de las personas y no contra ellas.
Relaciones humanas
Dado que es capaz de imitar con eficacia los trabajos de la inteligencia humana, ya no se puede dar por sentado si se está interactuando con un ser humano o con una máquina. […] Aunque la IA “generativa” es capaz de producir texto, voz, imágenes y otros output avanzados que suelen ser obra de seres humanos, hay que considerarla como lo que es: una herramienta, no una persona. Ninguna aplicación de la IA es capaz de sentir de verdad empatía. […]. Aunque la IA puede simular respuestas empáticas, los sistemas artificiales no pueden reproducir la naturaleza personal y relacional de la empatía genuina.
En un mundo siempre más individualista, algunos recurren a la IA en busca de relaciones humanas profundas, de simple compañía o incluso de relaciones afectivas. […] La IA solo puede simularlas. Si […] se sustituyen las relaciones por los medios tecnológicos, corremos el riesgo de sustituir la auténtica relacionalidad por un simulacro sin vida.
El mundo del trabajo
La IA está eliminando la necesidad de ciertas tareas que antes realizaban los seres humanos. Si se utiliza para sustituir a los trabajadores humanos en lugar de acompañarlos, existe el riesgo sustancial de un beneficio desproporcionado para unos pocos a costa del empobrecimiento de muchos. Además, a medida que la IA se hace más poderosa, también existe el peligro asociado de que el trabajo pierda su valor en el sistema económico. Esta es la consecuencia lógica del paradigma tecnocrático: el mundo de una humanidad supeditada a la eficacia, en el que, en última instancia, hay que recortar el coste de esa humanidad. En cambio, las vidas humanas son preciosas en sí mismas, más allá de su rendimiento económico.
Desinformación
Si, por un lado, la IA tiene el potencial latente de generar contenidos ficticios, por otro lado, existe el problema aún más preocupante de su uso intencionado para la manipulación. Esto puede ocurrir, por ejemplo, cuando un operador humano o una organización genera intencionadamente y difunde informaciones, como deepfakes de imágenes, de vídeos y de audio, para engañar o perjudicar. Un deepfake es una representación falsa de una persona que ha sido modificada o generada por un algoritmo de IA. El peligro que entrañan las deepfake es especialmente evidente cuando se utilizan para atacar o perjudicar a alguien.
En general, al distorsionar la relación con los demás y la realidad, los productos audiovisuales falsificados generados por IA pueden socavar progresivamente los cimientos de la sociedad. Esto requiere una regulación cuidadosa.
Uso de datos
Los avances en la elaboración y el análisis de datos que posibilita la IA permiten detectar patrones en el comportamiento y el pensamiento de una persona incluso a partir de una cantidad mínima de informaciones, lo que hace aún más necesaria la privacidad de los datos como salvaguardia de la dignidad y la naturaleza relacional de la persona humana.
No es justificable su uso con fines de control para la explotación, para restringir la libertad de las personas o para beneficiar a unos pocos a expensas de muchos.
Un producto humano
Aunque puede ponerse al servicio de la humanidad y contribuir al bien común, la IA sigue siendo un producto de manos humanas, lo que conlleva la destreza y la fantasía de un hombre, al que nunca debe atribuirse un valor desproporcionado. Como afirma el libro de la Sabiduría: “los hizo un hombre, los modeló un ser de aliento prestado y ningún ser humano puede modelar un dios a su semejanza”.
La IA sólo debe utilizarse como una herramienta complementaria de la inteligencia humana y no sustituir su riqueza. Cultivar aquellos aspectos de la vida humana que van más allá del cálculo es de crucial importancia para preservar una auténtica humanidad, que parece habitar en medio de la civilización tecnológica, casi imperceptiblemente, como la niebla que se filtra bajo la puerta cerrada.
Lo que mide la perfección de las personas es su grado de caridad, no la cantidad de datos y conocimientos que acumulen.
