¿Qué dice la nueva encíclica del Papa sobre la Inteligencia Artificial?

Siempre debe ser “la inteligencia humana, con su conciencia y su libertad, la que guíe las innovaciones técnicas y establezca con responsabilidad su uso y sus límites”, dice el Papa León XIV en su flamante encíclica Magnifica Humanitas (Humanidad Magnífica), cuyo texto íntegro se dio a conocer el 25 de mayo, aunque está datada 10 días antes. La carta tiene como subtítulo “Sobre la custodia de la persona humana en el tiempo de la inteligencia artificial” y anticipa desde el vamos cuáles son las preocupaciones del pontífice.

Lee también: Hubo un erudito italiano que se fascinó por Bariloche cuando apenas existía

Se trata de la primera “carta encíclica” que elabora el sucesor de Francisco. Se dató el 15 de mayo para que coincidiera con el 135º aniversario de la promulgación de la encíclica “Rerum Novarum” del Papa León XIII, uno de los documentos fundamentales para la Doctrina Social de la Iglesia. “No es mi intención ofrecer aquí un tratado sobre la inteligencia artificial, ni recorrer una bibliografía que ya es muy amplia”, advierte el Sumo Pontífice al abordar directamente la cuestión.

“Es oportuno anteponer dos consideraciones: la primera es que cualquier afirmación sobre la IA corre el riesgo de quedar obsoleta en poco tiempo, dada la impresionante velocidad de desarrollo de estos sistemas”, admite la encíclica. Por otro lado, “todos nosotros, incluidos quienes los diseñan, sabemos muy poco sobre su funcionamiento efectivo”. Para León XIV “las inteligencias artificiales modernas están más cultivadas que construidas”.

Con esa diferenciación, puntualizó el jefe de la cristiandad que “los desarrolladores no diseñan directamente cada detalle, sino que crean una arquitectura sobre la cual la IA crece. En consecuencia, los aspectos científicos fundamentales —como las representaciones internas y los procesos computacionales de estos sistemas— siguen siendo desconocidos. Se manifiesta, por tanto, la urgencia de un doble compromiso: por una parte, una profundización de la investigación científica; por otra, un ejercicio de discernimiento moral y espiritual”.

Evitar equívocos

La encíclica sugiere “evitar el equívoco de equiparar esta inteligencia a la humana. Estos sistemas imitan ciertas funciones de la inteligencia humana. Al hacerlo, a menudo la superan en velocidad y amplitud de cálculo, ofreciendo beneficios concretos en numerosos campos. Y, sin embargo, esta potencia sigue ligada exclusivamente al tratamiento de datos: las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad”.

Previsiblemente, “tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias”, alertó el Papa. “Pueden imitar lenguajes, comportamientos, valoraciones; pueden simular empatía o comprensión, pero no conocen lo que producen, porque no residen en el horizonte afectivo, relacional y espiritual en el que el ser humano se vuelve sabio”.

Es un error paragonar la así llamada IA con la inteligencia humana.

Es más, “incluso cuando dichos instrumentos se presentan como capaces de aprender, lo hacen de modo diferente al de la persona humana. No es la experiencia de quien se deja modelar por la vida y crece en el tiempo por medio de decisiones, errores, perdón y fidelidad; es más bien una adaptación estadística a partir de datos y retroalimentaciones, que puede ser muy eficaz, pero no implica un crecimiento interior”, destacó el pontífice.

Así las cosas, “la IA puede ser una valiosa ayuda”, pero en forma simultánea exige “un enfoque prudente y cauteloso”, razonó León XIV. “En los últimos años su uso privado ha crecido notablemente, y desde distintos ámbitos se reflexiona sobre las oportunidades y los riesgos vinculados a su rápida difusión. En el uso personal, tres aspectos, en particular, deben ser tenidos en especial consideración: la facilidad para lograr el resultado, la impresión de objetividad y la simulación de la comunicación humana”.

No obstante, “la velocidad y la sencillez con la que es posible obtener indicaciones, elaboraciones complejas, contenidos mediáticos y formas de asistencia concreta simplifican nuestras vidas, pero también pueden acostumbrarnos a delegar demasiado y a buscar respuestas rápidas, debilitando el juicio personal y la creatividad”, advierte el texto papal. “La impresión de objetividad que las respuestas y las propuestas de estos sistemas pueden suscitar, corre el riesgo de hacernos olvidar que estas reflejan los parámetros culturales de quienes las han proyectado y adiestrado, con todas sus virtudes y defectos”.

Además, “la imitación artificial de una comunicación humana positiva —palabras de consejo, de empatía, de amistad, de amor— puede resultar gratificante e incluso útil, pero en usuarios poco conscientes puede inducir a engaño y dar la falsa impresión de estar en una relación con un auténtico sujeto personal”, subraya la encíclica. “Cuando la palabra es simulada, esta no construye una relación, sino una apariencia”.

En efecto, “la imitación artificial de la relación de cuidado o de acompañamiento puede ser peligrosa cuando se introduce en un contexto pobre de relaciones y de afectos reales; entonces el riesgo no es tanto que una persona crea que está hablando con otra persona, sino que pierda el deseo mismo de buscar realmente al otro”, alerta el pronunciamiento eclesiástico, que está disponible íntegro en Vatican News.

El Papa también se hizo de eco de consideraciones ambientales. “Las ventajas en términos de eficiencia y las potencialidades de mejora de algunos servicios son evidentes; sin embargo, una adopción rápida y acrítica nos expone a diversos riesgos, como el de subestimar el impacto ambiental”, destaca el documento. Es que “los actuales sistemas de IA requieren grandes cantidades de energía y agua, inciden de manera significativa en las emisiones de anhídrido carbónico y consumen recursos de manera intensiva”.

Es más, “con el aumento de la complejidad, sobre todo en los grandes modelos lingüísticos, crecen también las necesidades de potencia de cálculo y capacidad de almacenamiento, que se apoyan en un conjunto de máquinas, cables, centros de datos e infraestructuras consumidoras de energía. Por eso es esencial desarrollar soluciones tecnológicas más sostenibles para reducir el impacto sobre el medioambiente y cuidar nuestra Casa común”, señala el documento de Sumo Pontífice, en relación con el planeta.