Custodiar voces y rostros humanos
Queridos hermanos y hermanas:
El rostro y la voz son rasgos únicos, distintivos, de cada persona;
manifiestan su propia identidad irrepetible y son el elemento
constitutivo de todo encuentro. Los antigüos lo sabían bien. Así, para
definir a la persona humana, los antiguos griegos utilizaron la palabra
“rostro” (prósōpon), que etimológicamente indica aquello que está a la vista, el lugar de la presencia y de la relación. El término latino persona (de per-sonare) incluye en cambio el sonido; no un sonido cualquiera, sino la voz inconfundible de alguien.
El rostro y la voz son sagrados. Nos han sido dados por Dios, que nos
ha creado a su imagen y semejanza, llamándonos a la vida con la Palabra
que Él mismo nos ha dirigido. Palabra que resonó primero a través de
los siglos en las voces de los profetas, y luego se hizo carne en la
plenitud de los tiempos. Esta Palabra —esta comunicación que Dios hace
de sí mismo— la hemos podido escuchar y ver directamente (cf. 1 Jn 1,1-3), porque se dio a conocer en la voz y en el rostro de Jesús, Hijo de Dios.
Desde el momento de su creación, Dios ha querido al hombre como su interlocutor y, como dice san Gregorio de Nisa, [1]
ha impreso en su rostro un reflejo del amor divino, para que pueda
vivir plenamente la propia humanidad mediante el amor. Por tanto,
custodiar rostros y voces humanas significa conservar este sello, este
reflejo indeleble del amor de Dios. No somos una especie hecha de
algoritmos bioquímicos definidos de antemano. Cada uno de nosotros tiene
una vocación insustituible e inimitabile que surge de la vida y que se manifiesta precisamente en la comunicación con los demás.
La tecnología digital, cuando se falla en su cuidado, se corre el riesgo de modificar radicalmente algunos de los pilares
fundamentales de la civilización humana, que a veces damos por
descontado. Simulando voces y rostros humanos, sabiduría y conocimiento,
conciencia y responsabilidad, empatía y amistad, los sistemas conocidos
como inteligencia artificial no solo interfieren en los ecosistemas
informativos, sino que también invaden el nivel más profundo de la
comunicación, el de la relación entre las personas.
El desafío, por tanto, no es tecnológico sino antropológico.
Custodiar los rostros y las voces significa, en última instancia,
cuidarnos a nosotros mismos. Acoger con valentía, determinación y
discernimiento las oportunidades que ofrecen la tecnología digital y la
inteligencia artificial no significa ocultar para nosotros mismos los
puntos críticos, las opacidades, los riesgos.
No renunciar al pensamiento proprio.
Desde hace tiempo existen múltiples pruebas de que algoritmos
proyectados para maximizar la implicación en las redes sociales
—redituable para las plataformas— premian emociones rápidas y penalizan
en cambio expresiones humanas que necesitan tiempo, como el esfuerzo por
comprender y la reflexión. Encerrando grupos de personas en burbujas de
fácil consenso y fácil indignación, estos algoritmos debilitan la
capacidad de escucha y de pensamiento crítico y aumentan la polarización
social.
A esto se sumó una confianza ingenuamente acrítica en la inteligencia
artificial como “amiga” omnisciente, dispensadora de toda información,
archivo de toda memoria, “oráculo” de todo consejo. Todo esto puede
desgastar aún más nuestra capacidad de pensar de modo analítico y
creativo, de comprender los significados, de distinguir entre sintaxis y
semántica.
Aunque la IA puede proporcionar apoyo y asistencia en la gestión de
tareas comunicativas, eludir el esfuerzo de pensar por nosotros mismos y
conformarnos con una recopilación estadística artificial, a la larga
corre el riesgo de erosionar nuestras capacidades cognitivas,
emocionales y comunicativas.
En los últimos años, los sistemas de inteligencia artificial están
asumiendo cada vez más el control de la producción de textos, música y
vídeos. Gran parte de la industria creativa humana corre así el riesgo
de ser desmantelada y sustituida por la etiqueta “Powered by AI”,
convirtiendo a las personas en meros consumidores pasivos de
pensamientos no pensados, de productos anónimos, sin autoría, sin amor.
Mientras que las obras maestras del genio humano en el campo de la
música, el arte y la literatura se reducen a un mero campo de
entrenamiento para las máquinas.
La cuestión que nos importa, sin embargo, no es en lo que logra o
logrará hacer la máquina, sino qué podemos o podremos hacer nosotros,
creciendo en humanidad y conocimiento, con un sabio uso de instrumentos
tan poderosos a nuestro servicio. Desde siempre, el hombre se ha visto
tentado a apropiarse del fruto del conocimiento sin el esfuerzo que
supone el compromiso, la investigación y la responsabilidad personal.
Sin embargo, renunciar al proceso creativo y ceder a las máquinas
nuestras funciones mentales y nuestra imaginación significa enterrar los
talentos que hemos recibido para crecer como personas en relación con
Dios y con los demás. Significa ocultar nuestro rostro y silenciar
nuestra voz.
Ser o fingir: simulación de las relaciones y de la realidad
A medida que nos desplazamos por nuestros flujos de información (feeds), cada vez es más difícil saber si estamos interactuando con otros seres humanos o con “bots” o “influencers”
virtuales. Las intervenciones opacas de estos agentes automatizados
influyen en los debates públicos y en las decisiones de las personas. En
particular, los chatbots basados en grandes modelos lingüísticos
(LLM), se están demostrando ser sorprendentemente eficaces en la
persuasión oculta, mediante una optimización continua de la interacción
personalizada. La estructura dialógica y adaptativa, mimética, de estos
modelos lingüísticos es capaz de imitar los sentimientos humanos y
simular así una relación. Esta antropomorfización, que puede resultar
incluso divertida, es al mismo tiempo engañosa, sobre todo para las
personas más vulnerables. Porque los chatbots excesivamente
“afectuosos”, además de estar siempre presentes y disponibles, pueden
convertirse en arquitectos ocultos de nuestros estados emocionales y, de
este modo, invadir y ocupar la esfera de la intimidad de las personas.
La tecnología que se aprovecha de nuestra necesidad de relacionarnos
no solo puede tener consecuencias dolorosas para el destino de las
personas, sino que también puede dañar el tejido social, cultural y
político de las sociedades. Esto ocurre cuando sustituimos las
relaciones con los demás por relaciones con IA entrenadas para catalogar
nuestros pensamientos y, por lo tanto, para construir a nuestro
alrededor un mundo de espejos, donde todo está hecho “a nuestra imagen y
semejanza”. De este modo, nos privamos de la posibilidad de encontrar
al otro, que siempre es diferente a nosotros y con el que podemos y
debemos aprender a relacionarnos. Sin la aceptación de la alteridad no
puede haber ni relación ni amistad.
Otro gran desafío que plantean estos sistemas emergentes es el de la parcialidad (en inglés: bias),
que lleva a adquirir y transmitir una percepción alterada de la
realidad. Los modelos de la IA están moldeados por la visión del mundo
de quienes los construyen y, a su vez, pueden imponer formas de pensar
que replican los estereotipos y prejuicios presentes en los datos de los
que se nutren. La falta de transparencia en el diseño de los
algoritmos, junto con la representación social inadecuada de los datos,
tiende a mantenernos atrapados en redes que manipulan nuestros
pensamientos y perpetúan y profundizan las desigualdades y las
injusticias sociales existentes.
El riesgo es grande. El poder de la simulación es tal que la
inteligencia artificial también puede engañarnos con la fabricación de
“realidades” paralelas, apropiándose de nuestros rostros y nuestras
voces. Estamos inmersos en una multidimensionalidad, donde cada vez es
más difícil distinguir la realidad de la ficción.
A esto se suma el problema de la falta de precisión. Los sistemas que
hacen pasar una probabilidad estadística por conocimiento nos ofrecen,
en realidad, como mucho, aproximaciones a la verdad, que a veces son
auténticas “alucinaciones”. La falta de verificación de las fuentes,
junto con la crisis del periodismo de campo, que implica un trabajo
continuo de recopilación y verificación de información en los lugares
donde ocurren los acontecimientos, puede favorecer un terreno aún más
fértil para la desinformación, provocando una creciente sensación de
desconfianza, desconcierto e inseguridad.
Una posible alianza
Detrás de esta enorme fuerza invisible que nos involucra a todos, hay
solo un puñado de empresas, aquellas cuyos fundadores han sido
recientemente presentados como los creadores de la “persona del año
2025”, es decir, los arquitectos de la inteligencia artificial. Esto
suscita una importante preocupación por el control del oligopolio de los
sistemas algorítmicos y de inteligencia artificial capaces de orientar
sutilmente los comportamientos e incluso reescribir la historia de la
humanidad —incluida la historia de la Iglesia— a menudo sin que nos
demos cuenta realmente.
El desafío que nos espera no es el de detener la innovación digital sino el de guiarla, y en ser conscientes de su
carácter ambivalente. Corresponde a cada uno de nosotros alzar la voz
en defensa de las personas humanas para que estos instrumentos puedan
realmente ser integrados por nosotros como aliados.
Esta alianza es posible, pero necesita fundamentarse en tres pilares: responsabilidad, cooperación y educación.
En primer lugar, la responsabilidad. Según las
funciones, esta puede traducirse en honestidad, transparencia, valentía,
capacidad de visión, deber de compartir conocimientos, derecho a estar
informado. Pero, en general, nadie puede eludir su responsabilidad ante
el futuro que estamos construyendo.
Para quienes están en la cúspide de las plataformas online
esto significa asegurarse de que las propias estrategias empresariales
no estén guiadas por el único criterio del máximo beneficio, sino
también por una visión de futuro que tenga en cuenta el bien común del
mismo modo que cada uno de ellos se preocupa por el bienestar de sus
hijos.
A los creadores y programadores de modelos de la IA se les pide
transparencia y responsabilidad social respecto a los principios de
planificación y a los sistemas de moderación que están en la base de sus
algoritmos y de los modelos diseñados con el fin de favorecer un
consentimiento informado por parte de los usuarios.
La misma responsabilidad se exige también a los legisladores
nacionales y a las entidades reguladoras supranacionales, a quienes
compete vigilar sobre el respeto de la dignidad humana. Una
reglamentación adecuada puede proteger a las personas, de crear vínculos
emocionales con los chatbots y contener la difusión de
contenidos falsos, manipuladores o confusos, preservando la integridad
de la información frente a una simulación engañosa de la misma.
Las agencias de noticias y los medios de comunicación no pueden
permitir que los algoritmos orientados a ganar a toda costa la batalla
por unos segundos más de atención, prevalezcan sobre la fidelidad a sus
valores profesionales, orientados a la búsqueda de la verdad. La
confianza del público se gana con precisión y transparencia, no con la
búsqueda de cualquier tipo de implicación. Los contenidos generados o
manipulados por la IA deben señalarse y distinguirse claramente de los
contenidos creados por personas. Debe protegerse la autoría y la
propiedad soberana del trabajo de los periodistas y otros creadores de
contenidos. La información es un bien público. Un servicio público
constructivo y significativo no se basa en la opacidad, sino en la transparencia de las fuentes, la inclusión de las partes implicadas y un alto nivel de calidad.
Todos estamos llamados a cooperar. Ningún sector puede
afrontar por sí solo el desafío de guiar la innovación digital y la
forma de governar la IA. Es necesario, por tanto, crear mecanismos de
protección. Todas las partes interesadas —desde la industria tecnológica
a los legisladores, desde las empresas creativas al mundo académico,
desde los artistas a los periodistas y a los educadores— deben
implicarse en construir y hacer efectiva una ciudadanía digital
consciente y responsable.
A esto mira la educación: a aumentar nuestras capacidades
personales de reflexión crítica; evaluar la credibilidad de las fuentes y
los posibles intereses que están detrás de la selección de información
que nos llega; comprender los mecanismos psicológicos que se activan
ante ello; a permitir a nuestras familias, comunidades y asociaciones elaborar criterios prácticos para una cultura de la comunicación más sana y responsable.
Precisamente por esto es cada vez más urgente introducir en los
sistemas educativos de cada nivel también la alfabetización en los
medios de comunicación, en los medios de información y en la IA, que
algunas instituciones civiles ya están promoviendo. Como católicos,
podemos y debemos aportar nuestra contribución para que las personas,
especialmente los jóvenes, adquieran la capacidad de pensar críticamente
y crezcan en la libertad del espíritu. Esta alfabetización también
debería integrarse en iniciativas más amplias de educación permanente,
llegando también a las personas mayores y a los miembros marginados de
la sociedad, que a menudo se sienten excluidos e impotentes ante los
rápidos cambios tecnológicos.
La alfabetización en los medios de comunicación, de información y en
la IA ayudará a todos a no adaptarse a la deriva antropomorfizante de
estos sistemas, sino a tratarlos como herramientas, a utilizar siempre
una validación externa de las fuentes —que podrían ser imprecisas o
erróneas— proporcionadas por los sistemas de IA, a proteger su
privacidad y sus datos conociendo los parámetros de seguridad y las
opciones de impugnación. Es importante educar y educarse a usar la IA en
modo intencional y, en este contexto, cuidar la propia imagen (foto y
audio), el propio rostro y la propia voz, para evitar que vengan
utilizados en la creación de contenidos y comportamentos dañosos como
estafas digitales, ciberacoso, deepfakes que violan la privacidad
y la intimidad de las personas sin su consentimiento. Al igual que la
revolución industrial exigía una alfabetización básica para que las
personas pudieran reaccionar ante las novedades, la revolución digital
también requiere una alfabetización digital (junto con una formación
humanística y cultural) para comprender cómo los algoritmos modelan
nuestra percepción de la realidad, cómo funcionan los prejuicios de la
IA, cuáles son los mecanismos que determinan la aparición de
determinados contenidos en nuestros flujos de información (feeds), cuáles son y cómo pueden cambiar los supuestos y modelos económicos de la economía de la IA.
Necesitamos que el rostro y la voz vuelvan a expresar a la persona.
Necesitamos custodiar el don de la comunicación como la verdad más
profunda del hombre, hacia la cual orientar también toda innovación
tecnológica.
Al proponer estas reflexiones, agradezco a quienes están trabajando
por los fines aquí expuestos y bendigo de corazón a todos los que
trabajan por el bien común con los medios de comunicación.
Vaticano, 24 de enero de 2026, memoria de san Francisco de Sales.
LEÓN XIV PP.
__________________________
[1]
“El hecho de ser creados a imagen de Dios significa que, al hombre,
desde el momento de su creación, le ha sido impreso un carácter real
[...]. Dios es amor y fuente de amor; el divino Creador también ha
puesto este rasgo en nuestro rostro, para que mediante el amor —reflejo
del amor divino— el ser humano reconozca y manifieste la dignidad de su
naturaleza y la semejanza con su Creador” (cf. S. Gregorio de Nisa, La creación del hombre: PG 44, 137).
https://arquidiocesebh.org.br/para-sua-fe/espiritualidade/artigo-de-dom-walmor/realmar/
