El mensaje de Francisco para la Jornada Mundial de la Paz 2024, que se celebrará el próximo 1 de enero sobre el tema de las nuevas tecnologías: "Si agravan las desigualdades y los conflictos no pueden considerarse verdadero progreso"
 |
| (ANSA) |
Advirtió de los
graves riesgos de las campañas de desinformación que pueden alimentar el
terrorismo o interferir en los procesos electorales.
Por un lado,
"oportunidades apasionantes", como la mejora del trabajo, de las
condiciones de vida de las personas, de los instrumentos médicos y de las
interacciones personales; por otro, "riesgos graves", como el uso no
regulado de las llamadas armas "inteligentes", el consiguiente
peligro de atentados terroristas, fomentando así "la locura de la
guerra" o las intervenciones destinadas a desestabilizar las instituciones
legítimas de gobierno, llegando, por ejemplo, a condicionar las elecciones
políticas. Vicios (posibles y reales) y virtudes de la Inteligencia artificial (IA) y las nuevas tecnologías, el Papa los pone en la balanza en su Mensaje
para la 57ª Jornada Mundial de la Paz, que se celebrará el 1 de enero de 2024.
"Inteligencia artificial y paz" es el título del documento en el que
el Pontífice dirige sus mejores deseos de paz -más conmovedores que nunca en un
mundo desgarrado por las guerras- al pueblo de Dios, a las naciones, a los
Jefes de Estado y de Gobierno, a los representantes de las distintas religiones
y a la sociedad civil.
No a la locura de la guerra
Es
una paz, de la que habla el Papa, que pasa también por el progreso de la
ciencia y de la técnica, que "en la medida en que contribuye a un mejor
orden de la sociedad humana", conduce "a la mejora del hombre y a la
transformación del mundo". Por el contrario, este mismo mundo que se
ha convertido en el escenario de una tercera guerra mundial en pedazos "no
necesita realmente las nuevas tecnologías para contribuir al desarrollo inicuo
del mercado y del comercio de armas, fomentando la locura de la guerra".
Al hacerlo", escribe Francisco, "no sólo la inteligencia, sino el
corazón mismo del hombre, correrán el riesgo de volverse cada vez más
'artificiales'".
Logros extraordinarios
En
su Mensaje, Jorge Mario Bergoglio aplaude los "extraordinarios logros de
la ciencia y de la técnica", gracias a los cuales "se han remediado
innumerables males que afligían la vida humana y causaban grandes
sufrimientos". Al mismo tiempo, esos avances tecnocientíficos "están
poniendo en manos del hombre un vasto abanico de posibilidades", y algunas
-advierte el Papa- pueden representar "un riesgo para la supervivencia y
un peligro para la casa común".
"La libertad y la
convivencia pacífica se ven amenazadas cuando los seres humanos sucumben a la
tentación del egoísmo, del interés propio, del afán de lucro y de la sed de
poder"
Sistemas de armas autónomas letales
La
mirada está puesta en el escenario internacional: "La posibilidad de
llevar a cabo operaciones militares mediante sistemas de control remoto ha
conducido a una menor percepción de la devastación que causan y de la
responsabilidad de su uso, contribuyendo a un enfoque aún más frío y distante
de la inmensa tragedia de la guerra", escribe el Papa. La investigación
sobre tecnologías emergentes en el ámbito de los llamados "sistemas de
armas autónomas letales", incluido el uso bélico de la inteligencia artificial,
es un "serio motivo de preocupación ética".
Nunca,
dice, los sistemas de armas autónomas pueden ser "sujetos moralmente
responsables". Una máquina, por inteligente que sea, "sigue siendo
una máquina". Es "imperativo", por tanto, "garantizar una
supervisión humana adecuada, significativa y coherente de los sistemas de
armamento".
"Tampoco podemos ignorar
la posibilidad de que armas sofisticadas caigan en manos equivocadas,
facilitando, por ejemplo, ataques terroristas o intervenciones destinadas a
desestabilizar instituciones gubernamentales legítimas".
Allanar el camino a la paz
Por
tanto, las aplicaciones técnicas más avanzadas deberían utilizarse "para
allanar los caminos de la paz": "Desde un punto de vista más
positivo, si la inteligencia artificial se utilizara para promover el
desarrollo humano integral, podría introducir importantes innovaciones en la
agricultura, la educación y la cultura, una mejora del nivel de vida de
naciones y pueblos enteros, el crecimiento de la fraternidad humana y la
amistad social", subraya el Pontífice. En este sentido, habla de una
"algor-ética", como el "desarrollo ético de los algoritmos"
en la experimentación, el diseño, la producción, la distribución y la
comercialización. Fases en las que "las instituciones educativas y los
responsables de la toma de decisiones tienen un papel esencial que
desempeñar".
Un tratado sobre el uso y el desarrollo
de la IA
Varias
veces en su Mensaje, el Papa pide controles y supervisión de tales procesos. Y
lanza una propuesta a la comunidad internacional para que "trabaje unida
con el fin de adoptar un tratado internacional vinculante" que regule el
desarrollo y el uso de la inteligencia artificial en sus múltiples formas,
teniendo en cuenta la voz de todas las partes interesadas, incluidas las
marginadas en el debate global.
Profundas transformaciones
Muchas,
demasiadas, son de hecho las "profundas transformaciones" que las
nuevas tecnologías han provocado ya en los ámbitos de la comunicación, la
administración pública, la educación, el consumo, las interacciones personales
y otros innumerables aspectos de la vida cotidiana.
"Las tecnologías que
emplean una multiplicidad de algoritmos pueden extraer, a partir de los rastros
digitales dejados en Internet, datos que permiten controlar los hábitos
mentales y relacionales de las personas con fines comerciales o políticos, a
menudo sin su conocimiento, restringiendo su ejercicio consciente de la
libertad de elección".
No es un progreso real
En
un espacio como la web, sobrecargado de información, las tecnologías
"pueden estructurar el flujo de datos según criterios de selección no
siempre percibidos por el usuario". Los riesgos son reales y pueden
afectar a la vida de "personas de carne y hueso". Las "formas de
inteligencia" -es correcto hablar de ellas en plural- tienen un impacto
que "depende también de los objetivos e intereses de quienes las poseen y
desarrollan, así como de las situaciones en las que se emplean", subraya
el Pontífice. No es seguro a priori que su desarrollo "contribuya
benéficamente al futuro de la humanidad y a la paz entre los pueblos".
Tampoco es "suficiente suponer, por parte de quienes diseñan algoritmos y
tecnologías digitales, un compromiso de actuar ética y responsablemente".
Por eso es necesario "reforzar o, en caso necesario, crear organismos
encargados de examinar las nuevas cuestiones éticas y proteger los derechos de
quienes utilizan formas de inteligencia artificial o se ven afectados por
ellas".
"Los desarrollos
tecnológicos que no conduzcan a una mejora de la calidad de vida de toda la
humanidad, sino que, por el contrario, agraven las desigualdades y los
conflictos, nunca podrán considerarse un verdadero progreso"
Sistemas que pueden "alucinar
El
Papa Francisco habla de 'machine learning', aprendizaje automático, y de 'deep
learning', aprendizaje profundo: "La capacidad de algunos dispositivos
para producir textos sintáctica y semánticamente coherentes, por ejemplo, no es
garantía de fiabilidad", señala el Papa. Estas herramientas pueden
"alucinar", es decir, "generar afirmaciones que a primera vista
parecen verosímiles, pero que en realidad carecen de fundamento o traicionan
prejuicios".
Es
evidente cuánto esto puede crear "graves problemas" si la
inteligencia artificial se utiliza en "campañas de desinformación que
difunden noticias falsas" y conducen a "una creciente desconfianza en
los medios de comunicación". De hecho, da paso a la discriminación, la
interferencia en los procesos electorales, el control de los individuos, la
exclusión digital, así como la "exacerbación de un individualismo cada vez
más desconectado de la comunidad". Todos ellos factores que corren el
riesgo de "alimentar los conflictos" y "obstaculizar la
paz".
El riesgo de caer en la espiral de una
dictadura tecnológica
Además,
"la gran cantidad de datos analizados por las inteligencias artificiales
no es en sí misma una garantía de imparcialidad", es la advertencia de
Francisco. "Cuando los algoritmos extrapolan la información, siempre
corren el riesgo de distorsionarla, replicando las injusticias y los prejuicios
de los entornos en los que se origina". En el sistema tecnocrático, que
favorece el eficientismo exagerado, se puede llegar a obviar el "sentido
del límite". Lo que, en otras palabras, significa que en la obsesión de
"querer controlarlo todo", el ser humano corre el riesgo de
"perder el control sobre sí mismo" y "caer en la espiral de una
dictadura tecnológica". Así, "las desigualdades podrían crecer
desproporcionadamente y el conocimiento y la riqueza acumularse en manos de
unos pocos, con graves riesgos para las sociedades democráticas y la
convivencia pacífica".
"En el futuro, la
fiabilidad de un solicitante de hipoteca, la idoneidad de un individuo para un
puesto de trabajo, la probabilidad de reincidencia de un condenado o el derecho
a recibir asilo político o asistencia social podrían estar determinados por
sistemas de inteligencia artificial".
Formas de manipulación y control
No
sólo eso: "Las formas de inteligencia artificial parecen capaces de
influir en las decisiones de los individuos mediante opciones predeterminadas
asociadas a estímulos y elementos disuasorios, o mediante sistemas de
regulación de las elecciones personales basados en la organización de la
información". Son "formas de manipulación o control social"
que "requieren una atención y supervisión cuidadosas, e implican una clara
responsabilidad legal por parte de los productores, de quienes los emplean y de
las autoridades gubernamentales", escribe el Papa. También advierte del
peligro de "clasificaciones indebidas entre los ciudadanos" generadas
por procesos automáticos que categorizan a los individuos: éstos también pueden
llevar a "conflictos de poder", dice el Pontífice, en detrimento de
"personas de carne y hueso".
"El respeto fundamental
de la dignidad humana postula rechazar que la unicidad de la persona se
identifique con un conjunto de datos".
El tema del trabajo
El
Mensaje papal aborda finalmente el tema del trabajo: "Tareas que antes
eran prerrogativa exclusiva del trabajo humano están siendo rápidamente
absorbidas por las aplicaciones industriales de la inteligencia
artificial", escribe el Papa. También en este caso," existe un riesgo
sustancial de ventaja desproporcionada para unos pocos a costa del
empobrecimiento de muchos". El llamamiento es para que la comunidad
internacional tenga como "alta prioridad" el respeto de la dignidad
de los trabajadores y la importancia del empleo para el bienestar económico de
las personas, las familias y las sociedades, la seguridad en el empleo y unos
salarios justos.
Llamamiento a las escuelas e
instituciones
De
ahí también el llamamiento a las instituciones para que eduquen en el uso de la
inteligencia artificial: "Es necesario que los usuarios de todas las
edades, pero especialmente los jóvenes, desarrollen una capacidad de
discernimiento en el uso de los datos y contenidos recogidos en la web o
producidos por sistemas de inteligencia artificial", remarcó Francisco.
"Las escuelas, las universidades y las sociedades científicas están
llamadas a ayudar a los estudiantes y a los profesionales a asumir los aspectos
sociales y éticos del desarrollo y del uso de la tecnología."
La oración del Papa
Como conclusión del Mensaje, una oración del Obispo de Roma para el Año Nuevo:
Salvatore
Cernuzio - Ciudad del Vaticano
Vatican News
