“Los modelos y algoritmos predictivos” indican a los pobres
“como inversiones arriesgadas y padres problemáticos”, se lee en un artículo
reciente de la Civiltá Cattolica
 |
| Shutterstock | studiostoks |
La Inteligencia Artificial no es neutra.
La sustitución del hombre para maximizar objetivos y tareas a través de las
máquinas o la robótica abre un debate serio sobre el impacto de la Inteligencia
Artificial y su incidencia en la vida de millones de personas,
especialmente aquellas pobres y marginadas.
“Los pobres en un mundo dominado por los big
data” es
el tema clave presentado en el artículo, titulado: Intelligenza artificiale e giustizia
sociale. Una sfida per la Chiesa, publicado recientemente por La Civiltá
Cattolica (18 enero / 01 de febrero 2020 – Año 171, pág. 121 – 131,
Sumario 4070).
Antonio
Spadaro S.J y Paul Twomey ponen el
énfasis en las potencialidades de acompañar el cambio tecnológico actual con la
sabiduría humanista de la Iglesia. Además porque la tecnología e
ingeniería robótica y sus implicaciones son impredecibles y ambiguas, para el
trabajo y el empleo, la manufactura, la agricultura y los sistemas
alimentarios, los servicios de salud, la lucha contra la pobreza y la
marginación.
Precisamente,
la Iglesia busca ser profética en el tiempo del “big data”, es decir, en la época
inquieta e incierta de esos datos de cuyo volumen, complejidad y velocidad, sin
control, se está forjando el desarrollo de la “Inteligencia Artificial” y la New
Economy.
Se trata, según Spadaro y Twomey, de
comprender el fenómeno con el intento de canalizarlo desde la perspectiva de la
“justicia
social”. Existen desafíos y oportunidades, pero abordar la
cuestión desde el “bien común” podría inclinar la balanza a favor de la dignidad
de la persona y no de su manipulación.
Los big
data, “datos necesarios para alimentar los
motores de aprendizaje automático pueden llevar a una manipulación y a la
explotación de los pobres: Los pobres del XXI siglo son,
al mismo tiempo de quien no tiene dinero, los que, en un mundo basado sobre los
datos y sobre las informaciones, aquellos ignorados, ingenuos y explotados”, se
lee en el artículo.
“Los
modelos y algoritmos predictivos” indican a los pobres “como inversiones
arriesgadas y padres problemáticos”. Así, vigilancia, manipulación y
control asoman como una amenaza en la vida de los pobres en la era de la IA,
donde cada gesto o comportamiento se digitalizan en algoritmos sin alma y
emociones con fines gubernativos, comerciales y públicos.
La influencia de esos sistemas avanzados
de análisis podría hacer más complejo y menos humano la asistencia social, la
defensa de la privacidad, la aplicación de leyes y el crédito para sectores ya
marginados.
La Iglesia
está ahí para ofrecer una reflexión sobre los aspectos éticos y espirituales, por
ejemplo en el caso específico de los códigos y los prejuicios a
su alrededor. “El código de programación está escrito por seres humanos.
Por lo tanto, su complejidad puede acentuar los defectos que inevitablemente
acompañan a cualquier tarea que realizamos”.
“Las
preconcepciones y el sesgo en la escritura de los algoritmos son inevitables. Y
pueden tener efectos muy negativos sobre los derechos individuales, la
elección, la colocación de los trabajadores y la protección de los consumidores”.
La revista
de los Jesuitas en Roma, cuyos textos son revisados por la Santa Sede antes de
su publicación, propone una mirada realista respecto a los sesgos presentes y
futuros. “Sobre el código que viene escrito hoy se basarán los futuros
sistemas de la IA por muchos años posteriores”.
“De
hecho, los investigadores han encontrado prejuicios de varios tipos presentes
en los algoritmos, en el software adoptado para las admisiones en las
universidades, en los recursos humanos, en las calificaciones de crédito, en
los bancos, en los sistemas de manutención de niños, en los sistemas de
seguridad social y en otros”.
En
definitiva, “los algoritmos no son neutrales. La creciente dependencia de
la economía socioeconómica de la IA da un enorme poder a quienes programan sus
algoritmos”.
“Riesgo
de una mayor marginación de los vulnerables. Un análisis del impacto social de
los grandes datos y de la IA muestra que su tendencia a tomar decisiones sobre
la base de un perfil insuficiente y una retroalimentación limitada conduce a
una mayor marginación de los pobres, los indigentes y los vulnerables”.
Por eso, la
propuesta es que los futuros Bill Gates o Mark Zuckerberg y otros genios de la
programación y de la informática, conciban las consecuencias éticas de sus
negocios y descubrimientos para bien de la humanidad entera. Así como ha
advertido el Papa Francisco en su discurso enviado al Foro Económico de Davos
en enero de 2018.
Spadaro y
Twomey afirman que la evolución de la IA contribuirá en gran medida a plasmar
el siglo XXI. “La Iglesia está llamada a escuchar, a reflexionar y a
comprometerse proponiendo un marco ético espiritual a la comunidad de la IA, de
esta manera prestar un servicio a la comunidad universal. Según la tradición de
la Rerum Novarum, se puede decir que aquí hay una llamada a la justicia social”.
La cuestión
sigue abierta: ¿Qué será de la vida de millones de personas, externas a los
círculos decisionales de expertos y de empresas especializadas en Inteligencia
Artificial volcadas con millones de dólares en la carrera tecnológica que
pretende incidir en cuestiones vitales, tales como la salud, el trabajo, las
aseguraciones, las pensiones, la privacidad, la instrucción, etc.?
En efecto,
la Pontificia
Academia de las Ciencias en mayo
de 2019, invitó a expertos internacionales a la Ciudad del
Vaticano para abordar las preocupaciones de la Iglesia sobre los fundamentos
científicos de la innovación de la IA / robótica; las relaciones persona-robot
y las implicaciones para la sociedad.
Asimismo,
el papa Francisco ha recibido en audiencia privada a líderes del campo
tecnológico como el presidente de Microsoft, Brad Smith, el
pasado 13 de febrero de 2019, para valorar el bien común en futuras
innovaciones. A una platea de los representantes de empresas como Apple,
Facebook, Google, Francisco también planteó el beneficio de la IA para que los
menores no tengan acceso a material pornográfico y ser protegidos de otras
amenazas a su inocencia.
Además, de alertar a las élites del mundo
también sobre el mal uso de la inteligencia artificial para manipular la
opinión de millones de personas y “envenenar” los debates públicos, a través de
un mensaje al pasado Foro Económico Mundial en Davos (27.09.2019).
Artículo de
la Civiltá Cattolica: INTELLIGENZA
ARTIFICIALE E GIUSTIZIA SOCIALE. Una sfida per la Chiesa.
Ary Waldir Ramos Díaz
Fuente:
Aleteia
