Cada vez más decisiones son tomadas por la inteligencia artificial ¿eso es verdaderamente positivo?

Un algoritmo matemático en una computadora

(Jorge Franganillo)

Los adultos mexicanos recuerdan, algunos con afecto y otros con terror, un libro de matemáticas que se llevaba en los estudios secundarios, me refiero a “El Baldor”, como comúnmente se le llamaba. Era un libro con el que éramos torturados todos los muchachos de aquel tiempo para aprender los rudimentos de la ciencia matemática elemental. Bien visto, y toda vez que aún hoy se sigue usando, se trataba desde luego de un texto amable y mucho más amigable de lo que resultan otros de ayer y hoy.

En su portada, una hermosa ilustración cantaba las glorias de la matemática árabe con nombres como “Al-Gabr” y “Al-Juarismi”, de donde vienen vocablos como “álgebra” y “algoritmo”. Muchos tránsfugas de la ciencia exacta nos alegramos el día que vimos que, en tercer año de preparatoria, el área de humanidades prescindía de las matemáticas. En cierta forma, para muchos, la pesadilla había terminado. Sin embargo, la palabra algoritmo se volvió, al paso de las décadas, en una especie de palabra mágica, diabólica o liberadora según se vea y hoy media humanidad habla con soltura de los algoritmos que dominan las máquinas y, en consecuencia, buena parte de nuestras vidas.

Desde la lejanía vamos observando cómo ciertos conceptos que antaño parecían, si no susceptibles de control, al menos lo eran de entendimiento. Sin embargo, aquella vieja preocupación que reinaba desde el renacimiento por la que los técnicos y los humanistas se iban separando, se ha convertido en una cuestión de poder sobre cosas que ni lejanamente podemos comprender. Acudimos a sus efectos para tratar de echar luz sobre el mundo, pero nada entendemos sobre sus causas y sus razones.

Veámoslo así, hace unos meses el distrito escolar de Washington DC comenzó a utilizar un algortimo que medía la productividad de los profesores, ello sustituyó las evaluaciones humanas que anteriormente daban cuenta de la calidad académica. El sistema consideró que 205 profesores eran insuficientes en su desempeño y fueron despedidos. Quienes quisieron apelar la decisión se enfrentaron a que ni las propias autoridades educativas podían explicar el funcionamiento del algoritmo y se consideraba al artilugio matemático una suerte de oráculo o de autoridad suprema inapelable e incomprensible, como una serpiente que se muerde la lengua.

Resulta que, en lugar de acudir al argumento científico como lo hicimos durante siglos en pos de certeza y claridad, hemos vuelto a los tiempos en que los héroes tenían que recurrir a Cumas para que la Sibila diera veredictos incomprensibles pero inapelables.

Cathy O’Neil, doctora en matemáticas por la Universidad de Harvard, se trasladó del cálculo financiero a la militancia ciudadana en defensa de la democracia y los derechos de las personas frente a la argumentación matemática en la toma decisiones. En su libro Armas de destrucción matemática, expone la falta de transparencia de los algoritmos y cómo estos en su diseño, replican los prejuicios y los errores humanos magnificándolos y yendo, incluso, más allá del poder del derecho y el gobierno. Esto explica porqué una discusión que parecería ser teórica o que podría zanjarse civilizadamente, está convirtiéndose cada vez con más frecuencia en un tema de militancia arrebatada y de fundamentalismo en ambos extremos.

puestos a pensar con tranquilidad, me parece obvio, porque estamos en presencia de un nuevo credo religioso, dogmático, que celebra la obscuridad del misterio matemático para depositarlo en la inteligencia artificial, en la máquina y en el algoritmo pues, del que no se pueden inferir los bajos sentimientos humanos de venganza, exclusión o preferencia, habría que añadir que tampoco se le pueden atribuir lo mejor de nuestro repertorio: compasión, empatía y solidaridad.

Vuelvo al ejemplo de los profesores despedidos en Washington y me pregunto ¿cuáles de mis mejores maestros, de los que me cambiaron la vida y a los que debo buena parte de lo que soy y que hago habrían sobrevivido la prueba del algoritmo? No lo sé, pero estoy seguro que esos heterodoxos que apostaban por mi curiosidad y mi criticidad no cumplirían los estándares, los que me obligaban a leer y a pensar, los que me plantearon más preguntas que respuestas, esos no se medían con raseros automáticos y, en ese sentido, el terror asoma su rostro deforme cuando descubrimos que lo que se premia es el estándar de los que educan y los que aprenden, que estamos frente a la homogeneidad de todos y para todos, donde la crítica suena mal, es políticamente incorrecta y oculta lejanos traumas contra el bienestar de la tribu.

Si al menos las máquinas nos trataran por igual tal vez guardaríamos alguna esperanza; sin embargo, eso no es así. En los salarios medios y bajos, la selección del personal lo hacen, cada vez más, máquinas, no hay necesidad de entrevistas y la medición automática determina la posibilidad de alguien de acceder a un empleo. Pero, quienes desean acceder a los empleos mejor remunerados o socialmente más redituables, todavía gozan de entrevistas de trabajo, aceptan recomendaciones y las redes de relaciones sociales hacen su trabajo con efectividad como siempre ha sucedido. Es decir, quien quiere ingresar para hacer la limpieza en un restaurante de comida rápida por un salario poco mayor que el mínimo, dejará sus papeles para que las fuerzas ocultas lo elijan.

O’Neil dice que, en unos pocos años, el 72% de los currículos no serán atendidos por seres humanos y su decisión no pasará por una inteligencia humana. Pero, quien quiera ser director general de un corporativo, entonces no sólo tendrá derecho y posibilidad de argumentar y defenderse, sino que, de entrada, sus credenciales sociales, culturales y económicas lo impulsarán de mejor manera, porque tendrá ante quién hacerlas valer.

Los algoritmos fifis

Un robot pide limosna en una calle de Gloucester
(quisnovus)

La aporofobia es un desorden mental que se manifiesta a través de temor y odio irracional hacia los pobres, con no poca frecuencia, es utilizado para azuzar pasiones políticas y constituye una fuente importante de crímenes de odio en todo el mundo. Uno de los argumentos que lo racionalizan es una reducción simplista de la realidad: “los pobres lo son porque son flojos y no quieren trabajar”. Ante esto, uno se pregunta si en realidad pasar tantas horas mendigando al rayo del sol en una calle repleta de gente y vehículos es algo que no requiere esfuerzo.

Las simplificaciones no parecen ayudar mucho en la comprensión del fenómeno de la abdicación humana en la toma de decisiones. Se puede pensar, por ejemplo, que bastaría con que nos aplicáramos más al estudio de las matemáticas para entender el fenómeno y conformarnos con lo que la modernización y la tecnologización nos ofrece. Esta es la solución que están ofreciendo las reformas educativas en buena parte del mundo, suprimiendo la enseñanza de la filosofía, disminuyendo la de la historia y haciendo risible la de la literatura.

El punto no está en comprender el algoritmo, algo que no es comprensible ni lo será para la mayor parte de los ciudadanos, sino en el hecho de que sean voluntades no humanas las que vayan tomando las decisiones y eso afecte la convivencia humana y democrática. Esto quiere decir que la discusión no puede plantearse en términos técnicos, sino en términos filosóficos, jurídicos y humanos.

El camino por andar no parece fácil, desde luego, algunos políticos, como el británico Tony Blair, plantea la idea de que no es el populismo o el extremismo el enemigo al que debe enfrentar la sociedad en los próximos años, sino la forma en que la inteligencia artificial está ocupando los espacios reservados para la sensibilidad y la razón humana. En noviembre de 2018, en Bruselas, una comisión multidisciplinaria se reunió para dar cuenta del fenómeno, se planteó la necesidad de que el foco de desarrollo de la inteligencia artifical se desplazara de Estados Unidos y China a Europa, con esto comienza una soterrada guerra de intereses por el futuro.

Ya veo la sonrisa de Orwell cuando resulte que su geopolítica fantástica de tres países en continua pugna va a resultar cierta, pero lo novedoso estriba en el hecho de que la comisión de Bruselas ha dado como uno de sus fundamentos incluir criterios éticos dentro de la conformación de esta inteligencia artificial en los procesos de sus tomas de decisión. Desde luego, el tema central está en determinar cuáles serán esos estándares éticos y mantener en el margen humano las decisiones finales.

En 1998 en Estados Unidos comenzó a usarse el programa COMPAS, que se encarga de dictaminar las libertades condicionales de los convictos a través del manejo de 137 variables. Si bien, al principio despertó esperanzas por su eficiencia, veinte años después demostró que no es más eficiente que las antiguas comisiones de libertad condicional que operaban desde el siglo XIX. El análisis de su eficiencia arrojó la necesidad de crear un defensor de derechos que pudiera argumentar a favor de los convictos en los casos que las máquinas ya habían resuelto. Así que, lo que han descubierto en la sociedad hipertecnológica son los Ombudsman o las comisiones de derechos humanos, que en varios países se usan desde los años cuarenta y que, pese a sus problemas, constituyen argumentos humanos desde el interior del Estado para corregir sus irregularidades y sus distorsiones. Humano, demasiado humano diría Nietszche.

En fin, algo se pudre en Dinamarca, diría el viejo bardo, y entre nosotros hay quienes tienen el olfato más sensible para percibir el asunto de la deshumanización. Lo que tenemos que averiguar es si tendrán, también, músculos mas fuertes y velocidades más raudas.

temas