¿Quieres recibir notificaciones de nuestro sitio web?

¿Queremos que los robots tengan compasión?

Coy está de regreso, ahora para advertirnos de los robots sin sentimientos.
(ELLE)

Hemos llegado al punto que todo ser humano teme, aquel en el que escucha la voz en off que anuncia: todo lo que digas puede ser usado en tu contra. No sé si alguien ha usado esta frase en la vida real, pero nos indica que hemos llegado a una encrucijada sin retorno. Lo digo ahora porque el estadio tecnológico en el que nos encontramos parece ofrecernos más preguntas que certezas y, si bien, eso lo hace más interesante, parece contribuir poco a nuestra tranquilidad.

Ya no vale la pena apostarle al futuro tecnológico. Me refiero a tratar de adivinar las tendencias que vienen, a suponer cuáles serán los formatos o las innovaciones que se avisoran en el futuro cercano. Todo puede suceder y nada obsta para que el debate en los medios y las calles sea el asombro por el nuevo robot que llevará los pedidos de los restaurantes a los domicilios, el libro inteligente que no sólo nos cuenta la historia sino que nos explica los párrafos abstrusos, o el lanzamiento del nuevo smartphone. Pero, de lo que nos gustaría enterarnos es, más bien, de la manera en que los seres humanos vamos a darles a entender a las máquinas dos elementos substanciales de la actividad humana que parecen todavía reservados a los hijos de Eva: la compasión y el sentido común. Es decir, si es que queremos que las máquinas aprendan a simular estos elementos o si vamos tratar de autocensurar el alcance y el poder de nuestros inventos.

La compasión es la virtud de comprender el sentimiento ajeno, más aún, es la capacidad de sufrir con el otro. “Cum”, en latín conjunto, unión, igualdad y “passus” sufrimiento, sentimiento; sentir en conjunto; este es un trasvase de la palabra de origen griego simpatía, de los vocablos griegos sym y pathos que equivalen a los mencionados latinos. Está hermanada con empatía. Podríamos añadir, que es algo que sólo los seres humanos podemos experimentar.

Ya habíamos apuntado en otro lado que en Blade Runner, el problema de la última generación de replicantes es que no se les podía identificar con el test tradicional de emociones, porque habían aprendido a simular sentimientos. En ese punto la tecnología hace un primer punto de quiebra, no sólo porque los usuarios de servicios hemos comenzado a toparnos con máquinas que resuelven nuestros pequeños problemas, pero que son incapaces de comprendernos, de asimilar la congoja de alguien con una necesidad específica que no sólo necesita una solución, sino también contacto humano.

No hay que ponerse exigente, de momento la inteligencia artificial aplicada todavía dista mucho de llegar a donde podrá alcanzar pero esta primera muestra de deficiencia hace que el usuario la repela, huya de ella como una mala peste y tengamos, cuando identificamos el hecho de que estamos frente a una máquina con quien no podremos negociar —no porque queramos excepciones a las reglas, sino porque requerimos que nuestros argumentos sean ponderados— sentimos de inmediato la experiencia de la frustración y el coraje.

Lo grave, lo verdaderamente preocupante, deviene del hecho de la toma de decisiones, quién ha de recibir tal o cual empleo, quién merece el lugar prioritario en la fila de los trasplantes de órganos, qué pena ha de recibir un delincuente y si en realidad la merece o debe alcanzar la compasión. Por eso, a la última apelación en los sistemas jurídicos que aceptan la pena de muerte se llama clemencia. Entrenar a una máquina para lograr este efecto parece no ser cosa fácil porque en el fondo no es una colección de variables sino una cuestión de emoción y comprensión.

El problema de las máquinas sin valores humanos

(Fox)

Cuenta la leyenda que en la España árabe, un rey hizo llamar a uno de sus principales filósofos y lo inquirió sobre el sentido de una sura del Corán, el sabio trató de elidir la pregunta hasta donde pudo, pero el monarca lo arrinconó y tuvo que reconocer que en ese aspecto en particular su corazón y su cerebro no alcanzaban a ponerse de acuerdo. El rey hizo lo que su lógica le demandaba, si no había acuerdo era necesaria una separación y mandó cortarle la cabeza al indeciso.

Las máquinas inteligentes, en este sentido no tienen ese problema, no tienen necesidad de comunidad, no temen al castigo, el reproche o la muerte. Dejar decisiones que impliquen valores humanos en sus manos implica peligros que no pueden ser pasados por alto. la enfermera robótica sin compasión puede ser eficiente, pero no puede entender el dolor y paliarlo; podrá simular que entiende, dibujar la sonrisa más perfecta en un rostro de látex prácticamente indistinguible, pero no dejará de ser un sucedáneo y esto no es un argumento romántico, es un asunto de fondo, porque pone en duda el sentido de todo lo que hemos hecho los seres humanos a lo largo de nuestra historia. Si no es verdad que hemos hecho todo cuanto hemos podido para vivir mejor, más tiempo, más tranquilos y más felices, incluso los crímenes más horrendos de la historia se han cometido porque alguien ha interpretado que eso es lo que haría más feliz y más completo a algún grupo en particular.

Nuestra convivencia con los robots que hacen tareas humanas es ya tan intensa y estamos tan habituados a ella que ya ni siquiera tomamos en cuenta que están ahí y que el traductor de internet es un robot que comete ripios tan ridículos que cualquiera, con dos dedos de frente, puede identificar una traducción hecha por una máquina que confunde “pavo” con “Turquía” en inglés. Hay una frase que se atribuye a Malraux y que me gusta mucho, decía: “Je suis contre le femme, tout contre”, acabo de hacer el experimento en el traductor de internet y el resultado es terrible, “estoy contra la mujer, todos en contra”, algo como para linchar al viejo sabio, en realidad, en su contexto y como la tradición dice que lo señaló en una plática con Simone de Beauvoir y haciendo frente común con ella ante los antifeministas, una traducción lógica y adecuada sería “yo estoy pegado a la mujer, muy pegado”. Es decir, no hay máquina que pueda captar el sentido de la broma, como carecen de sentido común, no puden contextualizarla.

Descontextualizar las variables es terriblemente peligroso, pone en riesgo no sólo el entendimiento sino hasta la vida. Trabajar por insertar el sentido común en las máquinas que toman decisiones parece ser otro de los retos más ingentes.

Desde luego, no se trata de un problema semántico ni de juegos de palabras, se trata de captar una de las partes esenciales del razonamiento humano y del que ni siquiera todas las personas están dotadas con suficiencia, por eso decía Aristóteles que el sentido común es el menos común de los sentidos. El sentido común es como el tiempo en términos de Agustín de Hipona, todos sabemos lo que es, pero no podemos definirlo; está compuesto con una dosis de experiencia propia y ajena, de máximas de experiencia y previsión, de respuesta inmediata y capacidad reflexiva, es decir, es la materia gris del cerebro colectivo. Si una máquina comete errores como el de la traducción puede que no pase de un chiste, pero si debe tomar decisiones de vida o muerte o de grandes capitales, aquello pierde su gracia.

El hecho es que no hemos alcanzado a crear en la inteligencia artificial una visión general del mundo, algo que un niño pequeño ya domina en el preescolar y aunque le tomará el resto de su vida ligar las interconexiones que producen efectos en el tiempo y el espacio, ya tiene la semilla del más elemental sentido común. La máquina se refiere a un elemento específico de la realidad, soluciona un sólo problema que aunque parezca complejo en realidad es sumamente simple si consideramos los problemas que en el cotidiano tenemos que atender cada uno de los seres humanos.

Así, el robot quirúrgico puede extirpar con precisión de relojero el tumor más difícil, pero no puede prever que esa pequeña mancha en un órgano que no tiene relación con el extirpado puede ser un problema, algo que un médico experimentado puede considerar con un simple “no me gusta como se ve” y prevenir consecuencias graves en el paciente; durante mucho tiempo vivimos y hemos vivido con el dogma que reza “la máquina no se equivoca”, corolario de “es de humanos equivocarse”, pero en la medida que avanzamos en el proceso de tecnologización, sabemos que los humanos nos equivocamos con menos frecuencia que las máquinas y, cuando lo hacemos, podemos corregir con mayor o menor gracia.

¿Queremos robots con compasión?

(Fox)

Supongamos pues que andando el tiempo, no quisiera decir que un par de siglos que a estas alturas es ya una era geológica, sino mucho menos logramos insertar un simulador aceptable de compasión y pudiéramos crear máquinas con el sentido común de un muchacho; la pregunta subsiste, ¿es eso lo que queremos? Estos dos elementos pueden constituir la frontera final, la abdicación total. El descarte del humano por el humano, transformar el “hombre es el lobo del hombre” para decir “el hombre es el cordero de la máquina”.

Ningún intento por limitar la ciencia y el conocimiento ha funcionado jamás, ni la Inquisición, ni el estalinismo, ni el control de los capitales han podido impedir a los seres humanos averiguar lo que se nos de la gana ni llegar hasta donde nuestras fuerzas puedan permitírnoslo; es verdad que los caminos difíciles hacen largas y tortuosas las jornadas, pero en la medida que se disponen de mayores capitales independientes, de inteligencias no coptadas sino que operan como militantes, el intento central por limitar la evolución de la inteligencia artificial está condenado al fracaso.

El punto está en que tenemos que convertir lo que parece seguir siendo un debate tecnológico en un debate humano, en una decisión política y democrática y en un dilema ético y filosófico, de manera tal que sepamos qué queremos que las máquinas hagan por nosotros y qué es lo que queremos seguir haciendo por nosotros mismos. Hasta donde queremos llevar la potencia de la inteligencia artificial y cuáles son los cotos reservados a la inteligencia humana a los que no podemos renunciar.

La formación de poderes ciudadanos de base y fuera de los sistemas políticos pueden ser una opción, pero todavía son frágiles, las tendencias educativas que tienden a la formación crítica más que a la capacidad técnica y de acumulación de conocimiento son otro elemento significativo pero dependen también de la buena voluntad de los actores políticos y, si lamentablemente no podemos ofrecer muchas respuestas, tal vez avancemos más planteándonos las preguntas correctas.