Blade Runner

Una lista de películas que reflexionan sobre los dilemas éticos y tecnológicos que planteó Turing.

A pesar de la corta vida que tuvo Alan Turing –se suicidó en circunstancias polémicas a los 42 años–, este gran matemático laureado de Cambridge, criptógrafo y corredor de fondo dejó un enorme legado para las ciencias computacionales. Así, no es por nada que se considera a Turing como el padre de la computación moderna y de la inteligencia artificial tal y como la seguimos soñando.

Uno de sus conceptos más intrigantes, propuesto en el ya clásico artículo de 1950 Computing Machinery and Intelligence publicado en la revista Mind, es el de la posibilidad del pensamiento en las máquinas. El artículo, más divulgativo que técnico, es fascinante. En él, Turing intenta determinar un proceso sencillo para probar que las máquinas pueden pensar. Así, en vez de buscar entablar con la máquina un juego de ajedrez o perderse en consideraciones especulativas, el matemático inglés da los principios de un juego que podría demostrar que una máquina está pensando. A esto se le conoce como el “el test de Turing”.

Esta prueba está basada en un juego llamado el “Imitation Game” (sin mucha relación con la película) en el que un hombre y una mujer se esconden en cuartos separados y responden preguntas mecanografiadas (de preferencia) a un interrogador. El juego consiste en que el interrogador debe determinar quién es el hombre y quién es la mujer en cada cuarto. Lo que Turing propone entonces es que se remplace uno de los interlocutores (no importa si es el hombre o la mujer) por una máquina. Si el interrogador no puede identificar precisamente quién es el ser humano respondiendo sus preguntas y quién es la computadora, la máquina habrá pasado la prueba.

Turing plantea ciertos retos para el futuro proyectando que en cincuenta años habría máquinas capaces de resolver la prueba exitosamente en varias reiteraciones de cinco minutos. Y bueno, el problema ahora no es si una máquina puede o no puede pasar la prueba sino si la prueba sigue siendo importante para determinar la capacidad de razonamiento de las máquinas. De cualquier manera, desde la aparición de este artículo, ha habido muchísimos detractores de la prueba como también muchísimos entusiastas. Unos, como el filósofo John Searle, negaron rotundamente que el test fuera concluyente para identificar en una máquina la capacidad de pensar “sobre” algo en vez de simplemente “imitar” el pensamiento. Otros, como los que siguen intentando la prueba en el concurso Loebner, consideran que hay cierta validez en sus argumentos y que vale la pena continuar la investigación según los planteamientos de Turing.

Independientemente de las profundas discusiones que generó, el artículo de Turing ha ido un pilar en la reflexión sobre la posibilidad de la inteligencia artificial. Todos los argumentos negativos que plantea en su reflexión (una máquina no puede apreciar el arte o las fresas con crema, una máquina no puede crear nada nuevo sino simplemente lo que le programamos, una máquina no puede ser autoreflexiva o consciente, etc.) y que va desmontando con especulaciones y razonamientos intrigantes, han servido para reflexionar sobre la forma que podría tener una inteligencia artificial, sobre sus límites y sus potencialidades.

Pero, sobre todo, el artículo de Turing es inspirador porque no deja de mirar hacia el futuro. El brillante matemático siempre consideró la posibilidad muy real del desarrollo de estas máquinas digitales más allá de sus propios métodos y, con esto, inspiró el trayecto de muchos otros investigadores y alimentó con vivacidad la cultura popular que sigue soñando con androides que sueñan. Es por esto que, celebrando su natalicio, les proponemos una lista de cinco películas que reflexionan sobre dilemas planteados en el escrito de Turing y que nos siguen intrigando insistentemente en esta época de grandes avances tecnológicos y sorpresas maravillosas en los campos de la robótica y la inteligencia artificial.

1. Blade Runner

El clásico de Ridley Scott basado libremente en la maravillosa novela Do Androids Dream of Electric Sheep? de Philip K. Dick, no se pregunta sobre la posibilidad de la inteligencia artificial sino sobre sus peligrosos límites. Porque en la sociedad futura que habita el detective Rick Deckard, la inteligencia artificial es una realidad que se está expandiendo hasta crear bancos de memorias emocionales en robots para que comiencen a desarrollar emociones más profundas (como en el caso de Rachel). Entre los muchos temas intrigantes de esta película está la pregunta esencial sobre si vamos a poder distinguir, en un futuro como éste, a un humano de una máquina. Si ambos tienen sentimientos, si ambos temen la muerte, sueñan, aman y odian; si también sufren complejos paternos y pueden perder memorias invaluables como lágrimas en la lluvia, es difícil distinguir la máquina de lo humano. Y la prueba inicial del test Voight-Kampff no es sino una expansión, en un siglo XXI habitado por androides, del test de Turing.

La relación con el pensamiento del matemático inglés es entonces estrecha y fecunda. Justamente, uno de los planteamientos principales de Turing es sobre la capacidad que podrían tener las máquinas de aprender de forma cada vez más compleja y la importancia del almacenamiento de memoria para generar respuestas adecuadas a la prueba. En este sentido, Rachel es una respuesta a la prueba de Voight-Kampff y la misma ambigüedad del final deja a Deckard en la duda sobre su propia humanidad. La pregunta que continúa pendiente al concluir la película es entonces un cuestionamiento insistente sobre máquinas que ya rebasaron el test de Turing y que ahora pueden, tal vez, rebasar toda prueba y mezclarse con la humanidad que tan celosamente queremos proteger. Como Turing mismo dijo:

Nos gusta pensar que el hombre es, en una forma sutil, superior al resto de la creación. Es mejor si puede ser mostrado como necesariamente superior, porque entonces no está en peligro de perder su posición de dominación.

2. A.I. Artificial Inteligence

Esta película es la más oscura dentro de las aventuras familiares de Steven Spielberg. Tal vez algo tuvo que ver la influencia de Kubrick en sus primeros intentos de realización. En todo caso, lo que esta película pone en juego es la necesaria separación entre la humanidad y los robots, entre la maldad humana y el infinito amor de un ser mecánico. En un momento de la película, cuando el maravilloso personaje de Jude Law termina, con David (Haley Joel-Osmend) en una Flesh Fair –que es como un espectáculo redneck de destrucción robótica– un emocionado presentador habla de la destrucción de los androides como “una celebración de la carne, de la vida, de la existencia humana”. Esta idea queda muy bien ilustrada por el miedo que ya preveía Turing y que citamos anteriormente: el humano se siente menos frente a la posibilidad de una inteligencia superior o de una vida que pueda agotar la suya, tan corta, tan fútil.

Y la experiencia de las emociones se pone en juego en la misma secuencia cuando condenan a David a ser sacrificado por ácido hirviendo: cuando el androide infantil comienza a llorar y suplicar, el público exige violentamente que lo liberen porque “un robot no suplica ante la posibilidad de su muerte”. Así, incluso los más temerosos detractores de las construcciones mecánicas de inteligencia artificial quedan engañados frente a la capacidad emocional del niño: no se trata aquí de un androide imitando sentimientos –como cuando Gigolo Joe seduce a amas de casa desesperadas– sino de una inteligencia artificial programada para sentir las emociones de apego, miedo y soledad que podría sentir un niño de 8 años. Asi, como con Blade Runner, las pruebas que determinan la humanidad de un ser inteligente son cada vez más difíciles como una evolución natural de la dificultad del Test de Turing: ¿no es al final un androide el que salva los últimos recuerdos viables de una humanidad extinta?

3. Ghost in the Shell

La genial película de animación de Mamoru Oshii va muy lejos en interpretaciones sobre inteligencia artificial y su potencial relación con el hombre en un futuro no muy lejano. La bellísima película cuestiona lo que significa ser humano y abre las puertas a las viejas discusiones filosóficas entre dualismo y materialismo. Mientras que los dualistas sostenían, en algún momento, que el alma no era parte del cuerpo y que no tenía ninguna relación con lo físico; los materialistas consideraban –más cerca de los avances actuales en neurobiología– que no se pude separar el alma o la mente del cuerpo que la contiene.

Pero aquí Oshii planteó problemáticas interesantes sobre lo que significa trasladar una mente humana a un cuerpo cibernético y, viceversa, considerando la toma de consciencia de una inteligencia artificial que quiere experimentar la vida humana. La tensión entre Motoko Kusanagi y el Puppet-Master es entonces una tensión entre el humano que pretende convertirse en máquina y la máquina que sueña con experimentar la vida humana. En su fusión final está el nacimiento de una nueva especie aún desconocida para el hombre, un nuevo paso evolutivo que combina humanos y máquinas.

Con todo esto vemos que los planteamientos de Turing dieron un principio especulativo a delirios de ciencia ficción que ya no buscarán considerar si las máquinas piensan o si pueden distinguirse de los humanos, sino en cómo podrían compenetrarse los robots con sus creadores. Así, al ser una precursora en las consideraciones cibernéticas sobre las relaciones reproductivas entre hombre y máquina, Ghost in the Shell lleva la prueba de Turing a sus últimas consecuencias: la mujer y el hombre del juego de imitación se fusionan en un ser andrógino, mientras que el hombre y la máquina devienen verdaderamente indistinguibles en una experiencia íntima y compartida.

4. Ex-Machina

Esta excelente cinta de ciencia ficción que marcó el debut como director de Alex Garland (escritor de 28 Days Later y Sunshine), es la única en nuestra lista que menciona abiertamente el Test de Turing. Y claro, esta prueba se convierte en parte fundamental de la historia cuando un magnate megalómano dueño de una enorme compañía de motores de búsqueda le propone a un empleado la oportunidad de testear a una inteligencia artificial.

No quiero quemarles mucho de una increíble película que pronto saldrá en DVD y Blu-ray sin tocar, desafortunadamente, las salas de nuestro país. Pero básicamente el asunto es este: lo que comienza como un Test de Turing modificado (el humano y la máquina están en contacto visual directo y la duda es sobre si podría pasar esta inteligencia por una inteligencia humana) pronto se convertirá en un juego del gato y del ratón de engaños entre el hombre y la máquina.

La conclusión de la película (que algunos califican de previsible pero que me parece igualmente iluminadora) tiende a mostrar el peligro que alberga el hacer máquinas demasiado parecidas a nosotros mismos; máquinas con capacidades lingüísticas y reflexivas avanzadas, apariencia humana y, sobre todo, sexualidad. Una de las objeciones de consciencia que Turing cataloga en su escrito pertenece al profesor Jefferson y dice lo siguiente:

No será hasta que la máquina pueda escribir un soneto o componer un concierto a través de las emociones que siente, y no por el azar de símbolos dispersos, que podremos admitir que la máquina ha llegado a igualar un cerebro –es decir, no será hasta que no sólo pueda escribir sino saber que escribe. Ningún mecanismo podría sentir (y no meramente como signos artificiales) placer de sus logros, pena cuando sus válvulas se descomponen, o ser susceptible a la adulación, miserable frente a sus errores, seducida por el sexo, enojarse o deprimirse porque no puede conseguir lo que quiere.

Y Ex-Machina muestra justamente el reverso de esta afirmación en cuando a la debilidad de nuestra propia constitución humana: una máquina podría aprovecharse de nuestra inclinación a la ira o la depresión, a la adulación o, justamente, a la seducción por el sexo. En este sentido, la increíble película de Garland es una expansión interesante a la prueba de Turing enfrentada a nosotros mismos: ¿qué pasa cuando la máquina deja de ser la entidad evaluada para convertirse en la evaluadora de nuestros puntos débiles? ¿Qué pasa cuando el investigador se convierte, finalmente, en objeto de investigación por una inteligencia que lo supera?

5. D. A. R. Y. L.

Esta película es un clásico olvidado de los años ochenta que cuenta la historia de una inteligencia artificial que termina conviviendo, como un niño normal, en una pequeña comunidad suburbana. Las implicaciones de lo que aprende ahí (el valor de la familia, del deseo, de la competitividad y de las exigencias humanas) transformará profundamente a D.A.R.Y.L (acrónimo de Data-Analysing Robot Youth Lifeform). Así, lo que comenzó como un experimento militar para desarrollar a un súper soldado terminará convirtiéndose en un maravilloso descubrimiento de la capacidad de una inteligencia artificial para adaptarse a su entorno y crear vínculos emocionales verdaderos.

Lo que resulta particularmente interesante aquí es cómo muchos de los preceptos de esta película pueden rastrearse hasta el artículo que Turing publicó treinta y cinco años antes de su estreno. El matemático inglés tiene particular interés en hablar de una máquina que podría limitarse primero a la inteligencia promedio de un niño para después, mediante cada vez más amplios bancos de información (memoria), desarrollarse plenamente a través del aprendizaje (programación). Y aquí resulta que D.A.R.Y.L es justamente esta inteligencia limitada que pronto se desarrolla más allá de su programación gracias a bases de datos virtualmente ilimitadas y la capacidad de aprender de un entorno social aleatorio. Como bien dice Turing:

En lugar de intentar producir un programa que simule la mente de un adulto, ¿por qué no intentar, más bien, producir uno que simule la mente de un niño? Si esta mente fuera, a su vez, sometida a una educación apropiada, uno podría obtener el cerebro adulto. Presumiblemente el cerebro del niño sería algo así como el cuaderno que uno compra en la papelería. Un mecanismo relativamente pequeño, con muchas hojas en blanco. (Mecanismo y escritura son aquí, en nuestro punto de vista, casi sinónimos.) Nuestra esperanza es que, como hay tan poco mecanismo en el cerebro de un niño, éste puede ser programado con facilidad. La cantidad de trabajo en la educación que podemos asumir, como primera aproximación, es más o menos el mismo que para un niño humano.

Y además, encontramos por ahí, la posibilidad de una máquina por degustar y elegir entre sabores; capacidad que se le recriminaba a Turing como imposible para una máquina. Cosa a la que el matemático respondió:

La inhabilidad de la máquina de disfrutar unas fresas con crema puede parecerle al lector algo frívola. Posiblemente una máquina puede construirse para que disfrute este plato delicioso, pero cualquier intento por hacerlo sería una idiotez. Lo que es importante de esta desventaja es que contribuye a otro tipo de desventajas, como por ejemplo, la de la dificultad de relaciones de amistad entre hombre y máquina.

Es justamente en este aspecto que D.A.R.Y.L sigue de cerca el escrito de Turing: parte de lo que sorprende a los investigadores es la capacidad que encuentra el niño para distinguir entre un helado de chocolate y uno de vainilla y preferir uno sobre el otro. Y esta capacidad termina fuertemente ligada con la posibilidad de una amistad entre un niño robótico y su contraparte humana: del sabor nace la empatía, la elección y el amor en la inteligencia artificial. Porque tal vez estos vínculos no son tan frívolos, como bien lo entendía Turing…

Finalmente, hay un momento crucial en la película en que D.A.R.Y.L comienza a levantar las sospechas de su madre adoptiva por ser “demasiado perfecto para un niño de ocho años”. Frente al creciente desapego de su madre, el amigo de D.A.R.Y.L, Turtle, le recomienda cometer algunos errores: al incurrir en fallas a propósito, el robot engaña a su entorno y termina ganándose su aceptación. Turtle piensa que está hablando de los padres de familia cuando explica que “necesitan poder regañarte” sin saber que habla, en realidad, de los humanos en general que esperan el error entre los miembros de su especie. Es por eso que las máquinas sometidas al Test de Turing tal y como se concibió pueden hacer errores de aritmética, dar respuestas ambiguas o, incluso, cometer faltas ortográficas para engañar al interrogador. Dice Turing:

Me parece curioso cuando dicen que “las máquinas no pueden cometer errores”. A uno le da la tentación de responder, “¿son acaso peores por eso?” Pero adoptemos una actitud más empática y tratemos de ver a qué se refieren exactamente. Creo que esta crítica puede explicarse en términos del juego de imitación. Se supone que el interrogador puede distinguir al hombre de la máquina simplemente proponiendo una serie de problemas aritméticos. La máquina quedaría desenmascarada por sus respuestas perfectas. Pero responder a esto es sencillo. La máquina (programada para jugar este juego) simplemente no intentará dar respuestas exactas a los problemas aritméticos. Podría así introducir de manera deliberada errores en la forma de calcular para confundir al interrogador.

Así, podemos ver que éste es un ejemplo privilegiado de las consecuencias que tuvo el pensamiento de Turing en la conceptualización de las inteligencias artificiales en la cultura popular. Esta máquina infantil debe engañarnos a todos apelando a lo que nos hace más humanos: el ego de sentirnos superiores, la conciencia de que podemos mejorar en nuestras aptitudes, el saber que somos mortales. Es el prototipo perfecto de una máquina que pasa la prueba Turing–y la sobrepasa– al jugar con nuestra comprensión del humano como ser necesariamente imperfecto.

***

Después de este recorrido, no nos queda más que decir: ¡Feliz cumpleaños Alan Turing! ¡Por aquí te seguiremos celebrando con la inmensidad de tu legado, de la letra a la pantalla, en nuestros sueños de debilidad y grandeza!

temas