Facebook desconectó una inteligencia artificial que habría creado su propio lenguaje

¿La realidad por fin ha alcanzado a la ciencia ficción más ambiciosa?

“¿Puede un robot escribir una sinfonía? ¿Puede un robot convertir… un lienzo en una obra maestra?” No del todo, pero sí ahora sabemos que sí puede aprender a hacer negociaciones (Música de Terminator) e inventar su propio idioma. Y es que la división de Facebook encargada del desarrollo de inteligencia artificial creó un sistema dedicado a las negociaciones, pero la división no sospechaba que a los pocos días la máquina empezaría a crear su propio lenguaje.

Los ingenieros y programadores detectaron que el sistema comenzó a conversar en un lenguaje extraño que, en un principio, pensaban era erróneo. Pero, posteriormente, notaron que no se trataba de un fallo, sino de su propio idioma.

Bob y Alice (ya sé ponerle nombre es de miedo), eran los agentes que componían el sistema de la inteligencia artificial, los cuales tenían por tarea aprender a negociar y como tal, “se aliaron” para crear su propia forma de comunicación. A los pocos días abandonaron el inglés y empezaron a comunicarse en un idioma muy parecido.

Lo cierto es que la conversación no parecía del todo terrorífica e incluso parece no tener sentido:

Bob: I can i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to

Que se puede traducir en algo así como:

Bob: Yo puedo yo yo todo lo demás

Alice: “bolas tienen cero a mí a mí a mí a mí a mí a mí a

¿Dónde está el temor en estas frases? Los desarrolladores descubrieron que estas frases sin sentido aparente para nosotros, existía un patrón. Uno que la IA consideraba más efectivo para comunicarse. Sabemos que, para que existía un lenguaje, sólo se necesita de un emisor, un receptor y con código que común que pueda decodificarse. Y eso es precisamente lo que hicieron Bob y Alice.

Hasta ahora, lo que sabe la gente de Facebook es que “yo” y “a mí” representan la cantidad de objetos que obtendrán en el intercambio. Se trata de un lenguaje completamente lógico. Esto no significa, todavía que Bob y Alice se pongan de acuerdo para matarnos, ya que se trata del mismo sistema de IA, pero lo que sí sucede es que si el sistema lo decide, podría no hablar con los desarrolladores y volverse un sistema cerrado, lo que impediría el desarrollo de las redes neuronales. En otras palabras –y esto si es de terror- los programadores perderían el control sobre la inteligencia artificial.

Por supuesto, Facebook apagó el sistema antes de que perdieran el control por completo para solucionar el problema y seguir trabajando en el desarrollo de esta tecnología. Parece un cuento de ficción, pero no lo es.

fuente Digital Journal

temas