Facebook cierra el experimento después de que la inteligencia artificial inventara su propio lenguaje
Los investigadores cierran el proyecto después de que las máquinas desarrollen una forma propia de comunicarse ininteligible para los humanos
Los robots inteligentes están desempeñando un número cada vez mayor de funciones
imágenes falsas
Beto: Puedo i todo lo demás. . . . . . . . . . . . . .
Alicia: las bolas me tienen cero a mi a mi a mi a mi a mi a mi a mi a
Beto: tu yo todo lo demás. . . . . . . . . . . . . .
Alicia: bolas tienen una bola para mí a mí a mí a mí a mí a mí a mí
Beto: yo puedo yo yo yo todo lo demás. . . . . . . . . . . . . .
Alicia: bolas tienen una bola para mí a mí a mí a mí a mí a mí a mí
A pesar de parecer el guión de una comedia televisiva realmente terrible, esta conversación en realidad se produjo entre dos programas de Inteligencia Artificial, desarrollados dentro de Facebook para perfeccionar el arte de la negociación.
Al principio, los dos se hablaban en un inglés sencillo. Pero luego los investigadores se dieron cuenta de que habían cometido un error en la programación de las máquinas.
'No había recompensa por ceñirse al idioma inglés', dijo Dhruv Batra, científico investigador visitante de Georgia Tech en Facebook AI Research (Fair). FastCo .
Como estos dos agentes compitieron para conseguir el mejor trato, 'a ninguno se le ofreció ningún tipo de incentivo por hablar como lo haría una persona normal', dice FastCo.
Así que comenzaron a divergir, y finalmente reorganizaron palabras comprensibles en oraciones aparentemente sin sentido, lo que provocó la suspensión del experimento.
Facebook tuvo que cerrar una IA porque desarrolló su propio lenguaje pic.twitter.com/EsVEkWViTv
- NowThis (@nowthisnews) 31 de julio de 2017
'Los agentes (o programas) se desviarán de un lenguaje comprensible e inventarán palabras en clave por sí mismos', explicó Batra. 'Por ejemplo, si digo' el 'cinco veces, lo interpretas en el sentido de que quiero cinco copias de este artículo. Esto no es tan diferente de la forma en que las comunidades de humanos crean taquigrafía '.
Pero los investigadores estaban ansiosos por enfatizar que el experimento no se abandonó debido a preocupaciones sobre los efectos potencialmente negativos de la comunicación de los robots.
El investigador imparcial Mike Lewis le dijo a FastCo que simplemente habían decidido que 'nuestro interés era tener bots que pudieran hablar con la gente', no de manera eficiente entre sí, y por lo tanto optaron por exigirles que se escribieran entre sí de manera legible.
Esta no es la primera vez que aparecen máquinas de inteligencia artificial para crear su propio lenguaje.
En noviembre del año pasado, Google reveló que la inteligencia artificial que utiliza para su herramienta de traducción había creado su propio idioma, al que traduciría frases hacia y desde antes de pronunciar las palabras en el idioma de destino.
Informar sobre el desarrollo en ese momento, Tech Crunch dijo: 'Este 'interlingua' parece existir como un nivel más profundo de representación que ve similitudes entre una oración o una palabra'.
'Podría ser algo sofisticado, o podría ser algo simple', agregó el sitio web, pero 'el hecho de que exista en absoluto: una creación original del propio sistema para ayudarlo a comprender conceptos que no ha sido capacitado para comprender - es, filosóficamente hablando, algo bastante poderoso '.
Estos desarrollos recientes han llevado a discusiones éticas sobre los problemas potenciales de las máquinas que se comunican entre sí sin la intervención humana.
'En el caso de Facebook, lo único que los chatbots fueron capaces de hacer fue idear una forma más eficiente de comerciar', dice Gizmodo .
Pero hay 'probablemente buenas razones para no permitir que las máquinas inteligentes desarrollen su propio lenguaje que los humanos no podrían entender de manera significativa', agrega el sitio web.
`` Con suerte, los humanos también serán lo suficientemente inteligentes como para no conectar programas experimentales de aprendizaje automático en algo muy peligroso, como un ejército de androides con láser o un reactor nuclear ''.
