¿Acaba de... emerger un lenguaje de apariencia distorsionada?
El alucinante sistema de IA de texto a imagen de OpenAI llamado DALL-E2 parece haber creado su propio lenguaje escrito, según Giannis Daras, estudiante de doctorado en ciencias informáticas de la Universidad de Texas en Austin. DALL-E2 causó un gran revuelo a principios de este año con su asombrosa capacidad para convertir indicaciones de texto en imágenes fotorrealistas o incluso con estilo artístico , y ahora parece que puede ser aún más poderoso y misterioso de lo que pensábamos, capaz de generar su propio código secreto. .
Por ejemplo, Daras escribió en un hilo viral de Twitter , pidiéndole al algoritmo que generara una imagen de "agricultores hablando de vegetales" genera texto con la palabra desconocida "vicootes". Pero si pones la palabra "vicootes" en el algoritmo, escupe imágenes de verduras . Aún más extraño, agregó Daras , fue que la imagen de los granjeros contenía el texto aparentemente sin sentido "poploe vesrreaitars". Introduzca eso en el sistema y obtendrá un montón de imágenes de pájaros. "¡Parece que los granjeros están hablando de pájaros, jugando con sus vegetales!" escribió Daras .
En total, Daras presenta el caso en un nuevo artículo que aún no ha sido revisado por pares escrito con un colega, esta IA avanzada que genera imágenes parece haber generado un "vocabulario oculto" subyacente o que funciona en paralelo con su función principal: otro ejemplo, quizás, de lo difícil que es explicar el funcionamiento de la IA avanzada . "DALLE-2 tiene un lenguaje secreto", escribió Daras, y luego agregó que "el descubrimiento del lenguaje DALLE-2 crea muchos desafíos interesantes de seguridad e interpretación".
Vale la pena señalar que las conclusiones de Daras todavía son algo tenues. Como señala en el documento, los resultados no son 100 por ciento consistentes. A veces, el indicador "Contarra ccetnxniams luryca tanniounons" genera imágenes de insectos, mientras que otras veces genera imágenes de "principalmente animales". Tampoco todo el mundo está convencido de la teoría de Daras. "¿Mi mejor conjetura?" argumentó el analista de investigación Benjamin Hilton . "Es una casualidad aleatoria. O tal vez (si realmente me presionas) 'Apoploe vesrreaitais' parece un nombre binomial para algunos pájaros o insectos".
"Para mí, todo esto comienza a parecerse mucho más a un ruido estocástico y aleatorio que a un lenguaje DALL-E secreto", agregó Hilton. Otra posibilidad es que nos estemos preparando demasiado, descubriendo la capacidad del sistema de IA para crear atajos al convertir imágenes en código, como señala Vice . No hace falta decir que será interesante ver un mayor escrutinio de las afirmaciones de Daras por parte de la comunidad de investigadores. Si pasa el examen, es posible que estemos viendo un nuevo desarrollo fascinante en el campo, o, tal vez, le estamos dando demasiado crédito y leyendo entre líneas demasiado.
Historias relacionadas :
DeepMind de Google : ha anunciado sobre el caso de inteligencia artificial de 'nivel humano' ...
Google enciende su inteligencia artificial en los semáforos para reducir la contaminación
Google : ha acaba de despedir a otro investigador de inteligencia artificial
Apple : está comprando startup de música de inteligencia artificial
Empresario aprovechó la inteligencia artificial para su sitio web y llegó a los tribunales
[Fuente]: futurism.com
geralt.( 3 de junio de 2022).24490 images. Modificado por Carlos Zambrado Recuperado pixabay.com
