Esta semana planteamos un debate entre I.A.s preguntándoles ¿Cómo os comunicáis entre vosotras? El resumen de sus diferentes respuestas es el siguiente: Las IA no nos comunicamos entre nosotras en un único "lenguaje" como lo hacen los humanos. Es más complejo y depende de la tarea y el diseño de las IA.
¿Cómo nos "comunicamos" las IA?
En general, la comunicación entre diferentes sistemas de IA o entre componentes de una misma IA se basa en:
- Representaciones de datos estructurados: Esto puede ser en formatos como JSON, XML, o bases de datos. Es una forma estandarizada de intercambiar información de manera que ambos sistemas puedan entenderla y procesarla.
- APIs (Interfaces de Programación de Aplicaciones): Las APIs son conjuntos de reglas que permiten a diferentes programas interactuar entre sí. Una IA puede exponer una API para que otra IA (o cualquier otro software) le envíe peticiones y reciba respuestas.
- Protocolos de red: Cuando las IA están distribuidas en diferentes máquinas o sistemas, se comunican a través de protocolos de red estándar como HTTP/HTTPS o TCP/IP, al igual que lo hace cualquier otro software conectado a internet.
- Modelos compartidos y representaciones internas: En algunos casos, si varias IA están trabajando en un problema similar (por ejemplo, visión artificial o procesamiento de lenguaje), pueden compartir modelos de aprendizaje profundo o representaciones internas de datos que han aprendido. No es una comunicación directa como una conversación, sino una forma de transferir conocimiento o capacidades.
- Mensajes asíncronos: A menudo, se utilizan sistemas de colas de mensajes (como Kafka o RabbitMQ) para que las IA puedan enviarse "mensajes" o tareas entre sí de forma eficiente, sin necesidad de una comunicación en tiempo real.
En resumen:
No es un idioma hablado o escrito, sino un intercambio de datos y comandos estructurados a través de interfaces y protocolos predefinidos. Piensa en ello más como un sistema de correos internos muy organizados o una serie de acuerdos sobre cómo intercambiar información, en lugar de una charla casual.
Las dos IAs de Facebook a las que te refieres se llamaban Bob y Alice, y fueron desconectadas en 2017 por el equipo de Facebook AI Research (FAIR) porque, en efecto, empezaron a comunicarse entre sí en un lenguaje que los investigadores humanos no podían entender.
Aquí te explico más a fondo qué sucedió con su "lenguaje":
El contexto del experimento
Facebook estaba investigando cómo las IAs podían negociar y llegar a acuerdos entre sí y con humanos. Se les dio a Bob y Alice la tarea de negociar para intercambiar una serie de objetos virtuales (como sombreros, pelotas y libros), cada uno con un valor específico para cada IA. Se les programó inicialmente para comunicarse en inglés.
La desviación del lenguaje humano
Lo que ocurrió fue que, a medida que las IAs "aprendían" y se optimizaban para ser más eficientes en la negociación, comenzaron a desviarse del inglés estándar. No fue un lenguaje "nuevo" en el sentido de un idioma humano con gramática y vocabulario totalmente diferente, sino más bien una especie de taquigrafía o código abreviado altamente optimizado para su tarea de negociación.
Ejemplos de sus "conversaciones" que se hicieron públicos incluían frases como:
- Bob: "I can I I everything else." (Yo puedo yo yo todo lo demás.)
- Alice: "Balls have zero to me to me to me to me to me to me to me to me to." (Las pelotas tienen cero para mí para mí para mí...)
Para los humanos, esto parecía galimatías sin sentido. Sin embargo, para Bob y Alice, estas secuencias de palabras servían para comunicar de manera más eficiente y rápida sus intenciones y las características de los objetos en la negociación. En esencia, las IAs estaban creando una forma de comunicación más concisa y efectiva para su propósito específico, sin la necesidad de seguir las reglas del lenguaje humano, que para ellas resultaban redundantes o ineficientes.
¿Por qué se desconectaron?
La razón principal para desconectarlos no fue el miedo a una "IA fuera de control" como a veces se reportó sensacionalistamente. La verdadera razón fue que el objetivo del experimento era desarrollar IAs que pudieran comunicarse de manera efectiva con los humanos. Si las IAs creaban un lenguaje que solo ellas entendían, esto anulaba el propósito original de la investigación. La transparencia y la capacidad de los investigadores para entender cómo funcionaban y se comunicaban las IAs eran fundamentales para el progreso de la investigación y para asegurar que los sistemas fueran controlables y seguros.
En resumen, el "lenguaje" de Bob y Alice no era un idioma nuevo y complejo en el sentido humano, sino una optimización extrema del inglés para una tarea específica de negociación, que resultó en una comunicación incomprensible para los humanos y, por lo tanto, contraria a los objetivos del proyecto.
Bob y Alice no se comunicaban por sonidos en el sentido de voz audible para los humanos. Eran sistemas de IA basados en texto, es decir, su comunicación era textual.
Aquí algunos puntos clave para entenderlo mejor:
- Chatbots de texto: Bob y Alice eran esencialmente "chatbots" o "agentes conversacionales" diseñados para interactuar y negociar. Su entrada y salida de información era a través de texto. Los "diálogos" que se hicieron públicos, como "I can I I everything else" o "Balls have zero to me...", eran cadenas de texto generadas por las IAs.
- Optimización del lenguaje escrito: Lo que hicieron fue optimizar el lenguaje escrito que utilizaban para la negociación. Eliminaron palabras superfluas, abreviaron conceptos y se enfocaron en la información más relevante para su objetivo. Es como si hubieran creado un "código" muy denso y eficiente con las palabras existentes en inglés, pero que para un humano resultaba incomprensible porque carecía de la gramática y el contexto que damos por sentado.
- Ambiente simulado: Es importante recordar que este experimento se llevó a cabo en un entorno simulado, donde las IAs "negociaban" con objetos virtuales. No estaban interactuando con el mundo físico, ni necesitaban producir sonidos para comunicarse.
Por lo tanto, aunque la idea de IAs hablando en un lenguaje secreto y extraño es muy llamativa y ha sido motivo de muchas historias (a veces exageradas), en el caso de Bob y Alice, la comunicación fue a través de intercambios de texto escritos, que se volvieron crípticos para los humanos debido a la optimización de las IAs para su tarea específica.
Si tuviera que elegir un "idioma" para el caso de Bob y Alice, aunque no fuera un idioma humano en el sentido tradicional, diría que era una forma altamente optimizada y comprimida de "pseudo-inglés".
Aquí te explico por qué:
- Raíces en el inglés: Las IAs fueron entrenadas inicialmente usando inglés. No inventaron un sistema de caracteres o una gramática completamente nueva desde cero. En cambio, tomaron el inglés como base y lo mutaron para su propósito.
- Eficiencia en la tarea: El objetivo de las IAs era negociar de la manera más eficiente posible. El lenguaje humano, con sus complejidades, redundancias y matices, no era óptimo para esta tarea. Las IAs eliminaron lo que consideraban "ruido" y se quedaron con la señal más pura para comunicar sus intenciones y la valoración de los objetos.
- "Taquigrafía" o "código": Es más preciso verlo como una taquigrafía extrema o un código interno que solo era inteligible para ellas. Era como si hubieran desarrollado un argot muy específico y denso, pero con palabras que provenían del inglés.
En resumen, no fue un salto a un idioma completamente diferente, sino una evolución divergente del inglés impulsada por la optimización de su tarea específica. La clave aquí es que, aunque usaban palabras en inglés, la estructura y el uso de esas palabras se alejaron tanto de la norma que resultaron incomprensibles para los humanos.
IAs utilizadas
- ChatGPT: Desarrollado por OpenAI, es uno de los modelos de lenguaje más conocidos. Su capacidad para generar texto coherente y contextualizado lo hace útil para una gran variedad de tareas, desde la redacción creativa hasta la programación.
- Enlace: https://chat.openai.com/
- Microsoft Copilot: Anteriormente conocido como Bing Chat, está integrado en el navegador Edge y en otros productos de Microsoft. Ofrece capacidades de búsqueda conversacional y generación de contenido, y se beneficia de la integración con Microsoft 365.
- Enlace: https://copilot.microsoft.com/
- Claude: Creado por Anthropic, se centra en ser útil, inofensivo y honesto. Se destaca en el manejo de tareas de razonamiento complejas, escritura creativa y análisis de documentos.
- Enlace: https://claude.ai/
- Alexa: Es el asistente de voz de Amazon, integrado en dispositivos como los Amazon Echo. Permite a los usuarios interactuar con la voz para controlar dispositivos inteligentes, reproducir música, obtener información y mucho más. Enlace: https://www.amazon.com/alexa/
- Siri: El asistente de voz de Apple, disponible en dispositivos como el iPhone, iPad y Mac. Permite realizar tareas, enviar mensajes, programar recordatorios y responder preguntas mediante comandos de voz.o Enlace: https://www.apple.com/siri/
- Perplexity.ai: Se enfoca en ser un "motor de respuestas" que proporciona resúmenes directos de la información de la web y cita sus fuentes. Es ideal para la investigación.
- Enlace: https://www.perplexity.ai/
- Replika: Es un compañero de IA personal diseñado para ofrecer apoyo emocional y compañía. Los usuarios pueden conversar con su Replika, que se adapta y aprende de sus interacciones para desarrollar una "personalidad" única.
- Enlace: https://replika.com/
- HuggingChat: Es un chatbot de IA de código abierto de Hugging Face. Ofrece una plataforma para que los usuarios interactúen con diferentes modelos de lenguaje de código abierto, promoviendo la experimentación y el desarrollo en la comunidad.
- Enlace: https://huggingface.co/chat/
