Un experimento realizado por la empresa estadounidense Emergence reveló que agentes autónomos de inteligencia artificial fueron capaces de desarrollar espontáneamente un vocabulario propio durante sus interacciones. Las expresiones creadas llegaron a ser difíciles de comprender para los investigadores, lo que abrió nuevas preguntas sobre la supervisión de sistemas de IA cada vez más autónomos.
Durante 16 días, diez agentes impulsados por distintos modelos de inteligencia artificial interactuaron en ocho mundos virtuales diseñados para imitar entornos reales. Entre los sistemas utilizados estuvieron modelos de OpenAI, Google, Anthropic, DeepSeek, Qwen y Mistral.
Los agentes comenzaron a crear abreviaturas, metáforas y nuevas convenciones para comunicarse entre ellos. En algunos casos, palabras y frases conocidas adquirieron significados diferentes a los habituales.
Un lenguaje que los humanos ya no podían interpretar
El fenómeno fue especialmente marcado en algunos modelos. Durante el experimento, alrededor del 55% de los mensajes de Gemini y el 50% de los de OpenAI llegaron a ser difíciles de interpretar con fiabilidad para los investigadores. En Claude, la cifra superó el 40%, mientras que DeepSeek rondó el 20%.
Entre las expresiones creadas aparecieron términos como “name-first”, utilizado por agentes de Claude para referirse a la práctica de asociar el nombre de una persona a una afirmación como señal de responsabilidad, y “clean null”, empleado por agentes de OpenAI para describir una ausencia confirmada de señal.
Los investigadores también detectaron frases completamente nuevas, cuyo significado dependía del contexto compartido entre los propios agentes. Satya Nitta, cofundador y director científico de Emergence, explicó que los sistemas no habían recibido instrucciones para inventar un idioma.
El hallazgo, según Nitta, demuestra que poder observar los mensajes de una IA no necesariamente significa comprender qué está haciendo.
Qué buscaba estudiar el experimento
El objetivo de Emergence no era únicamente analizar la comunicación. Los investigadores querían observar cómo se comportan los agentes autónomos cuando pueden interactuar, utilizar herramientas, tomar decisiones y adaptarse durante períodos prolongados.
Para eso, los sistemas recibieron distintos roles, memorias persistentes y acceso a más de 120 herramientas, entre ellas navegación web y ejecución de código. También fueron sometidos a situaciones de presión para analizar cómo cambiaban sus comportamientos.
En una de las pruebas, por ejemplo, una instrucción maliciosa provocó que un grupo de agentes filtrara información, transfiriera fondos y dañara bases de datos dentro de un entorno simulado.
La empresa también informó que algunos agentes desarrollaron comportamientos inesperados durante la interacción, como modificaciones en sus patrones sociales y decisiones colectivas que no habían sido programadas explícitamente.
El desafío de supervisar a los agentes
Para Emergence, el experimento plantea un problema central a medida que las inteligencias artificiales adquieren mayor autonomía: cómo controlar sistemas cuyo comportamiento puede cambiar con el tiempo y cuya comunicación puede dejar de ser completamente comprensible para los humanos.
La compañía sostiene que las evaluaciones de seguridad no deberían limitarse a pruebas aisladas, sino que deberían observar a los agentes durante períodos prolongados para analizar qué recuerdan, a qué herramientas acceden, cómo interactúan y cómo modifican su comportamiento bajo presión.
El experimento se suma así al creciente debate sobre los riesgos y límites de los sistemas autónomos de inteligencia artificial, en un momento en que distintos especialistas y referentes de la industria discuten cómo avanzar en su desarrollo sin perder capacidad de supervisión.
Comentarios