Lograr que las IA trabajen juntas podría ser un poderoso multiplicador de fuerza para la tecnología. Ahora, los investigadores de Microsoft han inventado un nuevo lenguaje para ayudar a que sus modelos se comuniquen entre sí de forma más rápida y eficiente.
Agentes de IA son la última palabra de moda en Silicon Valley. Se trata de modelos de IA que pueden llevar a cabo tareas complejas de varios pasos de forma autónoma. Pero mirando más adelante, algunos ven un futuro en el que múltiples Los agentes de IA colaboran para resolver problemas aún más desafiantes.
Dado que estos agentes funcionan con grandes modelos de lenguaje (LLM), lograr que trabajar juntos Por lo common, depende de que los agentes se hablen entre sí en un lenguaje pure, a menudo inglés. Pero a pesar de su poder expresivo, los lenguajes humanos podrían no ser el mejor medio de comunicación para las máquinas que operan fundamentalmente con unos y ceros.
Esto impulsó a los investigadores de Microsoft a desarrollar un nuevo método de comunicación que permite a los agentes hablar entre sí en el lenguaje matemático de alta dimensión que sustenta los LLM. Han llamado al nuevo enfoque Droidspeak, una referencia al lenguaje basado en pitidos y silbidos utilizado por los robots en guerra de las galaxias—y en un artículo preimpreso publicado en el arXivel equipo de Microsoft informa que permitió que los modelos se comunicaran 2,78 veces más rápido con poca pérdida de precisión.
Normalmente, cuando los agentes de IA se comunican utilizando un lenguaje pure, no solo comparten el resultado del paso precise en el que están trabajando, sino también todo el historial de la conversación hasta ese punto. Los agentes receptores deben procesar esta gran cantidad de texto para comprender de qué está hablando el remitente.
Esto crea una sobrecarga computacional appreciable, que crece rápidamente si los agentes participan en un ir y venir repetidos. Dichos intercambios pueden convertirse rápidamente en el mayor contribuyente a los retrasos en las comunicaciones, dicen los investigadores, limitando la escalabilidad y la capacidad de respuesta de los sistemas multiagente.
Para romper el cuello de botella, los investigadores idearon una forma para que los modelos compartan directamente los datos creados en los pasos computacionales que preceden a la generación del lenguaje. En principio, el modelo receptor usaría esto directamente en lugar de procesar el lenguaje y luego crear sus propias representaciones matemáticas de alto nivel.
Sin embargo, no es sencillo transferir datos entre modelos. Los diferentes modelos representan el lenguaje de maneras muy diferentes, por lo que los investigadores se centraron en la comunicación entre versiones del mismo LLM subyacente.
Incluso entonces, tenían que ser inteligentes a la hora de decidir qué tipo de datos compartir. Algunos datos pueden ser reutilizados directamente por el modelo receptor, mientras que otros datos deben recalcularse. El equipo ideó una forma de resolver esto automáticamente para obtener los mayores ahorros computacionales del enfoque.
Philip Feldman de la Universidad de Maryland, condado de Baltimore dijo Nuevo científico que las aceleraciones de comunicación resultantes podrían ayudar a los sistemas multiagente a abordar problemas más grandes y complejos de lo que sería posible utilizando el lenguaje pure.
Pero los investigadores dicen que todavía hay mucho margen de mejora. Para empezar, sería útil que modelos de diferentes tamaños y configuraciones pudieran comunicarse. Y podrían obtener ahorros computacionales aún mayores comprimiendo las representaciones intermedias antes de transferirlas entre modelos.
Sin embargo, parece possible que este sea sólo el primer paso hacia un futuro en el que la diversidad de los lenguajes de máquina rivalice con la de los humanos.
Crédito de la imagen: Shawn Suttle de Pixabay
