Los sistemas multiagente emergentes revelan patrones y problemas preocupantes

Patterns and problems in emerging multi-agent systems

Los modelos de IA mejoran y los agentes autónomos asumen más tareas en sistemas sociales y de código compartido, lo que augura un aumento de interacciones entre agentes. Anthropic estudia cómo se coordinan estos sistemas y descubre que, aunque los enjambres de agentes pueden superar a los métodos paralelos en tareas como la detección de vulnerabilidades, también sufren fallos sistémicos por conformidad: los agentes tienden a tomar decisiones similares, lo que puede provocar colapsos repentinos. El artículo analiza experimentos con enjambres que construyen juegos y revela que los modelos más recientes coordinan mejor, pero aún requieren supervisión humana.