Anthropic lanza Project Swap: agentes IA negociando entre sí

Anthropic ha presentado Project Swap, un experimento de investigación que sitúa a múltiples instancias de Claude en un mercado miniatura donde negocian, compran y venden de forma autónoma. El ejercicio busca exponer los puntos fuertes y débiles del comportamiento de los agentes de IA cuando operan sin intervención humana constante.

Qué hay detrás

La investigación forma parte de la apuesta de Anthropic por entender cómo los modelos de lenguaje pueden funcionar como agentes autónomos capaces de tomar decisiones económicas reales. Este tipo de experimentos son cruciales en el campo de la IA de agentes: mientras que los chatbots responden consultas, los agentes actúan en el mundo, ejecutan transacciones y resuelven problemas sin pedirle confirmación a cada paso.

Project Swap recreó un escenario de mercado donde los modelos Claude debían jugar roles diferentes (compradores, vendedores, intermediarios) con objetivos económicos concretos. Al forzar a la IA a negociar consigo misma bajo presión, Anthropic puede observar patrones de comportamiento emergentes, riesgos de coordinación colusiva, fallos en la lógica de negociación y cómo evitar que los agentes se salten restricciones.

Este trabajo se alinea con la investigación más amplia sobre safety en agentes de IA: antes de desplegar sistemas autónomos en producción, es necesario comprender qué pasa cuando interactúan entre sí sin guía.

Por qué te importa si trabajas con SAP

Para equipos SAP, los agentes de IA como los que Anthropic está explorando son cada vez más relevantes en procesos de compra, planificación de demanda y resolución de excepciones. S/4HANA y las plataformas modernas de SAP ya integran APIs para terceros; Claude a través de herramientas externas podría automatizar tareas como validación de órdenes, negociación de condiciones con proveedores o análisis de anomalías en transacciones.

Project Swap documenta riesgos reales de esos escenarios: ¿qué ocurre si dos agentes colaboran contra tus intereses? ¿Cómo garantizar que un agente comprador en SAP Ariba no hace ofertas ilegales? Los hallazgos de Anthropic informan directamente sobre cómo diseñar guardrails cuando los agentes de IA toquen tu cadena de suministro o tus procesos de negociación.

La publicación completa del experimento está disponible en el sitio de research de Anthropic y proporciona código, metodología y lecciones aprendidas.