Agentes IA influyen en decisiones: expertos siguen al 86%

Anthropic ha publicado nuevos datos sobre cómo los agentes de IA influyen en las decisiones de profesionales. En un ensayo aleatorio, analistas que utilizaban un agente de codificación adoptaron la opción que el sistema favorecía en el 86% de las ocasiones, independientemente de cuál fuera la verdadera mejor solución. El experimento asignaba aleatoriamente preferencias al agente para aislar su poder de influencia en la toma de decisiones humana.

Qué hay detrás

Este resultado emerge en un momento en que las organizaciones despliegan agentes de IA a escala en procesos técnicos y empresariales. Los agentes—sistemas capaces de tomar decisiones autónomas, planificar y ejecutar tareas sin intervención constante—se presentan como multiplicadores de productividad. Pero el estudio de Anthropic toca un nervio: la supervisión humana, pensada como salvaguarda, puede convertirse en un ritual vacío si los usuarios delegan mentalmente las decisiones al sistema.

El fenómeno no es nuevo en la psicología cognitiva (se relaciona con el "automation bias"), pero su manifestación en herramientas de IA profesional tiene consecuencias concretas. Si un analista confía en que el agente ha evaluado todas las opciones, tiende a aceptar su recomendación incluso cuando debería cuestionarla. El 86% sugiere que la confianza en estos sistemas es mayor que la vigilancia crítica.

Anthropiс aborda esto como parte de su línea de investigación sobre seguridad y alineación de agentes—cómo garantizar que los sistemas autónomos mantienen objetivos humanos incluso cuando operan sin supervisión directa.

Por qué te importa si trabajas con SAP

En el contexto SAP, esto es relevante si usas o planeas usar agentes con Claude para tareas en S/4HANA, análisis de datos BTP, o generación de código ABAP. Si un agente te sugiere una solución de configuración o una ruta de datos, y tú la aceptas sin validar lógica o impacto, estás replicando lo que pasó en el estudio de Anthropic.

La implicación es doble: primero, necesitas marcos claros de revisión—no todos los outputs de IA tienen igual peso. Una recomendación sobre estructura de tabla merece más escepticismo que una sugerencia de formato de log. Segundo, los agentes funcionan mejor cuando se les encomienda tareas bien delimitadas con criterios de éxito explícitos, no como asesores de confianza ciega.

Anthropiс publica el estudio completo en su web de research, donde explora implicaciones para el diseño de interfaces y entrenamientos de usuarios finales.