Anthropic actualiza reglas para Claude: más control sobre desinformación

Anthropic ha actualizado su Usage Policy de Claude para abordar nuevas formas de abuso detectadas en operaciones de influencia, desarrollo de armas y vigilancia. La política revisada entra en vigor el 12 de noviembre y marca un cambio significativo en cómo la compañía regula un modelo que, según admite, ahora realiza "trabajos más largos e independientes".

La mayoría de cambios son aclaraciones sobre reglas existentes, pero algunos reflejan amenazas emergentes. Anthropic ha consolidado restricciones dispersas en una nueva sección: Do Not Engage in Deceptive Campaigns or Artificial Activity. Esta cubre redes de cuentas falsas, sitios de noticias fabricadas y herramientas para campañas de influencia, ya sean políticas o comerciales. La compañía documenta haber visto gobiernos y medios estatales usar Claude para este propósito.

Qué hay detrás

Esta actualización responde a un año de evolución tanto en capacidades como en amenazas reales. A medida que los modelos de IA generativa se han vuelto más capaces de automatizar tareas sofisticadas, han surgido intentos de usarlos para fines maliciosos a escala que antes era imposible. La sección de campañas deceptivas no prohíbe la segmentación política legítima—como organizaciones no lucrativas escribiendo en idiomas locales para votantes—pero sí bloquea usos que manipulen datos personales o engañen.

Otros cambios son más técnicos pero igual de importantes. Anthropic ha expandido su prohibición sobre armas para incluir explícitamente software de guiado y control para drones autónomos y vehículos armados. En vigilancia, la política ahora prohíbe tanto el rastreo en tiempo real como análisis retrospectivo sin consentimiento, y veta que Claude se use para decidir a quién investigar o arrestar.

Sobre contenido electoral, Anthropic ha removido su prohibición absoluta sobre "personalized vote targeting" porque cubría trabajos legítimos como el envío de avisos sobre corrección de papeletas. Ahora enfoca la restricción en acciones que engañen a votantes o interfieran con procesos electorales.

Por qué te importa si trabajas con SAP

Si usas Claude en contextos empresariales o de datos—análisis de información de clientes, generación de contenido o automatización de procesos—estas reglas afectan directamente qué puede hacer. Un consultor o desarrollador que integre Claude con S/4HANA debe saber que ciertas aplicaciones están vetadas: no puedes automatizar campañas masivas de mensajes personalizados basadas en datos de usuarios, ni construir sistemas de vigilancia de empleados.

Más importante: si trabajas en gobiernos, instituciones financieras o de salud, los nuevos requisitos para casos "high-risk" son mandatorios. La política especifica controles para cuando Claude actúa autónomamente en el mundo físico—relevante si planeas usarlo para orquestar acciones en procesos de negocio críticos integrados con sistemas legacy.