Anthropic avanza en pruebas criptográficas para verificar la IA

Anthropic ha presentado avances en zkSNARK (Zero-Knowledge Succinct Non-Interactive Argument of Knowledge), una técnica criptográfica diseñada específicamente para validar el comportamiento de modelos de lenguaje grandes sin comprometer la privacidad ni la seguridad del sistema.

El desafío que resuelven es fundamental: en un entorno empresarial, especialmente en sectores regulados, no basta con obtener una respuesta de una IA. Los equipos de compliance, auditoría y seguridad necesitan probar que esa respuesta fue generada correctamente por el modelo, que no fue manipulada, y que cumple con las restricciones de seguridad implementadas.

Qué hay detrás

Un zkSNARK es una herramienta criptográfica que funciona como un certificado matemático. Cuando Claude (o cualquier LLM) genera una respuesta, el zkSNARK puede producir una prueba de que:

• La respuesta viene realmente del modelo entrenado, no de una versión alterada
• Se respetaron los guardrails y políticas de seguridad durante la inferencia
• Los datos de entrada se procesaron según se esperaba

Todo esto sin exponer los pesos del modelo, los parámetros internos ni los datos de entrada/salida. Es el equivalente a un auditor que certifica un proceso sin necesidad de revisar toda la documentación interna.

Esta línea de investigación es parte del trabajo de Anthropic en confiabilidad y alineamiento. La industria ha reconocido que el prueba de que un sistema de IA se comporta como se espera es tan crítico como su rendimiento.

Por qué te importa si trabajas con SAP

Si usas Claude en conjunto con sistemas SAP—ya sea en procesos de automatización con agentes, análisis de datos maestros o generación de código ABAP—el factor confianza es decisivo. En un entorno corporativo, especialmente en procesamiento financiero o datos sensibles, tu área de auditoría o compliance querrá garantías de que la IA no está desviándose de lo permitido.

Un zkSNARK permitiría que un agente de Claude que accede a tablas de SAP S/4HANA pueda generar un certificado criptográfico de que: (a) usó solo las tablas autorizadas, (b) ejecutó la lógica esperada, (c) no exfiltró información no permitida. Esto convierte a Claude en una herramienta viable para casos de uso empresariales que hoy quedan fuera de alcance por razones de gobernanza.

El desarrollo sigue siendo investigación, pero marca la dirección clara: IA verificable para la empresa, no solo IA potente.