Una aseguradora lanza un asistente interno que resume expedientes. En el piloto funciona de maravilla: 200 consultas al día y una factura que nadie mira. Tres meses después son 80.000 consultas, el modelo más potente atiende todo, cada petición reenvía las mismas 30 páginas de condiciones y el informe nocturno se ejecuta en tiempo real. La factura se ha multiplicado y los usuarios se quejan de que «tarda». El equipo no tiene un problema de modelo. Tiene un problema de arquitectura.
Este es terreno habitual del examen CCAR-P. Las preguntas no piden recitar precios, piden decidir bajo una restricción dominante: coste, latencia, volumen, calidad o plazo. Para la lista oficial de dominios y pesos, consulta el Exam Guide. Aquí vamos a ver las palancas y, sobre todo, cuándo usar cada una. Es la continuación natural de la lección anterior: allí decidías cuántas piezas necesita el sistema; aquí decides cuánto cuesta y cuánto tarda cada una.
Primero, medir: coste y latencia no son lo mismo
Antes de tocar nada, hay que saber dónde se va el dinero y el tiempo. Optimizar a ciegas es el error número uno.
El coste de una petición se compone de tokens de entrada, tokens de salida y, según el diseño, llamadas a herramientas y pensamiento. La salida cuesta bastante más que la entrada por token: en los modelos actuales, la relación de precios es de cinco a uno (a fecha de septiembre de 2026, por ejemplo Opus 5.5 cobra 4 $ de entrada y 20 $ de salida por millón de tokens). Por eso, una respuesta verbosa o un esfuerzo de razonamiento innecesario pesan más de lo que parece.
La latencia, en cambio, depende de otras cosas: tamaño de la salida, modelo elegido, profundidad de razonamiento, número de pasos secuenciales en el flujo y espera de herramientas externas. Una optimización de coste puede empeorar la latencia, y al revés. Identifica cuál manda en el escenario.
MOD · Selección de modelo
Reduce coste y latencia a la vez si el paso no necesita un modelo grande. Riesgo: bajar de modelo sin evaluar y perder calidad en los casos difíciles.
Pulsa cada casilla. El examen suele pedir la palanca que ataca la causa, no la que suena más sofisticada.
Selección de modelo por tarea
La regla del examen: el modelo debe estar proporcionado al paso, no al sistema. Un mismo flujo puede usar varios modelos.
Con los modelos actuales, el criterio resumido es este:
- Haiku 4.5: volumen alto, coste mínimo, tareas acotadas como clasificar, enrutar o extraer campos. Contexto de 200K, menor que el resto.
- Sonnet 5.5: velocidad con buena calidad en código y agentes.
- Opus 5.5: punto de partida recomendado para la mayoría de cargas empresariales y coding agéntico.
- Fable 5.1: razonamiento exigente y agentes de larga duración. Es el más capaz, el más lento y el más caro.
El patrón que más rinde en escenarios es el enrutado por dificultad: un modelo barato clasifica o resuelve lo sencillo y solo escala al grande lo que lo necesita. Se parece a la escalera de complejidad de la lección anterior, aplicada a modelos.
Un único modelo grande
Simple de operar, caro y lento a escala
- Calidad alta incluso en pasos triviales
- Coste y latencia fijados por el paso más fácil de sobredimensionar
- Una sola configuración que evaluar
- Razonable en volúmenes bajos o cuando la calidad es crítica en todo
Modelo proporcionado al paso
Más piezas, mejor relación calidad-coste
- Modelo pequeño para clasificar, enrutar y extraer
- Modelo grande solo donde hay razonamiento difícil
- Exige evaluar cada paso y la calidad del enrutado
- Riesgo: un enrutado malo manda casos difíciles al modelo débil
Con volumen alto y tareas heterogéneas, el modelo por paso suele ganar. Pero no bajes de modelo sin medir la calidad en los casos difíciles.
Dos avisos técnicos que el examen puede usar de trampa. En Opus 5.5 y Sonnet 5.5, temperature, top_p y top_k distintos del valor por defecto devuelven error 400, y el thinking es adaptativo y se controla con effort (output_config.effort), no desactivándolo. Si el escenario quiere «menos razonamiento para ahorrar», la respuesta es bajar el effort, no tocar parámetros de muestreo.
Prompt caching: reutilizar lo que no cambia
El prompt caching guarda el prefijo repetido de tus peticiones. Las lecturas de caché cuestan una fracción del precio base: el 10 % en general, el 5 % en Opus 5.5 y el 2,5 % en Fable 5.1 (a fecha de septiembre de 2026). Además suele reducir la latencia de esa parte del prompt.
Encaja cuando hay un prefijo largo, estable y reutilizado muchas veces: instrucciones de sistema extensas, un manual o contrato consultado por muchos usuarios, definiciones de herramientas, ejemplos few-shot. No encaja cuando el contenido cambia en cada llamada o se consulta una sola vez.
Instrucciones de sistema, definiciones de herramientas y documentos de referencia. Es el prefijo que se reutiliza entre peticiones.
Fallos típicos que se evalúan: insertar un dato cambiable (una marca de tiempo, un identificador) al comienzo del prompt, que invalida el prefijo; cachear algo que se usa una vez; y olvidar que la caché es una optimización de entrada, no reduce el coste de una salida larga.
Un servicio de atención al cliente envía en cada petición las mismas 40 páginas de políticas más una pregunta breve. Miles de consultas diarias, respuesta interactiva, coste en aumento. ¿Qué medida ataca mejor la causa?
Batching, streaming y SLAs
Aquí la clave es qué tolera el negocio, no qué técnica es más moderna.
La Batch API da un 50 % de descuento a cambio de procesamiento asíncrono. Es la respuesta cuando el trabajo no es interactivo y admite espera: informes nocturnos, clasificación masiva de archivo histórico, evaluaciones de calidad, generación de resúmenes que se consultan al día siguiente. Combina bien con caché cuando muchas peticiones comparten prefijo.
El streaming va por otro lado. No ahorra dinero ni acorta el tiempo total, pero el usuario empieza a leer antes. Es la herramienta para una interfaz conversacional donde importa la sensación de rapidez. En un proceso sin humano esperando, no aporta nada.
Un SLA (plazo comprometido) se traduce en decisiones concretas:
- Si el SLA es de segundos y hay una persona esperando, necesitas llamadas síncronas, modelo rápido y streaming. Batch queda descartado.
- Si el SLA es de horas, Batch API es candidata natural por coste.
- Si hay un pico de tráfico, hay que pensar en límites de tasa, reintentos con espera creciente y colas, no solo en el modelo.
- Si el SLA es estricto y el flujo tiene muchos pasos secuenciales, cada paso suma latencia: reduce pasos, paraleliza los independientes o usa un modelo más rápido.
Chat de soporte
Interactivo, SLA de segundos. Modelo rápido, prompt caching del contexto fijo y streaming para la latencia percibida. Batch no encaja.
Reetiquetado de 2 millones de tickets
Sin humano esperando, plazo de horas o días. Batch API con descuento y, si el modelo pequeño basta, Haiku 4.5. Streaming no aporta nada.
Análisis legal profundo
Pocas peticiones, calidad crítica, plazo flexible. Aquí sí puede compensar un modelo grande con effort alto. El coste por petición es secundario frente al riesgo de error.
Presupuestos de tokens y control a escala
A escala, el coste no se controla con buenas intenciones sino con límites explícitos. Los mismos que viste en tolerancia a fallos sirven aquí:
- Tope de tokens de salida por petición y por tipo de tarea. Una salida sin límite es la parte más cara y menos predecible.
- Effort por paso: bajo en clasificaciones y extracciones, mayor solo donde el razonamiento lo justifique.
- Presupuesto por tarea y por usuario y máximos de iteraciones y llamadas a herramientas en bucles agénticos.
- Gestión del contexto: resumir el historial, no reenviar conversaciones enteras, recortar los resultados de herramientas a lo relevante. Un contexto inflado cuesta en cada turno.
- Salidas estructuradas y concisas: pedir solo los campos necesarios reduce tokens de salida y simplifica la validación.
- Observabilidad de coste: registrar tokens de entrada, salida y caché por petición, atribuidos a funcionalidad o equipo. Sin eso no sabrás qué optimizar.
Y una advertencia de equilibrio: optimizar no significa recortar a ciegas. Todo cambio de modelo, de effort o de prompt debe validarse contra un conjunto de evaluación, porque un ahorro que degrada la calidad en los casos difíciles sale caro después. De cómo montar esa evaluación hablaremos en la próxima lección. Para precios y límites vigentes, la fuente es la documentación oficial en platform.claude.com y la página claude.com/pricing para los planes de la app. Si tu escenario toca SAP, las vías oficiales de integración están en /conexiones y /claude-y-sap.
Para el examen
Dominio · Diseño de arquitecturas eficientes y operables
Lo que tienes que dominar
- Mide primero: identifica si manda el coste, la latencia, el volumen o la calidad, y de dónde sale cada uno
- El modelo debe estar proporcionado al paso: pequeño para clasificar y extraer, grande para razonamiento difícil, con enrutado por dificultad
- Prompt caching: prefijo largo, estable y reutilizado; lo variable al final; lecturas a una fracción del precio base
- Batch API: 50 % de descuento para trabajo asíncrono que tolera espera; no para respuestas interactivas
- Streaming mejora la latencia percibida, no el coste ni el tiempo total
- Effort y límites de tokens de salida controlan el gasto por paso; la salida cuesta más que la entrada
- El SLA decide la técnica: segundos implica síncrono, modelo rápido y streaming; horas permite Batch
- Todo ahorro se valida contra una evaluación de calidad, sobre todo en los casos difíciles
Donde se suele fallar
- Usar Batch API en una experiencia interactiva
- Atribuir al streaming un ahorro de coste
- Poner datos variables al inicio del prompt y perder la caché
- Cachear contenido que se usa una sola vez
- Usar el modelo más grande en todos los pasos por seguridad
- Bajar de modelo sin evaluar la calidad en los casos difíciles
- Intentar ahorrar con temperature o top_p en modelos que los rechazan, en lugar de bajar el effort
- Optimizar sin medir de dónde viene realmente el gasto
Para recordar
0 de 8 dominadosMarca lo que ya sabrías responder en el examen.
Ponte a prueba
Tipo test
6 preguntas sobre esta lección. Responde una a una; verás las soluciones al terminar.