Claude Code: Error en caché de prompts eleva costos de API

La comunidad de desarrolladores de IA se encuentra en estado de alerta máxima tras confirmarse una preocupante regresión en la infraestructura de prompt caching de Anthropic, específicamente afectando a la popular herramienta de terminal, Claude Code. A fecha de 12 de abril de 2026, análisis exhaustivos de archivos de sesión han revelado que el tiempo de vida (TTL, por sus siglas en inglés) para las cachés de prompts se ha reducido silenciosamente de una hora a tan solo cinco minutos, provocando un impacto financiero directo y significativo en los usuarios empresariales y desarrolladores intensivos.

El problema técnico: ¿Qué es el prompt caching y por qué importa?

Para comprender la magnitud de esta situación, es necesario desglosar cómo funcionan los modelos de lenguaje a gran escala y la economía de los tokens. El prompt caching no es simplemente una característica opcional; es la columna vertebral de la eficiencia económica en aplicaciones que requieren contextos extensos, como los agentes de codificación. En una sesión típica de Claude Code, el historial de conversación, los prompts del sistema y los resultados de las herramientas se acumulan rápidamente. Sin un sistema de caché eficiente, el modelo debe procesar la totalidad de esta información en cada iteración, lo que multiplica innecesariamente el consumo de tokens y, por ende, el costo operativo.

El sistema de caché funciona almacenando estados de computación intermedios (pares clave-valor en el mecanismo de atención). Cuando la arquitectura de la caché es estable, la herramienta puede “leer” una parte significativa del historial desde el almacenamiento del servidor, pagando únicamente por los nuevos tokens generados. La regresión detectada altera fundamentalmente este ciclo: al reducir el TTL a cinco minutos, las entradas de la caché se invalidan mucho más rápido, obligando al sistema a re-crear (cache_create) estas entradas constantemente. Como resultado, las operaciones que antes se beneficiaban de un bajo costo de lectura (cache_read) se convierten ahora en operaciones de creación de caché mucho más costosas.

Impacto real: Aumento de costos y consumo de cuotas

Los datos extraídos de los registros de sesión (JSONL) durante el periodo de principios de marzo a abril de 2026 son contundentes. Se ha observado un incremento en los costos de API que oscila entre el 20% y el 32% para usuarios de alta intensidad. Este fenómeno no es solo una preocupación presupuestaria; es un cuello de botella técnico que compromete la viabilidad de flujos de trabajo automatizados a largo plazo.

• Aumento de costos operativos: La re-creación forzada de cachés cada cinco minutos eleva drásticamente el costo por cada mil tokens procesados.
• Agotamiento prematuro de cuotas: Usuarios en niveles de suscripción que históricamente se mantenían dentro de sus límites han reportado picos inesperados en el consumo de cuotas.
• Inestabilidad en la experiencia de desarrollo: La regresión parece estar ligada a cambios en el servidor, lo que significa que el comportamiento del sistema es inconsistente, afectando negativamente la confiabilidad de los agentes.

La comunidad ha identificado que esta caída en el rendimiento no es un problema de configuración del lado del cliente, sino una directiva impuesta desde la infraestructura de Anthropic. La evidencia sugiere que el TTL de una hora funcionaba como un estándar estable desde febrero, y la transición a los cinco minutos —ya sea por una optimización mal implementada o un error técnico— ha tenido consecuencias desproporcionadas.

La “caja negra” de Anthropic: ¿Error o estrategia?

A pesar de la creciente presión por parte de ingenieros y usuarios de la plataforma, Anthropic aún no ha emitido una declaración formal que aclare si este cambio responde a una medida deliberada de ahorro de costos o si se trata de un bug complejo en la gestión de infraestructura. La falta de transparencia ha generado una ola de especulaciones y una profunda desconfianza en la predictibilidad de los costos de la plataforma.

Analistas técnicos han señalado que este incidente se suma a una serie de desafíos recientes que ha enfrentado la herramienta. Desde errores en el manejo de herramientas diferidas hasta discrepancias en la gestión de resúmenes de contexto, Claude Code parece estar atravesando una fase de inestabilidad. Para un desarrollador profesional, la incertidumbre es el peor enemigo. Si la arquitectura de la caché puede alterarse de manera invisible, la capacidad de planificar y escalar proyectos basados en estas tecnologías queda severamente limitada.

Perspectivas futuras: Cómo mitigar el riesgo

Mientras la situación se aclara, los desarrolladores y equipos empresariales están buscando activamente alternativas para blindar sus costos. Entre las recomendaciones más sólidas para mitigar el impacto de esta regresión se encuentran:

1. Monitoreo proactivo de sesiones

Es vital dejar de depender únicamente de los paneles de control de facturación. Implementar herramientas de análisis de archivos de registro (como los mencionados archivos JSONL en el entorno de desarrollo) permite auditar cuántas operaciones de cache_creation se están disparando frente a las de cache_read.

2. Optimización de la estructura de prompts

Ante la fragilidad de la caché actual, la estructura del prompt se vuelve crítica. Minimizar los cambios dinámicos en los prefijos de la conversación es fundamental. Todo contenido que no cambie frecuentemente debe ser posicionado de manera que favorezca el “acierto” de la caché.

3. Evaluación de alternativas de ejecución

Parte de la comunidad está optando por ejecutar versiones anteriores más estables de la herramienta o utilizando interfaces alternativas que no heredan los mismos errores de caché que los binarios actuales. La experimentación con diferentes entornos de ejecución ha demostrado que, en algunos casos, el uso de paquetes a través de gestores estándar (como npx) evita ciertas mutaciones de cabecera que rompen la estabilidad de la caché en los binarios independientes.

Conclusión: Un llamado a la transparencia

La situación actual con el prompt caching en Claude Code es una lección sobre la fragilidad de los sistemas de IA agentic. Cuando los costos están intrínsecamente ligados a la arquitectura de la infraestructura, cualquier cambio “silencioso” tiene consecuencias directas en el flujo de caja de los desarrolladores. Anthropic tiene la responsabilidad, no solo de resolver este fallo, sino de ofrecer una hoja de ruta clara sobre cómo se gestionan estas configuraciones críticas en el futuro.

La confianza en una herramienta de nivel empresarial se construye sobre la predictibilidad. Si Claude Code aspira a ser el estándar para la ingeniería de software asistida por IA, debe garantizar que sus mecanismos de eficiencia económica sean robustos, documentados y, sobre todo, estables. Por ahora, el mercado sigue a la espera de una rectificación, mientras la comunidad continúa diseccionando los datos en busca de la normalidad perdida.