system prompt 动态变化导致缓存命中率低

模型 deepseek v4 pro,缓存命中率明显相比 claude code 低不少。让 claude code 分析了一下,应该是注入的 system prompt 部分信息会动态变化导致的(情绪/时间)。

情绪希望可以做成可配,使其不再动态变化,从而提升缓存命中率。

时间希望粒度可以做粗一些,比如做到小时级,或者支持可配。

目前来看 deepseek 的问题应该相对比较大,因为 deepseek 的 anthropic api 不支持 cache control,是自动匹配前缀缓存的。如果是 claude 的话应该没啥问题

Please authenticate to join the conversation.

Upvoters
Status

In Review

Board
💡

Feature Request

Date

About 2 hours ago

Author

Hiyasame

Subscribe to post

Get notified by email when there are changes.