模型 deepseek v4 pro,缓存命中率明显相比 claude code 低不少。让 claude code 分析了一下,应该是注入的 system prompt 部分信息会动态变化导致的(情绪/时间)。
情绪希望可以做成可配,使其不再动态变化,从而提升缓存命中率。
时间希望粒度可以做粗一些,比如做到小时级,或者支持可配。
目前来看 deepseek 的问题应该相对比较大,因为 deepseek 的 anthropic api 不支持 cache control,是自动匹配前缀缓存的。如果是 claude 的话应该没啥问题

Please authenticate to join the conversation.
In Review
Feature Request
About 2 hours ago

Hiyasame
Get notified by email when there are changes.
In Review
Feature Request
About 2 hours ago

Hiyasame
Get notified by email when there are changes.