出结论了，Claude Code 新版本随机插入 cch 参数，第三方缓存命中率从 90% 降至 30%

来简单揭露一下 claude code 使用第三方 api 会导致缓存命中降低的问题。
在2 月 8 号，我们售后群有用户反馈 claude code 的异常计费，一开始以为只是以为是 claude code 第三方插件的问题，我们没怎么在意，只是按照用户反馈去测试，第一次测试没有发现异常点，反馈给用户之后，发现版本号不对。于是更新到当时最新的 2.1.37 版本，复现了和用户一样的问题，缓存命中异常的很。往常 packyapi 的命中率在百分之 90 以上，在新版本只有百分之 30-40，或者说压根没命中。
检查发现新版本的 claude code cli 和插件都会随机的在message 里面的"system" : [ {
“type” : “text”,
“text” : “x-anthropic-billing-header: cc_version=2.1.37.3a3; cc_entrypoint=claude-vscode; cch=xxxxx;”
}这个字段 加一个 cch=xxx 的东西，而这个 cch 这个玩意儿每次都是变化的，这就会导致变化一次就会重新创建一次缓存（为啥会这样就不细说了）
也不知道他们是故意的还是不小心的
解决方案也很简单，只需要去掉这个就好了。
当我们处理完之后，缓存率又恢复了～
给其他的第三方平台做一个参考～

转自 https://x.com/cccchuizi/status/2022158897935790585?s=20

用gemini做了个表情包，欢迎传播

28 posts - 16 participants

Read full topic

via LINUX DO - 热门话题 (author: cabudon)

情感特化模型 OmniDimen-2 发布

先祝各位佬友情人节快乐，OmniDimen 是我们个人开发团队做的 LoRA 微调小规模语言模型，目前主要针对情感方面优化。

经过第一代多个版本的打磨，我们向前迈出了第二步。

我们的初衷也很简单。从第一代开始，就是为了在 OpenAI 抵制情感类用户的现状下，多开辟出一条道路——端侧本地部署。

本次更新发布了 4B & 8B Dense 模型和 20B MoE 模型，分别基于 Qwen3-4B-Instruct-2507、Llama-3.1-8B-Instruct 和 gpt-oss-20b。

我们在 4 Bit 量化精度下分别对两个模型（8B 没测是因为测的时候还没做，懒得补了）和基模进行了测试（无系统提示词和上下文），效果如下：

（左 OmniDimen-2-4B-Emotion，右 Qwen3-4B-Instruct-2507）
（左 OmniDimen-2-20B-Emotion，右 gpt-oss-20b）
模型仓库：

● OmniDimen-2-4B-Emotion
● OmniDimen-2-8B-Emotion
● OmniDimen-2-20B-Emotion

当然，我们并不想代替任何模型（包括 GPT-4o）。我们想做的是有特色、体验好的模型。所以比起“像某个模型”，我们更希望得到围绕模型本身展开的评价。

50 posts - 25 participants

Read full topic

via LINUX DO - 热门话题 (author: 盐水是言和水)