原来中转站缓存失效的话是自认倒霉的吗

4 月 8 日
 wnzhyee
下午充的 100 块一小会就没了,翻日志发现一条请求 1 块有 9 毛是缓存写的 cost ,反馈客服也只是甩了张图让降 CC 版本,有点好奇这些中转的缓存策略到底是不是自己写的,走的还不是低价逆向的渠道,号称 CCMAX 号池。

总之长教训了。。这些中转站还是找个能 10 块 10 块充值的吧。。
2923 次点击
所在节点    程序员
13 条回复
andforce
4 月 8 日
我一直都比较好奇,现在全世界都缺 Token ,
为什么还会有人相信中转站的便宜货呢?

有没有大佬解惑哦
lyhiving
4 月 8 日
缓存失效说明这个是真中转,不是像别的一样搞个模型+强提示词忽悠你

可以用下这个中转 [https://api.openai.wf]( https://api.openai.wf)
goodboy95
4 月 8 日
@andforce 因为中转站没那么便宜。
通过中转站用 claude code ,是比自己买 claude code 要贵的,好处就是省事,不用翻墙,不用考虑 ip 纯净度。
940i3s34v4F1HW41
4 月 8 日
我一直说中转站都是忽悠
wnzhyee
4 月 8 日
@andforce 第一,全世界都缺 token 的结论并不成立,只是国内缺(因为 CC 超级严格的风控);第二,中转站也不便宜,可能很多中转站打广告推广的时候都是几毛一刀/免费蹬之类的话术给了你错觉,实际每个站内稍微好一点的渠道都挺贵的
bbbblue
4 月 8 日
我记得 cc 有个版本有缓存 bug 不知道说的是不是这个
yisheyuanzhang
4 月 8 日
@andforce 中转站开 Max20 200$套餐最多可以用 4000$额度,换成中转站的倍率就是 0.35 。
风险就是 A 社封号。 现在中转站都涨价了 1.5 ,2 倍率的都有
Misakas
4 月 9 日
我是做中转站的,楼主可以来[镜像阶段]( https://mirrorstages.com)看看。缓存失效是中转避不开的问题,因为中转就是靠号池撑起来的,一切号之前的缓存就全没了。我们对这种情况是通过策略实现优化的:

1. 缓存写不收费,避免因为换号缓存失效导致的成本飙升。
2. 兜底缓存读:如果输入的上下文超过 35w 但没有命中缓存,则将输入 token 的 2/3 当作缓存计费

再解释一下为什么是 35w ,这是 Claude Code 系统提示词加上一轮提问的 token 数,所以基本上第二轮的 tool call 就会有缓存兜底

注册有 5 刀体验金,可以用 CC Max 渠道体验,好用再说。充值的话新客户首次充值翻倍,相当于 0.3 / 美元。有遇到问题,可以直接评论区 @我打脸
WebKit
4 月 9 日
@Misakas #8 可用性怎么样?有没有服务状态检测的页面
blueskeay
4 月 9 日
就 10 块 10 块冲就行了..
我自己做中转站都不开什么订阅套餐,推荐让客户按需充值

缓存这个问题看调度吧,缓存基本都是从服务商那边拉的,特别接了多个上游负载均衡的中转,切上游了缓存就 G 了

可以考虑用 codex ( codex 我家的稳定性和缓存绝对在线 https://v2ex.com/t/1203644
晚上又上了一个新版本进一步优化了客户端不支持缓存的情况,有可用性可以看,多个下游的明智之选

明天或者后天会上一个自持的 claude 新渠道,实际体验下来我比我自己 max 订阅还好用就很离谱...
HFX3389
4 月 9 日
@blueskeay 明天或者后天会上一个自持的 claude 新渠道,实际体验下来我比我自己 max 订阅还好用就很离谱...

这话术你自己信就行了,你能做到 a 社 200 美元换 3000 多刀的倍率?能 1 倍都笑醒了
blueskeay
4 月 9 日
@HFX3389 ....A\模型不同渠道的温度不一样,昨天 max 订阅确实很难用,反正我自己测下来让两种渠道的做一样的任务的结果是这样
倍率肯定不可能,也没说这个能做到那么便宜呀...
Misakas
4 月 9 日
@WebKit 逆向渠道很稳,CC Max 偶尔抽风

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://v2ex.ih06.com/t/1204424

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX