【pi/agent】pi agent搭配sub2api缓存命中问题
Contents
pi agent搭配sub2api缓存命中问题
缘起
听说pi agent比codex要专业,专门用于写代码.
经过
然后亲测搭配deepseek十分快,并且能90%以上命中缓存,当我选择gpt的时候问题出现了. 我的大模型都是有sub2api统一配置的转发到pi agent的.发现缓存没了.十分贵. 后来经过研究发现在
~/.pi/agent/model.json
在providers下,sub2api的名字下添加
"compat": {
"sendSessionAffinityHeaders": true,
"sessionAffinityFormat": "openai"
},
就搞定了,在sub2api那边是设置成codex的兼容response模式.
结语
看来不同客户端还是有很多兼容的问题,技术在于折腾.