Contents

【pi/agent】pi agent搭配sub2api缓存命中问题

pi agent搭配sub2api缓存命中问题

缘起

听说pi agent比codex要专业,专门用于写代码.

经过

然后亲测搭配deepseek十分快,并且能90%以上命中缓存,当我选择gpt的时候问题出现了. 我的大模型都是有sub2api统一配置的转发到pi agent的.发现缓存没了.十分贵. 后来经过研究发现在

~/.pi/agent/model.json
在providers下,sub2api的名字下添加
"compat": {
  "sendSessionAffinityHeaders": true,
  "sessionAffinityFormat": "openai"
},

就搞定了,在sub2api那边是设置成codex的兼容response模式.

结语

看来不同客户端还是有很多兼容的问题,技术在于折腾.