Responses 与 previous_response_id:续接机制的边界
状态续接听起来是个纯功能特性,但它在多账号场景下引入了一个硬性约束。不理解这个约束,就会在生产环境里遇到「偶尔 503 且无法自愈」的问题。
绑定关系是有时效的
网关会把响应里观察到的 resp_ ID 按 Key 和分组绑定到渠道,有效期一小时。超过时效、或绑定被内存容量淘汰,就无法恢复原账号。
Responses 接口和 Chat Completions 最大的认知差异,是它允许客户端引用上一次响应的 ID。
这个能力看起来省事,但在有多个上游账号的场景下会带来一个硬约束:带 previous_response_id 的请求不能跨渠道切换。
不带续接的请求才能自由切换
任何携带 previous_response_id 的请求都不会跨渠道自动重试。这是设计上的必然:上一轮的状态可能带着上游加密内容,换账号等于把钥匙交给了别人。
像 context_length_exceeded、invalid_request_error、content_filter 这类请求级错误不触发切换,因为换渠道同样会失败。
有界等待是折中方案
如果原渠道还在授权池里但正满载或冷却,可重放的 POST 请求会在当前请求内做有界等待,等它恢复——而不是立刻失败或换人。
所以这类请求的策略是:原渠道还在就等它恢复(原渠道满载或冷却时做有界等待),原渠道不在候选池就直接返回不可用,而不是「重试一下说不定行」。
「偶尔 503 且换一次就好」的成因
很可能就是某个请求带了 previous_response_id,而它绑定的渠道当时不可用。重试一次(新请求不带这个 ID)就成功了。
401 是「你的凭据没通过验证」,403 是「凭据没问题但你不被允许」。
对应到网关:401 多半是 Key 本身错误、过期或被撤销;403 多半是分组不允许访问目标模型,或者上游凭据失败。
实操:Responses 接口:支持 previous_response_id 续接。
把 resp_ ID 存下来,下一轮带上,观察续接行为。
curl "https://aiminis.info/v1/responses" \
-H "Authorization: Bearer sk-gw-你的密钥" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-6.1-sol",
"input": "帮我把这段话改写得更简洁",
"stream": true
}'
# 返回里的 resp_xxx 可以作为下一轮的 previous_response_id。
# 注意:带 previous_response_id 的请求不会跨渠道自动重试,
# 因为上一轮的状态可能绑定在某个具体账号上。
几个容易踩的坑
- 带着
previous_response_id期待网关自动换号续接——带这个参数的请求不会跨渠道重试。 - 把 Codex 账号的余量当成 OpenAI API 平台的余额来对账。
- 在流式已经开始之后客户端超时断开,却期待网关补一个正常的结束标记。
- 对
context_length_exceeded这类请求级错误也做重试,换渠道同样失败。
小结
把配置项和凭据都外置,是成本最低、收益最持久的一个工程习惯。
如果你正在评估方案,可以先注册一个 Key 跑通最小请求,再决定要不要迁移——https://aiminis.info/ 支持按量计费,试用成本很低。
- 点赞
- 收藏
- 关注作者
评论(0)