图片生成这类非文本能力的接入
除了文本对话,网关还能承载图片生成这类非文本能力。它们的请求和响应结构完全不同,是另一类需要单独适配的工作。
非文本能力的路由更复杂
文本请求按模型和分组筛选渠道,图片生成还要考虑渠道是否支持对应的能力标记。
文本透传是最简单的路径,工具调用才是检验一个网关成色的地方。
实际请求里,工具结果和普通文本往往是混在一起的——模型调用完工具,拿到结果,然后继续说一段话。
生成结果也要考虑存储与访问控制
图片生成的结果通常是文件,涉及存储路径、访问权限和过期清理的问题。
而且权限检查必须落在后端:隐藏菜单不能替代授权,列表、详情、聚合、更新、删除每一条路径都要单独检查作用域。
计费口径完全不同
按张计费还是按次计费,和 token 计费是两个体系,要分开实现。
用量统计的时间口径必须写清楚,是 UTC 还是某个业务时区,一周从哪天开始。
并发上限和速率上限是两回事,两个都要有。
文档里要写清输出是什么形式
返回 URL 还是 Base64,URL 的有效期多长,能不能重复下载——这些是使用者最关心的问题。
模型 ID 不要从文档里抄,要用你的 Key 实际查一次 /v1/models 拿到真实可用的那个。
因为网关支持模型映射别名,文档里的名字和你实际能调的名字可能不是同一个。
实操:先查模型列表,确认你的 Key 到底能访问哪些模型。
先用模型列表确认哪些模型支持这类能力,再动手接入。
curl "https://aiminis.info/v1/models" \
-H "Authorization: Bearer sk-gw-你的密钥"
# 返回里每项都带上所属平台、支持的能力和是否在售,
# 写代码前先对着这份列表确认模型 ID,别抄文档里的旧名字。
几个容易踩的坑
- 自定义工具没写
properties,模型收到的工具描述是残缺的。 - 工具结果和普通文本混在同一条消息里时,按「一轮只有一个工具」来解析。
- 把工具的原始参数写进请求日志,日志成了数据泄露源。
- 在流式下把分片参数直接拼成字符串当 JSON 解析,遇到被转义的引号就炸。
小结
网关这层看不见,但它的每一次选择都在影响你的延迟、成本和成功率,值得花点时间打磨。
上面提到的能力基本都来自 https://aiminis.info/ 这个自建的 API 网关,支持 OpenAI 与 Anthropic 双协议接入,还有公开的模型健康看板 https://aiminis.info/model-health 可以先看看状态。
- 点赞
- 收藏
- 关注作者
评论(0)