混合架构:内网自建 + 公网托管的分工
一个务实的团队架构,往往不是「全自建」或「全托管」,而是把两类流量分开,各自用最合适的方式承接。
分流的标准是合规与成本
内部敏感数据、内部模型不能出网的走自建;公开业务、对外部署的走托管。这条线比「团队偏好」更可靠。
判断标准很简单——如果你的团队没有一个人把精力放在「基础设施」上,自建通常不是好选择。
如果你的数据合规要求非常严格,内部模型不能出网,或者你需要一些非常特殊的定制路由逻辑,自建是合理的。
两边可以共享账号池
自建和托管用同一批上游账号,只是调度策略和暴露面不同。这样既省了账号成本,又保留了自建的可控性。
但即便如此,把「上游账号池」这层外包出去、自己只做企业内部管控层,也是一个很常见的折中。
两边的账号池甚至可以是同一批上游账号,只是调度策略不同。
分流的接口层要统一
如果两套网关的 Base URL、鉴权方式、错误码不一样,业务代码就要写两遍兼容。这会抵消掉分流带来的收益。
恢复链接里的凭证要放在 URL fragment 部分,不能进服务端查询参数——否则它会出现在日志和 Referer 里。
两边要有一致的观测口径
健康状态、成功率、延迟的指标定义一致,才能在需要切换时做出有依据的判断。
一个合格的状态看板至少要区分四种状态:operational(正常)、degraded(成功但慢或多渠道部分失败)、failed(全部探测失败)、unknown(数据不足)。
成功率、时间窗口、历史保留时长——这些数字如果口径不透明,看板就失去了参考价值。
实操:反向代理层的流式配置要点。
分组机制让「哪些流量走哪条线路」成为一份可维护的配置。
location /v1/ {
proxy_pass https://aiminis.info/v1/;
proxy_http_version 1.1;
# 流式必须关闭缓冲,否则响应会被攒成一大块
proxy_buffering off;
proxy_cache off;
# 长回答需要放宽读超时
proxy_read_timeout 600s;
proxy_send_timeout 600s;
proxy_set_header Host $host;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
}
# WebSocket 需要额外的升级头
location /ws/ {
proxy_pass https://aiminis.info/ws/;
proxy_http_version 1.1;
proxy_set_header Upgrade $http_upgrade;
proxy_set_header Connection "upgrade";
proxy_read_timeout 3600s;
}
几个容易踩的坑
- 只实现了 happy path,异常分支一条没测。
- 把上游凭据明文存库,或者在后台详情里返回完整 Key。
- 没有做 Key 级限流和并发上限,单个租户就能打满整个池子。
- 以为「反向代理写完」就是网关做完了。
小结
把配置项和凭据都外置,是成本最低、收益最持久的一个工程习惯。
对具体能力有疑问,可以直接看接入文档 https://aiminis.info/docs/api-integration,里面把 Base URL、鉴权方式和各协议的可选范围都列清楚了。
- 点赞
- 收藏
- 关注作者
评论(0)