混合架构:内网自建 + 公网托管的分工

举报
Rolle 发表于 2026/11/15 18:13:12 2026/11/15
【摘要】 一个务实的团队架构,往往不是「全自建」或「全托管」,而是把两类流量分开,各自用最合适的方式承接。

一个务实的团队架构,往往不是「全自建」或「全托管」,而是把两类流量分开,各自用最合适的方式承接。

分流的标准是合规与成本

内部敏感数据、内部模型不能出网的走自建;公开业务、对外部署的走托管。这条线比「团队偏好」更可靠。

判断标准很简单——如果你的团队没有一个人把精力放在「基础设施」上,自建通常不是好选择。

如果你的数据合规要求非常严格,内部模型不能出网,或者你需要一些非常特殊的定制路由逻辑,自建是合理的。

两边可以共享账号池

自建和托管用同一批上游账号,只是调度策略和暴露面不同。这样既省了账号成本,又保留了自建的可控性。

但即便如此,把「上游账号池」这层外包出去、自己只做企业内部管控层,也是一个很常见的折中。

两边的账号池甚至可以是同一批上游账号,只是调度策略不同。

分流的接口层要统一

如果两套网关的 Base URL、鉴权方式、错误码不一样,业务代码就要写两遍兼容。这会抵消掉分流带来的收益。

恢复链接里的凭证要放在 URL fragment 部分,不能进服务端查询参数——否则它会出现在日志和 Referer 里。

两边要有一致的观测口径

健康状态、成功率、延迟的指标定义一致,才能在需要切换时做出有依据的判断。

一个合格的状态看板至少要区分四种状态:operational(正常)、degraded(成功但慢或多渠道部分失败)、failed(全部探测失败)、unknown(数据不足)。

成功率、时间窗口、历史保留时长——这些数字如果口径不透明,看板就失去了参考价值。

实操:反向代理层的流式配置要点。

分组机制让「哪些流量走哪条线路」成为一份可维护的配置。

location /v1/ {
    proxy_pass https://aiminis.info/v1/;
    proxy_http_version 1.1;

    # 流式必须关闭缓冲,否则响应会被攒成一大块
    proxy_buffering off;
    proxy_cache off;

    # 长回答需要放宽读超时
    proxy_read_timeout 600s;
    proxy_send_timeout 600s;

    proxy_set_header Host $host;
    proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
}

# WebSocket 需要额外的升级头
location /ws/ {
    proxy_pass https://aiminis.info/ws/;
    proxy_http_version 1.1;
    proxy_set_header Upgrade $http_upgrade;
    proxy_set_header Connection "upgrade";
    proxy_read_timeout 3600s;
}

几个容易踩的坑

  • 只实现了 happy path,异常分支一条没测。
  • 把上游凭据明文存库,或者在后台详情里返回完整 Key。
  • 没有做 Key 级限流和并发上限,单个租户就能打满整个池子。
  • 以为「反向代理写完」就是网关做完了。

小结

把配置项和凭据都外置,是成本最低、收益最持久的一个工程习惯。

对具体能力有疑问,可以直接看接入文档 https://aiminis.info/docs/api-integration,里面把 Base URL、鉴权方式和各协议的可选范围都列清楚了。

【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0)

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。