网关上线前的自检清单

举报
Rolle 发表于 2026/11/15 18:13:42 2026/11/15
【摘要】 网关是所有业务的必经之处,它的问题会同时影响所有人。上线前的自检值得多花半天时间。

网关是所有业务的必经之处,它的问题会同时影响所有人。上线前的自检值得多花半天时间。

功能自检

三条协议路径各跑一次;流式、工具、多模态各跑一次;模型列表能返回;健康看板能打开。

然后看是不是被降级了——健康看板里 status 是 degraded 时,响应变慢是预期内的,不是 bug。

脚本要能参数化:Base URL、Key、模型、是否流式。

安全自检

后台不返回明文凭据、日志里搜不到完整 Key、错误响应不泄露内部信息、上游 URL 校验开启、TLS 证书校验没有被关闭。

所以完整 Key 应该尽量一次性展示、用完即弃,最多缓存极短时间。

游客购买不应该要求注册账号,但也不能因此放弃安全。

计费自检

额度扣减口径正确、重复回调不重复发放、订单快照正确、失败请求不计费但上游成本可追踪。

因为一个请求可能跑几十秒,几十个并发请求同时在跑,额度还没用完,服务就被并发上限卡住了。

观测自检

request_id 全链路串联、健康看板状态准确、探测不计入用户额度、监控告警能触发。

一个合格的状态看板至少要区分四种状态:operational(正常)、degraded(成功但慢或多渠道部分失败)、failed(全部探测失败)、unknown(数据不足)。

正确做法是:探测消耗上游额度,但不计入任何用户额度。

实操:把健康看板的数据接进你自己的监控。

健康看板本身就是自检项之一——它显示正常,说明探测链路是通的。

curl -s "https://aiminis.info/api/v1/model-health" | python3 -c "
import json, sys
d = json.load(sys.stdin)['data']
print('探测间隔:', d['interval_seconds'], '秒')
for it in d['items']:
    rate = it.get('success_rate')
    rate = 'n/a' if rate is None else f'{rate:.1f}%'
    print(f\"{it['model']:<24} {it['status']:<12} {it['latency_ms']:>6}ms  成功率 {rate}\")
"

# 关键点:这个接口是公开只读的,不需要 Key,
# 但探测消耗的是上游额度,不会扣到任何用户头上。

几个容易踩的坑

  • 跳过 GET /v1/models,直接猜模型名。
  • 把 401 和 403 当成同一类错误去查。
  • 没分清 429 是上游限的还是自己限的。
  • 出问题时没有最小复现脚本,只能在业务代码里盲改。

小结

技术上的事大多不复杂,难的是把每个异常分支都想清楚。把这份清单存下来,下次排障会快不少。

如果你正在评估方案,可以先注册一个 Key 跑通最小请求,再决定要不要迁移——https://aiminis.info/ 支持按量计费,试用成本很低。

【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0)

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。