当请求开始排队:用APIG网关给后端装上"流量安全阀"
一、痛点:流量洪峰面前,你的服务是"裸奔"的
去年双十一,朋友的电商团队踩了一个经典大坑:晚上八点促销开抢,流量瞬间冲到日常的 20 倍,订单服务最先被打垮,接着支付、库存、积分服务像多米诺骨牌一样接连超时,最后整个系统雪崩。事后复盘,根因出人意料地朴素——没有任何一层组件在为系统挡流量。
前端直连后端微服务,请求来多少就转发多少,后端"照单全收"。这就像小区门口没有保安和闸机,人流再大也直接涌进电梯厅。而实际上,大多数系统的真实承载能力是有限的:数据库连接池就 100 个,线程池就 200 个,超过这个数,系统不是变慢,而是直接瘫痪。
问题的解法,业界早有共识:在入口处加一道API 网关,把"限流、熔断、认证、监控"这些横切能力从业务代码里剥离出来,集中下沉到网关层。华为云的方案就是 API 网关(APIG)服务。
这篇文章就从一个开发者的视角,聊聊如何用 APIG 给后端服务装上"流量安全阀":从创建网关实例、接入 API,到配置流控策略,再到踩过的那些坑。
二、整体思路:网关到底替你挡了什么
先给出整体架构。改造前后的差别一目了然:
改造前:
客户端/前端 ──────────> 订单服务 / 支付服务 / 库存服务
(所有流量直连后端,无任何保护)
改造后:
客户端/前端 ──> APIG 网关 ──> 订单服务
│ ├─ 身份认证(IAM / 自定义鉴权)
│ ├─ 流控策略(基础流控 + 精准流控)
│ ├─ 熔断降级(异常自动短路)
│ └─ 监控告警(调用日志 + Dashboard)
└─> 支付服务 / 库存服务
APIG 在这条链路上承担四类职责:
- 统一入口:所有 API 收口到网关,后端服务不再直接暴露公网;
- 认证鉴权:支持 IAM 认证、APP 认证、自定义鉴权函数,鉴权逻辑不用写进业务代码;
- 流量控制:按 API、按来源(IP/应用/租户)维度配置 QPS 阈值,超出的请求直接在网关层被拒绝,不传导到后端;
- 可观测性:每次调用的日志、时延、错误码都在网关侧留存,出问题不必翻后端日志。
对我们的核心价值就一句话:后端只需要服务好网关放进来的那部分流量,剩下的洪峰在网关层就被消化掉了。
三、核心实现:五步接入 APIG
以下操作均可在华为云控制台完成,也提供 API/SDK 方式。我用控制台流程走一遍。
第 1 步:创建网关实例
进入 APIG 服务,创建"专享版"实例(免费的基础版有配额和 SLA 限制,生产建议专享版)。关键参数:
- 实例规格:按预估 QPS 选择,如小规模选 1000 QPS 档;可后续弹性变更;
- 可用区:与后端服务同 region,减少跨 AZ 时延;
- 网络:选择与后端微服务相同的 VPC 和子网,网关走内网访问后端。
创建完成后会得到两个入口地址:一个是内网地址,一个是公网地址(如需公网访问要开启)。
第 2 步:创建 API
在实例下创建 API 分组,然后定义 API。一个 API 的核心配置:
前端定义:
请求方法:POST
请求路径:/orders
安全认证:APP 认证
后端定义:
后端类型:负载均衡(或单一后端)
后端地址:http://order-service.internal:8080
后端路径:/api/v1/orders
超时时间:5000 ms
这里有个容易被忽略的点:前端路径和后端路径可以不一致。这意味着你可以借网关做一层路径规范重构——前端契约保持稳定,后端内部怎么演进都行,老接口平滑迁移靠这个能力非常省事。
第 3 步:发布环境
APIG 提供 TEST、PRE、RELEASE 三个环境。API 定义好后必须在某个环境"发布"才能被调用。建议流程:TEST 环境联调 → PRE 环境验证 → RELEASE 环境对外。
第 4 步:配置流控策略(本文核心)
创建流控策略,这是给后端上"安全阀"的关键一步:
流控策略名称:order-api-throttle
基础流控:
API 级别阈值:200 次/秒 ← 整个 API 的总闸门
精准流控:
按来源 IP 限制:10 次/秒 ← 防单 IP 恶意刷
按应用限制:50 次/秒 ← 防单个调用方吃满配额
例外流控:
白名单应用:不限制 ← 核心合作方走专线待遇
把策略绑定到 /orders 这个 API 上。生效后,超阈值的请求会在网关层收到 THROTTLING 错误码(HTTP 429 语义),根本不会到达后端。这就是"安全阀"的含义:洪峰被挡在门外,后端始终工作在安全水位。
第 5 步:客户端接入
客户端调用网关 API 需要 APP 认证:创建应用 → 绑定已授权的 API → 拿到 AppKey/AppSecret。签名算法是标准的 HMAC-SHA256,以调用方身份请求时带上时间戳和签名头即可。
Python 调用示例:
import hashlib
import hmac
import time
import requests
def sign(key: str, secret: str) -> dict:
t = time.strftime('%Y%m%dT%H%M%SZ', time.gmtime())
sd = f'apig-sdk-demo{t}'
signature = hmac.new(secret.encode(), sd.encode(), hashlib.sha256).hexdigest()
return {
'X-Apig-AppId': key,
'X-Apig-Timestamp': t,
'X-Apig-Signature': signature,
}
headers = sign(APP_KEY, APP_SECRET)
resp = requests.post(
'https://{your-gateway-domain}/orders',
headers=headers,
json={'sku': 'A001', 'count': 2}
)
print(resp.status_code, resp.json())
真实 SDK 里的签名串组装规则更细(含 method/path/headers 的规范拼装),建议直接用官方 SDK 的 signer 模块,不要手搓签名——这是后面踩坑清单的第一条。
四、工程化:压测验证安全阀是否真的有效
配置完成不等于高枕无忧。我们用简单压测验证流控是否生效:
# 用 wrk 对网关压测,100 并发持续 10 秒
wrk -t4 -c100 -d10s -s post.lua https://{your-gateway-domain}/orders
预期结果:网关统计中 200 响应约 2000 次(200 QPS × 10s),其余请求返回 429/THROTTLING;后端服务日志里只出现约 2000 次请求记录。如果后端日志里出现了远超 2000 次的请求,说明流控没绑定到环境或没发布,回第 3、4 步检查。
再观察 APIG 的 Dashboard:时延 P99、错误率、按来源 IP 的调用分布。把"API 响应时延 > 阈值"配到云监控告警,值班同学就能在雪崩之前收到电话,而不是事后看日报。
另外建议把网关调用日志对接到 LTS 日志服务,留存时间设长一些。线上排查"用户说他下单失败了"这类问题,网关日志是第一现场。
五、踩坑复盘:这六个坑我全踩过
- 签名手动拼装总是 401:APP 认证的签名串对 header 排序、URL 编码有严格规范,手写极易出错。解法:用官方 SDK 的 signer,或先用 API Explorer 的调试功能验证。
- 流控策略配置了但没生效:策略要绑定到具体环境(如 RELEASE)的 API 上。只创建不绑定,网关不会应用它——这次踩坑让我们压测时白激动了一场。
- 429 直接抛给前端导致用户体验差:网关层限流后,前端收到的是干巴巴的错误。后来我们在前端加了友好提示与退避重试(指数退避 + 抖动),秒杀场景改为排队动画,转化率反而更好。
- 超时时间设置一刀切:早期全配 5 秒,结果把一个本来 6 秒出结果的报表 API 也拦腰截断。教训:每个 API 按真实 P99 单独设超时,宁可精细不可省事。
- 忽视了网关自身的可用区:实例只部署单 AZ,升级维护时出现短暂不可用。生产环境务必选择多可用区部署的规格。
- 后端仍然直连暴露:网关上了之后忘了收敛后端的公网入口,安全组还开着。安全组/白名单必须收紧,让后端只接受来自网关的流量,否则网关的保护是漏风的。
六、总结
回到开头的问题:流量洪峰面前,服务为什么崩?因为没有一层组件替它挡流量。API 网关的价值正在于此——把认证、限流、熔断、监控这些"非业务但致命"的能力集中到入口层,后端专心服务合法流量。
用华为云 APIG 落地这件事的路径很清晰:创建实例 → 定义 API → 发布环境 → 绑定流控策略 → 客户端签名接入 → 压测验证。整个改造我们没有改动一行业务代码,但系统在大促时的表现完全换了底色:P99 时延从雪崩时的 8 秒+ 回到 300 毫秒以内,核心链路零故障。
如果你手上的系统还在"裸奔",不妨从把最脆弱的那个服务挂到网关后面开始。安全阀这东西,装上那天最明显的感受不是性能变好,而是晚上睡得更踏实。
- 点赞
- 收藏
- 关注作者
评论(0)