网关不只是转发:微服务治理的四个落点
【摘要】 很多团队把 API 网关当成一个反向代理:配好路由、加上鉴权,就算完事。真到流量上来、服务频繁发布时,才发现网关该承担的东西远不止这些。第一,限流要分层。按调用方、按接口、按后端服务各设阈值,单层限流在突发流量下很容易失效;分布式限流还要用统一计数,否则多副本各限各的,实际总流量会翻倍。第二,重试与熔断要成对出现。只重试不熔断,会把下游的抖动放大成雪崩;只熔断不重试,又会让偶发失败直接冒到用...
很多团队把 API 网关当成一个反向代理:配好路由、加上鉴权,就算完事。真到流量上来、服务频繁发布时,才发现网关该承担的东西远不止这些。
第一,限流要分层。按调用方、按接口、按后端服务各设阈值,单层限流在突发流量下很容易失效;分布式限流还要用统一计数,否则多副本各限各的,实际总流量会翻倍。
第二,重试与熔断要成对出现。只重试不熔断,会把下游的抖动放大成雪崩;只熔断不重试,又会让偶发失败直接冒到用户面前。给重试加次数上限和退避,给熔断设合理的半开策略,两者配合才稳。
第三,灰度要落在路由层。按用户、按比例、按标签分流,比在应用里写 if 分支干净得多;灰度规则要能实时生效,出问题时能一键切回全量旧版本。
第四,可观测性要覆盖入口。网关是流量的必经之路,补齐调用量、错误率、延迟分布和上游健康状态,排障时能省掉大量上下游对账的时间。
还有一个容易被忽略的点:网关自身的高可用。它一旦成为单点,前面所有的治理能力都无从谈起,跨可用区部署和配置热更新是基本要求。
网关的价值不是多一层转发,而是把治理能力集中到一个可管理的位置。
【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱:
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论(0)