车队遥测数据采集处理与API订阅分发架构
【摘要】 构建一个无服务器架构,使用数据即服务(DaaS)模式来采集、处理和交付车辆数据给车队所有者应用程序。将车辆遥测数据和诊断事件流式传输到实时流处理平台,原始事件存储至对象存储服务用于长期留存,最终通过数据 API 订阅模型向车队应用交付处理后的数据。
1. 用途和受众
1.1 预期用途
- 指导华为云上车队遥测数据采集、处理与 API 订阅分发架构的设计和开发。
- 为售前、解决方案设计、实施和审查提供可重用的架构模式。
- 作为解决方案手册、交付包或实际部署的架构基础。
- 定义安全性、可靠性、性能、成本、运营和合规性护栏。
1.2 目标受众
- 华为云 CCE 用户和 Kubernetes 集群管理员
- 车联网遥测数据平台架构师和开发人员
- 需要在华为云上构建车联网遥测数据接入与分发系统的企业技术团队
- 希望对齐跨区域容灾与数据网格治理最佳实践的华为云用户
2. 参考架构概述
2.1 架构描述
构建一个无服务器架构,使用数据即服务(DaaS)模式来采集、处理和交付车辆数据给车队所有者应用程序。将车辆遥测数据和诊断事件流式传输到实时流处理平台,原始事件存储至对象存储服务用于长期留存,最终通过数据 API 订阅模型向车队应用交付处理后的数据。
2.2 业务背景
| 项目 | 描述 |
|---|---|
| 业务问题 | 车队所有者需要实时采集、处理和交付车辆遥测数据与诊断事件,并通过数据 API 订阅模型向车队应用提供处理后的数据 |
| 期望的结果 | 实现车辆遥测数据的实时流式处理、长期留存和按需订阅分发,支持车队运营分析和决策 |
| 主要用户 | 车队所有者、车队应用开发者、运营分析人员 |
| 关键制约因素 | 数据实时性要求高、需支持大规模车辆并发接入、数据需长期留存、API 订阅模式需标准化 |
| 成功指标 | 数据采集延迟 < 秒级、数据留存周期可配置、API 订阅响应延迟 < 百毫秒级、支持万级车辆并发 |
2.3 架构优点
- 无服务器架构:使用 FunctionGraph 函数工作流,无需管理服务器,按需执行,自动弹性伸缩。
- 实时流处理:通过 DIS 数据接入服务和 CS 实时流计算服务,实现车辆遥测数据的秒级采集和处理。
- 数据长期留存:原始事件存储至 OBS 对象存储服务,支持低成本长期留存和合规要求。
- 事件驱动分发:通过 EG 事件网格和 DMS 分布式消息服务实现解耦的事件分发,支持多消费者并行订阅。
- 标准化 API 订阅:通过 APIG API 网关提供标准化的数据 API 订阅接口,车队应用可按需订阅处理后的数据。
- 统一安全管控:通过 IAM 统一身份认证与鉴权,保障数据采集和 API 访问的安全性。
- 全链路可观测:通过 CES 云监控和 AOM 应用运维管理实现全链路监控与告警。
2.4 设计关注点
| 效益 | 架构如何实现它 |
|---|---|
| 安全与合规 | 通过 IAM 统一身份认证与鉴权,APIG 网关控制 API 访问权限,OBS 支持数据加密存储 |
| 可靠性和弹性 | 无服务器架构自动弹性伸缩,DIS 支持数据缓存重传,OBS 提供高可靠对象存储 |
| 性能和可扩展性 | CS 实时流计算支持高吞吐数据处理,FunctionGraph 毫秒级冷启动 |
| 成本效益 | 无服务器按需付费,OBS 低成本长期留存,无需预留计算资源 |
| 卓越运营 | CES + AOM 全链路监控与告警,自动化运维无需人工干预 |
| 交付敏捷性 | 事件驱动架构支持快速新增数据消费者和 API 订阅渠道 |
2.5 典型架构
典型架构图
用实际服务替换通用节点。显示相关的区域、可用区、VPC、子网、信任边界、入口和出口边界。
2.6 流程描述
- 车辆产生遥测数据和诊断事件,通过互联网发送至华为云。
- DIS(数据接入服务)接收并缓存车辆遥测数据流,提供数据缓冲和重传能力。
- CS(实时流计算服务)从 DIS 消费数据流,进行实时流处理和数据转换。
- 处理后的数据通过 EG(事件网格)进行事件路由和分发。
- EG 将事件分发至 DMS(分布式消息服务)进行消息队列缓存。
- DMS 触发 FunctionGraph(函数工作流)执行数据处理逻辑。
- FunctionGraph 将处理后的数据写入 GeminiDB(云数据库)和 RDS(关系数据库)。
- 同时,原始事件存储至 OBS(对象存储服务)用于长期留存。
- 车队应用通过 APIG(API 网关)订阅数据 API,APIG 从 GeminiDB/RDS 查询处理后的数据返回给车队应用。
- IAM 提供统一的身份认证与鉴权,保障数据采集和 API 访问安全。
- CES(云监控)和 AOM(应用运维管理)提供全链路监控、指标采集和告警通知。
2.7 云服务产品清单
| 分类 | 服务或产品 | 推荐配置 |
|---|---|---|
| 数据接入 | DIS(数据接入服务) | 高级通道,分区数按车辆规模配置(建议每 1000 辆车 1 个分区) |
| 对象存储 | OBS(对象存储服务) | 标准桶,多 AZ 部署,开启生命周期管理 |
| 流计算 | CS(实时流计算服务) | 4CU 起步,按数据吞吐量弹性扩容 |
| 计算 | FunctionGraph(函数工作流) | 512MB 内存,超时 60s,并发度按需配置 |
| 事件 | EG(事件网格) | 标准版事件订阅,HTTP/Webhook 推送 |
| 消息 | DMS(分布式消息服务) | Kafka 实例,2 节点起步,自动扩容 |
| 数据库 | GeminiDB(云数据库) | 集群版,3 节点,16 核 32G |
| 数据库 | RDS(关系数据库) | 主备版,4 核 8G,SSD 存储 |
| API | APIG(API 网关) | 专享版,2 实例,启用流控和熔断 |
| 安全 | IAM | 免费基础版,配置细粒度权限策略 |
| 运维 | CES | 免费基础监控,配置告警阈值和通知渠道 |
| 运维 | AOM | 免费基础版,启用全链路追踪 |
3. 参考链接
- 产品文档:
- 实施指南:
- 源代码或 IaC:
- 操作手册:
- 安全性和合规性映射:
4. 使用限制
- 本架构适用于车队规模 ≤ 万级车辆的场景,更大规模需评估 DIS 和 CS 的吞吐配额。
- 数据 API 订阅模式当前支持拉取(Pull)模式,推送(Push)模式需结合 EG 事件网格扩展。
- OBS 原始数据留存周期需根据合规要求配置生命周期策略。
附录 A. 术语和缩略语
| 术语 | 定义 |
|---|---|
| DaaS | Data as a Service,数据即服务,通过 API 订阅模式交付处理后的数据 |
| DIS | Data Ingestion Service,数据接入服务,用于流式数据采集 |
| OBS | Object Storage Service,对象存储服务,用于数据长期留存 |
| CS | Cloud Stream Service,实时流计算服务,用于流数据处理 |
| FGS | FunctionGraph,函数工作流,无服务器计算服务 |
| EG | EventGrid,事件网格,用于事件路由与分发 |
| DMS | Distributed Message Service,分布式消息服务 |
| APIG | API Gateway,API 网关,用于 API 管理与订阅 |
| IAM | Identity and Access Management,身份与访问管理 |
| CES | Cloud Eye Service,云监控服务 |
| AOM | Application Operations Management,应用运维管理 |
【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱:
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论(0)