【昇腾学院】昇腾AI处理器软件栈--神经网络软件架构

举报
Torrenza 发表于 2019/11/27 10:04:49 2019/11/27
【摘要】 为完成一个神经网络应用的实现和执行,昇腾AI软件栈在深度学习框架到昇腾AI处理器之间架起了一座桥梁,为神经网络从原始模型,到中间计算图表征,再到独立执行的离线模型提供了快速转化的捷径。昇腾AI软件栈围绕离线模型的生成、加载和执行,聚集了流程编排器、数字视觉预处理模块、张量加速引擎、框架管理器、运行管理器和任务调度器等功能块形成了一个完整的功能集群。流程编排器负责完成神经网络在昇腾AI处理器上...

1574820234213560.png

为完成一个神经网络应用的实现和执行,昇腾AI软件栈在深度学习框架到昇腾AI处理器之间架起了一座桥梁,为神经网络从原始模型,到中间计算图表征,再到独立执行的离线模型提供了快速转化的捷径。昇腾AI软件栈围绕离线模型的生成、加载和执行,聚集了流程编排器、数字视觉预处理模块、张量加速引擎、框架管理器、运行管理器和任务调度器等功能块形成了一个完整的功能集群。

  • 流程编排器负责完成神经网络在昇腾AI处理器上的落地与实现,统筹了整个神经网络生效的过程。

  • 数字视觉预处理模块在输入之前进行一次数据处理和修饰,来满足计算的格式需求。

  • 张量加速引擎作为神经网络算子兵工厂,为神经网络模型源源不断提供功能强大的计算算子。

  • 框架管理器将原始神经网络模型转换成昇腾AI处理器支持的形态,并且将转换的模型与昇腾AI处理器相融合,引导神经网络运行并高效发挥出性能。

  • 运行管理器为神经网络的任务下发和分配提供了各种资源管理通道。

  • 任务调度器作为一个硬件执行的任务驱动者,为昇腾AI处理器提供具体的目标任务。运行管理器和任务调度器联合互动,共同组成了神经网络任务流通向硬件资源的大坝系统,实时监控和有效分发不同类型的执行任务。

总之,整个神经网络软件为昇腾AI处理器提供一个软硬件结合且功能完备的执行流程,助力相关AI应用的开发。

更多信息,请关注昇腾开发者社区

https://ascend.huawei.cn

【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。