3月20日直播|探索Ascend 950的性能天花板
【摘要】 随着Agent技术规模化落地,模型越做越大,算力需求早已不是线性增长,而是指数级膨胀。面对巨大的算力诉求,我们的选择不是使用更多的卡,而是让每一张卡,释放更大的潜能。Ascend 950通过对CANN进行算子级的深度优化,使核心算子的MAC利用率接近理论极限,大大提升了算力效率。针对大模型的矩阵运算、注意力机制等场景,Ascend 950升级了计算架构,让算力供给精准匹配算法需求。Ascen...
随着Agent技术规模化落地,模型越做越大,算力需求早已不是线性增长,而是指数级膨胀。面对巨大的算力诉求,我们的选择不是使用更多的卡,而是让每一张卡,释放更大的潜能。
Ascend 950通过对CANN进行算子级的深度优化,使核心算子的MAC利用率接近理论极限,大大提升了算力效率。针对大模型的矩阵运算、注意力机制等场景,Ascend 950升级了计算架构,让算力供给精准匹配算法需求。
Ascend 950,让算力,更尽力。
更多精彩请预约3月20日直播

【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱:
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论(0)