码力全开特辑直播预告|7月2日19:00,DeepSeek-V4-Flash 512K 长序列续训
【摘要】 本课程将介绍在DeepSeek-V4网络上如何基于TorchTitan-NPU框架攻克超长文本训练瓶颈、实现512K级别长序列的大规模续训练,怎样结合大EP+FSDP以及torch.compile+AutoFuse编译入图方案达成极致训练吞吐性能的实践经验,分享如何帮助昇腾大模型开发者在超长上下文场景下快速开展 CPT/SFT算法验证并实现开箱即优。
【昇腾CANN】视频号、B站
昇腾社区多平台直播
点击【码力全开特辑】观看直播参与直播答题互动赢定制T恤、毛毯!【7.2】-cann-learning-hub-AtomGit (gitcode.com),参与互动赢取惊喜定制礼
扫码关注【昇腾CANN】视频号
掌握最新直播信息

【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱:
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论(0)