国内首个支持千亿参数大模型训练AI计算框架MindSpore 1.2发布?
[中国,深圳,2021年4月26日]华为开发者大会2021(Cloud期间(简称HDC.Cloud?2021),国内首个支持千亿参数大型培训的AI计算框架MindSpore?开发者_StackOverflow1.2正式发布。最新的1.2版本带来了AI框架领域的全自动并行、全场景AI、推荐模明推荐模型的革新,让开发者享受AI开发。
全自动并行
在静态图模式下,MindSpore融合了流水线并行、模式并行和数据并行三种并行技术,开发人员只需编写单机算法代码,添加少量并行标签,就能实现训练过程的自动切分,并行算法性能的优化时间从月级降低到小时级,同时训练性能比行业标杆提高40%。
在动态图模式下,MindSpore独特的函数式微分设计可以从一级微分轻松扩展到高级微分,优化整体图的性能,大幅提高动态图的性能创新的通信算子融合和多流并行机制,与其他AI框架相比
全场景AI
MindSpore实现了云、边、端不同场景下硬件设备的快速应用、高效运行和有效合作。通过全场景AI的能力,Huawei、WatchGT的手腕识别率上升了80%,时间延迟在5ms以下,模型在1KB以下,大幅度提高了用户体验。
在云端:通过自适应模型切分和服务内分布式并行调度技术,可支持超大模型在多张加速卡上的推理部署,且推理性能较目前业界领先的serving服务方式提升30%;
在边缘侧:通过自适应模型压缩技术,将CV类(Computer Vision 计算机视觉)模型压缩2/3,推理时间缩短50%,用户侧实测精度损失lt;1%,能有效解决边缘侧算力瓶颈;
在端侧:模型即代码,将模型编译到代码里,实现了极小的ROM(Read-Only Memory储存内存)占用。同时,通过算子数据重排技术提升端侧Cache命中率,可降低推理时延,解决在超轻量IOT设备进行部署时受设备类型、内存等所限制的难题。
可解释推荐模式
MindSpore内置行业首个语义级可解释推荐模式TB-Net,基于原始知识图谱双向传导技术,从知识图谱的大量关系路径中,正确识别影响用户行为的核心特征和重要路径,提供个性化推荐和语义级别的解释
自2020年3月开源以来,MindSpore社区拥有逾17万名开发者,软件下载量超过24万,在超过10个行业规模使用。此外,在码云(Gitee)上MindSpore的代码活跃度、影响力、社区活跃度、团队构建、流行趋势综合排名第一。目前,MindSpore是发展最快的AI开源社区。
作为华为ICT基础设施业务面向全球开发者的年度盛会,华为开发者大会2021(Cloud)(简称HDC.Cloude2021)于2021年4月24日至26日在深圳举行。本次大会以#所有开发人员都很棒#为主题,集业界大咖啡、华为科学家、顶级技术专家、天才少年和众多开发人员于一身,共同探讨和共享云、计算、人工智能等最新ICT技术在业界的深入创新和应用。详情请访问:https://developer.huaweicloud.com/HDC.Cloud2021.html
精彩评论