4月9日-13日,第十三届国际性能工程学大会(ICPE2022)在线召开。此次大会涉及AI建模及算法、算力提升、能效测量、新型计算架构、体系结构研究等多个主题。

浪潮信息人工智能与高性能应用软件部高性能应用架构师李龙翔发表主题为《多层数据访问优化》的演讲指出,随着近年CPU核心数增加及性能的不断增强,在超大规模系统并行计算时,越来越多的应用运行性能主要受数据访问速度限制。针对超大规模集群的数据存储特点,他介绍了一种多层数据访问 (Multi-Layered Data Access,MLDA) 优化方法,可以快速对超大规模并行计算性能瓶颈进行分析,通过对存储、网络、访存、CPU等设备数据访问过程优化,提升超大规模集群并行计算效率。

据悉,这只是浪潮信息解决超大规模系统挑战多种技术之一,在中文巨量模型"源1.0"的训练过程中,浪潮信息采用了多种面向超大规模并行计算技术的软硬件协同优化手段,通过流水线并行、张量并行等手段自动地将模型多层数据切分到不同的节点中实现并行。"源1.0"模型包含的参数总量达 2457 亿,是 GPT-3 的 1.404 倍。

关注中国IDC圈官方微信:idc-quan 我们将定期推送IDC产业最新资讯

查看心情排行你看到此篇文章的感受是:


  • 支持

  • 高兴

  • 震惊

  • 愤怒

  • 无聊

  • 无奈

  • 谎言

  • 枪稿

  • 不解

  • 标题党
2022-03-24 10:20:00
大数据资讯 大数据技术的五大核心原理
互联网和大数据的发展,是一个从人找信息,到信息找人的过程 <详情>
2022-01-13 16:15:02
市场情报 悠易互通CTO李旸:洞察2022营销技术发展趋势
品牌与潜客沟通时,推荐什么样的内容,采用什么样的创意、什么样的素材、什么样的文案、什么样的落地页等等,这些都可以通过个性化的方式去实现,并达到很好的沟通效果。 <详情>
2022-01-04 13:45:01
大数据技术 零售行业如何利用大数据技术最大化商业成功?
核心场景赋能是零售大数据方案中的一大特点,从不同的数据来源看,任何一个零售场景都离不开人、货、场三个要素。 <详情>
2021-09-09 16:01:07
市场情报 StarRocks开源——携手未来,星辰大海!
StarRocks自主打造的新一代全面向量化的MPP引擎使查询性能大幅提高,是非原生向量化系统的3~5倍以上。 <详情>