训练两个小时需要半个小时保存数据,如何破局?|甲子光年

训练两个小时需要半个小时保存数据,如何破局?|甲子光年

AIGC动态欢迎阅读

原标题:训练两个小时需要半个小时保存数据,如何破局?|甲子光年
关键字:华为,数据,模型,报告,闪存
文章来源:甲子光年
内容字数:0字

内容摘要:


AI时代存储需要更优解。作者|王博
“中国的数字化应用进程发展是很快的,但在数字基础设施这一块的创新是欠缺的,存、算、网要协同发展。”
在华为全联接大会2024期间,华为公司副总裁、数据存储产品线总裁周跃峰在一场媒体群访结束后,特意对现场的媒体人说了这样一句话。
计算和存储都是数字基础设施中的重要组成部分,计算会像“机器印刷文字”一样生成大量token(词元),而存储就是“纸张”。大模型时代,越来越大规模的算力要求数据存储提供更高性能的数据访问,这和“印刷机速度更快了,纸张的质量和供应速度也要跟上”是一个道理。
国家互联网信息办公室在今年9月8日发布的《国家信息化发展报告(2023年)》显示,我国算力基础设施综合水平稳居全球第二,截至2023年底,提供算力服务的在用机架数达810万标准机架,算力总规模超230EFLOPS。
但是,单纯的数据算力无法单方面支撑整个数据中心的运营,还需要相匹配的数据存储容量。
在数字基础设施领域有一个“通用计算存算比”的概念,通过计算数据存储容量和数据算力体量之比,来评估数据中心建设的平衡性,避免因为存力的短缺造成算力的浪费而影响数据处理中的效率。
各国通


原文链接:训练两个小时需要半个小时保存数据,如何破局?|甲子光年

联系作者

文章来源:甲子光年
作者微信:
作者简介:

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...