AIGC动态欢迎阅读
原标题:打破生态孤岛,国产异构原生AI算力工具问世,来自中科加禾
关键字:芯片,华为,加速卡,模型,生态
文章来源:机器之心
内容字数:0字
内容摘要:
机器之心报道
作者:泽南「通过系统优化软件的帮助,开发的门槛会被降低,各种不同硬件会得到统一,让技术生态得到发展。这对于当前智能生态的进步有重要的意义,」中国工程院院士、中科院计算所学术委员会主任、CCF 理事长孙凝晖在发布会上致辞表示。「除了智能芯片、AI 行业应用以外,我们需要系统软件优化的一方参与进来共同努力,这样才能把国内生态做得更好。」孙凝晖院士在发布会上
面对算力「卡脖子」问题,我们终于迎来了系统级的解决方案。
7 月 20 日,AI 基础设施创业公司中科加禾正式发布了第一代异构原生 AI 算力工具。
面向当前国产算力大规模落地的趋势,中科加禾提出的方法可以让不同种类的芯片大规模并行,同时发挥最大效率,并让算力的使用者无需关注不同芯片生态,做到直接拿来就用。
中科加禾创始人兼 CEO 崔慧敏发布并介绍,「加禾异构原生 AI 算力工具」已经在国产算力的 AI 基础设施上发挥一定作用。它兼容多种国产 AI 芯片,为屏蔽芯片差异提供了高性能的统一接口。在异构原生平台的基础上,AI 算力集群在大模型推理上的时延可以降低 3-74 倍,吞吐率提升 1.4-2.1 倍,能效比提升 1.
原文链接:打破生态孤岛,国产异构原生AI算力工具问世,来自中科加禾
联系作者
文章来源:机器之心
作者微信:
作者简介:
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...