大模型国产化适配1-华为昇腾AI全栈软硬件平台总结

AIGC动态欢迎阅读

原标题：大模型国产化适配1-华为昇腾AI全栈软硬件平台总结
关键字：华为,模型,框架,算子,处理器
文章来源：算法邦
内容字数：16026字

内容摘要：

直播预告 | 明晚七点，阿里巴巴和NVIDIA的两位专家将直播讲解阿里安全大模型工程实践、NVIDIA NIM 推理微服务解析，欢迎扫码报名~随着 ChatGPT 的现象级走红，引领了AI大模型时代的变革，从而导致 AI 算力日益紧缺。与此同时，中美贸易战，导致AI算力国产化适配势在必行。本文主要对最近使用昇腾芯片做一个简单总结。
01昇腾AI全栈软硬件平台简述昇腾芯片是华为公司发布的两款 AI 处理器(NPU)，昇腾910（用于训练）和昇腾310（用于推理）处理器，采用自家的达芬奇架构。昇腾在国际上对标的主要是英伟达的GPU，国内对标的包括寒武纪、海光等厂商生产的系列AI芯片产品（如：思元590、深算一号等）。
整个昇腾软硬件全栈包括5层，自底向上为Atlas系列硬件、异构计算架构、AI框架、应用使能、行业应用。
image.png
image.png
image.png
Atlas系列硬件
Atlas系列产品是基于昇腾910和昇腾310打造出来的、面向不同应用场景（端、边、云）的系列AI硬件产品。比如：
Atlas 800（型号：9000） 是训练服务器，包含8个训练卡（Atlas

原文链接：大模型国产化适配1-华为昇腾AI全栈软硬件平台总结

联系作者

文章来源：算法邦
作者微信：allplusai
作者简介：智猩猩矩阵账号之一，聚焦生成式AI，重点关注模型与应用。