CPU、GPU的互连从1米飙至100米,英特尔:你相信光吗?

AIGC动态4个月前发布 量子位
4 0 0

CPU、GPU的互连从1米飙至100米,英特尔:你相信光吗?

AIGC动态欢迎阅读

原标题:CPU、GPU的互连从1米飙至100米,英特尔:你相信光吗?
关键字:英特尔,解读,光子,集成电路,光纤
文章来源:量子位
内容字数:0字

内容摘要:


金磊 发自 凹非寺量子位 | 公众号 QbitAI英特尔用“光”,突破了大模型时代棘手的算力难题——
推出业界首款全集成OCI(光学计算互连)芯片。
△图源:英特尔要知道,在AI大模型遵循Scaling Law发展的当下,为了取得更好的效果,要么模型规模、要么数据规模,都在往更大的趋势发展。
这就会导致AI大模型在算力层面上,对整个计算、存储,包括中间I/O通信等提出更高的要求。
而英特尔此次的突破口,正是I/O通信:
在CPU和GPU中,用光学I/O取代电气I/O进行数据传输。
有什么用?
一言蔽之,数据传输距离远多了,量大了,功耗低了——更适合AI大模型的“体质”了。
△图源:英特尔那么英特尔为什么要用到“光”?具体又是如何实现的?
用上了“光”,从马车变卡车传统采用电气I/O的方式(铜线连接)固然有它的优势,例如支持高带宽密度和低功耗,但致命的问题就是传输距离比较短(不到1米)。
这要放在一个机架里倒也是没有问题,但AI大模型在算力上往往标配都是服务器集群这个量级。
不仅占地面积大,还跨N多个机架,线都是需要几十米甚至上百米的长度,功耗那是相当的高;它会吃掉所有供给机架的电源,以


原文链接:CPU、GPU的互连从1米飙至100米,英特尔:你相信光吗?

联系作者

文章来源:量子位
作者微信:
作者简介:

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...