AIGC动态欢迎阅读
原标题:清华研究登Nature,首创全前向智能光计算训练架构,戴琼海、方璐领衔
关键字:梯度,准确率,神经网络,误差,太极
文章来源:机器之心
内容字数:0字
内容摘要:
机器之心报道
机器之心编辑部在刚刚过去的一天,来自清华的光电智能技术交叉创新团队突破智能光计算训练难题,相关论文登上 Nature。
论文共同一作是来自清华的薛智威、周天贶,通讯作者是清华的方璐教授、戴琼海院士。此外,清华电子系徐智昊、之江实验室虞绍良也参与了这项研究。论文地址:https://www.nature.com/articles/s41586-024-07687-4
论文标题:Fully forward mode training for optical neural networks
随着大模型的规模越来越大,算力需求爆发式增长,就拿 Sora 来说,据爆料,训练参数量约为 30 亿,预计使用了 4200-10500 块 H100 训了 1 个月。全球的科技大厂都在高价求购的「卡」,都是硅基的电子芯片。在此之外,还有一种将计算载体从电变为光的光子芯片技术。它们利用光在芯片中的传播进行计算,具有超高的并行度和速度,被认为是未来颠覆性计算架构最有力的竞争方案之一。
光计算领域也在使用 AI 辅助设计系统。然而,AI 也给光计算技术套上了「瓶颈」—— 光神经网络训练严重依赖基于
原文链接:清华研究登Nature,首创全前向智能光计算训练架构,戴琼海、方璐领衔
联系作者
文章来源:机器之心
作者微信:
作者简介:
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...