基于牛顿求根法,新算法实现并行训练和评估RNN,带来超10倍增速

AIGC动态1年前 (2023)发布 机器之心
31 0 0

基于牛顿求根法,新算法实现并行训练和评估RNN,带来超10倍增速

AIGC动态欢迎阅读

原标题:基于牛顿求根法,新算法实现并行训练和评估RNN,带来超10倍增速

关键字:序列,算子,矩阵,模型,方法

文章来源:机器之心

内容字数:7120字

内容摘要:机器之心报道编辑:Panda W人们普遍认为 RNN 是无法并行化的,因为其本质上的序列特性:其状态依赖于前一状态。这使得人们难以用长序列来训练 RNN。近日,一种新算法的出现打破了这一惯常认知,可以并行化 RNN 和 NeuralODE 等非线性序列模型的评估和训练,从而为相关研究和开发带来显著的速度提升。过去十年来,深度学习领域发展迅速,其一大主要推动力便是并行化。通过 GPU 和 TPU 等…

原文链接:点此阅读原文:基于牛顿求根法,新算法实现并行训练和评估RNN,带来超10倍增速

联系作者

文章来源:机器之心

作者微信:almosthuman2014

作者简介:专业的人工智能媒体和产业服务平台

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...