AIGC动态欢迎阅读
原标题:AI顶会ICML收了一篇论文:没算法没实验
关键字:序列,定理,函数,自然语言,模型
文章来源:量子位
内容字数:0字
内容摘要:
蔡永强 投稿量子位 | 公众号 QbitAI没有算法没有实验,从2610篇收录论文中脱颖而出,成为唯一一篇纯理论入选2024 ICML Spotlight的论文。
“Vocabulary for Universal Approximation: A Linguistic Perspective of Mapping Compositions(词的万能逼近:从语言角度看映射组合)”,这篇纯理论论文讲了什么,何以入选Spotlight?
简单来说,目前基于深度学习的序列模型,如语言模型,受到了广泛关注并取得了成功,这促使研究人员探索将非序列问题转换为序列形式的可能性。
沿着这一思路,深度神经网络可以表示为一系列线性或非线性映射的复合函数,其中每个映射都可以看作是一个“词”。
然而,线性映射的权重是未确定的,因此需要无限多个词。
而这篇论文研究有限情形并构造性地证明了存在一个有限的函数词汇表V,用于实现万能逼近。
也就是说,对于任何连续映射f、紧集Ω和ε>0,存在V中的一个有限序列,使得它们的复合映射能够在Ω上近似f且逼近误差小于ε。
论文研究结果展示了函数复合的非凡近似能力,并为正则语言提
联系作者
文章来源:量子位
作者微信:
作者简介:
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...