MIT大牛新发现:LLM和人类大脑结构类似,存在脑叶分区!

MIT大牛新发现:LLM和人类大脑结构类似,存在脑叶分区!

AIGC动态欢迎阅读

原标题:MIT大牛新发现:LLM和人类大脑结构类似,存在脑叶分区!
关键字:报告,特征,向量,研究者,结构
文章来源:夕小瑶科技说
内容字数:0字

内容摘要:


夕小瑶科技说 分享来源 | 新智元LLM居然长「脑子」了?
就在刚刚,MIT传奇大牛Max Tegmark团队的新作,再次炸翻AI圈。
论文地址:https://arxiv.org/abs/2410.19750
他们发现,LLM学习的概念中,居然显示出令人惊讶的几何结构——
首先,它们形成一种类似人类大脑的「脑叶」;其次,它们形成了一种「语义晶体」,比初看起来更精确;并且,LLM的概念云更具分形特征,而非圆形。
具体而言,这篇论文探讨了LLM中稀疏自编码器(SAE)的特征向量表示的。
Max Tegmark团队的研究结果表明,SAE特征所代表的概念宇宙在多个空间尺度上展现出有趣的结构,从语义关系的原子层面到整个特征空间的大规模组织。
这就为我们理解LLM的内部表征和处理机制,提供了全新的见解。
总之,这个研究实在太过震撼!网友直言:如果LLM和人脑相似,这实在是给人一种不好的预感……
所以,美丽的自然法则并不独属于人类,硅基也从属于这一法则。
这个发现证明了:数学才是一切的基础,而非人类构造。
LLM的三个层面:原子,大脑和星系团队发现,SAE特征的概念宇宙在三个层面上都具有有趣的结构


原文链接:MIT大牛新发现:LLM和人类大脑结构类似,存在脑叶分区!

联系作者

文章来源:夕小瑶科技说
作者微信:
作者简介:

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...