标签：矩阵

选自interconnects 作者：Nathan Lambert 机器之心编译 机器之心编辑部状态空间模型正在兴起，注意力是否已到尽头？最近几周，AI 社区有一个热门话题：用无注...

夕小瑶科技说 原创作者 | 松果、Python引言：探索大型语言模型的高效压缩方法随着大型语言模型（LLMs）在自然语言处理领域的广泛应用，它们对计算和内存资源...

在现代科学的众多领域中，矩阵分解作为一种数学工具，其重要性不容小觑。特别是在物理学和计算科学中，矩阵分解不仅为理解复杂系统提供了关键的理论支撑，也...

机器之心报道 编辑：张倩、佳琪删除权重矩阵的一些行和列，让 LLAMA-2 70B 的参数量减少 25%，模型还能保持 99% 的零样本任务性能，同时计算效率大大提升。这...

导语复杂系统是高维非线性的动力系统，其组成成分之间存在异质相互作用。为了对复杂系统的大规模行为做出可解释的预测，通常假定这些动力学可以简化为几个方...

直播预告 | 1月22日晚7点，「自动驾驶新青年讲座」第35讲正式开讲，LMDrive一作、香港中文大学MMLab在读博士邵昊将主讲《LMDrive：大语言模型加持的闭环端到...

机器之心专栏 机器之心编辑部大语言模型在端侧的规模化应用对计算性能、能效比需求的“提拽式”牵引，在算法与芯片之间，撕开了一道充分的推理竞争场。 面对想...

丰色 发自 凹非寺量子位 | 公众号 QbitAI一个来自MIT博士生的惊人发现： 只需对Transformer的特定层进行一种非常简单的修剪，即可在缩小模型规模的同时显著提...

新智元报道编辑：编辑部 【新智元导读】中国版的GPTs来了！百度「灵境矩阵」平台全新升级为「智能体平台」，开发成本大大降低，还能坐拥国内最完整的智能体生...

机器之心报道 编辑：陈萍、杜伟MIT、微软联合研究：不需要额外训练，也能增强大语言模型的任务性能并降低其大小。在大模型时代，Transformer 凭一己之力撑起...

夕小瑶科技说 分享来源 | 百度灵境矩阵 在生成式AI席卷全球的2023年，大模型在创造新变革的同时也给行业带来新的疑问。 当Agent、人形机器人等概念层出不穷，...

新智元报道编辑：alan【新智元导读】大语言模型在实际部署中，存在内存和输入长度限制的问题。最近，田渊栋团队一举解决这两大难题，将推理系统的吞吐量提高...

选自 Sebastian Raschka 博客机器之心编译编辑：佳琪这是作者 Sebastian Raschka 经过数百次实验得出的经验，值得一读。增加数据量和模型的参数量是公认的提...

新智元报道编辑：桃子 好困【新智元导读】Transformer大模型工作原理究竟是什么样的？一位软件工程师打开了大模型的矩阵世界。黑客帝国中，「矩阵模拟」的世...

夕小瑶科技说 原创作者 | 智商掉了一地、Python现在有很多关于大型语言模型（LLM）的研究，都围绕着如何高效微调展开。微调是利用模型在大规模通用数据上学到...