标签:解码器

机器人也会系鞋带了!斯坦福团队用模仿学习赋予机器人新技能丨已开源

叨乐 发自 凹非寺量子位 | 公众号 QbitAI斯坦福年初刚教完机器人炒菜,现在又教机器人系鞋带! 他们还发布了全球首个机器人自主系鞋带演示视频: 与之前的炒...
阅读原文

突破复杂运动控制:自适应脑机接口实时神经反馈优化

脑机接口(BCI)技术在医疗和辅助设备领域展现出巨大潜力,但其在日常生活中的应用仍然面临多重挑战。这些挑战主要集中在BCI解码器的训练上,传统的解码器训...
阅读原文

准确率达60.8%,浙大基于Transformer的化学逆合成预测模型,登Nature子刊

将 ScienceAI设为星标 第一时间掌握 新鲜的 AI for Science 资讯编辑 | KX 逆合成是药物发现和有机合成中的一项关键任务,AI 越来越多地用于加快这一过程。 ...
阅读原文

LLM可解释性的未来希望?稀疏自编码器是如何工作的,这里有一份直观说明

机器之心报道 编辑:Panda简而言之:矩阵 → ReLU 激活 → 矩阵在解释机器学习模型方面,稀疏自编码器(SAE)是一种越来越常用的工具(虽然 SAE 在 1997 年左右...
阅读原文

小技巧大功效,「仅阅读两次提示」让循环语言模型超越Transformer++

机器之心报道 编辑:杜伟在当前 AI 领域,大语言模型采用的主流架构是 Transformer。不过,随着 RWKV、Mamba 等架构的陆续问世,出现了一个很明显的趋势:在...
阅读原文

盛名一时的BERT哪去了?这个问题的答案昭示了LLM范式的转变

机器之心报道 编辑:Panda编码器模型哪去了?如果 BERT 效果好,那为什么不扩展它?编码器 - 解码器或仅编码器模型怎么样了?在大型语言模型(LLM)领域,现...
阅读原文

AI研究的主要推动力会是什么?ChatGPT团队研究科学家:算力成本下降

机器之心报道 编辑:PandaAI 研究发展的主要推动力是什么?在最近的一次演讲中,OpenAI 研究科学家 Hyung Won Chung 给出了自己的答案。 近日,斯坦福大学《C...
阅读原文

多模态大模型不够灵活,谷歌DeepMind创新架构Zipper:分开训练再「压缩」

机器之心报道 编辑:蛋酱最近的一系列研究表明,纯解码器生成模型可以通过训练利用下一个 token 预测生成有用的表征,从而成功地生成多种模态(如音频、图像...
阅读原文

利用多级框架和多解码器架构提高扩散模型训练效率 | 密歇根大学安娜堡分校在读博士张挥杰主讲

「智猩猩AI新青年讲座」由智猩猩出品,致力于邀请青年学者,主讲他们在生成式AI、LLM、AI Agent、CV等人工智能领域的最新重要研究成果。 AI新青年是加速人工...
阅读原文

Transformer解码真实场景!Meta推出70M参数SceneScript模型

新智元报道编辑:alan 【新智元导读】近日,来自Meta的研究人员将Transformer用于解码真实世界的场景,并转化为几何表示,效果超越了传统的点云、网格或辐射...
阅读原文

陈丹琦团队新作:Llama-2上下文扩展至128k,10倍吞吐量仅需1/6内存

丰色 发自 凹非寺量子位 | 公众号 QbitAI陈丹琦团队刚刚发布了一种新的LLM上下文窗口扩展方法: 它仅用8k大小的token文档进行训练,就能将Llama-2窗口扩展至1...
阅读原文

语音生成的「智能涌现」:10万小时数据训练,亚马逊祭出10亿参数BASE TTS

机器之心报道 编辑:蛋酱伴随着生成式深度学习模型的飞速发展,自然语言处理(NLP)和计算机视觉(CV)已经经历了根本性的转变,从有监督训练的专门模型,转...
阅读原文

Faster Diffusion | 深入挖掘UNet编码器作用,加速41%采样速度,效果几乎不下降

直播预告 | 今晚7点,「AI新青年讲座」232讲正式开讲,清华大学在读博士刘世隆主讲《LLaVA-Plus:学习使用视觉工具插件的多模态智能体》,欢迎扫码报名。http...
阅读原文

跨语种「AI同传」震撼登场!Meta谷歌连发重大突破,颠覆语音翻译

新智元报道编辑:好困【新智元导读】Meta谷歌接连放出重磅成果!Meta开源无缝交流语音翻译模型,谷歌放出无监督语音翻译重大突破Translation 3。就在Meta AI...
阅读原文

OpenAI救了Stable Diffusion!开源Dall·E3同款解码器,来自Ilya宋飏等

明敏 发自 凹非寺量子位 | 公众号 QbitAI没想到,OpenAI捞了“竞对”Stable Diffusion一把。在热火朝天的“AI春晚”上,OpenAI一口气开源两项工作,其中之一一致...
阅读原文