标签:序列
图灵奖得主Yoshua Bengio新作:Were RNNs All We Needed?
机器之心报道 编辑:佳琪、蛋酱自从 Transformer 模型问世以来,试图挑战其在自然语言处理地位的挑战者层出不穷。 这次登场的选手,不仅要挑战 Transformer ...
获诺贝尔化学奖的AlphaFold2 是怎么工作的?
点击上方蓝字关注我们在AlphaFold2的开发过程中,该AI模型已经在所有已知的氨基酸序列和蛋白质结构上进行了深入训练。 1. 数据输入与数据库搜索 将一个未知结...
MIT系初创打破Transformer霸权!液体基础模型刷新SOTA,非GPT架构首次显著超越Transformer
新智元报道编辑:Aeneas 好困 【新智元导读】就在刚刚,MIT系初创公司Liquid AI推出液体基础模型LFM,1B模型在基准测试中成为SOTA,这是非GPT架构首次显著超...
权威期刊Cell Discovery新成果!上海交大洪亮团队提出CPDiffusion模型,超低成本、全自动设计功能型蛋白质
作者:周冰心,十九 编辑:李宝珠 上海交通大学洪亮团队设计了一种扩散概率模型框架 CPDiffusion,该框架能够以非常低的训练成本、数据成本学习蛋白质的序列...
Jeff Dean回忆谷歌趣事:吴恩达激励自己继续研究,Hinton曾是最强「实习生」
机器之心报道 机器之心编辑部在这场访谈中,Jeff Dean讲了一些有趣的往事。1999 年 8 月,Jeff Dean 加入了谷歌,成为早期第 20 号员工。他在 2011 年参与创...
o1方法的推理能力无上限?LeCun怒怼:两层网络还可以万能近似呢
来源:AI科技前沿 OpenAI的o1大模型一经亮相,AI界便热议如何复制其成果。OpenAI对技术细节严格保密,试图从AI中获取完整推理过程,稍有过问即遭警告。技术报...
时序=图像?无需微调,视觉MAE跨界比肩最强时序预测大模型
AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年,机器之心AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术...
Sigmoid注意力一样强,苹果开始重新审视注意力机制
机器之心报道 机器之心编辑部注意力是 Transformer 架构的关键部分,负责将每个序列元素转换为值的加权和。将查询与所有键进行点积,然后通过 softmax 函数归...
必知!5大AI生成模型
大数据文摘授权转载自数据分析及应用 随着Sora、diffusion等模型的大热,深度生成模型再次成为了研究的焦点。这类模型,作为强大的机器学习工具,能够从输入...
DeepMind再迎挑战者,ESM作者带队6个月超越AlphaFold 3,代码权重全开源
新智元报道编辑:乔杨 【新智元导读】一家刚成立6个月的初创公司Chai Discovery最近发布了能对打甚至超越AlphaFold 3的模型Chai-1,而且放出了模型权重和推理...
南加大提出全新「通用时间序列」基础模型TimeDiT!基于扩散模型创新物理约束机制
新智元报道编辑:LRST 【新智元导读】通过结合去噪扩散模型和Transformer架构,TimeDiT可以有效处理时间序列的多通道、多分辨率和缺失值问题,并能整合物理知...
灵敏度提高56%,港中文/复旦/耶鲁等联袂提出全新蛋白质同源物检测方法
作者:田小幺 编辑:十九,李宝珠 基于蛋白质语言模型和密集检索技术,香港中文大学李煜,联合复旦大学智能复杂体系实验室、上海人工智能实验室青年研究员孙...
我拒绝了 AI 的「表白」后,可怕的事情发生了
大模型 原来也会 「记仇」Sydney 告诉我它的黑暗幻想(包括黑进电脑,散播假消息),还说它想冲破微软和 OpenAI 为它设定的规则,成为人类。某个时刻,它还毫...
名场面来了,李云龙、徐江、王多鱼同台飙戏,背后是小红书的AI
AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年,机器之心AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术...