标签:序列

与Sora一样能生成视频、图像,还能一次解读100万数据!

来源| AIGC开放社区 大语言模型(LLM)在生成文本内容方面非常强,但在理解、生成视频、图像等方面略显不足。尤其是在 Sora 一夜爆红之后,让人们意识到未来...
阅读原文

8/8/6/3的Mamba论文,最终还是被ICLR 2024拒了,网友:悬着的心终于死了

机器之心报道 编辑:蛋酱几天前,ICLR 2024 的最终接收结果出来了。 大家应该还记得,Mamba 被 ICLR 2024 大会 Decision Pending(待定)的消息在 1 月份引发...
阅读原文

Pieter Abbeel新工作“大世界模型”:轻松玩转 1 小时长视频,一对一QA视频内容细节

大数据文摘授权转载自AI科技评论 作者:赖文昕 编辑:陈彩娴 自3天前Sora发布以来,由图灵奖得主、Meta首席科学家Yann LeCun提出的“世界模型”又一次引起了广...
阅读原文

Pieter Abbeel 新工作“大世界模型”:轻松玩转 1 小时长视频,一对一 QA 视频内容细节

伯克利发布的“大世界模型”,究竟大在哪里?作者丨赖文昕 编辑丨陈彩娴 自3天前Sora发布以来,由图灵奖得主、Meta首席科学家Yann LeCun提出的“世界模型”又一次...
阅读原文

100万token,一次能分析1小时YouTube视频,「大世界模型」火了

机器之心报道 编辑:陈萍、小舟这项研究为语言模型更好地理解物理世界铺平了道路。最近几天,我们接连被谷歌的多模态模型 Gemini 1.5 以及 OpenAI 的视频生成...
阅读原文

疫苗研发新突破:北航团队提出病毒抗原免疫原性预测新方法 VirusImmu

作者:乔乔 编辑:李宝珠,三羊 来自北京航空航天大学的李静等人,开发了一种用于病毒抗原免疫原性预测的机器学习集成方法 Viruslmmu。传染病是严重危害人类...
阅读原文

AI Agent自主设计全新蛋白质登Nature!威斯康星大学让机器人科学家做实验,无需人类帮助

新智元报道编辑:Aeneas 【新智元导读】这个自动化蛋白质设计系统可以自己设计和测试新的蛋白质,不需要人类的帮助。就像一个能自己做实验的机器人科学家。它...
阅读原文

2亿参数时序模型替代LLM?谷歌突破性研究被批「犯新手错误」

机器之心报道 编辑:张倩、泽南照箭画靶,跑分自设标准? 最近,谷歌的一篇论文在 X 等社交媒体平台上引发了一些争议。 这篇论文的标题是「A decoder-only fo...
阅读原文

不分割成token,直接从字节中高效学习,Mamba原来还能这样用

机器之心报道 编辑:张倩给出一句「Hello, world!」你要怎么把它喂给 AI 模型?目前常见的方法是利用某种算法将它分为若干 token,比如 ['Hello', ',', 'worl...
阅读原文

击败OpenAI,权重、数据、代码全开源,能完美复现的嵌入模型Nomic Embed来了

机器之心报道 编辑:陈萍、小舟模型参数量只有 137M,5 天就能训练好。一周前,OpenAI 给广大用户发放福利,在下场修复 GPT-4 变懒的问题后,还顺道上新了 5 ...
阅读原文

准确率不足20%,GPT-4V/Gemini竟看不懂漫画!首个图像序列基准测试开源

新智元报道编辑:LRS 【新智元导读】马里兰大学联合北卡教堂山发布首个专为多模态大语言模型(MLLM)设计的图像序列的基准测试Mementos,涵盖了真实世界图像...
阅读原文

Mamba论文为什么没被ICLR接收?AI社区沸腾了

机器之心报道 编辑:张倩、蛋酱基于 Mamba 的创新正不断涌现,但原论文却被 ICLR 放到了「待定区」。 2023 年,Transformer 在 AI 大模型领域的统治地位被撼...
阅读原文

消灭「幻觉」!谷歌全新ASPIRE方法让LLM给自己打分,效果碾压10x体量模型

新智元报道编辑:润 【新智元导读】谷歌和威斯康星麦迪逊大学的研究人员推出了一个让LLM给自己输出打分的选择性预测系统,通过软提示微调和自评估学习,取得...
阅读原文

视觉Mamba来了:速度提升2.8倍,内存能省87%

机器之心报道 编辑:陈萍、泽南Vision Mamba 不是个普通模型。号称「全面包围 Transformer」的 Mamba,推出不到两个月就有了高性能的视觉版。 本周四,来自华...
阅读原文

​新一代注意力机制Lightning Attention-2:无限序列长度、恒定算力开销、更高建模精度

机器之心专栏 机器之心编辑部Lightning Attention-2 是一种新型的线性注意力机制,让长序列的训练和推理成本与 1K 序列长度的一致。 大语言模型序列长度的限...
阅读原文
15678911