4k窗口长度就能读长文,陈丹琦高徒联手Meta推出大模型记忆力增强新方法

AIGC动态1年前 (2023)发布 量子位
26 0 0

4k窗口长度就能读长文,陈丹琦高徒联手Meta推出大模型记忆力增强新方法

AIGC动态欢迎阅读

原标题:4k窗口长度就能读长文,陈丹琦高徒联手Meta推出大模型记忆力增强新方法

关键字:节点,模型,记忆,长度,内容

文章来源:量子位

内容字数:3745字

内容摘要:克雷西 发自 凹非寺量子位 | 公众号 QbitAI只有4k窗口长度的大模型,也能阅读大段文本了!普林斯顿的华人博士生的一项最新成果,成功“突破”了大模型窗口长度的限制。不仅能回答各种问题,而且整个实现的过程全靠prompt就能完成,不需要任何的额外训练。研究团队创建了一种名为MemWalker的树形记忆策略,可以突破模型本身的窗口长度限制。测试过程中,模型阅读的最长文本包含了1.2万+token…

原文链接:点此阅读原文:4k窗口长度就能读长文,陈丹琦高徒联手Meta推出大模型记忆力增强新方法

联系作者

文章来源:量子位

作者微信:QbitAI

作者简介:追踪人工智能新趋势,关注科技行业新突破

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...