想让大模型在prompt中学习更多示例，这种方法能让你输入更多字符

AIGC动态欢迎阅读

原标题：想让大模型在prompt中学习更多示例，这种方法能让你输入更多字符

关键字：上下文,维度,模型,研究者,位置

文章来源：机器之心

内容字数：8728字

内容摘要：机器之心报道编辑：Panda W我们知道在使用 GPT 和 LLaMA 等大型语言模型时，输入的 prompt 存在字符数限制，比如 ChatGPT 目前的输入字符限制是 4096 个字符。这会限制上下文学习和思维链等技术的发挥空间，毕竟用户只能提供有限的示例数量。近日，Nous Research、EleutherAI 和日内瓦大学的一个研究团队提出了一种扩展上下文窗口的方案 YaRN ，并在实验…

原文链接：点此阅读原文：想让大模型在prompt中学习更多示例，这种方法能让你输入更多字符

联系作者

文章来源：机器之心

作者微信：almosthuman2014

作者简介：专业的人工智能媒体和产业服务平台