标签：长度

克雷西 发自 凹非寺量子位 | 公众号 QbitAI无需微调，只要四行代码就能让大模型窗口长度暴增，最高可增加3倍！ 而且是“即插即用”，理论上可以适配任意大模型...

新智元报道编辑：润 好困【新智元导读】月初刚测了GPT-4 Turbo上下文真实实力的大神Greg Kamradt又盯上了Anthropic刚更新的Claude 2.1。他自己花了1016刀测完...

克雷西 发自 凹非寺量子位 | 公众号 QbitAIOpenAI开发者大会后不久，它的最强竞对Claude也宣布推出了重磅更新。更新后的Claude 2.1，上下文长度直接翻番到20...

夕小瑶科技说 原创作者 | 小戏、兔子酱这两天，AI 圈子里最火的事，莫过于 OpenAI 在他们的首届开发者日上重磅推出了 GPT-4 的加强 Plus 版 GPT-4 Turbo。随...

文章转自新智元，Founder Park 有所删减10 月 30 日，百川智能发布 Baichuan2-192K 大模型。其上下文窗口长度高达 192K，是目前全球最长的上下文窗口。文本长...

10月30日，百川智能发布Baichuan2-192K大模型，上下文窗口长度高达192K，是目前全球最长的上下文窗口。Baichuan2-192K能够一次处理约35万个汉字，是目前支持...

新智元报道编辑：编辑部【新智元导读】全球最长上下文窗口来了！今日，百川智能发布Baichuan2-192K大模型，上下文窗口长度高达192K（35万个汉字），是Claude ...

克雷西 发自 凹非寺量子位 | 公众号 QbitAI只有4k窗口长度的大模型，也能阅读大段文本了！普林斯顿的华人博士生的一项最新成果，成功“突破”了大模型窗口长度...

萧箫 发自 凹非寺量子位 | 公众号 QbitAI只需微调一下，大模型支持上下文大小就能从1.6万tokens延长至100万？！还是在只有70亿参数的LLaMA 2上。要知道，即使...

丰色 发自 凹非寺量子位 | 公众号 QbitAI这两天，FlashAttention团队推出了新作：一种给Transformer架构大模型推理加速的新方法，最高可提速8倍。该方法尤其...

机器之心报道机器之心编辑部处理小说、法律文件等长文本是大模型的一个重要应用方向，但也面临速度上的挑战。FlashAttention 作者 Tri Dao 等人提出的「Flash...

夕小瑶科技说 分享来源 | 新智元中途迷失、模型偷懒、上下文越长大模型越笨……体验过LLM的人，多少都会对文本输入长度带来的限制有所感触：想和大模型讨论一些...

衡宇 发自 凹非寺量子位 | 公众号 QbitAI千亿参数大模型，支持输入的长文本首次达20万字！在任何规模的大模型产品化队伍中，这个长度堪称目前的全球最长。用...

新智元报道编辑：好困 桃子【新智元导读】大模型上下文从此不再受限！港中文贾佳亚团队联手MIT发布了全新超长文本扩展技术LongLoRA，只需2行代码，让LLM看小...

机器之心报道机器之心编辑部无需过多计算资源即可扩展大模型上下文长度。一般来说，大模型预训练时文本长度是固定的，如果想要支持更长文本，就需要对模型进...