OpenAI o1: 合成数据与推理搜索

AIGC动态欢迎阅读

原标题：OpenAI o1: 合成数据与推理搜索
关键字：模型,数据,效果,问题,能力
文章来源：智猩猩GenAI
内容字数：0字

内容摘要：

GTIC 2024中国AI PC创新峰会将于10月11日，在2024上海国际消费电子展TechG同期举办，峰会将邀请8位嘉宾深入探讨生成式AI如何推动PC产业进入第三次变革。目前，联想集团首席研究员颜毅强等7位嘉宾已确定出席，将分别围绕面向大模型的个人计算体系和交互、AIGC在端侧产品的发展、RISC-V AI芯片、联合模型和硬件的优化适配平台MLGuider、操作系统与AI技术结合探索等议题进行演讲，欢迎报名～趁着 OpenAI o1 的发布，难得从每日忙碌的产品研发中抽出点时间来，学习跟进一下最近非常火热的 LLM 新范式。01背景简介首先推荐阅读一下拾象的《LLM 的‍范式转移：RL 带来新的 Scaling Law》，很好地科普了一下基于 RL 的新 LLM scaling 范式。
之前我们常说的 scaling law 一般指的是 pre-train 阶段通过算力、数据、模型参数量的提升来不断提升模型智能水平。不过最近一年来看，碰到了不少瓶颈：
算力上我们受限于超大规模训练集群的各种工程挑战，例如 LLaMA 3 的 paper 里就提到他们的万卡集群每两小时就会有坏卡问题出

原文链接：OpenAI o1: 合成数据与推理搜索