Reverse-o1:OpenAI o1原理逆向工程图解

AIGC动态欢迎阅读

原标题：Reverse-o1:OpenAI o1原理逆向工程图解
关键字：模型,能力,逻辑推理,状态,概率
文章来源：智猩猩GenAI
内容字数：0字

内容摘要：

大会预告12月5日-6日，2024中国生成式AI大会（上海站）举办。将邀请50+位嘉宾围绕大模型、AI Infra、端侧生成式AI、AI视频生成和具身智能等议题进行同台分享和讨论。欢迎报名或购票。导读作者为张俊林
原文来自知乎，地址：https://zhuanlan.zhihu.com/p/721952915
本文只做学术/技术分享，如有侵权，联系删文。OpenAI o1的推出称为横空出世不为过，尽管关于Q*、草莓等各种传闻很久了，用了强化学习增强逻辑推理能力这个大方向大家猜的也八九不离十，但是融合LLM和RL来生成HiddenCOT，估计很少人能想到这点，而且目前看效果确实挺好的。
OpenAI奔向Close的路上越走越远，你要从o1官宣字面来看，除了“强化学习生成Hidden COT”外，基本找不到其它有技术含量的内容。Sora好歹还给出了个粗略的技术框架图，字里行间也透漏不少隐含的技术点，细心点总能发现很多蛛丝马迹，串起来之后整个背后的技术就若隐若现。而且，尽管目前有不少公开文献在用LLM+RL增强大模型的推理能力，但几乎找不到做Hidden COT生成的工作，所以可供直接参考的

原文链接：Reverse-o1:OpenAI o1原理逆向工程图解