为什么说 OpenAI o1是自Transformer以来最大的更新?

为什么说 OpenAI o1是自Transformer以来最大的更新?

AIGC动态欢迎阅读

原标题:为什么说 OpenAI o1是自Transformer以来最大的更新?
关键字:报告,思维,模型,系统,慢速
文章来源:AI范儿
内容字数:0字

内容摘要:


点击上方蓝字关注我们o1 是自 Transformer 技术以来最大的一次 AI 更新,但它并不是 AGI。OpenAI 确实在推动一些以前无法实现的关键进展,并为 AGI 铺平了道路。这个新模型是朝着 AGI 迈出的重要一步,几乎让 AGI 触手可及。
这正是 Ilya 预见到的,这也解释了为什么 Sam 想要海量的计算资源。
重新定义缩放定律就像 Transformer 一样,o1 能够有效地用计算资源换取更高的准确性,不同的是,这次是在推理阶段而不是预训练阶段。很多人之前预测LLM能力会停滞,主要是通过外推训练扩展法则,但他们未曾预见到推理扩展才是真正突破收益递减的关键。
这就是 Transformer 技术的 AlphaGo 时刻。所有大实验室都在研究这个领域,OpenAI 是第一个推出的。
通向 AGI 的道路现在清晰了。接下来只要通过图像、视频、网络互动、机器人感官数据等多种数据源来训练这一模型。如果你能够为某项任务设计一个强化学习奖励机制(尤其是代码和数学任务很容易做到这一点),那么你可以通过强化学习和推理计算的结合来大幅提升完成任务的效果。
OpenAI 还引入了一项全


原文链接:为什么说 OpenAI o1是自Transformer以来最大的更新?

联系作者

文章来源:AI范儿
作者微信:
作者简介:

© 版权声明

相关文章

暂无评论

暂无评论...