从预训练到无限可能：开启蓝海推理的新纪元

有价值的东西不一定有商业价值。

原标题：预训练卷到头了，推理却是一片蓝海
文章来源：夕小瑶科技说
内容字数：5051字

在刚刚结束的NeurIPS 2024上，OpenAI前首席科学家Ilya提到“预训练即将终结”，并指出未来将聚焦于超级智能的agent、推理、理解和自我意识。这一观点引发了广泛关注，尤其是在如何将大模型技术转化为商业价值方面。

简单来说，模型推理是AI模型在接受新数据时作出判断和决策的过程。可以将模型视为“学生”，而训练过程则是“教师”对学生进行知识传授的过程。推理则是学生运用所学知识进行实际应用的环节。

从用户的角度来看，推理性能的关键在于反馈的准确性和交互延迟，以及从技术实现角度考虑的硬件依赖、资源利用率和部署灵活性等。

OpenAI在o1模型上的突破表明，通过优化推理过程，可以在提升模型性能的同时增加计算量。这一发现可能暗示着新的Scaling Law，即模型“思考”的时间越长，其准确性可能越高。

目前，模型推理市场已逐渐繁荣，各大公司在算力硬件、推理服务和行业应用层面争相布局。Flaningam将推理的提供方式划分为基础模型API、推理服务代理、AI云平台和AI芯片厂商等不同阵营。

推理市场的商业价值受供需动态博弈的影响。顶尖算力和先进算法的企业将占据竞争优势，而行业应用的广度和深度也决定了推理的需求曲线。此外，随着设备端推理的潜力被挖掘，边缘计算可能带来新的市场增量。

AI推理作为大模型商业化的关键环节，其商业价值正在不断重塑。尽管当前顶尖玩家占据先发优势，但未来的端云协同和算力下沉可能会带来新的增长点。对投资者而言，理解技术趋势和行业变化至关重要。

文章来源：夕小瑶科技说
作者微信：
作者简介：解码AI世界，硬核也可爱！聚集35万AI发烧友、开发者和从业者，广泛覆盖互联网大厂中高管、AI公司创始人和机构投资人。一线作者来自清北、国内外顶级AI实验室和大厂，兼备敏锐的行业嗅觉和洞察深度。商务合作：zym5189

文章版权归作者所有，未经允许请勿转载。

暂无评论...