“我们比云厂商做得好”！老师木新创业项目曝光：瞄准大模型成本问题，推理性能将得到数量级的提升

AIGC动态欢迎阅读

原标题：“我们比云厂商做得好”！老师木新创业项目曝光：瞄准大模型成本问题，推理性能将得到数量级的提升
关键字：小米,模型,解读,数据,硬件
文章来源：AI前线
内容字数：9084字

内容摘要：

整理｜ Tina
1 月 2 日，OneFlow 创始人袁进辉（老师木）有了新动向，其创立的新公司“硅基流动”正式进入公众视野，这是一家关注 AI 基础设施层的公司。
袁进辉是 AI 架构界的资深人才，他于 2017 年创立了一流科技 OneFlow。去年大模型爆火后，光年之外收购了 OneFlow，此后美团又收购了光年之外。
实际不久前，袁进辉就已经在朋友圈宣布了 OneFlow 团队近期重新创业的消息。
袁进辉表示，重新创业的计划目标是瞄准大模型推理成本问题。
“计划第一个推出的产品是大模型推理和部署系统，解决 AIGC 和 LLM 行业推理部署成本太高的痛点，我们判断这是大模型时代最好的商业机会之一。”
提升大模型推理和部署的效率，是大模型时代做基础设施服务的必修课。依靠数据、算法、算力，大模型的能力才会“涌现”。数据显示，过去4年，大模型参数量以年均400%复合增长，AI算力需求增长超过15万倍。以CPU为中心的传统计算基础设施已无法满足大模型、生成式AI的新要求。由此引发的成本不断膨胀，成为大模型企业负担沉重的账单。因此，一些领先的厂商正寻求降低成本的方法。
硅基流动提供

原文链接：“我们比云厂商做得好”！老师木新创业项目曝光：瞄准大模型成本问题，推理性能将得到数量级的提升