AI创业圈，找到了GPU算力的高端解法

AIGC动态欢迎阅读

原标题：AI创业圈，找到了GPU算力的高端解法
关键字：工作站,模型,机器,显卡,机房
文章来源：夕小瑶科技说
内容字数：0字

内容摘要：

夕小瑶科技说原创作者 | 夕小瑶编辑部今年毫无疑问是AI应用层的创业元年。在AI应用层，市场上两类玩家：
第一类，是号称大模型底座和应用同时做的明星早期玩家，往往融资金额在亿这个级别，市面上只有寥寥几家
第二类，是明确聚焦应用层PMF的玩家，一般不做“底层自研”，但为了更好的产品体验，常常免不了做做模型微调，是市场上的大多数
显然，第一类玩家对于GPU算力的解法就非常简单粗暴，那就是拿钱硬砸；
而占多数的第二类玩家，去年可以说是苦GPU算力久矣。
这里的主要挑战倒不是芯片禁售。而是对于这类AI创业公司来说，资金有限，每一笔“万”这个级别的资金都很慎重。于是从去年开始，大家为了解决算力问题，只能各显神通。
有的创业团队比较极客，本想买一台整机甚至自己组装一台整机，想着做做微调，4卡40GB A100也够用了。嗯，结果一问，发现靠谱点的厂商，市场价也要奔着3、40个w去了。
暂且不说，对于大部分融资有限的创业团队来说，还没pmf就豪掷几十个w买服务器的行为属实风险不小。
更要命的是，这并不是一个“一劳永逸”的选择。
这种服务器噪声是很大的，发热也是很猛的，无法放到办公间或家里，必须要在有

原文链接：AI创业圈，找到了GPU算力的高端解法