AI创业圈,找到了GPU算力的高端解法

AI创业圈,找到了GPU算力的高端解法

AIGC动态欢迎阅读

原标题:AI创业圈,找到了GPU算力的高端解法
关键字:工作站,模型,机器,显卡,机房
文章来源:夕小瑶科技说
内容字数:0字

内容摘要:


夕小瑶科技说 原创作者 | 夕小瑶编辑部今年毫无疑问是AI应用层的创业元年。在AI应用层,市场上两类玩家:
第一类,是号称大模型底座和应用同时做的明星早期玩家,往往融资金额在亿这个级别,市面上只有寥寥几家
第二类,是明确聚焦应用层PMF的玩家,一般不做“底层自研”,但为了更好的产品体验,常常免不了做做模型微调,是市场上的大多数
显然,第一类玩家对于GPU算力的解法就非常简单粗暴,那就是拿钱硬砸;
而占多数的第二类玩家,去年可以说是苦GPU算力久矣。
这里的主要挑战倒不是芯片禁售。而是对于这类AI创业公司来说,资金有限,每一笔“万”这个级别的资金都很慎重。于是从去年开始,大家为了解决算力问题,只能各显神通。
有的创业团队比较极客,本想买一台整机甚至自己组装一台整机,想着做做微调,4卡40GB A100也够用了。嗯,结果一问,发现靠谱点的厂商,市场价也要奔着3、40个w去了。
暂且不说,对于大部分融资有限的创业团队来说,还没pmf就豪掷几十个w买服务器的行为属实风险不小。
更要命的是,这并不是一个“一劳永逸”的选择。
这种服务器噪声是很大的,发热也是很猛的,无法放到办公间或家里,必须要在有


原文链接:AI创业圈,找到了GPU算力的高端解法

联系作者

文章来源:夕小瑶科技说
作者微信:
作者简介:

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...