6.99元租H800,一键部署Llama3,有羊毛速来薅!

AIGC动态6个月前发布 量子位
3 0 0

6.99元租H800,一键部署Llama3,有羊毛速来薅!

AIGC动态欢迎阅读

原标题:6.99元租H800,一键部署Llama3,有羊毛速来薅!
关键字:知乎,模型,用户,脚本,市场
文章来源:量子位
内容字数:4157字

内容摘要:


明敏 发自 凹非寺量子位 | 公众号 QbitAI猛然间,大模型圈掀起一股“降价风潮”。
前脚,智谱、DeepSeek等大模型厂商将API价格一降再降,输入100万tokens仅需1元。
紧接着,GPU租赁的价格也被打了下来。
现在潞晨云官方进行限时大额算力补贴,NVIDIA H800的租用价格,低至6.99元/卡/时;NVIDIA A800为5.99元/卡/时,4090甚至低至1.39元/卡/时。
不只有租赁服务,平台上还支持快速简易部署Llama 3微调、训练、推理。
其中在64卡H100集群上,经过Colossal-AI优化,相比微软+英伟达方案,可提升LLaMA3 70B的训练性能近20%,推理性能也优于vLLM等方案。
Open-Sora也能玩转。
如上最新动向来自潞晨云(https://cloud.luchentech.com)。
他们不仅将个人开发者、中小企业用户玩转大模型的成本大幅降低,而且上手门槛也不高。
具体来看实操演示~
部署Llama 3微调训练推理潞晨云提供一键部署功能,只需简单操作即可快速启动计算环境。
在最开始时需要先创建云主机。比如对Llama3微调训练


原文链接:6.99元租H800,一键部署Llama3,有羊毛速来薅!

联系作者

文章来源:量子位
作者微信:QbitAI
作者简介:追踪人工智能新趋势,关注科技行业新突破

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...