标签:服务器

国产黑马砸来百万算力福利,Llama 3微调快去冲!H800点击就送,1.99元玩转4090

新智元报道编辑:编辑部 【新智元导读】才短短一周,微调Llama 3变体已经井喷了!去哪里微调Llama 3?这家国产黑马早已上架了推理微调预训练教程,更夸张的是...
阅读原文

一年暴涨900%,这个华人成为黄院士门下最大赢家

丰色 明敏 发自 凹非寺量子位 | 公众号 QbitAI今年的AI妖股,都知道英伟达,却少有人知道它—— 股价一年飙升900%、一脚踏进标普500,直接把英伟达都给秒了…… ...
阅读原文

为什么说GPU再火,AI平台也少不了强力的CPU

金磊 梦晨 发自 凹非寺量子位 | 公众号 QbitAIAIGC的这把火,燃起来的可不只是百模大战的热度和雨后春笋般的各式AI应用。 更是由于算力与通信需求的爆发式增...
阅读原文

首席分析师揭秘爆火Groq,每小时要烧168美元!10倍H100拥有成本,老黄笑而不语

新智元报道编辑:润 好困 【新智元导读】SemiAnalysis的行业专家对最近爆火的Groq推理系统进行了像素级的拆解,测算出其持有成本依然高达现有H100的10倍,看...
阅读原文

大模型算力的「热」与 10 亿万卡成本的「冷」思考

大模型原生应用仍未爆发,谁能cover动辄10亿/年的万卡成本?作者丨郭 思 编辑丨陈彩娴 人工智能的快速发展催生了智算中心这个概念。自 2023 年下半年起,中国...
阅读原文

英伟达狂卖50万台GPU!AI爆火背后,是显卡的争夺

新智元报道编辑:alan【新智元导读】据统计,英伟达在第三季度大约卖出了50万台H100和 A100 GPU,大语言模型爆火的背后,是众组织机构对GPU的争夺,是英伟达...
阅读原文

OpenAI上线新功能太强了,服务器瞬间被挤爆

机器之心报道编辑:陈萍、小舟让 ChatGPT 服务器宕机,你参与了吗?OpenAI 开发者日上新功能太火爆,服务器都挤爆了。太平洋时间 11 月 8 日上午 6 点左右开...
阅读原文

疯狂马斯克的“极限”计划居然成功了?!“下云”后成本降低 60%,部分功能代码精简 90%,30 天急速迁移服务器

整理 | 凌敏、核子可乐2022 年 10 月 27 日,经历了长达半年的拉锯战之后,马斯克终于将 Twitter(现已更名 X)收归囊中,这笔 440 亿美元的收购案也终于迎来...
阅读原文

AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了

大模型浪潮下的算力生意:AI服务器两天涨价30万,一线销售直呼离谱。作者|李水青编辑|心缘几乎是一夜之间,AI服务器价格在国内市场中飙升。智东西从一位服务...
阅读原文

大模型浪潮下的算力生意:AI服务器两天涨价30万,一线销售直呼离谱

百模大战关口,AI服务器厂商的“枢纽”能力的验证时刻。作者|李水青编辑|心缘几乎是一夜之间,AI服务器价格在国内市场中飙升。智东西从一位服务器渠道销售人员...
阅读原文

端侧AI推理,高效部署PyTorch模型:官方新工具开源,Meta已经用上了

机器之心报道编辑:陈萍ExecuTorch 是一个端到端的解决方案,可以在移动和边缘设备(包括可穿戴设备、手机等)上实现推理功能。在 2023 年 PyTorch 大会上,...
阅读原文