标签:服务器

大模型算力的「热」与 10 亿万卡成本的「冷」思考

大模型原生应用仍未爆发,谁能cover动辄10亿/年的万卡成本?作者丨郭 思 编辑丨陈彩娴 人工智能的快速发展催生了智算中心这个概念。自 2023 年下半年起,中国...
阅读原文

英伟达狂卖50万台GPU!AI爆火背后,是显卡的争夺

新智元报道编辑:alan【新智元导读】据统计,英伟达在第三季度大约卖出了50万台H100和 A100 GPU,大语言模型爆火的背后,是众组织机构对GPU的争夺,是英伟达...
阅读原文

OpenAI上线新功能太强了,服务器瞬间被挤爆

机器之心报道编辑:陈萍、小舟让 ChatGPT 服务器宕机,你参与了吗?OpenAI 开发者日上新功能太火爆,服务器都挤爆了。太平洋时间 11 月 8 日上午 6 点左右开...
阅读原文

疯狂马斯克的“极限”计划居然成功了?!“下云”后成本降低 60%,部分功能代码精简 90%,30 天急速迁移服务器

整理 | 凌敏、核子可乐2022 年 10 月 27 日,经历了长达半年的拉锯战之后,马斯克终于将 Twitter(现已更名 X)收归囊中,这笔 440 亿美元的收购案也终于迎来...
阅读原文

AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了

大模型浪潮下的算力生意:AI服务器两天涨价30万,一线销售直呼离谱。作者|李水青编辑|心缘几乎是一夜之间,AI服务器价格在国内市场中飙升。智东西从一位服务...
阅读原文

大模型浪潮下的算力生意:AI服务器两天涨价30万,一线销售直呼离谱

百模大战关口,AI服务器厂商的“枢纽”能力的验证时刻。作者|李水青编辑|心缘几乎是一夜之间,AI服务器价格在国内市场中飙升。智东西从一位服务器渠道销售人员...
阅读原文

端侧AI推理,高效部署PyTorch模型:官方新工具开源,Meta已经用上了

机器之心报道编辑:陈萍ExecuTorch 是一个端到端的解决方案,可以在移动和边缘设备(包括可穿戴设备、手机等)上实现推理功能。在 2023 年 PyTorch 大会上,...
阅读原文
12