标签:集群

对话国产“算力黑马”:27亿元大单背后,英博数科周韡韡的AGI探索之路

▲图片由AI生成 从ChatGPT到Sora,通用模型为王,智算产业现“隐形护城河”。 作者|国仁 李水青 编辑|漠影 当下中国科技圈,什么样的创业公司最吃香?或许是身处...
阅读原文

4万亿晶体管5nm制程,全球最快AI芯片碾压H100!单机可训24万亿参数LLM,Llama 70B一天搞定

新智元报道编辑:桃子 好困 【新智元导读】AI世界的进化快的有点跟不上了。刚刚,全球最强最大AI芯片WSE-3发布,4万亿晶体管5nm工艺制程。更厉害的是,WSE-3...
阅读原文

Meta公布Llama 3训练集群细节!储备60万块H100迎接AGI

新智元报道编辑:润 【新智元导读】LLM开源从Infra做起!Meta公布了自己训练Llama 3的H100集群细节,看来Llama 3快来了。每年3月份,照例各家大厂又要开始秀...
阅读原文

为Llama 3铺路:Meta推出2个24K GPU集群|甲子光年

35万张 H100 的算力平台将为大模型领域带来什么改变?编译|艾伦 编辑|栗子 3月12日,Meta 推出2个 24KGPU集群,为训练 Llama3 构建超强资源池。 在 Meta 工...
阅读原文

Llama3训练集群揭秘,共24,576 个 GPU

点击上方蓝字关注我们“Meta 公司透露了其专为 AI 训练设计的先进硬件基础设施细节。这些集群包括 24,576 个 GPU,采用了创新的网络结构解决方案,为支持当前...
阅读原文

Meta公开 Llama-3基础训练设施:使用了49,000个H100

来源 | 授权转载自AIGC开放社区(公众号ID:AIGCOPEN) 3 月 13 日,社交、科技巨头 Meta 在官网公布了两个全新的 24K H100 GPU 集群(49,152 个),专门用于...
阅读原文

专为训练Llama 3,Meta 4.9万张H100集群细节公布

机器之心报道 机器之心编辑部只想知道 Llama 3 何时能来?生成式大模型给人工智能领域带来了重大变革,人们在看到实现通用人工智能(AGI)希望的同时,训练、...
阅读原文

前谷歌科学家离职创业1年,自述训练LLM卡在算力上!买卡就像中彩票,Karpathy转赞

新智元报道编辑:桃子 【新智元导读】一家大模型初创公司从创立到训练出大模型,要克服怎样的难题?前谷歌科学家离职后创业一年,发文自述算力是训练大模型的...
阅读原文

「还是谷歌好」,离职创业一年,我才发现训练大模型有这么多坑

机器之心报道 编辑:蛋酱、小舟Karpathy:中肯的,一针见血的。 如何在不到一年的时间里创办一家公司、筹集资金、购买芯片,并搭建出追赶 Gemini pro/GPT 3.5...
阅读原文

字节万卡集群技术细节公开:2天搞定GPT-3训练,算力利用率超英伟达Megatron-LM

鱼羊 发自 凹非寺量子位 | 公众号 QbitAI随着对Sora技术分析的展开,AI基础设施的重要性愈发凸显。 来自字节和北大的一篇新论文在此时吸引关注: 文章披露,...
阅读原文

国产千卡千亿模型训练平台落地:70B到130B大模型训练,线性加速比达91%

允中 发自 凹非寺量子位 | 公众号 QbitAI国内首个以国产全功能GPU为底座的大规模算力集群,正式落地了! 这便是来自摩尔线程的KUAE智算中心,全国产千卡千亿...
阅读原文

如果没有AI算力,大模型这场战役我们可能胜不了

明敏 萧箫 发自 凹非寺量子位 | 公众号 QbitAI没想到,在ChatGPT爆火后的一年里,竟然出现了一个隐藏“Boss”——量子位获悉,百度、360等互联网大厂均已开始基于...
阅读原文

最新Claude2.1、Llama 2随便用!亚马逊把生成式AI开发门槛打下去了

金磊 发自 拉斯维加斯量子位 | 公众号 QbitAI好消息,搞生成式AI应用的门槛,被狠狠地打下去了!就在刚刚,亚马逊云科技在年度盛会re:Invent中正式宣布:在我...
阅读原文

西工大提出全新「群聊式」无人机控制框架!类人对话交互、主动环境感知、自主实体控制

新智元报道编辑:LRS【新智元导读】在线群聊极大地方便了人们的沟通方式,能否把机器也拉进群,让它们组团商量着干活,并和人类无障碍地沟通和交流,更好地服...
阅读原文

机器会说话 | 李学龙团队建立无人机“聊天群”

在线群聊极大地方便了人们的沟通方式,能否把机器也拉进群,让它们组团商量着干活,并和人类无障碍地沟通和交流,更好地服务于生产生活?语言是人类交流和思...
阅读原文
1345