Meta公布Llama 3训练集群细节！储备60万块H100迎接AGI

AIGC动态欢迎阅读

原标题：Meta公布Llama 3训练集群细节！储备60万块H100迎接AGI
关键字：集群,人工智能,性能,网络,模型
文章来源：新智元
内容字数：8177字

内容摘要：

新智元报道编辑：润
【新智元导读】LLM开源从Infra做起！Meta公布了自己训练Llama 3的H100集群细节，看来Llama 3快来了。每年3月份，照例各家大厂又要开始秀自己最新的产品和研究了。
OpenAI刚刚发布了震惊世人的Sora，最新的ChatGPT版本似乎也是箭在弦上。
谷歌更是举全公司之力，从去年底就开始放出了包括Gemini Ultra，Gemini 1.5，Gemma在内，各分支赛道上的惊艳成果。
可是作为开源AI的扛把子，Meta在去年发布了Llama 2和后续的模型后，就一直缺少有影响力的产品问世。
而对于开源社区来说，OpenAI虽好，可Meta才是大家真的衣食父母。大家都在翘首以待Llama 3的发布。
在Llama 3公开之前，不甘寂寞的Meta还是想到办法在行业内刷了一波存在感——秀肌肉。
Meta AI刚刚发表了一份技术博客，向公众展示了自己拥有的算力资源，以及Meta布局AI Infra的具体细节和路线图。
根据Meta的规划，到2024年底它将拥有35万个英伟达H100GPU，而未来算力储备将达到夸张的60万个H100。
而光有大量的GPU还

原文链接：Meta公布Llama 3训练集群细节！储备60万块H100迎接AGI