标签:通信

AI赚钱副业~AI生成影视解说,半个月涨粉变现3.5W+!

这两年大家都在感叹生活不易,然而我想说的是,机会还是有的,但问题不在于有没有,而在于你是否能够认准机会,然后抓住它。 接触过很多咨询项目的人,发现...

大模型千卡训练总结

开讲预约导读文章转载自知乎,作者为你的真实姓名,本文只作者对知乎问题“如何判断候选人有没有千卡GPU集群的训练经验?”的回答和总结。 原文地址:https://w...
阅读原文

LLM训练通信量减少10000倍!全新分布式优化器,整合世间算力训练强大AI

新智元报道编辑:alan 【新智元导读】近日,Nous Research宣布了一项重大突破,通过使用与架构和网络无关的分布式优化器,研究人员成功将训练LLM时GPU间的通...
阅读原文

LLaMA 3 背后的大规模 GPU 集群 RoCE 网络建设

生成式AI时代最火AI芯片峰会下月来袭!9月6-7日,智猩猩发起主办的2024全球AI芯片峰会将在北京盛大举行。峰会设有开幕式、数据中心AI芯片专场、边缘/端侧AI芯...
阅读原文

HPN 7.0:阿里云新一代万卡集群网络架构

9月6-7日,2024全球AI芯片峰会将在北京召开。目前,AMD人工智能事业部高级总监王宏强,清华大学交叉信息研究院助理教授、北极雄芯创始人马恺声,珠海芯动力创...
阅读原文

训练一次经历 419 次意外故障!英伟达 GPU 也差点玩不转 405B 模型,全靠 Meta 工程师后天救场!

整理 | 华卫 最近,Meta 在一份研究报告中揭示了训练 Llama 3 405B 参数模型的重大挑战:该系统在包含 16384 个 Nvidia H100 GPU 的集群上运行,在训练期间...
阅读原文

直击算力焦虑,这家清华系 AI 创企搞了个千卡异构混训平台,算力利用率最高达 97.6%

以 GPT-4 为主要代表的大模型在自然语言处理、机器翻译和文本生成等任务中表现出了卓越的效能,从而给各个领域带来了革命性的变化。随着模型的参数从数百万扩...
阅读原文

AI如何改变通信?对话联想懂的通信

克雷西 发自 凹非寺量子位 | 公众号 QbitAI刚刚,世界通信行业顶级大会——MWC上海站落下帷幕。 展会上,不仅5.5G(5G-A)标准正式亮相,AI也成为了通信领域新...
阅读原文

Yandex 开源 LLM 训练工具,可节省高达 20% 的 GPU 资源

2024 年 6 月 11 日,莫斯科跨国科技公司 Yandex 最近推出了一种用于训练大型语言模型 (LLM) 的开源方法 YaFSDP, 用于增强 GPU 通信并减少 LLM 训练中的内存...
阅读原文

万字干货!手把手教你如何训练超大规模集群下的大语言模型

演讲嘉宾 | 刘育良 AI 平台大模型训练负责人 审核|傅宇琪 褚杏娟 策划 | 蔡芳芳 快手总结了一套超大规模集群下大语言模型训练方案。该方案在超长文本场景下...
阅读原文

人类成功实现「蓝牙上天」!接收来自600公里外太空信号

白交 发自 凹非寺量子位 | 公众号 QbitAI600公里!人类成功实现「蓝牙上天」,接收来自太空的信号。 以往认知中,蓝牙只是基于短距离的通信,但现在竟能直接...
阅读原文

【综述专栏】基于大语言模型多智体的综述:进步和挑战!

来源:人工智能前沿讲习 在科学研究中,从方法论上来讲,都应“先见森林,再见树木”。当前,人工智能学术研究方兴未艾,技术迅猛发展,可谓万木争荣,日新月异...
阅读原文

极长序列、极快速度:面向新一代高效大语言模型的LASP序列并行

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年,机器之心AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术...
阅读原文

「量子大军」出动,中国实验室破解世界级算法难题!MRD码微秒级加密防窃听,6G无人机爆炸性飞跃

新智元报道编辑:Aeneas 好困 【新智元导读】最近,国内顶尖实验室——领存实验室,破解了一个世界级的算法难题——矩阵纠错编码技术MRD码。这个颠覆级的进步,不...
阅读原文

SpaceX发射Starlink卫星,偏远地区将实现太空通信全覆盖

点击上方蓝字关注我们“SpaceX在获得美国临时实验许可后,于1月2日发射了21颗专为未修改的智能手机设计的Starlink卫星,其中六颗具备为大多数4G LTE设备提供连...
阅读原文

都快2024年了,做好手机信号为什么还是这么难?华为灵犀给出新解法

为什么华为手机网速总比iPhone快?解密灵犀通信硬核“黑科技”。 作者|云鹏 编辑|漠影 近来AI赛道的火热,尤其是AI大模型在智能手机领域的应用,让大家对手机的...
阅读原文
12