标签：专家

新智元报道编辑：LRS 【新智元导读】生成式模型原本被设计来模仿人类的各种复杂行为，但人们普遍认为它们最多只能达到与其训练数据中的专家相当的水平。不过...

机器之心报道 编辑：泽南、杜伟释放进一步扩展 Transformer 的潜力，同时还可以保持计算效率。标准 Transformer 架构中的前馈（FFW）层会随着隐藏层宽度的增...

7月11日19点，「智猩猩自动驾驶新青年讲座」第36讲将开讲，主讲理想汽车最新成果：基于MLLM的闭环规划智能体PlanAgent，由理想汽车实习研究员、中国科学院自...

机器之心原创 作者：吴昕这是一条少有人走过的路。用十年时间成为全球在线服务数亿用户的财富管理平台后，摆在蚂蚁财富面前的是一段少有人走过的路： 这 5 亿...

机器之心原创 作者：张倩在 2024 年世界人工智能大会的现场，很多人在一个展台前排队，只为让 AI 大模型给自己在天庭「安排」一个差事。具体流程是这样的：首...

克雷西 发自 凹非寺量子位 | 公众号 QbitAI每个token只需要5.28%的算力，精度就能全面对标Llama 3。 开源大模型，再添一位重量级选手—— 来自浪潮信息的32专家...

新智元报道编辑：编辑部 【新智元导读】马斯克最近哭穷表示，xAI需要部署10万个H100才能训出Grok 3，影响全球的大模型算力荒怎么解？昨天开源的这款MoE大模型...

模更强，算更优！集成32个专家、模算效率大幅提升，浪潮信息让大模型应用火力全开。 作者|程茜 编辑|漠影 智东西5月28日报道，今天，浪潮信息发布基于MoE的源...

新智元报道编辑：乔杨 好困 【新智元导读】前几天，普林斯顿大学联合Meta在arXiv上发表了他们最新的研究成果——Lory模型，论文提出构建完全可微的MoE模型，是...

大数据文摘受权转载自知识分子 图源：pixabay 撰文丨张天蓉2024年初，自然杂志公布了2024年重要的七项科技，其中一項是“蛋白质序列的深度学习模型”。这起源于...

机器之心报道 编辑：Panda WMH-MoE 能优化几乎所有专家，实现起来非常简单。混合专家（MoE）是个好方法，支持着现在一些非常优秀的大模型，比如谷歌家的 Gemi...

直播预告 | 5月14日晚7点，「智猩猩AI新青年讲座」第235讲正式开讲，慕尼黑工业大学视觉实验室陈振宇博士将直播讲解《三维室内场景纹理图生成》欢迎扫码报名~...

机器之心报道 编辑：佳琦模型、专家智能体和数据集都已开源。随着 Llama 3 发布，未来大模型的参数量已飙升至惊人的 4000 亿。尽管每周几乎都有一个声称性能...

2024年3、4月这段时间，很多MoE模型扎堆发布，包括Qwen1.5-MoE、DBRX、Jamba和Mistral等。 下面这个表格列出了部分近期发布的MoE工作MoE模型目前风头正劲，就...

新智元报道编辑：编辑部 【新智元导读】最大开源模型，再次刷爆纪录！Snowflake的Arctic，以128位专家和4800亿参数，成为迄今最大的开源模型。它的特点，是又...