标签：权重

这两年大家都在感叹生活不易，然而我想说的是，机会还是有的，但问题不在于有没有，而在于你是否能够认准机会，然后抓住它。 接触过很多咨询项目的人，发现...

机器之心报道 编辑：蛋酱、佳琪去掉一个「超权重」的影响，比去掉其他 7000 个离群值权重加起来还要严重。大模型的参数量越来越大，越来越聪明，但它们也越来...

新智元报道编辑：桃子 LRS 【新智元导读】哈佛斯坦福MIT等机构首次提出「精度感知」scaling law，揭示了精度、参数规模、数据量之间的统一关系。数据量增加，...

西风 发自 凹非寺量子位 | 公众号 QbitAI4-bit量化，能让现有反学习/机器遗忘技术失灵！ 也就是大模型在人类要求下“假装”忘记了特定知识（版权、私人内容等）...

大会预告12月5日-6日，2024中国生成式AI大会（上海站）将举办。上海科大助理教授、博导顾家远，腾讯优图实验室天衍研究中心负责人吴贤，银河通用机器人合伙人...

机器之心报道 作者：泽南、小舟研究表明，你训练的 token 越多，你需要的精度就越高。最近几天，AI 社区都在讨论同一篇论文。 UCSD 助理教授 Dan Fu 说它指明...

DuQuant团队 投稿量子位 | 公众号 QbitAI消除激活值(outliers)，大语言模型低比特量化有新招了—— 自动化所、清华、港城大团队最近有一篇论文入选了NeurIPS 20...

开讲预告11月7日晚7点，上海 AI Lab OpenGVLab 博士后研究员罗根，将以《Mono-InternVL: 突破原生多模态大模型性能瓶颈》为主题进行直播讲解，欢迎扫码报名~...

文章转载自公众号：AIGC开放社区，本文只做学术/技术分享，如有侵权，联系删文。 全球社交巨头Meta开源了首个轻量级量化版模型Llama 3.2，一共有10亿和30亿两...

来源：返朴 演讲：杰弗里·辛顿 翻译：陈国华（北京外国语大学外国语言研究所教授）2024 年 4 月 8 日辛顿获得尤利西斯奖章，以表彰他对计算机科学人工智能领...

夕小瑶科技说 原创作者 | Juntao Zhao等本文作者来自香港大学和哈尔滨工业大学。其中共同第一作者分别为来自香港大学Netexplo实验室的博士生Juntao Zhao、She...

西风 发自 凹非寺量子位 | 公众号 QbitAI微软开源1bit大模型推理框架！ 现在1000亿参数大模型量化后单CPU可跑，速度可达每秒5-7个token。 比如在苹果M2新品上...

PACMAN实验室投稿量子位 | 公众号 QbitAI一键部署LLM混合精度推理，端到端吞吐比AWQ最大提升6倍！ 清华大学计算机系PACMAN实验室发布开源混合精度推理系统——M...

梦晨 发自 凹非寺量子位 | 公众号 QbitAI欧洲的OpenAI，也不Open了。 Mistral AI发布自称“世界上最好的边缘模型”，却陷入质疑和争议。 不仅因为这一次没有磁...

2023 年 5月份，Hinton 宣布离开谷歌，对于 AI 的一系列发言也引起了轩然大波。随后，在 5 月 3 日 MIT 的一场分享上，Hinton 比较完整地讲述了他对于 AI 的...

机器之心报道 编辑：蛋酱十天前的 Meta Connect 2024 大会上，开源领域迎来了可在边缘和移动设备上的运行的轻量级模型 Llama 3.2 1B 和 3B。两个版本都是纯文...