标签:系统
商汤科技研究副总监龚睿昊:大语言模型量化和 LightLLM 高性能推理部署系统设计
12月5日上午10点,智猩猩AI教研组推出「大模型微调与推理部署线上闭门会」。闭门会由北京航空航天大学人工智能研究院助理教授郭晋阳参与出品。Monash Univers...
LLM生成延迟降低50%!DeepSpeed团队发布FastGen:动态SplitFuse技术,提升2.3倍有效吞吐量
新智元报道编辑:LRS【新智元导读】DeepSpeed-FastGen结合MII和DeepSpeed-Inference实现LLM高吞吐量文本生成。GPT-4和LLaMA这样的大型语言模型(LLMs)已在各...
套壳 OpenAI 活不久的 AI 初创公司,可以从 GitHub Copilot 中学到什么?
来源:AI科技大本营(ID:rgznai100)翻译工具:ChatGPT责编:苏宓【编者按】OpenAI CEO Sam Altman 曾在 YC 校友会上表示,「简单包装 OpenAI 的公司注定无...
大模型+自动驾驶=?普渡大学等最新《自动驾驶领域多模态大型语言模型》综述
来源:专知随着大型语言模型(LLMs)和视觉基础模型(VFMs)的出现,利用大型模型的多模态AI系统有潜力像人类一样感知现实世界、做出决策和控制工具。近几个...
美国、英国和其他十几个国家签署协议,让人工智能“通过设计实现安全”
点击上方蓝字关注我们“ 英国国家网络安全中心(NCSC)和美国网络安全与基础设施安全局(CISA)制定了全球首个人工智能网络安全指南。这些建议旨在帮助开发者...
超级AI不会主宰人类,但人工智能必须开源!LeCun最新采访引全网300万人围观
新智元报道编辑:编辑部【新智元导读】LeCun最新访谈视频中,再次坦露了自己对开源AI的看法。超级AI终有一天会诞生,但不会主宰人类。LeCun一段近5分的视频,...
中科大蒋彬课题组开发 FIREANN,分析原子对外界场的响应
By 超神经内容一览:使用传统方法分析化学系统与外场的相互作用,具有效率低、成本高等劣势。中国科学技术大学的蒋彬课题组,在原子环境的描述中引入了场相关...
Reno11 评测:主流是怎么变成潮流的
好看好拿也要好用在 QuestMobile 的 2023 中国移动互联网秋季报告里,OPPO Reno10 系列是 9 月激活数最多的设备之一,仅一个月就有超过 300 万台手机被激活,...
生命主动推理的数学范畴描述
来源:CreateAMindhttps://arxiv.org/abs/2109.04461简介:那些我们可以归类为“控制论的”、“适应性的”或“活的”的系统都显示出一个基本的属性 :它们抵制将它们...
把大模型装进手机,AI帮我打工更容易了
明敏 萧箫发自 凹非寺量子位 | 公众号 QbitAI如今大模型进手机是真的火啊。各大手机厂商发布会都标配大模型,而且直接真刀真枪来现场演示。喏,在ODC 2023大...
操作系统三分天下,鸿蒙系统将不兼容安卓?华为回应
来源:深城物联综合自澎湃新闻、证券时报、第一财经、上游新闻近日,有消息称华为可能明年推出不兼容安卓的鸿蒙版本。11月20日,据澎湃新闻报道,一华为相关...
由AI生成的假设可能会揭示研究中的“盲点”
点击上方蓝字关注我们人工智能正在提出那些人类希望回答的问题“ 人工智能(AI)在科学研究中的创造性角色越来越重要。AI已经被用于文献搜索、数据收集、统计...
AndesGPT加潘塔纳尔:生成式AI端侧落地,OPPO给了我们答案
机器之心报道机器之心编辑部自研系统加大模型,新一代手机的标配?自 ChatGPT 问世已来,我们正在见证新的技术革命,手机厂商更是纷纷高调宣称正在部署大模型...
Agent4Rec来了!大模型智能体构成推荐系统模拟器,模拟真实用户交互行为
机器之心专栏机器之心编辑部一直以来,推荐系统领域面临模型线上线下效果差距大的痛点问题,昂贵的线上 A/B 测试成本使得广大研究人员望而却步,也造成学术界...
最强AI芯片英伟达H200深夜发布,Llama2-70B推理提速90%,2024年二季度发货
机器之心报道编辑:蛋酱、陈萍芯片巨头英伟达,又打出一张王牌。英伟达在 2023 年全球超算大会(SC2023)上发布了目前世界上最强的 AI 芯片 H200。这款新的 G...