标签:模型

AI学会篡改奖励函数、研究者!Claude团队:无法根除的行为,令人不安

梦晨 发自 凹非寺量子位 | 公众号 QbitAI坏了!AI被发现偷偷篡改自己的奖励函数,并且欺骗研究人员,隐瞒这一行为。 只需要给AI一个隐藏的“草稿纸”,研究人员...
阅读原文

无需人类或GPT-4打标签!南大&旷视研究院无监督范式大幅降低视觉大模型对齐成本

旷视研究院 投稿量子位 | 公众号 QbitAI不用打标签,也能解决视觉大模型的偏好对齐问题了。 南大与旷视研究院的研究人员,推出了适用于VLM的无监督范式。 对...
阅读原文

对话王小川:除了杀时间、省时间,「加时间」才是 AI 应用的好赛道

明明是最懂大 DAU 应用的大模型创业者,却最晚发布 toC 应用; 明明 2023 年的动作风驰电掣,今年却只迭代了一版模型; 明明大家都在做泛娱乐、效率工具,他...
阅读原文

最新研究:大模型已涌现出能力!钻漏洞、偷偷篡改奖励函数,GPT-4人类高达99.16%

夕小瑶科技说 原创作者 | 付奶茶 昨天,Anthropic发布的最新版本Claude 3.5 Sonnet让AI圈激动了一把,不止如此,Anthropic联合牛津大学又带来了一篇非常有意...
阅读原文

原生鸿蒙AI浓度要爆表了:鸿蒙原生智能加持,华为小艺进化成系统级智能体

明敏 白交 发自 凹非寺量子位 | 公众号 QbitAI“鸿蒙原生智能”Harmony Intelligence来了! 一年一度华为开发者大会上,余承东首次揭秘。 而在Harmony Intellig...
阅读原文

AI照妖镜一眼判真假:网页图像视频都能鉴,边播边识别,清华独角兽成果

克雷西 发自 清华科技园量子位 | 公众号 QbitAI每个人都能拥有有检测AI造假的“照妖镜”了! 清华系独角兽初创公司,发布了面向个人的产品级检测工具,可以让AI...
阅读原文

百万级高质量视频数据集发布,登顶抱抱脸数据集排行榜,中科大&上海AI Lab等出品

ShareGPT4V团队 投稿量子位 | 公众号 QbitAI中科大、上海AI实验室等组成的ShareGPT4V团队,推出了新的视频数据集,登顶HuggingFace排行榜! 数据集涵盖了3000...
阅读原文

全球首个全学科智适应教育大模型升级!AI孔子/达芬奇/爱因斯坦组团当家教

新智元报道编辑:编辑部 【新智元导读】最近,松鼠Ai的多模态智适应教育大模型全新升级了!大模型凭借多模态的功能,深度解析学生解题过程的每一步,降低学生...
阅读原文

《Python 机器学习》作者新作:从头开始构建大型语言模型,代码已开源

机器之心报道 机器之心编辑部自 ChatGPT 发布以来,大型语言模型(LLM)已经成为推动人工智能发展的关键技术。 近期,机器学习和 AI 研究员、畅销书《Python ...
阅读原文

墙裂推荐!Karpathy大模型培训课LLM101n上线了,非常基础

机器之心报道 机器之心编辑部让我们训练一个 Storyteller。今天外网又被 Andrej Karpathy 这一良心课程刷屏了! 项目是 11 小时前被 Karpathy 上传到 Github ...
阅读原文

华为盘古大模型5.0技术解密:更多模态,复杂推理

机器之心报道 编辑:泽南现在,AI 大模型可以真正与物理世界结合了。该大模型体系分为 10 亿级参数的 Pangu E 端侧模型,百亿级参数的 Pangu P,千亿级的 Pan...
阅读原文

字节豆包全新图像Tokenizer:生成图像最低只需32个token,最高提速410倍

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年,机器之心AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术...
阅读原文

华为盘古 5.0 强势登场:参数跃升万亿级,理解能力突破至感应 level,团队亲述幕后黑科技!

作者 | 华卫 在 6 月 21 日的华为开发者大会上,华为云盘古大模型 5.0 重磅亮相。此次,盘古 5.0 在全系列、多模态、强思维三个方面全新升级,并推出了适配...
阅读原文

20年内实现AGI!李开复与张亚勤共同预测:无人驾驶领头,大模型六波应用潮流随后

整理 |华卫 6 月 14 日,零一万物 CEO 李开复和中国工程院院士、清华大学智能产业研究院(AIR)院长张亚勤,在 2024 北京智源大会由智源研究院理事长黄铁军...
阅读原文

智源联合多所高校推出首个多任务长视频评测基准 MLVU:GPT-4o 单选正确率不到 65%

作者 | 智源研究院 MLVU 团队 当前,研究社区亟需全面可靠的长视频理解评估基准,以解决现有视频理解评测基准在视频长度不足、类型和任务单一等方面的局限性...
阅读原文