标签:幻觉

老外整了个领先的幻觉检测模型Lynx

夕小瑶科技说 原创作者 | 谷雨龙泽 大家想必都知道,AI用着用着就容易“胡言乱语”,我们把这种现象叫做“AI幻觉”。 简单来说,幻觉就是当AI模型在生成内容或回...
阅读原文

OpenAI Lilian Weng万字长文解读LLM幻觉:从理解到克服

机器之心报道 编辑:Panda WLilian Weng 出品,必是精品。人会有幻觉,大型语言模型也会有幻觉。近日,OpenAI 安全系统团队负责人 Lilian Weng 更新了博客,...
阅读原文

Nature重磅:大模型的谎言如何“破”?牛津团队提出新方法,无需人工监督或特定领域知识

大数据文摘授权转载自学术头条 世界卫生组织(WHO)的人工智能健康资源助手 SARAH 列出了旧金山本不存在的诊所的虚假名称和地址。 Meta公司“短命”的科学聊天...
阅读原文

大模型「幻觉」全无?图神经网络成破解核心,精准预测因果消除「幻觉」

新智元报道编辑:Henry 【新智元导读】Alembic首次推出用于企业数据分析和决策支持的无「幻觉」人工智能。原来大模型的「幻觉」,真的可以完全消除! 近日,A...
阅读原文

可信度超越GPT-4V,清华&面壁揭秘「小钢炮」模型背后的高效对齐技术

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年,机器之心AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术...
阅读原文

让用户吃石头,给披萨涂胶水,Google AI 搜索疯了吗

让Google 为你 进行搜索福无双至,祸不单行,Google 又又又「翻车」了。 2023 年 2 月,追赶 ChatGPT 的 Bard,公开犯了事实错误;2023 年 12 月,Gemini 侃...
阅读原文

今日arXiv最热大模型论文:浙江大学:如何减轻视觉大模型中的幻觉问题

夕小瑶科技说 原创作者 | 谢年年大模型虽然能力强,但一直饱受“幻觉”问题的困扰,在视觉大模型(LVLMs)中更是如此,生成的文本包含与视觉输入不正确的对象、...
阅读原文

丹尼尔丹内特的十个了不起的观点

来源:混沌巡洋舰 丹尼尔·丹尼特(Daniel Dennett)在四月份去世,享年82岁。他是心灵哲学领域的杰出人物,以其坚定的物理主义立场(physicalist stance)而...
阅读原文

北大发现了一种特殊类型的注意力头!

夕小瑶科技说 原创作者 | 任同学检索头的发现或许将有力地帮助大模型领域在提高长上下文推理能力、减少幻觉和压缩KV缓存方面的研究。 从 Claude100K 到 Gemin...
阅读原文

中科大发布Agent-FLAN,微调提升Agent能力

夕小瑶科技说 原创作者 | 松果 引言:探索大型语言模型作为智能代理的挑战与机遇随着大语言模型(LLMs)在各种自然语言处理任务中取得巨大成功,将这些模型作...
阅读原文

《大模型决策制定中的幻觉检测》综述

来源:专知 自主系统很快将无处不在,从制造业自主性到农业领域的机器人,再从医疗保健助手到娱乐产业。这些系统的大多数都是用于决策、规划和控制的模块化子...
阅读原文

今日arXiv最热NLP大模型论文:华东师大发布对话级大模型幻觉评价基准DiaHalu

夕小瑶科技说 原创作者 | Tscom随着人工智能领域的快速发展,大语言模型(LLMs)在自然语言处理(NLP)的多个领域取得了显著的成功。这些模型通过自然语言生...
阅读原文

老黄再曝惊人语录:LLM幻觉有解,AGI五年内必来!

新智元报道编辑:编辑部 【新智元导读】AGI竞赛,正在大科技公司之间紧锣密鼓地展开,作为万亿显卡帝国掌舵人的老黄自然也不会缺席。在最近举办的GTC 2024上...
阅读原文

“幻觉”问题根本无解!为什么我们的大模型会“说胡话”?

来源:CSDN 整理:王启隆 “幻觉”(Hallucination),现在已经是大语言模型领域无人不知、无人不晓的热词。我们在和 ChatGPT 等聊天机器人对话的时候,有时会...
阅读原文

逼迫大模型消除幻觉,就像杨永信电击治疗网瘾少年

夕小瑶科技说 原创作者 | 智商掉了一地在科技高速发展的领域,进步往往伴随着争议。数字化时代,我们被海量信息所环绕,利用大模型来提取信息和生成答案,有...
阅读原文