标签:不确定性

语义熵识破LLM幻觉!牛津大学新研究登Nature

新智元报道编辑:alan 【新智元导读】近日,来自牛津大学的研究人员推出了利用语义熵来检测LLM幻觉的新方法。作为克服混淆的策略,语义熵建立在不确定性估计...
阅读原文

To Believe or Not to Believe?DeepMind新研究一眼看穿LLM幻觉

新智元报道编辑:庸庸 乔杨 【新智元导读】DeepMind发表了一篇名为「To Believe or Not to Believe Your LLM」的新论文,探讨了LLM的不确定性量化问题,通过...
阅读原文

今日arXiv最热NLP大模型论文:面向不确定性感知的Language Agent

夕小瑶科技说 原创作者 | UALA 引言:面向不确定性的感知的Language AgentLanguage Agent利用大型语言模型(如OpenAI发布的GPT系列、Meta的LLaMA2等)来与外...
阅读原文

今日arXiv最热大模型论文:哈工深新研究发现!无需额外资源,SelectIT方法助力大语言模型精准调优

夕小瑶科技说 原创作者 | 松果 引言:指令调优在大型语言模型中的重要性在当今的人工智能领域,大语言模型(LLMs)已经成为了研究的热点,它们在理解指令和解...
阅读原文

新算法UoT助力AI提问——主动寻求信息,任务完成率提高57.8%

夕小瑶科技说 原创作者 | 松果、Python引言:信息寻求在不确定性环境中的重要性在不确定性环境中,信息寻求的能力至关重要。在许多实际应用中,如医学诊断和...
阅读原文

放射科医生再临危机!国外五大机构联合发布「胸部X光」最新基准

新智元报道编辑:LRS 【新智元导读】「胸部X光」数据集迎来重大变化:包含了医学图像的严重度及医生诊断的不确定度,文中还提出了一种用于CXR疾病分类的解剖...
阅读原文

Michael Jordan:大模型在两个方向仍需“努力”丨智源专访

来源:智源社区 导读回望过去的这一年,大模型的出现永远改变了当前的技术产业格局,却鲜少有人说起大模型真正的致命缺点。 “如果你问 ChatGPT,乌干达总统是...
阅读原文

Michael Jordan:大模型在两个方向仍需“努力”

大数据文摘受权转载自智源社区 采访:李梦佳回望过去的这一年,大模型的出现永远改变了当前的技术产业格局,却鲜少有人说起大模型真正的致命缺点。 “如果你问...
阅读原文

机器学习泰斗Michael Jordan最新报告:去中心化机器学习中的契约、不确定性和激励

新智元报道来源:智源社区【新智元导读】11月3日,机器学习泰斗Michael Jordan发表了题为Contracts, Uncertainty, and Incentives in Decentralized Machine ...
阅读原文

多模态物体幻觉下降23%!UNC斯坦福等推出通用修正器LURE:兼容任意LVLM,专攻三大幻觉成因

新智元报道编辑:LRS【新智元导读】基于LVLM幻觉频发的三个成因(物体共现、物体不确定性、物体位置),北卡教堂山、斯坦福、哥大、罗格斯等大学的研究人员提...
阅读原文