DeepMind终结大模型幻觉？标注事实比人类靠谱、还便宜20倍，全开源

AIGC动态欢迎阅读

原标题：DeepMind终结大模型幻觉？标注事实比人类靠谱、还便宜20倍，全开源
关键字：事实,事实性,模型,注释,长篇
文章来源：机器之心
内容字数：5592字

内容摘要：

机器之心报道
编辑：杜伟DeepMind 这篇论文一出，人类标注者的饭碗也要被砸了吗？
大模型的幻觉终于要终结了？
今日，社媒平台 reddit 上的一则帖子引起网友热议。帖子讨论的是谷歌 DeepMind 昨日提交的一篇论文《Long-form factuality in large language models》（大语言模型的长篇事实性），文中提出的方法和结果让人得出大胆的结论：对于负担得起的人来说，大语言模型幻觉不再是问题了。我们知道，大语言模型在响应开放式主题的 fact-seeking（事实寻求）提示时，通常会生成包含事实错误的内容。DeepMind 针对这一现象进行了一些探索性研究。
首先，为了对一个模型在开放域的长篇事实性进行基准测试，研究者使用 GPT-4 生成 LongFact，它是一个包含 38 个主题、数千个问题的提示集。然后他们提出使用搜索增强事实评估器（Search-Augmented Factuality Evaluator, SAFE）来将 LLM 智能体用作长篇事实性的自动评估器。
对于 SAFE，它利用 LLM 将长篇响应分解为一组单独的事实，并使用

原文链接：DeepMind终结大模型幻觉？标注事实比人类靠谱、还便宜20倍，全开源