GPT-4也难逃“反转诅咒”！新研究发现：大模型存在推理缺陷，知道“A是B”推不出“B是A”

AIGC动态欢迎阅读

原标题：GPT-4也难逃“反转诅咒”！新研究发现：大模型存在推理缺陷，知道“A是B”推不出“B是A”

关键字：模型,研究人员,准确率,牛津大学,量子

文章来源：量子位

内容字数：3508字

内容摘要：鱼羊 发自 凹非寺量子位 | 公众号 QbitAI大模型明知道“你妈是你妈”，却答不出“你是你妈的儿子”？？这么一项新研究，刚一发表就引燃了全场讨论。来自范德堡大学、萨塞克斯大学、牛津大学等研究机构的研究人员惊讶地发现：一个大语言模型在训练时被喂进了“A是B”这种形式的数据，它并不会自动反推出“B是A”。大模型存在“反转诅咒”现象。甚至强如GPT-4，在反向问题实验中，正确率也只有33%。Open…

原文链接：点此阅读原文：GPT-4也难逃“反转诅咒”！新研究发现：大模型存在推理缺陷，知道“A是B”推不出“B是A”

联系作者

文章来源：量子位

作者微信：QbitAI

作者简介：追踪人工智能新趋势，关注科技行业新突破