GPT-4不知道自己错了！ LLM新缺陷曝光，自我纠正成功率仅1%，LeCun马库斯惊呼越改越错

AIGC动态欢迎阅读

原标题：GPT-4不知道自己错了！ LLM新缺陷曝光，自我纠正成功率仅1%，LeCun马库斯惊呼越改越错

关键字：研究人员,自我,模型,提示,颜色

文章来源：新智元

内容字数：9228字

内容摘要：新智元报道编辑：桃子 润【新智元导读】GPT-4根本不知道自己犯错？最新研究发现，LLM在推理任务中，自我纠正后根本无法挽救性能变差，引AI大佬LeCun马库斯围观。大模型又被爆出重大缺陷，引得LeCun和马库斯两位大佬同时转发关注！在推理实验中，声称可以提高准确性的模型自我纠正，把正确率从16%「提高」到了1%！简单来说，就是LLM在推理任务中，无法通过自我纠正的形式来改进输出，除非LLM在自我…

原文链接：点此阅读原文：GPT-4不知道自己错了！ LLM新缺陷曝光，自我纠正成功率仅1%，LeCun马库斯惊呼越改越错

联系作者

文章来源：新智元

作者微信：AI_era

作者简介：智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人对人类社会与文明进化的影响，领航中国新智能时代。