LLM会写代码≠推理+规划！AAAI主席揭秘：代码数据质量太高｜LeCun力赞

AIGC动态欢迎阅读

原标题：LLM会写代码≠推理+规划！AAAI主席揭秘：代码数据质量太高｜LeCun力赞
关键字：代码,模型,质量,能力,自然语言
文章来源：新智元
内容字数：9496字

内容摘要：

新智元报道编辑：LRS
【新智元导读】亚利桑那州立大学教授揭秘代码生成质量高的原因：语言模型是一个近似检索器，GitHub代码质量高，而文本数据中价值观冲突太多，仅此而已！自从ChatGPT发布后，各种基于大模型的产品也快速融入了普通人的生活中，但即便非AI从业者在使用过几次后也可以发现，大模型经常会胡编乱造，生成错误的事实。
不过对于程序员来说，把GPT-4等大模型当作「代码辅助生成工具」来用的效果明显要比「事实检索工具」要好用很多，因为代码生成往往会涉及到复杂的逻辑分析等，所以也有人将这种推理（广义规划）能力归因于大型语言模型（LLM）的涌现。
学术界也一直在就「LLM能否推理」这个问题争论不休。最近，计算机科学家、亚利桑那州立大学教授Subbarao Kambhampati（Rao）以「LLM真的能推理和规划吗？」（Can LLMs Really Reason & Plan?）为题，全面总结了语言模型在推理和规划方面的研究成果，其中也谈到了LLM的代码生成与推理能力的关联。视频链接：https://www.youtube.com/watch?v=uTXXYi75QCU
PPT链

原文链接：LLM会写代码≠推理+规划！AAAI主席揭秘：代码数据质量太高｜LeCun力赞