AI学会隐藏思维暗中推理！不依赖人类经验解决复杂任务，更黑箱了

AIGC动态欢迎阅读

原标题：AI学会隐藏思维暗中推理！不依赖人类经验解决复杂任务，更黑箱了
关键字：准确率,问题,任务,数字,复杂度
文章来源：量子位
内容字数：3950字

内容摘要：

梦晨发自凹非寺量子位 | 公众号 QbitAIAI做数学题，真正的思考居然是暗中“心算”的？
纽约大学团队新研究发现，即使不让AI写步骤，全用无意义的“……”代替，在一些复杂任务上的表现也能大幅提升！
一作Jacab Pfau表示：只要花费算力生成额外token就能带来优势，具体选择了什么token无关紧要。
举例来说，让Llama 34M回答一个简单问题：自然常数e的前6位数字中，有几个大于5的？
AI直接回答约等于瞎捣乱，只统计前6位数字居然统计出7个来。
让AI把验证每一数字的步骤写出来，便可以得到正确答案。
让AI把步骤隐藏，替换成大量的“……”，依然能得到正确答案！
这篇论文一经发布便掀起大量讨论，被评价为“我见过的最玄学的AI论文”。
那么，年轻人喜欢说更多的“嗯……”、“like……”等无意义口癖，难道也可以加强推理能力？
从“一步一步”想，到“一点一点”想实际上，纽约大学团队的研究正是从思维链（Chain-of-Thought，CoT）出发的。
也就是那句著名提示词“让我们一步一步地想”（Let‘s think step by step）。
过去人们发现，使用CoT

原文链接：AI学会隐藏思维暗中推理！不依赖人类经验解决复杂任务，更黑箱了