AI学会隐藏思维暗中推理!不依赖人类经验解决复杂任务,更黑箱了

AIGC动态7个月前发布 量子位
6 0 0

AI学会隐藏思维暗中推理!不依赖人类经验解决复杂任务,更黑箱了

AIGC动态欢迎阅读

原标题:AI学会隐藏思维暗中推理!不依赖人类经验解决复杂任务,更黑箱了
关键字:准确率,问题,任务,数字,复杂度
文章来源:量子位
内容字数:3950字

内容摘要:


梦晨 发自 凹非寺量子位 | 公众号 QbitAIAI做数学题,真正的思考居然是暗中“心算”的?
纽约大学团队新研究发现,即使不让AI写步骤,全用无意义的“……”代替,在一些复杂任务上的表现也能大幅提升!
一作Jacab Pfau表示:只要花费算力生成额外token就能带来优势,具体选择了什么token无关紧要。
举例来说,让Llama 34M回答一个简单问题:自然常数e的前6位数字中,有几个大于5的?
AI直接回答约等于瞎捣乱,只统计前6位数字居然统计出7个来。
让AI把验证每一数字的步骤写出来,便可以得到正确答案。
让AI把步骤隐藏,替换成大量的“……”,依然能得到正确答案!
这篇论文一经发布便掀起大量讨论,被评价为“我见过的最玄学的AI论文”。
那么,年轻人喜欢说更多的“嗯……”、“like……”等无意义口癖,难道也可以加强推理能力?
从“一步一步”想,到“一点一点”想实际上,纽约大学团队的研究正是从思维链(Chain-of-Thought,CoT)出发的。
也就是那句著名提示词“让我们一步一步地想”(Let‘s think step by step)。
过去人们发现,使用CoT


原文链接:AI学会隐藏思维暗中推理!不依赖人类经验解决复杂任务,更黑箱了

联系作者

文章来源:量子位
作者微信:QbitAI
作者简介:追踪人工智能新趋势,关注科技行业新突破

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...