打脸“AI灭绝伦”！研究反驳：大模型涌现能力不会威胁人类生存

AIGC动态欢迎阅读

原标题：打脸“AI灭绝伦”！研究反驳：大模型涌现能力不会威胁人类生存
关键字：模型,能力,指令,任务,上下文
文章来源：大数据文摘
内容字数：0字

内容摘要：

大数据文摘受权转载自学术头条
大语言模型（LLM）因“涌现能力”（emergent abilities）而拥有了超出人类预期的技能，但也因此让人类十分忌惮：操纵、欺骗人类，自主实施网络攻击，自动化生物研究……
然而，也有专家认为，这种过度的担忧会损害开源和创新，不利于人工智能（AI）行业的健康发展。当前，有关“AI 灭绝伦”的争论愈演愈烈。
那么，“涌现能力”真的是导致 AI 大模型威胁人类生存的罪魁祸首吗？一项最新研究否定了这一观点。
来自达姆施塔特工业大学和巴斯大学的研究团队发现，GPT 等 LLM 尚无法独立地学习或获得新技能，这意味着它们不会对人类构成生存威胁。
他们表示，“涌现能力” 背后的真相或许比科幻电影更富有戏剧性，许多所谓的“涌现能力”，其实都是 AI 大模型在面对不熟悉的任务时，依赖于已有的数据和经验做出的“即兴表演”。
相关研究论文以 “Are Emergent Abilities in Large Language Models just In-Context Learning?” 为题，已发表在 AI 顶会国际计算语言学年会（ACL）上。
他们通过一系

原文链接：打脸“AI灭绝伦”！研究反驳：大模型涌现能力不会威胁人类生存

联系作者

文章来源：大数据文摘
作者微信：
作者简介：