挥舞起代码语料的魔杖,大模型和智能体将召唤出更强大的能量

AIGC动态10个月前发布 机器之心
13 0 0

挥舞起代码语料的魔杖,大模型和智能体将召唤出更强大的能量

AIGC动态欢迎阅读

原标题:挥舞起代码语料的魔杖,大模型和智能体将召唤出更强大的能量
关键字:研究人员,能力,自然语言,反馈,任务
文章来源:机器之心
内容字数:5185字

内容摘要:


机器之心专栏
作者:杨可、刘嘉腾正如瑞斯福兹魔杖缔造了诸如邓布利多在内的历代非凡魔法师的传奇,具有巨大潜能的传统大型语言模型,在经过代码语料的预训练 / 精调后,掌握了更超出本源的执行力。
具体来说,进阶版的大模型在编写代码、更强推理、自主援引执行接口、自主完善等方面都获得了提升,这将为它作为 AI 智能体、执行下游任务时方方面面带来增益。
近日,伊利诺伊大学厄巴纳 – 香槟分校(UIUC)的研究团队发布了一项重要综述。论文链接: https://arxiv.org/abs/2401.00812
这篇综述探讨了代码(Code)如何赋予大型语言模型(LLMs)及其基于此的智能体(Intelligent Agents)强大的能力。其中,code 特指机器可执行且人类可读的形式语言,如编程语言、预定义函数集等。类似于我们指导 LLMs 理解 / 生成传统自然语言,让 LLMs 精通 code,仅需要将相同的语言建模训练目标应用在 code 数据上。
和传统语言模型不同,当今通用的 LLMs,如 Llama2、GPT4,不仅在体量上显著提升,并且它们经历了独立于典型自然语言语料的 code 语


原文链接:挥舞起代码语料的魔杖,大模型和智能体将召唤出更强大的能量

联系作者

文章来源:机器之心
作者微信:almosthuman2014
作者简介:专业的人工智能媒体和产业服务平台

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...