无需OpenAI数据，跻身代码大模型榜单！UIUC发布StarCoder-15B-Instruct

AIGC动态欢迎阅读

原标题：无需OpenAI 数据，跻身代码大模型榜单！UIUC发布StarCoder-15B-Instruct
关键字：模型,数据,指令,代码,函数
文章来源：新智元
内容字数：13782字

内容摘要：

新智元报道编辑：LRT
【新智元导读】通过StarCoder2-15B生成数千个指令-响应对，直接对StarCoder-15B基座模型进行微调，无需依赖昂贵的人工标注数据，也无需从GPT4等商业大模型中获取数据，StarCoder2-15B-Instruct成功挤进HumanEval榜单。在软件技术的前沿，UIUC张令明组携手BigCode组织的研究者，近日公布了StarCoder2-15B-Instruct代码大模型。
这一创新成果在代码生成任务取得了显著突破，成功超越CodeLlama-70B-Instruct，登上代码生成性能榜单之巅。StarCoder2-15B-Instruct的独特之处在于其纯自对齐策略，整个训练流程公开透明，且完全自主可控。
该模型通过StarCoder2-15B生成数千个指令-响应对，直接对StarCoder-15B基座模型进行微调，无需依赖昂贵的人工标注数据，也无需从GPT4等商业大模型中获取数据，避免了潜在的版权问题。
在HumanEval测试中，StarCoder2-15B-Instruct以72.6%的Pass@1成绩脱颖而出，较CodeLla

原文链接：无需OpenAI数据，跻身代码大模型榜单！UIUC发布StarCoder-15B-Instruct