大模型微调（Fine-Tuning）全流程思考

冬令营优秀学习笔记（二）

原标题：大模型微调（Fine-Tuning）全流程思考
文章来源：智猩猩GenAI
内容字数：6294字

讯飞MaaS平台大模型微调及应用指南

本文总结了基于讯飞MaaS平台进行大模型微调及应用开发的七个关键步骤，旨在帮助开发者快速理解并应用相关技术。

1. 大模型微调流程

   强调微调过程的严谨性，建议严格按照步骤进行，避免因跳步导致的低效甚至无效工作。特别指出数据集构建的重要性，其质量直接影响微调效果。

2. 方案构思与落地

   在正式开始前，需要明确目标、预期效果、模型类型（大模型或封装产品）、创新点（专业领域深耕、已有模型衔接或两者结合）。 文章介绍了Agent（基于LLM的智能实体）和Workflow（完成任务的步骤和过程）的概念，并说明在讯飞MaaS平台上如何实现。

3. 数据集的获取与构建

   介绍了两种数据集获取方式：公开数据集（如GitHub、Hugging Face、魔搭等平台）和自行构建数据集。对于难以获得的数据，建议先少量人工创建（例如50条），再利用讯飞MaaS平台的数据增强功能扩充数据，或利用大模型辅助生成数据，并强调需要精细检查大模型生成的数据，并迭代改进prompt。

   文章详细介绍了数据的清洗过程，以及使用AIpaca格式构建微调数据集，并阐述了AIpaca的结构（instruction、input、output、system、history）及其意义。

4. 模型基底的比较

   选择合适的模型基底至关重要。文章以讯飞MaaS平台上的Llama3模型为例，说明如何处理其英文语料为主的问题，例如通过输入中文数据集进行全参数微调和LoRA训练，或在system部分加入“请输出中文”的提示。

5. 模型训练

   介绍了模型训练过程中的参数选择，特别强调“训练次数”的重要性，指出数据集规模与训练次数的匹配关系，以及过拟合问题的预防。

6. 效果的评估

   强调客观和主观标准相结合的评估方法，包括loss曲线分析（解释了欠拟合和过拟合的表现）和根据产品预期目标进行主观评估。

7. 模型的发布

   提供模型发布后的API调用地址和相关文档，并指出在商业应用场景下需要考虑成本问题，例如比较不同技术路径（单模型长Prompt vs. 多模型Workflow）的成本差异。

总而言之，本文提供了一个完整的大模型微调和应用开发流程指南，涵盖了从方案构思到模型发布的各个环节，并结合讯飞MaaS平台的特点，提供了具体的实践建议。

联系作者

文章来源：智猩猩GenAI
作者微信：
作者简介：智猩猩旗下公众号之一，深入关注大模型与AI智能体，及时搜罗生成式AI技术产品。