讯飞星辰MaaS

讯飞星辰MaaS – 科大讯飞推出的AI大模型定制微调平台

讯飞星辰MaaS是科大讯飞推出的一款AI大模型定制微调平台，旨在帮助用户创建专属的个性化大模型。该平台汇聚了20多款行业知名的高质量模型，如星火大模型、Llama3和DeepSeek等，支持零代码微调，显著降低了大模型精调的门槛。讯飞星辰MaaS涵盖数据管理、模型微调、评估、托管和推理等服务，实现大模型的全生命周期管理，适用于内容创作、代码生成、逻辑推理等多种应用场景。

讯飞星辰MaaS是什么

讯飞星辰MaaS是由科大讯飞开发的AI大模型定制微调平台，用户可以在此平台上创建和调整专属的定制大模型。该平台整合了20多款行业内顶尖的优质模型，如星火大模型、Llama3和DeepSeek，支持零代码微调，帮助用户轻松实现大模型的精细调优。讯飞星辰MaaS提供全面的数据管理、模型微调、评估、托管和推理服务，支持多种场景的应用，如内容创作、编程和逻辑推理。

该平台在模型和数据集的丰富性以及功能特性上进行了全新升级，强化了数据工程能力，支持多种数据集格式，并提供高级参数配置，以满足专业开发者的需求。

讯飞星辰MaaS的主要功能

• 模型微调和部署
  • 模型集成：整合超过20款行业知名优质模型，包含讯飞星火、Llama3、SD-XL等。
  • 开源模型精调：引入书生系列、Qwen2.5系列等多个开源模型进行精调。
  • 新增模型：推出Spark Max、Spark Mini、Spark Tiny等星火自研模型，以满足不同业务需求。

• 数据集构建和管理
  • 数据工程能力：基于问答抽取、数据增强和prompt工程等多维度，构建全面的数据工程能力。
  • 数据集格式支持：支持多种数据集格式，包括ShareGPT、Alpaca等，实现主流数据集格式的兼容。
  • 自动拆分测试集：平台能够自动从训练集中拆分出一定比例的数据作为测试集，以便在训练后进行验证和效果展示。
  • 批量推理：支持最多10个模型同时在线进行批量推理，大幅提升数据处理效率，适合需要处理大量数据的场景。

• 功能特性升级
  • 兼容性与迁移支持：兼容OpenAI协议，使依赖OpenAI API的企业能够无缝迁移至国产大模型，实现技术的平稳过渡。
  • 功能增强与扩展：支持function_call精调训练，调用外部工具，增强大语言模型的能力。
  • 模型训练与评估：支持展示Loss曲线，实时监控模型训练效果，并可动态调整训练策略。同时，裁判员模型用于评判模型效果的优劣。
  • 高级参数配置：支持分词长度、Lora Merge、UnSloth等特性配置。
• API矩阵：构建丰富且高性价比的API矩阵，提供不同版本的API服务，如Spark Pro、Ultra和Max版本，支持不同长度的上下文和Batch版本API。

如何使用讯飞星辰MaaS

• 注册和登录：访问讯飞星辰MaaS的官方网站，创建新账户或使用现有账户登录。
• 了解平台服务：浏览平台提供的服务和功能，熟悉不同模型的特点及其适用场景。
• 选择模型：根据业务需求选择合适的预训练模型，讯飞星辰提供多种模型供选择，包括星火系列和Llama3等。
• 数据准备：准备或选择适合的数据集进行微调。平台支持多种数据集格式，并提供数据增强工具以帮助构建高质量的数据集。
• 模型微调：利用平台提供的工具对所选模型进行微调，包括上传数据集、配置微调参数等步骤。
• 模型评估：使用评估工具对微调后的模型进行效果评估，例如查看Loss曲线，使用裁判员模型进行效果对比等。
• 模型部署：将训练好的模型部署到实际应用中。讯飞星辰支持模型托管和推理服务，便于模型的快速应用。
• API调用：如有需要，可基于讯飞星辰提供的API进行模型调用，实现模型服务的集成。

讯飞星辰MaaS的应用场景

• 逻辑推理：构建智能问答系统，基于逻辑推理提供决策支持，帮助用户快速获取信息与解决方案。
• 数据管理：通过自动化的数据标注和清洗，提升数据准备的效率与质量，为AI模型训练奠定坚实的数据基础。
• 模型微调和评估：根据不同的业务需求定制AI模型，通过微调和评估优化模型性能，适应特定的应用场景。
• 托管和推理服务：将训练好的AI模型部署到云端或边缘设备，提供稳定可靠的在线推理服务，支持高并发请求。
• 多模态应用：训练并构建多模态应用，在图像和语音识别领域，提供智能分析和处理能力，例如自动识别图像内容和转换语音为文本。