Macaron-V1

Macaron-V1 – MindLab 推出的后训练多能力模型系统

Macaron-V1,由 MindLab 匠心打造,是一款性的后训练多能力模型系统。它以 GLM 5.2 为坚实基座,通过精妙的强化学习技术,针对约 0.5% 的核心参数进行了 LoRA 微调。其独创的 Mixture-of-LoRA(MoL)架构,如同一个智慧的集市,汇聚了 Chat、Agent、Coding、UI 四个各具专长的专家。一个智能的 Router 扮演着引路人的角色,根据用户需求,按需激活相应的专家,从而彻底杜绝了不同能力间可能产生的干扰,确保了各司其职,高效运作。

Macaron-V1 的核心亮点

  • MoL 后训练架构的精妙之处:此架构选择冻结基座的全部权重,仅微调约 0.5% 的关键参数。四个的 LoRA 专家模块,如同训练有素的特种兵,各自在的适配空间中优化,绝不相互干涉。这意味着,当需要新增一项能力时,只需再“挂载”一个 LoRA 模块即可,极大地简化了能力的扩展过程。
  • 双模型变体,满足多样化需求:Macaron V1 提供了旗舰版 Venti 和轻量版 Tall。Venti 版本拥有 748B 的庞大参数量,基于 GLM 5.2,其原生 1M 的上下文窗口能够扩展至惊人的 2M。而 Tall 版本则为 35B,基于 Qwen 3.6,特别为本地部署进行了优化,更加轻便灵活。两者共同覆盖了对话、智能体、编程以及交互式 UI 生成等广泛应用场景。
  • 三大配套系统的强大支撑:Macaron V1 不仅仅是一个模型,更是一个生态系统。UI4A 通用生成式 UI 架构能够渲染出交互式的视图;REPL Harness 提供了持久的 Python 环境,让模型能够自主编写工具并将其升级为全局可用;MinT 自研训练平台则专注于传递轻量级的 Adapter,支持百万级目录和万亿参数规模的模型训练,极大地提升了训练效率。
  • 自建评测基准,真实场景的锤炼:为了确保模型的真实表现,Macaron V1 构建了 Macaron ChatBench 和 LivingBench 两个独特的评测基准。ChatBench 专注于长上下文的诚实对齐,而 LivingBench 则在一个动态的沙盒环境中,模拟真实世界的复杂性和不确定性,验证模型在持续理解、任务重规划等方面的能力。
  • 极致的生成速度,引领行业标杆:实测数据显示,Macaron V1 的 API 生成速度高达 320 字/秒,这意味着在短短 34.3 秒内,就能生成一篇长达 10,975 字的文章。这种惊人的速度,将极大地提升用户体验和工作效率。

Macaron-V1 的技术基石

  • MoL(Mixture-of-LoRA)架构的精髓:该架构巧妙地冻结了 GLM 5.2 基座的全部权重,仅提取了约 0.5% 的核心参数,并以此构建了四个的 LoRA 专家模块,分别聚焦于 Chat、Agent、Coding 和 UI 四大能力方向。每个专家模块都在一个的适配空间中进行优化,从而彻底解决了多能力联合训练时常见的“按下葫芦浮起瓢”的相互干扰问题。用户输入的指令经过一个明确的 Router Tool 进行路由,精准地激活相应的专家,实现了按需调用和资源的最大化利用。
  • LongStraw 长上下文扩展的奥秘:得益于自研的 LongStraw 技术,Macaron V1 将 GLM 5.2 原生 1M 的上下文窗口成功扩展至 2M。其核心在于,将重复出现的共享提示词作为常驻状态保留,避免了在长序列推理过程中因重复计算而产生的巨大开销。这极大地降低了处理超长文档或进行多轮复杂对话时的资源消耗和延迟,确保了模型在处理海量信息时依然保持高效和稳定。
  • MinT 分布式训练平台的创新:这是 MindLab 自主研发的后训练基础设施。它突破了传统分布式训练中 Actor 和 Learner 必须传递完整权重的瓶颈,转而仅传递轻量级的 Adapter。这一设计与 MoL 架构完美契合,能够支持对百万级 Adapter 目录的管理,并能够端到端地覆盖万亿参数规模模型的强化学习训练,显著减轻了通信带宽和存储压力。
  • 真实环境驱动的奖励函数设计:与依赖人工标注或静态基准的传统训练方式不同,Macaron V1 更加注重从真实产品环境中获取奖励信号。团队精心打造了 Macaron ChatBench 和 LivingBench 两个动态评测基准。前者侧重于评估模型在长上下文中的诚实对齐能力和任务完成度;后者则在一个包含动态噪声、动态环境和动态用户的沙盒环境中,检验模型持续理解信息、验证信息以及重新规划任务的能力,从而确保模型在真实交互中能够持续进化和优化。

如何体验 Macaron-V1

目前 Macaron V1 仍处于内测阶段,用户可以通过 macaron https://mintcn.macaron.xin 来调用其 API。

Macaron-V1 的核心竞争力

  • 能力隔离,性能不打折:MoL 架构确保了各专家模块的优化,彻底避免了在多能力混合训练时可能出现的性能此消彼长的问题,保证了各方面能力的稳定发挥。
  • 低成本扩展,灵活组合:当需要新增功能时,只需简单地挂载一个新的 LoRA 模块即可,无需对整个模型进行重新训练。这种灵活的组合方式,为能力的扩展提供了极大的便利。
  • 超长上下文,信息无遗漏:LongStraw 技术将上下文长度扩展至 2M,并且通过状态复用的方式有效降低了长序列推理的开销,确保模型能够完整地理解和处理长文本信息。
  • 真实环境进化,持续迭代:自建的动态评测基准,让模型能够在模拟真实噪声和动态用户的环境中不断学习和优化,从而实现持续的进步。
  • 生成速度领跑,效率倍增:实测 320 字/秒的生成速度,远超市面上绝大多数主流模型。在首 token 响应之后,模型能够保持稳定且高速的输出,极大地提升了生产力。

Macaron-V1 与同类竞品的比较

维度Macaron V1GPT 5.5
训练范式后训练(基于 GLM 5.2)端到端预训练 + RL
参数效率仅训练 0.5% 参数(LoRA)全参数训练
能力扩展挂载新 LoRA 即可,灵活组合需重新训练整个模型
架构特色MoL 多专家隔离,互不干扰单一模型端到端优化
上下文长度2M(LongStraw 扩展)128K-1M
生成速度320 字/秒中等
UI 生成原生支持(UI4A)不支持
自写工具原生支持(REPL Harness)不支持
ChatBench58.355.5
LivingBench64.061.9
PinchBench94.089.0
TerminalBench 2.187.683.4
UI4ABench87.872.1

Macaron-V1 的应用前景

  • 企业级复杂任务的轻松驾驭:旗舰版 Venti 专为高阶应用场景设计,能够提供稳定可靠的推理和执行能力,满足企业级用户的严苛需求。
  • 智能 Agent 开发的强大助力:Macaron V1 支持工具调用、任务规划以及动态环境交互,是开发自动化工作流和智能 Agent 的理想选择。
  • 代码生成与工程化效率的飞跃:该模型在代码生成、调试、算法开发以及软件工程任务方面表现出色,TerminalBench 2.1 得分高达 87.6,将极大地提升开发者的效率。
  • 交互式 UI 的自动化生成:通过 UI4A 架构,Macaron V1 能够直接生成可交互的界面,为前端原型设计和可视化表达提供了全新的解决方案。
  • 本地轻量化部署的便捷之选:Tall 版本以其低成本和开箱即用的特性,非常适合个人开发者以及集成到边缘设备中,提供了极大的部署灵活性。
阅读原文
© 版权声明

相关文章

AI聚合视觉工厂

暂无评论

暂无评论...