dots3-note preview

dots3-note preview – 小红书开源的多模态 MoE 模型

dots3-note preview 是小红书 dots 模型实验室近期发布的一款重磅开源力作，作为 dots3 系列的先行版本，它不仅承袭了 IMO 2026 满分模型的卓越基因，更在架构设计上展现了极高的技术水准。该模型构建于 280B 总参数规模之上，通过先进的 MoE（混合专家）架构，将激活参数精准控制在 16B，并完美支持 512K 的超长上下文处理能力，在处理文本、视觉及语音等多模态信息时表现出极强的感知与理解力。

技术内核与核心优势

这款模型之所以能从众多大模型中脱颖而出，得益于其精妙的底层设计：

高效能的 MoE 架构：通过 256 个路由专家与 1 个共享专家的组合，结合 Top-8 激活机制，模型在保持极高推理效率的同时，依然具备处理复杂任务的深厚底蕴。
推测解码加速：内置的 1.13B 多 Token 预测层，使得模型在生成每一个 token 时能并行预判后续内容，显著降低了延迟并大幅提升了整体吞吐量。
自主演进能力：模型内置了独特的 Self-Critiquing 自我纠错机制，能够将修正后的逻辑写入动态记忆文件 memory.md，从而在长周期任务中实现知识的自我迭代。
原生多模态融合：借助 MoE ViT 编码器与专业音频编码器的协同，它能够实现对图像、视频、音频及文本的深度整合，不仅能看懂图表，更能进行复杂的跨模态逻辑推演。

应用场景的无限可能

dots3-note preview 不仅仅是一个单纯的对话机器人，它更像是一位全能的数字执行者，在多个复杂领域展现出颠覆性的潜力：

长周期复杂规划：不同于简单的问答，它擅长处理诸如婚礼筹备、旅行路线规划等跨度大、约束多的开放式难题，能够跟进进度并根据反馈实时调整方案。
端到端的开发利器：在软件工程领域，它能承担从需求梳理、技术选型到编写代码、编译验证的全流程工作，甚至能胜任 Vision Pro 等前沿平台的原生应用开发。
交互式策略专家：得益于其强大的推理能力，它无需额外训练即可直接参与策略类游戏的博弈，通过对局实时反馈调整最优决策路径。
深度研究的智能伴侣：在面对海量多媒体资料时，它能够自主搜索并解析 PDF、视频与图表，将碎片化信息重构为严谨的行业报告，并具备极高的逻辑自检水平。

如何快速上手

开发者与技术爱好者可以通过多种途径使用该模型：

云端极速体验：访问官方平台（https://dots.ai/platform/）注册并获取 API 密钥，即可直接调用其强大算力。
本地化部署：前往 Hugging Face 搜索 dots-studio/dots3-note-prev，下载权重文件后，配合 vLLM 或 SGLang 等主流推理框架，即可在本地服务器上运行。
高性能配置建议：针对 280B 的庞大参数，建议在部署时利用张量并行（TP）与专家并行（EP）技术，合理分配多卡 GPU 资源，以获得最佳的性能体验。

项目资源与开源信息

作为一款遵循 Apache-2.0 协议的开源项目，dots3-note preview 致力于推动 AI 技术的普惠与创新：