XVERSE-Ent

XVERSE-Ent – 元象开源的泛娱乐中英双语底座大模型

XVERSE-Ent，由元象科技倾力打造，是一款专为蓬勃发展的泛娱乐领域量身定制的开源中英双语基石大模型。该模型家族包含中文的XVERSE-Ent-A4.2B与英文的XVERSE-Ent-A5.7B，在塑造鲜活角色、驾驭宏大叙事以及适应多样化语境方面展现出非凡的实力。它能够长久地维系虚拟角色的独特个性和风格，深刻洞悉错综复杂的情节脉络，并能根据不同的题材风格，挥洒自如地进行个性化表达。

XVERSE-Ent的诞生，离不开其创新的技术内核。它融合了MoE（Mixture of Experts）热启动技术，通过将模型中的FFN（Feed-Forward Network）层精细划分为多个“专家”子网络，并根据推理时显存大小进行动态复制，实现了模型的灵活扩展与性能飞跃。此外，其多阶段的训练策略，涵盖了S0能力重建、S1语言倾斜以及S2领域增强，层层递进地构建出在特定语言和领域内表现卓越的专用模型，确保了模型在泛娱乐领域的专业深度与通用广度。在海量近万亿token数据的锤炼下，XVERSE-Ent拥有8K的超长上下文窗口，能够处理更为庞大的文本信息。其中文模型XVERSE-Ent-A4.2B拥有25B参数，英文模型XVERSE-Ent-A5.7B则配备36B参数，两者都为高并发、低成本的云端单卡部署提供了可能，极大地降低了部署门槛。无论是在小说创作还是对话生成等核心任务上，XVERSE-Ent都表现出色，同时保留了98%以上的通用能力，无疑是泛娱乐AI领域一颗冉冉升起的新星。

XVERSE-Ent的核心能力

角色身份的坚固守护：模型能够持久地保持虚拟角色的鲜明人设、连贯记忆以及独特的言谈举止，有效规避了“失忆”或“脱戏”的尴尬，为角色扮演与虚拟互动提供了稳定可靠的体验。
叙事长卷的精准解读：它能深刻理解复杂的故事线、人物之间的错综关系以及埋下的伏笔，生成逻辑严谨、情节连贯的叙事内容，是小说创作、剧本撰写等领域的得力助手。
语境风格的游刃有余：针对古风、科幻、都市等各类题材，模型储备了丰富的风格化表达和背景知识，能够根据具体情境，灵活调整语言风格与内容输出，呈现出高度的适应性。
双语世界的畅行无阻：集成了中文模型XVERSE-Ent-A4.2B和英文模型XVERSE-Ent-A5.7B，两者都针对各自的语言环境进行了深度优化，能够满足不同语言用户的创作与互动需求。
部署的轻盈与高效：支持云端单卡部署，在推理成本与处理效率之间实现了绝佳的平衡，显著降低了开发者的部署难度和运维成本，使其能在各类设备上实现高效运行。

XVERSE-Ent的技术基石

MoE热启动技术的革新：通过将Dense模型转化为MoE架构，把FFN部分精细切分为多个“专家”子网络，并结合推理时显存大小实现专家子网络的动态复制，从而高效地实现模型扩展与性能提升。
多阶段训练策略的精进：采用S0能力重建、S1语言倾斜、S2领域增强三个循序渐进的训练阶段，逐步构建出专为特定语言和领域优化的模型，确保其在泛娱乐领域的专业性和通用性。
大模型架构与参数的极致打磨：中文模型XVERSE-Ent-A4.2B拥有25B参数，英文模型XVERSE-Ent-A5.7B拥有36B参数，经过近万亿token数据的深度训练，具备强大的语言生成与理解能力。
8K上下文窗口的拓展：支持8K的超长上下文窗口，能够处理更长的文本输入与输出，非常适合复杂的剧情生成与长篇对话任务。
低成本高效部署的优化：提供支持高并发低成本的部署方案，尤其适合云端单卡部署，在推理成本与处理效率之间找到最佳平衡点，大幅降低开发者的部署门槛。