AIGC动态欢迎阅读
原标题:央企第一家:中国电信开源星辰语义大模型,共享超1T 高质基础数据
关键字:模型,语义,星辰,数据,中国电信
文章来源:机器之心
内容字数:11569字
内容摘要:
机器之心原创
作者:吴昕2024 年伊始,中国电信开源星辰语义大模型- 7B,成为第一家开源大模型的央企。同时开源的还有超 1T 的高质量清洗基础数据。
随着新一轮科技革命和产业变革加速演进,拥抱 AI 成为中国电信当下发展的核心战略之一。2019 年,中国电信在原数据中心基础上成立大数据和 AI 中心。2023 年11 月,中国电信注资 30 亿元成「中电信人工智能科技有限公司」(以下简称中电信 AI 、 AI 团队),牵头打造中国电信 AI 核心技术。同月,中国电信发布千亿级星辰语义大模型。
开源项目链接地址
https://gitee.com/Tele-AI/tele-chat
https://github.com/Tele-AI/Telechat一、星辰语义大模型的开源方案
在千亿参数大模型发布之前,星辰语义大模型已经具备了多版本稳定可用的大模型基座,覆盖 3B 、 7B 、12B 和 130B 等参数量级。大模型采用纯自研的方式,团队选用解码器架构( decoder-only )并在模型维度做了一些创新和改进,经过数十版模型训练与优化,模型的稳定性和推理速度都得到了明显提升。
原文链接:央企第一家:中国电信开源星辰语义大模型,共享超1T 高质基础数据
联系作者
文章来源:机器之心
作者微信:almosthuman2014
作者简介:专业的人工智能媒体和产业服务平台
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...