AIGC动态欢迎阅读
原标题:央企第一家:中国电信开源星辰语义大模型,共享超1T高质基础数据
关键字:模型,语义,星辰,数据,中国电信
文章来源:机器之心
内容字数:21858字
内容摘要:
2024 年伊始,中国电信开源星辰语义大模型-7B,成为第一家开源大模型的央企。同时开源的还有超 1T 的高质量清洗基础数据。
随着新一轮科技革命和产业变革加速演进,拥抱 AI 成为中国电信当下发展的核心战略之一。2019 年,中国电信在原数据中心基础上成立大数据和 AI 中心。2023 年 11 月,中国电信注资 30 亿元成立「中电信人工智能科技有限公司」(以下简称电信 AI 、AI 团队),牵头打造中国电信 AI 核心技术。同月,中国电信发布千亿级星辰语义大模型。
开源项目链接地址:
- https://openi.pcl.ac.cn/openihu/tele-chat
- https://gitee.com/Tele-AI/tele-chat
- https://github.com/Tele-AI/Telechat
- https://huggingface.co/Tele-AI/telechat-7B
一、星辰语义大模型的开源方案
在千亿参数大模型发布之前,星辰语义大模型已经具备了多版本稳定可用的大模型基座,覆盖 3B、7B、12B 和 130B 等参数量级。大模型采用纯自研方式,AI 团队选用解码器架构( decoder-only )并在模型维度做了一些创新和改进。经过数十版模型训练与优化,模型的稳定性和推理速度都得到了明显提升。
原文链接:央企第一家:中国电信开源星辰语义大模型,共享超1T高质基础数据
联系作者
文章来源:机器之心
作者微信:almosthuman2014
作者简介:专业的人工智能媒体和产业服务平台
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...