告别微软,姜大昕带领这支精英团队攀登Scaling Law,万亿参数模型已有预览版

AIGC动态9个月前发布 机器之心
36 0 0

告别微软,姜大昕带领这支精英团队攀登Scaling Law,万亿参数模型已有预览版

AIGC动态欢迎阅读

原标题:告别微软,姜大昕带领这支精英团队攀登Scaling Law,万亿参数模型已有预览版
关键字:模型,解读,报告,数据,参数
文章来源:机器之心
内容字数:11222字

内容摘要:


机器之心原创
作者:张倩攀登 Scaling Law,打造万亿参数大模型,前微软 NLP 大牛姜大昕披露创业路线图。前段时间,OpenAI 科学家 Jason Wei 的一份作息时间表引发了广泛关注。表中有很多让人看了会心一笑的梗,比如「9 点 45:背诵 OpenAI 章程,向最优化的神祷告,学习《苦涩的教训》」「10 点用 Google Meet 开会,讨论怎么在更多数据上训练更大的模型」「11 点写代码,用来在更多数据上训练更大的模型」「1 点:实操,在更多数据上训练更大的模型」「4 点:对用更多数据训练的更大的模型进行提示工程」……在短短的十几行字中,「在更多数据上训练更大的模型」出现了四次,而且《苦涩的教训》也毫不意外地早早出场。对于一家信仰 Scaling Law 并因此而取得巨大成功的公司来说,这些表述可能不仅仅是在玩梗。在公司官网公布的核心价值观里,OpenAI 写到,「我们相信 scale(规模)—— 在我们的模型、我们的系统、我们自己、我们的流程和我们的抱负中 —— 是有魔力的。如果对此产生了怀疑,那就扩大 scale。」
多年来,依靠对于自身技术路线的充分自信和坚


原文链接:告别微软,姜大昕带领这支精英团队攀登Scaling Law,万亿参数模型已有预览版

联系作者

文章来源:机器之心
作者微信:almosthuman2014
作者简介:专业的人工智能媒体和产业服务平台

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...