Scaling Law撞墙？预训练终结？亚马逊云科技为什么还在做基础大模型

基础大模型依然大有可为！

原标题：Scaling Law撞墙？预训练终结？亚马逊云科技为什么还在做基础大模型
文章来源：机器之心
内容字数：8776字

亚马逊云科技：为何不放弃基础大模型？

亚马逊云科技在re:Invent 2024大会上发布了新的基础大模型系列Nova，引发了业内关注。尤其是在“Scaling Law撞墙论”甚嚣尘上的背景下，亚马逊此举似乎显得不合时宜。然而，本文将解释亚马逊为何坚持投入基础大模型，并阐述其背后的战略考量。

1. Scaling Law撞墙论并非终结

尽管关于Scaling Law是否撞墙的争论激烈，但亚马逊云科技对此并不担忧。他们认为，当前基础大模型仍处于早期阶段，远未成熟。公共互联网数据并非全部数据，未被数字化的数据、私有数据、以及新兴技术（如量子计算、生物技术）产生的数据，都将为基础大模型提供新的养分。即使基于公共互联网数据的Scaling撞墙，新的数据来源仍能继续推动基础模型的发展。

2. 基础大模型的巨大价值

亚马逊云科技坚持发展基础大模型，不仅是为了自身利益，更是为了整个AI生态的繁荣。对于缺乏资源的创业公司而言，亚马逊提供的基础模型是一个强有力的替代方案，降低了进入门槛，提供了不同规模的版本以满足不同需求，保障了业务安全，并促进了市场竞争和创新。

3. 亚马逊云科技的战略考量

亚马逊持续投入基础大模型，有以下几个方面的战略考量：

1. 强化云服务生态，吸引更多企业上云。
2. 积累宝贵的数据和技术经验，形成核心竞争力。
3. 参与行业标准的定义，塑造行业认知。
4. 增强亚马逊内部服务和产品的性能。
5. 应对竞争压力，保持技术领先地位。

亚马逊的“长期主义”战略，体现在对基础大模型的持续投入上。这不仅能巩固自身市场地位，还能促进整个AI市场的良性循环和健康竞争，为创业公司提供更多机会。

4. Nova系列模型的优势

Nova系列模型（Micro、Lite、Pro和Premier）提供了多种选择，满足不同规模和预算的企业需求。即使是低成本的Nova Lite和Nova Pro，也能处理多种模态数据，为创业公司提供快速部署和创新的解决方案。

5. 结语

亚马逊云科技对基础大模型的坚持，并非盲目乐观，而是基于对技术发展趋势和市场需求的深刻理解。通过Nova系列模型，亚马逊不仅巩固自身优势，也为整个AI生态注入了新的活力，推动了行业的健康发展。

联系作者

文章来源：机器之心
作者微信：
作者简介：专业的人工智能媒体和产业服务平台