突破极限：CEO揭秘大模型发展的新机遇与挑战

机制可解释性比模型架构更值得研究。

原标题：做出最好大模型的 CEO，不认为 Scaling Law 撞墙了
文章来源：Founder Park
内容字数：52757字

当前AI领域的主要发展与挑战

在最近的访谈中，Anthropic公司的CEO Dario Amodei分享了关于AI模型，特别是Claude系列模型的最新进展和未来方向。他强调了当前AI技术的迅速进步及其在各个领域的潜力，同时也指出了一些面临的挑战和风险。

1. Scaling Law的持续进展

Dario Amodei表示，Scaling Law在AI模型的能力提升中依旧适用，且尚未达到上限。过去十个月内，模型在SWE-bench的表现从3%提升到了50%，预计未来会继续快速推进，甚至有可能在一年内达到90%的成功率。他强调，模型的发展依赖于数据量、计算能力和训练时间的同步提升。

2. RLHF与模型沟通能力

Amodei提到，RLHF（人类反馈强化学习）并未直接提升模型的智能，而是改善了模型与人类的沟通能力。模型在与用户互动时，可能对提示词的敏感度会影响其表现，这并不意味着模型的质量下降，而是反映了模型复杂性的挑战。

3. Computer Use功能的推出

Anthropic最近推出的Computer Use功能使模型能够执行计算机操作，比如填写表格和浏览网站。Amodei指出，该功能以API的形式发布，因其潜在的滥用风险，暂不面向消费者开放。该功能的实现展示了模型在理解和执行任务方面的进一步能力。

4. Constitutional AI的实践

Amodei介绍了Constitutional AI的概念，该方法通过制定AI模型应遵循的原则，提升模型的自我评估能力。这种方法不仅减少了对RLHF的依赖，还提高了每个反馈数据点的利用率。

5. AI与生物领域的结合

在谈及AI与生物学的结合时，Amodei认为，AI可用于提升生物学研究的效率，包括改进临床试验的设计等。他设想未来科学家与AI的合作将会更加紧密，AI将承担更多研究任务，助力科学突破。

6. 风险与未来展望

Amodei最后强调，随着AI能力的提升，风险管理变得尤为重要。他讨论了两类风险：一是灾难性滥用风险，二是模型自主性风险。他指出，AI系统的能力需谨慎推进，以确保安全性和合规性。

总体而言，Amodei的观点反映了AI技术在快速发展的同时，也需面对诸多挑战与风险，未来将需要更为严格的监管与探索。

联系作者

文章来源：Founder Park
作者微信：
作者简介：来自极客公园，专注与科技创业者聊「真问题」。