2024中国生成式AI大会上海站：AI Infra峰会精彩演讲全景回顾

大模型迎拐点时刻，AI Infra赛道开卷，AI落地加速！

原标题：2024中国生成式AI大会上海站圆满收官，第二日AI Infra峰会演讲精华一文看尽
文章来源：智东西
内容字数：12470字

2024中国生成式AI大会回顾

2024中国生成式AI大会（上海站）于12月6日圆满落幕。为期两天的大会吸引了超过4000人报名，1200位观众到场，线上观看人次更是超过104万。此次大会以“智能跃进 创造无限”为主题，汇聚了51位来自产学研投的嘉宾，交流生成式AI的技术创新与商业应用。

1. AI Infra的崛起

大会的AI Infra峰会上，嘉宾们探讨了AI基础设施在当前生成式AI发展中的重要性。上海交通大学的戴国浩教授强调了提升单位算力的token吞吐效率，并提出软硬件协同优化的必要性。此外，北电数智的郭文分享了如何通过AI工厂填补国产算力供给与需求的断层，推进智算中心的发展。

2. 技术分享与行业挑战

多位嘉宾分享了各自的技术创新及应对行业挑战的方案。阿里云的丛培岩介绍了灵骏智算集群的设计，强调了高稳定性的GPU集群在AI企业全球布局中的重要性。与此同时，光羽芯辰的周强提到个人大模型的快速发展，将解决现有大模型的局限。

3. RAG与向量数据库的机遇

在下午的讨论中，嘉宾们探讨了RAG（Retrieval-Augmented Generation）与向量数据库的结合。腾讯云的谢宇介绍了其向量数据库的优化措施，提升了召回率，助力企业挖掘数据价值。英飞流的张颖峰则认为，长文本大模型和RAG将长期共存，需解决推理成本和内存消耗的挑战。

4. 未来展望与合作共赢

大会最后，嘉宾们一致认为，生成式AI产业化落地需要上中下游全产业链的合作与共赢。随着AI技术的不断演进，行业参与者需紧密合作，共同推动技术进步与商业化落地。期待2025年更多线下大会的召开，持续关注生成式AI的发展动态。

联系作者

文章来源：智东西
作者微信：
作者简介：智能产业新媒体！智东西专注报道人工智能主导的前沿技术发展，和技术应用带来的千行百业产业升级。聚焦智能变革，服务产业升级。