PRO | 多模态趋势下，Transformer并非主流架构唯一解

AIGC动态欢迎阅读

原标题：PRO | 多模态趋势下，Transformer并非主流架构唯一解
关键字：解读,腾讯,模型,卷积,架构
文章来源：机器之心
内容字数：4977字

内容摘要：

2023年，几乎 AI 的每个领域都在以前所未有的速度进化，同时，AI也在不断地推动着具身智能、自动驾驶等关键赛道的技术边界。
多模态趋势下，Transformer 作为 AI 大模型主流架构的局面是否会撼动？为何探索基于 MoE （专家混合）架构的大模型成为业内新趋势？大型视觉模型（LVM）能否成为通用视觉的新突破？…
我们从过去的半年发布的2023年机器之心PRO会员通讯中，挑选了 10份针对以上领域技术趋势、产业变革进行深入剖析的专题解读，助您在新的一年里为大展宏图做好准备。
本篇解读来自2023年Week52业内通讯👇
专题解读多模态趋势下，Transformer 并非主流架构唯一解
日期：12月24日
事件：腾讯AI实验室与港中文联合团队提出了新CNN架构「UniRepLKNet」，在图像识别精度和速度上都超过了Transformer架构模型。
要点速览
1、UniRepLKNet的设计遵循了四条guideline，包括使用大卷积核来保证大感受野，使用depthwise小卷积来提高特征抽象层次，以及使用高效结构来增强模型的深度和表示能力。
2、UniRepLKNet的每

原文链接：PRO | 多模态趋势下，Transformer并非主流架构唯一解

联系作者

文章来源：机器之心
作者微信：almosthuman2014
作者简介：专业的人工智能媒体和产业服务平台