马毅教授新作：白盒ViT成功实现「分割涌现」，经验深度学习时代即将结束？

AIGC动态欢迎阅读

原标题：马毅教授新作：白盒ViT成功实现「分割涌现」，经验深度学习时代即将结束？

关键字：模型,语义,研究人员,表征,属性

文章来源：新智元

内容字数：11129字

内容摘要：新智元报道编辑：LRS【新智元导读】CRATE模型完全由理论指导设计，仅用自监督学习即可实现分割语义涌现。基于Transformer的视觉基础模型在各种下游任务，如分割和检测中都展现出了非常强大的性能，并且DINO等模型经过自监督训练后已经涌现出了语义的分割属性。不过奇怪的是，类似的涌现能力并没有出现在有监督分类训练后的视觉Transformer模型中。最近，马毅教授团队探索了基于Transfor…

原文链接：点此阅读原文：马毅教授新作：白盒ViT成功实现「分割涌现」，经验深度学习时代即将结束？

联系作者

文章来源：新智元

作者微信：AI_era

作者简介：智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响，领航中国新智能时代。