transformer的细节到底是怎么样的？Transformer 连环18问！

AIGC动态欢迎阅读

原标题：transformer的细节到底是怎么样的？Transformer 连环18问！
关键字：报告,知识产权,人工智能,特征,方式
文章来源：人工智能学家
内容字数：0字

内容摘要：

来源：
https://www.zhihu.com/question/362131975/answer/3058958207
作者：爱问问题的王宸@知乎（已授权）
编辑：极市平台
为什么想通过十八个问题的方式总结Transformer？
有两点原因：
第一，Transformer是既MLP、RNN、CNN之后的第四大特征提取器，也被称为第四大基础模型；最近爆火的chatGPT，其最底层原理也是Transformer，Transformer的重要性可见一斑。
第二，希望通过问问题这种方式，更好的帮助大家理解Transformer的内容和原理。
1.2017年深度学习领域的重大突破是什么？Transformer。有两方面的原因：
1.1 一方面，Transformer是深度学习领域既MLP、RNN、CNN之后的第4大特征提取器（也被称为基础模型）。什么是特征提取器？大脑是人与外部世界（图像、文字、语音等）交互的方式；特征提取器是计算机为了模仿大脑，与外部世界（图像、文字、语音等）交互的方式，如图1所示。举例而言：Imagenet数据集中包含1000类图像，人们已经根据自己的经验把这一百万张

原文链接：transformer的细节到底是怎么样的？Transformer 连环18问！