Transformer 原理框架与部分迭代模型概述
作 者：
萧儒飞
摘 要：
Transformer 是 Google 自 2017 年提出的基于自注意力机制的序列模型，因其强大的自注意力机制，近年来在 NLP 等领域取得显著成绩。众多研究者对模型的发展做了综述概括，但缺乏对其原理理论、代表性迭代模型及应用领域的综合分析。首先阐述了 Transformer 的基础理论；然后梳理了部分代表性迭代模型；最后分析了 Transformer 存在的问题，并提供了进一步可实现的研究方向。
来 源：
《信息产业报道》 2025-12