· 模型原理
注意力机制学习笔记
从 Query、Key、Value 的计算过程理解自注意力为什么能捕捉长距离依赖。
Attention Transformer QKV
分类文章
模型原理
这个分类下共有 2 篇文章。
· 模型原理
Transformer 架构入门
从注意力机制、位置编码和编码器-解码器结构理解 Transformer 为什么适合大模型。
Transformer Attention LLM
分类文章
这个分类下共有 2 篇文章。
从 Query、Key、Value 的计算过程理解自注意力为什么能捕捉长距离依赖。
从注意力机制、位置编码和编码器-解码器结构理解 Transformer 为什么适合大模型。