Skip to content

Transformer ​

注意力机制到完整架构,以及它为什么统治了语言模型.

章节 ​

#章节状态
01从 RNN 的串行瓶颈到注意力待撰写
02注意力机制:查询、键、值待撰写
03多头自注意力待撰写
04位置编码待撰写
05架构组件:残差、LayerNorm 与前馈待撰写
06复杂度与效率待撰写

依赖 ​

章节随写作进度开放;状态由 scripts/gen-units.mjs 从 curriculum.ts 生成.