直观解释注意力机制：Transformer 的核心（官方双语）

你能学到什么

前置知识

先理解 token 与向量表示，建议先读或观看 Transformer 基础内容。

动手试一试

为一句包含代词的短句画出你认为需要关注的词，再解释这是教学示意而非真实模型权重。画出因果掩码，检查每个位置是否能看到未来 token，并写出一个错误掩码的后果。

学习说明

以上学习点依据作者公开的教程与项目说明整理，练习为本站建议，未逐项实跑或验证学习效果。完整步骤、代码和版本要求请查阅作者原文。