# 注意力机制:AI 怎样根据上下文理解一个词 必得 AI 精选|整理:必得工坊 视频作者:3Blue1Brown · Grant Sanderson 笔记核验:2026-11-04 说明:依据原作者配套图文整理的中文导读,不是视频完整转录或逐字翻译。 ## 一句话导读 看清 Q、K、V 各做什么,理解词元如何从其他位置读取信息。 ## 三个要点 1. 同一词元的含义需要由上下文补充。 2. 查询与键计算相关程度,经归一化得到权重。 3. 值向量按权重汇总;多头可学习不同关联。 ## 必得工坊的观看建议 把“关注哪些上下文”变成一个可解释的计算过程,适合接着 Transformer 总览往下看。 建议基础:建议先看 Transformer 总览;理解向量和加权平均。 ## 想一想(本站原创练习) 示意图中的连线为什么不能直接当成模型给出某个答案的完整解释? ## 动手做(本站原创练习) 写两句含“苹果”的话,一句描述水果、一句描述公司;圈出帮助区分含义的上下文,再手绘一张示意权重表,并注明它不是模型真实注意力。 ## 交给 AI 陪练 请用“苹果”表示水果和公司两个例子,带我理解上下文、query、key、value。用很小的手工数字演示一次加权汇总,核对权重总和;必须说明数字是教学示意,不是对某个真实模型注意力的测量。 ## 来源 B站官方双语版:https://www.bilibili.com/video/BV1TZ421j7Ke/ YouTube原版:https://www.youtube.com/watch?v=eMlx5fFNoYc 作者配套原文:https://www.3blue1brown.com/lessons/attention/ 本站学习页:https://bdskb.com/ai/watch/attention/ 内容与译制署名详见原视频。请保留来源;本站与原作者无合作背书关系。