不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
代码：
golang总体上有什么缺陷？
如果苹果真的下架了微信的话，会发生什么？
你认为 PC 上最好用的 PDF 阅读器是哪一种？
为什么 Bun 选择了 Zig 以及 JSCore？
你的内衣丢过吗?
湖北襄阳一高中全班 45 人有 43 人超 600 分，这个班是怎么做到的？其成功经验是否可复制？
英伟达股价创新高，市值超越微软重回全球第一，黄仁勋称机器人是 AI 之后英伟达最大机遇，如何解读？
switch模拟器是不是历史上唯一在主机当红时就几乎完美模拟器？
服务器能否拒绝非浏览器发起的HTTP请求？
消息称苹果 macOS 26 将不再支持部分旧款英特尔 CPU 机型，这背后原因有哪些？
鸿蒙电脑会在国内逐渐取代windows电脑吗？
男朋友说我穿衣服太开放，难道好身材不应该显示出来吗？
电饭煲的内胆是有涂层的好还是不涂层的好？纠结这买哪种?
电影《赤道》为何没有第二季呢？
怎样实现redis分布式锁？
你自己觉得自己的身材好吗？
有什么是你去了上海才知道的事情？
如何评价小米 6 月 26 日发布的小米 YU7、MIX Flip2、REDMI K80 至尊版？
报纸排版用什么软件比较好。？
为什么买的小乌龟总是养不活呀？
如何评价《情感反诈模拟器》女演员刘梦茹最新的抖音***回应?
民航局紧急通知禁止携无 3C 标识及被召回的充电宝乘境内航班，无 3C 标识充电宝有哪些安全隐患？
陆奇为什么离开百度之后混得不乐观？
python与nodejs哪个性能高？
怎样判断一个人的智商在你之上？
能够自己一个人创业的全栈web码农fullstack developer要会哪些技术？
苹果 macOS Tahoe 26 新 Finder 图标引争议，其争议点主要集中在哪些方面？
《诛仙》作者萧鼎于近日修改《诛仙》原作并大量删去碧瑶戏份，如何看待这一行为？
你见过最无用的节俭行为是什么？
