当前位置:当前位置: 首页 >
为什么我还是无法理解transformer?
文章出处:网络 人气:发表时间:2025-06-25 04:55:14
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
同类文章排行
- 如何看待不超过1879元的Mac mini(M4+16/256GB+票),易用性吊打同级其他台式电脑?
- LCD党真的只是少部分人吗?
- 有一个***约你出去,你会去吗?
- 我想做个小型的商业网站该用nodejs还是python做后端?
- 因为媳妇纹身没跟我沟通,吵了一架,我提了离婚,是不是我小题大做了?
- 为什么web worker可以在前端开多线程,解决单线程卡死页面的问题,但是没有得到广泛使用?
- 为什么鸿蒙PC要排斥Linux生态?
- 宋朝到底凭什么活300多年?
- 印度为什么一定要和中国作对?
- 中国 GPS 定位的偏移(GCJ-02坐标系 / 火星坐标系)的存在意义是什么?真的有作用吗?
最新资讯文章
- 如何评价高圆圆的身材算是美女类型的吗?
- 如何反驳“电脑普及15年,年轻人还要淘宝代装steam”?
- 折叠屏手机有哪些有用或好玩的功能,你过去不理解,现在离不开?
- 为什么大部分人都认为2560x1440是2K?
- 为什么一直唱衰的php语言反而日渐活跃?
- 现在个人博客不能备案了吗?
- 男子与妻子发生性关系被告***,此案会成为国内第一起在婚姻存续期间内、感情未破裂、未分居下的***案吗?
- postgresql能取代mongodb吗?
- 女生到底应不应该穿***的衣服?
- 福建莆田出现90.8万彩礼骗婚案例,会进一步降低结婚率吗?
- 哪张照片让你觉得刘亦菲美得不可方物?
- Rust的工程配置为何用toml格式?
- 长得和刘亦菲很像是一种什么体验?
- 为什么中国主机带宽比美国贵5倍(原来错误的10000倍),比如阿里云?
- 为什么 Bun 选择了 Zig 以及 JSCore?