当前位置:当前位置: 首页 >
为什么我还是无法理解transformer?
文章出处:网络 人气:发表时间:2025-06-25 05:25:15
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
同类文章排行
- 字节引入Rust是否代表J***a的缺点Go也没解决?
- 如何看待Ollama基于Go语言开发而不是别的编程语言?
- 后端开发除了增删改查还有什么?
- PHP现在真的已经过时了吗?
- 你怎么看待剪映收费过高问题?
- 男朋友因为打游戏骗我去睡觉被我识破,然后我提了分手,他同意了,问问男孩子们他怎么想的?
- 现在工作中k8s是使用containerd还是docker来管理容器?
- 如何评价首个女性友好的编程语言HerCode?
- 冬天也要穿胸罩吗?
- 国产数据库有什么坑?
最新资讯文章
- 体制内女老师,被关系户欺负,大吼——"不干就给老子滚",我该怎么办?
- 为何一讨论Wi-Fi 7阉割6GHz+320MHz,很多人都说用不上所以根本不在意?
- 有哪些事情是你去了越南以后才知道的?
- 哪个瞬间,让你想敬父亲一杯酒?
- 如何评价湖北省?
- 如何评价网易国产动作冒险单机新作《归唐》首支预告片?
- 学生校服如何隐藏内衣痕迹?
- 为什么《歌手》不请周杰伦、陈奕迅、王菲、张学友、孙燕姿、梁静茹、王力宏、林俊杰当节目嘉宾?
- 空战的时候可不可以先击落预警机?
- 女朋友是跳拉丁舞的,跳双人舞时会有身体接触,作为男友我感觉有点吃醋怎么办?
- 为什么有的女生喜欢穿紧身牛仔裤?
- 北京22号线即将开通,要不要买燕郊房子?
- 游戏史上有哪些著名的平衡***故?
- 汉语是牺牲了什么,才成为世界最紧凑、最高效的语言?
- 如看看Doinb直播松松真的回去了,疑似已经被TES换人?