专栏名称: 斌叔OKmath
橙旭园CEO 教育博主 教育部双创优秀导师。前微软员工。橙旭园儿童编程创始人。
今天看啥  ›  专栏  ›  斌叔OKmath

网页链接关于旋转位置嵌入(RoPE)的一些注释:)如果你从@ka-20240816083217

斌叔OKmath  · 微博  ·  · 2024-08-16 08:32

文章预览

2024-08-16 08:32 本条微博链接 网页链接 关于旋转位置嵌入(RoPE)的一些注释:) 如果你从 @karpathy 的 gpt2 视频中了解了 transformer,那么理解 RoPE 将是理解 SoTA 架构(例如 Llama 3)的下一步 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览