专栏名称: 斌叔OKmath
橙旭园CEO 教育博主 教育部双创优秀导师。前微软员工。橙旭园儿童编程创始人。
今天看啥  ›  专栏  ›  斌叔OKmath

大多数人不知道,关于缩放定律的原始研究来自 2017 年的百度,-20241127082514

斌叔OKmath  · 微博  ·  · 2024-11-27 08:25
    

文章预览

2024-11-27 08:25 本条微博链接 大多数人不知道,关于缩放定律的原始研究来自 2017 年的百度,而不是 2020 年的 OpenAI 他们描述了模型参数和数据集标记对损失的影响。还对图像和音频进行了测试 他们只是用 LSTM 代替了 Transformers,而且没有将他们的发现命名为“定律” ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览