专栏名称: 爱可可-爱生活
知名互联网资讯博主 北邮PRIS模式识别实验室陈老师
今天看啥  ›  专栏  ›  爱可可-爱生活

通过提出分布局部性的概念,定量解释了Transformer的局部-20240612051307

爱可可-爱生活  · 微博  · AI  · 2024-06-12 05:13
    

文章预览

2024-06-12 05:13 本条微博链接 通过提出分布局部性的概念,定量解释了Transformer的局部推理障碍,并通过inductive scratchpad方法提高局部推理任务的可学习性和分布外泛化。 [LG]《How Far Can Transformers Reason? The Locality Barrier and Inductive Scratchpad》E Abbe, S Bengio, A Lotfi, C Sandon, O Saremi [Apple EPFL] (2024) 网页链接 #机器学习# # ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览