专栏名称: 爱可可-爱生活
知名互联网资讯博主 北邮PRIS模式识别实验室陈老师
今天看啥  ›  专栏  ›  爱可可-爱生活

通过共享下投影矩阵和混合rank-one适配器提出了MoDE方法-20240807051856

爱可可-爱生活  · 微博  · AI  · 2024-08-07 05:18

文章预览

2024-08-07 05:18 本条微博链接 通过共享下投影矩阵和混合rank-one适配器提出了MoDE方法,实现参数高效的多任务语言模型适配,在SNI基准测试中明显优于已有的LoRA-MoE等方法。 [CL]《MoDE: Effective Multi-task Parameter Efficient Fine-Tuning with a Mixture of Dyadic Experts》L Ning, H Lara, M Guo, A Rastogi [Google DeepMind] (2024) 网页链接 #机器 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览