注册    登录
专栏名称: 宝玉xp
前微软Asp.Net最有价值专家 互联网科技博主 我是宝玉。
今天看啥
微信公众号rss订阅, 微信rss, 稳定的RSS源
目录
今天看啥  ›  专栏  ›  宝玉xp

//@明风:其实“蒸馏”这个词最近有点被滥用了，原本的蒸馏，教师-20250122134720

宝玉xp  · 微博  · AI  · 2025-01-22 13:47
    

文章预览

2025-01-22 13:47 本条微博链接 // @明风 :其实“蒸馏”这个词最近有点被滥用了，原本的蒸馏，教师模型和学生模型之间，是精心设计过，要有一定的相似性，从而可以实现对教师模型的深层次特征或概率分布的重复利用，这才叫蒸馏。现在的很多所谓“蒸馏”，只不过是用成熟模型的输入输出数据来微调或者训练自己的模型（开源 or 闭源），叫知识迁移或行为模拟更合适。 ………………………………

原文地址：访问原文地址
快照地址： 访问文章快照
总结与预览地址：访问总结与预览
推荐文章
爱可可-爱生活  ·  [CL]《Autonomy-of-Experts Models》-20250124054719
19 小时前
爱可可-爱生活  ·  【[12星]ACT-Bench：自动驾驶世界模型的行动可控性评估-20250122210138
2 天前
爱可可-爱生活  ·  【[3.1k星]FMHY：一个汇集互联网上免费资源的宝藏库，帮助-20250122211147
2 天前
爱可可-爱生活  ·  【[153星]RTen：一个用Rust编写的轻量神经网络推理引擎-20250122211446
2 天前
爱可可-爱生活  ·  【[1.4k星]Hunyuan3D-2：腾讯推出的高分辨率3D资-20250122201514
2 天前
新浪科技  ·  【#世纪佳缘账号注销后仍被自动扣费#】近日，消费者林佳（化名）反-20240828101014
4 月前
FM93交通之声  ·  价格大跌！浙江有商家一天卖出1000多斤！老板直言：越小越好卖……
3 月前
蛋先生工作室  ·  10月26日生猪、玉米，豆粕行情
3 月前
媒哥媒体招聘  ·  先锋文化生活品牌光芒enlightening 招聘！（广州）
1 月前
人力资源研究  ·  95后小姑娘，身兼5职，月入过万......
3 周前
关于   移动版   ·   Py中国   ·   RSS之家   ·   CodingPro   ·   Code   ·   Link之家   ·   卧龙AI搜索   ·   小百科   ·   51好读   ·   小百科（海外）   ·   Link管理
今天看啥 - 微信公众号rss订阅, 微信rss, 稳定的RSS源
© 2024 ~ 沪ICP备11025650号