文章预览
👀Hi~ 欢迎来到今天XiaoHu.AI的日报! 1. 苹果MUSCLE方法 MUSCLE(Model Update Strategy for Compatible LLM Evolution)是由苹果公司开发的一种用于大语言模型(LLMs)更新的训练策略。旨在减少用户在使用更新后的大语言模型时所面临的麻烦。 每次模型更新后,先前模型能够正确预测的实例在新模型中变得错误或者不一致。这种现象被称为“负翻转”。 “负翻转”会导致用户体验下降,因为用户需要重新适应新模型的行为。 该策略的核心是通过训练一个兼容性适配器,使模型在更新后能够尽量保持与旧版本模型的兼容性,从而减少预测结果的不一致性,特别是减少所谓的“负翻转”现象。 MUSCLE通过知识蒸馏的方法,将旧模型的知识部分转移到新模型中,确保新模型在性能提升的同时,保持对旧模型的兼容性。 🔗 详细:https://xiaohu.ai/p/11562 2、StockBot:实时股票数
………………………………