一文读懂模型的可解释性（附代码）

文章预览

大模型的可解释性非常重要 。随着模型越来越大，其 “黑盒子”特性会严重影响模型结果的准确性，增加对模型的优化难度，以及在医学、金融等领域带来很高的应用风险。 因此提高大模型的可解释性，不仅能优化我们的实验结果，其方法本身也是一个可发paper的创新点。 今天总结一下目前最全的大模型可解释性技术。 首先按照大模型的训练范式分类： 传统 fine-tuning 范式   和  基于 prompting 的范式 。 基于传统 fine-tuning 范式的模型解释，又可分为 局部解释 和 全局解释 。 基于 prompting 的范式， 分为 对 基础模型的解释， 和 对 助手模型的解释 。 其中每种解释还有细分内容。为了方便大家学习，我按照上面的分类， 整理了118篇可解释性的精选论文 ，有开源代码的也一并整理 。扫码免费领取。 扫码 免费获取全部论文+开源代码 来看一下具体的 ………………………………