【博士论文】面向忠实度的新型可解释性范式在自然语言处理中的应用

文章预览

来源：专知 本文 约2000字 ，建议阅读 5 分钟 本文提出了两种潜在的范式，即“忠实度可度量模型”（FMMs）和“自解释”。 https://arxiv.org/pdf/2411.17992 机器学习，特别是神经网络，现如今广泛应用于许多领域，如贷款评估、搜索结果和招聘推荐。这些系统通常提供自动化决策，影响着大多数人的生活。近年来，自然语言处理（NLP）应用特别受到关注，尤其是非常高效的通用模型的出现，特别是聊天系统，这些系统现在被广泛使用，甚至普通公众也能直接使用它们。 不幸的是，这些系统并非没有缺陷。仅在招聘系统中，就有性别歧视的案例，比如简历中“国际象棋俱乐部成员”受到青睐，而“女性国际象棋俱乐部成员”则被忽视，或者某些系统认为计算机科学学位是医院打字员的必要资格。虽然前者可能通过分析模型的性别偏差并加以修正来缓解， ………………………………