重新思考不确定性：大语言模型时代的关键综述与分析

文章预览

大模型智能｜分享 来源 | 专知 链接：https://arxiv.org/abs/2410.20199 近年来，大语言模型（Large Language Models, LLMs）已成为广泛人工智能应用的核心工具。随着 LLMs 的使用范围不断扩展，精准评估其预测中的不确定性变得至关重要。然而，当前方法通常难以准确识别、衡量和解决真正的不确定性，许多研究主要集中在估算模型的置信度。这种差异很大程度上源于对不确定性注入模型的方式、时机和来源缺乏完整的理解。 本文提出了一个专门设计的综合框架，用于识别和理解不确定性的类型及来源，并与 LLMs 的独特特性相契合 。该框架通过系统地分类和定义每种类型的不确定性，增进了对不确定性多样性格局的理解，为开发能够精准量化这些不确定性的方法奠定了坚实基础。 此外，我们详细介绍了关键相关概念，并深入探讨了当前方法在任务关键型和安 ………………………………