RAG黑盒被打开了，可视化RAGViz闪亮全场

文章预览

CMU（ 卡内基梅隆大学 ）开源 RAGViz ：它 提供了对 检索文档 和 模型注意力 的 可视化 ，帮助用户理解生成的标记与检索文档之间的交互，可用于 诊断和可视化RAG系统 。 Query=“ 为什么猪会飞？ ”的可视化。突出显示的生成内容没有基于任何上下文文档，展示了 内部幻觉 。 RAGViz特性和用例 注意力可视化 ：RAGViz通过标记高亮显示来可视化生成的标记序列对输入标记的关注度，并通过颜色强度来衡量关注度。 文档级别的关注度 ：展示生成输出对每个检索段落的关注度，以累积文档级别的注意力分数形式展现。 拖动选择用户界面 ：用户可以通过拖动选择来轻松检查任何标记序列的累积关注度。 文档切换功能 ：用户可以选择在构建答案上下文时省略特定的标记和文档，以比较添加或移除标记和文档对LLM输出的影响。 自定义上下文文档数量 ：用户 ………………………………