@AnthropicAI可解释性团队今天发布了一份精彩的报告。这-20240804084954

文章预览

2024-08-04 08:49 本条微博链接 @AnthropicAI 可解释性团队今天发布了一份精彩的报告。 这基本上表明，当前的可解释性方法可能只触及了神经网络内部的表面，大量的罕见特征“暗物质”和复杂的叠加现象仍然无法被我们理解🤔 ------- 未来可解释性研究的 5 个关键障碍： 👇 📌缺失特征：当前方法仅提取一小部分可解释特征。许多罕见特征可能仍未被发现，可能形成“神经网络暗物质”，如果没有重大算法突破，很难解决。 ………………………………