分治预测编码：一种结构化贝叶斯推理算法2408

文章预览

Divide-and-Conquer Predictive Coding: a structured Bayesian inference algorithm 分治预测编码：一种结构化贝叶斯推理算法 https://arxiv.org/pdf/2408.05834 github： Pyro 分割-对齐-征服策略之程序合成for ARC-AGI 摘要 意外刺激会在大脑中诱发“错误”或“惊讶”信号。预测编码理论通过提出大脑 皮层在概率图模型中实现变分推断，有望用贝叶斯推断来解释这些观察结果 。然而，当应用于机器学习任务时，这类算法在高维、结构化推断问题上的表现尚未与其他变分方法相提并论。为了解决这一问题，我们介绍了一种针对 结构化生成模型的新型预测编码算法，我们称之为“分而治之预测编码”（DCPC）；它与其他预测编码公式不同 ，因为它尊重生成模型的 相关性结构，并且可以证明其执行了模型参数的最大似然更新，同时又不牺牲生物合理性 。从实证角度来看，DCPC在数值表现 ………………………………