专栏名称: CreateAMind
ALLinCreateAMind.AGI.top , 前沿AGI技术探索,论文跟进,复现验证,落地实验。 鼓励新思想的探讨及验证等。 探索比大模型更优的智能模型。
目录
相关文章推荐
今天看啥  ›  专栏  ›  CreateAMind

分布式稀疏分组码 高效语义分解

CreateAMind  · 公众号  ·  · 2024-07-09 07:47

文章预览

Factorizers for Distributed Sparse Block Codes 分布式稀疏分组码的工厂  https://arxiv.org/abs/2303.13957 https://github.com/IBM/abduction-rule-learner-with-context-awareness  摘要 分布式稀疏块码(SBCs)展示了 使用固定宽度向量对符号数据结构进行编码和操作 的紧凑表示。然而,一个主要挑战是将数据结构的分布式表示 解缠或分解为其组成元素,而不必搜索所有可能的组合 。当SBCs向量因感知不确定性和现代神经网络生成查询SBCs向量时所做的近似而变得嘈杂时,这种分解变得更加具有挑战性。为了应对这些挑战,我们首先提出了一种 快速且高度准确的方法,用于分解更灵活且因此更通用的形式的SBCs,被称为GSBCs 。我们的迭代分解器引入了 基于阈值的非线性激活、条件随机采样和基于ℓ∞的相似性度 量。它的随机采样机制与超位置搜索相结合,使我们能够分析确定解码迭代的 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览