专栏名称: CreateAMind
ALLinCreateAMind.AGI.top , 前沿AGI技术探索,论文跟进,复现验证,落地实验。 鼓励新思想的探讨及验证等。 探索比大模型更优的智能模型。
今天看啥  ›  专栏  ›  CreateAMind

HEAL:超维高效主动学习,11倍至40,000倍的加速

CreateAMind  · 公众号  ·  · 2024-07-12 18:35

文章预览

HEAL: Brain-inspired Hyperdimensional Efficient Active Learning HEAL:大脑启发的超维高效主动学习   https://arxiv.org/abs/2402.11223 以下技术实现这一目标,例如共享HDC编码器、编码数据重用、相似性计算重用、预归一化和动态维度再生。 贡献总结如下: - 据我们所知,HEAL是首个专为基于HDC的ML设计的AL算法。之前的HDC算法要求训练数据集尽可能完整以确保最高的学习质量。然而,HEAL通过不确定性和多样性指导的获取,主动标注未标记的数据点,从而实现更高效的数据集标注并降低人工成本。 - 在HDC环境中实现AL具有重大挑战,因为传统方法依赖BNN和基于梯度的学习来进行不确定性估计和多样性度量。相比之下,HEAL无需梯度并能无缝集成到任何现有的HDC分类器架构中。 - 在HEAL框架内,我们通过轻量级HDC集成和先验超向量引入了一种新的HDC分类器不确定性估计方法。AL ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览