专栏名称: 机器之心
专业的人工智能媒体和产业服务平台
今天看啥  ›  专栏  ›  机器之心

给机器人装上「虫脑」?非Transformer液态神经网络终于来了!MIT CSAIL负责人创业成果

机器之心  · 公众号  · AI  · 2024-10-01 12:37

主要观点总结

Liquid AI公司推出了全新的基于线虫神经结构启发的AI模型LFM系列,包括多种尺寸的模型,旨在实现高效的内存使用和推理性能。这些模型具有高性能和内存效率,为传统的基于Transformer的模型提供了替代选择。该公司由MIT计算机科学与人工智能实验室CSAIL孵化,成立于2023年,已经获得了种子轮融资。LFM系列结合了高性能和高效的内存使用,为各行业提供了广泛的应用前景,特别是在金融服务、生物技术和消费电子产品等领域的企业级应用程序中展现出巨大潜力。

关键观点总结

关键观点1: Liquid AI推出的LFM系列基于全新的架构,实现了在各种规模上均能达到最佳性能的先进模型。

LFM系列具有不同尺寸和变体,适合不同的应用场景。该系列模型具有高效的上下文窗口,能够处理长序列数据,提高了应用的灵活性。

关键观点2: LFM系列模型具有高效的内存占用和推理性能。

与其他模型相比,LFM系列在内存使用和计算效率方面具有优势,尤其是在处理长序列数据时。这种优势使得LFM系列适合在资源受限的环境中部署。

关键观点3: Liquid AI公司的创始团队具有深厚的科研背景,包括来自MIT CSAIL的博士后研究人员和计算机科学家。

公司的技术基于线虫神经结构的启发,通过液态神经网络实现高效的时间序列建模。这种新型的神经网络架构具有灵活性、可解释性和可扩展性等优点。


文章预览

机器之心报道 机器之心编辑部 一个受线虫启发的全新架构,三大「杯型」均能实现 SOTA 性能,资源高度受限环境也能部署。移动机器人可能更需要一个虫子的大脑。 在大模型时代,谷歌 2017 年开创性论文《Attention Is All You Need》中提出的 Transformer 已经成为主流架构。 然而,刚刚一家由 MIT 计算机科学与人工智能实验室 (CSAIL) 前研究人员共同创立的初创公司 Liquid AI 却走出了不一样的路线。 Liquid AI 表示他们的目标是「探索构建超越生成式预训练 Transformer (GPT) 基础模型的方法」。 为了实现这一目标,Liquid AI 推出了其首批多模态 AI 模型:Liquid Foundation Models(LFM)。这是基于第一原理构建的新一代生成式 AI 模型,其 1B、3B 和 40B LFM 在各个规模上均能实现 SOTA 性能,同时保持更小的内存占用和更高效的推理。 Liquid AI 后训练主管 Maxime Labonne 在 X 上表示 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览