专栏名称: DeepTech深科技
“DeepTech深科技”是与麻省理工科技评论官方独家合作的一个新科技内容品牌。我们专注于关注三个方面:1、基于科学的发现;2、真正的科技创新;3、深科技应用的创新。
今天看啥  ›  专栏  ›  DeepTech深科技

Liquid AI获AMD领投2.5亿美元融资,用灵活高效的“液态”模型挑战Transformer

DeepTech深科技  · 公众号  · 科技媒体  · 2024-12-14 14:33
    

主要观点总结

本文介绍了Transformer架构在生成式人工智能发展中的主导地位以及面临的挑战。为了突破这些挑战,Liquid AI提出了一种全新的液体基础模型(LFM),通过其创新性的架构设计,提供了一种更高效、更轻量化的生成式AI解决方案。该公司近日完成2.5亿美元A轮融资,由AMD领投。LFM借鉴了线虫神经系统的特点,采用动态权重更新和非线性微分方程的神经建模方法,突破传统Transformer架构的局限性。实验结果显示,LFM在多个自然语言处理任务中表现出色。此外,Liquid AI还开发了一个名为STAR的优化框架,用于自动生成针对特定任务优化的定制架构。STAR充分利用了LFM的动态权重更新和非线性建模特性,针对不同任务的特定需求进行精细化优化。Liquid AI的技术已经被应用于多个领域,并引起产业界的关注。

关键观点总结

关键观点1: Liquid AI提出液体基础模型(LFM)作为生成式AI的新解决方案。

LFM通过借鉴线虫神经系统的特点,采用动态权重更新和非线性微分方程的神经建模方法,突破传统Transformer架构的局限性。

关键观点2: LFM在多个自然语言处理任务中表现出色,并相比同等规模的传统模型有所提升。

实验结果显示LFM的优势。

关键观点3: Liquid AI开发了STAR优化框架,用于自动生成针对特定任务优化的定制架构。

STAR通过模拟自然选择的过程,对液体基础模型的神经网络架构进行自动化优化,提升了模型的适配性和效率。

关键观点4: Liquid AI的技术已经被应用于多个领域,包括基因数据分析、金融欺诈检测、自动驾驶等。

其灵活性和轻量化特性正引起产业界的关注。

关键观点5: Liquid AI获得由AMD领投的2.5亿美元融资,将进一步推动其技术研发和市场化进程。

这笔资金将被用于扩大技术团队规模,并加速模型的行业落地。


文章预览

在过去几年,Transformer 架构主导了生成式人工智能的发展,并推动了 ChatGPT 等大型语言模型的成功。然而,随着模型规模的不断扩张,这一技术逐渐暴露出难以忽视的瓶颈:对海量计算资源和数据的依赖使其训练和推理成本愈发高昂,同时在长序列建模、实时性需求以及设备部署的灵活性方面也存在显著不足。 这些限制促使学术界和产业界开始寻求其他技术路径,以突破这些困境。而一家来自 MIT 的初创企业 Liquid AI 就提出了一种全新的液体基础模型(Liquid Foundation Model, LFM),通过其创新性的架构设计,提供了一种更高效、更轻量化的生成式 AI 解决方案。 (来源:Liquid AI) 近日,该公司宣布完成 2.5 亿美元 A 轮融资,由芯片巨头 AMD 领投。据彭博社报道,此轮融资后 Liquid AI 估值已超过 20 亿美元。 Liquid AI 的液体基础模型借鉴了线虫(Caenorhabditis e ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览