主要观点总结
本文介绍了'无问芯穹'这家AI Infra(大模型基础设施)创业公司,该公司通过整合异构算力,让大模型落地更便宜,并提供AI的基础设施建设。公司通过软硬件联合优化技术和多元异构算力适配技术,提高芯片算力在大模型任务中的利用率和集群算力利用率。此外,公司还布局企业级基础设施、端侧LPU,并已经在商业化层面取得进展。
关键观点总结
关键观点1: “无问芯穹”获得近5亿元A轮融资,是国内AI Infra创业公司最大的单笔融资记录。
本轮融资由社保基金中关村自主创新专项基金等领投,跟投方包括联想创投、小米等战略投资方和多家国资基金及财务机构。
关键观点2: “无问芯穹”通过软硬件联合优化技术和多元异构算力适配技术,解决异构算力难以有效利用的问题。
公司自研的推理加速技术可以提升主流硬件推理效率2-4倍,并且已经在多种计算卡上完成适配。此外,公司还发布了大规模异构分布式混合训练系统HETHUB,实现了千卡规模的异构算力混合训练,集群算力利用率最高达到97.6%。
关键观点3: “无问芯穹”的目标是让大模型落地成本实现10000倍下降,成为大众触手可及的“水电煤”。
公司正在围绕“以电换Token”思路,展开AI的基础设施建设,并已经在商业化层面取得进展,包括与智谱联合发布大模型万卡训推计划、为猎聘旗下的AI大模型产品提供技术支持等。
关键观点4: “无问芯穹”布局企业级基础设施、端侧LPU,提供一站式AI平台和大模型服务平台。
公司的Infini-AI异构云平台提供算力服务,并且已经吸引多个大模型行业头部客户。此外,公司还打造“端模型+端芯片”闭环能力,帮助端侧场景快速增长和应用爆发。
文章预览
用“以电换Token”思路,展开AI的基础设施建设。 文 | 邱晓芬 编辑 | 苏建勋 来源 | 智能涌现(ID:AIEmergence) 封面来源 | 视觉中国 智能涌现获悉,“无问芯穹”宣布完成近5亿元A轮融资。 这也是目前为止,国内AI Infra(大模型基础设施)层创业公司最大的单笔融资记录。 本轮融资联合领投方为社保基金中关村自主创新专项基金(君联资本担任管理人)、启明创投和洪泰基金,跟投方包括联想创投、小米、软通高科等战略投资方,国开科创、上海人工智能产业投资基金(由临港科创投担任基金管理人)、徐汇科创投等国资基金,以及顺为资本、达晨财智、德同资本、尚势资本、森若玉坤、申万宏源、正景资本等财务机构。 “无问芯穹”联合创始人、CEO夏立雪表示,本轮投资将用于加强技术人才吸纳与技术研发,深入推动产品商业化发展并强化
………………………………