模拟初创公司推动生成式人工智能实现节能

文章预览

长期以来，人们一直认为机器学习芯片使用模拟电路替代数字电路可节省大量能源。但在实践中，这种芯片大多只能节省有限的能源，而且仅适用于中等规模的神经网络。 硅谷初创公司 Sagence AI 表示，其拥有的技术能够使大规模生成式人工智能模型任务实现大幅节能。这家初创公司声称，其系统能够运行 Meta 的大语言模型 Llama 2 70B ，与英伟达 H100 GPU 系统相比，其功率仅为前者的 1/10 ，成本和占用空间仅为前者的 1/20 。 “我的愿景是打造一种与现有人工智能截然不同的技术。” Sagence AI 的首席执行官兼创始人夏尔马•萨林（ Vishal Sarin ）说。 2018 年创办该公司时，他就认识到，电力消耗将阻碍人工智能的大规模应用，尤其是在人工智能模型越来越大的情况下。 模拟人工智能节能能力的核心来源于两个基本优势：使用一些基本物理量来完成机器学习 ………………………………