榨取大模型算力，百度想了一些招

文章预览

头图由豆包生成，提示词 :算力集群，GPU，光感芯片 作者 ｜ 李楠 邮箱 ｜ linan@pingwest.com 以前最宝贵的资源是黄金，现在最宝贵的资源是算力。 9月13日凌晨，OpenAI官宣发布o1-preview，传说中的“草莓”既带来令人惊异的推理能力，也引起对算力的进一步关注。此前头部玩家已经把模型训练规模卷向10万卡级别，草莓的算力消耗可能还要大上好多倍。于是对有志于从大模型时代掘金的弄潮儿来说，算力问题更加凸显。 一方面，大家要想办法堆高算力资源，另一方面，还需要把有限的算力资源尽可能高效地利用。前者需要巨额的金钱投入，后者则需要精细把控算力调用的各个环节。 同在9月13日，百度做了一场有关大模型训练成本的技术分享，百度智能云AI计算部负责人王雁鹏对大模型时代的算力浪费难题做了一番拆解，并给出了百度百舸怎么把算力利 ………………………………