今天看啥  ›  专栏  ›  盐财经

火山引擎谭待:大模型的超低定价,来自对技术的信心

盐财经  · 公众号  · 互联网短视频 科技自媒体  · 2024-05-18 17:43
    

主要观点总结

火山引擎发布字节跳动豆包大模型,其超低定价策略引发行业震动。火山引擎总裁谭待解释了其定价背后的逻辑,强调降价是通过技术优化成本实现的,而非补贴。他还详细说明了如何从技术层面优化大模型的推理成本,包括模型结构改进、训练方法的持续完善、混合专家模型的应用以及工程优化等。此外,谭待还谈到了大模型市场仍处于发展初期,价格降低有助于降低企业的AI转型试错成本,加速大模型的应用落地。

关键观点总结

关键观点1: 火山引擎发布豆包大模型,定价策略引发行业震动。

火山引擎总裁谭待揭示了豆包大模型的定价背后的逻辑,即有信心用技术手段降低成本,市场也需要更低价的大模型。

关键观点2: 技术优化是推动大模型降价的关键。

谭待强调降价并非通过补贴实现,而是真正用技术优化成本。包括改进模型结构和训练方法、应用混合专家模型等解决方案。

关键观点3: 大模型市场仍处于发展初期。

谭待认为现在整个池塘还在培养的过程,大模型市场远远没到激烈竞争的阶段。

关键观点4: 价格降低有助于降低企业的AI转型试错成本。

谭待表示将大模型价格降至极低,可以使企业更容易尝试AI转型,降低试错成本,从而加速大模型的应用落地。


文章预览

统筹 |  杨园园 视觉 |  林溪 “降价的基本逻辑是,我们有信心用技术手段降低成本,市场也需要更低价的大模型。 ” 5月15日,字节跳动豆包大模型在火山引擎原动力大会上正式发布。火山引擎总裁谭待在接受媒体采访时,谈到了大模型的定价策略。 豆包大模型的超低价格引发行业震动。据悉,豆包主力模型的推理输入价格只有0.0008元/千Tokens,比行业便宜99.3%。对此,谭待坦言,“降价是用技术优化成本来实现的。如果只是补贴,用亏损换收入是不可持续的,火山引擎不会走这条路。” 火山引擎总裁谭待 据介绍,大模型推理成本的优化,技术上有很多手段。首先是模型本身,模型结构、训练方法都可以持续改进,包括业界很关注的MoE(混合专家模型),就是优化推理成本很好的解决方案。 其次是工程上的优化。大模型的调用量越大,优化推理 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览