OpenAI o1引爆推理算力新革命，趋境科技发布新产品助力企业实现高效推理

主要观点总结

OpenAI全新发布的o1模型为大模型领域开启了一个新方向，即从训练转向推理阶段的优化。OpenAI o1带来了推理阶段的扩展（Inference time scaling law），提高了模型的推理能力，这标志着AI大模型领域通往AGI征程的Scaling Law第二曲线的确立。但这也导致了更高的算力成本，使得传统算力集群方案在推理阶段变得成本高昂。为了解决这个问题，趋境科技推出了大模型知识推理一体机，采用全系统推理架构，通过软硬一体化的方式，降低大模型的落地成本，实现了高性能、低成本、高效率的解决方案，推动大模型从研发走向落地。

关键观点总结

关键观点1: OpenAI o1模型的出现改变了大模型领域的技术方向，重点转向推理阶段的优化。

OpenAI o1通过推理阶段的扩展提高了模型的推理能力，这标志着新的技术范式的到来。然而，这也导致了更高的算力成本，使得传统算力集群方案在推理阶段变得不再经济。

关键观点2: 趋境科技推出了大模型知识推理一体机，作为对传统算力建设范式的革新。

该一体机采用全系统推理架构，通过软硬一体化的方式支持本地部署百亿级别以上的大模型。其核心优势是高性能、低成本、高效率，解决了企业落地大模型的大部分顾虑。

关键观点3: 趋境科技的技术创新包括'以存换算'技术和'全系统异构协同'架构。

'以存换算'技术利用存储空间提高大模型的推理效率；'全系统异构协同'架构则实现了整合机器所有异构算力资源的目标，使得推理吞吐量提升超过10倍。

文章预览

当备受期待的GPT-5历经数次跳票，OpenAI全新发布的o1模型及时挽回了行业的信心，并从此为大模型领域开启了一个新的竞技方向——当推理模型大行其道时，行业如何从Infra层面着手降低推理阶段的算力成本？ 9月中旬，OpenAI蓄势已久的“草莓”最终以“o1”的新命名面世，它改变了以往的技术范式，通过推理阶段的扩展（Inference time scaling law），将模型的推理能力提高到了新的高度。 这条被OpenAI称之为“新范式”的技术路径，为大模型领域带来了一系列变革，其中尤为重要的一点是自此将推理层面算力建设的必要性推到了更为突出的中心位。为达到理想效果，行业必须要解决推理效果、效率与成本之间的不可能三角问题。 从AI Infra层面来看，这背后涌现的是创业公司的新机会。对此，以趋境科技为代表的算力层玩家开始推行一种并非为了兼顾训练和 ………………………………