【华西计算机】周观点：AI应用加速落地，推理算力井喷在即

文章预览

本周观点 一、算力：大模型更新需要强大算力支撑，推理算力井喷在即 字节跳动近期在上海举办的火山引擎Force原动力大会，CEO谭待表示字节跳动的豆包模型日均 token 使用量截至 2024 年12 月中旬已超 4 万亿，短短七个月间增长 33 倍。这一惊人的数据背后，是AI技术在各行业广泛应用所带来的对算力的巨大需求。无论是智能客服的即时响应、图像生成的精美画面，还是海量数据的深度分析，每一项AI应用的背后都离不开强大的算力支持。根据大成未来产业研究， 相关专家指出，OpenAI o1-preview的 token 消耗量通常是 GPT-4 的 2-5 倍，网页版更高。这意味着，为了支持  OpenAI o1-preview的推理，需要构建更大规模的算力集群，这将对数据中心建设和运营带来新的挑战。根据游方AI， 市场调研机构IDC预测，我国智能算力年复合增速为33.9%，其中训练算力占比将下 ………………………………