今天看啥  ›  专栏  ›  云上北疆

⾃治区⼤数据中⼼基于信创环境部署DeepSeek-R1实践(六)——常见问题与优化

云上北疆  · 公众号  ·  · 2025-03-21 07:59
    

文章预览

点击蓝字,关注我们 在内蒙古⾃治区⼤数据中⼼的信创实践中,已完成DeepSeek-R1的部署与初步测试。然⽽,在实际运⾏中,我们遇到了—些常⻅问题,如输出截断、推理速度慢等。本篇将详细分析这些问题的原因,并记录在完全信创环境下的优化措施,以提升系统性能与稳定性。 输出截断 问题描述 在测试⻓问题时,发现模型输出经常中途截断,⽆法完整回答。 原因分析 经排查,确认这是由于服务化配置⽂件中设置的最⼤输出token数限制所致。 解决办法 我们调整了配置⽂件 /usr/local/Ascend/mindie/latest/mindie-service/conf/config.json中的"maxIterTimes"参数: 调整建议:将默认值增⾄16384(约12000字),满⾜⻓回答需求。 操作步骤: 1. 编辑配置⽂件: vim/usr/local/Ascend/mindie/latest/mindie- service/conf/config.json 2. 修改"maxIterTimes": 16384,保存。 增⼤maxIterTimes 3. 重启服务: ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览