文章预览
#从第⼀步骤到第四步骤是完成DeepSeek本地部署和使⽤,可以满⾜中⼩企业环境的稳定 使⽤,第五步骤为基于AnythingLLM和本地数据进⾏训练(基于本地数据搭建本地知识 库): ⼀：京东云GPU云主机环境准备 ⼆：部署Ollama 三：运⾏DeepSeek模型 四：图形客户端使⽤ #第五步骤可以不执⾏ 五：本地数据投喂 ⼀：京东云GPU云主机环境准备： DeepSeek的不同版本模型对主机硬件(主要是CPU、内存和GPU)的要求不⼀样，推荐使⽤拥有单独GPU的主机进⾏部署以获得更好的使⽤体验，显卡推荐使⽤如NVIDIA RTX 3090或同等以上规格的显卡，CPU需要⽀持AVX2、AVX-512等指令集可以进⼀步提⾼响应性能, 如已有符合业务需求的主机环境可以跳过当前的主机环境准备步骤。 1.1: 京东云创建GPU云主机： 基于实际业务需求选择云主机计费模式、地域、可⽤区、CPU架构、系统镜像及系统版本,
………………………………
