文章预览
Yi-Coder [1] 是一个开源的高性能代码语言大模型,为实现高效编程设计。它支持 52 种编程语言,擅长处理需要长上下文理解的任务,例如项目级代码理解和生成。该模型有两种大小(15亿 和 90亿 参数),并且提供基础版和聊天版。 本教程中,你将学习如何 使用与 OpenAI 兼容的 API 在本地运行 Yi-coder 模型 使用 Yi-coder 驱动 Cursor Cursor 是最热门的 AI 代码编辑器之一。它可以用专门为编码任务训练的 LLM(如 Yi coder)来完成编码辅助任务。你可以将 Yi-coder-9B 配置为 Cursor 的私有 LLM 后端。 用与 OpenAI 兼容的 API 在本地运行 Yi-coder 模型 要获取 Cursor 所需的本地 Yi-coder-9B 的公共 HTTPs endpoint,请按照以下说明操作。 安装开源 Gaia 节点——一组轻量且可移植的 LLM 推理工具。 Gaia’s tech stack is built on top of WasmEdge [2] , a WebAssembly-based runtime optimized for serverless computing
………………………………