CGE：基于Causal LLM的Code Embedding模型

文章预览

来自：CodeFuse 近日，CodeFuse-CGE 项目在外滩大会展出，吸引了众多技术、产品从业者的到访，部分参观者表示“文搜代码”令人耳目一新，期待模型后续的表现。 以下是 CodeFuse-CGE 项目的相关开源介绍，如果对这部分内容感兴趣，欢迎访问我们的项目主页 https://github.com/codefuse-ai/CodeFuse-CGE  为我们点赞，支持我们的项目。 01 简介 Code Embedding 是一种将代码片段转化为向量表示的技术。这种表示形式使得机器学习模型能够更好地理解和处理代码，在自动化程序分析、代码搜索、代码补全，以及自动化测试等领域都起到非常重要的作用。大语言模型（Large Language Models）因为其在大量的语言数据上预训练，可以获得对语义细微表示的能力。最近，LLMs 在代码生成、代码补全等任务上都有非常出色的表现。 目前 Code Embedding 模型主要基于 Encoder 架构，如 CodeBert ………………………………