今天看啥  ›  专栏  ›  大语言模型论文跟踪

造原子弹的也来整活RAG了:RAG + Few Shot提升代码翻译效果

大语言模型论文跟踪  · 公众号  ·  · 2024-08-05 20:47

文章预览

造原子弹的也来整活RAG了:RAG + Few Shot提升代码翻译效果 发布时间:2024 年 07 月 28 日 RAG Enhancing Code Translation in Language Models with Few-Shot Learning via Retrieval-Augmented Generation 大型语言模型 (LLM) 的兴起极大地推动了代码翻译领域,实现了编程语言间的自动化转换。然而,这些模型在处理复杂任务时,因上下文理解不足而常显疲态。本文提出了一种创新方法,结合少样本学习和基于检索的技术,通过动态利用现有代码翻译库中的相关示例,指导模型进行新代码段的翻译。基于检索增强生成 (RAG) 的方法,通过实时提供的上下文示例,大幅提升了翻译质量。相较于传统微调方法,RAG 能利用现有代码库或本地代码语料库,无需大规模重新训练即可适应多样翻译任务。在包括 Starcoder、Llama3-70B Instruct 等开源模型及 GPT-3.5 Turbo 等商业模型在内的多样化数据集上进行 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览