上万Jetson用户可用的AI助理来了，NVIDIA开源Jetson Copilot

文章预览

昨日，NVIDIA宣布开源Jetson Copilot项目： Jetson Copilot是一个参考应用，旨在展示一个运行在Jetson上的私人AI助手，这个助手能够实现两项重要功能： -在设备上运行开源大型语言模型（LLM） Jetson Copilot能够直接在Jetson设备上运行开源的大型语言模型。这意味着用户无需将数据发送到云端进行处理，即可获得强大的语言理解和生成能力，从而实现了更快的响应速度和更好的隐私保护。 -增强LLM以访问本地索引知识（RAG，检索增强生成） 除了运行LLM外，Jetson Copilot还通过检索增强生成（RAG）技术，为LLM提供了访问本地索引知识的能力。这意味着，当AI助手与用户交互时，它能够利用本地存储的知识库来提供更加准确和相关的回答，从而进一步提升了AI助手的智能水平。 这个项目是在Jetson AI实验室中精心打造而成，NVIDIA团队倾注了大量的心血和热情。对于NVIDIA ………………………………