专栏名称: 老刘说NLP
老刘,NLP开源爱好者与践行者。主页:https://liuhuanyong.github.io。老刘说NLP,将定期发布语言资源、工程实践、技术总结等内容,欢迎关注。
今天看啥  ›  专栏  ›  老刘说NLP

Llama3.2开源进展及RAG用于具身智能:兼看KG增强LLM(GraphRAG)落地实践探索

老刘说NLP  · 公众号  ·  · 2024-09-26 11:40
    

文章预览

今天是2024年9月26日,星期四,北京,天气晴。 我们来看两个事情,一个是先看开源模型Llama3.2及基于RAG进行具身智能的进展,另一个是知识图谱增强大模型(GraphRAG)的产业化落地实践探索分享,都很不错。 一个是关于社区第33讲,我们顺利结束,干货满满,会有一定收获。 供大家一起参考并思考。 一、先看开源模型Llama3.2及基于RAG进行具身智能的进展 产业进展,Meta发布Llama3.2(https://github.com/meta-llama)。包含4种尺寸的模型,包括1B、3B、11B和90B,最大上下文为128k。 Llama3.2-1B、Llama3.2-3B:旨在提供边缘算力,也就是可以在如移动设备上运行,上下文长度为128k,训练数据截止日期为2023年12月,适合在端侧,比如手机、平板、笔记本,以及类似设备中使用。类似的模型包括Gemma2以及Phi-3.5-Mini Llama3.2-11B、Llama3.2-90B:具备多模态能力,并可直接替代Llama3.18B ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览