树莓派上部署RAG！微软Phi-3技术报告揭示「小而美」模型如何诞生

文章预览

   新智元报道   编辑：乔杨 好困 【新智元导读】 Build大会召开两周之后，微软更新了Phi-3系列模型的技术报告。不仅加入最新的基准测试结果，而且对小模型、高性能的实现机制做出了适当的揭示。 这个月的微软Build大会上，微软正式官宣了Phi-3家族新成员：Phi-3-vision、Phi-3-small，Phi-3-medium。 此外，还有上个月就发布技术报告的Phi-3-mini，刚推出时，就让许多开发者印象深刻。 比如，Xenova基于Phi-3-mini开发了一个完全在本地运行的浏览器聊天应用WebGPU，demo看起来的效果像是经过加速的视频： 结果Xenova还要特意出来声明：视频没加速，部署的模型就是这么快，平均每秒生成69.85个token。 在人人追求LLM的大环境下，微软却始终没有放弃SLM这条路。 从去年6月Phi-1面世，到Phi-1.5、Phi-2，再到如今Phi-3，微软小模型已经完成四次迭代升级。 这次3.8B参数的Phi ………………………………