对话 Nexa AI：两位斯坦福95后，做出比GPT-4o快4倍的小模型，直指“端侧版Hugging Face”

文章预览

作者 ｜ Jessica 邮箱 ｜ JessicaZhang@pingwest.com 比OpenAI最强的GPT-4o更快，函数调用能力与GPT-4相当，同时比它小N倍，且只需要一张卡来做推理。 这是Nexa AI亮相时给大家带来的“冲击”。 四个月前，Nexa AI开发的5 亿参数小模型Octopus v2在硅谷AI圈子引发了广泛关注。他们开发的 Functional Token技术，能实现比 GPT-4o 快 4 倍、比RAG 解决方案快 140 倍的出色推理速度，同时具备与GPT-4相当的性能，函数调用准确率高达98%以上。 上线Product Hunt当天，Octopus v2就荣获“No.1 Product of the Day”，在Hugging Face发布当月即累积1.2万次下载量。并受到Hugging Face CTO Julien Chaumond、技术负责人Philipp Schmid、Figure AI创始人Brett Adcock等AI界权威人士的一致认证。 Nexa AI由两名年轻95后斯坦福校友Alex Chen和Zack Li共同创立，目前共有8名全职员工 。 斯坦福大学管理科学与工程系教授、科技风险投 ………………………………