全军覆没：国产大模型，都没做好 OpenAI 兼容

文章预览

为了方便开发者迁移 国内的很多大模型 都做了 OpenAI SDK 兼容 但不幸的是... 目前，还没见到哪家把做对 包括不仅限于 百川/月之暗面/通义千问/智谱/... 很悲哀... 这篇文章不是挑刺 而是公开的问题反馈 毕竟，如果真的做 agent 开发 应该在第一天就遇到了这些问题 这里以如下请求为例 （老版本的 function 调用） from google.colab import userdata from openai import OpenAI def LLM (model_version= 'gpt-3.5-turbo' , client = object) : messages = [ { "role" : "system" , "content" : "我是一个天气预报机器人" }, { "role" : "assistant" , "content" : "我有什么可以帮你的？" }, { "role" : "function" , "name" : "local_temperature" , "content" : "当前室外温度 27 度" }, { "role" : "user" , "content" : "现在多少度了？" } ] api_params = { "model" : model_version, "messages" : messages, } return c ………………………………