今天看啥  ›  专栏  ›  赛博禅心

全军覆没:国产大模型,都没做好 OpenAI 兼容

赛博禅心  · 公众号  ·  · 2024-06-30 23:58
    

文章预览

为了方便开发者迁移 国内的很多大模型 都做了 OpenAI SDK 兼容 但不幸的是... 目前,还没见到哪家把做对 包括不仅限于 百川/月之暗面/通义千问/智谱/... 很悲哀... 这篇文章不是挑刺 而是公开的问题反馈 毕竟,如果真的做 agent 开发 应该在第一天就遇到了这些问题 这里以如下请求为例 (老版本的 function 调用) from google.colab import userdata from openai import OpenAI def LLM (model_version= 'gpt-3.5-turbo' , client = object) : messages = [ { "role" : "system" , "content" : "我是一个天气预报机器人" }, { "role" : "assistant" , "content" : "我有什么可以帮你的?" }, { "role" : "function" , "name" : "local_temperature" , "content" : "当前室外温度 27 度" }, { "role" : "user" , "content" : "现在多少度了?" } ] api_params = { "model" : model_version, "messages" : messages, } return c ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览