今天看啥  ›  专栏  ›  InfoQ

AISuite:一个新的开源Python库,提供了统一的跨LLM API

InfoQ  · 公众号  · 科技媒体  · 2024-12-07 10:15
    

文章预览

作者 | Sergio De Simone 译者 | 刘雅梦 策划 | 丁晓昀 吴恩达(Andrew Ng)最近宣布, aisuite 的目标是围绕目前最流行的大语言模型(LLM)提供一个类似 OpenAI 的 API,使开发人员可以轻松地尝试并比较结果,或者在不更改代码的情况下从一个 LLM 切换到另一个 LLM。 根据吴恩达的说法,在同一个应用程序中使用多个 LLM 提供程序可能会很麻烦,而 aisuite 的目标是对其进行简化,只需在实例化其主组件时更改单个字符串即可选择所需的 LLM 提供程序。例如,要使用 OpenAI GPT-4o,你需要将“openai:gpt-4o”作为 model 参数传递到调用中,以创建一个 aisuite 聊天完成智能体代理。下面的代码片段进一步展示了这一点: import aisuite as ai client = ai.Client() messages = [ { "role" : "system" , "content" : "Respond in Pirate English." }, { "role" : "user" , "content" : "Tell me a joke." }, ] ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览