在构建应用程序时,与多个提供商集成很麻烦,现在 aisuite 给解决了。
用相同的代码方式调用 OpenAI、Anthropic、Google 等发布的大模型,还能实现便捷的模型z { P h切换和对比测试。
刚刚,AI 著名学者、斯坦福大学教d 4 x ? \ L授吴恩达最新开源S g ~ i 6 { g &项目实现) @ q q L D 8 I了。
吴恩达在推R t T y z 2 | ! \文中宣布了这一好消息开源新的 Python 包:aisuite!
立即学习“Python免费学习笔记(深入)”;
这个工具可以让开发者轻松使用来自多个提供商的大型语言模型。
在谈到为何构建这个项目时,吴恩m ( 2 0 * U O S A达表示构建应用时,发现与多个提供商集成非常麻烦。aisuite 正是为了解决这个问题而诞生的,用户Z ? ; i 8 6 M ] ,只需通过更改一个字符串(如 openai:gpt-4o、anthropic:claude-3-5-sonnet-20241022、ollama:llama3.1:8b 等),即可选择不同提供商的模型。
项目地址:https://github.com/andrewyng/aisuite
项目一上线,大家纷7 f J t纷表示「这对开发人员来说非常有用。」
「超级/ y T方便!简化集成总是有益的,非% S U l e ; 3 A 9常好的研究!」
统一接口设计,支持多个 AI 提供商的模型
aisuite 使开^ ] C % + L ^发者能够通过: h N w标准化的接口轻松使用多个 LLM。其% $ b , # G [ 6 q接口与 OpenAI 的类似,aisuite 可以很容易地与最流8 ? X e ( h行的 LLM 交互并比较结果。
aisuite 是一个轻量级的包装) g _ : |器,它$ u i W {基于 Python 客户端库构建,允许用户在不修改代码的情况下,轻松切换并测试来自不同 LLM 提供商的响应。
目前,这个项目主要集中在聊天E E i a A } – C补全功能,未来将扩展到更多使用场景。
当前,aisuite 支持的提供商包括:
-
OpenAI -
Anthropic -
Azure -
Google -
AWS -
Groq -
Mistral -
HuggingFace -
Ollama
为了确保稳定性,aisuite 使用 HTTP 端点或 SDK 来与提供商进行调用。
安装
安装过程有多种选择。
下面是只安装基础包,而不安装任何# p D ? 9 P h Y提供商的 SDK。
<p>pip install aisuite</p>
带 Anthropic 支持的安装方式
<p>pip install 'aisuite [anthropic]'</p>
下面是将安装G H j b Q V所有特定于提供商的库。
<p>pip install 'aisuite [all]'</p>
设置
开始使用时,你需要为打算使用的提供商获x s T e n 2 ( ;取 API 密钥。API 密钥可以作为环境变量设置,具体的使用方式可以参考 aisuite 的 exam# / 7 cples 文件夹。
如果大家还不是很明白,可以参考下面简短的示例展示,即如g 3 ? N何使用 aisuite 生成6 J 8 # \ u S来自 GPT-4o 和 Claude-3-5-Sonnet 的聊天补全响应。
先设置 API 密钥:
<p>export OPENAI_API_KEY="your-openai-api-key"</p><p>export ANTHROPIC_API_KEY="your-anthropic-api-key"</p>
使用 Python 客户端:
<p>import aisuite as ai</p><p>client = ai.Client ()models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet-20240620"]messages = [</p><p>{"role": "system", "content": "Respond in Pirate English."},</p><p>{"role": "user", "content": "Tell me a joke."},</p><p>]for model in models:</p><p>response = client.chat.completions.create (</p><p>model=model,</p><p>messages=messages,</p><p>temperature=0.75</p><p>)</p><p> print (response.choices [0].message.content)</p>
想要尝试的读者可以跟着原项目进行配置。如今,我们身处大模型时代,对于开发者而言,用一个统一的接口就能调用各种大模型,这给开发者们节省了大量的时间成本。
我们期待这种实用的开源项k w z g R V目越来越多,如果你有好的项目推荐,欢迎大家评论区留言。
以上就是吴恩达出手e U 6 1 a % { ^ d,开源最新Python包,一个接口调用OpenAI等模型的详细内容!