aisuite:吴恩达发布开源Python库,一个接口调用多个大模型

本文涉及的产品
NLP 自学习平台,3个模型定制额度 1个月
NLP自然语言处理_高级版,每接口累计50万次
NLP自然语言处理_基础版,每接口每天50万次
简介: 吴恩达发布的开源Python库aisuite,提供了一个统一的接口来调用多个大型语言模型(LLM)服务。支持包括OpenAI、Anthropic、Azure等在内的11个模型平台,简化了多模型管理和测试的工作,促进了人工智能技术的应用和发展。

❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日跟你分享最新的 AI 资讯和开源应用,也会不定期分享自己的想法和开源实例,欢迎关注我哦!

🥦 微信公众号|搜一搜:蚝油菜花 🥦


🚀 快速阅读

统一接口:aisuite提供了一个统一的接口,开发者能以相同的方式调用不同大型语言模型(LLM)平台的模型。
多平台支持:aisuite 支持包括 OpenAI、Anthropic、Azure、Google、AWS、Groq、Mistral、HuggingFace 和 Ollama 在内的多个模型平台。
简化切换:用户只需通过更改一个字符串,即可选择不同提供商的模型,极大地简化了模型切换和对比测试的过程。

正文(附运行示例)

aisuite 是什么

公众号: 蚝油菜花 - andrewyng/aisuite

aisuite是吴恩达(Andrew Ng)发布的一个开源Python库,旨在提供一个统一的接口来调用多个大型语言模型(LLM)服务。支持包括OpenAI、Anthropic、Azure等在内的11个模型平台,开发者能轻松切换和测试不同提供商的模型。通过aisuite,用户可以便捷地获取API密钥并设置环境变量,实现对不同语言模型的访问和调用。

aisuite简化了多模型管理和测试的工作,促进了人工智能技术的应用和发展。

aisuite 的主要功能

  • 统一接口设计:aisuite提供了一个统一的接口,开发者能以相同的方式调用不同大型语言模型(LLM)平台的模型。
  • 支持多个模型平台:aisuite 支持包括 OpenAI、Anthropic、Azure、Google、AWS、Groq、Mistral、HuggingFace 和 Ollama 在内的多个模型平台。
  • 简化模型切换:用户只需通过更改一个字符串,即可选择不同提供商的模型,极大地简化了模型切换和对比测试的过程。
  • 易于安装和配置:aisuite的安装过程简便,用户只需准备Python环境和所需的API密钥,可通过简单的命令安装框架。
  • 主要关注聊天功能:目前,aisuite主要关注于增强聊天功能,未来计划扩展到更多使用场景。
  • 扩展性:aisuite计划增加更多功能模块,例如函数调用等,以进一步丰富其实用性。
  • 使用HTTP端点或SDK调用:为了确保稳定性,aisuite使用HTTP端点或SDK来与提供商进行调用。

如何运行 aisuite

安装aisuite

可以通过pip命令来安装aisuite。

  • 只安装基础包,不涉及任何提供商的SDK,使用命令:
    pip install aisuite
    
  • 需要特定提供商的支持,比如Anthropic,可以使用命令:
    pip install 'aisuite[anthropic]'
    
  • 要安装所有特定于提供商的库,使用命令:
    pip install 'aisuite[all]'
    

获取API密钥

安装后,需要为所选的提供商获取API密钥,通过环境变量进行配置。

编写Python客户端

配置好API密钥后,可以使用标准的Python客户端来请求聊天补全等功能。例如,以下是使用aisuite生成聊天补全响应的Python客户端示例代码:

import aisuite as ai

client = ai.Client()
models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet-20241022"]
messages = [
    {
   "role": "system", "content": "Respond in Pirate English."},
    {
   "role": "user", "content": "Tell me a joke."},
]

for model in models:
    response = client.chat.completions.create(
        model=model,
        messages=messages,
        temperature=0.75
    )
    print(response.choices[0].message.content)

资源


❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日跟你分享最新的 AI 资讯和开源应用,也会不定期分享自己的想法和开源实例,欢迎关注我哦!

🥦 微信公众号|搜一搜:蚝油菜花 🥦

相关文章
|
机器学习/深度学习 API Python
100天搞定机器学习 番外:使用FastAPI构建机器学习API
100天搞定机器学习 番外:使用FastAPI构建机器学习API
100天搞定机器学习 番外:使用FastAPI构建机器学习API
|
人工智能 API Python
Python 技术篇-有道翻译api接口调用详细讲解、实战演示,有道智云·AI开放平台
Python 技术篇-有道翻译api接口调用详细讲解、实战演示,有道智云·AI开放平台
3211 0
Python 技术篇-有道翻译api接口调用详细讲解、实战演示,有道智云·AI开放平台
|
4月前
|
API
求助:使用阿里的通义模型如何支持运行GraphRAG项目呢?
求助:使用阿里的通义模型如何支持运行GraphRAG项目呢?
101 1
|
4月前
|
机器学习/深度学习 TensorFlow 算法框架/工具
TensorFlow Serving 部署指南超赞!让机器学习模型上线不再困难,轻松开启高效服务之旅!
【8月更文挑战第31天】TensorFlow Serving是一款高性能开源服务系统,专为部署机器学习模型设计。本文通过代码示例详细介绍其部署流程:从安装TensorFlow Serving、训练模型到配置模型服务器与使用gRPC客户端调用模型,展示了一站式模型上线解决方案,使过程变得简单高效。借助该工具,你可以轻松实现模型的实际应用。
58 0
|
4月前
|
机器学习/深度学习 人工智能 自然语言处理
【人工智能】TensorFlow简介,应用场景,使用方法以及项目实践及案例分析,附带源代码
TensorFlow是由Google Brain团队开发的开源机器学习库,广泛用于各种复杂的数学计算,特别是涉及深度学习的计算。它提供了丰富的工具和资源,用于构建和训练机器学习模型。TensorFlow的核心是计算图(Computation Graph),这是一种用于表示计算流程的图结构,由节点(代表操作)和边(代表数据流)组成。
83 0
|
7月前
|
开发框架 API 决策智能
ModelScope-Agent框架再升级!新增一键配置多人聊天,配套开源多智能体数据集和训练
ModelScope-Agent是魔搭社区推出的适配开源大语言模型(LLM)的AI Agent(智能体)开发框架,借助ModelScope-Agent,所有开发者都可基于开源 LLM 搭建属于自己的智能体应用。在最新升级完Assistant API和Tool APIs之后,我们又迎来了多智能体聊天室的升级,通过几分钟快速配置即可搭建一个全新的聊天室。
|
7月前
|
机器学习/深度学习 数据采集 编解码
阿里云魔搭发起“ModelScope-Sora开源计划”
阿里云魔搭发起“ModelScope-Sora开源计划”
139 0
阿里云魔搭发起“ModelScope-Sora开源计划”
|
7月前
|
存储 人工智能 开发框架
【AI Agent系列】【阿里AgentScope框架】0. 快速上手:AgentScope框架简介与你的第一个AgentScope程序
【AI Agent系列】【阿里AgentScope框架】0. 快速上手:AgentScope框架简介与你的第一个AgentScope程序
957 0
|
7月前
|
人工智能 Python
【AI大模型应用开发】【LangChain系列】加速学习LangChain效率:源码环境安装 + 断点调试
【AI大模型应用开发】【LangChain系列】加速学习LangChain效率:源码环境安装 + 断点调试
73 0
|
前端开发 物联网 API
大模型掌握16000+真实世界API了,清华等机构ToolLLM的工具使用能力不输ChatGPT
大模型掌握16000+真实世界API了,清华等机构ToolLLM的工具使用能力不输ChatGPT
419 0

热门文章

最新文章