当前位置: 网站首页 >AI教程资讯 >正文

aisuite – 吴恩达发布开源Python库,一个接口调用多个大模型

来源:爱论文 时间:2025-02-01 22:56:03

aisuite是什么

aisuite是开源的Python库,吴恩达(Andrew Ng)发布的,旨在提供一个统一的接口来调用多个大型语言模型(LLM)服务。支持包括OpenAI、Anthropic、Azure等在内的11个模型平台,开发者能轻松切换和测试不同提供商的模型。通过aisuite,用户可以便捷地获取API密钥并设置环境变量,实现对不同语言模型的访问和调用。简化了多模型管理和测试的工作,促进了人工智能技术的应用和发展。

aisuite的主要功能

统一接口设计:aisuite提供了一个统一的接口,开发者能以相同的方式调用不同大型语言模型(LLM)平台的模型。支持多个模型平台:aisuite 支持包括 OpenAI、Anthropic、Azure、Google、AWS、Groq、Mistral、HuggingFace 和 Ollama 在内的多个模型平台。简化模型切换:用户只需通过更改一个字符串,即可选择不同提供商的模型,极大地简化了模型切换和对比测试的过程。易于安装和配置:aisuite的安装过程简便,用户只需准备Python环境和所需的API密钥,可通过简单的命令安装框架。主要关注聊天功能:目前,aisuite主要关注于增强聊天功能,未来计划扩展到更多使用场景。扩展性:aisuite计划增加更多功能模块,例如函数调用等,以进一步丰富其实用性。使用HTTP端点或SDK调用:为了确保稳定性,aisuite使用HTTP端点或SDK来与提供商进行调用。

aisuite的项目地址

Github仓库:https://github.com/andrewyng/aisuite/pulse

如何使用aisuite

安装aisuite:可以通过pip命令来安装aisuite。只安装基础包,不涉及任何提供商的SDK,使用命令pip install aisuite。需要特定提供商的支持,比如Anthropic,可以使用命令pip install "aisuite (anthropic)"。要安装所有特定于提供商的库,使用命令pip install "aisuite (all)"。获取API密钥:安装后,需要为所选的提供商获取API密钥,通过环境变量进行配置。编写Python客户端:配置好API密钥后,可以使用标准的Python客户端来请求聊天补全等功能。例如,以下是使用aisuite生成聊天补全响应的Python客户端示例代码:import aisuite as aiclient = ai.Client()models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet-20241022"]messages = [ {"role": "system", "content": "Respond in Pirate English."}, {"role": "user", "content": "Tell me a joke."},]for model in models: response = client.chat.completions.create( model=model, messages=messages, temperature=0.75 ) print(response.choices[0].message.content)
上一篇:XGrammar – 陈天奇团队推出的LLM结构化生成引擎
相关资讯 更多+
  • aisuite – 吴恩达发布开源Python库,一个接口调用多个大模型
    aisuite – 吴恩达发布开源Python库,一个接口调用多个大模型

    aisuite是开源的Python库,吴恩达(Andrew Ng)发布的,旨在提供一个统一的接口来调用多个大型语言模型(LLM)服务。支持包括OpenAI、Anthropic、Azure等在内的11个模型平台,开发者能轻松切换和测试不同提供商的模型。

    AI教程资讯 2023-04-14

  • XGrammar – 陈天奇团队推出的LLM结构化生成引擎
    XGrammar – 陈天奇团队推出的LLM结构化生成引擎

    XGrammar是由陈天奇团队推出的开源软件库,能为大型语言模型(LLM)提供高效、灵活且可移植的结构化数据生成能力。基于上下文无关语法(CFG)定义结构,支持递归组合以表示复杂结构,适合生成JSON、SQL等格式数据。XGrammar用字节级下推自动机优化解释CFG,减少每token延迟,实现百倍加速,几乎无额外开销。

    AI教程资讯 2023-04-14

  • Edify 3D – NVIDIA 推出的3D生成模型
    Edify 3D – NVIDIA 推出的3D生成模型

    Edify 3D 是 NVIDIA 推出的先进3D资产生成方案,能从文本提示或参考图像快速合成高质量的3D模型。Edify 3D能在两分钟内生成具有详细几何形状、清晰拓扑结构、高分辨率纹理和PBR材质的3D资产,支持视频游戏设计、扩展现实、模拟等多个领域应用。

    AI教程资讯 2023-04-14

  • SongCreator – AI音乐模型,能理解、生成和编辑歌曲
    SongCreator – AI音乐模型,能理解、生成和编辑歌曲

    SongCreator是清华大学深圳国际研究生院、香港中文大学等机构推出的AI音乐生成模型,能从歌词出发生成包含声乐和伴奏的完整歌曲。

    AI教程资讯 2023-04-14

最新录入 更多+
确定