LiteLLM

LiteLLM 是一款归入「模型 API 与推理服务」方向的 AI 工具，官网为 litellm.ai。打开官网，首先看到的标题是“LiteLLM — Open-Source AI Gateway & LLM Proxy”。

按官网的自我介绍：LiteLLM是开源 AI的网关，它将您的完整的AI堆栈放在一个OpenAI-兼容键后面。LLM的轨迹和盖子花，通往正确模型的路线，以及任何地方的自宿——甚至空载。140+供应商，1，892个型号。（原文：LiteLLM is the open-source AI gateway that puts your full AI stack behind one OpenAI-compatible key. Track and cap LLM spend, route to the right model, and self-host anywhere — even air-gapped. 140+ providers, 1,892 mode…）

以下信息来自 litellm.ai 官网首页的公开文字（抓取于 2026-10），翻译可能有偏差，使用前建议到官网核实。

• AI 平台团队的网关（The AI Gateway for platform teams）
• 官网提供开发者文档或 API 入口
• 官网链接了 GitHub 仓库（https://github.com/BerriAI/litellm）

从官网介绍来看，LiteLLM 比较适合：

• 大模型 API 聚合、推理加速与 GPU 云
• 软件开发、原型搭建和技术集成

使用建议：

• 让 AI 生成代码后，先在本地或测试环境跑通，再合入正式项目。
• 把需求拆成小步提交，比一次性生成大段代码更容易审查。

适合人群：开发者、技术团队以及想快速做出原型的产品人员；需要 API 或二次开发的开发者；有采购评估流程的企业团队（官网提供演示预约或销售咨询）。

据公开数据集 AI Tool Compass（2026-10-04 核对）记录：有免费方案；记录到的方案包括 Open Source。价格可能随时调整，请以官网定价页为准。