LiteLLM vs OpenRouter:到底该用哪个 AI 网关?

这两个最常见的起点代表两种不同模式:LiteLLM 是你自己部署运维的自托管开源代理;OpenRouter 是注册即用的托管聚合器。选哪个,取决于你要多少掌控力、以及愿意承担多少运维负担。

独立 · 无厂商返利 · 属于 Awesome AI Gateway 评测 · 数字会变——请以各厂商当前定价为准。

一句话结论(TL;DR)

LiteLLMOpenRouter
是什么你自托管的开源代理托管聚合器(SaaS)
上手自行部署与运维注册、一个 API key,几分钟
覆盖你自己的密钥接 100+ provider它的账号接数百个模型
计费模式软件免费 + 你的模型费 + 你的托管成本厂商价 + 小额充值费(约 5%),或 BYOK
密钥与账单你的厂商密钥;为团队下发虚拟密钥与预算一个 key、一张账单;无需逐厂商开户
运维负担你来扛(高可用、升级、扩容)零——它来运维
数据路径留在你自己的基础设施内经由 OpenRouter 中转
最适合要掌控力、治理、无加价、数据自留最快接入众多模型、零运维

什么时候选哪个

选 LiteLLM,如果你希望流量和密钥都留在自己的基础设施内、不接受按 token 加价、需要为团队集中下发虚拟密钥 + 预算 + 限流,并且你能运维一套服务(Helm/Docker、高可用、升级)。它能成为默认的开源代理是有原因的:provider 覆盖广、治理能力全。
选 OpenRouter,如果你想几分钟内用一个 key、一张账单接入众多模型,不想逐厂商开户,也不想承担任何运维——非常适合试验、原型、以及不想运维基础设施的团队。代价是一笔小额费用和数据路径上多一跳。

成本:最容易搞错的地方

网关费通常是更小的变量。OpenRouter 加一笔小额充值费(用 BYOK 则 0%);LiteLLM 软件免费,但你要付托管和扩容成本。低用量时 OpenRouter 通常整体更便宜;高且稳定的用量下,用自有密钥自托管往往更划算。

⚖️ 真正主导成本的是你选哪个模型,而不是哪个网关。同一个任务在不同模型间能差 100×+——远大于任何网关费。先按你的真实负载估算 → 成本计算器

其实可以二者一起用

这不是二选一。OpenRouter 是 LiteLLM 能接的 100+ provider 之一——所以常见的生产配置是:自托管 LiteLLM 做治理、虚拟密钥和预算,再把 OpenRouter 挂在后面作为长尾模型的兜底/扩展 provider。治理与覆盖兼得。

上生产前,先验真

任何代理或聚合器都夹在你和模型之间——所以要确认它不会悄悄换模型、假流式、或虚报 token 用量。跑一下 canary 保真测试,并让网关的信任层级与你数据的敏感度匹配。(这适用于每一个中转,不止这两家。)

常见问题

LiteLLM 免费吗?

代理开源、自托管免费;你仍需支付模型厂商费用,另有付费企业版(SSO、审计、支持)。运维和扩容由你负责。

OpenRouter 会加价吗?

按厂商价透传,对充值收一笔小额费(约 5%);BYOK 可避开按 token 加价。具体以其当前定价为准。

LiteLLM 能接 OpenRouter 吗?

能——OpenRouter 是 LiteLLM 支持的 provider,可把 LiteLLM 放前面做治理、OpenRouter 在后面做覆盖/兜底。

生产环境选哪个?

没有绝对答案。要掌控 + 无加价 + 数据自留 + 团队预算(且你能运维)选 LiteLLM;要零运维、最快覆盖选 OpenRouter。

OpenRouter 比 LiteLLM 便宜吗?

看用量——低用量偏向 OpenRouter(无基础设施成本),高且稳定用量偏向自托管 LiteLLM。模型选择主导一切。