这两个最常见的起点代表两种不同模式:LiteLLM 是你自己部署运维的自托管开源代理;OpenRouter 是注册即用的托管聚合器。选哪个,取决于你要多少掌控力、以及愿意承担多少运维负担。
| LiteLLM | OpenRouter | |
|---|---|---|
| 是什么 | 你自托管的开源代理 | 托管聚合器(SaaS) |
| 上手 | 自行部署与运维 | 注册、一个 API key,几分钟 |
| 覆盖 | 用你自己的密钥接 100+ provider | 用它的账号接数百个模型 |
| 计费模式 | 软件免费 + 你的模型费 + 你的托管成本 | 厂商价 + 小额充值费(约 5%),或 BYOK |
| 密钥与账单 | 你的厂商密钥;为团队下发虚拟密钥与预算 | 一个 key、一张账单;无需逐厂商开户 |
| 运维负担 | 你来扛(高可用、升级、扩容) | 零——它来运维 |
| 数据路径 | 留在你自己的基础设施内 | 经由 OpenRouter 中转 |
| 最适合 | 要掌控力、治理、无加价、数据自留 | 最快接入众多模型、零运维 |
网关费通常是更小的变量。OpenRouter 加一笔小额充值费(用 BYOK 则 0%);LiteLLM 软件免费,但你要付托管和扩容成本。低用量时 OpenRouter 通常整体更便宜;高且稳定的用量下,用自有密钥自托管往往更划算。
这不是二选一。OpenRouter 是 LiteLLM 能接的 100+ provider 之一——所以常见的生产配置是:自托管 LiteLLM 做治理、虚拟密钥和预算,再把 OpenRouter 挂在后面作为长尾模型的兜底/扩展 provider。治理与覆盖兼得。
任何代理或聚合器都夹在你和模型之间——所以要确认它不会悄悄换模型、假流式、或虚报 token 用量。跑一下 canary 保真测试,并让网关的信任层级与你数据的敏感度匹配。(这适用于每一个中转,不止这两家。)
代理开源、自托管免费;你仍需支付模型厂商费用,另有付费企业版(SSO、审计、支持)。运维和扩容由你负责。
按厂商价透传,对充值收一笔小额费(约 5%);BYOK 可避开按 token 加价。具体以其当前定价为准。
能——OpenRouter 是 LiteLLM 支持的 provider,可把 LiteLLM 放前面做治理、OpenRouter 在后面做覆盖/兜底。
没有绝对答案。要掌控 + 无加价 + 数据自留 + 团队预算(且你能运维)选 LiteLLM;要零运维、最快覆盖选 OpenRouter。
看用量——低用量偏向 OpenRouter(无基础设施成本),高且稳定用量偏向自托管 LiteLLM。模型选择主导一切。