BerriAI/litellm

3周前更新 21 0 0

LiteLLM 是统一调用 100+ 大模型接口的 Python SDK 与代理网关,适合 OpenClaw 接入多模型、多供应商与统一鉴权管理。

收录时间:
2026-05-22
BerriAI/litellmBerriAI/litellm

LiteLLM 是一个把不同厂商大模型接口统一成 OpenAI 兼容格式的开源工具,既能作为 Python SDK 使用,也能作为代理网关部署。对 OpenClaw 来说,它的价值在于把 OpenAI、Anthropic、Azure、Bedrock、Vertex AI、Ollama、vLLM 等接口收敛到一套调用方式里,便于模型切换、成本控制、日志记录和权限管理。

它适合多模型并行测试、企业网关统一出入口、开发环境与生产环境切换、限流与负载均衡等场景。如果你希望 OpenClaw 不直接耦合单一模型厂商,而是通过一个兼容层来管理 API key、路由策略、fallback 和用量监控,LiteLLM 会非常实用,尤其适合团队级别的模型接入治理。

具体使用时,可以先通过 pip 安装 LiteLLM SDK,按文档配置 provider 参数和模型名称;如果需要网关模式,则可按官方文档启动代理服务,再把 OpenClaw 的模型基地址改成 LiteLLM 代理地址。访问原仓库后,用户还能学到代理部署方法、模型映射配置、日志/成本统计、认证策略与多供应商接入示例。

数据统计

相关导航

暂无评论

none
暂无评论...