LiteLLM

产品介绍

开源 AI 网关，统一 100+ LLM API 调用格式与成本管理

使用场景

• 模型托管与推理
• AI 应用 API 集成
• 免费试用与学习
• 自托管部署与定制

视频教程

LiteLLM - Simplify AI API Management With One LibraryYouTube

LiteLLM Hacked!YouTube

LiteLLM Review Best AI Gateway For DevelopersYouTube

LiteLLM Proxy Tutorial: Track Costs, Budgets, and Multi-Provider LLM UsageYouTube

头条新闻