LiteLLM

關於

開源 AI 閘道，統一 100+ LLM API 呼叫格式與成本管理

使用案例

• 模型託管與推論
• AI應用API整合
• 免費方案實驗與學習
• 自託管部署與客製化

影片教學

LiteLLM - Simplify AI API Management With One LibraryYouTube

LiteLLM Hacked!YouTube

LiteLLM Review Best AI Gateway For DevelopersYouTube

LiteLLM Proxy Tutorial: Track Costs, Budgets, and Multi-Provider LLM UsageYouTube

頭條新聞