OSS探訪ページ内ナビ
概要
LiteLLMはOpenAI、Anthropic、Gemini、Bedrock、Azureなど100以上のLLM providerを統一interfaceで扱うPython SDK兼AI Gatewayです。provider差をOpenAI互換formatへ寄せ、gatewayではvirtual key、spend tracking、guardrail、load balancing、loggingなどを集約できます。
特徴と向いている用途
公式資料に基づく紹介・実機未検証 · 内容確認日：
主な特徴
100以上のLLM providerを共通interfaceから呼び出す
Python SDKとProxy Serverの両方を提供し、provider固有SDKやrequest formatの差をOpenAI互換またはnative endpointへ吸収します。
出典：[1]
routing・load balancing・cost管理をgatewayへ集約する
team共通gatewayとしてvirtual key、spend tracking、routing、load balancing、guardrail、loggingなどを一箇所へまとめられます。
出典：[1]
LLMだけでなくMCPやagent gatewayにも接続する
READMEはMCP GatewayやA2A agent連携も案内しており、model accessとtool/agent accessを同じgateway層へ寄せられます。
出典：[1]
向いている用途
provider切替やmulti-provider運用をapplicationから分離したい場合に向く
providerごとの認証・endpoint・error handlingをapplication codeへ散らさず、中央のrouting policyで切替・fallback・利用管理を行いたいteamに向きます。
出典：[1]
導入前の確認
gatewayへ集まるsecret・prompt・usage dataを保護する
API keyとrequest/response metadataを中央化するため、network boundary、virtual key、secret storage、log access、retentionを組織policyに合わせて設計します。
出典：[1]
repository全体を単一MITとして扱わない
v1.103.2のLICENSEはenterprise/配下を別licenseとし、それ以外をMITとしています。repository metadataはNOASSERTIONのため、DBのrepo-level SPDXは未設定とし、利用するcomponentのlicenseを個別確認します。
出典：[3]
参考にした公式資料
- [1]LiteLLM v1.103.2 README(2026-10-03)
- [2]LiteLLM v1.103.2 release(2026-10-03)
- [3]LiteLLM v1.103.2 licensing(2026-10-03)
編集部からの補足
複数LLM providerを同じapplication interfaceへ寄せたい場合に有効です。ただしgatewayへAPI key・prompt・usage metadataが集中するため、認証、secret保護、log retention、providerごとのdata policyを先に設計してください。
3ステップで試す
- 1
LiteLLM 1.103.2をisolated環境へ導入する
provider API keyを設定せず、stable releaseをversion固定してlocal環境へ導入します。
python3 -m venv .venv && . .venv/bin/activate && python -m pip install litellm==1.103.2 - 2
導入versionを確認する
外部LLMへrequestを送らず、installされたpackage versionだけを確認します。
python -c "import importlib.metadata; print(importlib.metadata.version('litellm'))" - 3
共通completion interfaceをimportする
provider credentialなしでSDKの主要interfaceを読み込めることを確認します。
python -c "from litellm import completion; print(callable(completion))"
成長
成長の推移 · 直近30日
60,090 Stars
推移データを蓄積中です。
開発アクティビティ
直近90日・週次
- Commit（直近30日）
- 6,441
- Open PR
- 3,796
開発アクティビティを蓄積中です。
Built with
カテゴリとタグ
GitHubデータ
関連情報
関連記事を投稿するこのOSSの使い方や活用事例をMarkdownで投稿できます。管理者が承認した後に公開されます。
あわせて探訪
- LibreTranslate16,977 Stars
共通タグ 2件 · 共通カテゴリ 2件 · 同じ言語
proprietary translation APIへ依存せずmachine translationをself-hostする
Python - bitsandbytes8,510 Stars
共通タグ 2件 · 共通カテゴリ 2件 · 同じ言語
PyTorch modelを8bit・4bitへquantizeし、LLM inferenceやQLoRA trainingのmemory使用量を抑える
Python - Open Wearables2,601 Stars
共通タグ 2件 · 共通カテゴリ 2件 · 同じ言語
複数wearableのhealth dataを一つのAPIとMCPへ正規化する
Python - Agno42,534 Stars
共通タグ 3件 · 共通カテゴリ 2件 · 同じ言語
agentを作るSDKからproduction runtimeまで一つのplatform stackとして扱う
Python - Portkey AI Gateway13,123 Stars
共通タグ 3件 · 共通カテゴリ 2件
複数のLLMプロバイダーへの呼び出しを一つのAPIでルーティングし、再試行やガードレールを集約する
TypeScript - PipesHub3,811 Stars
共通タグ 3件 · 共通カテゴリ 1件 · 同じ言語
source systemの権限をquery時に保ったまま、社内知識をSearch・RAG・MCPへ供給する
Python
情報の誤りを報告
掲載内容に誤りや古い情報があればお知らせください。