概要
LocalAIは、llama.cpp、vLLM、whisper.cpp、Stable Diffusion、MLXなどのbackendを必要時に個別imageとして読み込み、LLM・vision・voice・image・videoを一つのAPI surfaceへまとめるGo製AI engineです。OpenAI、Anthropic、ElevenLabs互換APIも提供し、2026年9月17日時点のlatest releaseはv4.9.0です。
特徴と向いている用途
公式資料に基づく紹介・実機未検証 · 内容確認日:
modelごとに必要なbackendだけをpullし、複数modalityとhardwareを同じAPIで扱う
LocalAI core自体を巨大bundleにせず、llama.cpp、vLLM、whisper.cpp、stable-diffusion、MLX等を分離backendとして必要時に取得します。CPU-only、NVIDIA、AMD、Intel、Apple Silicon、Vulkan等を選べます。
出典:[2]
OpenAI/Anthropic互換に加えてagent・RAG・MCP・multi-user運用まで提供する
既存SDKから移行しやすい互換APIのほか、tool useを行うagent、RAG、MCP、API key auth、quota、role-based accessを同じplatformで扱えます。
出典:[2]
複数のlocal AI runtimeとmodalityを一つのself-host API layerで管理したい場合に
text、speech、vision、image/video生成を別々のserverで管理せず、modelごとに最適なbackendを選びつつ共通API・auth・agent layerを持ちたいteamに向きます。
出典:[2]
実際の要件はmodel・backend・hardwareごとに大きく変わる
backendが分離されているため必要なimageやdriver、VRAM/RAM、model licenseを個別に確認する必要があります。外部公開時はAPI keyやrole/quotaを有効化してください。v4.9.0のようにrelease更新も速いため、backend versionとmodel互換性を固定して検証する運用が重要です。
参考にした公式資料
- [1]mudler/LocalAI — GitHub repository metadata(2026-09-17)
- [2]LocalAI — README(2026-09-17)
- [3]LocalAI v4.9.0 release(2026-09-17)
編集部からの補足
単一model runtimeではなく、複数AI engineを必要時だけ組み合わせるcontrol layerとして評価しました。
3ステップで試す
- 1
ソースを取得
git clone --depth 1 https://github.com/mudler/LocalAI.git - 2
リポジトリへ移動
cd LocalAI - 3
公式手順を確認
READMEのInstallation / Quick Start / Getting Startedにある公式コマンドを続けて実行してください。
find . -maxdepth 1 -iname 'README*' -exec sed -n '1,220p' {} \; -quit
成長
成長の推移 · 直近30日
49,141 Stars
推移データを蓄積中です。
開発アクティビティ
直近90日・週次
- Commit(直近30日)
- 412
- Open PR
- 70
開発アクティビティを蓄積中です。
Built with
カテゴリとタグ
GitHubデータ
関連情報
関連記事を投稿するこのOSSの使い方や活用事例をMarkdownで投稿できます。管理者が承認した後に公開されます。
あわせて探訪
- OpenClaw389,940 Stars
チャネル・ツール・メモリを束ねる永続型パーソナルAIアシスタント基盤。
TypeScript - Hermes Agent246,347 Stars
Memory・Skills・Cron・Subagentsを備える永続型AIエージェント。
Python - n8n204,729 Stars
視覚的なキャンバスとコードを組み合わせ、サービス連携やAIエージェントを自動化するfair-code基盤。
TypeScript - TensorFlow200,155 Stars
研究・学習・評価・可視化・配備をtoolとlibraryでつなぐend-to-end machine learning基盤。
C++ - Firecrawl181,454 Stars
WebページをLLM向けデータへ変換するスクレイピング・クロールAPI。
TypeScript
情報の誤りを報告
掲載内容に誤りや古い情報があればお知らせください。