OSS探訪

LocalAI — LLM・vision・voice・image/video backendを互換APIの下に束ねるlocal AI engine

OSS健全度 96
スコアの見方

発掘スコアはStars・Watchers・Forks・Contributorsを対数圧縮して重み付けした独自指標(上限なし)。成長モメンタムは観測期間内の同スコアの差、OSS健全度は取得できた更新状況・Community Health・Releaseの0〜100評価です。

Stars
49,141
主要言語
Go
ライセンス
MIT
リポジトリ最終更新
2026/09/17

概要

LocalAIは、llama.cpp、vLLM、whisper.cpp、Stable Diffusion、MLXなどのbackendを必要時に個別imageとして読み込み、LLM・vision・voice・image・videoを一つのAPI surfaceへまとめるGo製AI engineです。OpenAI、Anthropic、ElevenLabs互換APIも提供し、2026年9月17日時点のlatest releaseはv4.9.0です。

特徴と向いている用途

公式資料に基づく紹介・実機未検証 · 内容確認日:

modelごとに必要なbackendだけをpullし、複数modalityとhardwareを同じAPIで扱う

LocalAI core自体を巨大bundleにせず、llama.cpp、vLLM、whisper.cpp、stable-diffusion、MLX等を分離backendとして必要時に取得します。CPU-only、NVIDIA、AMD、Intel、Apple Silicon、Vulkan等を選べます。

出典:[2]

OpenAI/Anthropic互換に加えてagent・RAG・MCP・multi-user運用まで提供する

既存SDKから移行しやすい互換APIのほか、tool useを行うagent、RAG、MCP、API key auth、quota、role-based accessを同じplatformで扱えます。

出典:[2]

複数のlocal AI runtimeとmodalityを一つのself-host API layerで管理したい場合に

text、speech、vision、image/video生成を別々のserverで管理せず、modelごとに最適なbackendを選びつつ共通API・auth・agent layerを持ちたいteamに向きます。

出典:[2]

実際の要件はmodel・backend・hardwareごとに大きく変わる

backendが分離されているため必要なimageやdriver、VRAM/RAM、model licenseを個別に確認する必要があります。外部公開時はAPI keyやrole/quotaを有効化してください。v4.9.0のようにrelease更新も速いため、backend versionとmodel互換性を固定して検証する運用が重要です。

出典:[2][3]

参考にした公式資料

  1. [1]mudler/LocalAI — GitHub repository metadata(2026-09-17)
  2. [2]LocalAI — README(2026-09-17)
  3. [3]LocalAI v4.9.0 release(2026-09-17)
編集部からの補足

単一model runtimeではなく、複数AI engineを必要時だけ組み合わせるcontrol layerとして評価しました。

3ステップで試す

  1. 1

    ソースを取得

    git clone --depth 1 https://github.com/mudler/LocalAI.git
  2. 2

    リポジトリへ移動

    cd LocalAI
  3. 3

    公式手順を確認

    READMEのInstallation / Quick Start / Getting Startedにある公式コマンドを続けて実行してください。

    find . -maxdepth 1 -iname 'README*' -exec sed -n '1,220p' {} \; -quit
公式READMEで確認

成長

成長の推移 · 直近30日

49,141 Stars

推移データを蓄積中です。

開発アクティビティ

直近90日・週次

Commit(直近30日)
412
Open PR
70

開発アクティビティを蓄積中です。

Built with

カテゴリとタグ

GitHubデータ

GitHubのデータGitHubの詳細データを見る

GitHub Topics

  • llama
  • ai
  • llm
  • stable-diffusion
  • api
  • tts
  • musicgen
  • mamba
  • audio-generation
  • image-generation
  • text-generation
  • rerank
Stars
49,141
Forks
4,455
Watchers
300
Open Issues
98
主要言語
Go
ライセンス
MIT
リポジトリ最終更新
2026/09/17

このOSSの使い方や活用事例をMarkdownで投稿できます。管理者が承認した後に公開されます。

情報の誤りを報告

掲載内容に誤りや古い情報があればお知らせください。