Skip to content

3.8 ローカル無料 AI:KoboldCpp

KoboldCpp は、GGUF モデルをローカルで実行し、OpenAI 互換 API を提供する推論ツールです。設定後は、MiniTavern から LAN 経由で PC 上のモデルを利用でき、クラウド API Key は不要です。

バージョン注意

  • MiniTavern iOS:本記事の設定で利用可能です。
  • MiniTavern Androidv1.5.0 以上を推奨。古い版は Android 9.0+ の HTTP 制限で接続できない場合があります。

MiniTavern には買い切り・サブスクなし・広告なしの MiniTavern Ultra もあります。KoboldCpp を長く使うなら、Ultra はモバイルで有力な選択です。


コア設定

MiniTavern から KoboldCpp に接続するために必要な情報:

  • ホスト IP:通常 192.168 または 10. で始まる(例:192.168.1.75
  • ポート:既定 5001(実際の起動設定を優先)
  • Base URL 形式http://192.168.1.75:5001/v1

重要

  • http を使う(https ではない)
  • URL にポート(通常 5001)が必要
  • URL 末尾に /v1 が必要(OpenAI 互換パス)

例:http://192.168.1.75:5001/v1


必要条件

  • KoboldCpp を実行する PC(Windows/macOS/Linux)
  • スマホと PC が同じ Wi-Fi
  • KoboldCpp でチャットモデル(.gguf)をロード済み
  • 起動時 Host を 0.0.0.0 に設定(LAN 公開)

手順

準備:3つのアドレスを理解する

接続失敗の多くはアドレスの取り違えです。

名称役割スマホからアクセス
バインドアドレス0.0.0.0すべての NIC で待受❌ 直接アクセス不可
ローカルアドレス127.0.0.1その PC のみ❌ 他デバイス不可
LAN アドレス192.168.1.75同一 LAN から接続✅ 可能

手順 1:KoboldCpp を LAN 待受で起動

  1. KoboldCpp GUI の Host0.0.0.0 に設定。
  2. Port5001(または任意ポート)に設定。
  3. チャットモデルをロードして起動。

ログに 127.0.0.1 と表示されても、それだけでは LAN 可否は判断できません。手順 3 の検証で判断してください。

手順 2:PC の LAN IP を確認

KoboldCpp を動かしている PC で IPv4 を確認:

  • macOS:システム設定 → ネットワーク → Wi-Fi → 詳細 → TCP/IP → IPv4
  • Windowsipconfig で WLAN の IPv4 を確認

192.168.1.75 のようなアドレスを控えます。

手順 3:接続検証を2つ行う

同じ Wi-Fi のスマホブラウザで以下を開きます:

text
http://192.168.1.75:5001

検証1(Web UI)期待結果: KoboldCpp のページが開く。

検証 1:KoboldCpp Web UI にアクセスできる

続けて以下を開きます:

text
http://192.168.1.75:5001/v1/models

検証2(モデル一覧)期待結果: JSON が返る。

検証 2:/v1/models でモデル一覧 JSON が返る

失敗時の確認ポイント:

  • Host が 0.0.0.0
  • スマホと PC が同じ Wi-Fi か(ゲスト回線でないか)
  • URL に :5001 が含まれているか
  • ルーターの AP 分離が有効になっていないか

手順 4:MiniTavern で設定

  1. MiniTavern → 設定LLM 設定Configure LLM を開く。
  2. プロバイダを選択:
    • v1.4.xOther LLM
    • v1.5.x+カスタム(OpenAI プロトコル)
  3. Base URL に以下を入力:
text
http://192.168.1.75:5001/v1
  1. API Key は空欄でも可。
  2. モデル一覧取得 → モデル選択 → 接続テスト → 保存。

FAQ

Q: ブラウザでは Web UI が開くのに、MiniTavern でモデル取得できない

A:

  • Android 版が v1.5.0+ か確認;
  • URL に :5001/v1 があるか確認;
  • 必要なら API Key に local などのダミー値を入れる。

Q: http://0.0.0.0:5001 でアクセスできないのはなぜ?

A: 0.0.0.0 は待受設定用のアドレスで、アクセス先ではありません。http://LAN_IP:5001 を使ってください。

Q: ログが 127.0.0.1 表示。LAN 公開されていない?

A: いいえ、必ずしもそうではありません。手順 3 の2つの検証が通るかで判断してください。


関連リソース