3.8 本地免費 AI：KoboldCpp
KoboldCpp 是一款本地推理工具，可載入 GGUF 模型並提供 OpenAI 相容 API。完成設定後，MiniTavern 可透過區域網路存取你電腦上的模型，無需雲端 API Key。
版本說明
- iOS 版 MiniTavern：依本文設定即可使用。
- Android 版 MiniTavern：建議使用 v1.5.0 以上。較低版本在 Android 9.0+ 可能受明文 HTTP 限制影響，出現瀏覽器可用但 App 不可用。
MiniTavern 也提供一次買斷、無訂閱、無廣告的版本：MiniTavern Ultra。若你長期使用 KoboldCpp，Ultra 會是很好的手機端選擇。
核心設定資訊
在 MiniTavern 連接 KoboldCpp 時，請先準備：
- 主機 IP 位址：通常以
192.168或10.開頭（例如192.168.1.75） - 連接埠：預設
5001（以實際啟動參數為準） - Base URL 格式：
http://192.168.1.75:5001/v1
重要提示
- 必須使用
http（不是https） - URL 必須包含連接埠（通常是
5001） - URL 結尾必須帶
/v1（OpenAI 相容路徑）
範例：http://192.168.1.75:5001/v1
設定要求
- 一台執行 KoboldCpp 的電腦（Windows/macOS/Linux）
- 手機與電腦在同一個 Wi-Fi
- KoboldCpp 已載入對話模型（
.gguf） - 啟動時將 Host 設為
0.0.0.0（開放區域網路）
操作步驟
準備工作：先理解三種位址
多數連線失敗都與位址概念混淆有關：
| 名稱 | 範例 | 用途 | 手機可否存取 |
|---|---|---|---|
| 綁定位址 | 0.0.0.0 | 監聽所有網卡 | ❌ 不能直接存取 |
| 本機位址 | 127.0.0.1 | 僅本機回環位址 | ❌ 其他裝置不可存取 |
| 區域網路位址 | 192.168.1.75 | 區域網路裝置存取主機 | ✅ 可以 |
第 1 步：啟動 KoboldCpp 並開啟區域網路監聽
- 在 KoboldCpp GUI 將 Host 設為
0.0.0.0。 - Port 使用
5001（或你的自訂連接埠）。 - 載入一個對話模型後啟動服務。
日誌常顯示
127.0.0.1，這不代表沒有開放區域網路。請以第 3 步驗證結果為準。
第 2 步：確認電腦區域網路 IP
在執行 KoboldCpp 的電腦查看 IPv4：
- macOS：系統設定 → 網路 → Wi-Fi → 詳細資訊 → TCP/IP → IPv4
- Windows：執行
ipconfig查看 WLAN 的 IPv4
記錄如 192.168.1.75 的位址，稍後填入 Base URL。
第 3 步：做兩個連通性驗證
在同一 Wi-Fi 下，使用手機瀏覽器開啟：
text
http://192.168.1.75:5001驗證 1（Web UI）預期： 可開啟 KoboldCpp 頁面。
接著開啟：
text
http://192.168.1.75:5001/v1/models驗證 2（模型清單）預期： 回傳 JSON 模型清單。
若驗證失敗，優先檢查：
- Host 是否為
0.0.0.0 - 手機與電腦是否同一 Wi-Fi（非訪客網路）
- URL 是否含
:5001 - 路由器是否開啟 AP 隔離
第 4 步：在 MiniTavern 中設定
- 開啟 MiniTavern → 設定 → LLM 設定 → Configure LLM。
- 選擇服務商：
v1.4.x：Other LLMv1.5.x+：自訂（OpenAI 協議）
- Base URL 填入：
text
http://192.168.1.75:5001/v1- API Key 可留空。
- 取得模型清單、選擇模型、測試連線後儲存。
常見問題
Q: 瀏覽器可開 Web UI，但 MiniTavern 拉不到模型？
A:
- Android 請先確認版本 ≥
v1.5.0； - 檢查 Base URL 是否包含
:5001與/v1； - 必要時可將 API Key 填
local。
Q: 為什麼不能用 http://0.0.0.0:5001 存取？
A: 0.0.0.0 是監聽綁定位址，不是可路由存取位址。請使用 http://你的區域網路IP:5001。
Q: 日誌顯示 127.0.0.1，是不是沒開放區域網路？
A: 不一定。以第 3 步為準：手機能開 Web UI，且可訪問 /v1/models 才算成功。