MiniTavern 教程

简体中文

English
繁體中文
Deutsch
Français
Español
Русский
日本語

简体中文

English
繁體中文
Deutsch
Français
Español
Русский
日本語

Appearance

3.8 本地免费 AI：KoboldCpp ​

KoboldCpp 是一款本地推理工具，可加载 GGUF 模型并提供 OpenAI 兼容接口。配置完成后，MiniTavern 可通过局域网访问你电脑上的模型，无需云端 API Key。

版本说明

  • iOS 版 MiniTavern：按本文配置可直接使用。
  • Android 版 MiniTavern：建议使用 v1.5.0 及以上。低版本在 Android 9.0+ 可能受系统明文 HTTP 限制影响，出现浏览器可访问、App 不可访问的情况。

MiniTavern也推出了完全无订阅、无广告的一次性付费版本MiniTavern Ultra。如果长期使KoboldCpp，MiniTavern Ultra可能会是一个不错的手机端选择。

核心配置信息 ​

在 MiniTavern 中连接 KoboldCpp，你需要准备以下信息：

  • 主机 IP 地址：一般以 192.168 或 10. 开头（例如 192.168.1.75）
  • 端口：默认 5001（以你实际启动参数为准）
  • Base URL 格式：http://192.168.1.75:5001/v1

重要提示

  • 必须使用 http 协议（不是 https）
  • URL 必须包含端口（通常是 5001）
  • URL 末尾必须带 /v1（OpenAI 兼容路径）

示例：http://192.168.1.75:5001/v1

配置要求 ​

  • 一台运行 KoboldCpp 的电脑（Windows/macOS/Linux 均可）
  • 手机与电脑处于同一 Wi-Fi
  • KoboldCpp 已加载一个对话模型（.gguf）
  • 启动时将 Host 设为 0.0.0.0（允许局域网访问）

操作步骤 ​

准备工作：先理解三个地址 ​

很多连接失败是地址概念混淆造成的：

名称示例作用手机是否可访问
绑定地址0.0.0.0监听所有网卡❌ 不能直接访问
本机地址127.0.0.1仅本机回环地址❌ 其他设备不可访问
局域网地址192.168.1.75局域网设备访问主机✅ 可以

第 1 步：启动 KoboldCpp 并开启局域网监听 ​

  1. 在 KoboldCpp GUI 中将 Host 设为 0.0.0.0。
  2. Port 使用 5001（或你自定义的端口）。
  3. 加载一个对话模型后启动服务。

日志里常显示 127.0.0.1，这是输出格式问题。是否真正开放局域网，以第 3 步“验证”结果为准。

第 2 步：确认电脑局域网 IP ​

在运行 KoboldCpp 的电脑上查看 IPv4：

  • macOS：系统设置 → 网络 → Wi-Fi → 详细信息 → TCP/IP → IPv4 地址
  • Windows：ipconfig 查看 WLAN 的 IPv4 地址

记录类似 192.168.1.75 的地址，后续用于填 Base URL。

第 3 步：做两个连通性验证 ​

使用同一 Wi-Fi 下的手机浏览器访问：

text
http://192.168.1.75:5001

验证 1（Web UI）预期： 能打开 KoboldCpp 页面。

验证 1：KoboldCpp Web UI 可访问

继续访问：

text
http://192.168.1.75:5001/v1/models

验证 2（模型列表）预期： 返回 JSON 模型列表。

验证 2：/v1/models 返回模型列表 JSON

若验证失败，优先检查：

  • Host 是否是 0.0.0.0
  • 手机和电脑是否同一 Wi-Fi（非访客网络）
  • URL 是否包含 :5001 端口
  • 路由器是否开启 AP 隔离

第 4 步：在 MiniTavern 中配置 ​

  1. 打开 MiniTavern → 设置 → LLM 设置 → Configure LLM。
  2. 选择：
    • v1.4.x：Other LLM
    • v1.5.x+：自定义（OpenAI 协议）
  3. 在 Base URL 填入：
text
http://192.168.1.75:5001/v1
  1. API Key 可留空。
  2. 获取模型列表并选择模型，测试连接后保存。

常见问题 ​

Q: 浏览器能开 Web UI，但 MiniTavern 拉不到模型？ ​

A:

  • Android 先确认版本 ≥ v1.5.0；
  • 检查 Base URL 是否包含 :5001 和 /v1；
  • 检查 API Key 是否为空（建议填 local）。

Q: 为什么不能用 http://0.0.0.0:5001 访问？ ​

A: 0.0.0.0 是监听绑定地址，不是可路由访问地址。手机应访问 http://你的局域网IP:5001。

Q: 日志显示 127.0.0.1，是不是没开放局域网？ ​

A: 不一定。请以第 3 步两个验证为准：手机端能打开 Web UI、能访问 /v1/models 才算配置成功。

相关资源 ​