3.7 Локальный бесплатный ИИ: LM Studio

LM Studio — настольное приложение для поиска, загрузки и запуска GGUF-моделей через GUI с Local Server и OpenAI-совместимым API. С MiniTavern на телефоне можно общаться с моделями на ПК без облачного API Key.

---

Основная конфигурация

Для настройки LM Studio подготовьте:

• IP хоста: обычно начинается с 192.168 (например 192.168.1.75)
• Формат Base URL: http://192.168.1.75:1234/v1

Важно

• Используйте http (не https)
• Порт 1234 (по умолчанию Local Server; ориентируйтесь на приложение)
• URL должен быть OpenAI-совместимым, с /v1 в конце

Пример: http://192.168.1.75:1234/v1 (192.168.1.75 — LAN IP, показанный в LM Studio)

---

Зачем LM Studio?

• GUI: поиск, загрузка и запуск моделей без лишней командной строки
• Бесплатно локально: облачный API Key не обязателен
• Конфиденциальность: диалог идёт по LAN на ваш ПК
• OpenAI-совместимость: работает с Other LLM в MiniTavern
• Большой выбор моделей: богатый каталог GGUF

---

Требования

• ПК (пример macOS; Windows/Linux тоже подходят)
• Телефон и ПК в одной Wi-Fi сети
• ПК включён, Local Server LM Studio запущен
• Достаточно RAM/VRAM (7B+ рекомендуется для ролевых игр)

---

Шаги (пример macOS)

Подготовка: установка LM Studio и загрузка модели

1. Скачайте и установите LM Studio с https://lmstudio.ai/, затем откройте приложение.
2. В Discover (библиотека моделей) найдите и скачайте модель instruct умеренного размера для теста, например Qwen2.5-7B-Instruct GGUF (точное имя в каталоге). Дождитесь завершения загрузки.

Первая загрузка модели занимает много места на диске.

Шаг 1: запустить Local Server и разрешить доступ по LAN

Выполните два контрольных пункта:

• Контрольный пункт 1: включите переключатель локального сервера LM Studio. После запуска должно отображаться Status: Running.
• Контрольный пункт 2: в Server Settings включите Serve on Local Network, чтобы телефон и другие устройства в той же Wi-Fi могли обращаться к ПК.

Зачем доступ по LAN?

• MiniTavern работает на телефоне и подключается к LM Studio на ПК через LAN
• По умолчанию может быть разрешён только 127.0.0.1
• После включения телефон может использовать http://IP_ПК:1234/v1

Шаг 2: проверить LAN-адрес и загрузить модель

Ещё два контрольных пункта:

• Контрольный пункт 3: проверьте LAN-адрес в LM Studio, например http://192.168.1.75:1234 на скриншоте. Это начало Base URL в MiniTavern (в конце добавьте /v1).
• Контрольный пункт 4: через Load Model (справа сверху) выберите и загрузите скачанную локальную модель. Ниже появится информация о запущенной модели.

Необязательная проверка в терминале:

curl http://127.0.0.1:1234/v1/models

JSON с id моделей означает, что Local Server готов.

Шаг 3: настройка MiniTavern

1. MiniTavern → Настройки → Настройки LLM → Configure LLM (или Провайдер ИИ).
2. В API Provider выберите Other LLM (Другой).
3. В Base URL введите адрес из контрольного пункта 3 и добавьте /v1.

Пример: контрольный пункт 3 показывает http://192.168.1.75:1234, тогда Base URL:

http://192.168.1.75:1234/v1

4. Нажмите Model, выберите модель, загруженную в LM Studio, и проверьте соединение.

Важно

• Только http (не https)
• Порт 1234 (или как показано в LM Studio)
• В конце обязательно /v1 (OpenAI-совместимый путь)

API Key: lm-studio или любая заглушка (локальный сервер обычно не проверяет ключ).

Если соединение не удаётся:

• Модель загружена и Local Server запущен (Status: Running)?
• Включён Serve on Local Network?
• Base URL совпадает с LAN-адресом LM Studio и заканчивается на /v1?
• Телефон и ПК в одной Wi-Fi?
• Брандмауэр блокирует порт 1234?

После успешного теста сохраните и общайтесь с карточкой персонажа.

---

Частые вопросы

В: Зачем суффикс /v1?

О: Это формат запросов OpenAI-совместимый. У LM Studio есть свой формат API, но формат OpenAI используется чаще. Other LLM в MiniTavern подключается так же. Если формат /api/v1 LM Studio вызывает проблемы, переключитесь на http://IP:1234/v1 как в этом руководстве.

В: Пустой список моделей?

О:

• Модель Loadнута и Local Server запущен?
• В браузере на ПК откройте http://127.0.0.1:1234/v1/models;
• URL в MiniTavern содержит /v1?

В: Плохое качество ответов?

О:

• Попробуйте модель больше или выше квантование (7B+);
• Настройте длину контекста в LM Studio;
• Попробуйте другие карточки и пресеты.

---

Ссылки

• LM Studio
• 3.3 Провайдеры ИИ
• 2.2 Настройки API (продвинутый)