3.5 Настройка бесплатного API Nvidia
Используя учетную запись бесплатного уровня платформы Nvidia NIM (Nvidia Inference Microservices) в качестве примера.
Основная информация о конфигурации
При настройке Nvidia NIM вам нужна следующая информация:
- Посетите платформу Nvidia для создания ключа API: https://build.nvidia.com/explore/discover
- Base URL:
https://integrate.api.nvidia.com/v1 - Формат ключа API: Строка ключа API, начинающаяся с
nvapi-
Nvidia NIM — это платформа, которая поддерживает пользователей в использовании онлайн-моделей с открытым исходным кодом и позволяет пользователям создавать ключи API с бесплатными кредитами.
Шаги
Шаг 1: Посетить веб-сайт Nvidia NIM
Посетите https://build.nvidia.com/explore/discover
Шаг 2: Создать ключ API
- Войдите в свою учетную запись (зарегистрируйтесь и подтвердите номер телефона, если у вас нет учетной записи)
- Нажмите кнопку Manage API Keys
Шаг 3: Установить имя ключа API и создать
Установите имя для вашего ключа API (например, MiniTavern), нажмите подтвердить для создания
Шаг 4: Скопировать ключ API
После успешного создания немедленно скопируйте ключ API (начинающийся с nvapi-)
Важное примечание
- Ключ API отображается только один раз, пожалуйста, сохраните его немедленно
- Не делитесь своим ключом API с другими
Шаг 5: Получить Base URL
Base URL: https://integrate.api.nvidia.com/v1
Шаг 6: Настроить в MiniTavern
6.1 Выбрать пользовательского провайдера
Откройте MiniTavern → Настройки → Настройки LLM → Провайдер ИИ → Выберите Custom
6.2 Ввести ключ API и Base URL
- Вставьте свой ключ API (начинающийся с
nvapi-) - Вставьте Base URL:
https://integrate.api.nvidia.com/v1
6.3 Получить список моделей
Нажмите Получить список моделей, чтобы просмотреть доступные модели
6.4 Добавить модель
Выберите модель, которую хотите использовать, нажмите Добавить
6.5 Настройка завершена
Модель успешно добавлена, теперь вы можете начать ее использовать
FAQ
В: Как долго действителен ключ API?
О: Nvidia AI в настоящее время предоставляет определенное количество бесплатной квоты использования, после чего требуется оплата.