Skip to content

3.5 Nvidia 免费 API 配置

以 Nvidia NIM (Nvidia Inference Microservices) 平台的免费额度账号为例。

核心配置信息

在配置 Nvidia NIM 时,你需要以下信息:

Nvidia NIM 是一款支持用户使用线上开源模型的平台,支持用户创建有免费额度的 API Key。


操作步骤

第 1 步:访问 Nvidia NIM 网站

访问 https://build.nvidia.com/explore/discover

访问 Nvidia NIM 网站

第 2 步:创建 API Key

  • 登录账号(如无账号需先注册并验证手机号)
  • 点击 Manage API Keys 按钮

创建 API Key

第 3 步:设置 API Key 名称并创建

为你的 API Key 设置一个名称(例如:MiniTavern),点击确认创建

设置 API Key 名称

第 4 步:复制 API Key

创建成功后,立即复制 API Key(以 nvapi- 开头)

重要提示

  • API Key 只显示一次,请立即保存
  • 不要将 API Key 分享给他人

复制 API Key

第 5 步:获取 Base URL

Base URL 为:https://integrate.api.nvidia.com/v1

获取 Base URL

第 6 步:在 MiniTavern 中配置

Nvidia 配置概览

6.1 选择 Custom 服务商

打开 MiniTavern → 设置LLM 设置AI 服务商 → 选择 Custom

选择 Custom 服务商

6.2 输入 API Key 和 Base URL

  • 粘贴你的 API Key(以 nvapi- 开头)
  • 粘贴 Base URLhttps://integrate.api.nvidia.com/v1
输入 API Key 和 Base URL

6.3 获取模型列表

点击 获取模型列表,查看可用的模型

获取模型列表

6.4 添加模型

选择你想使用的模型,点击 添加

添加模型

6.5 配置完成

模型添加成功,可以开始使用了

配置完成

常见问题

Q: API Key 有效期是多久?

A: Nvidia AI 目前提供一定的免费使用额度,消耗完后需要付费。