2.2 設定 LLM(進階)
預設無需設定。您可以單獨設定更強大的模型,以滿足更多個人偏好。
MiniTavern 目前主要使用 LLM(Large Language Model,大型語言模型)分類,因此在設定頁面中稱為設定 LLM。
預設零設定可用
MiniTavern 目前為新使用者提供免費額度和預設設定的模型。
現在您無需設定 LLM 即可開始對話,只需匯入角色卡即可。如果您對目前預設的對話模型不滿意,可以在設定 LLM 頁面選擇其他模型。
檢查額度
在設定頁面中,您可以在使用者名稱下方的使用者類型和可用額度區域檢查剩餘額度。
預設模型
MiniTavern 預設設定的模型是 Grok 主流模型。在設定 LLM 頁面底部的可用模型清單中,右側有勾選標記的模型即為目前選擇的模型。
費率說明
由於成本問題,我們為每個模型設定了費率限制。模型副標題中的 (2x) 表示每次請求將消耗 2 倍的請求額度。
新增您自己的 LLM
步驟 1:進入設定 LLM 頁面
- 點擊底部導覽列的第三個分頁「設定」
- 選擇「設定 LLM」
步驟 2:選擇 API 提供商
點擊「提供商」下拉選單,可用的提供商包括:
- Nvidia
- OpenAI
- Anthropic
- Deepseek
- Tencent
- OpenRouter
- Other LLM(相容 Ollama)
步驟 3:輸入 API Key
- 在「API Key」輸入框中貼上您的 API Key
步驟 4:選擇模型
- 選擇提供商並輸入 API Key 後,點擊「模型」下拉選單以載入可用模型清單
- 推薦模型:
- deepseek:開源,低消耗
- gemini:效果好,高消耗
步驟 5:測試連線
- 點擊「測試連線」按鈕
- 等待測試結果
- 成功:顯示「API 連線測試成功」
- 失敗:檢查 API Key 和網路連線
步驟 6:儲存設定
- 測試成功後,「儲存設定」按鈕變為可點擊
- 點擊儲存以完成設定
調整模型預設設定
步驟:在設定 LLM 頁面切換到預設設定分頁
Temperature
- 預設:1
- 範圍:0-2
Max Tokens
- 預設:4096
- 控制 AI 單次回應的最大長度
- 注意:較高的值會消耗更多 API 額度,不同模型有不同的最大限制
啟用串流
- 預設:關閉
- 啟用後,AI 回應會即時顯示,而非等待完整回應
注意
- 設定後,每次開始新對話時,這些預設設定都會啟用
自訂 API 設定(進階)
如果您選擇了「Other LLM」:
輸入 LLM URL
- 例如:
https://api.openai.com/v1 - 必須是 OpenAI 相容的 API 介面
自動取得模型清單
- 輸入 API Key 和 URL 後
- 點擊模型清單按鈕以取得可用模型清單
隱私與安全
- API Key 僅儲存在您的裝置本地
- 所有 API 請求都直接傳送到您選擇的 AI 服務提供商
注意
- 某些服務提供商會限制特定地理位置。例如,Gemini 和 Claude 模型存取對某些國家有地理限制。如果您的 IP 在此清單上,服務將無法使用