Kuwa v0.3.4 提供了自訂第三方 API 金鑰功能,可以串接 Gemini 與 ChatGPT 以外的 API。
大多數使用者較難在地端運作參數量較大的模型,如 Llama3.1 70B 等大模型,
而 Groq 提供了免費雲端 API 讓使用者可以使用這些大模型。
本篇文章將說明如何在 Kuwa v0.3.4 上串接 Groq API。
申請 Groq API Key
- 登入 Groq Cloud
- 新增 API 金鑰
填入方便記憶的 API 金鑰名稱,並複製產生的 API 金鑰。
注意保存 API 金鑰,這個對話框消失後不會再顯示金鑰。
設定 Kuwa
- 填入 API Key
請在 "使用者設定 > API管理 > 自訂第三方 API 金鑰" 中填入前一步申請的金鑰
- 使用模型
v0.3.4 預設有一名為 "Llama3.1 70B (Groq API)" 的 Bot
填入 Groq API 金鑰後即可使用該模型