跳至主要内容

Groq 串接教學

· 閱讀時間約 2 分鐘
Yung-Hsiang Hu

Kuwa v0.3.4 提供了自訂第三方 API 金鑰功能,可以串接 Gemini 與 ChatGPT 以外的 API。
大多數使用者較難在地端運作參數量較大的模型,如 Llama3.1 70B 等大模型,
而 Groq 提供了免費雲端 API 讓使用者可以使用這些大模型。
本篇文章將說明如何在 Kuwa v0.3.4 上串接 Groq API。

申請 Groq API Key

  1. 登入 Groq Cloud

  1. 新增 API 金鑰

填入方便記憶的 API 金鑰名稱,並複製產生的 API 金鑰。
注意保存 API 金鑰,這個對話框消失後不會再顯示金鑰。



設定 Kuwa

  1. 填入 API Key

請在 "使用者設定 > API管理 > 自訂第三方 API 金鑰" 中填入前一步申請的金鑰

  1. 使用模型

v0.3.4 預設有一名為 "Llama3.1 70B (Groq API)" 的 Bot
填入 Groq API 金鑰後即可使用該模型