功能更新
- 新增 Pipe executor,可以執行限定目錄下的程式 (tool),例如串接 Python interpreter 即可直接執行模型輸出的 Python程式
- 提供 Calculator, Iconv 與 Python 等 Tool 範例程式,可透過 Pipe executor 呼叫
- 新增 Uploader executor 提供使用者上傳檔案到指定目錄,可上傳 Tool、RAG 知識庫或是網站元件
- 支援 Bot 匯出匯入,可匯出 Bot 名稱、說明、圖示、Modelfile 成單一 Bot 檔,類似應用編導檔;安裝時可以自動匯入預設的Bot檔
- 能選擇聊天室中 Bot 自動排序方式
- 支援更換 Bot 圖示
- 新增與 OpenAI API 相容的 Kuwa API server
- 預設提供串接雲端多模態 API 的範例: gpt-4o-mini-vision, DALL.E, Gemini pro 1.5 vision
- 支援從 Web 介面設定上傳檔案數量上限
- 支援在企業內部有 Web proxy 的環境下安裝與執行
- 支援透過 Intel GPU 加速模型推論
- 新增 Docker 版自動安裝與更新腳本,感謝 @wcwutw
- RAG Toolchain預設 Embedding model 更換為微軟的 intfloat/multilingual-e5-small模型,MIT授權
- RAG (DocQA, WebQA, SearchQA, DB QA) 新增display_hide_ref_content、retriever_ttl_sec等參數
- 下載工具的預選模型增加支援 Function calling 的 Meta Llama 3.1 8B 與輕量的 Google Gemma 2 2B
錯誤修復
- #21: Docker 版在 Reverse proxy 後不會生成 https:// 連結,感謝 @Phate334
- #23: 兩分鐘 Timeout 問題,感謝 @x85432
- #24: Modelfile 解析問題
- #25: 匯入 Prompt 時不會套用 Modelfile
windows\src\tee.bat
會被誤判成病毒- RAG 參考 資料不會顯示原始檔案名稱
- 更新 Windows 版相依套件下載點
訊息
- kuwa-v0.3.3 下載資訊: https://github.com/kuwaai/genai-os/releases/tag/v0.3.3
- kuwa-v0.3.3 單一執行檔下載連結: https://github.com/kuwaai/genai-os/releases/download/v0.3.3/Kuwa-GenAI-OS-v0.3.3.exe
警告
- Windows 版從舊版本直接升級可能發生
502 Bad Gateway
錯誤,請將C:\kuwa\GenAI OS\windows\packages\nginx-1.24.0\conf\nginx.conf
移除後重新執行一次build.bat
- Pipe executor可以執行任意程式且目前沒有 Chroot,建議了解相關風險再對外提供服務
歡迎各位體驗之後給予回饋,遇到任何困難也歡迎透過社群或是其他管道與我們聯絡。
Kuwa 官網: https://kuwaai.tw/zh-Hant/
Kuwa 介紹: https://kuwaai.tw/zh-Hant/blog/kuwa-os-intro