Others
最后更新于
最后更新于
使用最廣泛的 Web UI,具有許多功能和強大的擴展。支援GPU加速。
GPT4all
GPT4ALL 是一款方便使用的桌面應用程式,具有直觀的 GUI。它支援本地模型運行,並通過 API 金鑰提供與 OpenAI 的連接。它以其處理本地文件以獲取環境(Context)、以確保隱私的能力而著稱。
優點:
具有友好使用者介面
支援一系列精選模型
缺點:
有限的型號選擇
某些型號有商業使用限制
One API
Chatbox
FastGPT
Jan
目前能在Windows,MacOS,Linux 運行。(手機端未來可能支援)
支援能本地離線運行的 AI 模型(API 呼叫),例如:OpenAI GPT 4&3.5 (需要 OpenAI API key [API key](https://platform.openai.com/api-keys) ,
支援能本地運行的AI 模型(將下載到本地推理和運算),例如:Mixtral 8x7B,Llama 2,Phi-2,... 模型。(GPU 運算所需要的 Nvidia driver 和 CUDA Toolkit 要另外安裝。)