Others


Text generation web UI

使用最廣泛的 Web UI,具有許多功能和強大的擴展。支援GPU加速。


GPT4all

GPT4ALL 是一款方便使用的桌面應用程式,具有直觀的 GUI。它支援本地模型運行,並通過 API 金鑰提供與 OpenAI 的連接。它以其處理本地文件以獲取環境(Context)、以確保隱私的能力而著稱。

優點:

  • 具有友好使用者介面

  • 支援一系列精選模型

缺點:

  • 有限的型號選擇

  • 某些型號有商業使用限制


One API


Better ChatGPT


PrivateGPT


LocalGPT


Chatbox


FastGPT


Jan

  • 目前能在Windows,MacOS,Linux 運行。(手機端未來可能支援)

  • 支援能本地離線運行的 AI 模型(API 呼叫),例如:OpenAI GPT 4&3.5 (需要 OpenAI API key [API key](https://platform.openai.com/api-keys) ,

  • 支援能本地運行的AI 模型(將下載到本地推理和運算),例如:Mixtral 8x7B,Llama 2,Phi-2,... 模型。(GPU 運算所需要的 Nvidia driver 和 CUDA Toolkit 要另外安裝。)

最后更新于