比較 · 檢查日期 2026-10-24
最佳免費應用程式:在您自己的電腦上執行 AI 聊天
本機 AI 模型會在您自己的硬體上回答,因此您的對話不會傳送到雲端服務。其中有些應用程式安裝方式與一般程式相同,另有兩款在瀏覽器中執行。以下依各工具自家頁面,說明它提供的功能。
我們開發的是 Slop AI,為本頁所列工具之一。其他工具的所有事實均來自其官方頁面,連結列於各工具下方,內容依 2026-10-24 時的版本。價格與功能會變動,選擇前請先查看各網站。
我們如何比較
- 在本機執行模型是免費的
- 所需條件:安裝、GPU,或特定的作業系統或瀏覽器
- 下載模型後可離線運作
- 模型的選擇與大小
- 附加功能:與文件、圖片聊天,以及本機 API
一覽
| 工具 | 本機使用的價格 | 執行環境 | 安裝 | 模型 | 離線 |
|---|---|---|---|---|---|
| Slop AI 本站 | 免費 | 支援 WebGPU 的瀏覽器 | 無 | 10 個模型,0.5B 至 7B(290 MB 至 4.3 GB) | 是,首次造訪並下載後即可 |
| LM Studio | 免費($0 方案) | Apple 晶片的 Mac、Windows x64/ARM、Linux | 桌面應用程式 | 來自 Hugging Face 的 GGUF(llama.cpp)與 MLX | 是,模型下載後即可 |
| Ollama | 免費($0 方案) | macOS 14 以上、Windows 10 22H2 以上、Linux | 應用程式與命令列 | 其自有的模型庫,包括視覺模型 | 未說明 |
| GPT4All | 免費,MIT 授權 | Windows、macOS 12.6 以上、Ubuntu | 桌面應用程式 | 數千個開放模型 | 未說明 |
| Jan | 免費,開放原始碼(Apache 2.0) | macOS 13.6 以上、Windows 10 以上、Linux | 桌面應用程式 | Hugging Face 模型(Llama、Gemma、Qwen 等) | 是,並表示可 100% 離線執行 |
| WebLLM Chat | 免費,開放原始碼(Apache 2.0) | 支援 WebGPU 的瀏覽器 | 無 | WebLLM 內建模型,以及自訂的 MLC 模型 | 是,首次下載後即可 |
| 功能 | Slop AI 本站 | LM Studio | Ollama | GPT4All | Jan | WebLLM Chat |
|---|---|---|---|---|---|---|
| 本機模型免費 | 是 | 是 | 是 | 是 | 是 | 是 |
| 免安裝 | 是 | 否 | 否 | 否 | 否 | 是 |
| 聊天視窗 | 是 | 是 | 未說明 | 是 | 是 | 是 |
| 可離線運作 | 是 | 是 | 未說明 | 未說明 | 是 | 是 |
| 無 GPU 也能執行 | 部分支援 | 未說明 | 部分支援 | 是 | 未說明 | 未說明 |
| Windows | 是 | 是 | 是 | 是 | 是 | 未說明 |
| Mac | 是 | Apple 晶片 | 是 | 是 | 是 | 未說明 |
| Linux | 部分支援 | 是 | 是 | x86-64 | 是 | 未說明 |
| 大型模型(13B 以上) | 否 | 未說明 | 未說明 | 未說明 | 是 | 未說明 |
| 您自己的模型檔案 | MLC 格式 | 是 | 未說明 | 未說明 | 未說明 | MLC 格式 |
| 傳送圖片(視覺) | 否 | 未說明 | 是 | 未說明 | 未說明 | 是 |
| 與您的文件聊天 | 部分支援 | 是 | 未說明 | 是 | 未說明 | 未說明 |
| 供其他應用程式使用的本機 API | 否 | 是 | 是 | 未說明 | 是 | 否 |
| MCP 工具 | 否 | 是 | 未說明 | 未說明 | 是 | 未說明 |
| 下載前檢查硬體 | 是 | 未說明 | 未說明 | 未說明 | 未說明 | 未說明 |
1. Slop AI(本站)
最適合: 檢查您的電腦能執行哪些模型,並在瀏覽器中與小型模型聊天,無需安裝;之後可在 Slopographic 應用程式中使用。
優點
- 「我的電腦能執行嗎?」會測試 WebGPU 與記憶體,並在您下載前為每個模型評等
- 每次下載前都會先詢問,之後模型會留在您的裝置上
- 可在沙箱預覽中建立小型單一檔案應用程式,並能開啟及操作其他 Slopographic 應用程式
- 聊天紀錄保存在您的裝置上,並可匯出為 Markdown 或 JSON
- 其他 Slopographic 應用程式中的 AI 按鈕使用相同的模型,也可使用您電腦上的 Ollama 或 LM Studio,或使用您自己的金鑰連接雲端模型
- 在手機、平板和電腦的瀏覽器中運作,離線也能使用
缺點
- 只支援小型模型(最大 7B),因此回答的品質不如桌面應用程式能執行的大型模型
- 僅支援文字:無法將圖片傳送給模型
- 沒有供其他程式使用的本機 API
- 需要 WebGPU,而且仍在測試版階段
2. LM Studio
最適合: 在免費的桌面應用程式中執行較大的開放模型,具備聊天視窗與本機 API。
優點
- 可執行 llama.cpp 模型,在 Apple 晶片上也可執行 MLX 模型
- 可與文件聊天,並可連接 MCP 伺服器
- 可提供類似 OpenAI 的端點來服務模型
- 可完全離線運作
缺點
- 建議 16 GB 記憶體,且在 Windows 上需要 4 GB 專用 VRAM
- 不支援搭載 Intel 處理器的 Mac
- 付費方案(每月 $20 與 $100)是用於其雲端模型
LM Studio 官網 · 來源: LM Studio 價格方案, LM Studio 系統需求, LM Studio 文件
3. Ollama
最適合: 想讓自己的應用程式與程式設計工具透過 API 使用本機模型的開發人員。
優點
- 本機 API,相容於 OpenAI 與 Anthropic 的用戶端
- Windows 上支援 NVIDIA 與 AMD Radeon GPU
- 可接受圖片輸入的視覺模型
- MIT 授權
缺點
- 以命令列與 API 為核心設計
- 付費方案(每月 $20 與 $100)是用於雲端模型與用量點數
- 在搭載 Intel 處理器的 Mac 上,僅使用 CPU 執行
Ollama 官網 · 來源: Ollama 價格方案, Windows 版 Ollama, macOS 版 Ollama, Ollama 視覺功能, Ollama OpenAI 相容性, GitHub 上的 Ollama, Ollama 文件, Ollama 快速入門
4. GPT4All
最適合: 能在一般筆電上執行、甚至沒有 GPU 也能使用,並可與您的檔案聊天的私密桌面聊天機器人。
優點
- 依其 README 所述,不需要 API 呼叫或 GPU
- LocalDocs:與您自己的文件聊天
- 表示沒有任何資料會離開您的電腦
缺點
- Linux 版僅支援 x86-64
- 至少需要 Intel Core i3 第 2 代或 AMD Bulldozer 處理器
GPT4All 官網 · 來源: GPT4All 首頁, GitHub 上的 GPT4All
5. Jan
最適合: 一款開放原始碼、類似 ChatGPT 風格的桌面應用程式,您想要時可把本機模型與雲端模型混用。
優點
- 位於 localhost:1337 的本機 OpenAI 相容 API
- MCP 整合
- 也能連接 OpenAI、Anthropic、Mistral 與 Groq
缺點
- 其指南表示:在 Mac 上,3B 模型需要 8 GB 記憶體,7B 需要 16 GB,13B 需要 32 GB
Jan 官網 · 來源: Jan 首頁, GitHub 上的 Jan
6. WebLLM Chat
最適合: 不需安裝、直接在瀏覽器中體驗本機 AI,包括視覺模型。
優點
- 在瀏覽器中透過 WebGPU 執行,不需伺服器端處理
- 支援視覺模型:可傳送圖片
- 完成初次設定後可離線運作
缺點
- 需要 WebGPU,因此並非每個瀏覽器或電腦都能執行
- 自訂模型必須先編譯為 MLC 格式
WebLLM Chat 官網 · 來源: GitHub 上的 WebLLM Chat
該如何選擇
若想私密地進行 AI 聊天,又不需安裝任何東西,我們推薦 Slop AI:它會先告訴您電腦能執行哪些模型,每次下載前都會詢問,模型與您的聊天記錄都保留在您的裝置上,之後可離線使用,並能建立小型應用程式,以及操作其他 Slopographic 應用程式。它的模型較小(最大 7B),且僅支援文字,因此不要期待大型桌面模型的回答品質。
若能安裝應用程式、電腦有 16 GB 記憶體,並想使用較大的模型、文件聊天、MCP 與本機 API,請選 LM Studio。若要透過 API 讓自己的工具使用模型,請選 Ollama;若是沒有 GPU 的舊筆電,請選 GPT4All;若想要可混用本機與雲端模型的開放原始碼應用程式,請選 Jan;若想在瀏覽器中把圖片傳送給模型,請選 WebLLM Chat。
常見問題
本機 AI 真的私密嗎?
模型在您的電腦上執行,因此本機聊天不必離開電腦。GPT4All、Jan、LM Studio 與 WebLLM Chat 都在各自頁面上說明了這一點。在 Slop AI 中,聊天內容留在您的裝置上;它只會為了下載您選擇的模型而連上網路。部分應用程式也能連接雲端模型,其他 Slopographic 應用程式中的 AI 按鈕在您加入自己的金鑰後也可以;這些對話則會傳送給該服務供應商。
我需要什麼樣的電腦?
LM Studio 建議 16 GB 記憶體;Jan 則建議在 Mac 上,3B 模型使用 8 GB,7B 模型使用 16 GB。GPT4All 無需 GPU 即可執行。瀏覽器應用程式需要 WebGPU;Slop AI 的系統檢查會在您下載模型前,告訴您哪些模型能執行。
這些工具能離線使用嗎?
LM Studio、Jan 與 WebLLM Chat 表示,模型下載後即可離線使用。Slop AI 在首次造訪並下載模型後,也能離線使用。
哪一個最強大?
像 LM Studio 這樣的桌面應用程式能執行比瀏覽器應用程式更大的模型。Slop AI 與 WebLLM Chat 則以模型規模換取免安裝的便利。
其他產品名稱為其擁有者的商標。Slopographic 與它們沒有關聯。