对比 · 核对日期 2026-10-24
在自己的电脑上运行 AI 聊天的最佳免费应用
本地 AI 模型在你自己的硬件上回答问题，因此你的聊天内容不会发送到云服务。这些应用中，有些像普通程序一样安装，有两款在浏览器中运行。下面根据各家官网，列出每款的功能。
我们开发的 Slop AI 是本页列出的工具之一。关于其他工具的所有事实，均来自其官方页面（每款下方均附链接），内容以 2026-10-24 时的为准。价格和功能会变化，选择前请以各官网为准。
我们如何进行对比
- 在本地运行模型是否免费
- 需要什么：安装、GPU、特定的操作系统或浏览器
- 下载模型后可否离线使用
- 模型的选择和大小
- 附加功能：与文档、图片聊天，以及本地 API
一览
| 工具 | 本地使用的价格 | 运行环境 | 安装 | 模型 | 离线 |
|---|---|---|---|---|---|
| Slop AI 我们的 | 免费 | 支持 WebGPU 的浏览器 | 无 | 10 个模型，0.5B 至 7B（290 MB 至 4.3 GB） | 是，首次访问并下载后 |
| LM Studio | 免费（$0 方案） | Apple 芯片 Mac、Windows x64/ARM、Linux | 桌面应用 | 来自 Hugging Face 的 GGUF（llama.cpp）和 MLX | 是，模型下载完成后 |
| Ollama | 免费（$0 方案） | macOS 14 及以上、Windows 10 22H2 及以上、Linux | 应用和命令行 | 自有模型库，包括视觉模型 | 未说明 |
| GPT4All | 免费，MIT 许可证 | Windows、macOS 12.6 及以上、Ubuntu | 桌面应用 | 数千个开源模型 | 未说明 |
| Jan | 免费，开源（Apache 2.0） | macOS 13.6 及以上、Windows 10 及以上、Linux | 桌面应用 | Hugging Face 模型（Llama、Gemma、Qwen 等） | 是，称可 100% 离线运行 |
| WebLLM Chat | 免费，开源（Apache 2.0） | 支持 WebGPU 的浏览器 | 无 | WebLLM 内置模型，自定义 MLC 模型 | 是，首次下载后 |
| 功能 | Slop AI 我们的 | LM Studio | Ollama | GPT4All | Jan | WebLLM Chat |
|---|---|---|---|---|---|---|
| 本地模型免费 | 是 | 是 | 是 | 是 | 是 | 是 |
| 无需安装 | 是 | 否 | 否 | 否 | 否 | 是 |
| 聊天窗口 | 是 | 是 | 未说明 | 是 | 是 | 是 |
| 可离线使用 | 是 | 是 | 未说明 | 未说明 | 是 | 是 |
| 无需 GPU 即可运行 | 部分支持 | 未说明 | 部分支持 | 是 | 未说明 | 未说明 |
| Windows | 是 | 是 | 是 | 是 | 是 | 未说明 |
| Mac | 是 | Apple 芯片 | 是 | 是 | 是 | 未说明 |
| Linux | 部分支持 | 是 | 是 | x86-64 | 是 | 未说明 |
| 大型模型（13B 及以上） | 否 | 未说明 | 未说明 | 未说明 | 是 | 未说明 |
| 你自己的模型文件 | MLC 格式 | 是 | 未说明 | 未说明 | 未说明 | MLC 格式 |
| 发送图片（视觉） | 否 | 未说明 | 是 | 未说明 | 未说明 | 是 |
| 与你的文档聊天 | 部分支持 | 是 | 未说明 | 是 | 未说明 | 未说明 |
| 供其他应用使用的本地 API | 否 | 是 | 是 | 未说明 | 是 | 否 |
| MCP 工具 | 否 | 是 | 未说明 | 未说明 | 是 | 未说明 |
| 下载前检查硬件 | 是 | 未说明 | 未说明 | 未说明 | 未说明 | 未说明 |
1. Slop AI（我们的）
最适合： 在浏览器中检查你的电脑能运行什么，并与一个小模型聊天，无需安装，之后还可在 Slopographic 各应用中使用。
优点
- “我的电脑能运行吗？”会测试 WebGPU 和内存，并在你下载前为每个模型评级
- 每次下载前都会询问，之后模型保留在你的设备上
- 可在沙盒预览中生成小型单文件应用，并可打开和操作其他 Slopographic 应用
- 聊天记录保存在你的设备上，并可导出为 Markdown 或 JSON
- 其他 Slopographic 应用中的 AI 按钮使用相同的模型，也可使用你电脑上的 Ollama 或 LM Studio，或使用你自己的云端模型密钥
- 在手机、平板和电脑的浏览器中运行，离线也能用
不足
- 仅支持小模型（最高 7B），因此回答质量不及桌面应用能运行的大模型
- 仅支持文字：无法向模型发送图片
- 没有供其他程序使用的本地 API
- 需要 WebGPU，并且仍处于测试版
2. LM Studio
最适合： 在免费的桌面应用中运行较大的开源模型，具有聊天窗口和本地 API。
优点
- 可运行 llama.cpp 模型，并可在 Apple 芯片上运行 MLX 模型
- 可与文档和 MCP 服务器聊天
- 以类似 OpenAI 的端点提供模型服务
- 可以完全离线运行
不足
- 建议 16 GB 内存；Windows 上需要 4 GB 独立显存
- 不支持 Intel 芯片的 Mac
- 付费方案（每月 20 美元和 100 美元）针对其云端模型
LM Studio 官网 · 来源： LM Studio 价格, LM Studio 系统要求, LM Studio 文档
3. Ollama
最适合： 希望把本地模型放在 API 后面，供自己的应用和编码工具使用的开发者。
优点
- 本地 API，兼容 OpenAI 和 Anthropic 的客户端
- Windows 上支持 NVIDIA 和 AMD Radeon 显卡
- 可接收图片的视觉模型
- MIT 许可证
不足
- 以命令行和 API 为核心设计
- 付费方案（每月 20 美元和 100 美元）针对云端模型和用量积分
- 在 Intel 芯片的 Mac 上只能使用 CPU 运行
Ollama 官网 · 来源： Ollama 价格, Windows 版 Ollama, macOS 版 Ollama, Ollama 视觉功能, Ollama OpenAI 兼容性, GitHub 上的 Ollama, Ollama 文档, Ollama 快速入门
4. GPT4All
最适合： 一款私密的桌面聊天机器人，即使没有 GPU，也能在普通笔记本电脑上运行，并可与你的文件对话。
优点
- 据其 README，无需 API 调用，也无需 GPU
- LocalDocs：与你自己的文档对话
- 称没有任何数据会离开你的电脑
不足
- Linux 版本仅支持 x86-64
- 至少需要 Intel Core i3 第二代或 AMD Bulldozer 处理器
GPT4All 官网 · 来源： GPT4All 首页, GitHub 上的 GPT4All
5. Jan
最适合： 一款开源的 ChatGPT 风格桌面应用，可按需把本地模型与云端模型混合使用。
优点
- 位于 localhost:1337 的本地 OpenAI 兼容 API
- MCP 集成
- 也可连接 OpenAI、Anthropic、Mistral 和 Groq
不足
- 其自带指南：在 Mac 上，3B 模型需 8 GB 内存，7B 需 16 GB，13B 需 32 GB
Jan 官网 · 来源： Jan 首页, GitHub 上的 Jan
6. WebLLM Chat
最适合： 无需安装，直接在浏览器中体验本地 AI，包括视觉模型。
优点
- 借助 WebGPU 在浏览器中运行，不做服务器端处理
- 支持视觉模型：可发送图片
- 完成初始设置后可离线使用
不足
- 需要 WebGPU，因此并非所有浏览器或电脑都能运行
- 自定义模型必须编译为 MLC 格式
WebLLM Chat 官网 · 来源： GitHub 上的 WebLLM Chat
如何选择
如果你想要一个无需安装、私密的 AI 聊天工具，我们推荐 Slop AI：它会先告诉你电脑能运行哪些模型，每次下载前都会询问，模型和聊天记录都保留在你的设备上，之后还能离线使用，并能生成小型应用，操作其他 Slopographic 应用。它的模型较小（最高 7B）且仅支持文字，因此不要期望它的回答能与大型桌面模型相比。
如果你能安装应用、拥有 16 GB 内存，并想使用更大的模型、文档聊天、MCP 和本地 API，可选择 LM Studio。如果你需要把模型放在 API 后面供自己的工具使用，可选择 Ollama；如果你使用的笔记本没有 GPU，可选择 GPT4All；如果你需要一款可以混合使用本地和云端模型的开源应用，可选择 Jan；如果你想在浏览器中向模型发送图片，可选择 WebLLM Chat。
常见问题
本地 AI 真的私密吗？
模型在你的电脑上运行，因此本地聊天不必离开电脑。GPT4All、Jan、LM Studio 和 WebLLM Chat 都在各自的页面中作了说明。在 Slop AI 中，聊天内容保留在你的设备上；它只在下载你所选模型时联网。一些应用也可以连接到云端模型，而当你添加自己的密钥时，其他 Slopographic 应用中的 AI 按钮也可以这样做；这些聊天内容确实会发送给相应的服务商。
我需要什么样的电脑？
LM Studio 建议 16 GB 内存；Jan 则建议在 Mac 上，3B 模型使用 8 GB，7B 模型使用 16 GB。GPT4All 无需 GPU 即可运行。浏览器应用需要 WebGPU；Slop AI 的系统检查会在你下载模型之前告诉你哪些模型可以运行。
这些应用能离线使用吗？
LM Studio、Jan 和 WebLLM Chat 称，模型下载完成后即可离线工作。Slop AI 同样如此：首次访问并下载模型后即可离线使用。
哪个最强大？
桌面应用（例如 LM Studio）能运行比浏览器应用更大的模型。Slop AI 和 WebLLM Chat 则为了无需安装而牺牲了模型规模。
其他产品名称归其所有者所有。Slopographic 与它们没有关联。