비교 · 확인일 2026-10-24
내 컴퓨터에서 AI 채팅을 실행하는 최고의 무료 앱
로컬 AI 모델은 내 하드웨어에서 답하므로, 대화 내용이 클라우드 서비스로 가지 않습니다. 이 중 일부는 다른 프로그램처럼 설치하며, 두 가지는 브라우저에서 실행됩니다. 각 앱이 무엇을 제공하는지 공식 페이지 기준으로 정리했습니다.
이 페이지의 도구 중 하나인 Slop AI은(는) 저희가 만듭니다. 다른 도구에 관한 모든 정보는 2026-10-24 기준으로 각 도구의 자체 페이지에서 가져왔으며, 각 도구 아래에 링크되어 있습니다. 가격과 기능은 바뀔 수 있으니 고르기 전에 각 사이트를 확인하세요.
비교 방법
- 모델을 로컬에서 무료로 실행
- 필요한 것: 설치, GPU, 특정 운영체제나 브라우저
- 모델을 한 번 내려받은 뒤 오프라인에서 작동하는지 여부
- 모델 선택과 크기
- 추가 기능: 문서 및 이미지와 채팅, 로컬 API
한눈에 보기
| 도구 | 로컬 사용 가격 | 실행 환경 | 설치 | 모델 | 오프라인 |
|---|---|---|---|---|---|
| Slop AI 저희 앱 | 무료 | WebGPU를 지원하는 브라우저 | 없음 | 모델 10개, 0.5B에서 7B까지 (290MB에서 4.3GB) | 예, 처음 방문하고 내려받은 뒤 |
| LM Studio | 무료 (요금 $0) | Apple Silicon Mac, Windows x64/ARM, Linux | 데스크톱 앱 | Hugging Face의 GGUF (llama.cpp)와 MLX | 예, 모델을 내려받은 뒤 |
| Ollama | 무료 (요금 $0) | macOS 14 이상, Windows 10 22H2 이상, Linux | 앱과 명령줄 | 자체 라이브러리 (이미지 인식 모델 포함) | 명시되지 않음 |
| GPT4All | 무료, MIT 라이선스 | Windows, macOS 12.6 이상, Ubuntu | 데스크톱 앱 | 수천 개의 오픈 모델 | 명시되지 않음 |
| Jan | 무료, 오픈 소스 (Apache 2.0) | macOS 13.6 이상, Windows 10 이상, Linux | 데스크톱 앱 | Hugging Face 모델 (Llama, Gemma, Qwen 등) | 예, 100% 오프라인으로 실행된다고 밝힘 |
| WebLLM Chat | 무료, 오픈 소스 (Apache 2.0) | WebGPU를 지원하는 브라우저 | 없음 | WebLLM 기본 모델, 사용자 지정 MLC 모델 | 예, 처음 내려받은 뒤 |
| 기능 | Slop AI 저희 앱 | LM Studio | Ollama | GPT4All | Jan | WebLLM Chat |
|---|---|---|---|---|---|---|
| 로컬 모델 무료 | 예 | 예 | 예 | 예 | 예 | 예 |
| 설치 필요 없음 | 예 | 아니요 | 아니요 | 아니요 | 아니요 | 예 |
| 채팅 창 | 예 | 예 | 명시되지 않음 | 예 | 예 | 예 |
| 오프라인에서 작동 | 예 | 예 | 명시되지 않음 | 명시되지 않음 | 예 | 예 |
| GPU 없이 실행 | 일부 | 명시되지 않음 | 일부 | 예 | 명시되지 않음 | 명시되지 않음 |
| Windows | 예 | 예 | 예 | 예 | 예 | 명시되지 않음 |
| Mac | 예 | Apple Silicon | 예 | 예 | 예 | 명시되지 않음 |
| Linux | 일부 | 예 | 예 | x86-64 | 예 | 명시되지 않음 |
| 대형 모델 (13B 이상) | 아니요 | 명시되지 않음 | 명시되지 않음 | 명시되지 않음 | 예 | 명시되지 않음 |
| 내 모델 파일 | MLC 형식 | 예 | 명시되지 않음 | 명시되지 않음 | 명시되지 않음 | MLC 형식 |
| 이미지 보내기 (시각) | 아니요 | 명시되지 않음 | 예 | 명시되지 않음 | 명시되지 않음 | 예 |
| 문서와 채팅 | 일부 | 예 | 명시되지 않음 | 예 | 명시되지 않음 | 명시되지 않음 |
| 다른 앱을 위한 로컬 API | 아니요 | 예 | 예 | 명시되지 않음 | 예 | 아니요 |
| MCP 도구 | 아니요 | 예 | 명시되지 않음 | 명시되지 않음 | 예 | 명시되지 않음 |
| 내려받기 전 하드웨어 점검 | 예 | 명시되지 않음 | 명시되지 않음 | 명시되지 않음 | 명시되지 않음 | 명시되지 않음 |
1. Slop AI (저희 앱)
가장 적합한 경우: 내 PC가 무엇을 실행할 수 있는지 확인하고, 설치 없이 브라우저에서 작은 모델과 채팅하며, 이후 Slopographic 앱 전반에서 쓰고 싶을 때 적합합니다.
장점
- "내 PC에서 돌아갈까?"는 WebGPU와 메모리를 시험하고, 내려받기 전에 모델마다 등급을 매깁니다
- 내려받을 때마다 먼저 묻고, 그 뒤 모델은 내 기기에 남습니다
- 샌드박스 미리 보기에서 작은 단일 파일 앱을 만들고, 다른 Slopographic 앱을 열어 조작할 수 있습니다
- 대화는 내 기기에 보관되며, Markdown이나 JSON으로 내보낼 수 있습니다
- 다른 Slopographic 앱의 AI 버튼도 같은 모델을 쓰며, 내 컴퓨터의 Ollama나 LM Studio를 쓰거나, 클라우드 모델이라면 내 API 키를 쓸 수 있습니다
- 휴대폰, 태블릿, 컴퓨터의 브라우저에서 작동하며 오프라인에서도 쓸 수 있습니다
단점
- 작은 모델만 지원합니다 (최대 7B). 그래서 데스크톱 앱에서 돌릴 수 있는 큰 모델보다 답변이 약합니다
- 텍스트만 지원하며, 이미지를 모델에 보낼 수 없습니다
- 다른 프로그램을 위한 로컬 API는 없습니다
- WebGPU가 필요하며, 아직 베타입니다
2. LM Studio
가장 적합한 경우: 채팅 창과 로컬 API를 갖춘 무료 데스크톱 앱에서 더 큰 오픈 모델을 실행하는 데 적합합니다.
장점
- llama.cpp 모델을 실행하며, Apple Silicon에서는 MLX 모델도 실행합니다
- 문서와 MCP 서버를 대상으로 채팅합니다
- OpenAI 방식의 엔드포인트로 모델을 제공합니다
- 완전히 오프라인으로 작동할 수 있습니다
단점
- 메모리 16GB를 권장하며, Windows에서는 전용 VRAM 4GB가 필요합니다
- 인텔 Mac은 지원하지 않습니다
- 유료 요금제 (월 20달러, 100달러)는 클라우드 모델용입니다
LM Studio 웹사이트 · 출처: LM Studio 요금, LM Studio 시스템 요구 사항, LM Studio 문서
3. Ollama
가장 적합한 경우: 자체 앱과 코딩 도구에서 쓰려고 API 뒤에 로컬 모델을 두고 싶은 개발자에게 적합합니다.
장점
- OpenAI와 Anthropic 호환 클라이언트를 쓸 수 있는 로컬 API입니다
- Windows에서 NVIDIA와 AMD Radeon GPU를 지원합니다
- 이미지를 입력받는 이미지 인식 모델을 지원합니다
- MIT 라이선스입니다
단점
- 명령줄과 API 중심으로 만들어져 있습니다
- 유료 요금제 (월 20달러, 100달러)는 클라우드 모델과 사용 크레딧용입니다
- 인텔 Mac에서는 CPU만 사용합니다
Ollama 웹사이트 · 출처: Ollama 요금, Windows의 Ollama, macOS의 Ollama, Ollama 이미지 인식, Ollama OpenAI 호환성, GitHub의 Ollama, Ollama 문서, Ollama 빠른 시작
4. GPT4All
가장 적합한 경우: GPU 없이 일반 노트북에서도 돌아가며, 내 파일과 대화할 수 있는 비공개 데스크톱 챗봇입니다.
장점
- README에 따르면 API 호출이나 GPU가 필요 없습니다
- LocalDocs: 내 문서와 대화합니다
- 데이터가 내 기기를 벗어나지 않는다고 밝히고 있습니다
단점
- Linux 빌드는 x86-64만 지원합니다
- 최소한 Intel Core i3 2세대 또는 AMD Bulldozer CPU가 필요합니다
GPT4All 웹사이트 · 출처: GPT4All 홈페이지, GitHub의 GPT4All
5. Jan
가장 적합한 경우: 원할 때 로컬 모델과 클라우드 모델을 섞어 쓸 수 있는 오픈 소스 ChatGPT 스타일 데스크톱 앱입니다.
장점
- localhost:1337에서 제공하는 OpenAI 호환 로컬 API입니다
- MCP 연동을 지원합니다
- OpenAI, Anthropic, Mistral, Groq에도 연결할 수 있습니다
단점
- 자체 안내: Mac에서 3B 모델은 메모리 8GB, 7B는 16GB, 13B는 32GB가 필요합니다
Jan 웹사이트 · 출처: Jan 홈페이지, GitHub의 Jan
6. WebLLM Chat
가장 적합한 경우: 설치 없이 브라우저에서 로컬 AI를 시험해 보고 싶을 때 적합하며, 이미지 인식 모델도 쓸 수 있습니다.
장점
- WebGPU로 브라우저에서 실행되며, 서버에서 처리하지 않습니다
- 이미지 인식 모델을 지원하며, 이미지를 보낼 수 있습니다
- 처음 설정한 뒤에는 오프라인에서 작동합니다
단점
- WebGPU가 필요하므로 모든 브라우저나 컴퓨터에서 실행되지는 않습니다
- 사용자 지정 모델은 MLC 형식으로 컴파일되어야 합니다
WebLLM Chat 웹사이트 · 출처: GitHub의 WebLLM Chat
선택 기준
설치할 것 없이 비공개 AI 채팅을 원한다면 Slop AI를 추천합니다. 내 컴퓨터가 어떤 모델을 실행할 수 있는지 먼저 알려 주고, 내려받을 때마다 묻고, 모델과 대화를 내 기기에 보관하며, 그 뒤로는 오프라인에서도 작동합니다. 작은 앱을 만들고 다른 Slopographic 앱을 조작할 수도 있습니다. 모델은 작고 (7B까지), 텍스트만 지원하므로 큰 데스크톱 모델의 답변을 기대하지 마세요.
앱을 설치할 수 있고 메모리 16GB가 있으며, 더 큰 모델, 문서 채팅, MCP, 로컬 API가 필요하다면 LM Studio를 고르세요. 자체 도구에서 API 뒤의 모델을 쓰려면 Ollama를, GPU가 없는 오래된 노트북에는 GPT4All을, 로컬과 클라우드 모델을 섞을 수 있는 오픈 소스 앱에는 Jan을, 브라우저에서 모델에 이미지를 보내려면 WebLLM Chat을 고르세요.
질문
로컬 AI는 정말 비공개인가요?
모델이 내 컴퓨터에서 돌아가므로, 로컬 채팅은 컴퓨터를 떠날 필요가 없습니다. GPT4All, Jan, LM Studio, WebLLM Chat은 각 공식 페이지에서 그렇게 밝히고 있습니다. Slop AI에서는 대화가 내 기기에 남으며, 고른 모델을 내려받을 때만 인터넷에 연결합니다. 여러 앱은 클라우드 모델에도 연결할 수 있고, 다른 Slopographic 앱의 AI 버튼도 내 API 키를 추가하면 그렇게 됩니다. 그 대화는 해당 제공업체로 갑니다.
어떤 컴퓨터가 필요한가요?
LM Studio는 메모리 16GB를 권장합니다. Jan은 Mac에서 3B 모델에 8GB, 7B 모델에 16GB를 제안합니다. GPT4All은 GPU 없이 실행됩니다. 브라우저 앱은 WebGPU가 필요하며, Slop AI의 시스템 점검은 모델을 내려받기 전에 어떤 모델이 실행될지 알려 줍니다.
이 앱들은 오프라인에서 작동하나요?
LM Studio, Jan, WebLLM Chat은 모델을 내려받은 뒤 오프라인에서 작동한다고 밝히고 있습니다. Slop AI도 처음 방문하고 모델을 내려받은 뒤에는 그렇습니다.
가장 강력한 것은 무엇인가요?
LM Studio 같은 데스크톱 앱이 브라우저 앱보다 큰 모델을 실행합니다. Slop AI와 WebLLM Chat은 설치할 것이 없다는 점을 얻는 대신 모델 크기를 양보합니다.
다른 제품의 이름은 각 소유자의 상표입니다. Slopographic은 이들과 제휴하지 않습니다.