Slop AI · 무료, 브라우저에서

브라우저에서 로컬 AI 모델 실행하기

Slop AI는 WebGPU로 내 그래픽카드에서 Llama 3.2, Qwen2.5, Phi-3.5 mini, Gemma 2 같은 공개 모델을 실행합니다. 한 번 내려받고 나면 모델은 기기에서 답합니다.

하는 방법

이 페이지에서 Slop AI를 여세요. 모델 탭에서 시작하며, 각 모델은 다운로드 크기, 필요한 GPU 메모리, 라이선스, 내 PC에 대한 판단을 보여 줍니다.
모델을 고르고 다운로드를 누르세요. Qwen2.5 0.5B는 약 290MB이며, 7B 모델은 약 4.3GB입니다.
다운로드를 확인하세요. huggingface.co에서 한 번 받아 브라우저에 보관하며, 일시 정지했다가 나중에 이어 받을 수 있습니다.
채팅으로 가서 입력하세요. 답변이 흘러나오며 각 답변 아래에 초당 토큰 수가 표시됩니다.
기본값으로 설정을 누르면 다음 방문 때 모델이 자동으로 불러와집니다.

파일은 이 기기에 그대로 남습니다. Slop AI은(는) 브라우저에서 실행되며, 업로드, 계정, 워터마크가 없습니다.

최신 Chrome이나 Edge 같은 WebGPU를 지원하는 브라우저와, 모델에 맞는 GPU 메모리입니다. 가장 작은 모델은 약 1GB, 7B 모델은 약 5GB입니다. 내 PC에서 실행할 수 있을까? 탭이 대신 확인해 줍니다.

모델은 브라우저의 저장공간에서 불러와 GPU에서 실행되므로, 채팅 자체는 네트워크 요청을 하지 않습니다. 다운로드할 때만 연결이 필요합니다.

아니요. 답변은 기기에서 생성되며 대화는 브라우저에 저장됩니다. Markdown이나 JSON으로 내보내거나 Slop Drive에 저장할 수 있습니다.

아직은 안 됩니다. 로컬 모델은 텍스트만 읽습니다. 텍스트 파일을 첨부할 수 있으며, 각 파일의 처음 24,000자가 모델에 전달됩니다.