पुरानी लैपटॉप पर स्थानीय निजी AI के लिए Ollama

XDA का एक पुरानी लैपटॉप को पूरे घर के लिए एक निजी AI सहायक में बदलने के बारे में लेख वह केस स्टडी है जिसकी हमें जरूरत थी। 32 GB RAM और एकीकृत GPU के साथ एक 2020-era ThinkPad आधुनिक 7B या 13B मॉडल को बातचीत की गति से चलाने, परिवार के लिए एक चैट UI होस्ट करने और प्रति व्यक्ति प्रति माह $20 का भुगतान करना बंद करने के लिए पर्याप्त है। ये 2026 में पुरानी लैपटॉप पर पूरे घर के लिए एक निजी AI सहायक बनाने के लिए सर्वश्रेष्ठ डेस्कटॉप ऐप्स हैं, जिन्हें रनटाइम, चैट UI और पारिवारिक-अनुकूल पहुंच के संयोजन के लिए चुना गया है जो ऑपरेटर के टर्मिनल के बाहर स्थानीय AI को वास्तव में उपयोगी बनाता है।

घरेलू AI स्टैक में क्या देखना है

एक निजी AI सहायक जिसका पूरा परिवार वास्तव में उपयोग करे, को यह कवर करना चाहिए:

त्वरित तुलना

ऐप सर्वश्रेष्ठ रनटाइम चैट UI API सर्वर लागत
Ollama आधार रनटाइम जिस पर सभी निर्माण करते हैं Ollama CLI + community UIs हां निःशुल्क
LM Studio GUI-केंद्रित स्थानीय मॉडल llama.cpp हां हां निःशुल्क
Open WebUI Ollama के सामने घरेलू चैट UI कोई भी (Ollama, OpenAI) हां (बहु-उपयोगकर्ता) Proxies निःशुल्क
GPT4All सबसे सरल single-user स्थानीय चैट llama.cpp हां वैकल्पिक निःशुल्क / Pro $5/माह
Jan Open-source ChatGPT प्रतिस्थापन llama.cpp / Ollama हां हां निःशुल्क
Text Generation WebUI Power-user मॉडल ट्यूनिंग और प्रारूप समर्थन कई हां हां निःशुल्क
Home Assistant with Local LLM Ollama पर वॉयस-संचालित होम AI Ollama backend वॉयस + चैट via Ollama निःशुल्क

पुरानी लैपटॉप पर निजी घरेलू AI के लिए 7 सर्वश्रेष्ठ ऐप्स

1. Ollama, आधार रनटाइम के रूप में सर्वश्रेष्ठ जिस पर सभी निर्माण करते हैं

Ollama वह रनटाइम है जिसने स्थानीय LLM को एक-कमांड इंस्टॉल बनाया। ollama run llama3.1 एक मॉडल को डाउनलोड, लोड और पोर्ट 11434 पर OpenAI-संगत API के साथ सेवा प्रदान करता है। मॉडल लाइब्रेरी क्यूरेट की गई है (Llama, Mistral, Phi, Qwen, Gemma और सामुदायिक fine-tunes), और रनटाइम स्वचालित रूप से NVIDIA CUDA, AMD ROCm या Apple Metal का पता लगाता है और उपयोग करता है।

RTX 3060 वाली लैपटॉप पर (या Apple M2 और ऊपर), एक 13B मॉडल बातचीत की गति से चलता है। केवल CPU पर, 3B-class मॉडल जैसे Phi-3 Mini उपयोगी रहते हैं।

कहां कम पड़ता है: केवल कमांड-लाइन; घरेलू उपयोग के लिए शीर्ष पर एक चैट UI की जरूरत है। क्यूरेटेड मॉडल सूची कच्ची GGUF universe से संकीर्ण है। Windows पर Docker इंस्टॉल पसंद किया जाता है।

मूल्य निर्धारण:

प्लेटफॉर्म्स: Windows, macOS, Linux

डाउनलोड करें: ollama.com

निचला सारांश: 2026 में किसी भी निजी-AI घरेलू सेटअप के लिए डिफ़ॉल्ट रनटाइम।

2. LM Studio, GUI-केंद्रित स्थानीय मॉडल के लिए सर्वश्रेष्ठ

LM Studio Ollama का GUI प्रतिद्वंद्वी है। Hugging Face से point-and-click मॉडल डाउनलोड, प्रति-बातचीत मॉडल चयन के साथ एक चैट पैनल, और एक OpenAI-संगत सर्वर जो एक चेकबॉक्स के साथ शुरू होता है। LM Studio प्रति-मॉडल सिफारिशों के साथ आता है संदर्भ लंबाई, क्वांटाइजेशन और GPU ऑफलोड गिनती के लिए।

एक ऑपरेटर के लिए जो टर्मिनल पर Windows-style ऐप पसंद करता है, LM Studio ताजे इंस्टॉल से काम करने वाले स्थानीय मॉडल तक सबसे कम रास्ता है।

कहां कम पड़ता है: डिजाइन के अनुसार single-user; घरेलू चैट UI नहीं है। मॉडल प्रबंधन प्रति-मशीन है, केंद्रीकृत नहीं। पूरी तरह open source नहीं है (open runtimes के चारों ओर मालिकाना डेस्कटॉप ऐप)।

मूल्य निर्धारण:

प्लेटफॉर्म्स: Windows, macOS, Linux

डाउनलोड करें: lmstudio.ai

निचला सारांश: बहु-उपयोगकर्ता सर्वर सेटअप करने से पहले स्थानीय मॉडल सीखने वाले के लिए सही पिक।

3. Open WebUI, Ollama के सामने घरेलू चैट UI के रूप में सर्वश्रेष्ठ

Open WebUI वह हिस्सा है जो एक Ollama सर्वर को पूरे घर के लिए उपयोगी बनाता है। बहु-उपयोगकर्ता अकाउंट्स, प्रति-उपयोगकर्ता चैट इतिहास, मॉडल-स्विचर, RAG दस्तावेज़ अपलोड, प्रॉम्प्ट लाइब्रेरी और भूमिका-आधारित अनुमतियां सब एक self-hosted web UI में रहती हैं। एक Ollama endpoint (स्थानीय या LAN पर) की ओर इशारा करें और परिवार के प्रत्येक सदस्य को इतिहास साझा किए बिना ChatGPT-जैसा अनुभव मिलता है।

Ollama के समान लैपटॉप पर Docker कंटेनर के रूप में चलता है, या LAN पर इससे बात करने वाली अलग मशीन पर।

कहां कम पड़ता है: Docker इंस्टॉल अनुशंसित पथ है (bare Node संभव है लेकिन कठिन है)। Whisper add-on के माध्यम से वॉयस इनपुट, native नहीं। भारी उपयोग के साथ चैट इतिहास की स्टोरेज तेजी से बढ़ती है।

मूल्य निर्धारण:

प्लेटफॉर्म्स: Docker, Linux, Windows (Docker Desktop के माध्यम से), macOS (Docker Desktop के माध्यम से)

डाउनलोड करें: docs.openwebui.com

निचला सारांश: Ollama को घरेलू सेवा में बदलने के लिए सबसे महत्वपूर्ण add-on।

4. GPT4All, सबसे सरल single-user स्थानीय चैट के लिए सर्वश्रेष्ठ

GPT4All Nomic का local-first चैट ऐप है: इंस्टॉलर डाउनलोड करें, मॉडल चुनें, चैट करें। UI किसी के लिए बनाया गया है जिसने कभी टर्मिनल को स्पर्श नहीं किया, और मॉडल लाइब्रेरी सामुदायिक द्वारा ट्यून किए गए Llama, Mistral, Phi और Falcon variants को कवर करता है।

माता-पिता या गैर-तकनीकी साथी के लिए अच्छा विकल्प जो सर्वर सेटअप के बिना अपना स्थानीय AI चाहता है।

कहां कम पड़ता है: साझा सर्वर नहीं; प्रत्येक मशीन का अपना मॉडल और इतिहास है। मॉडल लाइब्रेरी Ollama की तुलना में छोटी है। Pro tier क्लाउड सुविधाएं जोड़ता है जो “पूरी तरह स्थानीय” आधार को नुकसान पहुंचाते हैं।

मूल्य निर्धारण:

प्लेटफॉर्म्स: Windows, macOS, Linux

डाउनलोड करें: gpt4all.io

निचला सारांश: एक लैपटॉप के लिए सही चुनाव जहां एक व्यक्ति स्थानीय AI चाहता है और कुछ नहीं।

5. Jan, Open-source ChatGPT प्रतिस्थापन के लिए सर्वश्रेष्ठ

Jan एक पूरी तरह open-source डेस्कटॉप चैट ऐप है जो llama.cpp के माध्यम से स्थानीय मॉडल चलाता है या दूरस्थ endpoints (OpenAI, Anthropic, Groq या स्थानीय Ollama) से जुड़ता है। इंटरफेस ChatGPT के करीब है, चैट, फोल्डर और system-prompt presets के साथ, और Jan की दर्शन है “आपका डेटा आपकी मशीन पर रहता है।”

एक घर के लिए जहां विभिन्न परिवार सदस्य विभिन्न backends चाहते हैं (कुछ स्थानीय, कुछ दूरस्थ), Jan दोनों को साफ-सुथरा संभालता है।

कहां कम पड़ता है: नया प्रोजेक्ट; Windows इंस्टॉल पर कुछ कठोर किनारे। बहु-उपयोगकर्ता समर्थन Open WebUI से पतला है। कुछ प्लग-इन प्रायोगिक हैं।

मूल्य निर्धारण:

प्लेटफॉर्म्स: Windows, macOS, Linux

डाउनलोड करें: jan.ai

निचला सारांश: जब घर एक ChatGPT-style ऐप चाहता है जो स्थानीय या हाइब्रिड हो सकता है तो सही पिक।

6. Text Generation WebUI, Power-user मॉडल ट्यूनिंग और प्रारूप समर्थन के लिए सर्वश्रेष्ठ

Text Generation WebUI (oobabooga) power users के लिए उपकरण है। Transformers, ExLlamaV2, llama.cpp और MLX backends का समर्थन करता है, प्रत्येक sampler और inference setting को उजागर करता है और GGUF, GPTQ, EXL2 और AWQ प्रारूप को संभालता है। LoRA प्रशिक्षण और character-card RP built-in हैं।

सही पिक जब ऑपरेटर पुरानी GPU से हर token/sec निचोड़ना चाहता है या Ollama लाइब्रेरी में नहीं नीच fine-tunes चलाना चाहता है।

कहां कम पड़ता है: खड़ी सीखने की अवस्था। UI में साल-दर-साल stacked features हैं जो नए users को दबाते हैं। बहु-उपयोगकर्ता समर्थन सीमित है।

मूल्य निर्धारण:

प्लेटफॉर्म्स: Windows, macOS, Linux

डाउनलोड करें: github.com/oobabooga/text-generation-webui

निचला सारांश: जब लक्ष्य हर inference detail पर नियंत्रण हो तो सही पिक।

7. Home Assistant with Local LLM, Ollama पर वॉयस-संचालित होम AI के लिए सर्वश्रेष्ठ

Home Assistant Local LLM integration के साथ एक Ollama सर्वर को वॉयस-first घरेलू AI में बदलता है: मौसम के बारे में पूछें, रोशनियों को नियंत्रित करें, कैलेंडर क्वेरी करें या एक स्मार्ट स्पीकर या HA ऐप के माध्यम से सामान्य बातचीत करें। Assist Pipeline Whisper transcription, Ollama पर LLM inference और स्पीकर के लिए TTS को संभालता है, सब होम नेटवर्क के अंदर।

एक परिवार के लिए जहां “hey house, what’s on the schedule today” desired UX है, यह वह परत है जो सब कुछ एक साथ बांधता है।

कहां कम पड़ता है: सेटअप दो प्रोजेक्ट्स (Home Assistant + Ollama) को पार करता है और दोनों को स्वस्थ की जरूरत है। Speaker की पसंद मायने रखती है (Wyoming-compatible mics सबसे smooth हैं)। Latency मॉडल पर निर्भर करता है; छोटे मॉडल तेज़ महसूस होते हैं।

मूल्य निर्धारण:

प्लेटफॉर्म्स: Home Assistant OS, Docker, Linux, Windows, macOS

डाउनलोड करें: www.home-assistant.io और Ollama integration

निचला सारांश: जब वॉयस-first घरेलू AI लक्ष्य हो, सिर्फ चैट विंडो नहीं।

सही कैसे चुनें

पूरी तरह घर के अनुकूल सेटअप के लिए, Ollama को रनटाइम के रूप में और Open WebUI को इसके सामने multi-user चैट UI के रूप में इंस्टॉल करें। यह laptop-turned-server के लिए सही स्टैक है।

ऑपरेटर के अपने single-machine उपयोग के लिए, LM Studio सबसे आसान इंस्टॉल है और अधिकांश दैनिक जरूरतों को कवर करता है।

अपनी खुद की लैपटॉप वाले गैर-तकनीकी परिवार के सदस्य के लिए, GPT4All सबसे friendly single-user इंस्टॉल है।

स्थानीय और दूरस्थ AI backends के बीच विभाजित घर के लिए, Jan सही चैट UI है।

Power-user ट्यूनिंग और नीच मॉडल प्रारूपों के लिए, Text Generation WebUI गहरा उपकरण है।

वॉयस-first घरेलू AI के लिए, Home Assistant with Local LLM integration Ollama को घरेलू वॉयस ecosystem में बांधता है।

FAQ

एक घरेलू AI सर्वर के लिए कौन सी पुरानी लैपटॉप काफी है? 2020 या उससे नई कोई भी लैपटॉप 16 GB RAM या अधिक के साथ CPU पर उपयोग-योग्य गति में 7B मॉडल चला सकता है। एक असतत GPU जोड़ें (यहां तक कि 2018 GTX 1660) और 13B बातचीत की गति में चलता है।

क्या स्थानीय AI गुणवत्ता में ChatGPT को हरा देता है? मॉडल वर्ग के शीर्ष पर नहीं। एक अच्छी तरह से quantized 13B मॉडल लगभग GPT-3.5-class है; एक 70B मॉडल GPT-4-class के करीब आता है लेकिन 24 GB या अधिक VRAM की जरूरत है। अधिकांश घरेलू कार्यों (ईमेल draft, दस्तावेज़ सारांश, brainstorming) के लिए स्थानीय मॉडल अधिक पर्याप्त हैं।

क्या स्थानीय मॉडल अपडेटेड रहते हैं? Runtimes बारंबार अपडेट होते हैं (Ollama पर साप्ताहिक रिलीज़ cadence)। मॉडल स्वयं versioned हैं; अपडेट करने का मतलब एक नई tag डाउनलोड करना है।

प्रारंभिक सेटअप कितनी bandwidth का उपयोग करता है? एक 7B मॉडल 4–6 GB है; एक 13B मॉडल 8–12 GB है। यदि ऑपरेटर एक छोटी लाइब्रेरी चाहता है तो 20 GB डाउनलोड की योजना बनाएं।

क्या घर यात्रा करते समय बिना VPN के इसका उपयोग कर सकता है? हां, लेकिन केवल यदि ऑपरेटर सर्वर को इंटरनेट पर उजागर करता है। Tailscale बिना ports खोले LAN से बाहर होम AI सर्वर तक पहुंचने का सबसे साफ तरीका है।

क्या मेरा चैट इतिहास वास्तव में निजी है? केवल यदि रनटाइम सही तरीके से सेटअप है। Ollama, LM Studio, GPT4All और Jan सभी पूरी तरह स्थानीय के लिए default हैं; Open WebUI इतिहास को उसी मशीन पर अपने DB में स्टोर करता है। किसी भी क्लाउड कनेक्टर (Pro tiers, दूरस्थ model backends) को सक्षम करना डेटा को बॉक्स के बाहर भेजता है।