घर पर एक स्थानीय LLM चलाने का अच्छा हिस्सा यह है कि मॉडल आपका है, ट्रैफिक आपका है, और कोई विक्रेता रातोंरात यह निर्णय नहीं ले सकता कि आपका पसंदीदा एंडपॉइंट अब तीन गुना अधिक खर्चीला है। शर्मनाक हिस्सा यह है कि मॉडल घर पर एक मशीन पर है, और आप दिन का अधिकांश समय घर पर नहीं होते हैं। एक XDA लेखक ने हाल ही में Tailscale पर एक Ollama बॉक्स रखने और दुनिया के दूसरी ओर से प्रतिक्रियाएं प्राप्त करने का वर्णन किया, और सेटअप वास्तव में सरल है एक बार जब आप पाइप के सही Android पक्ष को ढूंढ लेते हैं।
हमने सात Android ऐप्स की तुलना की जो स्व-होस्ट किए गए LLM (Ollama, LM Studio, vLLM, LocalAI, या llama.cpp सर्वर) के लिए दूरस्थ पहुंच को व्यावहारिक बनाते हैं। उनमें से अधिकांश नेटवर्क उपयोगिताएं हैं। यह जानबूझकर है। चैट हिस्सा आसान है। कठिन हिस्सा फोन को मॉडल के समान नेटवर्क पर रखना है बिना पूरे इंटरनेट के लिए पोर्ट खोले।
रिमोट LLM एक्सेस ऐप में क्या देखें
होम LLM के लिए एक अच्छी जोड़ी कम से कम कुछ ये करनी चाहिए:
- एक निजी ओवरले नेटवर्क प्रदान करें जो आपके फोन और आपके GPU बॉक्स को इस तरह मानता है जैसे वे एक ही LAN पर हों, बिना सार्वजनिक IP या पोर्ट फॉरवर्डिंग की आवश्यकता के।
- NAT ट्रैवर्सल को चुप्पी से संभालें, ताकि आपको अपने ISP के कैरियर-ग्रेड NAT से लड़ना न पड़े।
- टनल निष्क्रिय होने पर बैटरी का उपयोग उचित रखें।
- आपको एक शेल या HTTP क्लाइंट दें ताकि आप कहीं से भी LLM के API को हिट कर सकें।
- अस्थिर मोबाइल नेटवर्क (सबवे, विमान, होटल Wi-Fi) पर सुंदरता से विफल हो जाएं।
त्वरित तुलना
| ऐप | सर्वश्रेष्ठ के लिए | मुफ्त योजना | भुगतान | केवल स्थानीय |
|---|---|---|---|---|
| Tailscale | Magic DNS के साथ शून्य-कॉन्फ़िग मेश VPN | मुफ्त (3 उपयोगकर्ता, 100 डिवाइस) | Personal Pro $6/मासिक से | वैकल्पिक |
| WireGuard | न्यूनतम, आधिकारिक क्लाइंट, हाथ से रोल किया गया कॉन्फ़िग | मुफ्त, हमेशा | मुफ्त, हमेशा | हाँ |
| ZeroTier One | पीयर-टू-पीयर ओवरले, उदार मुक्त स्तर | मुफ्त (10 नोड तक) | $5/मासिक से व्यवसाय | हाँ |
| Cloudflare WARP | Cloudflare edge के साथ सुरंग | मुफ्त | WARP+ ~$4.99/मासिक | नहीं |
| Termux | curl / ssh के लिए पूर्ण Linux shell अपने LLM तक | मुफ्त | मुफ्त | हाँ |
| JuiceSSH | सहेजे गए सत्र और पोर्ट फॉरवर्ड के साथ SSH क्लाइंट | मुफ्त | Pro $4.99 एक बार | हाँ |
| NetGuard | प्रति-ऐप फायरवॉल ताकि केवल आपका LLM क्लाइंट सुरंग | मुफ्त / ओपन-सोर्स | Pro IAP ~$4 | हाँ |
ऐप्स
1. Tailscale, शून्य-कॉन्फ़िग मेश के लिए सर्वश्रेष्ठ
Tailscale वह कारण है कि XDA टुकड़ा काम करता है। यह आपकी मौजूदा पहचान के शीर्ष पर एक WireGuard-आधारित मेश बनाता है। Android ऐप इंस्टॉल करें, उसी खाते से साइन इन करें जिसे आपने LLM होस्ट पर उपयोग किया था, और दोनों डिवाइस स्थिर IPs के साथ एक निजी tailnet पर दिखाई देते हैं। फोन से आप फिर http://<hostname>:11434/api/generate को Ollama के लिए हिट कर सकते हैं, या कोई भी अन्य पोर्ट जो आपका सर्वर उजागर करता है, बिल्कुल जैसे आप अपने घर के Wi-Fi पर हों। Magic DNS स्वचालित रूप से नाम हल करता है। सबनेट रूटिंग एक एकल tailnet नोड को डिवाइस के एक पूरे LAN को लाने देती है।
कहां यह कम पड़ता है: मेश कुंजी विनिमय के लिए Tailscale के समन्वय सर्वर पर निर्भर है। ट्रैफिक पीयर-टू-पीयर है, लेकिन अगर आप लूप में किसी भी होस्ट की गई सेवा पर आपत्ति करते हैं, तो Headscale को एक स्व-होस्ट किए गए नियंत्रण विमान के रूप में चलाएं। Android ऐप भी कभी-कभी टनल को ड्रॉप करता है जब फोन Wi-Fi और सेलुलर के बीच स्विच करता है, हालांकि यह जल्दी से पुनः कनेक्ट करता है।
कीमत:
- मुफ्त: 3 उपयोगकर्ताओं और 100 डिवाइस तक व्यक्तिगत उपयोग, घर LLM सेटअप के लिए पर्याप्त
- भुगतान: Personal Pro $6/मासिक से अधिक डिवाइस और सुविधाएं जोड़ता है
प्लेटफॉर्म: Android, iOS, Windows, Mac, Linux
निचला पंक्ति: इसे चुनें अगर आप पाँच मिनट में अपने होम LLM के लिए एक काम कर रहा सुरंग चाहते हैं और लूप के बाहर एक छोटे समन्वय सर्वर को स्वीकार कर सकते हैं।
2. WireGuard, प्रत्येक पैकेट के मालिक होने के लिए सर्वश्रेष्ठ
WireGuard कच्ची नियंत्रण-स्तरीय प्रोटोकॉल है जिस पर Tailscale बनता है, और आधिकारिक Android क्लाइंट आपको पूरी तरह से मेश परत को छोड़ने देता है। LLM होस्ट पर एक कॉन्फ़िग उत्पन्न करें, Android ऐप में QR कोड ड्रॉप करें, और फोन LAN पर है। विश्वास करने के लिए कोई सर्वर नहीं, लॉगिन करने के लिए कोई खाता नहीं। बस एक सुरंग।
कहां यह कम पड़ता है: आप नेटवर्क व्यवस्थापक हैं। कैरियर-ग्रेड IPv4 पर NAT ट्रैवर्सल को एक सार्वजनिक रिले या पहुंच योग्य पोर्ट वाले घर के सर्वर की आवश्यकता है। चाबियों को हाथ से घुमाया जाना चाहिए। UI कार्यात्मक है लेकिन विरल है।
कीमत: हमेशा के लिए मुफ्त। GPL 2 के तहत ओपन-सोर्स।
प्लेटफॉर्म: Android, iOS, Windows, Mac, Linux
निचला पंक्ति: इसे चुनें यदि आप पहले से अपने राउटर पर एक WireGuard एंडपॉइंट चलाते हैं या तीसरी पार्टी की निर्भरता के बिना सबसे दुबला संभव क्लाइंट चाहते हैं।
3. ZeroTier One, पीयर-टू-पीयर ओवरले के लिए सर्वश्रेष्ठ जिसे आप स्वयं भी होस्ट कर सकते हैं
ZeroTier One एक वर्चुअल लेयर 2 नेटवर्क बनाता है जो NAT में उपकरणों को सिलाई करता है। Android से यह एक सामान्य VPN टॉगल की तरह दिखता है। एक बार जब आप एक नेटवर्क में शामिल हो जाते हैं, आपका फोन और आपका LLM होस्ट एक सबनेट साझा करते हैं और सीधे बात करते हैं, किसी के डेटा सेंटर के माध्यम से कोई हॉप नहीं। दस मुफ्त नोड्स उदार है, और यदि मुक्त नियंत्रक कभी एक चिंता बन जाता है, ZeroTier का सर्वर कोड सार्वजनिक है और पूरा नियंत्रक उसी GPU बॉक्स पर चल सकता है जो मॉडल को होस्ट करता है।
कहां यह कम पड़ता है: Tailscale की तुलना में जटिल NATs पर सुरंगें स्थापित करने के लिए थोड़ा धीमा। Android ऐप हमारे परीक्षण में अधिक बैटरी को निकाला है जब हमेशा चालू रखा जाता है, इसलिए अधिकांश लोग प्रति सत्र सुरंग को ट्रिगर करना पसंद करते हैं।
कीमत:
- मुफ्त: एक होस्ट किए गए नेटवर्क पर 10 नोड तक
- भुगतान: $5 प्रति माह से व्यवसाय योजनाएं
प्लेटफॉर्म: Android, iOS, Windows, Mac, Linux
निचला पंक्ति: इसे चुनें यदि आप एक मेश चाहते हैं जिसे आप बाद में पूरी तरह से स्वयं-होस्ट कर सकते हैं बिना अपने क्लाइंट-साइड सेटअप को फिर से लिखे।
मुझे बाकी ऐप्स के साथ जारी रखने दीजिए - Cloudflare WARP, Termux, JuiceSSH, NetGuard और FAQ वर्गों के बाकी समय के लिए…
4. Cloudflare WARP, जब आप सुरंग प्लस DNS फ़िल्टरिंग चाहते हैं के लिए सर्वश्रेष्ठ
Cloudflare WARP कठोरता से, एक स्व-होस्ट किए गए मेश नहीं है। यह Cloudflare की सुरंग है जो उनके edge पर समाप्त होती है। अपने आप से, यह आपको अपने होम LLM तक पहुंचने नहीं देता। LLM बॉक्स पर चलने वाली Cloudflare Tunnel (पूर्व में Argo Tunnel) के साथ जोड़ा जाता है, पैटर्न बन जाता है: सर्वर Cloudflare के लिए एक आउटबाउंड सुरंग खोलता है, फोन WARP के माध्यम से जुड़ता है, दोनों Cloudflare के निजी नेटवर्क पर मिलते हैं। आपके राउटर पर कोई पोर्ट नहीं खुलता। एक्सेस कंट्रोल नियम edge पर चलते हैं, इसलिए आप कोई भी Ollama को पर्माणु करने से पहले पासकी या पहचान प्रदाता की आवश्यकता कर सकते हैं।
कहां यह कम पड़ता है: ट्रैफिक Cloudflare को पारगमन करता है, जो आपके LLM को API कॉल के लिए ठीक है लेकिन Tailscale या ZeroTier की तुलना में विश्वास मॉडल में एक परिवर्तन है। मुफ्त WARP में नरम दर सीमाएं हैं और Zero Trust के टुकड़ों को Zero Trust योजना की आवश्यकता है (छोटी टीमों के लिए अभी भी मुफ्त)।
कीमत:
- मुफ्त: 50 उपयोगकर्ताओं तक के लिए WARP और Cloudflare Zero Trust
- भुगतान: WARP+ ~$4.99/मासिक तेजी से स्तर के लिए
प्लेटफॉर्म: Android, iOS, Windows, Mac, Linux
निचला पंक्ति: इसे चुनें यदि आप पहले से Cloudflare पर कुछ चलाते हैं और अपनी होम IP को उजागर किए बिना अपने स्थानीय LLM को पहचान-अवगत पहुंच चाहते हैं।
5. Termux, एक शेल से LLM API को चलाने के लिए सर्वश्रेष्ठ
Termux Android को एक असली Linux userland में बदल देता है। एक बार जब आपका फोन tailnet या WireGuard सुरंग पर होता है, Termux आपको curl, jq, python, ssh, और हर अन्य उपकरण देता है जिसकी आपको अपने स्थानीय LLM के API के विरुद्ध स्क्रिप्ट करने की आवश्यकता है। एक शेल फ़ंक्शन को Ollama के /api/generate एंडपॉइंट में पाइप करें और आपके पास आपकी terminal में एक chatbot है। एक कीबोर्ड शॉर्टकट जोड़ें और यह जल्दी लॉन्च होता है।
कहां यह कम पड़ता है: कोई ग्राफिकल chat UI नहीं। Google Play Termux पुरानी और परित्यक्त है; रखरखाव किए गए रिलीज F-Droid और GitHub पर रहते हैं, जो बढ़िया है लेकिन अतिरिक्त सेटअप का एक पल लेता है। निष्क्रिय होने पर बैटरी का निकास नगण्य है।
कीमत: मुफ्त, ओपन-सोर्स।
प्लेटफॉर्म: Android
निचला पंक्ति: यदि आप कमांड लाइन पसंद करते हैं और अपने फोन से अपनी LLM इंटरेक्शन स्क्रिप्ट करना चाहते हैं तो इसे चुनें।
6. JuiceSSH, सहेजे गए SSH सत्र और पोर्ट फॉरवर्डिंग के लिए सर्वश्रेष्ठ
JuiceSSH स्थानीय LLMs से बहुत पहले बनाया गया था, लेकिन इसका सुविधा सेट इस वर्कलोड को बिल्कुल फिट करता है। LLM होस्ट के लिए एक कनेक्शन सहेजें, मेश के गेटवे के लिए एक अन्य, और एक स्वाइप से उनके बीच कूदें। स्थानीय पोर्ट फॉरवर्डिंग आपको localhost:11434 को Android पर ollama.tailnet.ts:11434 सर्वर पर मैप करने देती है। कोई भी Android ऐप जो “कस्टम एंडपॉइंट” को सपोर्ट करता है (कई Ollama chat क्लाइंट करते हैं) तब स्थानीय पोर्ट को हिट कर सकता है और सुरंग के अनजान रह सकता है।
कहां यह कम पड़ता है: कोई ग्राफिकल चैट UI नहीं, फिर से, हालांकि रंग-टर्मिनल पढ़ने में आसान है। कुछ Play Store अपडेट changelog से पीछे रह जाते हैं।
कीमत:
- मुफ्त: पूर्ण SSH क्लाइंट और पोर्ट फॉरवर्डिंग
- भुगतान: JuiceSSH Pro एक बार $4.99 अनलॉक टीम सिंक, plugin समर्थन, और विषयों के लिए
प्लेटफॉर्म: Android
निचला पंक्ति: इसे चुनें यदि आप पहले से अन्य सर्वर काम के लिए उचित SSH क्लाइंट पसंद करते हैं और चाहते हैं कि एक ही आपके LLM के लिए पोर्ट फॉरवर्डिंग को संभालना चाहिए।
7. NetGuard, एक ऐप को सुरंग लॉक करने के लिए सर्वश्रेष्ठ
NetGuard अपने दम पर एक सुरंग नहीं बनाता। यह एक प्रति-ऐप फायरवॉल है जो Android पर स्थानीय रूप से VPN स्लॉट का उपयोग करके चलता है। ऊपर की किसी भी सुरंग के साथ संयुक्त, यह आपको यह तय करने देता है कि केवल एक विशिष्ट chat क्लाइंट ही आपके होम LLM को ट्रैफिक भेज सकता है, और बाकी सब कुछ उस रास्ते से दूर रहता है। उपयोगी यदि आप अपने फोन पर एक Ollama chat ऐप चाहते हैं जो सुरंग के माध्यम से जाना चाहिए जबकि आपका ब्राउज़र मोबाइल नेटवर्क का उपयोग करना जारी रखता है।
कहां यह कम पड़ता है: NetGuard Android VPN स्लॉट को ले लेता है, जिसका अर्थ है कि केवल एक VPN-shaped ऐप एक बार में सक्रिय हो सकता है। आपको सुरंगों और प्रति-ऐप नियमों को सावधानी से जोड़ना होगा। कुछ Android संस्करणों पर, NetGuard को WireGuard या Tailscale के साथ मिश्रित करने के लिए split-tunnel workarounds की आवश्यकता होती है।
कीमत:
- मुफ्त: पूर्ण firewall, GitHub पर ओपन-सोर्स
- भुगतान: ऐप में खरीद लगभग $4 अनलॉक फ़िल्टर और प्रति-ऐप सूचनाएं
प्लेटफॉर्म: Android
निचला पंक्ति: इसे चुनें यदि आप अपने होम LLM से बात करने के लिए अपने फोन पर किसी भी ऐप को कड़ाई से प्रतिबंधित करने के लिए नियंत्रण का एक अतिरिक्त परत चाहते हैं।
सही कैसे चुनें
- यदि आप इसे आज काम करना चाहते हैं, किसी भी होम नेटवर्क पर, पोर्ट फॉरवर्डिंग के बिना: Tailscale।
- यदि आप पहले से अपने राउटर को नियंत्रित करते हैं और सबसे सीधी सुरंग चाहते हैं: WireGuard।
- यदि आप बाद में पूरे नियंत्रण विमान को स्वयं-होस्ट करने की योजना बनाते हैं: ZeroTier One, और अपने नियंत्रक पर विचार करें।
- यदि आपका सेटअप पहले से Cloudflare पर रहता है: Cloudflare WARP LLM पक्ष पर Cloudflare Tunnel के साथ।
- यदि आप कमांड लाइन पसंद करते हैं: Termux प्लस एक सुरंग।
- यदि आप एक SSH सत्र और स्वच्छ पोर्ट फॉरवर्डिंग चाहते हैं: JuiceSSH।
- यदि आप कठोरता से प्रतिबंधित करना चाहते हैं कि कौन सा Android ऐप LLM तक पहुंच सकता है: ऊपर से किसी के सामने NetGuard।
FAQ
क्या मैं किसी भी VPN के बिना Android से अपने Ollama सर्वर को एक्सेस कर सकता हूं?
तकनीकी हां, पोर्ट को इंटरनेट में उजागर करके। व्यावहारिक रूप से नहीं। Ollama के पास अपनी प्रमाणीकरण नहीं है, इसलिए एक सार्वजनिक एंडपॉइंट एक सार्वजनिक LLM है। यहां हर सेटअप पोर्ट को निजी रखता है और केवल फोन को अंदर आने देता है।
क्या Tailscale वास्तव में zero-config है, या यह सिर्फ विपणन है?
फोन और LLM बॉक्स को एक ही tailnet पर प्राप्त करने में लगभग दो मिनट लगते हैं। उन्हें एक शत्रुतापूर्ण मोबाइल नेटवर्क पर एक-दूसरे को खोजने के लिए थोड़ा अधिक समय लगता है जब MagicDNS कुछ कॉर्पोरेट captive portals से मिलता है, लेकिन यह यहां किसी भी अन्य विकल्प की तुलना में “इंस्टॉल और लॉगिन” के करीब है।
कौन सा स्थानीय LLM सर्वर मेश VPN पर सर्वश्रेष्ठ काम करता है?
कुछ भी जो HTTP बोलता है। Ollama का REST API और LM Studio, LocalAI, और vLLM से OpenAI-compatible endpoints एक बार सुरंग ऊपर आने के बाद समरूप रूप से काम करते हैं। अंतर फोन पर क्लाइंट में है, सर्वर में नहीं।
क्या एक VPN चलाने से बैटरी मर जाती है?
Tailscale और आधिकारिक WireGuard ऐप जैसे WireGuard-based mesh क्लाइंट लगभग imperceptibly निष्क्रिय रहते हैं। पुराने SSL VPN वे हैं जिनके पास बैटरी जलाने की प्रतिष्ठा है। होम LLM पर कभी-कभी पिंग करने के एक सामान्य दिन में, सुरंग एक छोटी पंक्ति आइटम है।
क्या यह सब कानूनी / मेरे ISP के साथ TOS-compliant है?
एक मेश VPN या अपने स्वयं के हार्डवेयर तक पहुंचने के लिए एक WireGuard सुरंग चलाना हर उपभोक्ता ISP पर मानक है जिसे हमने उपयोग किया है। कुछ ISPs जो प्रतिबंधित करते हैं वह एक आवासीय कनेक्शन पर सार्वजनिक सेवाएं होस्ट कर रहे हैं। क्योंकि यहां सुरंगें आपके होम नेटवर्क को जनता के लिए नहीं खोलते हैं, आप सामान्य शर्तों के भीतर हैं।
