एक XDA लेखक ने इस सप्ताह रिपोर्ट किया कि उन्होंने RikkaHub Agent को एक स्थानीय LLM के साथ जोड़कर अपने Android फोन को एक काम करने वाले AI एजेंट में बदल दिया। एजेंट ने खुद ही ऐप्स इंस्टॉल किए, पूरी तरह से ब्राउज़र के माध्यम से नियंत्रित, क्लाउड मॉडल को कोई भी डेटा भेजे बिना। यह स्टैक अब उन सभी के लिए सुलभ है जो सही उपकरण इंस्टॉल करने को तैयार हैं। यह लेख सात Android ऐप्स को कवर करता है जो स्थानीय LLM चलाते हैं या उन पाठकों के लिए फोन को स्वचालित करते हैं जो एक ही तरह का सेटअप बनाना चाहते हैं। चाहे आप स्थानीय LLM फोन ऑटोमेशन के लिए सर्वश्रेष्ठ ऐप्स की खोज कर रहे हों या क्लाउड निर्भरता को कम करना चाहते हों, ये विकल्प सरल चैट इंटरफेस से लेकर परिष्कृत ऑटोमेशन प्लेटफॉर्म तक पूरे स्पेक्ट्रम को कवर करते हैं जो आपके फोन को एक सच्चे AI एजेंट में बदल देते हैं।
स्थानीय LLM फोन ऑटोमेशन ऐप में क्या देखें
- डिवाइस पर अनुमान। मॉडल पूरी तरह से आपके फोन पर चलता है क्लाउड यात्रा के बिना, डेटा को स्थानीय रखता है और ऑफलाइन काम करता है।
- GGUF या MLC मॉडल प्रारूपों के लिए समर्थन। ये दो व्यावहारिक क्वांटाइज़्ड मॉडल प्रारूप हैं Android पर; GGUF का उपयोग करना आसान है, MLC तेजी से अनुमान प्रदान करता है।
- फ़ंक्शन कॉलिंग या MCP टूल समर्थन। यह एक चैट इंटरफेस को एजेंट में परिवर्तित करता है। LLM को सिस्टम फ़ंक्शन कॉल करने होंगे सूचनाएं पढ़ने, बटन दबाने या संदेश भेजने के लिए।
- ऑटोमेशन हुक। एक्सेसिबिलिटी सेवाओं, Android intents या Tasker प्लगइन के साथ एकीकरण LLM को क्रियाएं ट्रिगर करने और फोन को स्वयं नियंत्रित करने देता है।
- बैटरी और मेमोरी प्रोफ़ाइल जो दैनिक उपयोग को सहन करता है। 8 बिलियन पैरामीटर से कम क्वांटाइज़्ड मॉडल आधुनिक मध्य-सीमा फोन पर यथार्थवादी हैं; कुछ भी बड़ा जल्दी बैटरी को सूखा देता है या फ्लैगशिप डिवाइस की आवश्यकता होती है।
त्वरित तुलना
| ऐप | सर्वश्रेष्ठ | प्लेटफॉर्म | मुफ़्त योजना | शुरुआती कीमत | रेटिंग |
|---|---|---|---|---|---|
| RikkaHub | बहुमुखी स्थानीय LLM क्लाइंट | Android | हाँ | मुफ़्त (open source) | 4.4 |
| PocketPal AI | पूरी तरह से ऑफलाइन GGUF समर्थन | Android, iOS | हाँ | मुफ़्त | 4.2 |
| ChatterUI | पावर-यूजर चैट और roleplay | Android | हाँ | मुफ़्त (GitHub) | 4.3 |
| MLC Chat | MLC ढांचे अनुमान | Android, iOS | हाँ | मुफ़्त | 4.1 |
| Layla | मोबाइल AI साथी | Android | हाँ | मुफ़्त | 4.2 |
| Tasker | गहरा ऑटोमेशन प्लेटफॉर्म | Android | हाँ | $4.99 एक बार खरीद | 4.5 |
| MacroDroid | शुरुआत के अनुकूल ऑटोमेशन | Android | हाँ, सीमित | $4.99 एक बार खरीद | 4.3 |
ऐप्स
1. RikkaHub
RikkaHub एक open source स्थानीय LLM क्लाइंट है जो Android के लिए शुरुआत से ही बनाया गया है। GGUF मॉडलों को समर्थन करता है, डिवाइस पर अनुमान चलाता है, और RikkaHub Agent fork पूर्ण एजेंट क्षमताएं शामिल करता है: LLM फ़ंक्शन कॉल कर सकता है, आपके फोन को नियंत्रित कर सकता है और बिना मानव संकेत के कार्यों को श्रृंखलित कर सकता है। एक क्वांटाइज़्ड 7B मॉडल लोड करें और इसे आपके फोन को स्वायत्त रूप से नेविगेट करते हुए देखें।
कमजोरियाँ: UI डेवलपर-केंद्रित है और मॉडल क्वांटाइजेशन और GGUF प्रारूप से परिचितता मानता है। दस्तावेज़ विरल है, और एजेंट सुविधाएं जटिल निर्देश श्रृंखला पर खुरदरे किनारों के साथ नई जमीन हैं।
कीमत: मुफ़्त और open source।
प्लेटफॉर्म: Android।
डाउनलोड: GitHub रिलीज़
निचला लाइन: सबसे महत्वाकांक्षी स्थानीय LLM फोन ऑटोमेशन प्लेटफॉर्म उपलब्ध है, और ठीक यही वह है जो XDA लेखक ने अपने AI एजेंट को बनाने के लिए इस्तेमाल किया।
2. PocketPal AI
PocketPal AI एक पूरी तरह से ऑफलाइन चैट इंटरफेस है जो GGUF मॉडल समर्थन के चारों ओर बनाया गया है। Hugging Face से मॉडलों को डाउनलोड करता है, उन्हें पूरी तरह से आपके फोन पर चलाता है, और बातचीत को क्लाउड में कैश या सिंक नहीं करता है। Android और iOS दोनों पर काम करता है, जो इसे क्रॉस-प्लेटफॉर्म विकल्प बनाता है यदि आप कई डिवाइस पर परीक्षण करते हैं।
कमजोरियाँ: अभी के लिए केवल चैट; अभी तक कोई ऑटोमेशन या फ़ंक्शन कॉलिंग नहीं। यदि आपको अपने LLM को अपने फोन को नियंत्रित करने की आवश्यकता है, तो यह ऐप मॉडल से बात करता है लेकिन मॉडल को Android से वापस बात करने नहीं देता है।
कीमत: कोई भुगतान स्तर के बिना मुफ़्त।
प्लेटफॉर्म: Android, iOS।
डाउनलोड: Google Play
निचला लाइन: Android पर ऑफलाइन LLM चैट के लिए सबसे सुरक्षित प्रवेश बिंदु यदि गोपनीयता और सरलता ऑटोमेशन से अधिक महत्वपूर्ण हो।
3. ChatterUI
ChatterUI एक पावर-यूजर चैट क्लाइंट है जिसमें निर्मित roleplay और चरित्र समर्थन है। llama.cpp backend के माध्यम से स्थानीय GGUF मॉडलों से जुड़ता है, रचनात्मक लेखन के लिए प्रारूपण का समर्थन करता है, और jailbreak-प्रतिरोधी सिस्टम संकेत शामिल करता है। कस्टम AI व्यक्तित्व बनाने वाले और विभिन्न संकेत टेम्पलेट्स में मॉडल व्यवहार का परीक्षण करने वाले उपयोगकर्ताओं के बीच लोकप्रिय।
कमजोरियाँ: PocketPal की तुलना में अधिक खड़ी सीखने की अवस्था। कोई मूल ऑटोमेशन या फोन नियंत्रण नहीं; चैट प्रयोगों के लिए, एजेंट व्यवहार के लिए नहीं।
कीमत: मुफ़्त (open source, केवल GitHub रिलीज़)।
प्लेटफॉर्म: Android।
डाउनलोड: GitHub रिलीज़
निचला लाइन: आदर्श यदि आप prompt engineering के साथ प्रयोग कर रहे हैं और मॉडल व्यवहार और व्यक्तित्व डिजाइन पर सूक्ष्म नियंत्रण चाहते हैं।
4. MLC Chat
MLC Chat MLC ढांचे के चारों ओर बनाया गया है, जो मॉडलों को पारंपरिक llama.cpp की तुलना में तेजी से डिवाइस पर अनुमान के लिए देशी मशीन कोड में संकलित करता है। एक बार एक मॉडल लोड करें और यह लगभग-मूल गति पर चलता है। Android और iOS दोनों पर उपलब्ध है, ऐप UI के माध्यम से सीधे मॉडल प्रबंधन के साथ।
कमजोरियाँ: GGUF की तुलना में छोटी मॉडल उपलब्धता; केवल MLC के लिए पूर्व-संकलित मॉडल चलेंगे। सेटअप को समझना आवश्यक है कि डाउनलोड करने से पहले कौन से मॉडल MLC-संगत हैं।
कीमत: मुफ़्त।
प्लेटफॉर्म: Android, iOS।
डाउनलोड: Google Play
निचला लाइन: सर्वश्रेष्ठ पसंद यदि अनुमान गति महत्वपूर्ण है और आप MLC ढांचे टीम से नवीनतम अनुकूलन अनुसंधान चाहते हैं।
5. Layla
Layla एक मोबाइल-प्रथम AI साथी है जिसमें स्थानीय मॉडल समर्थन और प्राकृतिक बातचीत पर ध्यान है। स्थानीय LLM अनुमान को एक पॉलिश चैट इंटरफेस के साथ जोड़ता है जो दैनिक उपयोग के लिए डिजाइन किया गया है। सिंक वैकल्पिक है; डिफ़ॉल्ट रूप से ऑफलाइन चलाता है।
कमजोरियाँ: roleplay या व्यक्तित्व इंजीनियरिंग के लिए ChatterUI की तुलना में कम अनुकूलन योग्य। फ़ंक्शन कॉलिंग और ऑटोमेशन वर्तमान सुविधाएं नहीं हैं।
कीमत: वैकल्पिक premium सुविधाओं के साथ मुफ़्त।
प्लेटफॉर्म: Android।
डाउनलोड: Google Play
निचला लाइन: आसानी और क्षमता का सर्वश्रेष्ठ संतुलन यदि आप एक स्थानीय LLM साथी चाहते हैं जो खुरदरा दिखाई न दे।
6. Tasker
Tasker गहरे Android ऑटोमेशन के लिए सुनहरा मानक है। कार्यों को दृश्यतः रिकॉर्ड करें, सेंसर या intent पर ट्रिगर करें, और अपने पूरे डिवाइस में कार्यों को श्रृंखलित करें। यह स्वयं LLM नहीं चलाता है, लेकिन किसी भी स्थानीय LLM ऐप के साथ परफेक्ट पेयर करता है: Tasker को RikkaHub या HTTP के माध्यम से किसी अन्य क्लाइंट से कनेक्ट करें, LLM को यह तय करने दें कि क्या करना है, और Tasker उन कमांडों को Android सिस्टम स्तर पर निष्पादित करे।
कमजोरियाँ: खड़ी सीखने की अवस्था; शुरुआत के लिए अनुकूल नहीं। Android internals, intents और ऑटोमेशन तर्क की समझ की आवश्यकता है।
कीमत: $4.99 एक बार खरीद।
प्लेटफॉर्म: Android।
डाउनलोड: Google Play
निचला लाइन: Android पर सबसे शक्तिशाली ऑटोमेशन प्लेटफॉर्म और एक आवश्यक उपकरण यदि आप एक पूर्ण स्थानीय LLM एजेंट बनाना चाहते हैं।
7. MacroDroid
MacroDroid उन लोगों के लिए Tasker है जो Tasker की स्क्रिप्टिंग भाषा सीखना नहीं चाहते। Drag-and-drop triggers और actions, टेम्पलेट लाइब्रेरी और क्लाउड सिंक। यदि आप क्लाउड मॉडलों को पसंद करते हैं तो GPT इंटीग्रेशन को भी समर्थन करता है, हालांकि आप स्थानीय LLM के साथ ऑटोमेशन बना सकते हैं।
कमजोरियाँ: जटिल श्रृंखलाओं के लिए Tasker की तुलना में कम सक्षम। यदि आप GPT सुविधाओं का उपयोग करते हैं तो क्लाउड निर्भरताएं; केवल स्थानीय सेटअप कुछ सुविधा सुविधाएं खो देते हैं।
कीमत: सीमित ऑटोमेशन के साथ मुफ़्त; $4.99 एक बार खरीद असीम के लिए।
प्लेटफॉर्म: Android।
डाउनलोड: Google Play
निचला लाइन: सर्वश्रेष्ठ प्रवेश बिंदु यदि आप स्क्रिप्टिंग सीखे बिना अपने फोन को स्वचालित करना चाहते हैं, और Tasker में जाने से पहले सरल शुरू करने के लिए खुश हैं।
सही चुनना कैसे करें
यदि आप चाहते हैं कि एक पूर्ण स्थानीय LLM एजेंट अभी अपने फोन को नियंत्रित करे, तो RikkaHub प्लस Tasker से शुरू करें। RikkaHub LLM और एजेंट तर्क को संभालता है; Tasker आपके फोन के लिए पुल है।
यदि गोपनीयता आपका एकमात्र लक्ष्य है और आपको ऑटोमेशन की आवश्यकता नहीं है, तो PocketPal AI सबसे तेजी से रास्ता है: एक GGUF मॉडल डाउनलोड करें, ऐप खोलें, ऑफलाइन चैट करें। कुछ भी आपके फोन को नहीं छोड़ता है।
यदि आप कस्टम AI व्यक्तित्व बना रहे हैं या prompt का परीक्षण कर रहे हैं, तो ChatterUI आपको चाहिए नियंत्रण देता है। यदि आप ऑटोमेशन जोड़ना चाहते हैं तो बाद में Tasker के साथ पेयर करें।
यदि आपके पास मजबूत specs के साथ एक नया फोन है और अनुमान गति की परवाह करता है, तो MLC Chat रीयल-टाइम चैट के लिए GGUF की तुलना में ध्यान देने योग्य रूप से तेजी से महसूस करेगा। ट्रेडऑफ एक छोटी मॉडल लाइब्रेरी है।
यदि आप बिना छेड़छाड़ के सभी-एक-में सरलता चाहते हैं, तो Layla चैट टूल के रूप में प्लस MacroDroid ऑटोमेशन के लिए सीखने की अवस्था के बिना अधिकांश ऑटोमेशन आवश्यकताओं को कवर करता है।
अक्सर पूछे जाने वाले प्रश्न
क्या Android फोन वास्तव में स्थानीय LLM चला सकते हैं?
हाँ। 2021 से आगे के फोन Snapdragon 870+ या समकक्ष के साथ 3 बिलियन से 13 बिलियन पैरामीटर तक क्वांटाइज़्ड मॉडलों को चला सकते हैं। एक Pixel 7 या OnePlus 9 7B मॉडल को मसलन्यता से संभालता है; फ्लैगशिप डिवाइस बड़े मॉडलों को चलाते हैं। 6 GB से ऊपर RAM मदद करता है; 4 GB से नीचे कठिन हो जाता है।
Android के लिए सर्वश्रेष्ठ स्थानीय LLM क्या है?
Mistral 7B Instruct (GGUF को Q4 में क्वांटाइज़्ड) Android के लिए मीठी जगह है: तेजी, वास्तविक कार्यों के लिए पर्याप्त सक्षम, और 6 GB RAM वाले फोन पर फिट करता है। एजेंसी काम के लिए, Nous Hermes 2 7B लोकप्रिय है क्योंकि यह फ़ंक्शन कॉलिंग को अच्छी तरह से संभालता है। TinyLlama 1.1B जैसे छोटे मॉडल कहीं भी चलते हैं लेकिन ऑटोमेशन के लिए बहुत सीमित हैं।
क्या RikkaHub मुफ़्त है?
हाँ, RikkaHub MIT लाइसेंस के तहत open source है। कोई विज्ञापन नहीं, कोई क्लाउड खाता नहीं, कोई सुविधा paywall नहीं। आपको अपने मॉडलों को खोजना और क्वांटाइज़ करना है या Hugging Face से पूर्व-क्वांटाइज़्ड GGUF फ़ाइलें डाउनलोड करनी हैं।
क्या मुझे स्थानीय LLM चलाने के लिए अपने फोन को रूट करना है?
नहीं। यहाँ सभी सात ऐप्स बिना root चलाते हैं। Tasker और MacroDroid को आधार ऑटोमेशन के लिए root की आवश्यकता नहीं है, हालांकि कुछ उन्नत सिस्टम-स्तर की क्रियाएं (सिस्टम सेटिंग्स बदलना, अन्य ऐप्स को संशोधित करना) इससे लाभान्वित होते हैं। स्थानीय LLM अनुमान को कभी root की आवश्यकता नहीं है।
