XDA-Developers ने हाल ही में एक छोटी सी चाल को कवर किया है जो ChatGPT डेस्कटॉप ऐप को OpenAI के सर्वर के बजाय एक स्थानीय मॉडल के विरुद्ध चलाने देती है। इसके पीछे का उपकरण, opencodex, Codex CLI के config.toml को फिर से लिखता है और डेस्कटॉप क्लाइंट और किसी भी बैकएंड के बीच बैठता है जहां उपयोगकर्ता इसे इंगित करता है, Ollama, LM Studio, या पसंद के क्लाउड प्रदाता को अनुरोध भेजता है। यह काम करता है, और यह मुफ्त है। यह एक एकल-रक्षक GitHub प्रोजेक्ट भी है जिसमें रिलीज़ शेड्यूल स्पष्ट नहीं है, जो बिल्कुल वह चीज़ है जो लोगों को इसके चारों ओर वर्कफ़्लो बनाने से पहले opencodex विकल्पों की तलाश में जाती है। कुछ अन्य प्रॉक्सी और गेटवे समान समस्या को हल करते हैं: ChatGPT डेस्कटॉप इंटरफ़ेस, या समान कोडिंग क्लाइंट बनाए रखें, जबकि नीचे का मॉडल स्वैप करें। यहाँ सात की तुलना कैसे की जाती है।
त्वरित तुलना तालिका
| उपकरण | सर्वश्रेष्ठ के लिए | स्व-होस्ट किया गया | शुरुआती मूल्य | विशिष्ट विशेषता |
|---|---|---|---|---|
| LiteLLM | सबसे व्यापक प्रदाता कवरेज | हां | मुफ्त (ओपन सोर्स) | 100+ मॉडल प्रदाताओं के लिए एकल प्रॉक्सी |
| OpenRouter | कोई सेटअप रूटिंग नहीं | नहीं | मुफ्त स्तर, प्रति टोकन भुगतान करें | एक एपीआई कुंजी, दर्जन होस्ट किए गए मॉडल |
| Ollama | मॉडल को स्थानीय रूप से चलाएं | हां | मुफ्त | निर्मित OpenAI-संगत सर्वर |
| LM Studio | डेस्कटॉप मॉडल प्रबंधन | हां | मुफ्त | स्थानीय सर्वर टॉगल के साथ GUI मॉडल पिकर |
| anycodex | सीधे opencodex स्वैप | हां | मुफ्त (ओपन सोर्स) | अपस्ट्रीम की तुलना में अधिक प्रदाता अडैप्टर |
| CodexHub | टेलीमेट्री के साथ डेस्कटॉप ऐप | हां | मुफ्त (ओपन सोर्स) | उपयोग डैशबोर्ड के साथ Rust और Tauri क्लाइंट |
| LocalAI | पूर्ण OpenAI ड्रॉप-इन | हां | मुफ्त (ओपन सोर्स) | एक बाइनरी में पाठ, छवि और ऑडियो एंडपॉइंट |
उपयोगकर्ता opencodex विकल्प क्यों देखते हैं
opencodex एक काम अच्छी तरह करता है: Codex कॉन्फ़िगरेशन को पैच करें ताकि ChatGPT डेस्कटॉप ऐप एक अलग एंडपॉइंट से बात करे। वह संकीर्ण दायरा भी इसकी सीमा है। परियोजना का एक ही रक्षक है, जिसका अर्थ है कि बग फिक्स और संगतता पैच एक व्यक्ति के शेड्यूल पर निर्भर करते हैं। जब OpenAI डेस्कटॉप क्लाइंट के इंटरनल को बदलता है, तो एकल-रक्षक फोर्क कई हफ्तों तक पिछड़ सकता है इससे पहले कि कोई इसे नोटिस करे और पैच भेजे।
प्रोटोकॉल कवरेज दूसरा घर्षण बिंदु है। opencodex OpenAI-संगत प्रारूप बोलता है, जो Ollama और LM Studio को साफ-सुथरे तरीके से कवर करता है लेकिन बिना अतिरिक्त अनुवाद के Anthropic के मूल API और अन्य गैर-OpenAI स्कीम को पहुंच से बाहर छोड़ देता है। कोई भी जो मिश्रित सेटअप चला रहा है, दिनचर्या कार्यों के लिए स्थानीय Llama मॉडल और कठिन कार्यों के लिए होस्ट किए गए Claude या Gemini मॉडल, अंततः एक प्रॉक्सी की आवश्यकता होती है जो एक से अधिक बोली को समझता है।
मॉडल पिकर UX जितना लगता है उससे अधिक महत्वपूर्ण है। मॉडल स्वैप करने के लिए TOML फ़ाइल संपादित करना एक-व्यक्ति सेटअप के लिए काम करता है लेकिन ध्वस्त हो जाता है जब कोई दोपहर में तीन मॉडल का परीक्षण करना चाहता है। टेलीमेट्री भी एक उचित सवाल है: कुछ उपकरण कुछ भी लॉग नहीं करते हैं, अन्य गुमनाम उपयोग आंकड़े भेजते हैं, और कुछ समय के साथ टोकन और विलंबता का स्थानीय डैशबोर्ड रखते हैं। लाइसेंस शर्तें भी भिन्न होती हैं। इस श्रेणी का अधिकांश MIT के तहत है, जो बंद-स्रोत कांटे और व्यावसायिक उपयोग को बिना परिवर्तन साझा करने के दायित्व के अनुमति देता है; कुछ आसन्न उपकरण GPL वेरिएंट का उपयोग करते हैं जिसके लिए व्युत्पन्न कार्य खुले रहने की आवश्यकता होती है। उनमें से किसी के शीर्ष पर उत्पाद बनाने से पहले जांचने लायक है।
विकल्प
LiteLLM
LiteLLM एक Python प्रॉक्सी है जो एक तरफ OpenAI चैट पूर्णता प्रारूप बोलता है और दूसरी तरफ 100+ मॉडल प्रदाताओं में अनुवाद करता है, जिसमें सभी प्रमुख क्लाउड विक्रेता और अधिकांश स्थानीय रनटाइम शामिल हैं। ChatGPT डेस्कटॉप ऐप या किसी भी OpenAI-संगत क्लाइंट को LiteLLM सर्वर की ओर इंगित करें और यह प्रत्येक अनुरोध को बैकएंड में रूट करता है जो एक रूटिंग नियम निर्दिष्ट करता है। इसे Python लाइब्रेरी और कॉन्फ़िगरेशन फ़ाइल के साथ स्टैंडअलोन प्रॉक्सी सर्वर के रूप में भेजा जाता है, साथ ही खर्च ट्रैकिंग और दर सीमा के लिए होस्ट किया गया डैशबोर्ड।
यह कहां विफल हो जाता है: पूर्ण फीचर सेट, लोड बैलेंसिंग, फॉलबैक चेन, बजट अलर्ट, प्रॉक्सी सर्वर के YAML कॉन्फ़िगरेशन के पीछे हैं, जिसमें opencodex के एकल TOML संपादन की तुलना में अधिक खड़ी सीखने की अवस्था है। इसे चलाने का अर्थ यह भी है कि Python प्रक्रिया को पृष्ठभूमि में रखना।
कीमत: MIT के तहत मुफ्त और ओपन सोर्स। SSO और ऑडिट लॉग के साथ होस्ट किया गया एंटरप्राइज़ स्तर टीम के लिए अलग से उपलब्ध है, कीमत अनुरोध पर।
opencodex से माइग्रेट: opencodex के config.toml एंडपॉइंट को LiteLLM प्रॉक्सी URL (आमतौर पर http://localhost:4000) से बदलें, फिर अपने बैकएंड, Ollama, LM Studio, या क्लाउड कुंजी को LiteLLM के config.yaml में परिभाषित करें। एकल-मॉडल सेटअप के लिए प्रदाता सेटअप लगभग पंद्रह मिनट लगता है, अगर कई मॉडलों पर रूटिंग नियम चाहते हैं तो अधिक समय लगता है।
निचली पंक्ति: LiteLLM चुनें यदि आप चाहते हैं कि एक प्रॉक्सी बहु-प्रदाता, बहु-उपयोगकर्ता सेटअप में विकसित हो सके बिना फिर से उपकरण स्विच किए।
OpenRouter
OpenRouter एक होस्ट किया गया रूटिंग सेवा है न कि कुछ जो कोई स्व-होस्ट करता है। किसी भी OpenAI-संगत क्लाइंट को OpenRouter API की ओर इंगित करें और एक कुंजी दर्जन मॉडलों तक पहुंच देती है, ओपन-वेट रिलीज़ से प्रमुख बंद मॉडल तक, बिना सदस्यता के आवश्यक टोकन के अनुसार बिल किया जाता है। यह किसी को अपने आप चलाए बिना मॉडल पंक्ति का परीक्षण करने का सबसे तेज़ तरीका है।
यह कहां विफल हो जाता है: यह स्थानीय नहीं है। हर अनुरोध आपकी मशीन को छोड़ देता है, जो opencodex की ओर खींचने वाली गोपनीयता प्रेरणा को नकारता है। यह केवल तभी मदद करता है यदि आपका लक्ष्य मॉडल विविधता है, डिवाइस पर अनुमान नहीं।
कीमत: साइन अप पर मुफ्त क्रेडिट, फिर प्रति-टोकन मूल्य निर्धारण जो प्रत्येक अंतर्निहित प्रदाता की दर को प्रतिबिंबित करता है या थोड़ा चिह्नित करता है। कोई निश्चित मासिक शुल्क नहीं।
opencodex से माइग्रेट: अपने क्लाइंट कॉन्फ़िगरेशन में स्थानीय एंडपॉइंट को OpenRouter API URL और कुंजी से बदलें। कोई स्थानीय रनटाइम स्थापित करने के लिए नहीं, लेकिन कोई ऑफ़लाइन मोड नहीं; इसे लगभग पांच मिनट की उम्मीद करें।
डाउनलोड: वेबसाइट
निचली पंक्ति: OpenRouter चुनें जब आप तेज़ी से मॉडल की तुलना करना चाहते हैं और अनुरोधों को आपके स्वयं के हार्डवेयर पर रहने की आवश्यकता नहीं है।
Ollama
Ollama वह रनटाइम है जो opencodex वास्तव में अधिकांश स्थानीय सेटअप के लिए प्रॉक्सी करता है, और यह पूरी तरह से मध्यस्थ को छोड़ सकता है। हाल के संस्करण /v1 पर अपने मूल API के साथ OpenAI-संगत एंडपॉइंट को प्रदर्शित करते हैं, इसलिए OpenAI चैट प्रारूप बोलने वाला क्लाइंट सीधे Ollama से बात कर सकता है बिना किसी प्रॉक्सी के। यह मॉडल डाउनलोड, क्वांटाइजेशन और GPU ऑफलोडिंग को स्वयं संभालता है।
यह कहां विफल हो जाता है: Ollama ChatGPT डेस्कटॉप ऐप कॉन्फ़िगरेशन को opencodex की तरह आपके लिए फिर से नहीं लिखता है; आपको अभी भी क्लाइंट को Ollama एंडपॉइंट पर निर्देशित करना होगा, और बहु-प्रदाता रूटिंग (स्थानीय और क्लाउड मॉडल मिश्रण) दायरे से बाहर है।
कीमत: मुफ्त और ओपन सोर्स।
opencodex से माइग्रेट: यदि opencodex पहले से Ollama को आगे बढ़ा रहा है, तो प्रॉक्सी परत छोड़ें और डेस्कटॉप ऐप को सीधे http://localhost:11434/v1 की ओर इंगित करें। यह चलती भाग को हटाता है बजाय एक जोड़ने के, और कुछ मिनट लगता है।
निचली पंक्ति: Ollama को अकेले चुनें यदि एकमात्र बैकएंड स्थानीय मॉडल हैं और इसके सामने एक रूटर की आवश्यकता नहीं है।
LM Studio
LM Studio ग्राफिकल इंटरफ़ेस के माध्यम से स्थानीय मॉडल डाउनलोड, प्रबंधित और चलाने के लिए एक डेस्कटॉप एप्लिकेशन है, और इसमें OpenAI-संगत स्थानीय सर्वर पर उन मॉडलों को प्रदर्शित करने के लिए एक-क्लिक टॉगल शामिल है। मॉडल पिकर उसी विंडो में रहता है जहां आप मॉडल लोड और परीक्षण करते हैं, जो कॉन्फ़िगरेशन फ़ाइल घर्षण को हल करता है जो opencodex को अनसंबोधित छोड़ देता है।
यह कहां विफल हो जाता है: LM Studio इस सूची के अधिकांश उपकरणों के विपरीत बंद-स्रोत है, और इसके संसाधन पदचिह्न नग्न कमांड-लाइन रनटाइम की तुलना में भारी है क्योंकि यह पूर्ण GUI भेजता है।
कीमत: व्यक्तिगत उपयोग और अधिकांश वाणिज्यिक उपयोग के लिए मुफ्त, प्रति ऐप लाइसेंस शर्तें।
opencodex से माइग्रेट: LM Studio के Developer टैब से स्थानीय सर्वर सक्षम करें, एक मॉडल लोड करें, और ChatGPT डेस्कटॉप ऐप को उस टैब में दिखाई गई सर्वर पते पर इंगित करें (आमतौर पर http://localhost:1234/v1)। कॉन्फ़िगरेशन फ़ाइल संपादन की आवश्यकता नहीं।
डाउनलोड: वेबसाइट
निचली पंक्ति: LM Studio चुनें यदि आप कॉन्फ़िगरेशन फ़ाइलों को मैन्युअली संपादित करने के बजाय एक दृश्य मॉडल पिकर पसंद करते हैं।
anycodex
anycodex opencodex का सीधा फोर्क है जो विशेष रूप से प्रदाता एडैप्टर जोड़ने के लिए बनाया गया है जो मूल परियोजना को कवर नहीं करता है, जिसमें कुछ Anthropic-संगत और स्व-होस्ट किए गए बैकएंड शामिल हैं। यह एक ही मूल दृष्टिकोण को बनाए रखता है, Codex क्लाइंट कॉन्फ़िगरेशन को फिर से लिखते हुए, जबकि वह एंडपॉइंट की सूची को विस्तृत करता है जिस पर यह आगे बढ़ सकता है।
यह कहां विफल हो जाता है: एक छोटी परियोजना के फोर्क के रूप में, यह opencodex ही के समान एकल-रक्षक जोखिम को वहन करता है, केवल एक अलग नाम के साथ। सामुदायिक आकार और समस्या प्रतिक्रिया समय दोनों सीमित हैं।
कीमत: मुफ्त और ओपन सोर्स।
opencodex से माइग्रेट: कॉन्फ़िगरेशन लगभग समान है क्योंकि anycodex ने एक ही फ़ाइल संरचना और CLI फ़्लैग रखे। स्वैपिंग में लगभग दस मिनट लगते हैं, जिसमें नए प्रदाता एडैप्टर का परीक्षण भी शामिल है।
डाउनलोड: GitHub
निचली पंक्ति: anycodex चुनें यदि opencodex आपके लिए लगभग काम करता है और लापता टुकड़ा एक अतिरिक्त प्रदाता है जो यह अभी तक सपोर्ट नहीं करता है।
CodexHub
CodexHub एक Rust और Tauri डेस्कटॉप क्लाइंट है जो प्रॉक्सी अवधारणा को मूल ऐप विंडो में लपेटता है, उपयोग डैशबोर्ड जोड़ता है जो समय के साथ टोकन, विलंबता और प्रति-मॉडल खर्च को ट्रैक करता है। मूल बाइनरी Python-आधारित प्रॉक्सी की तुलना में तेज़ी से शुरू होता है और निष्क्रिय अवस्था में कम मेमोरी का उपयोग करता है।
यह कहां विफल हो जाता है: टेलीमेट्री डैशबोर्ड, उपयोग ट्रैकिंग के लिए उपयोगी, का मतलब है कि CodexHub डिफ़ॉल्ट रूप से हर अनुरोध की स्थानीय लॉग रखता है। जो कोई भी कोई प्रॉक्सी चाहता है जो कुछ भी लॉग नहीं करता है, उसे यह मान लेने से पहले सेटिंग्स की जांच करनी चाहिए कि वह चुप है।
कीमत: मुफ्त और ओपन सोर्स।
opencodex से माइग्रेट: CodexHub के सेटअप विज़ार्ड के माध्यम से अपनी मौजूदा प्रदाता सूची आयात करें, या प्रत्येक बैकएंड (Ollama, LM Studio, क्लाउड कुंजी) को इसकी सेटिंग्स पैनल में मैन्युअली जोड़ें। विशिष्ट एकल-प्रदाता माइग्रेशन के लिए लगभग दस मिनट की अपेक्षा करें।
डाउनलोड: GitHub
निचली पंक्ति: CodexHub चुनें यदि मूल ऐप विंडो और उपयोग ट्रैकिंग पृष्ठभूमि में अदृश्य रूप से चलाने से अधिक महत्वपूर्ण है।
LocalAI
LocalAI एक व्यापक, स्व-होस्ट किया गया OpenAI ड्रॉप-इन प्रतिस्थापन है जो चैट पूर्णता, छवि पीढ़ी और ऑडियो ट्रांसक्रिप्शन को एक एकल बाइनरी में कवर करता है। यह चैट मॉडल के अलावा मॉडल बैकएंड की एक विस्तृत श्रृंखला का समर्थन करता है, जो इसे उपयोगी बनाता है जो कोई एक ही स्थानीय सर्वर से केवल पाठ पीढ़ी के अलावा अधिक की आवश्यकता वाली वर्कफ़्लो बना रहा है।
यह कहां विफल हो जाता है: सेटअप एकल-उद्देश्य प्रॉक्सी की तुलना में अधिक जटिल है क्योंकि LocalAI प्रत्येक मोडलिटी के लिए अलग मॉडल बैकएंड कॉन्फ़िगर करता है, और यदि आप चैट के साथ-साथ छवि या ऑडियो एंडपॉइंट को सक्षम करते हैं तो पहली बार चलाएं संसाधन आवश्यकताएं अधिक होती हैं।
कीमत: मुफ्त और ओपन सोर्स।
opencodex से माइग्रेट: ChatGPT डेस्कटॉप ऐप को LocalAI के /v1 एंडपॉइंट की ओर इंगित करें अपनी YAML कॉन्फ़िगरेशन में चैट मॉडल को परिभाषित करने के बाद। केवल-पाठ माइग्रेशन में लगभग पंद्रह मिनट लगते हैं; छवि या ऑडियो एंडपॉइंट जोड़ना अधिक समय लगता है।
निचली पंक्ति: LocalAI चुनें यदि आप चाहते हैं कि एक स्व-होस्ट किया गया सर्वर अंततः चैट अनुरोधों को रूट करने से अधिक करे।
कैसे चुनें
LiteLLM चुनें यदि कई प्रदाताओं के बीच रूटिंग कर रहे हैं, स्थानीय और क्लाउड, और फॉलबैक चेन और खर्च ट्रैकिंग जैसे प्रॉक्सी सुविधाएं चाहते हैं। OpenRouter चुनें यदि गोपनीयता लक्ष्य नहीं है और कोई मॉडल की विस्तृत पंक्ति का परीक्षण करना पसंद करता है बिना किसी को स्थानीय रूप से चलाए। Ollama या LM Studio को अकेले चुनें यदि सेटअप विशुद्ध रूप से स्थानीय है और इसके सामने एक रूटर केवल एक अतिरिक्त हॉप होगा; LM Studio जीतता है यदि GUI चाहते हैं, Ollama यदि हल्की पृष्ठभूमि प्रक्रिया चाहते हैं।
anycodex चुनें यदि opencodex लगभग आपके लिए काम करता है और एकमात्र लापता टुकड़ा एक अतिरिक्त प्रदाता है जो यह नहीं करता है, क्योंकि माइग्रेशन plug-and-play प्रतिस्थापन के निकटतम है। CodexHub चुनें यदि मूल ऐप विंडो और उपयोग ट्रैकिंग पृष्ठभूमि में अदृश्य रूप से चलाने से अधिक महत्वपूर्ण है। LocalAI चुनें यदि चैट केवल पहला मोडलिटी है जिसे स्थानीय रूप से रूट करने की योजना है, और छवि या ऑडियो पीढ़ी बाद में जोड़ने की उम्मीद है।
opencodex पर रहें यदि सेटअप ChatGPT डेस्कटॉप ऐप के पीछे एक एकल स्थानीय मॉडल है और बहु-प्रदाता रूटिंग, GUI या उपयोग ट्रैकिंग की आवश्यकता नहीं है। यह एक छोटा, केंद्रित उपकरण है, और एक-मॉडल, एक-मशीन सेटअप के लिए, उपरोक्त विकल्प जटिलता जोड़ते हैं जिसकी आपको अभी आवश्यकता नहीं हो सकती है।
FAQ
क्या LiteLLM opencodex से बेहतर है?
LiteLLM कई और प्रदाताओं को कवर करता है और रूटिंग सुविधाएं जोड़ता है जो opencodex प्रयास नहीं करता है, लेकिन इसमें हल्के कॉन्फ़िगरेशन पुनर्लेखन के बजाय प्रॉक्सी सर्वर चलाने की आवश्यकता होती है। एकल स्थानीय मॉडल के लिए, opencodex सरल है; बहु-प्रदाता सेटअप के लिए, LiteLLM अधिक करता है।
क्या मैं opencodex के बिना Ollama के साथ ChatGPT डेस्कटॉप ऐप का उपयोग कर सकता हूं?
हां। Ollama के हाल के संस्करण OpenAI-संगत एंडपॉइंट सीधे प्रदर्शित करते हैं, इसलिए संगत क्लाइंट सीधे इस पर इंगित कर सकता है बिना किसी प्रॉक्सी परत के।
सबसे सस्ता opencodex विकल्प क्या है?
यहां हर स्व-होस्ट किया गया विकल्प, LiteLLM, Ollama, LM Studio, anycodex, CodexHub और LocalAI, मुफ्त और ओपन सोर्स हैं (या LM Studio के मामले में उपयोग के लिए मुफ्त)। OpenRouter एकमात्र उपयोग-आधारित बिलिंग के साथ है, क्योंकि यह अपने स्वयं के सर्वर पर मॉडल चलाता है।
क्या LiteLLM जैसे प्रॉक्सी पर स्विच करने से मेरा डेटा स्थानीय रहता है?
केवल यदि Ollama या LM Studio जैसे स्थानीय बैकएंड पर रूट करते हैं। LiteLLM और LocalAI प्रॉक्सी हैं, रनटाइम नहीं; आपका डेटा कहां जाता है यह इस बात पर निर्भर करता है कि आप उनके पीछे कौन सी बैकएंड कॉन्फ़िगर करते हैं। OpenRouter हमेशा होस्ट किए गए मॉडल को अनुरोध भेजता है।
क्या opencodex कॉन्फ़िगरेशन फ़ाइल संपादन के लिए GUI विकल्प है?
LM Studio और CodexHub दोनों बैकएंड और मॉडल प्रबंधित करने के लिए ग्राफिकल इंटरफेस प्रदान करते हैं, मैन्युअल कॉन्फ़िगरेशन फ़ाइल संपादन से बचते हैं।
स्थानीय LLM प्रॉक्सिंग के लिए लोग opencodex के बजाय क्या उपयोग करते हैं?
LiteLLM और LocalAI बहु-प्रदाता रूटिंग के लिए सबसे सामान्य स्व-होस्ट किए गए विकल्प हैं, जबकि Ollama और LM Studio बिना किसी प्रॉक्सी के एकल-रनटाइम सेटअप को कवर करते हैं।
