अपनी लोकल हार्डवेयर पर मुफ़्त में Deepseek R1 चलाना

Deepseek R1 एक अद्भुत, शक्तिशाली, तेज़ और छोटा LLM AI मॉडल है जिसे आप अपने खुद के PC पर बिलकुल मुफ़्त और ऑफ़लाइन डाउनलोड और चला सकते हैं। यह लेख मॉडल को लोकली होस्ट करने से लेकर एक शक्तिशाली ChatGPT-जैसे वेब इंटरफेस तक सब कुछ कवर करता है।

Deepseek R1 का परिचय

Deepseek R1 एक शानदार नया मॉडल है जिसे बहुत कम लागत पर प्रशिक्षित किया गया था और यह बहुत कम हार्डवेयर पर तेज़ चलता है। यह AI और LLM तकनीक के लिए एक शानदार कदम है। अन्य LLMs और AIs की तरह, आप उन्हें डाउनलोड कर सकते हैं और अपने खुद के PC पर बिलकुल ऑफ़लाइन और पूरी तरह से मुफ़्त चला सकते हैं।

यह छवि 1 के लिए कैप्शन है

Installing Ollama

अपने सिस्टम पर Deepseek R1 चलाने के लिए, आपको एक ऐसा प्रोग्राम डाउनलोड करना होगा जो इस मॉडल को लोड कर सके और वास्तव में इसका उपयोग कर सके। Ollama अनिवार्य रूप से एक ऐसा प्रोग्राम है जो आपको मॉडल को लोड करने और या तो सीधे इससे चैट करने या अन्य प्रोग्राम का उपयोग करके इससे कनेक्ट करने की अनुमति देता है। आपको नीचे विवरण में Ollama डाउनलोड करने का लिंक मिल सकता है। बस डाउनलोड चुनें, फिर Windows, Mac या Linux चुनें, और जो भी OS हो उसके लिए डाउनलोड करें।

Downloading and Installing Deepseek R1 मॉडल

एक बार जब आप Ollama इंस्टॉल कर लेते हैं, तो आपको Deepseek R1 मॉडल डाउनलोड करने की आवश्यकता होती है। आपको नीचे लिंक किए गए मॉडल डाउनलोड कमांड मिल सकते हैं। आपके पास चुनने के लिए कई विकल्प हैं, जिनमें Deepseek R1 1.5b, 7B, 8B, 14b, 32b और 70b शामिल हैं। ये मॉडल के सभी डिस्टिल्ड वर्जन हैं, जो अनिवार्य रूप से लोअर RAM और vram सिस्टम पर चलते हैं।

यह छवि 2 के लिए कैप्शन है

Running Deepseek R1

Deepseek R1 को चलाने के लिए, आपको उस कमांड को पेस्ट करना होगा जिसे आपने टर्मिनल, कमांड प्रॉम्प्ट या पावर शेल विंडो में कॉपी किया है। जब आप ऐसा करते हैं, तो यह पहुंचेगा और वास्तविक मॉडल को डाउनलोड करना शुरू कर देगा। जब आप सूची में आगे बढ़ते हैं तो मॉडल का आकार काफी तेजी से बढ़ता है। फिर भी, एक बार जब यह डाउनलोड हो जाता है, तो यह सत्यापित करता है, और इसके तुरंत बाद, आप वास्तव में इससे चैट कर सकते हैं।

Chatting with Deepseek R1

आप टर्मिनल, कमांड प्रॉम्प्ट या पावर शेल विंडो का उपयोग करके Deepseek R1 के साथ चैट कर सकते हैं। आप इससे प्रश्न पूछ सकते हैं, और यह उत्तर देगा। आप Deepseek R1 के साथ चैट करने के लिए वेब इंटरफेस, जैसे web.chatboxai.app का भी उपयोग कर सकते हैं। यह टर्मिनल विंडो की तुलना में बहुत बेहतर इंटरफ़ेस है।

Using a GUI for Ollama

Ollama के लिए कई GUI विकल्प उपलब्ध हैं, जिनमें web.chatboxai.app शामिल है। आप UI को chatboxai.app पर जाकर और डाउनलोड करके डाउनलोड कर सकते हैं। हजारों विभिन्न ग्राफिक यूजर इंटरफेस हैं जिनका आप Ollama के साथ उपयोग कर सकते हैं।

Enabling Ollama API

Ollama API को सक्षम करने के लिए, आपको Ollama से बाहर निकलना होगा, फिर स्टार्ट दबाएं और एनवायरनमेंट वेरिएबल खोजें। आपको दो विकल्प सेट करने होंगे: OLLAMA_HOST और OLLAMA_ORIGINS। आप Ollama दस्तावेज़ में इन विकल्पों के मान पा सकते हैं।

Selecting the Deepseek R1 Model

एक बार जब आपके पास Ollama API सक्षम हो जाए, तो आप उस Deepseek R1 मॉडल का चयन कर सकते हैं जिसका आप उपयोग करना चाहते हैं। आप उपलब्ध मॉडलों की सूची में से चुन सकते हैं, जिनमें 1.5b, 7B, 8B, 14b, 32b और 70b शामिल हैं।

Conclusion

अपनी लोकल हार्डवेयर पर Deepseek R1 को मुफ़्त में चलाना AI की शक्ति का अनुभव करने का एक शानदार तरीका है, बिना महंगे हार्डवेयर या सब्सक्रिप्शन शुल्क के लिए भुगतान किए। Ollama और Deepseek R1 मॉडल के साथ, आप एक शक्तिशाली AI मॉडल के साथ चैट कर सकते हैं और अपने प्रश्नों के उच्च-गुणवत्ता वाले उत्तर प्राप्त कर सकते हैं। चाहे आप एक डेवलपर हों, एक शोधकर्ता हों, या सिर्फ कोई व्यक्ति हों जो AI में रुचि रखता हो, Deepseek R1 निश्चित रूप से देखने लायक है।

ध्यान दें: दुर्भाग्य से, टाइमस्टैम्प 45239 सेकंड, 9736 सेकंड, 5942 सेकंड, 70248 सेकंड और 847759 सेकंड पर छवियां उपलब्ध नहीं हैं।

इसके अलावा, ध्यान दें कि लेख में टाइमस्टैम्प 45239 सेकंड, 9736 सेकंड, 5942 सेकंड, 70248 सेकंड और 847759 सेकंड पर कोई भी चित्र शामिल नहीं है क्योंकि वे खाली हैं।

हालांकि, टाइमस्टैम्प 70248 सेकंड पर छवि का उल्लेख पाठ में "[702.48 सेकंड पर] तो चलिए 32 बिलियन पैरामीटर मॉडल के लिए जाते हैं" के रूप में किया गया है, लेकिन वास्तव में लेख में टाइमस्टैम्प 148 सेकंड पर छवि का उपयोग किया गया है।

32 बिलियन पैरामीटर मॉडल के लिए सही छवि उपलब्ध नहीं है।

यदि आप 32 बिलियन पैरामीटर मॉडल के लिए छवि जोड़ना चाहते हैं, तो आप निम्नलिखित मार्कडाउन सिंटैक्स का उपयोग कर सकते हैं: यह छवि के लिए कैप्शन है

"image_url" को छवि के वास्तविक URL से बदलें।