चरण 3: जीपीयू एकीकरण और पीसीआईई राइजर - वीडियो कार्ड को सही ढंग से स्थापित करना

अब हमारे पास एक सिद्ध आधारभूत मंच है: दोनों प्रोसेसर काम कर रहे हैं, मेमोरी पूरी तरह से पहचानी जा रही है, और सर्वर बिना किसी ग्राफ़िक्स कार्ड के POST कमांड सफलतापूर्वक चला रहा है। तभी GPU का उपयोग करने का विचार आता है।

वीडियो कार्ड DePIN सर्वर का सबसे महंगा और आमतौर पर सबसे लाभदायक घटक होता है। इसलिए, यह सुनिश्चित करना बेहद ज़रूरी है कि सेटअप में चार कार्ड लगाकर सब कुछ ठीक होने की उम्मीद न की जाए। हमारा लक्ष्य यह सुनिश्चित करना है कि प्रत्येक GPU ठीक से जुड़ा हो, सुरक्षित रूप से लगा हो, उसे पर्याप्त बिजली और हवा मिले, और सिस्टम सभी कार्डों को लगातार पहचान सके।

1. एक ही सर्वर में समान जीपीयू का उपयोग करना बेहतर क्यों है?

सबसे अच्छा विकल्प एक ही मॉडल और समान वीआरएएम क्षमता वाले चार एक जैसे ग्राफिक्स कार्ड हैं। उदाहरण के लिए, चार आरटीएक्स 4090 या चार आरटीएक्स 3090।

समस्या यह नहीं है कि अलग-अलग कार्ड भौतिक रूप से एक साथ काम नहीं कर सकते। लिनक्स वास्तव में विभिन्न मॉडलों के मिश्रण को पहचान सकता है। समस्या इससे ऊपर शुरू होती है: DePIN प्लेटफ़ॉर्म कार्डों का अलग-अलग मूल्यांकन कर सकता है, उन्हें अलग-अलग कार्य सौंप सकता है, एक निश्चित मात्रा में VRAM की आवश्यकता कर सकता है, या मशीन को एक विषम संसाधन के रूप में मान सकता है।

जब सभी जीपीयू एक जैसे होते हैं, तो परफॉर्मेंस, तापमान, बिजली की खपत और लोड व्यवहार का अनुमान लगाना बहुत आसान हो जाता है। अगर कोई कार्ड ज़्यादा गरम हो रहा है या दूसरों से अलग तरह से काम कर रहा है, तो यह तुरंत पता चल जाता है।

2. जीपीयू के नाम से ज़्यादा महत्वपूर्ण क्या है: वीआरएएम और वास्तविक अनुकूलता?

कंप्यूटिंग कार्यों के लिए, न केवल जीपीयू चिप महत्वपूर्ण है, बल्कि वीडियो मेमोरी की मात्रा भी महत्वपूर्ण है। वीआरएएम ग्राफिक्स कार्ड की समर्पित, तीव्र मेमोरी है जो मॉडल, कार्यशील डेटा और मध्यवर्ती परिणामों को संग्रहीत करती है।

उदाहरण के लिए, एक कार्ड बहुत तेज़ हो सकता है, लेकिन यदि किसी विशिष्ट कार्य के लिए उसमें उपलब्ध मेमोरी से अधिक की आवश्यकता हो, तो वह चल ही नहीं पाएगा। इसलिए, GPU चुनते समय, केवल कार्ड की समग्र रेटिंग ही नहीं, बल्कि नेटवर्क संबंधी आवश्यकताओं पर भी विचार करें।

उच्च गुणवत्ता वाला कार्ड हमेशा अधिक किफायती नहीं होता। कभी-कभी अधिक VRAM वाला सस्ता GPU किसी विशेष बाजार के लिए अधिक किफायती साबित हो सकता है।

3. पीसीआईई 3.0 – इसका हमारे प्लेटफॉर्म के लिए क्या महत्व है?

सुपरमाइक्रो X11DAi-N, Xeon Gold 6230 के साथ, PCIe 3.0 प्लेटफॉर्म पर काम करता है। यह वह बस है जिसके माध्यम से CPU और सिस्टम ग्राफिक्स कार्ड के साथ संचार करते हैं।

आधुनिक जीपीयू पीसीआईई 4.0 या 5.0 को सपोर्ट कर सकते हैं, लेकिन इससे कोई समस्या नहीं है: ये मानक पुराने मानकों के साथ संगत हैं। एक पीसीआईई 4.0 कार्ड पीसीआईई 3.0 स्लॉट में काम कर सकता है; बस बस की गति प्लेटफॉर्म की क्षमताओं द्वारा सीमित होगी।

यह समझना महत्वपूर्ण है कि "PCIe 5.0" लेबल वाला एक बहुत महंगा राइज़र खरीदने से X11DAi-N स्वयं PCIe 5.0 में परिवर्तित नहीं हो जाएगा। केबल उच्च गुणवत्ता वाली और संगत होनी चाहिए, लेकिन गति पूरी तरह से प्लेटफॉर्म पर निर्भर करती है।

4. पीसीआईई राइजर क्या है और हमें इसकी आवश्यकता क्यों है?

पीसीआईई राइज़र मदरबोर्ड स्लॉट और ग्राफ़िक्स कार्ड के बीच एक एक्सटेंशन केबल है। यह जीपीयू को मदरबोर्ड के ठीक ऊपर रखने के बजाय, माउंटिंग और कूलिंग के लिए अधिक सुविधाजनक स्थान पर रखने की अनुमति देता है।

यह मल्टी-कार्ड सर्वर में बहुत उपयोगी है। चार शक्तिशाली ग्राफ़िक्स कार्डों को एक साथ पास-पास रखने से वे आपस में टकराने लगते हैं। राइज़र की मदद से आप कार्डों को अलग-अलग दूरी पर रख सकते हैं, एक उचित प्रवाह बना सकते हैं और केबलों तक आसानी से पहुँच सकते हैं।

इस सेटअप के लिए, हम अच्छी गुणवत्ता वाले फुल-साइज़ शील्डेड PCIe x16 एक्सटेंशन/राइज़र केबल का उपयोग करते हैं।

5. सस्ते यूएसबी माइनिंग राइज़र का उपयोग क्यों नहीं करना चाहिए

पुराने माइनिंग रिग्स में अक्सर एडेप्टर का इस्तेमाल होता था, जिसमें कार्ड एक पतले PCIe x1 और USB जैसे केबल के ज़रिए मेनबोर्ड से जुड़ता था। क्रिप्टोकरेंसी माइनिंग के लिए यह अक्सर पर्याप्त होता था: कार्ड ज़्यादातर स्थानीय गणनाएँ करता था और CPU के साथ बहुत कम डेटा का आदान-प्रदान करता था।

DePIN में, कंप्यूटिंग कार्य CPU, RAM और GPU के बीच सक्रिय रूप से डेटा स्थानांतरित कर सकते हैं। एक संकीर्ण कनेक्शन बाधा बन जाता है। इसलिए, यहाँ माइनिंग के लिए x1-राइज़र की अनुशंसा नहीं की जाती है।

हमें एक उचित पीसीआईई चैनल की आवश्यकता है, न कि केवल सिस्टम को कार्ड "दिखाने" का तरीका।

6. विद्युत स्लॉट की चौड़ाई और भौतिक आकार एक ही चीज नहीं हैं।

एक कनेक्टर देखने में भले ही पूर्ण x16 जैसा लगे, लेकिन वास्तव में उसमें लेन की संख्या कम होती है। इसे इलेक्ट्रिकल स्लॉट की चौड़ाई कहा जाता है।

डुअल-प्रोसेसर बोर्ड पर, कुछ PCIe संसाधन एक विशिष्ट CPU के लिए भी समर्पित होते हैं। इसलिए, चार GPU इंस्टॉल करते समय, केवल उनके दिखने पर भरोसा करने के बजाय, X11DAi-N मैनुअल और स्लॉट असाइनमेंट की जाँच करें।

हमारे लिए सबसे महत्वपूर्ण बात एक ऐसी पूर्वानुमानित व्यवस्था प्राप्त करना है जहां सभी कार्ड दिखाई दें और बिना किसी टकराव के काम करें।

7. एक साथ चार कार्ड न रखें

मल्टी-कार्ड सर्वर बनाने का सबसे सुविधाजनक तरीका जीपीयू को धीरे-धीरे जोड़ना है।

सबसे पहले, हम एक कार्ड इंस्टॉल करते हैं, सर्वर चालू करते हैं और सुनिश्चित करते हैं कि सिस्टम उसे पहचान ले। फिर हम दूसरा कार्ड लगाते हैं और दोबारा जांच करते हैं। फिर तीसरा और चौथा कार्ड।

इसलिए, यदि दूसरा कार्ड जोड़ने के बाद सर्वर POST करना बंद कर देता है या कार्ड का पता नहीं चलता है, तो हमें तुरंत पता चल जाता है कि कहां देखना है: एक विशिष्ट स्लॉट, राइजर, केबल, पावर सप्लाई, या स्वयं GPU।

अगर आप सब कुछ एक साथ इंस्टॉल कर देते हैं, तो आपको एक साथ दर्जनों संभावित कारणों का निदान करना होगा।

8. अंतिम असेंबली से पहले इस्तेमाल किए गए वीडियो कार्ड की जांच कैसे करें

एक इस्तेमाल किया हुआ जीपीयू एक बढ़िया सौदा हो सकता है, लेकिन इसे क्वाड-जीपीयू सिस्टम में जोड़ने से पहले इसका परीक्षण करना आवश्यक है।

हम पंखों, पावर कनेक्टर्स और केस की स्थिति की जाँच करते हैं। इंस्टॉलेशन के बाद, हम कोर और मेमोरी के तापमान और स्थिरता की निगरानी के लिए स्ट्रेस टेस्ट चलाते हैं। कार्ड में कोई खराबी नहीं आनी चाहिए, लोड पड़ने पर क्रैश नहीं होना चाहिए, या ज़्यादा गरम होने के कारण फ़्रीक्वेंसी में अचानक कमी नहीं आनी चाहिए।

यदि चार समान कार्डों में से एक कार्ड अन्य कार्डों की तुलना में काफी खराब प्रदर्शन कर रहा है, तो सर्वर को सशुल्क लोड से जोड़ने के बाद समस्या का समाधान करने की बजाय, अभी इसका समाधान करना बेहतर है।

9. यांत्रिक रूप से बांधना - जीपीयू केबल पर लटका हुआ नहीं होना चाहिए।

आधुनिक वीडियो कार्ड भारी होते हैं। राइज़र केबल सिग्नल संचारित करने के लिए डिज़ाइन किए गए हैं, न कि कार्ड का भार उठाने के लिए।

प्रत्येक जीपीयू को केस फ्रेम या एक समर्पित जीपीयू फ्रेम से यांत्रिक रूप से सुरक्षित किया जाना चाहिए। सर्वर को हिलाने पर कार्ड हिलना नहीं चाहिए और न ही उसके वजन से कनेक्टर पर दबाव पड़ना चाहिए।

पावर और राइज़र केबलों के साथ विशेष रूप से सावधान रहें: उन्हें सीधे कनेक्टर पर न मोड़ें या उन्हें गर्म रेडिएटर के संपर्क में न लाएं।

10. चार जीपीयू को ठंडा करना

हमारा लक्ष्य न्यूनतम निष्क्रिय तापमान प्राप्त करना नहीं है, बल्कि दीर्घकालिक भार के तहत एक स्थिर तापमान सुनिश्चित करना है।

यदि कार्ड पीछे से खुले हैं, तो वे केस के अंदर गर्म हवा छोड़ते हैं। इसलिए, पंखे की दीवार को लगातार इस गर्म हवा को ठंडी हवा से बदलना पड़ता है। कार्डों के बीच जितना संभव हो उतना अधिक स्थान छोड़ना सबसे अच्छा है।

यदि कोई एक कार्ड गर्म हवा के क्षेत्र में है और लगातार अन्य कार्डों की तुलना में अधिक गर्म रहता है, तो आमतौर पर समस्या का कारण वायु प्रवाह होता है, न कि जीपीयू।

11. nvidia-smi — लिनक्स में पहला मुख्य परीक्षण

Ubuntu और NVIDIA ड्राइवर इंस्टॉल करने के बाद, हमारे पास nvidia-smi कमांड होगी। यह कमांड सिस्टम द्वारा पहचाने गए कार्ड, उनके मॉडल, लोड, तापमान, मेमोरी उपयोग और ड्राइवर संस्करण को प्रदर्शित करती है।

चार जीपीयू वाले सर्वर के लिए, बूट करने के बाद हम सबसे पहले यहीं जाँच करते हैं। यदि चार जीपीयू स्थापित हैं और nvidia-smi तीन दिखाता है, तो हम कारण का पता लगाने तक DePIN इंजन को लॉन्च नहीं करते हैं।

12. जीपीयू और बिजली आपूर्ति संबंधी समस्याओं को आपस में न मिलाएं।

अक्सर, एक "अस्थिर वीडियो कार्ड" वास्तव में बिजली आपूर्ति की समस्या के कारण होता है: एक खराब केबल, एक ओवरलोडेड कनेक्टर, एक कमजोर पीएसयू, या दोनों इकाइयों के बीच लोड का अनुचित वितरण।

इसलिए, इस चरण में, हम कार्डों को भौतिक रूप से स्थापित करते हैं और उनकी पहचान की जाँच करते हैं, और चरण 4 में अंतिम बिजली आपूर्ति सर्किट को अलग करते हैं। यदि लोड के तहत कार्ड गायब हो जाता है, तो बिजली आपूर्ति उन पहले घटकों में से एक है जिनकी जाँच की जानी चाहिए।

13. जब वास्तव में चार कार्डों की आवश्यकता नहीं होती है

यह सर्वर अधिकतम चार जीपीयू के लिए डिज़ाइन किया गया है, लेकिन इसका मतलब यह नहीं है कि आपको शुरुआत में केवल चार से ही शुरू करना होगा। आप एक या दो कार्ड चलाकर सिस्टम की कार्यक्षमता का परीक्षण कर सकते हैं और धीरे-धीरे सिस्टम का विस्तार कर सकते हैं।

यह दृष्टिकोण तब विशेष रूप से उपयुक्त है जब जीपीयू की कीमतें अधिक हों या आप किसी विशिष्ट नेटवर्क का परीक्षण कर रहे हों। प्लेटफ़ॉर्म विस्तार के लिए तैयार है, लेकिन निवेश क्रमिक रूप से किया जाएगा।

चरण 3 के अंत में क्या तैयार होना चाहिए?

• उपयुक्त वीआरएएम क्षमता वाले समान संगत एनवीडिया जीपीयू का चयन किया गया।
• मानचित्रों को एक साथ नहीं बल्कि चरणबद्ध तरीके से जोड़ा और परीक्षण किया गया था।
• हम उच्च गुणवत्ता वाले फुल-साइज़ पीसीआईई राइज़र/एक्सटेंशन केबल का उपयोग करते हैं, न कि माइनिंग यूएसबी x1 वाले केबल का।
• प्रत्येक जीपीयू मजबूती से सुरक्षित है और केबलों पर लटका हुआ नहीं है।
• कार्डों के बीच से हवा का प्रवाह निर्बाध रूप से होता है।
• ड्राइवर इंस्टॉल करने के बाद, सभी जीपीयू nvidia-smi के माध्यम से समान रूप से और स्थिर रूप से दिखाई देते हैं।

यदि सभी कार्डों का पता चल जाता है और वे यांत्रिक रूप से सही ढंग से स्थापित हो जाते हैं, तो हम चरण 4 - बिजली आपूर्ति पर आगे बढ़ते हैं और एक ऐसी बिजली प्रणाली का निर्माण करते हैं जो इस सर्वर को 24/7 सुरक्षित रूप से बिजली प्रदान कर सके।