ऑन-प्रेमाइज़ इंस्टॉलेशन गाइड

​

पूर्व आवश्यकताएँ

​

पहुँच आवश्यकताएँ

• सर्वर पहुँच:
  • सुनिश्चित करें कि sudo विशेषाधिकारों के साथ तैनाती सर्वर तक पहुँच हो।
  • सत्यापित करें कि सभी आवश्यक नेटवर्क मार्ग सुरक्षित VPN या समर्पित नेटवर्क कॉन्फ़िगरेशन के माध्यम से स्थापित हैं।
• उपयोगकर्ता अनुमतियाँ:
  • सुनिश्चित करें कि तैनाती टीम को आवश्यक पहुँच अधिकार प्रदान किए गए हैं।
  • सत्यापित करें कि कोई भी आवश्यक दो-कारक प्रमाणीकरण (2FA) या सुरक्षा टोकन स्थापित हैं।

​

सिस्टम आवश्यकताएँ

• GPU (जब EKB प्लेटफ़ॉर्म के साथ ही मशीन पर LLM तैनात किया जाता है तो आवश्यक।)
• SMALL: ~500 (100 एक साथ) उपयोगकर्ता एक VM 16 कोर्स, 64gb ram, 1 TB
  • SSD द्वारा समर्थित हो सकते हैं। इन मशीनों की लागत ~$600 प्रति माह है। यह न्यूनतम आकार की तैनाती है।
• MEDIUM ~ 2000 (500 एक साथ) उपयोगकर्ता एक बड़ी मशीन 32 कोर्स, 128gb ram, 2 TB
  • SSD द्वारा समर्थित हो सकते हैं। इन मशीनों की लागत ~$1,200 प्रति माह है
• LARGE: ~10000 (1000+ एक साथ) उपयोगकर्ताओं को कंटेनर्स में तैनात किया जाना चाहिए ताकि अवसंरचना
  • आवश्यकताओं को समर्थन देने के लिए स्केल कर सके, इसकी न्यूनतम लागत आमतौर पर $2,000 प्रति माह है
  • प्रत्येक अतिरिक्त 1,000 सक्रिय उपयोगकर्ताओं के लिए $2,000 प्रति माह की गणना करने की सिफारिश की जाती है। यह एक पूर्ण वितरित तैनाती है।

​

तैनाती उपकरण और सॉफ़्टवेयर निर्भरताएँ

• तैनाती स्क्रिप्ट्स:
  • सत्यापित और संस्करण-नियंत्रित Bash तैनाती स्क्रिप्ट्स।
• निर्भरता प्रबंधन उपकरण:
  • Python 3
  • Git (वर्तमान संस्करण)
  • Docker (v27.1.1) या Podman
• अतिरिक्त उपकरण (वैकल्पिक):
  • ग्राहक की निगरानी आवश्यकताओं के अनुसार लॉगिंग और निगरानी उपकरण (जैसे, ELK Stack, Prometheus, Grafana)।

​

क्रेडेंशियल्स और कुंजियाँ

• सर्वर क्रेडेंशियल्स:
  • सुनिश्चित करें कि सभी सर्वर पहुँच क्रेडेंशियल्स अप टू डेट हैं और सुरक्षित रूप से संग्रहीत हैं।
• एप्लिकेशन API Keys और लाइसेंस:
  • सत्यापित करें कि सभी एप्लिकेशन-विशिष्ट API Keys और लाइसेंस (जैसे, OpenAI, SERP, Sentry) उपलब्ध और वैध हैं।

​

पूर्व-तैनाती चेकलिस्ट

​

हार्डवेयर और सिस्टम सत्यापन

# CPU जानकारी जाँचें

lscpu                                 # Ubuntu और RHEL दोनों पर काम करता है

cat /proc/cpuinfo                     # अधिक विस्तृत CPU जानकारी


# मेमोरी उपयोग जाँचें

free -h                               # मेमोरी उपयोग के लिए मानव-पठनीय प्रारूप

cat /proc/meminfo                     # विस्तृत मेमोरी जानकारी


# स्टोरेज उपयोग जाँचें

df -h                                 # डिस्क उपयोग प्रदर्शित करता है

lsblk                                 # ब्लॉक डिवाइस और पार्टिशन सूचीबद्ध करता है

​

3.2 सॉफ़्टवेयर और निर्भरता सत्यापन

# Docker संस्करण जाँचें

docker --version                     # Ubuntu और RHEL दोनों के लिए लागू


# Docker Compose संस्करण जाँचें

docker compose version                # आधुनिक Docker सेटअप के लिए

docker-compose --version             # पुरानी इंस्टॉलेशन के लिए

```

# Python संस्करण जाँचें

python3 --version                    # Python 3 के लिए पसंदीदा जाँच

python --version                     # वैकल्पिक यदि python3 उपलब्ध नहीं है


# Git संस्करण जाँचें

git --version                        # Ubuntu और RHEL दोनों के लिए मान्य

​

3.3 नेटवर्क और कनेक्टिविटी जाँच

# इंटरनेट कनेक्शन उपलब्धता जाँचें

ping -c 4 google.com                  # नेटवर्क कनेक्टिविटी सत्यापित करने के लिए Google को ping करें

curl -Is https://www.google.com | head -n 1  # curl का उपयोग करके वैकल्पिक जाँच

​

3.4 अतिरिक्त सत्यापन

नोट्स: सभी आंतरिक मशीनें एक दूसरे के साथ स्वतंत्र रूप से संवाद करने में सक्षम होनी चाहिए। हम SSL (HTTPS) कनेक्शन का उपयोग करने की सिफारिश करते हैं; PoCs के दौरान HTTP समर्थित है।

​

सामान्य वास्तुकला

​

वास्तुकला आरेख — ऑन-प्रेमाइज़

​

AWS Cloud तैनाती के लिए तैनाती वास्तुकला प्रवाह