मुख्य सामग्री पर जाएं

कस्टम मॉडल

इस टीम के हर प्रोजेक्ट द्वारा उपयोग की जा सकने वाली कस्टम LLM कनेक्शन जोड़ने के लिए मेरा खाता → कस्टम मॉडल खोलें।

यहाँ जोड़े गए मॉडल टीम-स्कोप वाले होते हैं। वे टीम के सभी प्रोजेक्ट में एजेंट के लिए दिखाई देते हैं। केवल-प्रोजेक्ट कस्टम मॉडल अभी भी एजेंट पर कॉन्फ़िगर किए जाते हैं; देखें पूर्वनिर्धारित और कस्टम मॉडल।

मॉडल सहेजे जाने से पहले एंडपॉइंट को मान्य किया जाता है।

कस्टम मॉडल इंटरफ़ेस

जानकारी

यह टैब केवल टीम व्यवस्थापक ही खोल सकते हैं और टीम कस्टम मॉडल जोड़, संपादित या हटा सकते हैं।

खाली स्थिति​

यदि टीम के पास अभी कोई कस्टम मॉडल नहीं है, तो पृष्ठ अभी कोई कस्टम मॉडल नहीं और कस्टम मॉडल जोड़ें दिखाता है।

कस्टम मॉडल जोड़ें​

  1. कस्टम मॉडल जोड़ें पर क्लिक करें

    नया कनेक्शन डायलॉग खुलता है।

  2. फ़ील्ड भरें

    नया कनेक्शन डायलॉग

    फ़ील्डविवरण
    मॉडल नामवह पहचानकर्ता जिसकी API अपेक्षा करती है (जैसे gpt-4o)
    मॉडल प्रदाताड्रॉपडाउन से प्रदाता (जैसे Open AI)
    कॉन्ग गेटवे के माध्यम से कॉन्फ़िगर करें?वैकल्पिक। कनेक्शन को Kong गेटवे से रूट करें।
    API कुंजीप्रदाता कुंजी। सुरक्षित रूप से संग्रहीत।
    API URLAPI एंडपॉइंट
    टाइमआउट (सेकंड)डिफ़ॉल्ट 300 है। लंबे समय तक चलने वाले रीज़निंग मॉडल के लिए इसे बढ़ाएँ।
    तापमान (रचनात्मकता) अनदेखा करेंकुछ नए मॉडल ऐसे अनुरोध अस्वीकार करते हैं जो तापमान/रचनात्मकता पैरामीटर भेजते हैं। इसे सक्षम करें ताकि प्रदाता की परवाह किए बिना इस मॉडल के लिए तापमान न भेजा जाए।
    थिंकिंग टैग (<think>/</think>) पार्स करेंकुछ रीज़निंग मॉडल संदेश सामग्री में विचार-शृंखला को <think>…</think> के रूप में इनलाइन करते हैं (जैसे merge_reasoning_content_in_choices सक्षम वाला LiteLLM प्रॉक्सी)। उत्तर से इन टैग को हटाने और रीज़निंग को अलग दिखाने के लिए इसे सक्षम करें।
    अधिकतम इनपुट टोकनडिफ़ॉल्ट 3000
    अधिकतम प्रतिक्रिया टोकनडिफ़ॉल्ट 1000
    थिंकिंगइस मॉडल के लिए प्रदाता थिंकिंग/रीज़निंग सक्षम करें।
    थिंकिंग बजटजब थिंकिंग चालू हो, तो थिंकिंग के लिए टोकन बजट।
    विचार शामिल करेंप्रतिक्रिया में मॉडल के विचार शामिल करें।

    अन्य प्रदाता-विशिष्ट फ़ील्ड (Azure API संस्करण, AWS टाइमआउट, कस्टम प्रमाणीकरण हेडर, गतिशील टोकन फ़ेचिंग) तब दिखाई देते हैं जब वह प्रदाता चुना जाता है।

  3. बनाएँ

    बनाएँ पर क्लिक करें। EKB एंडपॉइंट को मान्य करता है; सफल होने पर मॉडल टीम के लिए संग्रहीत हो जाता है। रद्द करें बिना सहेजे डायलॉग बंद कर देता है।

मॉडल सूची​

जब कम से कम एक मॉडल मौजूद हो, तो पृष्ठ एक खोज बॉक्स (नाम या प्रदाता से खोजें...) और एक तालिका दिखाता है:

कॉलमविवरण
नाममॉडल का नाम
प्रदाताप्रदाता लेबल
अधिकतम इनपुटअधिकतम इनपुट टोकन
अधिकतम प्रतिक्रियाअधिकतम प्रतिक्रिया टोकन
क्रियाएँसंपादित करें या हटाएँ

यदि खोज कुछ भी मेल नहीं खाती: आपकी खोज से कोई मॉडल मेल नहीं खाता।

संपादित करें या हटाएँ​

  • संपादित करें वर्तमान मानों के साथ वही फ़ॉर्म दोबारा खोलता है।
  • हटाएँ पुष्टि माँगता है, फिर टीम मॉडल हटा देता है।

टीम मॉडल को किसी प्रोजेक्ट की कस्टम-मॉडल सूची से संपादित नहीं किया जा सकता। वहाँ वे टीम सेटिंग्स में प्रबंधित के साथ केवल-पढ़ने योग्य के रूप में दिखते हैं।

संबंधित​