-
नए LLM मॉडल जोड़ें: OpenAI (जैसे GPT-3.5, GPT-4), Anthropic (जैसे Claude 3 Opus, Claude 3 Haiku, Claude 3.5 Sonnet), और Google (जैसे Gemini) से मॉडल जल्दी जोड़ें।
- प्रत्येक मॉडल के लिए परिभाषित करें:
- API Name: सिस्टम कोड में मॉडल को क्या कहता है।
- Display Name: UI में उपयोगकर्ता इसे क्या देखते हैं।
- Cost: आंतरिक ट्रैकिंग के लिए अनुकूलित मान।
- प्रत्येक मॉडल के लिए परिभाषित करें:
- मौजूदा मॉडल प्रबंधित करें: सभी मॉडल विवरण के साथ तालिका में दिखाए गए हैं।
उपयोग के मामले
- लागत नियंत्रित करें: सामान्य उपयोगकर्ताओं से महंगे मॉडल छुपाएँ।
- पहुँच सरल बनाएँ: एक मॉडल डिफ़ॉल्ट सेट करें।
- प्रयोग चलाएँ: A/B परीक्षण के लिए एक ही मॉडल के कई संस्करण जोड़ें।
व्यवस्थापक सुझाव
- नियमित रूप से समीक्षा करें कि कौन से मॉडल सक्षम हैं।
- Hidden सेटिंग का उपयोग उच्च-लागत मॉडल तक पहुँच प्रतिबंधित करने के लिए करें।
- मॉडल उपयोग और लागत की निगरानी करें।