LLMs

LLM का उपयोग करें

LSDE में LLM (Large Language Models) का उपयोग करने के लिए, आपको अपना एक्सेस कॉन्फ़िगर करना होगा: क्लाउड के माध्यम से उपयोग के लिए अपनी पहले से बनाई गई API keys दर्ज करें, या यदि आप स्थानीय मॉडल का उपयोग करना पसंद करते हैं तो "localhost" एड्रेस कॉन्फ़िगर करें।

मल्टी-की (Multi-key) सिस्टम

LSDE एक साथ कई API keys को मैनेज करने की अनुमति देता है।
यह सिस्टम आपको उन keys पर स्वचालित रूप से स्विच करके सीमित कोटा वाली कई keys का उपयोग करने की अनुमति देता है जिनमें अभी भी क्रेडिट बचे हैं।

यह सुविधा दैनिक नवीनीकरण (daily renewal) के अधीन मुफ़्त keys के उपयोग को अधिकतम करने के लिए आदर्श है।
ऑटोमैटिक रोटेशन को सक्रिय करके, आप बिना किसी मैन्युअल हस्तक्षेप के और पूरी सुरक्षा के साथ अपने क्रेडिट का उपयोग कर सकते हैं।

जब कोई त्रुटि (error) पहचानी जाती है, तो LSDE उस API key को समाप्त मान लेता है और स्वचालित रूप से अगली key पर चला जाता है। आप यह सुनिश्चित करने के लिए रोटेशन के कई चक्र (आमतौर पर 2) सेट कर सकते हैं कि आपने अपनी सभी keys पर सभी उपलब्ध मुफ़्त क्रेडिट प्राप्त कर लिए हैं।

LLM सक्रिय करें

एप्लिकेशन के फुटर (footer) में आपके पास अपने उपलब्ध LLM में से किसी एक को सक्रिय या निष्क्रिय करने का विकल्प होगा।
जब कोई LLM चयनित नहीं होता है, तो LSDE उस फ़ॉलबैक (fallback) LLM का उपयोग करने का प्रयास करेगा जिसे आपने पहले कॉन्फ़िगर किया है।

लोकल LLM

यदि आप अपने मॉडल का स्थानीय रूप से (locally) उपयोग करना चाहते हैं, तो बस अपने सर्वर का localhost एड्रेस दर्ज करें। LSDE आपके कार्यों को पूरा करने के लिए उससे कनेक्ट हो जाएगा।

लोकल LLM कैसे इंस्टॉल करें?