LLMs

doc-lsde-features-llms-2

استخدام LLM

لاستخدام LLM (Large Language Models) في LSDE، يجب عليك تكوين إعدادات الوصول الخاصة بك: قم بإدخال مفاتيح API الخاصة بك التي تم إنشاؤها مسبقًا للاستخدام عبر Cloud، أو قم بتكوين عنوان "localhost" إذا كنت تفضل استخدام نموذج محلي.

نظام مفاتيح متعددة

يسمح LSDE بإدارة عدة مفاتيح API في وقت واحد.
يتيح لك هذا النظام استغلال عدة مفاتيح ذات حصص محدودة من خلال التبديل تلقائيًا إلى تلك التي لا تزال تتوفر على أرصدة.

هذه الميزة مثالية لزيادة استخدام المفاتيح المجانية الخاضعة لتجديد يومي.
من خلال تفعيل التدوير التلقائي، يمكنك استهلاك أرصدتك دون تدخل يدوي وبكل أمان.

عند اكتشاف خطأ، يعتبر LSDE مفتاح API مستنفدًا وينتقل تلقائيًا إلى المفتاح التالي. يمكنك تحديد عدة دورات تدوير (عادةً 2) لضمان استعادة كافة الأرصدة المجانية على جميع مفاتيحك.

تفعيل LLM

في تذييل الصفحة الخاص بالتطبيق، ستتمكن من تفعيل أو تعطيل أحد نماذج LLM المتاحة لديك.
عندما لا يتم اختيار أي LLM، سيحاول LSDE استخدام LLM fallback الذي قمت بتكوينه مسبقًا.

doc-lsde-features-llms-1

نماذج LLM المحلية

إذا كنت ترغب في استخدام نماذجك محليًا، فما عليك سوى إدخال عنوان localhost الخاص بخادمك. سيقوم LSDE بالاتصال به لتنفيذ مهامك.

كيفية تثبيت LLM محلي؟

قم بتنزيل Ollama لنظام التشغيل الخاص بك.
ابدأ تشغيل الخادم وقم بتثبيت نماذجك.
أغلق التطبيق (يجب أن يظل نشطًا في الخلفية).
قم بإدخال عنوان localhost والمنفذ المقابل في إعدادات Ollama الخاصة بـ LSDE.
انقر على « Connecter » واختر أحد نماذجك.
تأكد من تفعيل LLM في شريط الحالة الموجود في أسفل البرنامج.