تخطَّ إلى المحتوى الرئيسي
التوثيق

استضافة النماذج

استضافة النماذج داخل بنيتك التحتية للاستدلال السيادي باستخدام عناقيد وحدات GPU والنماذج مفتوحة المصدر المعتمدة.

الاستدلال السيادي

تشغّل وحدة استضافة النماذج نماذج اللغة الكبيرة ونماذج الصوت المعتمدة داخل البنية التحتية للعميل — بما يلغي الاعتماد على واجهات الذكاء الاصطناعي العامة في أحمال العمل الحساسة.

تحدد سياسات الاستضافة النماذج التي تعمل في كل بيئة، وكيفية تطبيق التحديثات، ومن يملك صلاحية اعتماد التغييرات.

العتاد المدعوم

انشر على عناقيد معالجات NVIDIA GPU أو Huawei Ascend 910 أو Intel Gaudi، أو على تهيئات معتمدة متوافقة مع معايير مركز البيانات لديك.

يراعي تخطيط السعة عدد المستخدمين المتزامنين، وطول السياق، وإدخال البيانات الدفعي، وأحمال العمل الصوتية.

اختيار النماذج

تعتمد عمليات النشر في البيئات المعزولة عادةً على نماذج مفتوحة المصدر محلية تدعم العربية والإنجليزية، بينما يمكن لعمليات النشر المحلية المتصلة إضافة مسارات نماذج معتمدة تحت مظلة الحوكمة.

يضمن توجيه النماذج ألا تصل التطبيقات إلا إلى النماذج المصرح بها لمستوى الحساسية الخاص بها.

عمليات الاستدلال

تتولى طبقة الاستضافة إدارة التوسع، وفحوصات السلامة، وتجاوز الأعطال، وطرح الإصدارات، مع رؤية تشغيلية كاملة.

يدعم التكامل مع محرك التنسيق سير العمل المعقد الذي يجمع بين الاسترجاع والأدوات والتوليد متعدد الخطوات.

حوكمة الاستضافة

تخضع تحديثات النماذج وإعداداتها لضوابط إدارة التغيير وسجلات التدقيق والمراقبة — وهو أمر بالغ الأهمية لمتطلبات المشتريات في القطاعات الخاضعة للتنظيم.

تعاون مع GoAI247 لتحديد معمارية الاستضافة خلال ورشة عمل تقنية تراعي موارد وحدات GPU لديك ومتطلبات الامتثال.

خطّط لمعمارية الاستضافة الخاصة بك

واءم الاستدلال السيادي مع قدرات GPU المتاحة لديك وخيار النشر، أو قارن خيارات الاستضافة مع مهندسينا.