ما هو توجيه النماذج اللغوية؟ التكلفة والجودة وزمن الاستجابة والإقامة

المشكلة التي يحلّها التوجيه

لا يرسل معظم التطبيقات المدعومة بالذكاء الاصطناعي نوعًا واحدًا من الطلبات — بل أنواعًا عديدة. قد يتعامل مساعد دعم مع استعلام بسيط عن سؤال شائع ومحادثة استكشاف أخطاء معقّدة متعددة الخطوات بالتكامل نفسه. تثبيت نموذج واحد للحالتين يعني إما دفع مبالغ زائدة للحالة البسيطة أو تقديم خدمة ناقصة للحالة المعقّدة. توجيه النماذج اللغوية هو ممارسة إرسال كل طلب إلى النموذج الذي يناسبه فعليًا، بدل اختيار نموذج واحد لتطبيق كامل والتعايش مع عدم التطابق.

كيف يُتَّخذ قرار التوجيه

يقيّم الموجِّه الطلب وفق الأبعاد المهمة لذلك الطلب، ثم يختار نموذجًا أو مزوّدًا يستوفيها. تختلف الأبعاد حسب ما يهمّ الفريق، لكنها تشمل عادةً:

• التكلفة — سعر المزوّد لكل رمز، وهل يمكن لرد مخزَّن مؤقتًا الإجابة عن الطلب دون استدلال جديد أصلًا
• الجودة — أي نموذج يؤدي أفضل للنوع المحدد من المهمة المطلوبة
• زمن الاستجابة — وقت الاستجابة، بما في ذلك المسافة الشبكية إلى بنية المزوّد التحتية
• الإقامة — بالنسبة للمؤسسات ذات متطلبات إقامة البيانات، هل مزوّد معيّن وجهة مسموحة أصلًا لهذا الطلب المحدد

التوجيه الثابت مقابل التوجيه الديناميكي

بعض التوجيه ثابت — قاعدة محدَّدة مثل "طلبات البرمجة تذهب دائمًا إلى النموذج X". بعضه ديناميكي — يُتَّخذ قرار التوجيه لكل طلب، ربما بناءً على محتوى أو تصنيف ذلك الطلب المحدد. القواعد الثابتة أبسط وأكثر قابلية للتنبؤ؛ يتكيّف التوجيه الديناميكي بشكل أفضل مع الأحمال التي تتفاوت فيها أنواع الطلبات فعليًا. تنتهي معظم الأنظمة الحقيقية باستخدام مزيج: قواعد ثابتة للقيود الصارمة (كالإقامة)، واختيار ديناميكي ضمن ما تبقّى.

أين يندرج هذا ضمن البنية التحتية

يُنفَّذ التوجيه عادةً على مستوى طبقة بوابة — نقطة تكامل واحدة تقع بين التطبيق وكل مزوّد يستخدمه، تتخذ قرار التوجيه مع كل طلب بدل مطالبة التطبيق نفسه بمعرفة كل مزوّد. هذه هي البنية وراء كيف يوجّه ميزان طلبات الذكاء الاصطناعي.