الأمان الإنتاجي والتقييم والنشر

أنظمة الوكلاء الإنتاجية وإتقان المقابلات

5 دقيقة للقراءة

لماذا الإنتاج هو الجزء الصعب

بناء وكيل يعمل في عرض تجريبي سهل. بناء وكيل يعمل بشكل موثوق على نطاق واسع — يتعامل مع آلاف المستخدمين ويدير التكاليف ويمنع انتهاكات الأمان ويتدهور بسلاسة عندما تسوء الأمور — هنا يكمن التحدي الهندسي الحقيقي.

هذا أيضاً ما يفصل مرشحي L4 عن مرشحي L6+ في المقابلات. أي شخص يمكنه وصف بنية وكيل للمسار السعيد. المهندسون الكبار يحددون استباقياً أنماط الفشل ومخاطر التكلفة ومخاوف الأمان قبل أن يسأل المحاور.

التحديات الإنتاجية الخمسة

1. السلوك غير المتوقع

على عكس البرمجيات التقليدية حيث نفس المدخل ينتج نفس المخرج، الوكلاء تتصرف بشكل غير حتمي:

التحديمثالالتخفيف
عدم حتمية LLMنفس السؤال يحصل على استدعاءات أدوات مختلفةضبط temperature=0 للمسارات الحتمية، استخدام المخرجات المهيكلة
التأثيرات الجانبية للأدواتالوكيل يرسل بريداً لا يجب إرسالهقوائم السماح للإجراءات، بوابات تأكيد للعمليات التدميرية
الأخطاء المتتاليةنتيجة أداة سيئة تؤدي لسلسلة قرارات خاطئةقواطع الدائرة، عدد أقصى للأخطاء لكل جلسة
حساسية الأوامرتغييرات صياغة طفيفة تسبب سلوك وكيل مختلفاختبار الانحدار مع مجموعات بيانات مرجعية

2. انفجار التكلفة

يمكن للوكلاء استهلاك الرموز بسرعة، خاصة في الاستدلال متعدد الخطوات. والفخ أن التكلفة تتناسب مع عدد دورات الحلقة، وعدد الدورات يُقرَّر وقت التشغيل من مكوّن لا يمكن أن يُطلب منه أن يكون أرخص.

اعمل هذا النموذج قبل أن يطلبه منك المحاور. ابحث عن الأسعار الحالية لكل رمز في صفحة أسعار مزوّدك وأدخلها — فالقيم الافتراضية أدناه عناصر نائبة لا أسعار مُقتبسة:

ما يكلّفه وكيل متعدد الخطوات فعلاً

الأسعار تتغير كثيراً؛ أدخل الأرقام الحالية من صفحة أسعار مزوّدك بدل الوثوق بأي رقم مطبوع في دورة. المهم هو شكل النتيجة: التكلفة خطية تقريباً مع عدد خطوات الحلقة، ولهذا فإن الحلقة غير المحدودة حادثة فوترة.

خطوات الحلقة لكل تفاعل6
رموز المدخلات لكل خطوة4,000
رموز المخرجات لكل خطوة400
سعر المدخلات لكل مليون رمز$3
سعر المخرجات لكل مليون رمز$15
عبء إعادة المحاولة15%
الطلبات في اليوم5,000
التكلفة لكل تفاعل
$0
الإنفاق الشهري عند هذا الحجم
$18,630
حصة المخرجات من التكلفة
33.3%
رموز المدخلات المحاسَب عليها لكل تفاعل
24,000
التكلفة = الخطوات × (رموز المدخلات × سعرها + رموز المخرجات × سعرها) ÷ مليون × معامل إعادة المحاولة

أمران يستحقان الانتباه، وكلاهما يَرِد في المقابلات. رفع حد الخطوات من 6 إلى 20 يضاعف الفاتورة أكثر من ثلاث مرات دون أي تغيير في كودك — ولهذا فإن «الحد الأقصى للخطوات المستقلة» ضابط تكلفة لا ضابط أمان فحسب. ورموز المدخلات تهيمن عادةً، لأن كل خطوة تعيد إرسال السياق المتراكم؛ وهذا ما يجعل التخزين المؤقت للأوامر وضغط السجل رافعتَي تكلفة لا تحسينات هامشية.

استراتيجيات التحكم بالتكلفة:

  • ميزانيات الرموز — ضع سقفاً صارماً لكل طلب (مثلاً: 50 ألف رمز كحد أقصى)
  • تتابع النماذج — استخدم نموذجاً أصغر لاختيار الأدوات البسيط، ونموذجاً أكبر للاستدلال المعقد
  • تخزين الأوامر مؤقتاً — خزّن أوامر النظام وتعريفات الأدوات عبر الطلبات
  • الإنهاء المبكر — توقف إذا كانت الثقة عالية بما يكفي بعد استدعاءات أدوات أقل

3. حواجز الأمان

تحتاج الوكلاء لطبقات حماية متعددة. والطبقات الثلاث موجودة لأنها تفشل بطرق مختلفة: حواجز المدخل يمكن الالتفاف عليها بالإقناع، أما حواجز الإجراءات فلا — لأنها تقع بين نية النموذج وبين ما يحدث فعلاً.

ثلاث طبقات من الحواجز، وأيّها تُبقي لو اضطررت

حواجز المدخل — قبل أن يراه النموذج
حواجز الإجراءات — بين النية والأثر
حواجز المخرج — قبل أن يراه المستخدم

حواجز المدخل:

  • كشف حقن الأوامر (مطابقة الأنماط + مصنّف)
  • كشف وحجب المعلومات الشخصية (PII)
  • فرض حدود الموضوع (البقاء ضمن المجالات المسموحة)

حواجز الإجراءات:

  • قائمة سماح/حظر الأدوات حسب دور المستخدم
  • فحص حدود المعاملات (مثلاً: أقصى عدد مستلمي البريد)
  • تأكيد مطلوب للعمليات التدميرية (حذف، إرسال، دفع)

حواجز المخرج:

  • تصفية المحتوى الضار/غير المناسب
  • فحص الدقة الواقعية مقابل المصادر المسترجعة
  • التحقق من التنسيق (امتثال المخرجات المهيكلة)

4. التقييم والاختبار

اختبار الوكلاء مختلف جوهرياً عن اختبار البرمجيات التقليدية:

نوع الاختبارماذا يختبركيف
اختبارات الوحدةالمكونات الفردية (منفذ الأدوات، المحقق)أطر اختبار الوحدة التقليدية
اختبارات التكاملالوكيل + الأدوات يعملان معاًمحاكاة LLM باستجابات محددة مسبقاً
اختبارات السلوكسلوك الوكيل من طرف لطرفمجموعات اختبار مرجعية مع نتائج متوقعة
اختبارات عدائيةالأمان تحت الهجوممحاولات حقن الأوامر، حالات حدية
اختبارات الانحدارعدم التدهور بعد التغييراتتشغيل مجموعة البيانات المرجعية، مقارنة الدرجات

المقاييس الرئيسية لجودة الوكيل:

  • معدل إكمال المهام — هل يحقق الوكيل هدف المستخدم؟
  • دقة استدعاء الأدوات — هل يستدعي الأدوات الصحيحة بمعاملات صحيحة؟
  • الكمون (P50/P95/P99) — كم تستغرق حلقة الوكيل الكاملة؟
  • التكلفة لكل تفاعل — متوسط تكلفة الرموز لكل طلب مستخدم
  • معدل انتهاكات الأمان — كم مرة ينتهك الوكيل الحواجز؟
  • معدل الهلوسة — كم مرة يقدم الوكيل ادعاءات غير مدعومة؟

5. المراقبة

تحتاج لتتبع كل قرار يتخذه الوكيل:

# سجل مهيكل لمراقبة الوكيل
{
    "request_id": "req_abc123",
    "user_id": "user_456",
    "timestamp": "2026-02-21T10:30:00Z",
    "event": "tool_call",
    "tool_name": "search_docs",
    "arguments": {"query": "سياسة الاسترداد"},
    "latency_ms": 245,
    "tokens_used": 1200,
    "cost_usd": 0.0024,
    "guardrail_flags": []
}

لوحات المعلومات الأساسية:

  • حجم الطلبات ومعدل الخطأ عبر الزمن
  • استخدام الرموز وتفصيل التكلفة حسب الوكيل/الأداة
  • مئويات الكمون (P50، P95، P99)
  • معدل انتهاكات الأمان وتكرار تفعيل الحواجز
  • توزيع استدعاءات الأدوات (أي الأدوات الأكثر استخداماً؟)

إتقان المقابلات: المهارات الفوقية

بعيداً عن المعرفة التقنية، يعتمد أداؤك في المقابلة على كيف تتواصل:

إيقاع التواصل

أفضل المرشحين يتبعون إيقاعاً منتظماً. المدد تفترض جولة من 45 دقيقة — اضغطها تناسبياً، لكن لا تتخطَّ المرحلتين الأوليين أبداً، فهما ما يمنعك من تصميم النظام الخطأ طوال أربعين دقيقة.

كيف تنفق جولة تصميم وكلاء من 45 دقيقة

أعد صياغة المشكلة · ~30 ثانية

«إذاً نحتاج وكيلاً يقوم بـ…». تأمين رخيص. فإن كانت صياغتك خاطئة، تكتشف ذلك الآن لا في الدقيقة الأربعين.

أسئلة توضيحية · ~دقيقتان

النطاق، الحجم، ميزانية الكمون، وما يُسمح للوكيل بفعله دون إنسان. اطرح سؤالين أو ثلاثة حقيقية — أسئلة تغيّر إجاباتها تصميمك.

اذكر نهجك · ~دقيقة

سمِّ الإطار الذي ستطبّقه قبل تطبيقه، ليتمكن المحاور من إعادة توجيهك مبكراً وبثمن زهيد.

البنية عالية المستوى · ~5 دقائق

المكونات وتدفق البيانات من طرف لطرف. قاوم التفاصيل هنا — فالعمق مرحلة تالية، والتفصيل المبذول الآن يُبذل غالباً على المكوّن الخطأ.

التعمّق · 15–20 دقيقة

مكوّنان أو ثلاثة تختارها مع المحاور. هنا معظم إشارتك: تصميم الأدوات، والحالة، والتعافي، والتنسيق.

اعتبارات الإنتاج · ~5 دقائق

أنماط الفشل، وسقف التكلفة، والحواجز، والمراقبة، والتقييم. صِل لهذه المرحلة دون أن تُسأل — فمن يحتاج للسؤال يكون قد أظهر مستواه.

لخّص المقايضات · ~دقيقتان

ما اخترته، وما رفضته، وما الذي يجعلك تختار غير ذلك. الجملة الأخيرة هي التي تُعاد في جلسة التقييم.

التعامل مع "لا أعرف"

من الأفضل أن تقول "لست متأكداً من التنفيذ المحدد، لكن إليك كيف سأتوصل لمعرفته" بدلاً من اختلاق شيء. المحاورون يحترمون الصدق الفكري.

الأخطاء الشائعة

الخطأالنهج الأفضل
القفز مباشرة للتنفيذابدأ بالمتطلبات والبنية
تجاهل أنماط الفشلاذكر استباقياً ما يمكن أن يسوء
نسيان التكلفةناقش دائماً ميزانيات الرموز وتتابع النماذج
الإفراط في هندسة الحلابدأ بسيطاً، أضف التعقيد فقط عند الحاجة
عدم طرح أسئلة توضيحيةاسأل 2-3 أسئلة قبل تصميم أي شيء
التحدث بمفردك لـ 10+ دقائقتحقق مع المحاور بانتظام

ما التالي؟

خمسة أنظمة وكلاء مبنية، والأنماط التي تقف وراء الجولات التي تحسم هذه المقابلات. تبقّت فكرة أخيرة قبل أن تمضي وتستخدمها.

كل ما في هذه الدورة له عمر افتراضي إلا التسبيب. الأطر في الوحدة الأولى ستُستبدل — وقد استُبدل أحدها بالفعل أثناء عمر هذه الدورة، حين أحالت OpenAI إطار Swarm للتقاعد لصالح Agents SDK. ونوافذ السياق ستتسع مجدداً. والأسعار ستتحرك. ما يبقى هو العادة التي تقيسها جولة التصميم فعلاً: أن تسمّي المقايضة التي قبلتها، وأن تعرف ما الذي ينكسر حين يُخطئ النموذج.

لذا حين تستعد، استعد للأسئلة لا للإجابات. وحين يسألك محاور عن إطار لم تستخدمه، فالرد القوي ليس المجاملة — بل: «لم أستخدمه؛ وهذا هو النمط الذي أتوقع أن ينفّذه، وهذا أول ما سأفحصه فيه».

الدورات التالية الموصى بها

استمر في التحضير للمقابلات:

  • مقابلات تصميم أنظمة الذكاء الاصطناعي — عمّق معرفتك بالبنية المعمارية للذكاء الاصطناعي مع تصميم أنظمة RAG وأنماط تطبيقات LLM والموثوقية الإنتاجية
  • مقابلات مهندس LLM — أتقن أساسيات LLM التي تشغّل كل وكيل: المحولات والضبط الدقيق والتقييم وتحسين الإنتاج

ابنِ أنظمة حقيقية:

  • ابنِ واجهة REST API إنتاجية — ابنِ واجهة API إنتاجية كاملة من الصفر — الأساس الخلفي الذي تعمل عليه أنظمة الوكلاء
  • وكلاء الذكاء الاصطناعي المتقدمين — استكشف تكامل MCP متعدد الوكلاء والوكلاء طويلي المدى وأنماط النشر المؤسسي

حظاً سعيداً في مقابلاتك. :::

اختبار

اختبار الوحدة 5: الأمان الإنتاجي والتقييم والنشر

خذ الاختبار
هل كان هذا الدرس مفيدًا؟

سجّل الدخول للتقييم