متوسط
أساسيات أمن الذكاء الاصطناعي: الهجمات والدفاعات والحواجز
أتقن أمن الذكاء الاصطناعي مع قائمة OWASP لأهم ١٠ ثغرات في نماذج اللغة الكبيرة، وهجمات حقن المحثات، وحواجز الإنتاج. تعلم الدفاع عن تطبيقات LLM باستخدام NeMo Guardrails و LLaMA Guard وأفضل ممارسات الأمان.
٦٥ دقيقة٢٤ درسًا٦ وحداتالأمن السيبراني
ماذا ستتعلم
- تحديد وتخفيف ثغرات OWASP LLM Top 10
- اكتشاف والدفاع ضد هجمات حقن المطالبات
- تنفيذ NeMo Guardrails لتصفية مدخلات/مخرجات LLM
- نشر LLaMA Guard لتصنيف سلامة المحتوى
- تصميم استراتيجيات الدفاع المتعمق لتطبيقات الذكاء الاصطناعي
محتوى الدورة
مشهد أمن الذكاء الاصطناعي
٤ دروس · ١٠ دقائق- لماذا أمن الذكاء الاصطناعي مهمبدون تسجيل٣ دقائق
- مقفل حتى تسجّل في الدورةنظرة عامة على قائمة OWASP لأهم ١٠ ثغرات LLM٣ دقائق
- مقفل حتى تسجّل في الدورةسطح الهجوم لتطبيقات LLMدقيقتان
- مقفل حتى تسجّل في الدورةالعقلية الأمنية لمطوري الذكاء الاصطناعيدقيقتان
- اختبار: الوحدة ١: مشهد أمن الذكاء الاصطناعي
هجمات حقن المحثات
٤ دروس · ١٢ دقيقة- مقفل حتى تسجّل في الدورةحقن المحثات المباشر٣ دقائق
- مقفل حتى تسجّل في الدورةحقن المحثات غير المباشر٣ دقائق
- مقفل حتى تسجّل في الدورةتقنيات الحقن المتقدمة٣ دقائق
- مقفل حتى تسجّل في الدورةكسر الحماية مقابل حقن المحثات٣ دقائق
- اختبار: الوحدة ٢: هجمات حقن المحثات
الثغرات الحرجة الأخرى
٤ دروس · ١٠ دقائق- مقفل حتى تسجّل في الدورةتسريب محث النظام٣ دقائق
- مقفل حتى تسجّل في الدورةكشف البيانات الحساسةدقيقتان
- مقفل حتى تسجّل في الدورةالصلاحيات المفرطة٣ دقائق
- مقفل حتى تسجّل في الدورةثغرات RAG والتضميناتدقيقتان
- اختبار: الوحدة ٣: الثغرات الحرجة الأخرى
بناء حواجز المدخلات والمخرجات
٤ دروس · ١٢ دقيقة- مقفل حتى تسجّل في الدورةاستراتيجيات التحقق من المدخلات٣ دقائق
- مقفل حتى تسجّل في الدورةتطهير المخرجات٣ دقائق
- مقفل حتى تسجّل في الدورةإعداد NeMo Guardrails٣ دقائق
- مقفل حتى تسجّل في الدورةLLaMA Guard و PromptGuard٣ دقائق
- اختبار: الوحدة ٤: بناء حواجز المدخلات والمخرجات
أنماط أمن الإنتاج
٤ دروس · ١٢ دقيقة- مقفل حتى تسجّل في الدورةبنية الدفاع العميق٣ دقائق
- مقفل حتى تسجّل في الدورةالمراقبة والتسجيل٣ دقائق
- مقفل حتى تسجّل في الدورةتحديد المعدل ومنع الإساءة٣ دقائق
- مقفل حتى تسجّل في الدورةتصميم الوكلاء الآمن٣ دقائق
- اختبار: الوحدة ٥: أنماط أمن الإنتاج
اختبار الأمان والخطوات التالية
٤ دروس · ٩ دقائق- مقفل حتى تسجّل في الدورةاختبار حواجزك٣ دقائق
- مقفل حتى تسجّل في الدورةقوائم فحص الأماندقيقتان
- مقفل حتى تسجّل في الدورةالبقاء على اطلاعدقيقتان
- مقفل حتى تسجّل في الدورةالخطوات التاليةدقيقتان
- اختبار: الوحدة ٦: اختبار الأمان والخطوات التالية