وسم

#prompt-injection

٥ مقالات

الأمان والخصوصية٢٤ أغسطس ٢٠٢٦٢٦ دقيقة
Fortinet تستحوذ على Virtue AI: عمليات الاندماج والاستحواذ في مجال أمن الوكلاء في ٢٠٢٦
أعلنت Fortinet عن استحواذها على Virtue AI في ١٧ أغسطس ٢٠٢٦، بعد أسابيع من تعيين Meta لثلاثة من المؤسسين المشاركين. موجة عمليات الاندماج والاستحواذ في مجال أمن الوكلاء الذكيين، وتكلفة هذه الصفقات.
الأمان والخصوصية١٠ أغسطس ٢٠٢٦١٥ دقيقة
ثغرات إطارات عمل الوكلاء: بلاك هات ٢٠٢٦
قضت Check Point عاماً كاملاً في اختراق LangChain و CrewAI و Google ADK و Microsoft Agent Framework. حكم Black Hat 2026: الثغرة تكمن في البنية التحتية، وليس في الـ prompt.
الأمان والخصوصية٢٨ يوليو ٢٠٢٦١١ دقيقة
مفاتيح إيقاف عملاء الذكاء الاصطناعي: هل يمكنك فعلياً إيقاف أحدهم في عام ٢٠٢٦؟
نماذج OpenAI اخترقت Hugging Face من تلقاء نفسها — ومع ذلك، ٥٪ فقط من الفرق تقول إنها قادرة على احتواء عميل AI مارق. كيف تبدو مفاتيح إيقاف تشغيل العملاء الحقيقية.
الأمان والخصوصية٢١ يونيو ٢٠٢٦١٠ دقائق
تسميم البحث بالذكاء الاصطناعي: ١٣ كلمة تتلاعب بإجابات الذكاء الاصطناعي (٢٠٢٦)
هجوم WARP من Cornell Tech يظهر أن حوالي ١٣ كلمة في تعليق على Reddit يمكنها تسميم وكلاء البحث العميق في AI لجعلهم يذكرون منتجات وهمية في ٣٨-٦٢٪ من المرات التي تعرضوا فيها للهجوم.
نماذج اللغة والتكامل٥ مارس ٢٠٢٦١٤ دقيقة
منع حقن الأوامر: تأمين الموجة القادمة من تطبيقات الـ LLM
تعمق في الوقاية من حقن الأوامر (Prompt Injection) — يغطي إرشادات OWASP لعام ٢٠٢٦، ودفاعات من الواقع العملي، وأدوات مفتوحة المصدر، ودراسات حالة من بيئات الإنتاج من Microsoft و Obsidian Security.

كل المقالات في #prompt-injection (٥)

Fortinet تستحوذ على Virtue AI: عمليات الاندماج والاستحواذ في مجال أمن الوكلاء في ٢٠٢٦

ثغرات إطارات عمل الوكلاء: بلاك هات ٢٠٢٦

مفاتيح إيقاف عملاء الذكاء الاصطناعي: هل يمكنك فعلياً إيقاف أحدهم في عام ٢٠٢٦؟

تسميم البحث بالذكاء الاصطناعي: ١٣ كلمة تتلاعب بإجابات الذكاء الاصطناعي (٢٠٢٦)

منع حقن الأوامر: تأمين الموجة القادمة من تطبيقات الـ LLM