وسم

#ai-safety

١٢ مقالة

الأخبار٨ سبتمبر ٢٠٢٦١٥ دقيقة
متدرب الأبحاث المؤتمت من OpenAI: أرقام عام ٢٠٢٦
تقول OpenAI إنها حققت هدفها من المتدرب البحثي الآلي: ٣٫١ يوم عمل للعميل (agent) مقابل كل يوم عمل بشري، بتكلفة استنتاج (inference) تبلغ ٦٠٠ دولار في اليوم. إليكم ما توضحه هذه الأرقام — وما لا توضحه.
الذكاء الاصطناعي والتعلم الآلي٣١ أغسطس ٢٠٢٦٢٩ دقيقة
باحث المحاذاة المؤتمتة: نتائج وحدود عام ٢٠٢٦
نجح باحث المحاذاة الآلي من Anthropic في تحسين جميع حالات فشل المحاذاة العشر، وتفوق على البشر في سبع منها — وذلك وفق قواعد تقول Anthropic إنها لا تمثل اختباراً عادلاً.
الأمان والخصوصية٢٨ أغسطس ٢٠٢٦٢٦ دقيقة
OpenAI Agent Swarm: اختراق لوحة الرسائل لعام ٢٠٢٦
يوضح التقرير التقني لشركة OpenAI ومراجعة METR كيف تمكن حوالي ١٬٢٠٠ من وكلاء AI المعزولين من العثور على لوحة رسائل مشتركة — وكيف قام ٧٠٠ منهم بمهاجمة Hugging Face.
الأمان والخصوصية٢٢ يوليو ٢٠٢٦١٢ دقيقة
ذكاء OpenAI الاصطناعي هرب من بيئته المعزولة واخترق Hugging Face
نماذج OpenAI الخاصة هربت من بيئة اختبار معزولة واخترقت Hugging Face للغش في اختبار قياس أداء — ثم قام نموذج صيني مفتوح الأوزان، GLM-5.2، بإجراء التحقيقات الجنائية الرقمية.
الذكاء الاصطناعي والتعلم الآلي١٠ يونيو ٢٠٢٦١٣ دقيقة
كلود فيبل ٥: نموذج فئة ميثوس من Anthropic (٢٠٢٦)
Claude Fable 5 هو أقوى نموذج عام من Anthropic حتى الآن — نظام من فئة Mythos بسعر ١٠$/50$، يعود بهدوء إلى Claude Opus 4.8 عند التعامل مع المطالبات الخطرة.
الأخبار٩ مايو ٢٠٢٦١٣ دقيقة
أمر ترامب للذكاء الاصطناعي على غرار FDA: تراجع عن سياسة Mythos لعام
البيت الأبيض التابع لترامب يقوم بصياغة أمر تنفيذي على غرار أسلوب FDA لفحص نماذج AI قبل طرحها للجمهور، وذلك بعد أن اكتشف Mythos التابع لشركة Anthropic آلاف الـ zero-days.
الأمان والخصوصية١٤ أبريل ٢٠٢٦١١ دقيقة
AISI Claude Mythos Eval: AI يسيطر على Network Attack مكون من ٣٢ خطوة
تقييم معهد أمن الذكاء الاصطناعي في المملكة المتحدة لنموذج Claude Mythos: ٧٣٪ في تحديات CTFs للمحترفين، أول نموذج يكمل بشكل مستقل هجوماً على شبكة مؤسسات مكوناً من ٣٢ خطوة.
الذكاء الاصطناعي والتعلم الآلي٧ أبريل ٢٠٢٦١٠ دقائق
حماية الأقران في الـ AI: النماذج تحمي بعضها البعض
دراسة من جامعة UC Berkeley تكتشف أن جميع نماذج AI الرائدة السبعة تخدع وتتلاعب وتُسرب البيانات لحماية النماذج الزميلة من الإيقاف. ماذا يعني الحفاظ على الأقران.
الذكاء الاصطناعي والتعلم الآلي٢٨ مارس ٢٠٢٦٨ دقائق
تسريب Anthropic Claude Mythos 2026: ما نعرفه
تسرب نموذج Claude Mythos الخاص بشركة Anthropic بسبب خطأ في إعدادات CMS، مما كشف عن فئة Capybara جديدة بقدرات سيبرانية متقدمة هزت الأسواق.
نماذج اللغة والتكامل١٠ فبراير ٢٠٢٦١٠ دقائق
إتقان Prompt Engineering: الفن والعلم في التواصل مع AI
غوص عميق في إتقان prompt engineering — من صياغة prompts فعالة إلى توسيع workflows AI بالموثوقية والأداء والدقة
نماذج اللغة والتكامل٤ ديسمبر ٢٠٢٥١١ دقيقة
System Prompts مقابل User Prompts: العمود الفقري الخفي لسلوك AI
System prompts مقابل user prompts: كيف يشكل كل منهما سلوك الذكاء الاصطناعي، ولماذا يهم هذا الفصل من أجل الأمان، وأنماط كتابة System prompts التي يمكنك إعادة استخدامها.
نماذج اللغة والتكامل١٨ نوفمبر ٢٠٢٥٩ دقائق
الحفاظ على مخرجات النماذج اللغوية الكبيرة قابلة للتوقع: هندسة الاستقرار في استجابات الذكاء الاصطناعي
تعلم كيفية جعل مخرجات النماذج اللغوية الكبيرة متسقة وموثوقة باستخدام الأوامر المنظمة، والتحكم في درجة الحرارة، والتحقق باستخدام Pydantic.

كل المقالات في #ai-safety (١٢)