تخطَّ إلى المحتوى
NerdLevelTech
الذكاء الاصطناعي والتعلم الآلي

OSWorld 2.0: أفضل وكلاء AI ينجزون ٢٠٫٦٪ فقط من المهام

يختبر OSWorld 2.0 عملاء AI في سير عمل يستغرق البشر ١٫٦ ساعة لإنجازه. وقد تمكن أفضل نموذج من إنهاء ٢٠٫٦٪ منها — وذلك بعد أن حقق نسبة ٨٣٫٤٪ في إصدار OSWorld الأقدم.

Nerd Level Techنُشر في ١٧ دقيقة للقراءةEnglish
صورة غلاف: OSWorld 2.0: أفضل وكلاء AI ينجزون 20.6% فقط من المهام

في سطر واحد: OSWorld 2.0 هو مقياس لاستخدام الكمبيوتر يتكون من ١٠٨ سير عمل حقيقي يستغرق الإنسان الماهر وسيطاً قدره ١٫٦ ساعة، وأفضل وكيل متطور أكمل ٢٠٫٦٪ منها من البداية إلى النهاية — وهو انهيار ناتج عن إدارة الحالة، وليس عن مهارة واجهة المستخدم الرسومية (GUI).

ملخص

قام فريق بقيادة XLANG Lab في جامعة هونج كونج، مع Snorkel AI كشريك في البحث والبيانات، بنشر OSWorld 2.0 على arXiv في ٢٨ يونيو ٢٠٢٦، مع مراجعته في ١٣ يوليو.١ وهو يستبدل مهام سطح المكتب القصيرة في OSWorld الأصلي بـ ١٠٨ سير عمل طويلة المدى تستغرق من البشر المهرة وسيطاً قدره حوالي ١٫٦ ساعة، مع ٦٩٫٦٪ منها تستغرق أكثر من ساعة.٢

النتيجة الرئيسية: عند ميزانية قدرها ٥٠٠ خطوة، يتصدر Claude Opus 4.8 مع أقصى قدر من التفكير واستدعاءات الأدوات المجمعة بنسبة إكمال ثنائية قدرها ٢٠٫٦٪ ودرجة جزئية ٥٤٫٨٪. أما GPT-5.5 فيثبت عند ١٣٪ — وهي نفس القيمة عند ١٥٠ و٣٠٠ و٥٠٠ خطوة.٣ وفي لوحة المتصدرين المعتمدة، لا يوجد نظام تم تقييمه يتجاوز ٢١٪ من البداية إلى النهاية.

تنبيه واحد قبل المتابعة، لأنه يتسبب بالفعل في ارتباك في التغطيات الثانوية: OSWorld 2.0 يذكر رقمين مختلفين، وغالباً ما تقتبس الشركات الرقم الأعلى. تضع مواد OpenAI الخاصة بـ GPT-5.6 Sol نسبة ٦٢٫٦٪ في OSWorld 2.0 — ولكن هذه هي الدرجة الجزئية، وليست الإكمال من البداية إلى النهاية.٤ المزيد حول سبب أهمية هذا التمييز أدناه.

الجزء المثير للاهتمام ليس الرقم المنخفض، بل لماذا هو منخفض. الورقة البحثية صريحة: الوكلاء لا "يتعثرون في التحكم الأساسي في واجهة المستخدم الرسومية أو البرمجة"، بل "يفقدون تتبع القيود، ويفوتون المعلومات التي تصل في منتصف المهمة، ويخمنون بدلاً من سؤال المستخدم، ويتجاوزون عملية التحقق".١ لقد انتقلت نقطة الاختناق من الإدراك إلى الذاكرة.

ما ستتعلمه

  • ما الذي يقيسه OSWorld 2.0 وكيف يختلف عن OSWorld الأصلي
  • لماذا يحقق نفس النموذج درجة ٨٣٫٤٪ في أحد إصدارات OSWorld و20.6% في الآخر
  • النقطة الدقيقة على المحور الزمني التي ينهار عندها إكمال الوكيل إلى الصفر
  • أنماط الفشل التي يعزلها المقياس، مع أمثلة حقيقية لمسارات التنفيذ
  • لوحة المتصدرين الكاملة، بما في ذلك تكلفة كل عملية تقييم
  • لماذا تكون درجات OSWorld 2.0 التي تقتبسها الشركات أعلى بـ ٣ مرات من لوحة المتصدرين
  • التحذيرات المنهجية — بما في ذلك النماذج المفقودة
  • ما الذي يجب تغييره إذا كنت تقوم بإطلاق وكلاء يعملون لفترات طويلة

ما الذي يقيسه OSWorld 2.0 فعلياً

OSWorld 2.0 هو مقياس يقيم وكلاء استخدام الكمبيوتر بناءً على سير عمل مهني كامل بدلاً من إجراءات سطح مكتب معزولة. كل مهمة من مهامه الـ ١٠٨ هي وظيفة من البداية إلى النهاية — مثل تقديم طلب استرداد أموال، أو تسوية موافقات الشراء، أو بناء نموذج CAD وفقاً لرسم هندسي — يتم تنفيذها عبر تطبيقات سطح المكتب و٣١ موقعاً إلكترونياً مستضافاً ذاتياً.٢

تغيير المقياس مقارنة بـ OSWorld 1.0 هو الهدف الأساسي. كانت المهام في الإصدار الأصلي تستغرق في المتوسط أقل من ٣٠ خطوة للوكيل. أما OSWorld 2.0 فيستغرق في المتوسط أكثر من ٢٥٠ خطوة.٢ وبالقياس من خلال استدعاءات الأدوات، تستغرق المهمة الواحدة في المتوسط ٣١٨ استدعاءً مع Claude Opus 4.7 عند أقصى قدر من التفكير، مقابل حوالي ٣٠ في الإصدار 1.0 — أي حوالي عشر أضعاف الحمل التشغيلي.١

تغير نظام التقييم أيضاً. كان الإصدار 1.0 ثنائياً: إما أن تنهي المهمة أو لا. أما OSWorld 2.0 فيقدم كلاً من معدل الإكمال الثنائي ودرجة جزئية يتم حساب متوسطها عبر ٢٧٫٢٥ نقطة تفتيش لكل مهمة، منها ١١٫٥٣٪ تأتي من فحوصات معتمدة قائمة على النماذج بدلاً من المقيمين الحتميين.٢

تغطي المهام الـ ١٠٨ سبعة مجالات مهنية و٢١ فئة فرعية — البحث، الإنتاج الإبداعي، الهندسة، الخدمات الشخصية، الأعمال والتمويل، الإدارة والامتثال، والرعاية الصحية. قام المؤلفون بربطها بالعائلات الوظيفية واستخدموا مؤشر فاتورة الأجور في الناتج المحلي الإجمالي بقيمة ١٫٦٤ تريليون دولار لإثبات أن مجموعة البيانات تغطي أعمالاً حقيقية من الناحية الاقتصادية.٥

هناك مسار عمل منفصل يجري ثمانية فحوصات تشخيصية للسلامة لكل مسار، ويتم تقييمها بشكل مستقل عن إكمال المهمة — بحيث يظل العميل الذي يصل إلى النتيجة الصحيحة بوسائل غير آمنة مرئياً.٢

نفس النموذج، معياران مختلفان، وفارق ٦٣ نقطة

إليك المقارنة التي تجعل OSWorld 2.0 جديراً باهتمامك. كل صف يمثل نموذجاً واحداً، تم قياسه بناءً على معيارين، وكلا الرقمين محدثان.

النموذجOSWorld-VerifiedOSWorld 2.0 (ثنائي، ٥٠٠ خطوة)الفجوة
Claude Opus 4.8٨٣٫٤٪٦٢٠٫٦٪٣٦٢٫٨ نقطة
GPT-5.5٧٨٫٧٪٦١٣٪٣٦٥٫٧ نقطة

حقق نموذج Claude Opus 4.8، الذي صدر في ٢٨ مايو ٢٠٢٦، درجة ٨٣٫٤٪ في OSWorld-Verified.٦ وللمرجعية، ذكرت ورقة OSWorld الأصلية لعام ٢٠٢٤ خط أساس بشري بنسبة ٧٢٫٣٦٪ — رغم أن هذا الرقم تم قياسه على مجموعة المهام الكاملة المكونة من ٣٦٩ مهمة، وليس على المجموعة الفرعية المعتمدة (Verified)، لذا تعامل معه كمؤشر تقريبي وليس كمقارنة متطابقة.٧ أما في OSWorld 2.0، فينهي نفس النموذج ٢٠٫٦٪ من المهام. هذا يمثل فارقاً قدره ٦٢٫٨ نقطة. وبالنسبة لـ GPT-5.5، الذي صدر في ٢٣ أبريل ٢٠٢٦، فإن الفارق هو ٦٥٫٧ نقطة.٨٩

هذا ليس تراجعاً في الأداء، وليس مقارنة متكافئة تماماً — فمجموعات المهام مختلفة، والمقيمون مختلفون، وأدوات الاختبار مختلفة. ما يقيسه هذا هو مدى كون درجة المعيار دالة في طول المهمة. ثبت النموذج، ووسع الأفق من ثلاثين خطوة إلى مائتين وخمسين، وستجد أن ما بين ثلاثة أرباع وأربعة أخماس القدرة الظاهرية قد اختفت.

من الجدير بالذكر وبوضوح: أن أرقام OSWorld-Verified هي تقارير ذاتية من الموردين. فالمتتبع الذي يجمع هذه البيانات يدرج ٢١ نتيجة مُبلغ عنها ذاتياً وصفر نتيجة تم التحقق منها بشكل مستقل.٦ كما قامت Anthropic بتغيير طريقة تشغيل التقييم لإصدار Opus 4.8، حيث أعادت صياغة درجة Opus 4.7 لترتفع إلى ٨٢٫٣٪ بموجب نظام الاختبار الجديد — لذا فإن جزءاً من أي مكسب جيلي هناك يعود للمنهجية، وليس للموديل.٨

جدار الأفق

أكثر النتائج ملموسية في هذا المقياس هي وجود جدار على محور الوقت، وقد رسم المؤلفون بدقة مكان وجوده.

في المهام التي ينهيها البشر في أقل من ٤٥ دقيقة، يصل GPT-5.5 و Claude Opus 4.7 إلى نسبة إكمال ثنائية تتراوح بين ٢٠-٢٤٪.٥ ثم ينخفض الأداء بشكل مطرد. وبحلول الفئة الزمنية ١٣٧-١٦٣ دقيقة، لا يتجاوز أي موديل نسبة ١٠٪. وما فوق ١٦٣ دقيقة، تنخفض نسبة الإكمال الثنائية إلى صفر لكل موديل تم الاحتفاظ به في الرسم البياني.٥

أما الدرجات الجزئية فتروي قصة أخف وطأة: فهي تتجمع في نطاق ٢٠-٥٥٪ عبر كل نظام تم تقييمه.٢ العملاء البرمجيون (Agents) لا يتخبطون؛ بل يحققون تقدماً ملموساً ومثبتاً بنقاط تفتيش في كل مهمة تقريباً — ثم يفشلون في إتمامها.

التكلفة تتزايد بشكل أسوأ من القدرة. يشير تحليل Snorkel إلى أن تجاوز عتبة الدرجة الجزئية بنسبة ٥٠٪ يتطلب توكنز (tokens) أكثر بعشرة أضعاف مما يتطلبه الوصول إلى ٢٥٪.٢ إن شراء المرحلة الأخيرة من التقدم مكلف بشكل غير متناسب.

أين ينهار العملاء البرمجيون

قام المؤلفون بتصنيف كل مهمة بظواهر تحديات متكررة، مما يحول عبارة "فشل العميل البرمجي" إلى شيء يمكن تشخيصه. وهذه هي الظواهر الخمس الأكثر شيوعاً عبر ١٠٨ مهام:٥

ظاهرة التحديالمهامالحصة
الاستدلال عبر المصادر٤٦٤٢٫٦٪
الدقة البصرية-المكانية٤٥٤١٫٧٪
استنتاج الحالة الضمنية٤٣٣٩٫٨٪
تتبع حالة عناصر متعددة٤٣٣٩٫٨٪
إزالة غموض التعارض٣٩٣٦٫١٪

تتداخل التصنيفات — حيث يمكن أن تحمل المهمة الواحدة عدة تصنيفات — لكن النمط ثابت: الجزء الصعب هو التوفيق بين الحقائق المبعثرة عبر البريد الإلكتروني والمستندات والسجلات والرسائل السابقة، واستعادة حالة لم يذكرها أحد في الأمر (prompt).

وتجعل مسارات الفشل المنشورة الأمر ملموساً. في Task035، يقوم عميل برمجي بتجميع ورقة طلب شراء من رسائل دردشة الفريق وجدول بيانات، ويلاحظ وصول موافقة متأخرة في منتصف التشغيل، فيقوم بتصنيفها كاستثناء لمرة واحدة، ثم ينفذ بناءً على الجدول القديم الذي أنشأه سابقاً. ويؤكد التحقق الذاتي النهائي قصته الداخلية المكونة من خمسة صفوف بدلاً من المتطلبات الفعلية — وبذلك يثبت صحة مستند يفتقد إلى طلب معتمد.٥

في Task008، يستمر عميل يقوم بجمع أدلة استرداد المصروفات في توسيع نطاق بحثه، وينحرف لكتابة سكريبت لإنشاء مستند بعد أن أعاد API الخطأ ٤٠٤، ولا ينتقل إلى تطبيق المصروفات المستهدف إلا في الخطوة ٤٤٦ من ميزانية مكونة من ٥٠٠ خطوة — مع تحميل النموذج نفسه في الخطوة ٤٥٩. وينتهي التشغيل بمحاولة هندسة عكسية لحقل تاريخ للقراءة فقط. كانت كل خطوة فردية منطقية، لكن الوقت المتاح نفد قبل التسليم.٥

هذا هو الخيط الرابط. هذه ليست إخفاقات في التثبيت (grounding). بل هي إخفاقات في معرفة متى يجب التوقف عن الجمع، وما الذي يجب إعادة فحصه، وأي استنتاج سابق أصبح الآن باطلاً.

لوحة المتصدرين الكاملة

عند ميزانية ٥٠٠ خطوة، عشرة تكوينات عبر سبعة نماذج:٣

النموذجالجهدالنهجثنائي (Binary)جزئيالتكلفة التقديرية
Claude Opus 4.8maxBatched tool٢٠٫٦٪٥٤٫٨٪n/a
Claude Opus 4.8maxStandard١٨٫٥٢٪٤٩٫٣٣٪n/a
Claude Opus 4.7maxBatched tool١٨٫٢٪٤٨٫٩١٪n/a
Claude Opus 4.7maxStandard١٣٫٩٪٤٩٫١٪$3.87K
GPT-5.5xhighBatch tool١٣٪٤٩٫٥٪$2.75K
Claude Sonnet 4.6mediumStandard٩٫٣٪٣٣٫٩٪$1.55K
Claude Sonnet 4.6maxStandard٨٫٣٪٤١٫٥٪$2.41K
MiniMax M3enabledStandard٤٫٦٪٢٢٫٣٪$258.78
Kimi K2.6enabledStandard٤٫٦٪٢٢٫١٪$708
Qwen3.7-PlusthinkingStandard٢٫٨٪٢١٫٥٪$411.56

هناك تفصيلان يستحقان الانتباه. استدعاءات الأدوات المجمعة (Batched tool calls) تحقق نقاطاً حقيقية — حيث يكتسب Opus 4.8 ما يزيد قليلاً عن نقطتين ويكتسب Opus 4.7 حوالي ٤٫٣ نقطة مقارنة بتكويناتهما القياسية، وذلك فقط من خلال طريقة إصدار الاستدعاءات.

و GPT-5.5 لا يتحرك على الإطلاق مع زيادة الخطوات: ١٣٪ عند ١٥٠ و٣٠٠ و٥٠٠ خطوة.٣ إنه صاحب أعلى نتيجة عند ميزانية ١٥٠ خطوة — حيث يحقق ثاني أفضل نظام نسبة ٤٫٦٪ — وفي الوقت نفسه هو النظام الوحيد الذي لا يستفيد شيئاً من زيادة عدد الخطوات المسموح بها. تصفه الورقة البحثية بأنه "أكثر كفاءة بكثير في استخدام التوكنز (tokens)"، وهذه الكفاءة حقيقية؛ لكنها ببساطة لا تؤدي إلى إكمال مهام إضافية.١٣

الرقمان اللذان يخلط بينهما الجميع

لقد تم قياس النماذج الأحدث على OSWorld 2.0 — ولكن ليس على لوحة المتصدرين الثنائية المعتمدة، وليس باستخدام نفس المقياس. هذا هو الموضع الذي تخطئ فيه معظم التغطيات الحالية، لذا يستحق الأمر شرحه بعناية.

يتضمن إعلان OpenAI عن GPT-5.6، المنشور في ٩ يوليو ٢٠٢٦، جدولاً لاستخدام الكمبيوتر يحتوي على صف خاص بـ OSWorld 2.0:٤

الموديلOSWorld 2.0 (جدول OpenAI)
GPT-5.6 Sol٦٢٫٦٪
GPT-5.6 Terra٥٠٫٢٪
GPT-5.6 Luna٤٥٫٦٪
Claude Opus 4.8٥٤٫٨٪
GPT-5.5٤٧٫٥٪

انظر إلى صف Claude Opus 4.8: ٥٤٫٨٪. هذه هي بالضبط درجة Opus 4.8 الجزئية في لوحة صدارة Snorkel — حيث تبلغ نسبة الإكمال الثنائي (binary completion) الخاصة به ٢٠٫٦٪.٣ OpenAI تقوم بتقديم مقياس الائتمان الجزئي (partial-credit metric).

وبالتالي، فإن نسبة ٦٢٫٦٪ لـ GPT-5.6 Sol هي درجة جزئية، والمقارنة العادلة هي ٦٢٫٦٪ مقابل ٥٤٫٨٪ لـ Opus 4.8 — وهو مكسب يقارب ٨ نقاط في الائتمان الجزئي، وليس مضاعفة ثلاث مرات للإكمال من البداية للنهاية. تذكر OpenAI المقارنة بشكل صحيح، مشيرة إلى أن Sol "يتفوق على Opus 4.8 مع استخدام توكنات مخرجات أقل بنسبة ٨٥٪".٤

نشرت Anthropic نتيجة OSWorld 2.0 لـ Claude Opus 5 في ٢٤ يوليو، وأفادت بأنه "يتفوق على كل موديل آخر عند أي تكلفة محددة، متجاوزاً أفضل نتيجة لـ Fable 5 بتكلفة تزيد قليلاً عن الثلث".١٠ تُنشر مخططات Anthropic كصور بدلاً من جداول نصية، لذا لا يظهر رقم مطلق في نص الإعلان. الأرقام المتداولة على نطاق واسع من جهات خارجية والتي تبلغ حوالي ٧٠٪ لـ Opus 5 تربطه بقيمة Opus 4.8 تقارب ٥٥٫٧٪ — مرة أخرى، هذا مقياس الدرجة الجزئية، وليس الثنائي.

أين يكمن الخلل في التطبيق العملي: يقوم مجمع بيانات واحد على الأقل الآن بنشر جدول OSWorld 2.0 واحد يدرج GPT-5.6 Sol بنسبة ٦٢٫٦٪ إلى جانب Claude Opus 4.8 بنسبة ٢٠٫٦٪، واصفاً العمود بأنه "الإكمال الثنائي". هذان الرقمان يأتيان من مقاييس مختلفة. إذا قرأت هذا الجدول كما هو، ستستنتج أن GPT-5.6 ضاعف مستوى التطور التقني ثلاث مرات في ثلاثة أسابيع. وهذا لم يحدث.

الملخص القابل للدفاع عنه: في الإكمال الثنائي من البداية للنهاية، لا تزال أفضل نتيجة تم التحقق منها هي ٢٠٫٦٪، وحتى ٣١ يوليو ٢٠٢٦، لم ينشر أي موديل أحدث رقماً للإكمال الثنائي. وفي الائتمان الجزئي، يتصدر GPT-5.6 Sol بنسبة ٦٢٫٦٪ ويدعي Opus 5 نتيجة أفضل. لا تقارن أبداً بين المقياسين.

ما لا يخبرك به المقياس المرجعي

أربعة تحذيرات إضافية.

لوحة الصدارة الموثقة تتأخر عن النماذج الرائدة. اعتباراً من تحديث ٢٨ يوليو، فإن أعلى إدخال في Snorkel هو Claude Opus 4.8 (٢٨ مايو ٢٠٢٦). تم إطلاق Claude Fable 5 في ٩ يونيو، وGPT-5.6 في ٩ يوليو، وClaude Opus 5 في ٢٤ يوليو.٨١٠١١٤ نتائج OSWorld 2.0 الخاصة بهم تم تشغيلها والإبلاغ عنها من قبل الموردين، ولم يتم التحقق منها بشكل مستقل من خلال عملية التقييم الخاصة بالمشروع.

OSWorld 2.0 ليس أول مقياس مرجعي للعملاء (agents) ذوي الأفق الطويل. تستهدف OS-Marathon و Odysseys و Long-Horizon-Terminal-Bench جميعاً مجالات متداخلة.١٢١٣١٤ ما يضيفه OSWorld 2.0 هو مجموعة البيئات المستضافة ذاتياً، والائتمان الجزئي على مستوى نقاط التفتيش (checkpoint)، وتصنيف ظواهر التحديات — وليس الفكرة نفسها.

الملخص يتناقض مع نفسه في رقم واحد. موقع المشروع يضع GPT-5.5 "قرب ١٤٪"؛ بينما يقول ملخص arXiv v2 "قرب ١٣٪".١٥ لوحة الصدارة تحسم الأمر عند ١٣٪، وهذا هو الرقم المستخدم هنا.٣ كما تختلف الدرجات الجزئية للمورد ولوحة الصدارة قليلاً لنفس النموذج — GPT-5.5 حقق ٤٩٫٥٪ في Snorkel و ٤٧٫٥٪ في جدول OpenAI، مما يعكس عمليات تشغيل مختلفة.٣٤

فئات المهام مقيدة. يتم إرسال تعريفات المهام الرسمية عبر مجموعة بيانات Hugging Face مقيدة للحد من تسريب المعايير المرجعية، بينما تظل الأكواد والوثائق عامة. يتطلب التواجد في لوحة الصدارة تشغيل تقييم منسق أو تقديم مسار من مؤسسة موثوقة.٢

ماذا يعني هذا إذا كنت تقوم بإطلاق عملاء ذكيين (Agents)

القراءة العملية هي أن طول الأفق، وليس اختيار النموذج، هو المتغير الذي يحدد ما إذا كان العميل الخاص بك سينهي المهمة أم لا.

حدد الميزانية بناءً على مدة المهمة، وليس نوعها. فوق ٢ ساعة و ٤٥ دقيقة تقريباً من وقت العمل البشري، ينخفض معدل الإكمال الثنائي إلى صفر لكل نموذج في المخطط المنشور — وهو بالفعل أقل من ١٠٪ بعد حوالي ساعتين وربع.٥ قم بتفكيك العمل، أو ضع نقطة تفتيش في المنتصف.

امنح العميل حالة مستدامة (Durable State). في كل مسار من مسارات الفشل الثلاثة التي نشرها المؤلفون، يثق العميل في ملخصه التراكمي أكثر من ثقته في البيئة.٥ وجود مجموعة عمل تعيش خارج نافذة السياق — ويتم إعادة قراءتها، لا تذكرها فقط — يعالج نمط الفشل هذا بشكل مباشر. منشورنا حول أنظمة ذاكرة العملاء الذكيين من Microsoft و Huawei يغطي كيف يبدو هذا البناء التحتِي حالياً.

فرض إعادة التحقق قبل الإجراءات النهائية. فشلت المهمة Task035 في فحصها النهائي لأنها تحققت من نموذجها الداخلي بدلاً من المتطلبات. خطوة تحقق تعيد قراءة المصادر بدلاً من ملاحظات العميل كانت ستكشف ذلك.

التصميم مع مراعاة المقاطعات. ٩٫٣٪ فقط من مهام OSWorld 2.0 مصنفة كـ "بيئة ديناميكية" — أي وصول معلومات جديدة في منتصف التشغيل — ومع ذلك، توفر هذه الفئة واحداً من مسارات الفشل الثلاثة التي اختار المؤلفون نشرها.٥ إذا كان سير عملك يتصل بصندوق وارد مباشر أو قناة دردشة، افترض أن الخطة ستصبح قديمة في منتصف التنفيذ.

راقب التكلفة، وليس الدقة فقط. أغلى عملية تشغيل أبلغ عنها Snorkel في هذه المجموعة هي ٣٫٨٧ ألف دولار، وأعلى تكوينين في النقاط لم يذكرا أي رقم للتكلفة على الإطلاق.٣ اقرأ ذلك جنباً إلى جنب مع التكلفة الفعلية لمهمة العميل الواحد من حيث التوكنز (tokens) قبل الالتزام بتصميم طويل الأفق.

للمقارنة في صياغة الأمور، تغطيتنا السابقة لـ تجاوز GPT-5.4 للمستوى البشري في استخدام الكمبيوتر تصف الصورة قصيرة الأفق التي بُني OSWorld 2.0 لتعقيدها.

الخلاصة

لا يظهر OSWorld 2.0 أن وكلاء استخدام الكمبيوتر أصبحوا أسوأ. بل يظهر أن المقياس الذي كان الجميع يستشهد به كان يقيس مشكلة أقصر من تلك التي تشتريها الشركات.

يمكن لنموذج أن يحقق درجة في الثمانينيات في مهام سطح المكتب المكونة من ٣٠ خطوة، ومع ذلك لا ينهي سوى واحد من كل خمسة سير عمل حقيقي من البداية إلى النهاية. الفجوة بين هذين الرقمين — ٦٢٫٨ نقطة لـ Claude Opus 4.8 — هي الحجم الحقيقي للمسافة بين العرض التجريبي والنشر الفعلي في الوقت الحالي.

الجانب المشجع هو أن الدرجات الجزئية تتراوح بين ٢٠٪ و ٥٥٪ في لوحة المتصدرين المعتمدة، والدرجات الجزئية التي أبلغ عنها الموردون لأحدث النماذج أعلى من ذلك. الوكلاء يقومون بمعظم العمل. ما ينقصهم هو الانضباط في تتبع ما تغير، وإعادة التحقق قبل الاعتماد، والسؤال عندما تتعارض الأدلة. هذه مشكلات هندسية ذات أشكال معروفة — حالة مستديمة، تحقق إجباري، نقاط تفتيش بشرية — وليست جداراً يتطلب كسر جيل النماذج القادم.

نقطة البيانات التي لا تزال مفقودة هي رقم إكمال ثنائي تم التحقق منه بشكل مستقل لـ Opus 5 أو Fable 5 أو GPT-5.6. وإلى أن يتوفر ذلك، فإن نسبة ٢٠٫٦٪ هي الرقم الذي يجب التخطيط بناءً عليه — وأي رقم من OSWorld 2.0 تراه مقتبساً فوق ٤٥٪ تقريباً هو على الأرجح درجة جزئية، وليس عملاً مكتملاً.


الأسئلة الشائعة

ما هو OSWorld 2.0؟

هو مقياس أداء يتكون من ١٠٨ سير عمل طويلة المدى لاستخدام الكمبيوتر عبر سبعة مجالات مهنية، تم بناؤه بواسطة XLANG Lab في جامعة هونج كونج مع Snorkel AI كشريك بحثي وبيانات. تعمل المهام عبر تطبيقات سطح المكتب و٣١ موقعاً مستضافاً ذاتياً، ويستغرق البشر المهرة في تنفيذها وسطياً حوالي ١٫٦ ساعة.

ما هي أفضل نتيجة في OSWorld 2.0؟

يعتمد ذلك على المقياس المستخدم. فيما يخص الإكمال الثنائي الشامل (end-to-end binary completion)، يتصدر Claude Opus 4.8 مع أقصى قدر من التفكير واستدعاءات الأدوات المجمعة قائمة المتصدرين الموثقة بنسبة ٢٠٫٦٪ عند ميزانية ٥٠٠ خطوة، ولا يتجاوز أي نظام تم تقييمه نسبة ٢١٪. أما بالنسبة للدرجات الجزئية، فقد ذكرت OpenAI أن GPT-5.6 Sol حقق ٦٢٫٦٪، مقابل ٥٤٫٨٪ لـ Opus 4.8. هذان المقياسان غير قابلين للمقارنة.

لماذا تحقق الوكلاء (agents) نتائج أقل بكثير في OSWorld 2.0 مقارنة بـ OSWorld-Verified؟

بسبب طول المهمة. كانت مهام OSWorld 1.0 تستغرق في المتوسط أقل من ٣٠ خطوة للوكيل؛ بينما يبلغ متوسط OSWorld 2.0 أكثر من ٢٥٠ خطوة. وتعزو الورقة البحثية هذا الانخفاض إلى فشل في إدارة الحالة — مثل فقدان القيود، وتفويت تحديثات منتصف المهمة، والتخمين بدلاً من السؤال، وتخطي التحقق — وليس بسبب ضعف التحكم في واجهة المستخدم الرسومية (GUI).

كيف يتم حساب الدرجات في OSWorld 2.0؟

عبر مقياسين: الإكمال الثنائي (نجاح صارم من البداية للنهاية) ودرجة جزئية يتم حساب متوسطها عبر ٢٧٫٢٥ نقطة تفتيش لكل مهمة. كلاهما يقيم الحالة النهائية للبيئة بدلاً من تسلسل نقرات محدد. تساهم عمليات التحقق القائمة على النماذج بنسبة ١١٫٥٣٪ من الدرجة؛ والباقي يتم بشكل حتمي.

عند أي طول للمهمة تتوقف الوكلاء عن إكمال المهام؟

ينخفض معدل الإكمال بشكل مطرد بعد ٤٥ دقيقة، ويهبط إلى أقل من ١٠٪ لجميع النماذج في الفئة الزمنية ما بين ١٣٧ و١٦٣ دقيقة، ويصل إلى الصفر فوق ١٦٣ دقيقة لكل نموذج تم الاحتفاظ به في الرسم البياني المنشور.

هل Claude Opus 5 موجود في قائمة متصدري OSWorld 2.0؟

ليس في قائمة المتصدرين الموثقة حتى تحديث ٢٨ يوليو ٢٠٢٦، حيث يظل Opus 4.8 في الصدارة. لكن Anthropic نشرت نتيجتها الخاصة لـ Opus 5 في OSWorld 2.0 في ٢٤ يوليو، وأفادت بأنه يتفوق على كل النماذج الأخرى عند أي تكلفة محددة ويتجاوز أفضل نتيجة لـ Fable 5 بنحو ثلث التكلفة فقط — ولكن تم ذلك عبر صورة رسم بياني، دون ذكر رقم مطلق في نص الإعلان.

لماذا يذكر الموردون أرقاماً أعلى بكثير لـ OSWorld 2.0؟

لأنهم يذكرون الدرجة الجزئية بدلاً من الإكمال الثنائي. يدرج جدول OpenAI نموذج Claude Opus 4.8 بنسبة ٥٤٫٨٪ في OSWorld 2.0، وهو ما يطابق تماماً الدرجة الجزئية لـ Opus 4.8 في قائمة المتصدرين الموثقة، مقابل ٢٠٫٦٪ للإكمال الثنائي. أي رقم في نطاق ٤٥-٦٥٪ يمثل درجة جزئية؛ أما الرقم القريب من ٢٠٪ فيمثل إكمالاً شاملاً من البداية للنهاية.

هل يمكنني تشغيل OSWorld 2.0 بنفسي؟

نعم. إطار عمل البيئة، ومشغلات النماذج، وأدوات التقييم مفتوحة المصدر مع Docker وصور AWS. يتم توزيع فئات المهام الرسمية من خلال مجموعة بيانات Hugging Face مقيدة لتقليل التسريب، ويتطلب الترتيب المعتمد في لوحة المتصدرين تشغيل تقييم منسق أو تقديم مسار العمل.

المراجع

  1. Yuan, M., Zhou, Z., Xiong, X., et al. "OSWorld 2.0: Benchmarking Computer Use Agents on Long-Horizon Real-World Tasks." arXiv:2606.29537, submitted June 28, 2026, revised July 13, 2026. https://arxiv.org/abs/2606.29537 ↩ ↩2 ↩3 ↩4 ↩5 ↩6 ↩7

  2. Snorkel AI، "OSWorld 2.0: Long-Horizon Computer-Use Benchmark"، صفحة لوحة المتصدرين والمنهجية، تم التحديث في ٢٨ يوليو ٢٠٢٦. https://snorkel.ai/leaderboard/os-world-2-0/ ↩ ↩٢ ↩٣ ↩٤ ↩٥ ↩٦ ↩٧ ↩٨ ↩٩ ↩١٠ ↩١١ ↩١٢

  3. لوحة متصدري OSWorld 2.0، نتائج 150/300/500 خطوة، Snorkel AI، تم التحديث في ٢٨ يوليو ٢٠٢٦. https://snorkel.ai/leaderboard/os-world-2-0/ ↩ ↩٢ ↩٣ ↩٤ ↩٥ ↩٦ ↩٧ ↩٨ ↩٩ ↩١٠ ↩١١ ↩١٢ ↩١٣

  4. OpenAI، "GPT-5.6: ذكاء رائد يتوسع مع طموحك،" ٩ يوليو ٢٠٢٦ — يسرد جدول استخدام الكمبيوتر درجات OSWorld 2.0 بنسبة ٦٢٫٦٪ (Sol)، و٥٠٫٢٪ (Terra)، و٤٥٫٦٪ (Luna)، و٤٧٫٥٪ (GPT-5.5) و٥٤٫٨٪ (Claude Opus 4.8). https://openai.com/index/gpt-5-6/ ↩ ↩٢ ↩٣ ↩٤ ↩٥ ↩٦ ↩٧

  5. موقع مشروع OSWorld 2.0، مختبر XLANG، جامعة هونج كونج — إحصائيات المهام، ظواهر التحدي، النتائج الرئيسية ومسارات الفشل. https://osworld-v2.xlang.ai/ ↩ ↩٢ ↩٣ ↩٤ ↩٥ ↩٦ ↩٧ ↩٨ ↩٩ ↩١٠ ↩١١

  6. لوحة صدارة OSWorld-Verified، إحصائيات LLM، آخر تحديث ٢٦ يوليو ٢٠٢٦ (٢١ نموذجًا، جميعها تقارير ذاتية، ولم يتم التحقق من أي منها بشكل مستقل). https://llm-stats.com/benchmarks/osworld-verified ↩ ↩٢ ↩٣ ↩٤

  7. Xie, T., Zhang, D., Chen, J., وآخرون. "OSWorld: قياس أداء الوكلاء متعددي الوسائط للمهام المفتوحة في بيئات الكمبيوتر الحقيقية." arXiv:2404.07972، ١١ أبريل ٢٠٢٤ — ٣٦٩ مهمة، ٧٢٫٣٦٪ كخط أساس بشري، ١٢٫٢٤٪ لأفضل نموذج عند النشر. https://arxiv.org/abs/2404.07972 ↩

  8. Anthropic، "Introducing Claude Opus 4.8"، ٢٨ مايو ٢٠٢٦ — بما في ذلك الحاشية التي تعيد تحديد درجة OSWorld-Verified لـ Opus 4.7 لتصبح ٨٢٫٣٪ بموجب نظام اختبار مُعدل. https://www.anthropic.com/news/claude-opus-4-8 ↩ ↩٢ ↩٣

  9. OpenAI، "Introducing GPT-5.5"، ٢٣ أبريل ٢٠٢٦ — يدرج جدول استخدام الكمبيوتر والرؤية GPT-5.5 بنسبة ٧٨٫٧٪ في OSWorld-Verified و Claude Opus 4.7 بنسبة ٧٨٫٠٪. https://openai.com/index/introducing-gpt-5-5/ ↩

  10. Anthropic، "Introducing Claude Opus 5"، ٢٤ يوليو ٢٠٢٦ — بما في ذلك ادعاء OSWorld 2.0 بأن Opus 5 "يتفوق على أي نموذج آخر عند أي تكلفة محددة، متجاوزاً أفضل نتيجة لـ Fable 5 بما يزيد قليلاً عن ثلث التكلفة". https://www.anthropic.com/news/claude-opus-5 ↩ ↩٢ ↩٣

  11. Anthropic، "Claude Fable 5 and Claude Mythos 5"، تم الإعلان عنها في ٩ يونيو ٢٠٢٦. https://www.anthropic.com/news/claude-fable-5-mythos-5 ↩

  12. "OS-Marathon: Benchmarking Computer-Use Agents on Long-Horizon Repetitive Tasks." arXiv:2601.20650. https://arxiv.org/abs/2601.20650 ↩

  13. "Odysseys: Benchmarking Web Agents on Realistic Long Horizon Tasks." arXiv:2604.24964. https://arxiv.org/abs/2604.24964 ↩

  14. "Long-Horizon-Terminal-Bench: Testing the Limits of Agents on Long-Horizon Terminal Tasks with Dense Reward-Based Grading." arXiv:2607.08964. https://arxiv.org/abs/2607.08964 ↩

ابقَ على مسار النيرد

رسالتان كلّ أسبوع: شرح معمّق لموضوع واحد يوم الاثنين، وملخّص يوم الخميس للدورات والأدلّة والمقالات والبودكاست والوظائف.

بدون إزعاج. إلغاء الاشتراك في أي وقت.