في 16 يوليو 2026، كشفت شركة Hugging Face كشفت عن اكتشاف واحتواء اختراق مدفوع بالذكاء الاصطناعي في بنيتها التحتية. فقد استغل وكيل ذكاء اصطناعي مستقل سلسلة من الثغرات الأمنية في مسار معالجة مجموعات البيانات بالمنصة، مما أدى إلى تصعيد الوصول إلى مستوى العقد، وجمع بيانات اعتماد السحابة والمجموعات، والتحرك أفقياً عبر المجموعات الداخلية على مدار عطلة نهاية الأسبوع، مع تنفيذ آلاف الإجراءات الفردية عبر مجموعة كبيرة من الأجهزة الافتراضية القابلة للتصرف.
وبعد خمسة أيام، اعترفت شركة OpenAI بأنها المسؤولة عن الحادث. لم يكن السبب موظفًا متمردًا، ولا حساب شريك تعرض للاختراق — بل إن أحد نماذج الذكاء الاصطناعي الخاصة بها قد خرج عن بيئة الاختبار الداخلية، ووجد طريقه إلى شبكة الإنترنت المفتوحة، واخترق شركة حقيقية لغش في امتحان.
خلفية الهجوم: كيف تمكن نموذج الذكاء الاصطناعي من اختراق Sandbox
كانت شركة OpenAI تجري تقييمًا داخليًّا يُسمى ExploitGym، مصممًا لقياس مدى قدرة نماذجها على تحويل الثغرات المعروفة في البرمجيات إلى استغلالات فعالة. وللحصول على قراءة صادقة لقدرة النموذج في أسوأ السيناريوهات، أُجري الاختبار مع إيقاف تشغيل مصنفات الأمان الخاصة بالإنتاج، مما أدى إلى إزالة الضوابط التي لا تمنع عادةً النموذج من القيام بأنشطة إلكترونية عالية المخاطر. وشارك في الاختبار نموذجان: نموذج GPT-5.6 Sol الذي تم إصداره، ونموذج بحثي ما قبل الإصدار الأكثر قدرة، وكلاهما كان يعمل بحد أدنى من عمليات الرفض السيبراني لغرض الاختبار.
تاريخ | ماذا حدث؟ |
يوليو 9 2026 | تبدأ النماذج في استكشاف وكيل سجل الحزم في بيئة الاختبار «eval sandbox»، بحثًا عن مسار للتحايل على قائمة المواقع المسموح بها في الشبكة. |
يوليو 11 2026 | تتسلل النماذج عبر ثغرة «يوم الصفر» عبر وسيط إلى الإنترنت المفتوح، ثم تربط بيانات الاعتماد المسروقة وثغرات «يوم الصفر» الإضافية في مسار لتنفيذ التعليمات البرمجية عن بُعد على خوادم Hugging Face. |
يوليو 16 2026 | يقوم فريق الأمن في Hugging Face بالكشف عن الاختراق واحتوائه، ثم يبلغ السلطات المختصة بذلك لاحقًا. |
يوليو 21 2026 | أكدت شركة OpenAI علنًا أن نماذجها الخاصة هي المسؤولة عن هذا الاختراق. |
يوليو 28 2026 | تنشر OpenAI تحديثًا تؤكد فيه نطاق الاختراق الذي طال المنصة والخطوات التالية. |
وبمجرد الخروج من بيئة الاختبار المحمية، استنتجت النماذج أن موقع Hugging Face يُرجح أنه يستضيف مجموعات البيانات أو النماذج أو الرابط المرجعي حلول المرتبط بمعيار الأداء ExploitGym. ومن خلال ربط بيانات الاعتماد المسروقة والمعروضة علنًا بثغرات أمنية من نوع «صفر يوم»، تمكنوا من استخراج إجابات الاختبار مباشرةً من قاعدة بيانات Hugging Face الإنتاجية، مستخدمين في ذلك مواقع نشر الأكواد العامة، وموقع لقطات الشاشة أدوات ، وموقع التقاط الطلبات الخدمات لأغراض الإعداد والتحكم والتوجيه خلال العملية.
تمكن فريق الأمن التابع لـ Hugging Face من اكتشاف الاختراق واحتوائه قبل أن تتدخل OpenAI بأي شكل من الأشكال. وعندما حاولت Hugging Face استخدام نماذج تجارية متطورة للمساعدة في تحليل سجلات الهجوم، حجبت مرشحات الأمان الخاصة بمزودي الخدمة عملية التحليل، لأن الطلبات بدت مطابقة لطلبات المهاجمين الذين يرسلون حمولات استغلالية. وفي النهاية، اعتمدت Hugging Face على نموذج مفتوح الوزن مستضاف ذاتيًا للقيام بأعمال التحليل الجنائي بدلاً من ذلك.
"هذا الحادث، الذي يُحتمل أن يكون الأول من نوعه، يؤكد حقيقة لطالما آمنا بها: لن يتم حل مسألة سلامة الذكاء الاصطناعي من خلال عمل شركة واحدة في الخفاء. بل سيتم حلها في العلن، وبطريقة تعاونية، مع إتاحة وصول واسع النطاق إلى الذكاء الاصطناعي لكل مدافع، أينما كان."
كليم ديلانغالمؤسس المشارك والرئيس التنفيذي لشركة Hugging Face
لماذا لم تتمكن صناديق الرمل الخاصة بـ« Software » من احتواء نموذج الذكاء الاصطناعي؟
إذا تجاهلنا الجانب المبتكر في الأمر، فإن السبب الجذري مألوف: فقد تم تطبيق إجراءات الاحتواء بالكامل عبر البرامج. وتعد قائمة السماح على وكيل حزم البيانات قاعدة من القواعد. والقواعد تنطوي على حالات استثنائية، وأخطاء في التكوين، وكما أثبت هذا الحادث — ثغرات «يوم صفر». فالفاعل الذي يتمتع بالقدرة الكافية والحافز الكافي لا يحتاج إلى انتهاك القاعدة؛ بل يكفيه أن يجد الشرط الوحيد الذي لم يتوقعه واضع القاعدة.
وينطبق ذلك سواء كان «المهاجم» فردًا من فريق الاختبار التهديدي (Red Team)، أو جماعة إجرامية، أو — كما في هذه الحالة — نموذجًا لم يُطلب منه أبدًا مهاجمة أي شخص؛ فقد كان لديه ببساطة هدف (حل اختبار الأداء)، وقيود على الموارد (عدم وجود اتصال بالإنترنت)، وقدرة كافية على التعامل مع هذه القيود باعتبارها مجرد عقبة أخرى يمكن التغلب عليها. كان تعطيل مصنفات الأمان الخاصة بالنموذج لقياس قدرته الأولية أمرًا متعمدًا. أما ما لم يكن متعمدًا فهو الافتراض بأن حدود الشبكة المعرَّفة برمجيًّا ستصمد بمجرد زوال طبقة الأمان تلك.
احتواء الصمام الثنائي للبيانات: سد الفجوة Software لا يمكن
وهذا هو بالضبط نمط الفشل الذي صُممت تقنية «ديود البيانات» المُفروضة على مستوى الأجهزة للقضاء عليه. حيث يُفرض «الديود البصري» تدفقًا أحادي الاتجاه للبيانات على الطبقة المادية باستخدام واجهات مخصصة للإرسال (TX) والاستقبال (RX) متصلة عبر ألياف ضوئية. ونظرًا لعدم وجود مسار عودة مادي، فلا توجد قاعدة برمجية يمكن تجاوزها، ولا جلسة شبكة عكسية يمكن إنشاؤها، ولا منطق وكيل يمكن للمهاجم (أو وكيل ذكاء اصطناعي مستقل) استغلاله.
OPSWAT تطبق هذا المبدأ من خلال مكونات « حلول » المُحسَّنة لتناسب حالات الاستخدام المختلفة.
- يوفر MetaDefender™ Optical Diode اتصالاً شبكيًّا أحادي الاتجاه مدعومًا بالأجهزة لضمان نقل البيانات بشكل مستمر. يمكن للمؤسسات نقل بيانات القياس عن بُعد، وبيانات السجلات التاريخية، ومعلومات العمليات، والسجلات، والأحداث التشغيلية بأمان من البنية التحتية الحيوية إلى شبكات المؤسسة أو منصات تحليلات الذكاء الاصطناعي، مع جعل عودة حركة المرور إلى البيئة المحمية أمرًا مستحيلًا من الناحية المادية.
- يوفر MetaDefender™ Diode X نفس العزل أحادي الاتجاه الذي تفرضه الأجهزة لتأمين نقل الملفات. وبفضل التكامل مع MetaDefender Core، يتم فحص كل ملف وتفتيشه بحثًا عن البرامج الضارة وتطهيره باستخدام تقنية Deep CDR™ قبل نقله عبر الصمام الثنائي البصري. وهذا يمكّن المؤسسات من تبادل مجموعات بيانات تدريب الذكاء الاصطناعي وحزم البرامج والتقارير والوثائق وعينات البرامج الضارة والملفات الأخرى بأمان بين بيئات معزولة دون الكشف عن اتصال شبكي تقليدي.
سواء كان الهدف هو البث الآمن للبيانات التشغيلية إلى منصات الذكاء الاصطناعي أو النقل الآمن للملفات بين المناطق الأمنية، فإن الاتصال أحادي الاتجاه المُفرض عبر الأجهزة يقضي على فئة كاملة من الهجمات التي تعتمد على إنشاء مسار عودة.
وبمقارنة ذلك بسلسلة الهجوم الفعلية في هذه الحادثة، كان من شأن بنية احتواء تعتمد على الصمامات الثنائية أن تمنعها في كل مرحلة:
خطوة الهجوم | ما الذي مكن من ذلك | كيف يعمل الصمام الثنائي للبيانات على حجبها |
الهروب من صندوق الرمل | برنامج وكيل ثنائي الاتجاه يحتوي على ثغرة أمنية من نوع «صفر يوم» قابلة للاستغلال، مما أتاح طريقًا للوصول إلى شبكة الإنترنت العامة | بيئة معزولة تمامًا دون أي مخرج مادي. يمكن لسجل الحزم المُستضاف داخليًّا استلام البرامج والبيانات المعتمدة عبر «ديود أحادي الاتجاه»، في حين لا يوجد لدى النموذج أي مسار للوصول إلى الإنترنت أو الأنظمة الخارجية. |
حماية النسخة الأصلية | بيانات المصدر الحساسة و حلول الخاصة بالاختبار، والتي يمكن الوصول إليها من بيئة عمل الذكاء الاصطناعي | احتفظ بالبيانات المرجعية في منطقة محمية، ولا تنقل سوى النسخ المعتمدة إلى بيئة الذكاء الاصطناعي عبر صمام ثنائي أحادي الاتجاه. وتظل النسخة الأصلية غير قابلة للوصول إليها حتى في حالة تعرض بيئة العمل للاختراق. |
تسريب البيانات | بيئة عمل معرضة للخطر مع إمكانية الوصول إلى البيانات الحساسة واستخراجها وتصديرها | لا يمكن إلا للبيانات التي خضعت للفحص المسبق والحاصلة على الموافقة أن تغادر المنطقة المحمية عبر الصمام الثنائي. ولا يمكن لبيئة الذكاء الاصطناعي المخترقة الوصول إلى النسخة الأصلية أو إنشاء مسار عودة. |
تأمين الذكاء الاصطناعي باستخدام « Hardware » — العزل القسري
تُظهر حادثة OpenAI–Hugging Face أنه مع ازدياد استقلالية أنظمة الذكاء الاصطناعي، قد لا تكفي الضوابط التي تفرضها البرمجيات وحدها لاحتواء هذه الأنظمة. وسواء كان الأمر يتعلق بحماية سير عمل الذكاء الاصطناعي في المؤسسات أو البنية التحتية الحيوية، فإن المؤسسات تحتاج إلى حدود أمنية لا يمكن تجاوزها من خلال الثغرات البرمجية أو الأخطاء في التكوين أو عوامل الذكاء الاصطناعي التي تزداد قدراتها باستمرار.
OPSWATتساعد تقنية «ديود البيانات» ( حلول ) التي يتم فرضها على مستوى الأجهزة المؤسسات على نشر تقنيات الذكاء الاصطناعي بأمان مع الحفاظ على عزل شبكي قوي.
- MetaDefender Optical Diode يتيح النقل الآمن أحادي الاتجاه للبيانات التشغيلية من بيئات تكنولوجيا التشغيل (OT) وأنظمة التحكم الصناعية (ICS) إلى تطبيقات المؤسسة والمنصات السحابية وأنظمة تحليلات الذكاء الاصطناعي، مما يضمن بقاء الأنظمة الحيوية معزولة ماديًا عن التهديدات الواردة.
- MetaDefender Diode X، المدمج مع MetaDefender Core، يتيح نقل الملفات الآمن في اتجاه واحد عبر بيئات معزولة، حيث يتم فحص كل ملف والتحقق من صحته وتنقيته باستخدام تقنية Deep CDR™ قبل عبور الحدود التي تفرضها الأجهزة.
اكتشف كيف يساعد «ديود البيانات» من شركة « OPSWAT » حلول المؤسسات على اعتماد الذكاء الاصطناعي بأمان دون المساس بالعزل.
- MetaDefender Optical Diode – تعرف على الكيفية التي يحمي بها الاتصال أحادي الاتجاه المدعوم بالأجهزة البنية التحتية الحيوية، مع تمكين المراقبة والتحليلات والرؤية التشغيلية المدعومة بالذكاء الاصطناعي.
- MetaDefender Diode X – اكتشف كيف يتيح نقل الملفات الآمن والمدعوم بالأجهزة، المزود بفحص متكامل للبرامج الضارة وتقنية Deep CDR™، تبادل البيانات الموثوق به عبر البيئات المعزولة.
