يُعد «مسح نماذج LLM» إحدى إمكانيات منصة Aether™ من شركة « MetaDefender »، والتي تعمل على فحص ملفات نماذج الذكاء الاصطناعي المُدرَّبة مسبقًا بحثًا عن التهديدات الخفية قبل نشرها. وتجمع هذه الإمكانية بين التحليل الثابت لهيكل النموذج والتحليل الديناميكي لسلوك النموذج أثناء التشغيل، مما يوفر لفرق الأمن وسيلة لفحص نماذج الجهات الخارجية بنفس الطريقة التي تفحص بها أي ملف آخر يدخل الشبكة. |
|---|
الماخذ الرئيسية
- MetaDefender تقوم منصة « Adaptive » من شركة AetherSandbox باكتشاف التهديدات من نوع «صفر يوم» من خلال «التفجير السلوكي»، وليس عن طريق مطابقة التوقيعات، وتقوم بتغذية تلك المعلومات الاستخباراتية في مسار معالجة التهديدات المكون من خمس طبقات
- وافقت AMTSO رسميًا في 4 سبتمبر 2026 على التحديثات التي تركز على الذكاء الاصطناعي لإطار تقييم « Sandbox » الخاص بها، وعلى المبادئ التوجيهية الجديدة لاختبار منتجات الأمان القائمة على الوكلاء.
- في الاختبار الذي أجرته شركة «فيناك سيكيوريتي» (Venak Security) عام 2026 وفقًا لمعايير AMTSO، تمكنت منصة « Adaptive »Sandbox من اكتشاف 95% من عينات البرامج الضارة التي تم إنشاؤها بواسطة الذكاء الاصطناعي، وهي النتيجة الأفضل بين أربع بيئات اختبار تم اختبارها
- يوسع المسح باستخدام نماذج الذكاء الاصطناعي نطاق مسار معالجة « MetaDefender » من Aether ليشمل سبعة تنسيقات لنماذج الذكاء الاصطناعي التوليدي، باستخدام أكثر من 30 مؤشر تهديد للتحليل الثابت، ومطالبات عدائية مطابقة لقائمة «OWASP LLM Top 10» للتحليل الديناميكي
- يتم ربط النتائج بنظام MITRE ATLAS وإدماجها في MetaDefender ضمن مسار اتخاذ القرار الحالي في Aether جنبًا إلى جنب مع التهديدات التقليدية المرتبطة بالملفات
الكشف السلوكي المدعوم بمعيار اختبار الذكاء الاصطناعي
MetaDefender يتمثل دور Aether™ Adaptive Sandbox يهدف إلى اكتشاف التهديدات التي لم يسبق لأحد رؤيتها من قبل. فبدلاً من مقارنة الملفات بالتوقيعات المعروفة، يقوم بتشغيلها في بيئة محاكاة ومراقبة ما تفعله فعليًا، وهذه هي الطريقة التي يكتشف بها البرامج الضارة من نوع «صفر يوم» التي كانت ستتسلل لولا ذلك عبر الدفاعات القائمة على السمعة.
MetaDefender Aether هي طبقة التنسيق المحيطة بهذا المحرك. وهي تزود منصة " Adaptive "Sandbox بمعلومات استخباراتية عن التهديدات، مما يتيح إصدار الأحكام بشكل أسرع وأكثر دقة، كما تدمج نتائج كل طبقة في مسار موحد مكون من خمس طبقات لمعالجة التهديدات، يشمل سمعة التهديد، والتحليل التنبئي، والتفجير الديناميكي، وتقييم التهديد، والبحث عن التهديدات.
في 4 سبتمبر 2026، أكدت منظمة معايير اختبار برامج مكافحة البرمجيات الخبيثة (AMTSO) أنها وافقت رسميًا على تحديث يركز على الذكاء الاصطناعي لإطار Sandbox إطار التقييم، إلى جانب «إرشادات جديدة لاختبار منتجات الأمان القائمة على الوكلاء». ولا يُعد أي من هذين المستندين إلزامياً. فكلاهما يمثل تحديثاً لمعيار اختبار طوعي، لكنهما يمثلان أوضح إشارة حتى الآن على أن اختبار «الصندوق الرملي» (sandbox) بدأ يواكب ما يمكن لنماذج الذكاء الاصطناعي القيام به الآن.
لماذا أصبح أمن نماذج الذكاء الاصطناعي مشكلة فجأة؟
تحتل البنية التحتية الحيوية مركز الصدارة في النقاش السياساتي الذي يتطور بسرعة على جبهتين: تشديد الأطر التنظيمية الأمريكية بشأن تقنيات الذكاء الاصطناعي الرائدة، والجهود الصينية الموازية في مجال نماذج النماذج اللغوية الكبيرة (LLM) مفتوحة المصدر والقدرات الحاسوبية. ولا يؤدي أي من هذين الاتجاهين إلى إبطاء وتيرة انتقال نماذج النماذج اللغوية الكبيرة (LLM) المُدرَّبة مسبقًا إلى بيئات المؤسسات.
هذا الحجم، وليس تقنيات الهجوم الجديدة، هو جوهر المشكلة. لم يبتكر الذكاء الاصطناعي طرقًا جديدة لاختراق الملفات. بل جعل الملفات المخترقة ونماذج اللغات الكبيرة (LLM) المخترقة أكثر انتشارًا بشكل كبير وأسرع في الإنتاج، وهو نفس الضغط الناجم عن الحجم الذي شكّل تقنية OPSWATDeep CDR™ للتعامل مع التهديدات القائمة على الملفات لسنوات.
قبل بضعة أسابيع، وافقت شركة NVIDIA على الاستحواذ على Hugging Face، وهو مركز التوزيع الرئيسي لنماذج LLM ذات الأوزان المفتوحة، مقابل 12.93 مليار دولار. وبفضل هذه الصفقة، أصبح أكبر مستودع لنماذج LLM في القطاع تحت سقف واحد مع مزود الحوسبة المهيمن في هذا المجال.
انضمت شركة «أنثروبيك» إلى أكثر من مائة شركة، من بينها «أوبن إيه آي» و«جوجل» و«مايكروسوفت»، في التوقيع على رسالة مفتوحة تدعو إلى الدفاع السيبراني المنسق مع تزايد الهجمات التي تستخدم الذكاء الاصطناعي. وقد وثق تقرير «أنثروبيك» لاستخبارات التهديدات الصادر في سبتمبر 2026 أن المهاجمين يتعاملون مع سلسلة التوريد الخاصة بالذكاء الاصطناعي باعتبارها هدفًا وموردًا في آن واحد، بما في ذلك العمليات المصممة خصيصًا لسرقة مفاتيح « API » الخاصة بالذكاء الاصطناعي وبيانات اعتماد الإنتاج.
مشروع «Path to Astra» التابع لشركة OpenAI "الطريق إلى Astra" ، الذي نُشر في 1 سبتمبر 2026، رفع مستوى التوقعات إلى أبعد من ذلك. Astra هو أول نموذج من OpenAI يتجاوز عتبة الأمن السيبراني "الحرجة" بموجب إطار الاستعداد، وهو قادر على اكتشاف واستغلال الثغرات الأمنية من نوع «صفر يوم» بشكل مستقل إلى حد كبير. وهذه القدرة هي بالضبط ما صُممت إرشادات الاختبار الوكالية الجديدة من AMTSO لتقييمه. وتسير معايير الاختبار بخطى سريعة لمواكبة ما يمكن لنماذج LLM الرائدة القيام به الآن دون إشراف.
ما الذي يشمله فعليًّا إطار تقييم « Sandbox » المُحدَّث من AMTSO
أضاف فريق عمل « Sandbox » التابع لـ AMTSO مجموعة جديدة من المعايير التي تركز على الذكاء الاصطناعي إلى إطار التقييم الحالي « Sandbox »، مما يوفر للمختبرين طريقة منظمة لتقييم كيفية تعامل بيئات الاختبار (sandboxes) مع نماذج الذكاء الاصطناعي كأهداف للتحليل، بدلاً من الاكتفاء بـ « أدوات ». وقد خضع هذا التحديث للمراجعة العامة خلال فصل الصيف قبل أن يحظى بموافقة الأعضاء رسمياً في أوائل سبتمبر.
يعمل فريق عمل « Sandbox » التابع لـ AMTSO حاليًا على متابعة عملية تبني الإطار المحدث وبناء هيكل لإعداد التقارير، بحيث يتمكن المختبرون من قياس أداء بيئات الاختبار (sandbox) وفقًا لمعايير الذكاء الاصطناعي الجديدة بشكل متسق. وتكتسب هذه الأعمال التمهيدية أهمية كبيرة لأنها توفر للموردين معيارًا مشتركًا بدلاً من الاعتماد على الادعاءات التي يقدمونها بأنفسهم.
MetaDefender سجل إنجازات شركة «Aether» في إطار عمل منظمة AMTSO
قبل إدخال قدرة جديدة، من المفيد معرفة كيف تؤدي القدرة الحالية في ظل فحص مستقل. في اختبار الصندوق الرملي المتوافق مع معيار AMTSO لعام 2026، تمكنت أداة " Adaptive "Sandbox التابعة لـ OPSWATمن اكتشاف 19 عينة من أصل 20 عينة من البرامج الضارة التي تم إنشاؤها بواسطة الذكاء الاصطناعي، وهو ما يمثل معدل اكتشاف بنسبة 95%، وأفضل نتيجة بين أربع بيئات اختبار تم اختبارها. قامت شركة Venak بإنشاء عينات الاختبار باستخدام أداة "AI Malware Simulator" الخاصة بها، والتي تم تخصيصها لتتوافق مع تقنيات MITRE ATT&CK خصيصًا للتحايل على أنظمة الكشف التقليدية.
OPSWATحقق برنامج « Adaptive »Sandbox نسبة 95% (19 من 20) في اختبار أُجري مؤخرًا، استخدم عشرين عينة موزعة على خمس فئات من التهديدات، تم إنشاؤها باستخدام «محاكي البرامج الضارة بالذكاء الاصطناعي» من Venak، وتم ربطها بتقنيات MITRE ATT&CK.
التحليل الثابت والديناميكي لنماذج النماذج اللغوية الكبيرة (LLM) المُدرَّبة مسبقًا
يُعد فحص نماذج الذكاء الاصطناعي القدرة التي توسع نطاق مسار العمل متعدد الطبقات الخاص بـ « MetaDefender Aether» ليشمل نماذج الذكاء الاصطناعي المُدرَّبة مسبقًا. وهناك نوعان متميزان من التحليل يعكسان النهج الثابت والسلوكي المطبق أيضًا على البرامج الضارة التقليدية.
يقوم التحليل الثابت بفحص ملفات نماذج النماذج اللغوية الكبيرة (LLM) عبر سبعة تنسيقات – وهي Pickle وPyTorch وTensorFlow وKeras وSafeTensors وGGUF وONNX – دون الحاجة إلى تنفيذها. ويستخدم أكثر من 30 مؤشرًا مخصصًا للتهديدات للكشف عن الحمولات المضمنة، وعمليات الاستيراد الخطيرة، والفتحات الخلفية الخاصة بطريقة التسلسل لكل تنسيق.
أما التحليل الديناميكي فيتبع نهجًا معاكسًا: فهو يستكشف نقطة نهاية نموذج LLM قيد التشغيل باستخدام مطالبات عدائية مرتبطة بـ قائمة OWASP Top 10 لتطبيقات نماذج اللغة الكبيرة (LLM)، ويقيّم الاستجابات الفعلية لنموذج LLM من حيث حقن المطالبات، والكشف عن البيانات الحساسة، والمخاطر ذات الصلة في وقت التشغيل. وترتبط النتائج المستخلصة من كلتا المرحلتين بقاعدة المعرفة الخاصة بالتعلم الآلي العدائي MITRE ATLAS، وتُدمج في مسار التقييم الموحد الحالي لـ MetaDefender Aether جنبًا إلى جنب مع نتائج التهديدات التقليدية.
مدى سرعة تزايد التهديدات الناجمة عن نماذج الذكاء الاصطناعي
في مايو 2026، ظهر مستودع مزيف ينتحل صفة إصدار من OpenAI، Open-OSS/privacy-filter، إلى صدارة قائمة الأكثر رواجًا على منصة Hugging Face في غضون 18 ساعة وحقق أكثر من 244,000 عملية تنزيل قبل أن يتم سحبه، حيث كان يحتوي على برنامج نصي للتحميل يقوم بتثبيت برنامج لسرقة المعلومات بشكل خفي على أجهزة ويندوز التي قامت بتشغيله.
في يوليو 2026، كشفت شركة OpenAI كشفت أن نماذج LLM الخاصة بها استغلت ثغرات أمنية في البنية التحتية البحثية المشتركة وعرّضت أجزاءً من منصة Hugging Face للخطر خلال تقييمات الأمن السيبراني الداخلية، مما يؤكد أن سلسلة توريد نماذج LLM أصبحت الآن هدفًا فعليًّا للجهات الفاعلة المتطورة، وليس فقط الجهات الانتهازية.
ماذا يعني أمن نماذج الذكاء الاصطناعي بالنسبة لخمسة قطاعات
المالية
تتعامل نماذج اللغات الكبيرة (LLM) المستخدمة في الكشف عن الاحتيال وتقييم المخاطر بشكل متزايد مع بيانات المعاملات بشكل مباشر، وذلك في ظل رقابة الجهات التنظيمية التي تتوقع وجود ضوابط موثقة. ويؤدي التلاعب بنموذج LLM في هذا السياق إلى حدوث حادث أمني وظهور ملاحظة تدقيقية في آن واحد.
الطاقة والمرافق العامة
يتجه الذكاء الاصطناعي نحو مجال التنبؤ وإدارة الشبكات، وهما مجالان تتداخل فيهما بالفعل أنظمة تكنولوجيا المعلومات (IT) وتكنولوجيا التشغيل (OT). ويشكل نموذج LLM الذي يتسم بسلوك خفي أو قابل للتفعيل في هذا السياق خطرًا بحدوث اضطراب مادي، وليس مجرد خرق للبيانات.
تواجه الوكالات الحكومية والدفاعية
أعلى معايير ضمان سلامة سلسلة التوريد، وغالبًا ما يكون ذلك في بيئات معزولة عن الشبكة أو سرية. ويؤدي اختراق نموذج LLM إلى عواقب على الأمن القومي تتجاوز بكثير مجرد فقدان البيانات المعتاد.
في مجال التصنيع
، غالبًا ما يتم استخراج نماذج اللغات الكبيرة (LLM) الخاصة بمراقبة الجودة والصيانة التنبؤية من مستودعات البيانات العامة من أجل تسريع العملية. وقد يؤثر وصول نموذج LLM معيب إلى خط الإنتاج بشكل مباشر على وقت التشغيل وجودة المنتج.
الرعاية الصحية
: تدعم شركة «ديאגنوستيكس» (Diagnostics) وتوثق كيفية معالجة نماذج اللغة الكبيرة (LLM) للبيانات الحساسة الخاصة بالمرضى في إطار الالتزامات الحالية المتعلقة بالخصوصية. إن نموذج اللغة الكبيرة (LLM) الذي يتسبب في تسرب المعلومات من خلال «إدخال المطالبات» (prompt injection) يعرض خصوصية المرضى لخطر مباشر، وليس مجرد خطر افتراضي.
الاتجاهات المستقبلية لمعايير اختبار نماذج الذكاء الاصطناعي
يعكف فريق عمل « Sandbox » التابع لـ AMTSO حاليًا على رصد مدى تبني الإطار المحدث من قِبل مزودي خدمات «الرمل» (sandbox)، كما يعمل على بناء هيكل إعداد التقارير الذي سيمكّن المؤسسات من مقارنة أداء اختبارات الذكاء الاصطناعي بنفس الطريقة التي تقارن بها بالفعل معدلات الكشف التقليدية. وبالنسبة لـ « MetaDefender Aether»، يُعد فحص نماذج الذكاء الاصطناعي أول قدرة تم تطويرها والتحقق من صحتها وفقًا لهذا المعيار الناشئ منذ اليوم الأول.
اقرأ التحليل الفني الكامل لعملية مسح نماذج الذكاء الاصطناعي في منشور الإصدار v3.3.0.
