يشمل أمن الذكاء الاصطناعي ثلاثة جوانب مختلفة، ومن المهم التمييز بينها قبل إجراء محادثة مع المورد، وليس أثناءها. يستخدم المهاجمون الذكاء الاصطناعي لتوليد التهديدات وتوسيع نطاقها. بينما يستخدم المدافعون الذكاء الاصطناعي لاكتشاف تلك التهديدات والرد عليها. وهناك فئة ثالثة تشمل كلا الجانبين: تأمين أنظمة الذكاء الاصطناعي التي تديرها المؤسسة بالفعل، والنماذج، وبيانات التدريب، ومصادر RAG، والعوامل، والتي تنطوي جميعها على مخاطر سواء كان المهاجم قريبًا منها أم لا. |
الماخذ الرئيسية
- تنقسم مصطلحات أمن الذكاء الاصطناعي إلى ثلاث مجموعات، وهي: تقنيات المهاجمين، والقدرات الدفاعية، والمخاطر التنظيمية المتعلقة بتأمين أنظمة الذكاء الاصطناعي نفسها، ويؤدي الخلط بينها إلى إجراء محادثات خاطئة مع الموردين
- ما يميز تقنية المهاجم عن القدرة الدفاعية يعتمد على الجانب الذي تعمل عليه الذكاء الاصطناعي من الملف أو موجه الأوامر أو مجموعة البيانات، وليس على التكنولوجيا نفسها
- إن تنقية ملف ما لا تعني التحقق من صحة محتواه، كما أن الكشف عن المحتوى الذي أنشأته الذكاء الاصطناعي لا يثبت وجود احتيال، وفحص الملف لا يشمل ما يُسمح لوكيل الذكاء الاصطناعي بالقيام به
تظهر تقنيتنا الخاصة في عدد من هذه المصطلحات: فحص الملفات والمحتوى قبل دخولها إلى مسارات معالجة الذكاء الاصطناعي، ومسح نماذج اللغة الكبيرة (LLM) داخل نظام «MetaDefender Aether™»، وضوابط البيانات الحساسة التي تُطبق بغض النظر عن وجود نموذج ذكاء اصطناعي أم لا. وفي الحالات التي ينطبق فيها ذلك، نذكر هذه الإمكانية بشكل مباشر. أما إذا كان المصطلح عبارة عن اختصار شائع في القطاع ولا يوجد له مكافئ مباشر في منصة تقنياتنا، فإننا نذكر ذلك بدلاً منه.
المعاني الثلاثة لأمن الذكاء الاصطناعي
تنقسم مصطلحات أمن الذكاء الاصطناعي إلى ثلاث مجموعات نادراً ما تتداخل، على الرغم من أن المجموعتين الأوليين قد تبدوان متطابقتين من الخارج. تصف مصطلحات «المهاجم» كيف يعمل الذكاء الاصطناعي على تسريع الهجمات، بدءًا من البرامج الضارة التي يُنتجها الذكاء الاصطناعي وصولاً إلى بيانات التدريب المُلوثة. أما مصطلحات «المدافع» فتصف كيف يعزز الذكاء الاصطناعي عملية الكشف، بدءًا من الكشف التنبئي قبل التنفيذ وصولاً إلى حجب البيانات الحساسة تلقائيًّا. يستخدم المهاجم نموذجًا توليديًّا لإنتاج رسالة بريد إلكتروني تصيدية مقنعة في غضون ثوانٍ؛ بينما يقوم المدافع بتدريب مصنف على آلاف محاولات التصيد الحقيقية للكشف عنها. نفس التكنولوجيا الأساسية، والغرض معاكس.
وهناك مجموعة ثالثة تصف المخاطر الكامنة في أنظمة الذكاء الاصطناعي نفسها؛ مثل ملفات النماذج، وبيانات التدريب، والوكلاء الذين يظلون موجودين بغض النظر عن هوية الأطراف المعنية. وما يميز المصطلحات الواردة أدناه هو الجانب الذي يتعامل معه الذكاء الاصطناعي من الملف أو الموجه أو مجموعة البيانات، وما إذا كانت المخاطر تتعلق بمهاجم أصلاً أم لا.
1. مصطلحات الذكاء الاصطناعي من جانب المهاجم
تصف هذه المصطلحات التسعة الكيفية التي يستخدم بها المهاجمون الذكاء الاصطناعي، بدءًا من البرامج الضارة المكتوبة بواسطة الذكاء الاصطناعي وصولاً إلى البيانات الملوثة من مصدرها. ويُجسد كل منها أنماطًا حقيقية تلاحظها فرق الأمن بالفعل.
المصطلح | الشرح | السؤال الذي يجب طرحه | كيف يستخدم موقع « opswat » هذا المصطلح |
البرامج الضارة التي تم إنشاؤها بواسطة الذكاء الاصطناعي | كود مكتوب بواسطة الذكاء الاصطناعي أو تم تعديله بواسطة الذكاء الاصطناعي، وتم إنتاجه بمساعدة الذكاء الاصطناعي. | هل يعتمد الكشف على بصمة معينة، أم على البنية والسلوك؟ | "أجرت شركة «فيناك سيكيوريتي» (Venak Security) في عام 2026 اختبارًا لأربعة أنظمة «ساندبوكس» تجارية في مواجهة عشرين عينة من البرامج الضارة التي تم إنشاؤها بواسطة الذكاء الاصطناعي ، وحقق نظام «ساندبوكس» التابع لشركة « OPSWAT» ( Adaptive Sandbox ) أعلى معدل نجاح بنسبة 95٪." |
عمليات التصيد الاحتيالي/الهندسة الاجتماعية التي يُنتجها الذكاء الاصطناعي | عمليات التصيد الاحتيالي المصممة بواسطة الذكاء الاصطناعي، وتقليد الأصوات، والتزييف العميق، المصممة لتبدو مقنعة على نطاق واسع. | هل يقوم نظام الكشف بفحص الروابط والمحتوى في الوقت الفعلي، أم فقط عند وقت التسليم؟ | "على عكس عمليات الاحتيال التقليدية، فإن رسائل البريد الإلكتروني التصيدية التي يُنتجها الذكاء الاصطناعي تتميز بأسلوبها المصقول ومحتواها المقنع." |
هجوم مدعوم بالذكاء الاصطناعي | هجوم يستخدم الذكاء الاصطناعي في مراحل متعددة، مثل الاستطلاع، وتوليد الحمولة، والتهرب، بدلاً من استخدامه كطريق مختصر من حين لآخر. | ما هي الأدلة التي تربط هذا الأمر بحملة معينة، بدلاً من كونه مجرد اتجاه عام؟ | "كما تعمل الحكومات على تعديل الجداول الزمنية لإصدار التصحيحات لمواكبة السرعة التي تتحرك بها الهجمات المدعومة بالذكاء الاصطناعي." |
ثغرة «يوم الصفر» الناتجة عن الذكاء الاصطناعي | استخدام الذكاء الاصطناعي لاكتشاف ثغرة أمنية أو تحويلها إلى أداة استغلال، وهو ادعاء أضيق نطاقًا من عبارة «الذكاء الاصطناعي كتب برنامجًا ضارًّا جديدًا». فالبرامج الضارة الجديدة لا تُعتبر تلقائيًّا برامج «يوم صفر». | هل يتعلق الأمر بثغرة أمنية جديدة، أم مجرد برنامج ضار جديد لم يتم اكتشافه بعد؟ | "تتدرب تقنية Alin AI التنبؤية باستمرار على ثغرات "صفر يوم" التي تم التحقق منها في بيئة الاختبار من موقع MetaDefender Aether. وتساعد في الكشف عن التهديدات التي تولدها الذكاء الاصطناعي والتي لم يسبق رؤيتها من قبل." |
التعرض للبرامج الضارة التي تعمل بالذكاء الاصطناعي | تصل البرامج الضارة التي تم إنشاؤها أو تحسينها باستخدام الذكاء الاصطناعي إلى نظام الذكاء الاصطناعي عبر نفس المدخلات من الملفات أو المستندات أو مسارات المعالجة التي تحمل أي تهديد آخر. | هل يكتشف نظام الكشف البرامج الضارة التي تم إنشاؤها أو توجيهها بواسطة الذكاء الاصطناعي، أم يقتصر على التوقيعات التي سبق له التعرف عليها؟ | "انخفاض كبير في التعرض للبرامج الضارة التي تعمل بالذكاء الاصطناعي والهجمات التي تستهدف الملفات." |
الذكاء الاصطناعي التنافسي/حقن المطالبات | يُعد الذكاء الاصطناعي العدائي (Adversarial AI) الفئة الأوسع نطاقًا من هجمات المدخلات المصممة خصيصًا؛ أما «حقن المطالبات» (prompt injection) فهو النسخة الخاصة بنماذج اللغة الكبيرة (LLM)، والتي تتضمن تعليمات مخبأة في مستند تم استرجاعه بدلاً من كتابتها مباشرةً. | هل تقوم آلية التحقق بالتحقق مما يستخرجه النموذج، وليس فقط مما يكتبه المستخدم؟ | " الحقن الفوري: يقوم المهاجم بتضمين تعليمات خفية في القسم الأول المخفي من ملف PDF المُجمَّع." |
التسمم بالرقع | المستندات الملوثة التي تفسد قاعدة المعرفة الخاصة بنظام الاسترجاع. | هل يتم فحص المحتوى قبل الفهرسة أم بعدها فقط؟ | "يضمن أن يتم فهرسة المحتوى الموثوق به والمعتمد وفقًا للسياسات فقط في أنظمة الاسترجاع ومخازن المتجهات، مما يقلل من مخاطر التلاعب بنظام RAG والتلاعب بالمعرفة على المدى الطويل." |
تسميم البيانات | بيانات التدريب التالفة التي تؤدي إلى سلوك نموذجي يصب في مصلحة المهاجم. | ما مدى الشفافية المتوفرة بشأن مصدر بيانات التدريب؟ | " تسميم بيانات التدريب: قد تحتوي الوثائق المستخدمة لضبط أو تعزيز نماذج الذكاء الاصطناعي على جزء مخفي ..." |
البرامج الضارة المنقولة عبر الملفات في مسارات معالجة الذكاء الاصطناعي | الملفات الخبيثة تتسلل عبر حواجز الحماية القائمة على الذكاء الاصطناعي التي تعتمد على النص فقط. | هل يقوم الحاجز الأمني بفحص محتوى الملف، أم النص المحيط به فقط؟ | "البرامج الضارة المنقولة عبر الملفات في مسارات معالجة الذكاء الاصطناعي: تُخفى الحمولات الخبيثة داخل ملفات العمل الشائعة مثل ملفات PDF ومستندات Office والملفات المضغوطة." |
2. مصطلحات الذكاء الاصطناعي الخاصة بالجانب الدفاعي
تصف المصطلحات التالية الكيفية التي نستخدم بها نحن وبقية الجهات العاملة في هذا المجال الذكاء الاصطناعي لحماية مسارات عمل الذكاء الاصطناعي. وترتبط جميعها بتقنيات محددة في منظومتنا.
المصطلح | الشرح | السؤال الذي يجب طرحه | كيف يستخدم موقع « opswat » هذا المصطلح |
الأمن القائم على الذكاء الاصطناعي/ المنصة | مصطلح تسويقي يستخدمه الموردون للإشارة إلى أن الذكاء الاصطناعي يشكل جوهر بنية المنتج، وليس مجرد إضافة خارجية. MetaDefender «Aether™» هو المثال الذي نستشهد به: يعمل الذكاء الاصطناعي التنبئي «Predictive Alin AI» كطبقة كشف مخصصة، وليس كميزة تكميلية. | ماذا يحدث عندما تتعارض طبقة الذكاء الاصطناعي مع جميع الإشارات الأخرى؟ | "يجب تقييمالمنصات المبنية على الذكاء الاصطناعي بنفس الدقة التي تُطبق على أي مجموعة برمجيات حديثة..." |
نموذج الكشف المدعوم بالذكاء الاصطناعي | نموذج كشف يحدد الحالات الشاذة في السلوك لإخضاعها للمراجعة، بينما يواصل المحللون ربط التنبيهات ببعضها البعض وتحديد ما هو ضار فعليًّا. | هل يقوم النموذج بالإبلاغ عن الحالات الشاذة لمراجعتها، أم يتخذ إجراءات بشأنها مباشرةً؟ | "بفضل نماذج الكشف المدعومة بالذكاء الاصطناعي، تقوم [MetaDefender NDR ] بتحليل سلوكيات الشبكة بشكل مستمر لتحديد الحالات الشاذة الطفيفة التي قد تشير إلى نشاط المهاجمين في مرحلة مبكرة من دورة حياة الهجوم." |
فحص المحتوى باستخدام الذكاء الاصطناعي/ الكشف | أداة «مفتش المحتوى بالذكاء الاصطناعي» الخاصة بنا، والتي تكتشف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي وحالات التزوير في المستندات. | هل يتم تصنيف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي تلقائيًّا على أنه احتيال، أم يتم عرضه على أحد المراجعين؟ | "AI Content Inspector هو محرك يعمل بالذكاء الاصطناعي تابع لموقع OPSWAT ، ويُستخدم للتحقق من أصالة المحتوى وكشف التزوير في المستندات، سواء كانت صورًا أو ملفات PDF أو ملفات تحتوي على نصوص." |
الفرز الذاتي | الذكاء الاصطناعي الذي يتولى جزءًا محددًا من عملية فرز التنبيهات ضمن حدود السياسة المحددة، مثل إثراء ملف الحالة أو التوصية بأولوية معينة، بدلاً من امتلاك سلطة التحقيق الكاملة. | ما هو القرار الذي تتخذه الذكاء الاصطناعي، مقابل ما الذي توصي به؟ | "...قامت المؤسسة بتطبيق برنامج "Aether" من شركة OPSWAT( MetaDefender ) لفرز الملفات المشبوهة في بيئة خاضعة للرقابة." |
الذكاء الاصطناعي القابل للتفسير (XAI) | الأدلة والإشارات الداعمة والقيود الكامنة وراء الحكم، وليس مجرد درجة الثقة. فالدرجة هي احتمال، وليست تفسيرًا. | ما هي الأدلة التي تستند إليها هذه الأرقام؟ | "تساعد عمليات تدقيق الذكاء الاصطناعي أدوات ، وأطر العمل الخاصة بالقابلية للتفسير، وتقنيات الذكاء الاصطناعي القابل للتفسير (XAI) في التخفيف من المخاوف المتعلقة بعملية اتخاذ القرار التي تعتمد على نموذج "الصندوق الأسود"." |
أمن الذكاء الاصطناعي بوابة | آليات الحماية الخاصة بمنصة MetaDefender™ لنماذج اللغة الكبيرة (LLM)، والتي تقوم بفحص الملفات والمطالبات قبل وصولها إلى نموذج اللغة الكبيرة. | هل تتم عملية الفحص قبل وصول المحتوى إلى النموذج، أم بعدها فقط؟ | "MetaDefender Core يعمل كبوابة أمان قائمة على الذكاء الاصطناعي، حيث يقوم بفحص المحتوى وتنقيته قبل تحميل الملفات، وقبل استيعاب RAG، وقبل تشغيل الأدوات، وقبل عبور البيانات لحدود الثقة." |
الذكاء الاصطناعي التنبئي | تقنية «Alin AI» التنبؤية، التي تتنبأ بالنوايا الخبيثة قبل تشغيل الملف (الطبقة 2: التحليل الثابت في « MetaDefender Aether»). | ما هو معدل النتائج الإيجابية الكاذبة، وبناءً على أي مجموعة بيانات؟ | "تم تحسين المحرك لضمان الدقة والتكامل السلس عبر منصة " MetaDefender "، مما يتيح لكشف التهديدات التنبؤي القائم على الذكاء الاصطناعي العمل جنبًا إلى جنب مع تقنيات الفحص الأخرى." |
الكشف عن أنواع الملفات المعزز بالذكاء الاصطناعي | تقنية «File Type Detection™» الخاصة بنا ، والتي تكشف الملفات المزيفة. | هل يتم تنفيذ هذا بشكل متزامن، أم أنه يزيد من زمن الاستجابة؟ | "يعملنظام الكشف المعزز بالذكاء الاصطناعي على تحليل بنية الملف ومحتواه لتحديد نوعه الحقيقي، مما يسد الثغرات التي تتركها طرق التحقق التقليدية." |
نظام منع تسرب البيانات (DLP) المدعوم بالذكاء الاصطناعي | تقنية Proactive DLP™ الخاصة بنا، والتي تعمل على حجب المعلومات الشخصية المحددة (PII) والمعلومات الصحية المحمية (PHI) وبيانات بطاقات الدفع (PCI) في أكثر من 125 نوعًا من الملفات. | هل تتم عملية حجب المعلومات قبل اكتمال التحميل أم بعده؟ | "عندما تتطلب الملفات فحصًا أكثر تعمقًا، يقوم نظام " Adaptive "Sandbox القائم على المحاكاة من شركة " OPSWAT" بتحليل سلوكها في الوقت الفعلي. كما يعمل نظام " Proactive DLP ™" المدعوم بالذكاء الاصطناعيعلى اكتشاف المعلومات الصحية المحمية إلكترونيًا (ePHI) والمحتويات الحساسة الأخرى وحجبها أو حجبها، مما يساعد في الوفاء بالالتزامات الناشئة عن قانون HIPAA واللائحة العامة لحماية البيانات (GDPR)." |
نزع السلاح من المحتوى وإعادة بنائه | تقنية Deep CDR™ الخاصة بنا، التي تعمل على استخراج المحتوى النشط من الملف وإعادة إنشاء نسخة نظيفة منه عبر أكثر من 200 تنسيق دون الاعتماد على التوقيعات، وتُشغَّل ضمن حدود أمان محددة لنماذج اللغة الكبيرة (LLMs) جنبًا إلى جنب مع ضوابط خاصة بالذكاء الاصطناعي. | هل لا يزال الملف يعمل بشكل طبيعي بعد عملية التنقية؟ | "تقنية تطهير الملفات "Deep Content Disarm and Reconstruction " من شركةOPSWAT تقوم بمسح الملفات وإزالة المحتوى الضار وإعادة بناء ملفات آمنة وقابلة للاستخدام بدقة تبلغ 100٪." |
الفحص المتعدد Multiscanning | يمكن فحص ملف ما عبر أكثر من 30 محركًا لمكافحة البرامج الضارة في آن واحد. هذه الميزة ليست مخصصة للذكاء الاصطناعي تحديدًا، ولكنها جزء من نفس آليات الحماية الخاصة بمجموعة نماذج اللغة الكبيرة (LLMs)، حيث تكتشف التهديدات المعروفة التي لم تُصمم الطبقات التي تعتمد على الذكاء الاصطناعي للتعامل معها. | كم عدد المحركات التي تعمل في التكوين الحالي؟ | "عندما يتم الفحص أثناء التمرير، يمكن أن تقوم ميزة المسح المتعدد بتقييم مرفق البريد الإلكتروني باستخدام عدة محركات لمكافحة البرامج الضارة قبل تسليمه." |
3. تأمين أنظمة الذكاء الاصطناعي
لا تندرج هذه المصطلحات بشكل واضح تحت فئة «الهجوم» أو «الدفاع». فهي تصف المخاطر الناجمة عن الطريقة التي تبني بها المؤسسة أنظمة الذكاء الاصطناعي الخاصة بها، وتديرها، وتربطها ببعضها البعض، بغض النظر عما إذا كان هناك مهاجم متورط أم لا.
المصطلح | الشرح | السؤال الذي يجب طرحه | كيف يستخدم موقع « opswat » هذا المصطلح |
تأمين وكلاء الذكاء الاصطناعي | تحديد نطاق ما يمكن للوكيل القيام به، والوصول إليه، والتصرف بشأنه دون الحصول على موافقة. ويشير خطر «السلطة المفرطة» (Excessive Agency) الذي حددته منظمة OWASP، والذي احتل المرتبة الثالثة في قائمة «أفضل 10 مخاطر في نماذج اللغة الكبيرة (LLM) لعام 2026»، إلى هذه النقاط الثلاث للفشل بالضبط. | هل يرى المستخدم النتيجة قبل أن يتم تنفيذ أي شيء؟ | "كيف يمكن لفرق الأمن الدفاع ضد هجمات الوكلاء الذكيين المستقلين؟" |
نموذج الذكاء الاصطناعي وأمن سلسلة التوريد | المخاطر الكامنة في الملفات والمكونات التي يعتمد عليها نظام الذكاء الاصطناعي؛ مثل نموذج مُدرَّب مسبقًا تعرض للاختراق، أو حزمة معرضة للثغرات الأمنية في مسار التدريب. يقوم نظام «LLM Scanning» الخاص بنا بفحص بنية النموذج قبل تشغيله واختبار سلوكه بعد النشر باستخدام مطالبات عدائية، بينما تقوم قائمة مكونات البرمجيات (SBOM) و MetaDefender Software Supply Chain يوسعان نطاق هذا الفحص ليشمل مجموعة أوسع من المكونات التي يعتمد عليها مسار الذكاء الاصطناعي. | هل يتم فحص ملف النموذج نفسه، أم يتم فحص البيانات التي يعالجها أثناء التشغيل فقط؟ | "الوقاية من تهديدات نماذج اللغات الكبيرة (LLM) وبرمجيات " Supply Chain ": فحص نماذج اللغات الكبيرة مفتوحة المصدر وملفات النماذج والملفات المرتبطة بها بحثًا عن البرامج الضارة والمحتوى الخبيث والبيانات الحساسة قبل إدخالها إلى بيئات الذكاء الاصطناعي في المؤسسات." |
أمن بيانات التدريب في مجال الذكاء الاصطناعي/التعلم الآلي | التحقق من صحة مجموعات التدريب ومصادر RAG ومحتوى بحيرة البيانات التي تغذي مسارات الذكاء الاصطناعي والتحليلات قبل استيعابها؛ فالبيانات الملوثة أو غير الموثوقة تؤدي إلى تشويه النموذج بنفس الطريقة التي تؤدي بها التبعيات المخترقة إلى ذلك. | هل يتم فحص البيانات قبل إدخالها إلى «البحيرة»، أم بعد تدريب النموذج عليها فقط؟ | "بيانات تدريب الذكاء الاصطناعي/التعلم الآلي: حماية البيانات المستخدمة لتدريب نماذج الذكاء الاصطناعي ونماذج اللغة الكبيرة (LLMs) وتطبيقات RAG، وذلك من خلال ضمان ألا تدخل في مسارات عمل الذكاء الاصطناعي سوى المستندات والرموز البرمجية ومجموعات البيانات ومستودعات المعرفة الموثوقة." |
تسرب البيانات الحساسة عبر الذكاء الاصطناعي | تصبح البيانات السرية أو الخاضعة للتنظيم أو الخاصة، الموجودة بالفعل في مخازن البيانات، قابلة للاكتشاف من جديد بمجرد أن يتمكن مساعد الذكاء الاصطناعي مثل «كوبيلوت» من قراءتها وإبرازها في الرد. | هل تقوم آلية التحكم بتصنيف البيانات الحساسة وتقييد الوصول إليها قبل أن يحصل المساعد الذكي على حق الوصول للقراءة، أم بعد ذلك فقط؟ | "حماية سير العمل الحيوي في مجال الذكاء الاصطناعي من البيانات غير الموثوق بها، والنماذج الخبيثة، والتعرض للبيانات الحساسة ، من خلال نظام أمان متعدد الطبقات يركز على الوقاية أولاً، ومصمم خصيصًا للبيئات الخاصة بكل قطاع." |
هناك بعض الحدود التي يجدر توضيحها بصراحة: فـ«تنقية» المستند لا تضمن صحة محتواه، وكشف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي لا يُثبت بحد ذاته وجود احتيال، كما أن فحص الملفات لا يغطي كل المخاطر التي تنجم عن منح الوكيل صلاحيات واسعة. فكل مصطلح من المصطلحات المذكورة أعلاه يعالج جزءًا محددًا من المشكلة، وليس المخاطر برمتها.
أين تظهر هذه الشروط في العمل اليومي
يوضح الجدول أدناه المواقف اليومية الشائعة وتقنية « OPSWAT » التي تعالجها.
سير العمل اليومي | ما تحتاجه | الرابط ذو الصلة على موقع « OPSWAT » |
تدخل المستندات إلى المساعدين أو مسارات معالجة RAG | فحص الملفات وتطبيق السياسة قبل المعالجة أو الفهرسة | MetaDefender Core وحواجز الأمان الخاصة بنماذج اللغة الكبيرة (LLMs) |
يتم تحميل الملفات السرية إلى الذكاء الاصطناعي الخدمات | اكتشاف البيانات الحساسة وحجبها أو حجب أجزاء منها قبل أن تغادر النظام | Proactive DLP، عبر MetaDefender ICAP Server |
تقدم الفرق نماذج ذكاء اصطناعي من جهات خارجية | فحص ملفات النماذج واختبار سلوك التطبيق بعد النشر | MetaDefender المسح باستخدام نموذج اللغة الكبير (LLM)من Aether: التحليلات الثابتة والديناميكية |
تؤثر الفواتير أو المطالبات أو الصور على عملية الموافقة | تحديد مؤشرات المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي ومؤشرات الاحتيال | تدعم النتائج التي توصل إليها «مفتش المحتوى بالذكاء الاصطناعي » عملية المراجعة |
تنتقل ملفات مشاريع الذكاء الاصطناعي بين الفرق أو تُخزَّن في مستودع البيانات | تطبيق إجراءات الفحص في سير عمل عمليات النقل والتخزين | MetaDefender Managed File Transfer و MetaDefender Storage Security |
شاهد ذلك عمليًّا
نحن نطور التكنولوجيا التي تقف وراء العديد من المصطلحات التي تم تناولها هنا، بدءًا من ميزة «الكشف قبل التنفيذ» (Pre-Execution Detection) التي توفرها تقنية «الذكاء الاصطناعي التنبئي» (Predictive AI) في « MetaDefender Aether»، وصولاً إلى عمليات التحقق من أصالة المحتوى التي يوفرها «مفتش المحتوى بالذكاء الاصطناعي» (AI Content Inspector)، وميزة حجب البيانات الحساسة التي توفرها تقنية « Proactive DLP ». اكتشف كيف يمكن تطبيق هذه التقنيات على بياناتك ونماذجك وسير عمل نماذج اللغة الكبيرة (LLM) الخاصة بك.
تؤكد الأبحاث الحديثة ما تصفه هذه المصطلحات. فقد كشف تقرير «أمن الملفات المؤسسية لعام 2026» الصادر عن شركة « OPSWAT» ( )، والذي أجرته مؤسسة «Osterman Research»، عن وجود فجوة كبيرة بين القدرات ومستوى الثقة: حيث صنف 73.6% من قادة الأمن مستوى أمن الملفات في مؤسساتهم على أنه «ناضج جدًا» أو «ناضج للغاية»، لكن لم تصل أدلة أي مؤسسة إلى المستويين الأعلى، كما أن 94.5% منهم صنفوا أنفسهم بمستوى أعلى مما تدعمه ممارساتهم الفعلية.
وهذه الفجوة آخذة في الاتساع بسرعة: فقد ارتفعت نسبة القلق بشأن التهديدات التي تولدها الذكاء الاصطناعي والقادرة على التهرب من أنظمة الدفاع المدعومة بالذكاء الاصطناعي بنسبة 87% خلال العام الماضي. ويتجلى ذلك أيضًا في تقنيات محددة، حيث صُنفت تقنيتا «إزالة العناصر الضارة من المحتوى وإعادة بنائه» (Content Disarm and Reconstruction) و«التحليل التلقائي للأنماط» ( Multiscanning) — وهما مصطلحان تمت مناقشتهما أعلاه — ضمن أقل عمليات النشر نضجًا التي تعتمد على «الوقاية أولاً» في الدراسة، حيث بلغت نسبة «النضج الشديد» لكل منهما 22.9% و25.9% فقط.
الأسئلة المتداولة
ما الفرق بين مصطلحات «المهاجم» و«المدافع» و«أنظمة الذكاء الاصطناعي» في مجال الأمن؟
تصف مصطلحات «المهاجم» كيفية تسريع الذكاء الاصطناعي للهجمات، مثل البرامج الضارة التي يُنتجها الذكاء الاصطناعي أو «تسميم البيانات». أما مصطلحات «المدافع» فتصف كيفية تعزيز الذكاء الاصطناعي لعملية الكشف، مثل الكشف التنبئي أو الكشف قبل التنفيذ، أو نظام منع تسرب البيانات (DLP) المدعوم بالذكاء الاصطناعي. وتصف مصطلحات أمن أنظمة الذكاء الاصطناعي المخاطر الموجودة في أنظمة الذكاء الاصطناعي نفسها، وملفات النماذج، والوكلاء، وبيانات التدريب، وهي مخاطر موجودة بغض النظر عن وجود مهاجم أم لا. قد تظهر نفس التقنيات الأساسية في أكثر من مجموعة واحدة، لذا فإن التقسيم يعتمد على الجهة الفاعلة وما هو معرض للخطر فعليًّا.
هل تقوم أداة التحقق بفحص الملفات الأصلية، أم النصوص المستخرجة، أم عناصر النموذج، أم استجابات النموذج في الوقت الفعلي؟
هذه أربع نقاط تفتيش مختلفة، وقد يقتصر مزود يدعي توفير «أمن قائم على الذكاء الاصطناعي» على تغطية نقطة واحدة منها فقط. اسأل عن أي منها بالتحديد قبل أن تفترض أن النقاط الأخرى مشمولة.
أين تتم عملية الفحص، وهل يمكن لسلسلة العمليات حظر المحتوى أو وضعه في الحجر الصحي، وليس مجرد الإبلاغ عنه؟
إن عملية الكشف التي لا تتضمن نقطة تطبيق لا تزال تسمح بمرور المحتوى الخطير. تأكد مما إذا كان الإجراء يتم تنفيذه بشكل فوري قبل انتقال المحتوى أم أنه يقتصر على الإبلاغ بعد حدوث الأمر.
ما هي المخاطر التي تتطلب ضوابط إضافية على مستوى التطبيقات أو الهوية أو الوكلاء، بخلاف فحص الملفات والمحتوى؟
عادةً ما يتم التعامل مع أذونات الوكلاء، وإدارة الهوية، والتفتيش على مستوى الملفات من خلال « أدوات » منفصلة، حتى ضمن نفس البنية الأمنية. اسأل عما هو مستبعد صراحةً من نطاق العمل، لا تكتفِ بالسؤال عما يندرج ضمنه.
