قرصنة الذكاء الاصطناعي: كيف يستخدم القراصنة الذكاء الاصطناعي في الهجمات الإلكترونية

اختراق الذكاء الاصطناعي هو استخدام الذكاء الاصطناعي لتعزيز أو أتمتة الهجمات الإلكترونية. وهو يسمح للجهات الفاعلة في مجال التهديد بإنشاء التعليمات البرمجية وتحليل الأنظمة والتهرب من الدفاعات بأقل جهد يدوي ممكن. 

نماذج الذكاء الاصطناعي، وخاصة النماذج اللغوية الكبيرة (LLMs)، تجعل تطوير الهجمات أسرع وأرخص وأكثر سهولة في متناول القراصنة الأقل خبرة. والنتيجة هي مجموعة جديدة من هجمات الذكاء الاصطناعي الأسرع والأكثر قابلية للتطوير، وغالباً ما يكون من الصعب إيقافها باستخدام الدفاعات التقليدية.  

تستخدم الجهات الفاعلة في مجال التهديد بالذكاء الاصطناعي الآن الذكاء الاصطناعي لشن هجمات إلكترونية أسرع وأكثر ذكاءً وتكيّفاً. من إنشاء البرمجيات الخبيثة إلى أتمتة التصيّد الاحتيالي، يعمل الذكاء الاصطناعي على تحويل الجريمة الإلكترونية إلى عملية قابلة للتطوير. ويمكنه الآن إنشاء التعليمات البرمجية الخبيثة، وكتابة محتوى تصيد احتيالي مقنع، وحتى توجيه المهاجمين من خلال سلاسل هجمات كاملة.

يستخدم مجرمو الإنترنت الذكاء الاصطناعي في عدة مجالات أساسية:

• توليد الحمولة: يمكن لأدوات مثل HackerGPT و WormGPT كتابة برمجيات خبيثة مشوّهة، وأتمتة تكتيكات المراوغة، وتحويل البرامج النصية إلى برامج تنفيذية. هذه أمثلة على هجمات الذكاء الاصطناعي التوليدية، وغالباً ما تُشاهد في الهجمات الإلكترونية التي يقوم فيها عملاء الذكاء الاصطناعي باتخاذ قرارات مستقلة.
• الهندسة الاجتماعية: ينشئ الذكاء الاصطناعي رسائل بريد إلكتروني واقعية للتصيد الاحتيالي، ويستنسخ الأصوات، ويولد رسائل مزيفة عميقة للتلاعب بالضحايا بشكل أكثر فعالية.
• الاستطلاع والتخطيط: يعمل الذكاء الاصطناعي على تسريع البحث عن الأهداف ورسم خرائط البنية التحتية وتحديد نقاط الضعف.
• الأتمتة على نطاق واسع: يستخدم المهاجمون الذكاء الاصطناعي لشن حملات متعددة المراحل بأقل قدر من المدخلات البشرية.

ووفقًا لمعهد بونيمون، فقد تم استخدام الذكاء الاصطناعي بالفعل في حملات طلب الفدية وهجمات التصيد الاحتيالي التي تسببت في حدوث اضطرابات تشغيلية كبيرة، بما في ذلك سرقة بيانات الاعتماد والإغلاق القسري لأكثر من 300 موقع بيع بالتجزئة خلال اختراق عام 2023. 

هناك العديد من الأنماط الناشئة التي تعيد تشكيل مشهد التهديدات:

• إضفاء الطابع الديمقراطي على الهجمات الإلكترونية: أصبحت النماذج مفتوحة المصدر مثل LLaMA، التي تم ضبطها بدقة من أجل الهجوم، متاحة الآن لأي شخص لديه قوة حوسبة محلية
• انخفاض عائق الدخول: ما كان يتطلب في السابق مهارات خبيرة يمكن الآن القيام به من خلال مطالبات بسيطة وبضع نقرات
• زيادة نجاح التهرب من الكشف: تتفوق البرمجيات الخبيثة التي يولدها الذكاء الاصطناعي في الاختباء من الاكتشاف الثابت وصناديق الحماية وحتى التحليل الديناميكي
• نماذج البرمجيات الخبيثة كخدمة (MaaS): يقوم المجرمون الإلكترونيون بتجميع قدرات الذكاء الاصطناعي في مجموعات برمجيات قائمة على الاشتراك، مما يسهل شن هجمات معقدة على نطاق واسع
• استخدام الذكاء الاصطناعي في الاختراقات في العالم الحقيقي: يشير معهد بونيمون إلى أن المهاجمين استخدموا بالفعل الذكاء الاصطناعي لأتمتة استهداف برمجيات الفدية، بما في ذلك في الحوادث التي أدت إلى إغلاق عمليات كبرى

يعمل التصيد الاحتيالي المدعوم بالذكاء الاصطناعي والهندسة الاجتماعية باستخدام الذكاء الاصطناعي على تحويل عمليات الاحتيال التقليدية إلى هجمات شخصية قابلة للتطوير ويصعب اكتشافها. تستخدم الجهات التخريبية الآن نماذج توليدية لصياغة رسائل بريد إلكتروني قابلة للتصديق، واستنساخ الأصوات، وحتى إنتاج مكالمات فيديو مزيفة للتلاعب بأهدافها.

على عكس عمليات الاحتيال التقليدية، فإن رسائل التصيد الاحتيالي التي يتم إنشاؤها بواسطة الذكاء الاصطناعي تكون مصقولة ومقنعة. تُنتج أدوات مثل ChatGPT وWormGPT رسائل تحاكي الاتصالات الداخلية أو التواصل مع خدمة العملاء أو تحديثات الموارد البشرية. عند إقرانها بالبيانات المخترقة، تصبح رسائل البريد الإلكتروني هذه مخصصة وأكثر احتمالاً للنجاح.

يعمل الذكاء الاصطناعي أيضًا على تشغيل أشكال جديدة من الهندسة الاجتماعية: 

• هجمات استنساخ الصوت تحاكي المديرين التنفيذيين باستخدام عينات صوتية قصيرة لتحفيز إجراءات عاجلة مثل التحويلات البنكية
• هجمات "ديبفيك" تحاكي مكالمات الفيديو أو الاجتماعات عن بُعد من أجل عمليات احتيال عالية المخاطر

في حادثة وقعت مؤخرًا، استخدم المهاجمون رسائل البريد الإلكتروني التي تم إنشاؤها بواسطة الذكاء الاصطناعي خلال فترة التسجيل في المزايا، متظاهرين بأنهم من قسم الموارد البشرية لسرقة بيانات الاعتماد والوصول إلى سجلات الموظفين. يكمن الخطر في وهم الثقة. فعندما يبدو البريد الإلكتروني داخلياً، ويبدو الصوت مألوفاً، ويبدو الطلب ملحاً، يمكن خداع حتى الموظفين المدربين. 

يعمل الذكاء الاصطناعي على تسريع كيفية عثور المهاجمين على الثغرات البرمجية واستغلالها. ما كان يستغرق أياماً من الاستكشاف اليدوي يمكن الآن القيام به في دقائق باستخدام نماذج التعلم الآلي المدربة على الاستطلاع وتوليد الثغرات.

تستخدم الجهات الفاعلة في مجال التهديدات الذكاء الاصطناعي لأتمتة فحص الثغرات الأمنية عبر الأنظمة التي تواجه الجمهور، وتحديد التكوينات الضعيفة أو البرامج القديمة أو نقاط الضعف التي لم يتم إصلاحها. على عكس الأدوات التقليدية، يمكن للذكاء الاصطناعي تقييم سياق التعرض لمساعدة المهاجمين على تحديد أولويات الأهداف ذات القيمة العالية. 

تشمل تكتيكات الاستغلال الشائعة بمساعدة الذكاء الاصطناعي ما يلي:

• التشويش الآلي للكشف عن ثغرات يوم الصفر بشكل أسرع
• إنشاء برنامج نصي مخصص لتنفيذ التعليمات البرمجية عن بُعد أو الحركة الجانبية
• اختراق كلمات المرور وهجمات القوة الغاشمة المحسّنة من خلال تعلم الأنماط والنماذج الاحتمالية 
• روبوتات الاستطلاع التي تفحص الشبكات بحثًا عن الأصول عالية الخطورة بأقل قدر من التشويش

يمكن ضبط النماذج التوليدية مثل LLaMA أو Mistral أو Gemma لتوليد حمولات مصممة خصيصاً، مثل الرموز البرمجية القشرية أو هجمات الحقن، استناداً إلى سمات خاصة بالنظام، وغالباً ما تتجاوز الضمانات المضمنة في النماذج التجارية.

الاتجاه واضح: يمكّن الذكاء الاصطناعي المهاجمين من اكتشاف الثغرات الأمنية والعمل عليها بسرعة الآلة. ووفقاً لمعهد بونيمون، فإن 54% من المتخصصين في الأمن السيبراني يصنفون الثغرات التي لم يتم إصلاحها على أنها مصدر قلقهم الأكبر في عصر الهجمات المدعومة بالذكاء الاصطناعي.

لم تعد هجمات الذكاء الاصطناعي السيبراني نظرية؛ فقد تم استخدامها بالفعل لسرقة البيانات وتجاوز الدفاعات وانتحال شخصية البشر على نطاق واسع.  

تُظهر الأمثلة في الفئات الثلاث البارزة أدناه أن المهاجمين لم يعودوا بحاجة إلى مهارات متقدمة لإحداث أضرار جسيمة في الهجمات الإلكترونية. يقلل الذكاء الاصطناعي من عائق الدخول مع زيادة سرعة الهجوم ونطاقه والتخفي. يجب على المدافعين التكيف من خلال اختبار الأنظمة المدمجة بالذكاء الاصطناعي بشكل استباقي ونشر الضمانات التي تأخذ في الحسبان التلاعب التقني والخداع البشري.

الحقن الموجه هو أسلوب يستغل فيه المهاجمون الثغرات في نماذج اللغات الكبيرة (LLMs) من خلال تزويدها بمدخلات مصممة خصيصًا لتجاوز السلوك المقصود. تستغل هذه الهجمات الطريقة التي تفسر بها نماذج اللغات الكبيرة (LLMs) التعليمات وتحدد أولوياتها، وغالبًا ما يكون ذلك بدون برمجيات خبيثة تقليدية أو بالقليل منها. 

وبدلاً من استخدام الذكاء الاصطناعي لشن هجمات خارجية، فإن الحقن الفوري يحول أنظمة الذكاء الاصطناعي الخاصة بالمؤسسة إلى عوامل اختراق غير مقصودة. إذا تم تضمين نموذج LLM في أدوات مثل مكاتب المساعدة أو روبوتات الدردشة أو معالجات المستندات دون وجود ضمانات مناسبة، يمكن للمهاجم تضمين أوامر خفية يقوم النموذج بعد ذلك بتفسيرها والتصرف بناءً عليها. يمكن أن يؤدي ذلك إلى:

• تسريب البيانات الخاصة أو المقيدة
• تنفيذ إجراءات غير مقصودة (مثل إرسال رسائل البريد الإلكتروني، وتغيير السجلات)
• التلاعب بالمخرجات لنشر معلومات مضللة أو تحفيز إجراءات المتابعة

تتصاعد هذه المخاطر في الأنظمة التي تمرر فيها نماذج متعددة المعلومات بين بعضها البعض. على سبيل المثال، يمكن أن تؤثر مطالبة خبيثة مضمنة في مستند ما على مُلخِّص الذكاء الاصطناعي، الذي يمرر بعد ذلك رؤى معيبة إلى الأنظمة النهائية. 

ومع ازدياد دمج الذكاء الاصطناعي في تدفقات العمل التجاري، يستهدف المهاجمون هذه النماذج بشكل متزايد لاختراق الثقة أو استخراج البيانات أو التلاعب بالقرارات من الداخل إلى الخارج.

تستخدم هجمات التزييف العميق (Deepfake) الصوت أو الفيديو الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي لانتحال شخصية الأشخاص في الوقت الفعلي. تُستخدم هذه الأدوات، مقترنة بأساليب الهندسة الاجتماعية، في عمليات الاحتيال وسرقة بيانات الاعتماد والوصول غير المصرح به إلى النظام. 

أصبح استنساخ الصوت خطيراً بشكل خاص. فمن خلال بضع ثوانٍ فقط من الكلام المسجّل، يمكن لممثلي التهديد توليد صوت يحاكي نبرة الصوت ووتيرة الصوت والانعطاف. ثم تُستخدم هذه الأصوات المستنسخة في:

• انتحال شخصية المديرين التنفيذيين أو المديرين أثناء المكالمات العاجلة
• خداع الموظفين في التحويلات البرقية أو إعادة تعيين كلمة المرور
• تجاوز أنظمة المصادقة الصوتية

تأخذ عمليات التزييف العميق هذا الأمر خطوة أخرى إلى الأمام من خلال توليد مقاطع فيديو اصطناعية. يمكن لجهات التهديد محاكاة مدير تنفيذي في مكالمة فيديو يطلب بيانات سرية - أو الظهور في مقاطع مسجلة "تعلن" عن تغييرات في السياسة التي تنشر معلومات مضللة. وقد أبلغ معهد بونيمون عن حادثة استخدم فيها المهاجمون رسائل مولدة بالذكاء الاصطناعي منتحلين صفة الموارد البشرية خلال فترة تسجيل المزايا في إحدى الشركات مما أدى إلى سرقة بيانات الاعتماد. 

ومع ازدياد إمكانية الوصول إلى أدوات الذكاء الاصطناعي، يمكن حتى لجهات التهديد الصغيرة إنشاء عمليات انتحال شخصية عالية الدقة. تتجاوز هذه الهجمات عوامل تصفية الرسائل غير المرغوب فيها التقليدية أو دفاعات نقاط النهاية من خلال استغلال الثقة. 

تتلاعب هجمات نماذج المصنفات بمدخلات أو سلوك نظام الذكاء الاصطناعي لفرض قرارات غير صحيحة دون الحاجة إلى كتابة برمجيات خبيثة أو استغلال التعليمات البرمجية. تندرج هذه التكتيكات تحت الفئة الأوسع للتعلم الآلي العدائي.  

هناك استراتيجيتان أساسيتان أساسيتان:

• هجمات المراوغة: يقوم المهاجم بصياغة مدخلات تخدع المصنف ليخطئ في التعرف عليها، مثل البرمجيات الخبيثة التي تحاكي ملفات غير ضارة لتجاوز محركات مكافحة الفيروسات 
• هجمات التسميم: يتم تدريب النموذج أو ضبطه على بيانات مشوهة عمدًا، مما يغير قدرته على اكتشاف التهديدات 

غالبًا ما "تفرط النماذج الخاضعة للإشراف في "التكيف": فهي تتعلم أنماطًا محددة من بيانات التدريب وتفوت الهجمات التي تنحرف قليلاً. يستغل المهاجمون هذا الأمر باستخدام أدوات مثل WormGPT (وهو نموذج LLM مفتوح المصدر مصمم خصيصاً للمهام الهجومية) لإنشاء حمولات خارج حدود الكشف المعروفة.

هذه هي نسخة التعلم الآلي من ثغرة يوم الصفر.

يستخدم قراصنة الذكاء الاصطناعي الذكاء الاصطناعي لأتمتة الهجمات الإلكترونية باستخدام الذكاء الاصطناعي وتعزيزها وتوسيع نطاقها. وعلى النقيض من ذلك، غالبًا ما يتطلب الاختراق التقليدي برمجة يدوية وخبرة تقنية عميقة واستثمارًا كبيرًا للوقت. ويكمن الفرق الأساسي في السرعة وقابلية التوسع وسهولة الوصول: حتى المهاجمين المبتدئين يمكنهم الآن شن هجمات إلكترونية متطورة مدعومة بالذكاء الاصطناعي باستخدام بعض المطالبات ووحدة معالجة رسومات من فئة المستهلك.

تلجأ العديد من المؤسسات إلى المحاكاة الجماعية الحمراء بمساعدة الذكاء الاصطناعي لاختبار دفاعاتها ضد إساءة استخدام LLM، والحقن الفوري، والتهرب من المصنفات. تساعد عمليات المحاكاة هذه في الكشف عن نقاط الضعف في الأنظمة المدمجة بالذكاء الاصطناعي قبل أن يكتشفها المهاجمون. 

تستخدم الفرق الحمراء المطالبات العدائية، والتصيد الاحتيالي الاصطناعي، والحمولات التي يولدها الذكاء الاصطناعي لتقييم ما إذا كانت الأنظمة مرنة أو قابلة للاستغلال. يتضمن اختبار أمان الذكاء الاصطناعي أيضاً: 

• نماذج التشويش على مخاطر الحقن الفوري 
• تقييم كيفية تعامل الآلات ذات السلاسل الطويلة الأجل مع المدخلات المتلاعبة أو المتسلسلة 
• اختبار متانة المصنف في مواجهة السلوك المراوغ 

كما بدأ قادة الأمن أيضاً في فحص أجهزة LLM الخاصة بهم بحثاً عن التسريبات الفورية أو الهلوسة أو الوصول غير المقصود إلى المنطق الداخلي، وهي خطوة حاسمة مع دمج الذكاء الاصطناعي التوليدي في المنتجات وسير العمل.

وبدلاً من محاولة "محاربة الذكاء الاصطناعي بالذكاء الاصطناعي" في حلقة تفاعلية تفاعلية؛ يدعو مارتن كالاس إلى دفاع استباقي متعدد الطبقات. تجمع حلول OPSWAT بين التقنيات التي تستهدف دورة حياة التهديد الكاملة:

• Metascan™ Multiscanning: يقوم بتشغيل الملفات من خلال محركات متعددة لمكافحة الفيروسات لاكتشاف التهديدات التي لا تلتقطها أنظمة محرك واحد لمكافحة الفيروسات 
• MetaDefender Sandbox™: يحلل سلوك الملفات في البيئات المعزولة، حتى أنه يكتشف الحمولات التي ينشئها الذكاء الاصطناعي والتي تتهرب من القواعد الثابتة 
• Deep CDR™: تحييد التهديدات عن طريق إعادة بناء الملفات إلى إصدارات آمنة، وإزالة الثغرات المضمنة 

تم تصميم هذه المكدس الأمني متعدد الطبقات لمواجهة الطبيعة غير المتوقعة للبرمجيات الخبيثة التي يولدها الذكاء الاصطناعي، بما في ذلك التهديدات متعددة الأشكال، والحمولات داخل الذاكرة، وعمليات الإغراء العميقة التي تتجاوز الأدوات التقليدية. ونظراً لأن كل طبقة تستهدف مرحلة مختلفة من سلسلة الهجوم، فإن الأمر لا يتطلب سوى طبقة واحدة لاكتشاف التهديد أو تحييده وإبطال العملية بأكملها قبل أن تتمكن من إحداث الضرر.

يقوم مكتب التحقيقات الفيدرالي والوكالات الأمريكية الأخرى بدمج الذكاء الاصطناعي بشكل متزايد في عمليات الدفاع السيبراني الخاصة بهم ليس فقط لفرز التهديدات وترتيب أولوياتها، ولكن أيضًا لتعزيز تحليل البيانات وتحليلات الفيديو والتعرف على الصوت.

ووفقًا لمكتب التحقيقات الفيدرالي، يساعد الذكاء الاصطناعي في معالجة كميات كبيرة من البيانات لتوليد خيوط التحقيق، بما في ذلك التعرف على المركبات، وتحديد اللغة، وتحويل الكلام إلى نص. والأهم من ذلك، يفرض المكتب إشرافًا بشريًا صارمًا: يجب التحقق من جميع المخرجات التي يولدها الذكاء الاصطناعي من قبل محققين مدربين قبل اتخاذ أي إجراء. 

الذكاء الاصطناعي ليس بديلاً عن اتخاذ القرارات البشرية. يشدد مكتب التحقيقات الفيدرالي على أن الإنسان مسؤول دائمًا عن نتائج التحقيقات، وأن الذكاء الاصطناعي يجب أن يُستخدم بطريقة تحترم الخصوصية والحريات المدنية والمعايير القانونية.