يُقصدبالاحتيال في المحتوى المُنتج بواسطة الذكاء الاصطناعي استخدام الذكاء الاصطناعي التوليدي لتزوير أو التلاعب بالصور أو المستندات أو النصوص المقدمة كأدلة في اتخاذ قرار تجاري. ويُعد «AI Content Inspector» محركًا يعمل بالذكاء الاصطناعي تابعًا لموقع OPSWAT ، ويهدف إلى التحقق من أصالة المحتوى وكشف الاحتيال في المستندات، وقد صُمم لتمييز هذا النوع من المحتوى قبل أن يؤثر على اتخاذ قرار متعلق بالدفع أو الرعاية.
الماخذ الرئيسية
- تحولت بقعة على السقف تكلفتها 600 دولار إلى تعويض من شركة التأمين على المنزل بقيمة 18,400 دولار بعد أن قام الذكاء الاصطناعي التوليدي بتضخيم حجم الضرر في صورة تم تقديمها، دون الحاجة إلى زيارة أي مفتش
- تحولت خدشة في المصد بقيمة 150 دولارًا إلى مطالبة تأمينية بقيمة 3,850 دولارًا بمجرد أن أضاف الذكاء الاصطناعي انبعاجات وتصدعًا في المصد إلى الصورة نفسها
- تواجه الجهات الممولة لخدمات الرعاية الصحية مخاطر ذات صلة: فقد تؤدي الصور الطبية المزيفة والوثائق السريرية الملفقة إلى اتخاذ قرارات خاطئة بشأن سداد التكاليف أو قرارات خاطئة بشأن الرعاية
- قد تحتوي 20% إلى 30% من مطالبات التأمين بالفعل على مواد وسائطية تم تعديلها باستخدام الذكاء الاصطناعي
- يجمع «AI Content Inspector» بين عمليات التحقق من البيانات الوصفية ومصدر المحتوى، ومصنفات نماذج الذكاء الاصطناعي الخاصة بالتحليل الجنائي وتحليل الضغط، وكشف العلامات المائية، ليقدم نتيجة واحدة مصحوبة بدرجة ثقة، بدلاً من مجرد علامة «ناجح» أو «راسب»
أظهر منشورنا السابق حول الاحتيال في الفواتير التي يتم إنشاؤها بواسطة الذكاء الاصطناعي أن الفاتورة المزورة يمكنها اجتياز جميع عمليات فحص البرامج الضارة رغم احتوائها على تعليمات دفع احتيالية. وتظهر هذه الثغرة نفسها في أي مكان يتم فيه قبول صورة أو مستند أو نموذج ممسوح ضوئيًا كدليل. فقد تكون صورة عقار أو صورة حادث أو سجل طبي خالية من أي رموز ضارة، ومع ذلك تُقدم صورة خاطئة عما حدث فعليًّا.
في هذه المدونة، سنعرض ثلاثة أنواع من المطالبات – التأمين على المنازل، والتأمين على السيارات، وسداد تكاليف الرعاية الصحية – لإبراز مدى انتشار هذا الخطر بالفعل. ويقع عبء تحمل هذا الخطر على عاتق محللي الاحتيال، ووحدات التحقيق الخاصة، وقادة عمليات المطالبات، وفرق ضمان نزاهة المدفوعات في مجال الرعاية الصحية، حيث إنهم يمثلون نقطة التفتيش الأخيرة قبل الموافقة على دفع التعويض أو اتخاذ قرار بشأن الرعاية الصحية.
حيث تؤثر حالات الاحتيال الناتجة عن الذكاء الاصطناعي بالفعل على المطالبات
أدى الذكاء الاصطناعي التوليدي إلى جعل المزاعم الملفقة سريعة ورخيصة وصعبة الكشف بالعين المجردة. وفقًا لشركة «شيفت تكنولوجي»، قد تحتوي 20% إلى 30% من مطالبات التأمين على مواد وسائطية تم تعديلها بواسطة الذكاء الاصطناعي. ووفقًا لـ«رابطة المهنيين الماليين»، تعرضت 76% من المؤسسات لمحاولات احتيال في المدفوعات أو حالات احتيال فعلية في عام 2025، وكما يكشف تقرير صدر مؤخرًا عن «ميديوس فاينانشال سينسوس »، يصل متوسط خسائر الاحتيال في الفواتير إلى 133,000 دولار لكل حادثة.
تعتمد جميع سير العمل المتعلقة بالمطالبات والدفع والتعويضات على المحتوى المقدم، والذي أصبح بإمكان الذكاء الاصطناعي التوليدي الآن تزويره بشكل مقنع. ويتخذ كل سير عمل قرارًا بالموافقة أو الإبلاغ أو الحظر أو إحالة الأمر للمراجعة بناءً على ذلك المحتوى، ويمكن لصورة أو وثيقة مزورة أن تدفع هذا القرار إلى الأمام قبل أن يتساءل أي شخص عما إذا كانت الأدلة الأساسية حقيقية أم لا.
كيف تؤدي الصور التي تولدها الذكاء الاصطناعي للأضرار التي تلحق بالممتلكات إلى تضخيم مطالبات التأمين على المنازل
السيناريو
يقوم مالك منزل بتصوير بقعة صغيرة على السقف، تبلغ تكلفة إصلاحها حوالي 600 دولار. ثم تقوم تقنية الذكاء الاصطناعي التوليدي بتعديل الصورة لتظهر أضرارًا ناجمة عن عاصفة تمتد عبر السقف والسطح. وعند تقديم الصورة المعززة بالذكاء الاصطناعي عبر أداة تقييم مطالبات الممتلكات عن بُعد، يتم دفع تعويض آلي بقيمة 18,400 دولار، دون أن يزور أي مفتش المنزل على الإطلاق.
كيف يكتشف «مفتش المحتوى بالذكاء الاصطناعي» التزوير باستخدام الذكاء الاصطناعي عند الاستلام
يقوم «مفتش المحتوى بالذكاء الاصطناعي» بفحص الصورة المرسلة باستخدام عدة مؤشرات في آن واحد، بما في ذلك تحليل بصمة المستشعر، وفحوصات اتساق وحدات البكسل، وآثار الضغط التي يتركها التحرير. ولا يحدد كاشف واحد النتيجة. فهذا المزيج يتيح للمحرك الكشف عن الصورة المزيفة بالذكاء الاصطناعي حتى لو بدت مقنعة للمراجع البشري. ويتم إرسال الحكم النهائي ودرجة الثقة إلى منصة المطالبات التي أرسلت الملف، بحيث يمكن توجيه الصورة المشبوهة للمراجعة اليدوية قبل الموافقة على الدفع، بدلاً من بعد صرف الأموال.
هل يمكن للصور التي تم تعديلها باستخدام الذكاء الاصطناعي أن تؤدي إلى الموافقة على مطالبة تأمين السيارة؟
السيناريو
يقوم أحد حاملي وثائق التأمين بتصوير خدش بسيط في المصد، تبلغ تكلفة إصلاحه 150 دولارًا. ثم تقوم تقنية الذكاء الاصطناعي التوليدي بإضافة خدوش، ومصباح محطم، ومصد متصدع إلى الصورة نفسها. وعند إرسال الصورة المزورة إلى منصة مطالبات تعتمد على الصور، تؤدي إلى دفع تعويض آلي بقيمة 3,850 دولارًا، دون أن يرى أي خبير تقييم السيارة على الإطلاق.
لماذا تتعرض منصات المطالبات القائمة على الصور للخطر
تم تصميم منصات المطالبات القائمة على الصور لتسريع عملية الموافقة، وليس للتشكيك في صحة الصورة المقدمة. ويقوم «مفتش المحتوى بالذكاء الاصطناعي» بإصدار حكم بشأن أصالة المحتوى في نفس نقطة الاستلام التي تدخل فيها الصورة بالفعل إلى مسار العمل. ولا يتطلب هذا الحكم دورة شراء جديدة أو أداة كشف منفصلة يتم ربطها بمنصة المطالبات، كما أنه يوفر لوحدات التحقيق الخاصة إشارة مبكرة يمكنها الاستناد إليها عندما تحتاج مطالبة مشبوهة إلى فحص دقيق.
تأثر قطاع الرعاية الصحية بالوثائق الطبية المزيفة
تواجه الجهات الدافعة في قطاع الرعاية الصحية خطرين مترابطين ناشئين عن المشكلة الأساسية نفسها. فقد تؤدي الصور السريرية المزيفة أو الوثائق المركبة التي تُرفق مع المطالبة إلى اتخاذ قرارات خاطئة بشأن السداد. أما إذا وصل هذا المحتوى المزيف إلى سجل مقدم الخدمة بدلاً من قائمة انتظار الجهة الدافعة، فقد يؤدي بدلاً من ذلك إلى اتخاذ قرارات سريرية خاطئة.
لماذا لا تكفي المراجعة اليدوية للوثائق للكشف عن أي من هذين الخطرين
يتعين على الجهات الدافعة في قطاع الرعاية الصحية وفرق ضمان نزاهة المدفوعات الكشف عن الصور الطبية المزيفة والوثائق المقلدة مع الحفاظ على نزاهة سير العمل الخاضع للرقابة، كما أنها تتعامل مع أحجام هائلة من المطالبات، مما يجعل المراجعة اليدوية لكل صورة ووثيقة، سطراً سطراً، أمراً غير عملي. يقوم برنامج «AI Content Inspector» بتحليل الصور الطبية والوثائق المقدمة للكشف عن مؤشرات التوليد بالذكاء الاصطناعي ومؤشرات الاحتيال قبل وصول هذا المحتوى إلى مسار سداد التكاليف أو مسار الرعاية، دون الحاجة إلى إضافة خطوة مراجعة منفصلة لكل ملف.
كيف يكتشف «مفتش المحتوى بالذكاء الاصطناعي» المحتوى المزيف
قبل تشغيل أي إشارة كشف، يقوم «AI Content Inspector» بالتحقق من صحة كل ملف يتم إرساله وتوحيد معاييره، بما في ذلك معالجة البيانات الوصفية وبيانات EXIF لتنسيقات الصور المدعومة. ولا تقرر إشارة واحدة بمفردها ما إذا كان الملف مزيفًا أم لا. ويجمع «AI Content Inspector» بين أربع فئات من عمليات الكشف تشمل الصور والنصوص وملفات PDF:
- تحليل البيانات الوصفية ومصدر الملف. يتم التحقق من المصدر الذي يُدعي الملف أنه ينتمي إليه، من خلال مقارنة بيانات الكاميرا مع بيانات الاعتماد الخاصة بالتوليد باستخدام الذكاء الاصطناعي.
- التحليل الجنائي وتحليل الضغط. يبحث عن آثار التعديل، والثغرات في بصمات المستشعرات، وآثار الضغط التي خلفتها عمليات إعادة الحفظ أو التلاعب.
- مصنفات نماذج الذكاء الاصطناعي. تعمل على تشغيل نماذج التعلم العميق التي تم تدريبها على التمييز بين المحتوى الحقيقي والصور والنصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي.
- الكشف عن العلامات المائية. يتحقق من وجود التوقيعات المضمنة، مثل Google SynthID، في محتوى الصور المدعوم.
تُرجع كل إشارة النتيجة الخاصة بها. ويقوم «AI Content Inspector» بدمج هذه النتائج في حكم واحد مصحوبًا بدرجة ثقة، بدلاً من وضع علامة «مقبول» أو «غير مقبول»، بحيث يمكن إحالة النتائج غير المؤكدة إلى المراجعة البشرية بدلاً من الحظر أو الموافقة التلقائية.
دور «AI Content Inspector» في منصة MetaDefender™
يعمل «AI Content Inspector» كمحرك مستقل داخل كل من MetaDefender™ Core وMetaDefender™ Cloud. وهو يعمل جنبًا إلى جنب مع تقنيات Metascan™ Multiscanning وDeep CDR™ وProactive DLP™. إن إضافة نتائج التحقق من أصالة المحتوى إلى مسار العمل الحالي تعني أن أنظمة المطالبات والمدفوعات وتسجيل المرضى في قطاع الرعاية الصحية لا تحتاج إلى أداة منفصلة للكشف عن المحتوى المزيف (ديب فايك) أو تكامل جديد لبدء التحقق من موثوقية المحتوى المقدم.
على عكس حلول الكشف عن التزييف العميق ( أدوات ) المستقلة التي تتطلب سير عمل ودورة شراء خاصة بها، تم تصميم «AI Content Inspector» ليعمل ضمن مسار فحص الملفات الذي تطبقه هذه المؤسسات بالفعل، مما يوسع نطاق نهج « OPSWAT » لأمن الملفات من مجرد تحديد ما إذا كان الملف آمنًا للفتح إلى تقييم مدى موثوقية محتواه. ويضيف «AI Content Inspector» تقييمًا لمصداقية المحتوى إلى عملية فحص الملفات التي تنفذها مؤسستك بالفعل. اكتشف كيف يتكامل هذا الحل مع سير عمل المطالبات أو المدفوعات أو استلام طلبات الرعاية الصحية.
الأسئلة الشائعة
ما هي أنواع الملفات التي يدعمها برنامج AI Content Inspector؟
يدعم «مفتش المحتوى بالذكاء الاصطناعي» تنسيقات الصور الشائعة، بما في ذلك JPG وPNG وWebP وBMP، إلى جانب التنسيقات التي تحتوي على نصوص مثل TXT وMarkdown وPDF. ويشمل فحص ملفات PDF كلاً من الكشف عن النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي والكشف عن الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي داخل المستند نفسه.
هل يعمل «AI Content Inspector» بدون اتصال بالسحابة؟
نعم. يتم نشر «AI Content Inspector» محليًّا عبر MetaDefender Core ، بالإضافة إلى MetaDefender Cloud ، على أنظمة التشغيل Windows وLinux. ويمكن للمؤسسات التي لا تستطيع إرسال مستندات المطالبات أو المدفوعات أو الرعاية الصحية إلى خدمة خارجية أن تُجري عملية الكشف بالكامل داخل بيئتها الخاصة.
ما الفرق بين «مفتش المحتوى بالذكاء الاصطناعي» وفحص البرامج الضارة؟
تقوم عملية فحص البرامج الضارة بالتحقق مما إذا كان الملف آمنًا لفتحه. أما أداة «AI Content Inspector» فتتحقق من صحة المحتوى الموجود داخل ذلك الملف، وتضيف تقييمًا بشأن الاحتيال والمحتوى المُنتج بواسطة الذكاء الاصطناعي إلى جانب فحص البرامج الضارة، دون أن تحل محله.
هل يعطي «AI Content Inspector» نتيجة «ناجح» أم «راسب»؟
لا. فهو يُصدر نتيجة مصحوبة بدرجة ثقة، استنادًا إلى إشارات كشف متعددة. ويمكن إحالة النتائج غير المؤكدة إلى المراجعة اليدوية، كما أن عتبة المراجعة قابلة للتكوين.
