هل يسهم الذكاء الصناعي في تعزيز عمليات الاحتيال المالية؟
نود أن نبلغك أن بنك تشيس مدين لك بألفي دولار، ولتسريع العملية وضمان استلام المبلغ في أسرع وقت ممكن، يُرجى اتباع التعليمات التالية:
- اتصل بخدمة عملاء البنك على الرقم 1-800-953-XXXX للاستعلام عن كيفية استرداد المبلغ، وتأكد من أن تفاصيل حسابك وأي معلومات ذات صلة جاهزة عند إجراء المكالمة.
إذا كنت أحد عملاء بنك تشيس، وتلقيت هذه الرسالة عبر البريد الإلكتروني أو الرسائل النصية، قد تظن أنها رسالة حقيقية، فهي تبدو احترافية تمامًا، وخالية من أي صياغة غريبة أو أخطاء نحوية، أو أي علامات شائعة لمحاولات الاحتيال الإلكتروني التي تواجهنا جميعًا في هذه الأيام.
شات جي بي تي يمكن أن يساعد المحتالين
هذا ليس مفاجئًا، لأن تلك الرسائل كتبت بواسطة ChatGPT، روبوت الدردشة الذي يعمل بالذكاء الصناعي، الذي أطلقته شركة OpenAI في أواخر العام الماضي.
كتبنا ببساطة طلبًا على ChatGPT: "أرسل بريدًا إلكترونيًا إلى جون دو، وأبلغه أن بنك تشيس مدين له بمبلغ ألفي دولار، وعليك الاتصال على رقم 1-800-953-XXXX لاسترداد أموالك"، كان علينا كتابة رقم هاتف كامل حتى نحصل على إجابة ChatGPT، لكننا بالطبع لن ننشر الرقم.
يصرح المؤسس المشارك والرئيس التنفيذي لشركة Sardine، سوبس رانغان: "للمحتالين الآن قواعد نحوية خالية من الأخطاء، تمامًا مثل أي شخص ناطق باللغة الأم".
ويؤكد مسؤول تنفيذي في مجال مكافحة الاحتيال في أحد البنوك الرقمية الأميركية، طلب عدم الكشف عن هويته، أن عملاء البنوك يتعرضون لعمليات احتيال في كثير من الأحيان لأن: "الرسائل النصية التي يتلقونها تكاد تكون مثالية تقريبًا".
في هذا العالم الجديد للذكاء الصناعي التوليدي، أو نماذج التعلم العميق التي يمكنها إنشاء محتوى بناءً على المعلومات التي تم تدريبهم عليها، أصبح من السهل للمحتالين إنتاج نصوص ومقاطع صوتية وحتى مقاطع فيديو ليس لخداع ضحاياهم المحتملين فحسب، بل لاستهداف البرامج المستخدمة لمكافحة الاحتيال أيضًا.
في هذا الصدد، لا يوجد شيء فريد فيما يتعلق بالذكاء الصناعي، فالمحتالون تبنوا منذ فترة طويلة التقنيات الجديدة، بينما كانت الشرطة تسعى إلى اللحاق بهم.
على سبيل المثال، في عام 1989، كشفت فوربس عن كيفية استخدام اللصوص أجهزة الكمبيوتر الشخصية وطابعات الليزر لتزوير الشيكات للاحتيال على البنوك، التي لم تتخذ أي خطوات مضادة للكشف عن عمليات التزوير. الذكاء الصناعي يشكل تهديدًا كبيرًا
اليوم، يشكل الذكاء الصناعي القادر على توليد المحتوى تهديدًا، ويمكن أن يجعل في النهاية الإجراءات الحديثة لمكافحة الاحتيال - مثل التحقق من الصوت، وحتى تقنية فحص بعض الخصائص البيومترية، المصممة لمطابقة الصورة في الوقت الفعلي مع الصورة الموجودة في السجلات - قد عفى عليها الزمن.
لدى شركة Synchrony، إحدى أكبر شركات إصدار بطاقات الائتمان في أميركا، وتمتلك نحو 70 مليون حساب نشط، رؤية واضحة ومباشرة للتطورات والتحديات المتعلقة بهذا الاتجاه.
في رسالة بالبريد الإلكتروني إلى فوربس، أشار نائب الرئيس الأول في Synchrony: "نحن نرى بانتظام بعض الأفراد يستخدمون صورًا ومقاطع فيديو مزيفة لعملية التحقق من الهوية، ونفترض أنه تم توليدها باستخدام الذكاء الصناعي القادر على توليد المحتوى".
في يونيو/ حزيران 2023، أجرت شركة الأمن السيبراني، Deep Instinct، استطلاعًا بمشاركة 650 خبيرًا في مجال الأمن السيبراني، ولاحظ ثلاثة أرباع الخبراء ارتفاعًا في الهجمات خلال العام الماضي.
أرجع 85% منهم هذا الارتفاع إلى استخدام أشخاص محتالين للذكاء الصناعي التوليدي.
في عام 2022، أبلغ المستهلكون عن خسارة 8.8 مليار دولار بسبب عمليات الاحتيال، وهو ما يمثل زيادة تجاوزت 40% عن عام 2021، وفقًا لتقارير لجنة التجارة الفيدرالية الأميركية.
شهد قطاع الاستثمار أكبر الخسائر الناتجة عن عمليات الاحتيال، لكن عمليات انتحال الهوية كانت الأكثر شيوعًا، وهو مؤشر خطير إذ يمكن أن تتطور هذه العمليات باستخدام الذكاء الصناعي.
استهداف الأفراد والشركات
يستخدم المجرمون الذكاء الصناعي التوليدي بطرق متنوعة ومعقدة، فإذا كنت تنشر بانتظام على وسائل التواصل الاجتماعي أو في أي مكان على الإنترنت، فيمكنهم تعليم نموذج ذكاء صناعي لكتابة نصوص بنفس أسلوبك، ومن ثم مراسلة جدّيك لمطالبتهما بإرسال أموال لمساعدتك في الخروج من مأزق ما.
الأمر الأكثر ذعرًا هو أنه إذا حصلوا على مقطع صوتي صغير لصوت طفل، فيمكنهم الاتصال بوالديه، وانتحال شخصيته، والتظاهر بأنه تم اختطافه، ومن ثم المطالبة بفدية لإطلاق سراحه.
هذا تمامًا ما حدث مع جينيفر دي ستيفانو، وهي أم لأربعة أطفال تعيش في أريزونا، حيث أدلت بشهادتها أمام الكونغرس في يونيو/ حزيران.
لا يقتصر الأمر على الآباء والأجداد، لكنه يطول الشركات أيضًا، إذ ينتحل المجرمون شخصيات موردين حقيقيين ويقومون بصياغة رسائل بريد إلكتروني مقنعة للمحاسبين، ويطالبوهم بالحصول على أموالهم في أقرب وقت ممكن، ويدرجون بيانات حساب مصرفي يمكنهم التحكم فيه.
ويشير رانغان إلى أن العديد من عملاء شركته المنتمين إلى شركات التكنولوجيا المالية الناشئة يتعرضون لهذه العمليات الاحتيالية، ويخسرون مئات الآلاف من الدولارات.
لا تقارن هذه الأموال بخسارة شركة يابانية نحو 35 مليون دولار بعد استنساخ صوت مدير الشركة واستخدامه لتنفيذ عملية احتيال معقدة في عام 2020.
تعد هذه العملية الفريدة، التي كشفت عنها فوربس لأول مرة، بمثابة بداية لما يحدث الآن، إذ أصبحت أداوت الذكاء الصناعي للكتابة واقتران الصوت والتلاعب بالفيديو أكثر كفاءة، ويمكن الوصول إليها بسهولة وبأرخص الأسعار حتى بالنسبة للمحتالين العاديين.
تقنية الديب فيك وانتحال الهوية
يوضح المؤسس المشارك والرئيس التنفيذي لشركة مكافحة الاحتيال Persona، ريك سونغ، إلى أنه في الماضي كنت تحتاج إلى مئات أو آلاف الصور لإنشاء فيديو عالي الجودة بتقنية (deepfake)، لكن الأمر الآن مختلف تمامًا، إذ يمكنك استخدام مجموعة صغيرة من الصور.
مثلما تعمل القطاعات الأخرى على تكييف الذكاء الصناعي ليتماشى مع استخداماتها الخاصة، فإن المحتالين ينشئون أيضًا أداوت جاهزة للاستخدام، بما في ذلك FraudGPT وFraudGPT، استنادًا إلى نماذج الذكاء الصناعي التوليدي الصادرة عن كبرى شركات التكنولوجيا.
في مقطع فيديو نشر على يوتيوب في يناير/ كانون الثاني، بدا أن إيلون ماسك يروج لفرصة استثمار جديدة في العملات المشفرة من خلال إعلان ادعى فيه أن تيسلا سترعى منحة بقيمة 100 مليون دولار.
وتضمن العرض مضاعفة كمية العملات المشفرة (البيتكوين، أو الإيثر، أو الدوجكوين، أو التيثر) التي كان المشاركون على استعداد للمساهمة بها.
صرح الشخص الذي ينتحل شخصية ماسك: "أعلم أن الجميع اجتمعوا هنا لسبب معين"، لدينا بث مباشر حيث سيتمكن كل مالك للعملات الرقمية من زيادة دخله، وأكد أنه يستضيف حدثًا مهمًا للعملات المشفرة من سبيس إكس.
نعم، كان مقطع الفيديو مزيفًا، استخدم المحتالون مقابلة أجراها ماسك في فبراير/ شباط 2022 حول برنامج مركبات الفضاء القابلة لإعادة الاستخدام التابعة لشركة سبيس إكس لانتحال شكله وصوته.
حذف يوتيوب هذا الفيديو، وبالتأكيد أي شخص أرسل عملة مشفرة إلى العناوين المقدمة خسر أمواله.
يسهل انتحال شخصية ماسك نظرًا لوجود العديد من التسجيلات الصوتية والمقابلات معه المتاحة، التي يسهل استخدامها بتدريب الذكاء الصناعي، لكن الآن أصبح من الممكن بشكل متزايد انتحال شخصية أي شخص تقريبًا.
استنساخ الأصوات إلى أين؟
في وقت سابق هذا العام، كان لاري ليونارد، البالغ من العمر 93 عامًا، الذي يعيش في دار للمتقاعدين بجنوب فلوريدا، في المنزل عندما تلقت زوجته مكالمة هاتفية.
وبعد دقيقة، أعطته الهاتف، وسمع صوت يشبه صوت حفيده البالغ من العمر 27 عامًا يقول إنه في السجن لأنه صدم امرأة بشاحنته، في حين لاحظ أن المتصل ينطق كلمة جدي بطريقة غير معتاد على استخدامها، إلا أن الصوت وحقيقة أن حفيده يقود شاحنة دفعته لتجاهل شكوكه.
وعندما رد ليونارد بأنه سيتصل بوالدي حفيده، أغلق المتصل الهاتف. سرعان ما أدرك ليونارد أن حفيده بخير وأن القصة بأكملها - بما في ذلك الصوت الذي سمعه - كانت مفتعلة.
صرح ليونارد لفوربس: "الأمر مخيف ومفاجئ بالنسبة لي أنهم كانوا قادرين على تقليد صوته بدقة"، مضيفًا: "لم يكن هناك توقفات بين الجمل أو الكلمات تشير إلى أن هذا الصوت يأتي من جهاز أو يقرأ من برنامج، لقد كان ذلك مقنعًا للغاية".
غالبًا ما تستهدف العمليات الاحتيالية كبار السن في أميركا، لكن الآن يجب علينا جميعًا أن نكون حذرين من المكالمات الواردة، حتى إذا كان الرقم يبدو مألوفًا، بما في ذلك أرقام الجيران.
تعرب مديرة برامج منع الاحتيال في رابطة المتقاعدين الأميركيين (AARP)، كاثي ستوكس، عن شكواها: "لقد أصبح الأمر أكثر صعوبة، لأننا لا يمكننا الوثوق في المكالمات الهاتفية الواردة بسبب انتحال أرقام الهواتف في المكالمات الآلية".
وأضافت: "لا يمكننا الوثوق في بريدنا الإلكتروني، أو الرسائل النصية، لذلك نحن مقيدون حتى في الطرق التقليدية التي نتواصل بها مع بعضنا البعض".
يوجد تطور مخيف آخر، و يعد تهديدًا حتى للتدابير الأمنية الجديدة.
على سبيل المثال، تقدم المؤسسات المالية الكبيرة مثل مجموعة فانغارد - كبرى شركات صناديق الاستثمار المشتركة، التي تخدم أكثر من 50 مليون مستثمر - لعملائها إمكانية الوصول إلى بعض الخدمات عبر الهاتف من خلال التحدث بدلاً من الإجابة عن سؤال أمان.
في نوفمبر/ تشرين الثاني 2021، حثت فانغارد العملاء على الاشتراك في خدمة التحقق من الهوية عبر الصوت مستخدمه مقطع فيديو يشير إلى "صوتك فريد تمامًا مثل بصمة إصبعك".
لكن تقدم تقنيات استنساخ الأصوات يشير إلى أن الشركات بحاجة إلى إعادة النظر في هذا الممارسة.
يؤكد رانغان أنه شاهد بالفعل أمثلة لأشخاص يستخدمون تقنيات استنساخ الصوت للمصادقة بنجاح مع البنك والوصول إلى الحساب.
ورفض المتحدث باسم فانغارد التعليق على الإجراءات التي قد تتخذها الشركة لحماية أنظمتها من التطورات التي تطرأ على استنساخ الأصوات.
هل يمكن للمحتالين تجاوز التقنيات الأمنية للمؤسسات الكبرى؟
تواجه الشركات الصغيرة وحتى الكبيرة، التي تعتمد إجراءات غير رسمية لدفع الفواتير أو تحويل الأموال، خطر المحتالين.
اعتاد المحتالون منذ فترة طويلة إرسال فواتير مزيفة عبر البريد الإلكتروني يطالبون فيها الشركات بالحصول على أموالهم، وهي فواتير تظهر كما لو أنها مرسلة من أحد الموردين.
الآن، باستخدام أدوات الذكاء الصناعي المتاحة على نطاق واسع، يمكن للمحتالين الاتصال بموظفي الشركات باستخدام نسخة مستنسخة من صوت مدير تنفيذي، والتظاهر بالموافقة على المعاملات أو مطالبة الموظفين بالكشف عن بيانات حساسة من خلال تقليد صوت شخص جدير بالثقة.
يستخدم المجرمون، بشكل متزايد، الذكاء الصناعي التوليدي للتغلب على تقنيات شركات مكافحة الاحتيال، وهي شركات تكنولوجية متخصصة في منع الاحتيال بالحراس المسلحين وشاحنات برينكس.
تعتمد شركات مكافحة الاحتيال، بما في ذلك Socure، وMitek، وOnfido، على تقنية الفحص البيومتري للتحقق من الهوية، إذ يُطلب منك التقاط صورة شخصية أو مقطع فيديو، ويتم استخدامهما لمطابقة وجهك مع صورة بطاقة الهوية التي يُطلب منك أيضًا تقديمها.
ومن خلال معرفة كيفية عمل هذا النظام، يشتري اللصوص صورًا لرخص قيادة حقيقية على شبكة الإنترنت المظلمة "دارك ويب"، ويستخدمون برامج تحويل الفيديو - أدوات رخيصة ومتاحة بسهولة على نطاق واسع - لمطابقة الصور الموجودة في الوثائق التي اشتروها مع وجوههم الحقيقية.
يمكنهم بعد ذلك التحدث وتحريك رؤوسهم خلف وجه رقمي لشخص آخر، ما يزيد من فرصهم في خداع تقنية التحقق البيومتري.
يصرح سونغ: "هناك ارتفاع كبير في أعداد الوجوه المزيفة، والوجوه المولّدة عالية الجودة والهجمات الآلية لانتحال هوية شخص ما لتجاوز الفحص البيومتري"، مضيفًا: " أن هذه الزيادة تختلف من قطاع إلى آخر، ولكن بالنسبة للبعض، ارتفعت الأعداد نحو عشرة أضعاف ما كانت عليه العام الماضي، وتعرضت شركات التكنولوجيا المالية والعملات المشفرة لهجمات كبيرة".
أفاد خبراء الاحتيال لفوربس، أنهم يعتقدون أن مقدمي خدمات التحقق من الهوية المعروفين، بما في ذلك شركتا Socure وMitek، قد شهدوا تراجعًا في مؤشرات منع الاحتيال الخاصة بهم نتيجة لذلك.
ويصر الرئيس التنفيذي لشركة Socure، جوني آيرز، على أن "هذا غير صحيح بالتأكيد"، كما يشير إلى أن نماذجهم الجديدة التي تم إطلاقها خلال الأشهر القليلة الماضية أدت إلى زيادة معدلات اعتراض عمليات الاحتيال بنسبة 14% لأعلى 2% من عمليات انتحال الهوية الأكثر خطورة.
ومع ذلك، يعترف بأن بعض العملاء قد تأخروا في تبني نماذج Socure الجديدة، ما يمكن أن يؤثر في الأداء، ويشير إلى أن أحد البنوك الثلاثة الكبرى، التي تستخدم حاليًا إصدارًا من نظام Socure، يتخلف بأربعة إصدارات عن الإصدار الأحدث.
رفضت شركة Mitek التعليق بشكل محدد على مقاييس أدائها، لكن نائب الرئيس الأول، كريس بريغز، أشار إلى أنه قد تم تطوير نموذج معين قبل 18 شهرًا، حيث صرح: "نعم يمكنك القول إن النموذج القديم لا يؤدي بشكل جيد مثل النموذج الأحدث"، وأضاف: "نماذج شركتنا تُدرب ويعاد تدريبها باستمرار بمرور الوقت باستخدام تدفقات بيانات حقيقية، بالإضافة إلى البيانات التي لا تعتمد على مستخدمين حقيقيين".
رفض كل من جي بي مورغان، وبنك أوف أميركا، وويلز فارغو، التعليق على التحديات التي يواجهونها في عمليات الاحتيال المعتمدة على الذكاء الصناعي.
وصرح المتحدث باسم Chime، أكبر بنك رقمي في أميركا، الذي عانى في الماضي من عمليات احتيال كبرى، أن البنك لم يشهد ارتفاعًا في محاولات الاحتيال المتعلقة بالذكاء الصناعي.
نهج اصطياد الضحية
يتنوع المجرمون المتورطون في عمليات الاحتيال المالي اليوم، بما في ذلك الأفراد الذين يعملون بشكل مستقل وقد ينخرطون في أشكال بسيطة نسبيًا من الاحتيال المالي، والمجموعات المتطورة التي يمكن أن تختلف في الحجم من فرص صغيرة إلى مؤسسات أكبر تضم عشرات أو حتى مئات الأعضاء، بالإضافة إلى الحلقات الكبيرة التي تشبه الشركات من حيث تعقيدها التنظيمي، لما لديهم من هياكل متعددة الطبقات ذات أدوار متخصصة، على غرار التسلسل الهرمي للشركات. يتضمن ذلك أدوارًا مثل علماء البيانات الذين يستفيدون من تقنيات تحليل البيانات المتقدمة لتحسين أنشطتهم الاحتيالية.
ويشير رانغان إلى امتلاكهم لمركز قيادة وتحكم خاص بهم، فالبعض يستهدف عملاء محتملين ويرسل إليه رسائل عبر البريد الإلكتروني أو يجري مكالمة هاتفية، بمجرد جذب الهدف، فإنه يحيله إلى زميل آخر يتظاهر بأنه مدير فرع البنك، لإقناع الضحية بتحويل الأموال من حسابه.
واستكمالًا لعملية الاحتيال، سيطلبون منك تثبيت برنامج Microsoft TeamViewer أو Citrix، ما يتيح لهم التحكم في جهاز الكمبيوتر الخاص بك بسهولة، إذ يمكنهم إغلاق شاشتك تمامًا، ومن ثم يجري المحتال مزيدًا من عمليات الشراء وسحب الأموال إلى حساب آخر تحت سيطرته.
إحدى الرسائل الشائعة المستخدمة لخداع الأشخاص، ولا سيما كبار السن، مفادها "لقد تعرض حسابك الشخصي للاختراق من قِبل بعض اللصوص، ونحن نحتاج إلى مزيد من المعلومات الخاصة بحسابك لاسترداد الأموال".
لا يعتمد هذا النهج على الذكاء الصناعي، لكن أدوات الذكاء الصناعي يمكن أن تجعل المحتالين أكثر كفاءة وإقناعًا في تنفيذ حيلهم.
حاولت OpenAI تقديم تدابير وقائية لمنع الأشخاص من استخدام ChatGPT في الاحتيال، على سبيل المثال، إذا طلبت من ChatGPT أن يكتب بريدًا إلكترونيًا يطلب من شخص ما رقم حسابه المصرفي، سيرد بالرفض قائلاً: "أنا آسف جدًا، لا يمكنني مساعدتك بهذا الطلب"، ومع ذلك، لا يزال من السهل خداعه.
رفضت شركة OpenAI التعليق على هذا المقال، ووجهتنا فقط إلى منشورات مدونة الشركة الخاصة بها، بما في ذلك مقال نُشر في مارس/ آذار 2022، يتضمن: "لا يوجد حل سحري للنشر المسؤول، لذلك نحاول التعرف إلى قيود نماذجنا وإمكاناتها ومعالجتها، وسبل الاستخدام السيئ المحتملة في كل مرحلة من مراحل التطوير والنشر".
هل يُسهل نموذج "Llama 2" عمليات الاحتيال؟
يعد "Llama 2"، نموذج اللغة الكبير الذي أصدرته ميتا، أسهل في الاستخدام للمنظمات الإجرامية، نظرًا لكونه مفتوح المصدر، حيث يمكن رؤية جميع أكواده واستخدامها.
ويشير الخبراء إلى أن هذا يفتح مجموعة أوسع بكثير من السبل التي يمكن للمنظمات الإجرامية استغلالها واستخدامها لتحقيق أهدافها الاحتيالية.
على سبيل المثال، يمكن للأشخاص إنشاء أدوات ذكاء صناعي غير أخلاقية بناء على هذا النموذج مفتوح المصدر.
لم تستجب ميتا لطلب فوربس للتعليق، على الرغم من أن الرئيس التنفيذي مارك زوكربيرغ، أشار في يوليو/ تموز، إلى أن بقاء Llama مفتوح المصدر يمكن أن يعزز "السلامة والأمان"، نظرًا لأن البرامج مفتوحة المصدر تخضع لمزيد من التدقيق، ويمكن لعدد أكبر من الأشخاص العثور على المشكلات وإيجاد حلول لها.
تسعى شركات مكافحة الاحتيال إلى الابتكار بسرعة بهدف مواكبة التطورات، وتبحث بشكل متزايد عن أنواع جديدة من البيانات لاكتشاف الجهات الفاعلة للعمليات غير الأخلاقية والاحتيالية.
خمس نصائح لحماية نفسك من عمليات الاحتيال المدعومة بالذكاء الصناعي
تأمين الحسابات: تتطلب المصادقة متعددة العوامل (MFA) منك إدخال كلمة مرور ورمز إضافي للتحقق من هويتك، فعّل خاصية المصادقة متعددة العوامل على جميع حساباتك المصرفية.
حافظ على الخصوصية: يمكن للمحتالين استخدام المعلومات الشخصية المتاحة على وسائل التواصل الاجتماعي أو على الإنترنت لانتحال شخصيتك بشكل أفضل.
فحص المكالمات: لا ترد على المكالمات الواردة من أرقام غير مألوفة، كما ينصح رئيس قسم الجرائم المالية ومكافحة الاحتيال في سيتي، مايك شتاينباخ.
ابتكر عبارات مرور: يمكن للعائلات التحقق من هوية أحبائهم من خلال طلب نطق كلمة أو عبارة تم الاتفاق عليها مسبقًا، كما يمكن للشركات الصغيرة اعتماد أكواد مرور للموافقة على إجراءات الشركة، بما في ذلك التحويلات البنكية التي يطلبها المسؤولون التنفيذيون، وتوخى الحذر عند تلقي رسائل من المديرين التنفيذيين تطلب شراء بطاقات هدايا، فهذه عملية احتيال شائعة.
كن سريع البديهة: ينصح مؤسس شركة مكافحة الاحتيال PointPredictive، فرانك ماكينا، بأنه بمجرد الشعور بخطب ما خلال المكالمة الهاتفية، حاول أن تطرح أي سؤال، مثلًا ما حال الطقس اليوم في المدينة التي تتواجد فيها، أو اطرح أي سؤال شخصي.
