لا تضاهي قوة الدماغ البشري المتسللين الذين جرأوا بهجمات التحطيم والاستيلاء الرقمية المدعومة بالذكاء الاصطناعي باستخدام خداع البريد الإلكتروني. وبالتالي ، يجب أن تسترشد دفاعات الأمن السيبراني بحلول الذكاء الاصطناعي تعرف استراتيجيات المتسللين بشكل أفضل منهم.

ظهر هذا النهج في محاربة الذكاء الاصطناعي مع الذكاء الاصطناعي أفضل كاستراتيجية مثالية في البحث الذي أجرته شركة Darktrace الإلكترونية في مارس لاستنشاق رؤى حول السلوك البشري حول البريد الإلكتروني. وأكد الاستطلاع الحاجة إلى أدوات إلكترونية جديدة لمواجهة تهديدات القراصنة التي تحركها الذكاء الاصطناعي والتي تستهدف الشركات.

سعت الدراسة إلى فهم أفضل لكيفية تفاعل الموظفين على مستوى العالم مع التهديدات الأمنية المحتملة. كما رسمت معرفتهم المتزايدة بالحاجة إلى أمان أفضل للبريد الإلكتروني.

وجد استطلاع Darktrace العالمي الذي شمل 6,711 موظفا في جميع أنحاء الولايات المتحدة والمملكة المتحدة وفرنسا وألمانيا وأستراليا وهولندا أن المستجيبين شهدوا زيادة بنسبة 135٪ في “هجمات الهندسة الاجتماعية الجديدة” عبر الآلاف من عملاء البريد الإلكتروني النشطين في Darktrace من يناير إلى فبراير 2023. تتوافق النتائج مع اعتماد ChatGPT على نطاق واسع.

تستخدم هجمات الهندسة الاجتماعية الجديدة هذه تقنيات لغوية متطورة ، بما في ذلك زيادة حجم النص وعلامات الترقيم وطول الجملة بدون روابط أو مرفقات. يشير هذا الاتجاه إلى أن الذكاء الاصطناعي التوليدية ، مثل ChatGPT ، توفر وسيلة لجهات التهديد لصياغة هجمات متطورة وموجهة بسرعة وعلى نطاق واسع ، وفقا للباحثين.

واحدة من أهم ثلاث نقاط من البحث هي أن معظم الموظفين قلقون بشأن تهديد رسائل البريد الإلكتروني التي يتم إنشاؤها بواسطة الذكاء الاصطناعي ، وفقا لماكس هاينماير ، كبير مسؤولي المنتجات في Darktrace.

“هذا ليس مفاجئا ، لأن رسائل البريد الإلكتروني هذه غالبا ما لا يمكن تمييزها عن الاتصالات المشروعة وبعض العلامات التي يبحث عنها الموظفون عادة لاكتشاف” مزيفة “تتضمن إشارات مثل التهجئة والقواعد الرديئة ، والتي تثبت روبوتات الدردشة كفاءتها العالية في التحايل عليها” ، قال ل TechNewsWorld.

يسلط الضوء على البحوث

سألت Darktrace شركات البيع بالتجزئة والمطاعم والترفيه عن مدى قلقها ، إن وجدت ، من أن المتسللين يمكنهم استخدام الذكاء الاصطناعي التوليدية لإنشاء رسائل بريد إلكتروني احتيالية لا يمكن تمييزها عن الاتصالات الحقيقية. وقال اثنان وثمانون في المئة إنهم قلقون.

أشار أكثر من نصف جميع المشاركين إلى وعيهم بما يجعل الموظفين يعتقدون أن البريد الإلكتروني هو هجوم تصيد احتيالي. الثلاثة الأولى هي الدعوات للنقر على رابط أو فتح مرفق (68٪) ، ومرسل غير معروف أو محتوى غير متوقع (61٪) ، وسوء استخدام الإملاء والقواعد (61٪).

هذا أمر مهم ومقلق ، حيث أشار 45٪ من الأمريكيين الذين شملهم الاستطلاع إلى أنهم وقعوا فريسة لبريد إلكتروني احتيالي ، وفقا لهاينماير.

وقال: “ليس من المستغرب أن يشعر الموظفون بالقلق إزاء قدرتهم على التحقق من شرعية اتصالات البريد الإلكتروني في عالم أصبحت فيه روبوتات الدردشة الذكاء الاصطناعي قادرة بشكل متزايد على تقليد المحادثات في العالم الحقيقي وإنشاء رسائل بريد إلكتروني تفتقر إلى جميع العلامات الشائعة لهجوم التصيد الاحتيالي ، مثل الروابط أو المرفقات الضارة”.

وتشمل النتائج الرئيسية الأخرى للدراسة الاستقصائية ما يلي:

• لاحظ 70٪ من الموظفين العالميين زيادة في وتيرة رسائل البريد الإلكتروني والرسائل النصية الاحتيالية في الأشهر الستة الماضية
• 87٪ من الموظفين العالميين قلقون بشأن كمية المعلومات الشخصية المتاحة عنهم عبر الإنترنت والتي يمكن استخدامها في التصيد الاحتيالي وعمليات الاحتيال الأخرى عبر البريد الإلكتروني
• 35٪ من المستجيبين جربوا ChatGPT أو روبوتات محادثة الذكاء الاصطناعي أخرى

حواجز حماية الخطأ البشري

وأشار هاينماير إلى أن إمكانية الوصول على نطاق واسع إلى أدوات الذكاء الاصطناعي التوليدية مثل ChatGPT والتطور المتزايد للجهات الفاعلة في الدولة القومية يعني أن عمليات الاحتيال عبر البريد الإلكتروني أصبحت أكثر إقناعا من أي وقت مضى.

لا يزال الخطأ البشري البريء والتهديدات الداخلية مشكلة. يعد التوجيه الخاطئ للبريد الإلكتروني مخاطرة لكل موظف وكل مؤسسة. أرسل ما يقرب من اثنين من كل خمسة أشخاص بريدا إلكترونيا مهما إلى المستلم الخطأ مع اسم مستعار مشابه عن طريق الخطأ أو بسبب الإكمال التلقائي. يرتفع هذا الخطأ إلى أكثر من النصف (51٪) في صناعة الخدمات المالية و 41٪ في القطاع القانوني.

بغض النظر عن الخطأ ، تضيف مثل هذه الأخطاء البشرية طبقة أخرى من المخاطر الأمنية غير الضارة. يمكن لنظام التعلم الذاتي اكتشاف هذا الخطأ قبل مشاركة المعلومات الحساسة بشكل غير صحيح.

ردا على ذلك ، كشفت Darktrace النقاب عن تحديث مهم لحل البريد الإلكتروني المنشور عالميا. يساعد على تعزيز أدوات أمان البريد الإلكتروني حيث تستمر المؤسسات في الاعتماد على البريد الإلكتروني كأداة أساسية للتعاون والتواصل.

وقال: “إن أدوات أمان البريد الإلكتروني التي تعتمد على معرفة التهديدات السابقة تفشل في حماية المؤسسات وموظفيها في المستقبل ضد تهديدات البريد الإلكتروني المتطورة”.

تتضمن أحدث إمكانات البريد الإلكتروني في Darktrace اكتشافات سلوكية لرسائل البريد الإلكتروني الموجهة بشكل خاطئ والتي تمنع إرسال الملكية الفكرية أو المعلومات السرية إلى المستلم الخطأ ، وفقا ل Heinemeyer.

مبادرة الأمن السيبراني الذكاء الاصطناعي

من خلال فهم ما هو طبيعي ، يمكن للدفاعات الذكاء الاصطناعي تحديد ما لا ينتمي إلى صندوق الوارد الخاص بفرد معين. تخطئ أنظمة أمان البريد الإلكتروني في كثير من الأحيان ، حيث يقول 79٪ من المستجيبين أن عوامل تصفية البريد العشوائي / الأمان الخاصة بشركتهم تمنع رسائل البريد الإلكتروني الشرعية المهمة بشكل غير صحيح من الوصول إلى صندوق الوارد الخاص بهم.

من خلال فهم عميق للمنظمة وكيفية تفاعل الأفراد داخلها مع صندوق الوارد الخاص بهم ، يمكن الذكاء الاصطناعي تحديد لكل بريد إلكتروني ما إذا كان مشبوها ويجب اتخاذ إجراء أو ما إذا كان شرعيا ويجب أن يظل على حاله.

“الأدوات التي تعمل من معرفة الهجمات التاريخية لن تتطابق مع الهجمات التي تم إنشاؤها الذكاء الاصطناعي” ، عرض هاينماير.

يظهر تحليل الهجوم انحرافا لغويا ملحوظا – لغويا ونحويا – مقارنة برسائل البريد الإلكتروني الأخرى للتصيد الاحتيالي. وأوضح أن هذا لا يترك مجالا للشك في أن أدوات أمان البريد الإلكتروني التقليدية ، التي تعمل من خلال معرفة التهديدات التاريخية ، ستقصر عن التقاط المؤشرات الدقيقة لهذه الهجمات.

ولتعزيز ذلك ، كشف بحث Darktrace أن حلول أمان البريد الإلكتروني ، بما في ذلك أدوات الذكاء الاصطناعي الأصلية والسحابية والثابتة ، تستغرق في المتوسط 13 يوما بعد شن هجوم على الضحية حتى يتم اكتشاف الخرق.

“وهذا يترك المدافعين عرضة للخطر لمدة أسبوعين تقريبا إذا اعتمدوا فقط على هذه الأدوات. وقال الذكاء الاصطناعي الدفاعات التي تفهم العمل ستكون حاسمة لاكتشاف هذه الهجمات”.

الحاجة إلى شراكات الذكاء الاصطناعي بشرية

يعتقد هاينماير أن مستقبل أمن البريد الإلكتروني يكمن في الشراكة بين الذكاء الاصطناعي والبشر. في هذا الترتيب ، تكون الخوارزميات مسؤولة عن تحديد ما إذا كان الاتصال ضارا أم حميدا ، وبالتالي أخذ عبء المسؤولية بعيدا عن الإنسان.

وحذر من أن “التدريب على ممارسات أمان البريد الإلكتروني الجيدة أمر مهم ، لكنه لن يكون كافيا لوقف التهديدات الذكاء الاصطناعي التي تبدو تماما مثل الاتصالات الحميدة”.

واحدة من الثورات الحيوية التي الذكاء الاصطناعي تتيحها في مساحة البريد الإلكتروني هي الفهم العميق ل “أنت”. بدلا من محاولة التنبؤ بالهجمات ، يجب تحديد فهم سلوكيات موظفيك بناء على صندوق بريدهم الإلكتروني ، وعلاقاتهم ، ونبرة صوتهم ، ومشاعرهم ، ومئات نقاط البيانات الأخرى ، كما قال.

“من خلال الاستفادة من الذكاء الاصطناعي لمكافحة تهديدات أمان البريد الإلكتروني ، فإننا لا نقلل من المخاطر فحسب ، بل ننشط الثقة التنظيمية ونساهم في نتائج الأعمال. في هذا السيناريو، يتم تحرير البشر للعمل على مستوى أعلى وممارسات أكثر استراتيجية”.

ليست مشكلة أمن إلكتروني غير قابلة للحل تماما

تم بحث تهديد الذكاء الاصطناعي الهجومية على الجانب الدفاعي لمدة عقد من الزمان. وأشار هاينماير إلى أن المهاجمين سيستخدمون حتما الذكاء الاصطناعي لتحسين مهاراتهم وزيادة عائد الاستثمار.

“لكن هذا ليس شيئا نعتبره غير قابل للحل من منظور دفاعي. ومن المفارقات أن الذكاء الاصطناعي التوليدية قد تؤدي إلى تفاقم تحدي الهندسة الاجتماعية ، لكن الذكاء الاصطناعي يعرف أنك يمكن أن تكون باري “.

اختبرت Darktrace نماذج أولية هجومية الذكاء الاصطناعي ضد تقنية الشركة لاختبار فعالية دفاعاتها باستمرار قبل هذا التطور الحتمي في مشهد المهاجمين. الشركة واثقة من أن الذكاء الاصطناعي المسلحة بفهم عميق للأعمال ستكون أقوى طريقة للدفاع ضد هذه التهديدات مع استمرارها في التطور.