تهديد خطير.. ماذا حدث لمنصة تعمل بالذكاء الاصطناعي؟

يشير التحقيق الذي أجرته Resecurity إلى أن المهاجمين قد يستخدمون هذه البيانات لتنظيم أنشطة احتيالية، مثل محاكاة تبادلات خدمة العملاء المشروعة، ما يبرز أن منصات الذكاء الاصطناعي، بالرغم من دورها في تحسين تجربة العملاء،

تعرضت منصة مركز اتصال تعتمد على الذكاء الاصطناعي في منطقة الشرق الأوسط، إلى أكبر عملية اختراق من جانب قراصنة.

ويمثل هذا النوع من الاختراق تهديداً خطيراً، حيث يمكن استغلال البيانات المسروقة في عمليات احتيال متقدمة، إضافة إلى مخططات تصيّد وأنشطة ضارّة أخرى تعتمد على الذكاء الاصطناعي. بحسب تقرير صادر عن شركة الأمن السيبراني Resecurity.

◄ أنشطة احتيالية

وتمكّن المهاجمون من الوصول غير المصرّح به إلى لوحة إدارة المنصة، الأمر الذي سمح لهم بجمع أكثر من 10.2 ملايين تفاعل بين المستهلكين والمشغلين ووكلاء الذكاء الاصطناعي. حسب النهار العربي.

ويشير التحقيق الذي أجرته Resecurity إلى أن المهاجمين قد يستخدمون هذه البيانات لتنظيم أنشطة احتيالية، مثل محاكاة تبادلات خدمة العملاء المشروعة، ما يبرز أن منصات الذكاء الاصطناعي، بالرغم من دورها في تحسين تجربة العملاء، قد تشكّل خطراً جسيماً على خصوصية البيانات إذا لم تكن محمية بشكل كافٍ. وعلى الرغم من أن الشركة قد تمكنت من التخفيف من أثر الاختراق بعد تنبيه الجهات المعنية ووكالات إنفاذ القانون، فإن هذه الحادثة فتحت باباً واسعاً للنقاش حول أمان أنظمة الذكاء الاصطناعي الخارجية ودورها في التعامل مع بيانات حساسة.

◄ تسريب معلومات

المنصة المستهدفة، التي لم يُفصح عن اسمها، تُعد جزءاً مهماً من قطاعات مثل التكنولوجيا المالية والتجارة الإلكترونية، حيث تعتمد هذه المنصة على معالجة كميات كبيرة من تفاعلات العملاء. وتعتمد العديد من المؤسسات على مثل هذه المنصات لتحسين الكفاءة وتقديم خدمات أكثر سرعة وأتمتة للاستجابات. ومع ذلك، فإن الحادثة كشفت عن المخاطر الكبيرة التي تواجه هذه الأنظمة، خصوصاً في ما يتعلق بتسريب معلومات التعريف الشخصية (PII) مثل وثائق الهوية الوطنية.

◄ تعزيز الحماية

وفي هذا السياق، أشارت شركة Resecurity إلى أن هذا الاختراق يُبرز الحاجة الملحّة لتعزيز حماية منصات الذكاء الاصطناعي، التي أصبحت جزءاً حيوياً من سلسلة توريد تكنولوجيا المعلومات للشركات الكبرى والوكالات الحكومية.

وأوضحت الشركة في بيانها أن حماية هذه الأنظمة تتطّلب توازناً بين التدابير التقليدية للأمن السيبراني الخاصة بخدمات البرمجيات كخدمة (SaaS)، وبين التدابير الأمنية المتخصصة التي تتناسب مع خصائص الذكاء الاصطناعي المتقدمة.