لم تنجم أكبر اختراقات البيانات في العديد من الشركات عن هجوم إلكتروني، بل عن اشتراك شهري بقيمة 20 يورو مدفوع ببطاقة ائتمان الشركة. يُعرف هذا النوع من الاختراقات باسم "الذكاء الاصطناعي الخفي": أدوات ذكاء اصطناعي يتم التعاقد عليها واستخدامها من قبل أقسام لا تملك أي معرفة بالتكنولوجيا أو الأمن أو مسؤول حماية البيانات.
إنها ليست مشكلة انضباط. إنها النتيجة المتوقعة لكون هذه الأدوات رخيصة الثمن، ومفيدة على الفور، ولا تتطلب أي تثبيت.
عندما يصدر تقرير من جدول بيانات، ينظر إليه أحدهم بريبة. أما عندما يصدر من نظام ذكاء اصطناعي، فيتم مناقشته في اجتماع.
يقدم تقرير شركة IBM لعام 2025 حول تكلفة اختراق البيانات، في نسخته العشرين والذي تم إعداده بالتعاون مع شركة Ponemon حول حوالي 600 مؤسسة، أرقاماً تضع حداً لأي نقاش داخلي:
تُفسّر هذه المعلومة الأخيرة المعلومات الثلاث الأخرى. فعندما لا توجد طريقة مُعتمدة ومعقولة للقيام بذلك، يلجأ الناس إلى حلّ مشاكلهم بأي شيء يجدونه.
غالباً ما يكون رد الفعل التلقائي للعديد من اللجان هو إصدار تعميم يحظر استخدام أدوات الذكاء الاصطناعي الخارجية. وينتج عن ذلك ثلاثة آثار، لا يُعد أي منها مرغوباً فيه:
الاستخدام لا يختفي: إنه يختبئ فقط. انتقل من استخدام الكمبيوتر المحمول الخاص بالشركة إلى الهاتف الشخصي، حيث لا توجد إمكانية للرؤية.
تُفقد المعلومات المفيدة. إن معرفة الأدوات التي يستخدمها الناس تشير إلى المشاكل الحقيقية التي لم يتم حلها والتي تعاني منها المنظمة.
أولئك الذين يحاولون القيام بعمل أفضل يُعاقبون. التكلفة الثقافية باهظة وطويلة الأمد.
البديل الناجح غير مريح لأنه يتطلب جهداً: توفير مسار معتمد لا يقل ملاءمة عن المسار المعتمد. إذا كان الخيار المعتمد أبطأ من خيار بطاقة الشركة، فإن السياسة تخسر.
مخاطرة | كيف يتجسد ذلك | السيطرة الفعالة |
تسريب المعلومات | يتم لصق عقد أو كشوف رواتب أو رمز خاص في أداة عامة. | قناة معتمدة بموجب اتفاقية معالجة البيانات |
قرار لا يمكن تتبعه | يتخذ أحدهم قراراً بإجابة لا يمكن لأحد استعادتها. | التسجيل والالتزام بذكر المصدر |
عدم الامتثال للوائح التنظيمية | البيانات الشخصية التي تتم معالجتها خارج الإطار المعلن | الجرد والتصنيف حسب حالة الاستخدام |
التبعية الخفية | ثم تصبح العملية معتمدة على أداة لم يوافق عليها أحد | الجرد والمراجعة الدورية |
أما الحالة الرابعة فهي الأقل تداولاً والأكثر إثارة للمفاجآت. يقوم قسم ما بوضع آلية عمل تعتمد على أداة معينة، ثم يتغير سعر هذه الأداة أو تختفي، وفجأة تتوقف عملية تشغيلية دون أن يعلم أحد في قسم التكنولوجيا بوجود هذا الاعتماد.
لا داعي لعملية نشر معقدة. أربعة مسارات تغطي معظمها:
تُفضي هذه المناهج الأربعة إلى جردٍ شامل، وهو نقطة الانطلاق لأي سياسة حوكمة. فبدون هذا الجرد، تصبح السياسة مجرد وثيقة تتناول واقعاً مجهولاً، كما أوضحنا عند مناقشة... التزامات قانون الذكاء الاصطناعي ومن أين نبدأ
طريق معتمد وجيد وسريع. أداة أو اثنتان معتمدتان، مع اتفاقية لمعالجة البيانات، وسهولة الوصول إليهما، وعدم وجود أي عوائق بيروقراطية لبدء استخدامهما.
قاعدة بيانات مفهومة. ليس مستندًا من عشرين صفحة. ثلاثة أسطر فقط: المعلومات التي لا تُغادر الأنظمة الداخلية أبدًا، والمعلومات التي تتطلب موافقة، والمعلومات غير المقيدة. إذا لم تتسع المعلومات لبطاقة، فلن يتم اتباعها.
تدريب موجز ومحدد. عشر دقائق حول ما يحدث فعلاً عند لصق المعلومات في أداة خارجية. معظم الناس لا يفعلون ذلك عن طريق الخطأ، بل لأنهم لا يفهمون كيفية عملها.
قناة لطلب الأدوات. مع سرعة الاستجابة خلال أيام، لا فصول. تحدد سرعة هذه القناة مستوى الذكاء الاصطناعي الخفي للمؤسسة بشكل أفضل من أي معيار آخر.
مراجعة المخزون ربع السنوية. باختصار. ما الذي تمت إضافته، وما الذي تم إيقافه، وما هي صلاحيات الوصول التي يجب إلغاؤها.
لا يُدافع عن هذه المسألة بشكل جيد عند طرحها كمشكلة أمنية، لأنها تتنافس مع أولويات أخرى. بينما يُدافع عنها بشكل جيد عند عرضها برقمين.
الأولى هي شركة IBM: تجاوز متوسط التكاليف بمقدار 670 ألف دولار عندما يتورط الذكاء الاصطناعي غير المصرح به في عملية اختراق. أما الأمر الثاني فهو خاص بنا: كم عدد اشتراكات الذكاء الاصطناعي التي ظهرت في نفقات الربع الأخير والتي لم يكن أحد في مجال التكنولوجيا على علم بها؟.
ذلك الرقم الثاني، الذي يتم الحصول عليه في فترة ما بعد الظهر، عادة ما ينهي النقاش.
يشير هذا إلى استخدام أدوات الذكاء الاصطناعي التي يتم التعاقد عليها أو استخدامها من قبل الإدارات دون علم أو موافقة مسؤول التكنولوجيا أو الأمن أو حماية البيانات. ويحدث ذلك عادةً من خلال اشتراكات منخفضة القيمة تُدفع ببطاقة ائتمان الشركة.
وفقًا لتقرير IBM لعام 2025 حول تكلفة اختراق البيانات، فإن 20% من عمليات الاختراق التي تم تحليلها تضمنت استخدام الذكاء الاصطناعي غير المصرح به، وقد أضافت هذه الحوادث ما متوسطه 670 ألف دولار إلى التكلفة، بالإضافة إلى متوسط تكلفة الاختراق البالغة 4.44 مليون دولار.
لأن الاستخدام لا يختفي، بل ينتقل ببساطة إلى الأجهزة الشخصية حيث لا توجد إمكانية للمراقبة؛ فتضيع معلومات قيّمة حول المشكلات التنظيمية العالقة؛ ويُعاقب من يسعون إلى التحسين. والبديل الفعال هو توفير قناة موثوقة وسهلة الاستخدام بنفس القدر.
من خلال أربعة مسارات: مراجعة اشتراكات بطاقات الشركات وتقارير المصروفات، وتحليل حركة مرور الشبكة وعمليات تسجيل الدخول باستخدام حسابات الشركات، ومسح داخلي مع عفو صريح، ومراجعة عمليات التكامل مع جهات خارجية مع إمكانية الوصول إلى البريد الإلكتروني أو التخزين أو إدارة علاقات العملاء.
قاعدة بيانات من ثلاثة أسطر - ما هي المعلومات التي لا تغادر الأنظمة نفسها أبدًا، وما الذي يتطلب موافقة، وما هو مجاني -، وأداة أو أداتين معتمدتين مع عقد معالجة البيانات، وقناة لطلب أدوات جديدة مع رد في غضون أيام، ومراجعة جرد ربع سنوية.
نعم. ينبع أي التزام تنظيمي من معرفة أنظمة الذكاء الاصطناعي الموجودة داخل المؤسسة، والبيانات التي تحتويها، والجهة المسؤولة عن كل منها. أما الأنظمة غير المدرجة في قائمة الجرد، فتُستثنى من تصنيف المخاطر، وبالتالي من أي إجراءات امتثال.
هل تعلم ما هي أدوات الذكاء الاصطناعي المستخدمة في شركتك اليوم؟ لقد أخذنا المخزون الفعلي، وصنفنا المخاطر حسب حالة الاستخدام، وصممنا المسار المعتمد بحيث لا يضطر الناس إلى تجنبه. لنتحدث → |