لا تُعيق حوكمة الذكاء الاصطناعي المشاريع، بل تُمكّنها من تجاوز المرحلة التجريبية. فالمؤسسة التي تفتقر إلى جرد المخزون وتقييم المخاطر وإمكانية التتبع لا تستطيع الموافقة على نشر واسع النطاق، إذ لا يوجد من يضمن فهم المخاطر. وما لا يُعتمد لا يُمكن توسيعه.
لهذا السبب، تُراكم العديد من الشركات نماذج أولية ناجحة، لكنها لا تمتلك أنظمة قيد التشغيل. ليست المشكلة تقنية، بل تكمن في غياب آلية تسمح باتخاذ قرار "نعم" مبني على أسس متينة.
وجدت شركة IBM في دراستها للرؤساء التنفيذيين لعام 2025، والتي شملت 2000 رئيس تنفيذي من 33 دولة، أن 25% فقط من مبادرات الذكاء الاصطناعي قد حققت العائد المتوقع، وأن 16% فقط قد تم توسيع نطاقها إلى المستوى التنظيمي.
ويقدم تقرير تكلفة اختراق البيانات الصادر في نفس العام منظوراً معاكساً: 63% من المنظمات التي تعرضت لحادث متعلق بالذكاء الاصطناعي لم يكن لديها سياسة حوكمة, ، وكان جهاز 97% يفتقر إلى ضوابط وصول كافية.
كلا الشكلين يصفان نفس الفراغ. فبدون الحوكمة، لا توجد قابلية للتوسع؛ وبدون الحوكمة، علاوة على ذلك، عندما يحدث خطأ ما، لا يوجد شيء يمكن تعلمه.
لا تُعدّ حوكمة الذكاء الاصطناعي وثيقة سياسات، مع أن معظم البرامج تبدأ بها وينتهي الكثير منها عندها. إنها عبارة عن مجموعة من خمس آليات تشغيلية:
جرد. ما هي أنظمة الذكاء الاصطناعي الموجودة، وفي أي عملية، وبأي بيانات، ومع أي مزود، ومن المسؤول عن كل منها؟ هذا هو أول مخرجات التقرير، وهو الذي يثير أكبر قدر من المقاومة لأنه يكشف أمورًا لم يرغب أحد في معرفتها.
تصنيف المخاطر حسب حالة الاستخدام. قد يكون النموذج نفسه غير ذي صلة عند تلخيص المحاضر، ولكنه بالغ الأهمية عند فحص المرشحين. إن طريقة الاستخدام هي التي تُصنّف، وليس الأداة نفسها.
الضوابط النسبية. لا يحتاج النظام منخفض المخاطر إلى نفس الآليات التي يحتاجها النظام الذي يتخذ قرارات بشأن الأفراد. إن تطبيق ضوابط موحدة هو أسرع طريقة لضمان كراهية الحوكمة وتجنبها.
إمكانية التتبع. تسجيل ما تم إدخاله، وما تم إخراجه، وأي نسخة تم استخدامها، ومن قام بالتحقق منها. هذا شرط شائع في جميع الأطر التنظيمية.
نقطة حاسمة. يُقرّ شخصٌ أو لجنةٌ الانتقال من المرحلة التجريبية إلى مرحلة الإنتاج. ويتم ذلك باستخدام معايير محددة مسبقاً ومواعيد نهائية قصيرة.
يمكن تلخيص الخمسة في بضع صفحات فقط. أما البرامج التي تنتج أربعين صفحة، فعادةً ما تستبدل العمل الشاق - وهو إعداد الجرد - بالعمل السهل: الكتابة.
إطار | ما هي مساهمته؟ | قابل للتصديق |
|---|---|---|
إطار إدارة المخاطر للذكاء الاصطناعي التابع للمعهد الوطني للمعايير والتكنولوجيا (+ ملف تعريف الذكاء الاصطناعي التوليدي) | نموذج تشغيلي لإدارة المخاطر، 12 فئة من المخاطر في الذكاء الاصطناعي التوليدي | رقم |
ISO/IEC 42001:2023 | نظام إدارة الذكاء الاصطناعي مع دورة تحسين مستمرة | نعم |
ISO/IEC 27001 | أمن المعلومات، أساس كل ما سبق | نعم |
التنظيم الأوروبي للذكاء الاصطناعي | الالتزامات القانونية وفقًا لفئة المخاطر | إلزامي، وليس اختيارياً |
التركيبة العملية بسيطة: شهادة المعهد الوطني للمعايير والتكنولوجيا (NIST) للتشغيل، وشهادة ISO 42001 لإثبات ذلك، واللوائح التي يجب الامتثال لها.. لن يطلب منك عميل أو مدقق حسابات من الشركات الاطلاع على إطار عملك الداخلي، بل سيطلب شهادة أو ما يعادلها من الأدلة. من المهم معرفة ذلك قبل بناء نظامك الخاص من الصفر.
فيما يتعلق بالجدول الزمني القانوني المعمول به وما تم تأجيله مع مشروع القانون الرقمي الشامل، فقد قمنا بتفصيل ذلك في قانون الذكاء الاصطناعي في عام 2026
الأسابيع من 1 إلى 4: الجرد. المصاريف، والتكاملات المعتمدة، والمسح الداخلي مع العفو. الهدف هو إعداد قائمة، وليس إصدار حكم.
الأسبوعان 5-6: التصنيف. يندرج كل استخدام ضمن إحدى ثلاث فئات: منخفض المخاطر (استخدام غير مقيد مع مراعاة قواعد البيانات)، متوسط المخاطر (يتطلب التسجيل وتعيين جهة مسؤولة)، وعالي المخاطر (يتطلب مراجعة رسمية وإشرافًا بشريًا). معظم هذه الاستخدامات يندرج ضمن الفئة الأولى، وتوثيق ذلك يُعد خبرًا سارًا يستحق النشر.
الأسابيع من 7 إلى 9: سيطر على ما يهم. لا يُطبّق نظام التتبع والمراجعة إلا على الأنظمة متوسطة وعالية المخاطر. عادةً ما يكون ذلك على نظامين أو ثلاثة.
الأسابيع من 10 إلى 12: ترسيخ القرار. حدد الجهة المخولة بالموافقة على الانتقال إلى مرحلة الإنتاج، والمعايير التي تستخدمها، والإطار الزمني. إن تحديد إطار زمني طويل هنا يعيد طرح المشكلة التي كان من المفترض أن تحلها الحوكمة.
في نهاية الربع، تمتلك المنظمة جردًا وتصنيفًا وضوابط عند الحاجة، بالإضافة إلى آلية للموافقة على الأمور. هذا هو جوهر الحوكمة. تُكتب وثيقة السياسة لاحقًا، وهي موجزة لأنها تصف شيئًا يعمل بالفعل.
هناك سبب للقيام بذلك لا يظهر في عروض المخاطر، وهو سبب يقنع مجلس الإدارة بسرعة أكبر: يتزايد عدد عملاء الشركات الذين يسألون عن ذلك خلال عمليات الشراء الخاصة بهم..
إذا كانت شركتك تبيع منتجاتها لعملاء كبار، أو جهات حكومية، أو قطاعات خاضعة للتنظيم، فإن مسألة حوكمة الذكاء الاصطناعي تظهر بالفعل في استبيانات الموردين. إن القدرة على الإجابة عنها بالأدلة تُعد ميزة تنافسية، بينما يُصبح عدم القدرة على الإجابة عنها سببًا للاستبعاد.
إذا نظرنا إلى الأمر من هذا المنظور، فإنه يتوقف عن كونه تكلفة امتثال ويصبح ما هو عليه في الواقع: الشرط اللازم للقدرة على البيع والقدرة على التوسع داخلياً. وهذا هو عكس البيروقراطية تماماً.
وهي مجموعة من خمس آليات تشغيلية تسمح بالموافقة على استخدام الذكاء الاصطناعي والتحكم فيه: جرد الأنظمة، وتصنيف المخاطر حسب حالة الاستخدام، والضوابط المتناسبة مع المخاطر، وإمكانية تتبع القرارات، ونقطة قرار تسمح بالانتقال من المرحلة التجريبية إلى مرحلة الإنتاج.
بل على العكس تمامًا: هذا ما يسمح بالموافقة عليها. فبدون جرد أو تقييم للمخاطر، لا يمكن لأحد أن يدّعي فهم تبعات نشر واسع النطاق، وأي شيء لم تتم الموافقة عليه يبقى في مرحلة تجريبية. وقد وثّقت شركة IBM في عام 2025 أن 161% فقط من مبادراتها في مجال الذكاء الاصطناعي قد تم توسيع نطاقها.
يوفر إطار إدارة المخاطر للذكاء الاصطناعي التابع للمعهد الوطني للمعايير والتكنولوجيا النموذج التشغيلي لإدارة المخاطر وهو غير قابل للتصديق؛ يحدد معيار ISO/IEC 42001:2023 نظام إدارة الذكاء الاصطناعي القابل للتصديق؛ يغطي معيار ISO/IEC 27001 أمن المعلومات؛ ويحدد النظام الأوروبي للذكاء الاصطناعي الالتزامات القانونية وفقًا لفئة المخاطر.
يتم تنفيذ برنامج معقول في غضون تسعين يومًا تقريبًا: أربعة أسابيع للجرد، وأسبوعان للتصنيف، وثلاثة أسابيع لتطبيق الضوابط على الأنظمة متوسطة وعالية المخاطر، وثلاثة أسابيع لتحديد الجهة التي توافق على الانتقال إلى الإنتاج ومع أي معايير.
من خلال صياغة سياسة مطولة. تستبدل الوثيقة العمل الشاق - وهو الجرد الفعلي لما يتم استخدامه - بالعمل السهل، وتنتج معيارًا مكتوبًا حول واقع غير معروف لن يطبقه أحد.
نعم. تتضمن استبيانات الموردين للحسابات الكبيرة والإدارات العامة والقطاعات الخاضعة للتنظيم أسئلة حول حوكمة الذكاء الاصطناعي. القدرة على الإجابة عليها بالأدلة تُعد ميزة تنافسية؛ أما عدم القدرة على ذلك فقد بدأ يُعتبر سبباً للاستبعاد.
هل يمكنك الإجابة اليوم على استبيان حوكمة الذكاء الاصطناعي الخاص بأحد عملاء الشركات؟ قمنا بإعداد المخزون وتصنيف المخاطر والضوابط النسبية في ربع سنة واحد، دون إيقاف المشاريع الجارية. لنتحدث →