ابتداءً من أغسطس 2026، لن يقتصر دور الشركات الأوروبية التي تستخدم الذكاء الاصطناعي على شرح فوائده فحسب، بل سيتعين عليها أيضاً إثبات كيفية تحكمها به. وقد دخلت اللائحة (الاتحاد الأوروبي) 2024/1689 - قانون الذكاء الاصطناعي - مرحلة التنفيذ الفعلي، ومعها، أُضيفت إلى الخطاب الإداري ثلاث كلمات كانت حكراً على الشؤون القانونية: التتبع، والشفافية، والمساءلة.
من المهم توضيح أمرٍ ما منذ البداية، نظراً للالتباس التجاري الكبير المحيط بهذا التاريخ: لقد تغير التقويم في منتصف العام. أي شخص يُسوّق لفكرة الإلحاح دون شرح هذا التغيير إما أنه يجهله أو يُفضّل ألا تعرفه.
دخل قانون الذكاء الاصطناعي حيز التنفيذ في 1 أغسطس 2024، مع جدول زمني للتنفيذ التدريجي. وبدأ تطبيق حظر الممارسات الخطرة غير المقبولة والتزامات الإلمام بالذكاء الاصطناعي اعتبارًا من 2 فبراير 2025. كما بدأ تطبيق الالتزامات المتعلقة بنماذج الذكاء الاصطناعي للأغراض العامة (GPAI) وهيكل الحوكمة اعتبارًا من 2 أغسطس 2025.
يُصادف الثاني من أغسطس عام 2026 حدثين محددين:
والآن ننتقل إلى الجزء الذي يغير الرسالة. في عام 2026، وافق الاتحاد على الحزمة المعروفة باسم المستودع الرقمي, ، مما أدى إلى تأجيل التزامات الأنظمة عالية المخاطر: استخدامات الملحق الثالث - اختيار الموظفين، والتصنيف الائتماني، والبيانات البيومترية، والتعليم، والخدمات الأساسية - تم نقلها إلى ديسمبر 2027، وأنظمة الملحق الأول، الذكاء الاصطناعي المدمج في المنتجات الخاضعة للتنظيم بالفعل، إلى أغسطس 2028.
بمعنى آخر: إذا كان نظامك عالي المخاطر، فلديك متسع من الوقت أكثر مما يُقال لك. أما إذا كان نظامك يتفاعل مع المستخدمين أو يُنشئ محتوى، فلديك هامش خطأ أقل مما تعتقد.
تاريخ | ما ينطبق | من المتضرر؟ |
2 فبراير 2025 | المحظورات ومعرفة الذكاء الاصطناعي | جميع المنظمات |
2 أغسطس 2025 | التزامات وحوكمة مبادرة الوصول العام للبرمجيات (GPAI) | مقدمو النماذج ذات الأغراض العامة |
2 أغسطس 2026 | العقوبات والشفافية في إطار اتفاقية الشراكة العالمية لحماية البيانات (المادة 50) | من يقوم بنشر الذكاء الاصطناعي الذي يتفاعل مع الناس أو يُنشئ محتوى؟ |
2 ديسمبر 2027 | الملحق الثالث: الأنظمة عالية المخاطر | الموارد البشرية، الائتمان، القياسات الحيوية، التعليم، الخدمات الأساسية |
2 أغسطس 2028 | الأنظمة عالية المخاطر الواردة في الملحق الأول | الذكاء الاصطناعي المدمج في المنتجات الخاضعة للتنظيم بالفعل |
تصل أقصى الغرامات إلى 35 مليون يورو أو 71% من الإيرادات العالمية السنوية، أيهما أعلى. هذا هو الرقم الذي أثار هذا النقاش في مجلس الإدارة.
هذه هي المشكلة الحقيقية، وهي ليست مشكلة قانونية. إنها مشكلة تتعلق بالمخزون.
للامتثال لأي التزام تنظيمي، يجب أولاً فهم أنظمة الذكاء الاصطناعي الموجودة داخل المؤسسة، ووظائفها، والبيانات التي تستخدمها، والجهة المسؤولة عن كل منها. لا تستطيع معظم الشركات الإجابة على هذا السؤال لأن جزءًا كبيرًا من استخدامها للذكاء الاصطناعي لا يمر عبر قسم تقنية المعلومات.
قدّم تقرير IBM لعام 2025 حول تكلفة اختراق البيانات تحليلاً كمياً لهذه الظاهرة: 201% من الاختراقات التي تم تحليلها شملت استخداماً غير مصرح به للذكاء الاصطناعي داخل المؤسسة، وأضافت هذه الحوادث ما متوسطه 670 ألف دولار إلى متوسط تكلفة الاختراق، الذي بلغ في ذلك العام 4.44 مليون دولار. والأكثر دلالةً على ذلك: أن 97% من المؤسسات التي تعرضت لحادثة متعلقة بالذكاء الاصطناعي كانت تفتقر إلى ضوابط وصول كافية، و63% منها لم يكن لديها سياسة حوكمة للذكاء الاصطناعي على الإطلاق.
يرتبط هذا بظاهرة قمنا بتحليلها بالتفصيل: الذكاء الاصطناعي الخفي، المخاطر التي تأتي من خلال بطاقة الشركة [رابط داخلي]. أدوات متعاقد عليها من قبل قسم، تحتوي على بيانات العملاء، دون اطلاع مسؤول أمن المعلومات أو مسؤول حماية البيانات عليها. لا تظهر هذه الأدوات في أي قائمة جرد لعدم وجود عملية إعداد مسبق لها.
بدون جرد للمخزون، فإن أي خطة امتثال هي مجرد وثيقة منفصلة عن الواقع التشغيلي.
الخطأ التكتيكي يكمن في اعتبار التأجيل ذريعةً للتقاعس. فالعناصر التي تتطلبها اللوائح ليست بيروقراطية، بل هي الممارسات الأساسية التي تُمكّن نظام الذكاء الاصطناعي من العمل بأمان. ويكتشف من يُطبّقها بدافع الالتزام أنهم كانوا بحاجة إليها على أي حال.
جرد لأنظمة الذكاء الاصطناعي. ما هي النماذج والأدوات المستخدمة، وفي أي عملية، وبأي بيانات، ومن المسؤول عن العمل، وفي أي فئة من المخاطر يندرج كل منها؟.
تصنيف المخاطر حسب حالة الاستخدام، وليس حسب الأداة. يمكن استخدام النموذج نفسه لتلخيص محاضر الاجتماعات منخفضة المخاطر ولمراجعة ملخصات الاجتماعات عالية المخاطر. ويستند التصنيف إلى الاستخدام.
إمكانية تتبع القرار. سجلٌّ لما ورد وما صدر، وأي إصدار من النموذج استُخدم، ومن قام بالتحقق منه. عندما يُنفّذ النظام إجراءاتٍ ولا يكتفي باقتراحها، يتوقف سجل التدقيق عن كونه ممارسةً جيدة، ويصبح آلية الدفاع الوحيدة المتاحة.
الإشراف البشري المحدد. الأمر لا يتعلق بـ "وجود شخص يقوم بالمراجعة"، بل يتعلق بـ: ما هي القرارات التي تتطلب التحقق، وما هي المعايير، وفي أي إطار زمني، وماذا يحدث إذا كان هذا الشخص غير متاح.
الشفافية تجاه المستخدم. إذا كان شخص ما يتفاعل مع نظام ما، فينبغي أن يكون على دراية بذلك. وإذا كان المحتوى مُنشأً بشكل مصطنع، فينبغي وضع علامة عليه.
الوثائق الفنية والبيانات. من أين تأتي بيانات التدريب أو السياق، وما هي القيود المعروفة التي يعاني منها النظام، وما هي التقييمات التي تم إجراؤها؟.
لتنظيم كل هذا، لا حاجة لابتكار إطار عمل خاص بك. إطار إدارة مخاطر الذكاء الاصطناعي التابع للمعهد الوطني للمعايير والتكنولوجيا يقدم هذا النظام نموذج إدارة المخاطر التشغيلية، مع ملف تعريف خاص بالذكاء الاصطناعي التوليدي يحدد اثنتي عشرة فئة من المخاطر. المعيار ISO/IEC 42001:2023 إنه يوفر ما لا يوفره المعهد الوطني للمعايير والتكنولوجيا (NIST): نظام إدارة قابل للتصديق، وهو ما سيطلبه منك عميل الشركة أو المدقق لإظهاره.
هنا يتوقف النقاش التنظيمي عن كونه قانونياً ويصبح تقنياً، وهذا هو المجال الذي نعمل فيه.
لا يمكن لنظام غير مصمم لتسجيل الإجراءات إضافة إمكانية التتبع كطبقة لاحقة دون تعديل بنيته. كما لا يمكن لنظام يفتقر إلى نموذج صلاحيات دقيق إثبات من قام بالوصول إلى ماذا. ولا يمكن لنظام مرتبط بمورد نموذج واحد توثيق تغييرات الإصدار لافتقاره إلى التحكم في وقت حدوثها.
تُحدد هذه الأمور الثلاثة - إمكانية التتبع، والصلاحيات، والقدرة على استبدال النموذج - خلال مرحلة التصميم. إضافتها لاحقاً مكلفة، بينما تصميمها منذ البداية ليس كذلك.
هذا هو الفرق بين الأمن المُصمم مسبقًا والتدابير الوقائية المُضافة في النهاية، ولهذا السبب، في مجموعة The Cloud Group، لا تُباع الحوكمة والامتثال كإضافات: بل تُدمج في كل مشروع، مع بيئات معزولة، وتشفير أثناء النقل، وتحكم دقيق في الوصول، وسجلات تدقيق مُجهزة مسبقًا. لقد طورناها في عملنا على مخاطر الذكاء الاصطناعي والهلوسة والحوكمة
إذا كان لا بد من اتخاذ قرار في الاجتماع القادم بشأن ما يجب فعله حيال هذا الأمر، فهذا هو الترتيب الذي يحقق النتائج:
أما العكس فهو غير مستحسن: صياغة سياسة حوكمة للذكاء الاصطناعي من أربعين صفحة قبل حتى معرفة الأنظمة التي تمتلكها الشركة. إنه عمل شاق، ويطمئن مجلس الإدارة لربع سنة، ولا يُحدث أي تغيير في العمليات التشغيلية.
على مدى ثلاث سنوات، كان السؤال الذي يطرحه قطاع الشركات حول الذكاء الاصطناعي هو "ماذا يمكننا أن نفعل بهذا؟". من الآن فصاعدًا، سيتعايش هذا السؤال مع سؤال آخر: "هل يمكننا إثبات كيفية القيام بذلك؟".
السؤال الثاني لا يُثني أحدًا. إنه يُثني أولئك الذين بنوا دون مخططات معمارية أو تراخيص أو تسجيل، والذين يكتشفون الآن أن إمكانية التتبع لا يُمكن تحقيقها بسهولة. أما بالنسبة لمن صمموا جيدًا، فإن الامتثال ببساطة هو توثيق شيء موجود بالفعل.
اعتبارًا من 2 أغسطس 2026، أصبحت صلاحيات فرض العقوبات على مقدمي النماذج ذات الأغراض العامة والتزامات الشفافية المنصوص عليها في المادة 50 سارية المفعول: الإبلاغ عن تفاعل الشخص مع نظام الذكاء الاصطناعي، ووضع علامات على المحتوى المولد اصطناعيًا، والإعلان عن استخدام التعرف على المشاعر أو التصنيف البيومتري.
نعم. لقد أجلت حزمة "ديجيتال أومنيبوس" الالتزامات المتعلقة بالأنظمة عالية المخاطر: استخدامات الملحق الثالث (اختيار الموظفين، والتقييم الائتماني، والبيانات البيومترية، والتعليم، والخدمات الأساسية) إلى ديسمبر 2027، واستخدامات الملحق الأول (الذكاء الاصطناعي المدمج في المنتجات الخاضعة للتنظيم بالفعل) إلى أغسطس 2028. ولم يتم تأجيل التزامات الشفافية والذكاء الاصطناعي العام.
تصل العقوبات القصوى إلى 35 مليون يورو أو 7% من إجمالي الإيرادات العالمية السنوية للعام السابق، أيهما أعلى، بالنسبة لأخطر الانتهاكات المتعلقة بالممارسات المحظورة.
يُقيّم الجرد أنظمة الذكاء الاصطناعي الموجودة فعلياً داخل المؤسسة، وفي أي عمليات، وبأي بيانات، ومن المسؤول عن كل منها. ثم تُصنّف المخاطر حسب حالة الاستخدام، وليس حسب الأداة، وتُجرى مراجعة الأنظمة التي تتعامل مع البيانات الشخصية، أو القرارات المتعلقة بالأفراد، أو الأموال أولاً.
إطار إدارة مخاطر الذكاء الاصطناعي التابع للمعهد الوطني للمعايير والتكنولوجيا (NIST) هو إطار طوعي لإدارة المخاطر يركز بشكل خاص على الذكاء الاصطناعي التوليدي؛ وهو غير قابل للتوثيق. أما معيار ISO/IEC 42001:2023 فيحدد نظام إدارة الذكاء الاصطناعي القابل للتوثيق، وهو ما سيطلبه العميل أو المدقق من الشركات كدليل.
ليس الأمر كذلك إذا تم تصميمه منذ البداية. إن إمكانية التتبع، والتحكم في الأذونات، والقدرة على استبدال النموذج هي قرارات معمارية: إن دمجها في التصميم له تكلفة هامشية، بينما تتطلب إضافتها بعد أن يصبح النظام قيد التشغيل إعادة عمليات التكامل.
هل تعلم ما هي أنظمة الذكاء الاصطناعي الموجودة فعلياً في مؤسستك؟ تُشخّص عملية التدقيق التي نقدمها باستخدام الذكاء الاصطناعي النموذج والبيانات وإمكانية التتبع والتكلفة: ما يجب الاحتفاظ به، وما يجب إعادة كتابته، وما يجب إيقافه. سعر ثابت وتسليم مكتوب. طلب تشخيص → |