عندما ينتقل النظام من مرحلة الاقتراح إلى مرحلة التنفيذ، يتوقف تسجيل إجراءاته عن كونه ممارسة تشغيلية سليمة، ويصبح الوسيلة الوحيدة المتاحة للدفاع ضد شكوى عميل، أو استفسار مدقق حسابات، أو حكم قضائي. فبدون سجل، لا يوجد أي تفسير ممكن، ويُفسَّر غياب التفسير دائمًا ضد الطرف المسؤول عن تقديمه.
وهذا هو الشرط التقني الوحيد الذي لا يمكن إضافتها بعد ذلك. يمكن تعزيز الأمان، وتحسين الصلاحيات، أو تصحيح جودة البيانات أثناء تشغيل النظام. لا يمكنك تسجيل ما حدث بالفعل.
إن إثبات كفاية السجل أمر ملموس: اختر قضية من ثلاثة أشهر مضت واشرح بالتفصيل ما حدث.. للإجابة، يلزم ستة عناصر:
عنصر | ما الذي يتم حفظه | ما الغرض منه؟ |
|---|---|---|
مدخل | البيانات والسياق الذي يتلقاه النظام | قم بتكرار الحالة |
مصادر | ما هي الوثائق أو السجلات التي اطلعت عليها؟ | اشرح من أين أتت الإجابة. |
قرار | مخرجات النموذج، والإصدار، والتكوين | تمييز خطأ الانحراف |
فعل | ما الذي تم تنفيذه، وعلى أي نظام، ومتى | التدقيق والإلغاء |
هوية | بأي مؤهلات تصرف، وبناءً على طلب من؟ | تحديد المسؤولية |
تصديق | من قام بمراجعته، وما الذي تغير، ومتى؟ | إظهار الإشراف البشري |
خط مصادر وهو الأكثر إغفالاً والأكثر قيمة في حالة المطالبة: فهو يسمح بإثبات أن الرد كان مبنياً على معلومات صحيحة وحديثة، أو لتحديد المستند القديم الذي تسبب في ذلك بالضبط.
صف إصدار النموذج هذا ما يسمح لنا بالتمييز بين حالتين مختلفتين تمامًا: خطأ محدد في النظام وتدهور عام بعد التحديث. بدون هذه المعلومات، لا يمكن التمييز بين الحالتين.
تتفق الأطر الثلاثة التي تحكم هذه المسألة على نفس المتطلبات ولكن بمفردات مختلفة.
ال التنظيم الأوروبي للذكاء الاصطناعي بالنسبة لبعض فئات الأنظمة، يتطلب الأمر تسجيل الأحداث تلقائيًا، وتوثيقًا تقنيًا، وإشرافًا بشريًا واضحًا. ومنذ 2 أغسطس 2026، دخلت حيز التنفيذ التزامات الشفافية المنصوص عليها في المادة 50، وصلاحيات فرض العقوبات على مزودي النماذج العامة.
ال إطار إدارة مخاطر الذكاء الاصطناعي التابع للمعهد الوطني للمعايير والتكنولوجيا, بفضل خصائصها المحددة للذكاء الاصطناعي التوليدي، فإنها تُهيكل جميع عمليات إدارة المخاطر حول القدرة على القياس والمراقبة.
ال ISO/IEC 42001:2023 يتطلب اعتماد نظام إدارة الذكاء الاصطناعي تقديم أدلة على المراقبة المستمرة. والأدلة هنا تعني السجلات، وليس السياسات.
لم يقبل أي منهم الرد القائل بأن المنظمة تصرفت بجدية. طالب الثلاثة جميعاً بالدليل، وما تم إثباته هو البيانات التي تم تخزينها أثناء تشغيل النظام.
يدّعي أحد العملاء أن طلبه رُفض بشكل غير عادل قبل أربعة أشهر. وقد أُعدّ القرار بواسطة نظام آلي وأُكّد من قِبل شخص.
الأسئلة التي ستطرح، بهذا الترتيب: ما هي المعلومات التي تم استخدامها لاتخاذ القرار، وما إذا كانت تلك المعلومات صحيحة ومحدثة، وما هي المعايير التي طبقها النظام، وما إذا كان الشخص الذي أكد قد اطلع على الاقتراح الكامل، وما إذا كانت الحالات المماثلة الأخرى قد تلقت نفس المعاملة.
تستجيب المنظمة المسجلة بالكامل في غضون ساعات قليلة، وإذا اكتشفت خطأً، تصححه وتحدّ من أضراره. أما المنظمة غير المسجلة، فلا يسعها إلا الادعاء بأن إجراءاتها صحيحة عمومًا، وهو أمر لا يُطلب منها تحديدًا.
تم تحديد الفرق بين الحالتين قبل أشهر، في نقاش فني حول ما يستحق الاحتفاظ به.
احفظ النتيجة فقط. بدون المدخلات أو المصادر، لا يمكن إعادة بناء النتيجة ولا تفسيرها.
مدة الاحتفاظ قصيرة جدًا. تصل المطالبات متأخرة. إن تحديد مهلة ثلاثين يومًا يستثني معظم الحالات المهمة. ينبغي تحديد المهلة وفقًا لدورة المطالبات الفعلية للشركة واللوائح المعمول بها، وليس وفقًا لتكاليف التخزين.
سجلات متفرقة. إذا كان كل مكون يكتب إلى موقعه وساعته الخاصة، فإن إعادة بناء حالة ما تتطلب المرور عبر خمسة مصادر. يُحل هذا المشكل بتكلفة زهيدة باستخدام مُعرّف حالة فريد يغطي كامل التدفق.
سجل قابل للتغيير. لا يُعتبر السجل الذي يمكن تغييره دون ترك أثر دليلاً صالحاً. فعدم قابليته للتغيير هو ما يمنحه قيمته الإثباتية.
التكامل الكامل هدف غير مُجدٍ. يمكن تحقيق التكامل الكافي لعملية مُحددة في غضون أسابيع. أربع خطوات:
تُنشئ كل دورة جزءًا قابلًا لإعادة الاستخدام من طبقة التكامل. بعد ثلاث أو أربع عمليات، تمتلك الشركة بنية تحتية متكاملة، وليست حلولًا معزولة. هذا هو النهج التركيبي الذي نصفه في تكمن المشكلة مرة أخرى في الهندسة المعمارية
الاعتراض المشروع على كل هذا هو حماية البيانات: تسجيل ما يفعله النظام يعني تسجيل معلومات عن الأشخاص، سواء كانوا عملاء أو موظفين.
هذا ليس اعتراضاً على التسجيل، بل هو دعوة لتصميمه بشكل جيد. ثلاثة إجراءات تعالج معظم المشكلات:
إن السجل المصمم جيداً يحمي كلاً من المنظمة والأشخاص المعنيين، لأنه يسمح بإثبات أن القرار قد تم اتخاذه بشكل صحيح.
إذا كانت مؤسستك تمتلك أنظمة ذكاء اصطناعي تقوم بتنفيذ إجراءات، فهناك فحص لمدة ساعة واحدة يجب عليك القيام به هذا الأسبوع: لطلب إعادة بناء كاملة لقضية محددة من ثلاثة أشهر مضت.
تكشف نتيجة هذا الاختبار عن مدى تعرض الشركة للمخاطر بشكل أكبر من أي تقرير امتثال. وحتى لو كانت النتيجة سلبية، فإنه يوم مناسب لاكتشافها، لأن السجلات المفقودة اليوم يمكن البدء في إنشائها غدًا، بينما لا يمكن إنشاء سجلات الأشهر الثلاثة الماضية.
إنها السجلات التي تُمكّننا من إعادة بناء ما فعله النظام في حالة مُحددة: ما هي البيانات التي تلقاها، وما هي المصادر التي استشارها، وما أنتجه النموذج وبأي إصدار، وما الإجراء الذي نفّذه، وبأي هوية، ومن قام بالتحقق منه. إنها الطريقة الوحيدة لتفسير قرارٍ ما بعد مرور أشهر.
لأنه أمر لا رجعة فيه: ما لم يتم حفظه لا وجود له. يمكن تحسين الأمان أو الصلاحيات أو جودة البيانات أثناء تشغيل النظام، ولكن لا يمكن استعادة سجل ما حدث بالفعل بأثر رجعي.
يشترط النظام الأوروبي للذكاء الاصطناعي تسجيل الأحداث تلقائيًا، وتوثيقها تقنيًا، وإثبات الإشراف البشري عليها لفئات معينة من الأنظمة. ويركز إطار إدارة مخاطر الذكاء الاصطناعي التابع للمعهد الوطني للمعايير والتكنولوجيا (NIST) على إدارة المخاطر بناءً على القدرة على القياس والمراقبة، بينما يشترط معيار ISO/IEC 42001 تقديم دليل على التحكم المستمر للحصول على الشهادة.
ينبغي تحديد فترة الاحتفاظ بالوثائق وفقًا لدورة المطالبات الفعلية للشركة واللوائح المعمول بها، وليس وفقًا لتكاليف التخزين. ولا تشمل فترات الاحتفاظ التي تبلغ ثلاثين يومًا معظم الحالات التي تصبح ذات صلة في نهاية المطاف، لأن المطالبات عادةً ما تصل بعد أشهر.
بثلاثة تدابير: تقليل المحتوى عن طريق حفظ المراجع للوثائق التي تمت استشارتها بدلاً من النسخ الكاملة، وتقييد الوصول إلى السجل من خلال أذوناته الخاصة وعمليات التدقيق المحددة، وتحديد فترات الاحتفاظ والحذف الصريحة بما يتماشى مع اللوائح.
باختيار حالة محددة من ثلاثة أشهر مضت وطلب إعادة بنائها بالكامل، يكفي تقديم سجل يوضح البيانات المدخلة، والمصادر المستخدمة، وإصدار النموذج المستخدم، والإجراءات المنفذة، والجهة التي قامت بالتحقق من صحتها.
هل يمكنك اليوم إعادة بناء قرار آلي صدر قبل ثلاثة أشهر؟ نقوم بمراجعة ما يسجله نظامك، وما هو مفقود، وما تتطلبه اللوائح المعمول بها في قضيتك. اطلب مراجعة → |
Español Español 
English
Français
العربية
Português
Deutsch
Italiano
