إن إشراك شخص في عملية صنع القرار لا يعني فشل الأتمتة، بل يعني أنها مصممة بشكل جيد. تكمن معظم الوفورات الناتجة عن العملية المؤتمتة في مرحلة الإعداد - جمع المعلومات ومقارنتها وصياغتها واقتراحها - وليس في نقرة الموافقة النهائية. إن إلغاء هذه النقرة يزيد المخاطر بشكل كبير مقابل توفير ضئيل للغاية.
غالباً ما يُطرح النقاش حول الاستقلالية الكاملة كمسألة تتعلق بالنضج التكنولوجي. لكن من الأجدى طرحه كمسألة اقتصادية: أين تكمن العمالة المكلفة وأين تكمن المخاطر المكلفة؟.
لنأخذ مثالاً على عملية نموذجية لحل الحوادث. يتم توزيع الوقت تقريبًا على النحو التالي:
يُحقق النظام الذي يُؤتمت الخطوتين الأولى والثالثة معظم الوفورات. أصبح القرار، وتحديدًا موضع المخاطرة، الآن في يد شخص واحد يمتلك كل ما يحتاجه، ويستغرق دقيقة واحدة فقط بدلًا من عشرين دقيقة.
ولهذا السبب فإن النمط الأكثر ربحية الذي قمنا بقياسه ليس الاستقلالية: بل هو إعداد كامل بموافقة بشرية.
نموذج | كيف يعمل؟ | متى يكون ذلك مناسباً؟ |
|---|---|---|
الموافقة المسبقة | لا يتم تنفيذ أي شيء بدون التحقق من صحته. | الإجراءات غير القابلة للتراجع: المدفوعات، والاتصالات الخارجية |
استثناء | يتم تنفيذه باستثناء الحالات المحددة | حجم كبير، مخاطر محدودة |
أخذ العينات | يتم تنفيذ كل شيء، ويتم مراجعة جزء منه. | مخاطر منخفضة، الحاجة إلى مراقبة الجودة |
مراجعة لاحقة | يتم تنفيذه ثم تدقيقه | فقط إذا كان الإجراء قابلاً للعكس |
الخطأ الشائع هو اختيار النموذج بناءً على مستوى الثقة في النظام، بينما ينبغي اختياره في غير محله. بسبب إمكانية عكس الفعل. إن وجود نموذج ممتاز يقوم بتنفيذ المدفوعات دون التحقق من صحتها لا يزال قرار تصميم سيئ؛ أما النموذج المتوسط الذي يصنف التذاكر مع مراجعة العينة فهو أمر معقول تمامًا.
الاعتراض المشروع هو أن التحقق البشري يُلغي الوفورات إذا كان تصميمه رديئاً. أربعة قواعد تمنع ذلك:
يقدم النظام الحالة المُعدة مسبقاً، وليس السؤال. ينبغي أن يرى الشخص المقترح والمعلومات التي يستند إليها والبدائل؛ ولا ينبغي أن يضطر إلى البحث عن أي شيء.
الموافقة هي الإجراء الافتراضي. إذا تطلب التحقق نقرات أكثر من القيام به يدويًا، فسيتم التخلي عن العملية.
يتم تجميع عمليات التحقق معًا. تكلفة الحصول على عشرين موافقة متتالية أقل بكثير من تكلفة عشرين انقطاعاً على مدار اليوم.
يتم تسجيل ما تم تصحيحه. هذه هي النقطة الأساسية، والتي لا يطبقها أحد تقريبًا: كل تصحيح هو معلومة حول الجودة الفعلية للنظام، كما أوضحنا في الأتمتة بدون إمكانية المراقبة أمر غير مسؤول.
ينبغي أن يستند قرار إلغاء التحقق البشري إلى البيانات، لا إلى الثقة. ثلاثة شروط تراكمية:
إذا تم استيفاء الشروط الثلاثة جميعها، فمن المنطقي الانتقال من الموافقة المسبقة إلى الإشراف بالاستثناء في الحالات ذات المخاطر المنخفضة، مع الحفاظ على التحقق في الحالات الأخرى.
وثمة قاعدة واحدة ينبغي تدوينها كتابةً: لم يتم سحب الإشراف بسبب ضغط الجدول الزمني. وهو السبب الأكثر شيوعاً للحوادث في الأنظمة الآلية، وهو قرار يتم اتخاذه عادة في اجتماع بدون محضر.
ابتداءً من عام 2025، ثمة سبب إضافي لا يخضع لتقدير أحد. إذ يشترط النظام الأوروبي للذكاء الاصطناعي وجود إشراف بشري واضح على فئات معينة من الأنظمة، وليس بشكل نظري: بل يجب أن يكون من الممكن إثبات من قام بالمراجعة، وماذا رأى، ومتى.
هذا يجعل تسجيل عملية التحقق شرطًا أساسيًا، وليس مجرد ممارسة مُثلى. وله تبعات تصميمية: فالمراقبة التي تحدث دون تسجيلها لا تُثبت شيئًا.
عندما يقترح أحدهم إلغاء التحقق البشري لزيادة الكفاءة، فإن السؤال المفيد ليس ما إذا كان النموذج جيدًا بما فيه الكفاية، بل هو: كم نوفر بالضبط بإزالة تلك الخطوة، وما هي تكلفة الخطأ الذي لا يكتشفه أحد؟
في معظم العمليات ذات الأثر الاقتصادي، يكون الرقم الأول صغيراً والثاني كبيراً. وعندما يُطرح كلاهما للنقاش، يُحسم الأمر تلقائياً.
يتضمن هذا التصميم تدخلاً بشرياً في عملية اتخاذ القرار لنظام آلي. ولا يشير ذلك إلى فشل الأتمتة نفسها: فمعظم الوفورات تكمن في إعداد الحالات، وليس في الموافقة النهائية، لذا فإن الحفاظ على التحقق يحافظ على جميع الفوائد تقريباً ويزيل جميع المخاطر تقريباً.
رابعاً: الموافقة المسبقة، حيث لا يتم تنفيذ أي شيء دون التحقق من صحته؛ الإشراف بالاستثناء، حيث يتم تنفيذه باستثناء الحالات المحددة؛ أخذ العينات، حيث يتم تنفيذ كل شيء ومراجعة جزء منه؛ والمراجعة اللاحقة، والتي تنطبق فقط إذا كان الإجراء قابلاً للعكس.
لأن الأتمتة التقليدية كانت حتمية وبالتالي قابلة للتنبؤ،,
إن إمكانية التراجع عن الإجراء هي العامل الحاسم، وليس مستوى الثقة في النظام. فنموذج ممتاز لمعالجة المدفوعات دون التحقق من صحتها يظل خيار تصميم سيئاً، بينما يُعدّ نموذج متوسط لتصنيف التذاكر بمراجعة قائمة على العينات خياراً معقولاً.
مما سمح بالتعايش مع غياب التوثيق. وبدمج عناصر صنع القرار، يمكن حل القضية نفسها بطرق مختلفة، وبدون سجل، لا توجد طريقة لمعرفة السبب.
مع أربعة قواعد: أن يقوم النظام بتسليم الحالة المعدة مع الاقتراح والأدلة والبدائل؛ وأن الموافقة هي الإجراء الافتراضي ولا تتطلب نقرات أكثر من القيام بذلك يدويًا؛ وأن عمليات التحقق يتم تجميعها بدلاً من مقاطعتها؛ وأن ما يتم تصحيحه في كل مراجعة يتم تسجيله.
عند استيفاء ثلاثة شروط تراكمية: معدل موافقة مرتفع ومستقر دون تغييرات في الحالات الواقعية، وأخطاء ذات تأثير منخفض مع توزيع معروف، وإجراءات قابلة للتراجع أو إجراءات ذات كمية محدودة. ولا يحدث ذلك أبدًا بسبب ضغط الجدول الزمني.
نعم. يشترط النظام الأوروبي للذكاء الاصطناعي وجود إشراف بشري واضح لبعض فئات الأنظمة، ما يعني القدرة على إثبات هوية من راجع النظام، والمعلومات التي اطلع عليها، وتاريخ المراجعة. ولا يُعدّ الإشراف الذي يحدث دون توثيق كافيًا لإثبات الامتثال.
أين ينبغي للشخص أن يتدخل في العملية الآلية الخاصة بك؟ لقد قمنا بتصميم نقطة التحكم، وواجهة التحقق، والتسجيل المطلوب بموجب اللوائح، دون تحويل الإشراف إلى نقطة اختناق. لنتحدث →
Español Español 
English
Français
العربية
Português
Deutsch
Italiano
