عندما يُنتج الكود بسرعة أكبر وتتوقف أجزاء من النظام عن كونها حتمية، يصبح التحقق ضروريًا: فهو السبيل الوحيد لمعرفة ما إذا كان شيء ما يعمل. أما الحدس المعاكس - "إذا كتب الذكاء الاصطناعي كودًا أفضل، فستكون هناك حاجة أقل لضمان الجودة" - فيخلط بين أمرين مختلفين: صحة بناء الجملة لما هو مكتوب ومدى ملاءمته للعمل.
يُنتج النموذج شفرة برمجية قابلة للتجميع وتؤدي وظيفة معقولة. لكنه لا يعلم ما إذا كانت هذه الوظيفة هي ما تحتاجه شركتك، لأن هذه المعلومة ليست موجودة في الشفرة البرمجية نفسها، بل في العملية، وفي اللوائح، وفي الاستثناءات التي لم يكتبها أحد.
تجمع الأنظمة الحالية بين المكونات الحتمية والاحتمالية، ويتم التحقق من كل منهما بطريقة مختلفة. ويؤدي الخلط بينهما إلى معظم مشاكل الإنتاج.
|
وجه |
المكون الحتمي |
المكون الاحتمالي |
|---|---|---|
|
ما الذي يتم فحصه؟ |
أتمنى أن تكون النتيجة كما هو متوقع. |
أن تكون النتيجة مقبولة في كثير من الأحيان |
|
نتيجة الاختبار |
ناجح أو راسب |
توزيع الجودة على مجموعة |
|
عندما يتم تشغيله |
في كل تغيير |
مع كل تغيير وبشكل دوري في الإنتاج |
|
ما الذي يكتشفه |
الانحدارات |
التراجعات والانحراف السلوكي |
|
من يحدد المعايير؟ |
الفريق التقني |
الأعمال التجارية، مع تقييم دراسات حالة واقعية |
الصف الأخير هو الأهم. من حيث الاحتمالية، لا يمكن للفريق التقني وحده تحديد المعيار "الصحيح"، لأنه يعتمد على ما تعتبره جهة العمل مقبولاً: قد يكون الملخص الذي يغفل معلومة ثانوية مثالياً في سياق ما وغير مقبول في سياق آخر.
ولهذا السبب، فإن أثمن ما يملكه مشروع الذكاء الاصطناعي ليس النموذج أو التعليمات: بل هو مجموعة الحالات التي تم تقييمها, مع الاستجابة التي تعتبرها المنظمة مناسبة لكل حالة. هذه المجموعة تبقى ثابتة بغض النظر عن تغيير الموردين، وتتيح مقارنة موضوعية للبدائل، وتكشف ما إذا كان الإصدار الجديد قد أدى إلى تفاقم أي مشكلة. إنها العنصر الذي يُمكّن من تغيير النماذج دون خوف.
عندما كان الفريق يكتب جميع التعليمات البرمجية يدويًا، غطت مراجعة الأقران جزءًا كبيرًا من عملية التحقق. مع زيادة حجم العمل، تتضاءل هذه التغطية: ليس لأن المراجعين أقل كفاءة، بل لأن هناك المزيد من التعليمات البرمجية التي يجب مراجعتها في نفس الفترة الزمنية.
قاس تقرير DORA لعام 2024 العواقب العملية: مع ازدياد تبني الذكاء الاصطناعي، انخفض استقرار التسليم بنسبة 7.21 تريليون/3 تريليون، بالتزامن مع تزايد حجم التغييرات. وأفاد 39.21 تريليون/3 تريليون من المطورين بانعدام ثقتهم أو ضعفها في الكود المُولّد، مما أدى إلى تكلفة نادراً ما تُؤخذ في الحسبان: الوقت المُستغرق في التحقق اليدوي من شيء كان من المفترض أن يوفر الوقت.
الحل ليس في زيادة ساعات المراجعة، بل في استبدال المراجعة اليدوية بالتحقق الآلي كلما أمكن ذلك، وتخصيص الاهتمام البشري لما لا يقدر عليه إلا الإنسان: ما إذا كان هذا ما تحتاجه الشركة.
اختبار الوحدات وتكاملها. الأمر نفسه، بل أصبح أكثر ضرورة الآن بسبب ازدياد حجم الشيفرة. إذا كان النظام نفسه هو من يقوم بالتنفيذ والاختبار، فإن الحلقة تُغلق على نفسها.
مجموعة تقييم مكونات الذكاء الاصطناعي. يتم تشغيل سيناريوهات واقعية ذات نتائج متوقعة مع كل تغيير في النموذج أو التوجيه أو الإعدادات. وبدون ذلك، يستحيل معرفة ما إذا كان التحديث قد حسّن النظام أم أساء إليه.
أدلة على وجود استثناءات. تُستخدم الحالات النادرة في هذه العملية كاختبارات. بهذه الطريقة نضمن أن النظام قابل للتوسع ليناسب احتياجات المستخدم عند الضرورة، بدلاً من الارتجال.
اختبارات سلامة محددة. تتضمن هذه المخاطر محاولات حقن البيانات، والتحقق من عدم تجاوز المكون لصلاحياته، والتأكد من عدم كشفه لمعلومات لا ينبغي له كشفها. وقد أدرجت منظمة OWASP هذه الثغرات ضمن قائمة أهم عشرة مخاطر لتطبيقات ماجستير القانون لعام 2025.
التحقق المستمر في الإنتاج. يتم أخذ عينات دورية من حالات واقعية، ومراجعتها من قبل شخص. هذه هي الطريقة الوحيدة لاكتشاف الانحراف: قد يتدهور النظام دون تغيير سطر واحد من التعليمات البرمجية، لأن النموذج أو البيانات أو سياق الاستخدام قد تغير.
أما الطبقة الخامسة فهي الطبقة التي نادراً ما توجد، وهي الطبقة التي تمنع معظم الحوادث، وذلك للسبب الذي شرحناه عند الحديث عن إمكانية المراقبة والأتمتة [رابط داخلي]بدون قياس مستمر، تأتي الإشارة إلى وجود خطأ ما من خلال العميل.
هذا ليس رأياً محافظاً. لقد تغير مجال ضمان الجودة بشكل كبير، وللأفضل:
إنه تحول من "التحقق من أنه يعمل" إلى "تحديد ما يعنيه أن يعمل". المهمة الثانية أكثر صعوبة، وأكثر قيمة، ولا يمكن أتمتتها.
عندما يقترح أحدهم تقليل الاستثمار في الجودة لأن "الذكاء الاصطناعي يكتب أكوادًا أفضل"، فإن السؤال الذي يوجه الحوار هو: كيف سنعرف متى توقف عن العمل؟
إذا كان الجواب هو أن أحدهم سيلاحظ ذلك، فإن المنظمة قد أوكلت مهمة مراقبة الجودة إلى صبر عملائها. أما إذا كان الجواب يتضمن اختبارًا آليًا، ومجموعة أدوات تقييم مُحدَّثة، وأخذ عينات مستمر في بيئة الإنتاج، فحينها يمكن مناقشة الكفاءة بشكل واقعي.
لا، بل يزيد الأمر سوءًا. يُنتج النموذج شيفرةً قابلةً للتجميع وتؤدي وظيفةً معقولة، لكنه لا يعرف ما إذا كانت هذه الوظيفة هي ما يحتاجه العمل، لأن هذه المعلومة موجودة في العملية والاستثناءات، وليست في الشيفرة نفسها. علاوةً على ذلك، فإن زيادة حجم التغييرات تُضعف نطاق مراجعة النظراء.
من خلال تقييم مجموعة من الحالات الواقعية وتوقع استجابتها، وتنفيذ ذلك مع كل تغيير في النموذج أو توجيه أو إعداد، لا تكون النتيجة "نجاحًا أو فشلًا" بل توزيعًا للجودة. ينبغي أن تحدد معايير القبول من قبل فريق العمل، وليس الفريق التقني فقط.
إنها مجموعة من دراسات الحالة الواقعية مع الإجابات التي تعتبرها المنظمة صحيحة. وهي أهم أصول مشروع الذكاء الاصطناعي على المدى الطويل: فهي تتيح إجراء مقارنات موضوعية بين الموردين، والكشف عما إذا كان الإصدار الجديد قد أدى إلى تدهور النظام، وتغيير النماذج دون المخاطرة بشكل أعمى.
خمسة: اختبار الوحدة والتكامل، ومجموعة تقييم مكونات الذكاء الاصطناعي، واختبار استثناءات العمليات، واختبارات أمنية محددة (الحقن الفوري، وتجاوز الأذونات، وكشف المعلومات)، والتحقق المستمر من خلال أخذ عينات الإنتاج.
نعم. قد تتفاقم المشكلة بسبب تغيير إصدار النموذج، أو تغيير بيانات الإدخال، أو تغيير سياق الاستخدام. لهذا السبب، لا يمكن أن تنتهي عملية التحقق بمجرد النشر، بل يجب أن تستمر من خلال أخذ عينات دورية ومراجعتها من قبل المختصين.
ينتقل الأمر من التنفيذ اليدوي المتكرر إلى تصميم الحالات، وبناء مجموعات التقييم وصيانتها، وتحليل النتائج في بيئة الإنتاج. وينتقل من التحقق من فعاليته إلى تحديد معنى فعاليته.
كيف ستعرف ما إذا كان نظام الذكاء الاصطناعي الخاص بك قد توقف عن العمل بشكل صحيح؟ لقد صممنا مجموعة التقييم، واختبار الاستثناءات، والتحقق المستمر بحيث لا تعتمد الاستجابة على شكوى العميل. لنتحدث →
Español Español 
English
Français
العربية
Português
Deutsch
Italiano
