قبل توسيع تجربة ذكاء اصطناعي إلى إدارات أخرى، اطلب من الفريق بطاقة واضحة للنظام: ما الغرض المحدد منه، وما البيانات التي يستخدمها، ومن يتحمل مسؤولية تشغيله، وأين تنتهي صلاحياته؟ إذا تعذر جمع هذه الإجابات، يصبح قرار التوسع قائمًا على وصف التجربة لا على صورة تشغيلية يمكن مراجعتها.

يقترح هذا المقال سجلًا للأنظمة وبطاقة لكل استخدام، يساعدان قيادات الذكاء الاصطناعي والتقنية ومالكي الأعمال على تحديد ما يحتاج إلى مراجعة قبل التوسع. الحقول والأمثلة هنا اقتراحات عملية، وليست نموذجًا رسميًا أو شهادة امتثال أو تفويضًا بتشغيل النظام.

حدد ما يدخل في السجل

سجل النظام كما يستخدم فعليًا في الجهة، لا اسم النموذج وحده. قد يستخدم قسمان النموذج نفسه لغرضين مختلفين، ببيانات وصلاحيات ومخاطر متباينة. أنشئ لكل استخدام معرفًا ثابتًا يربطه بالخدمة أو العملية وبيئة التشغيل، مع إحالة إلى المكونات المشتركة بدل نسخ معلوماتها بلا ضابط.

يشمل النطاق المقترح الأنظمة المطورة داخليًا، والخدمات المشتراة، والذكاء الاصطناعي المدمج في التطبيقات، والتجارب المقيدة. وضّح حالة كل استخدام: تجربة، أو تشغيل محدود، أو تشغيل معتمد داخليًا، أو متوقف. هذه حالات تنظيمية مقترحة؛ لا تعني حالة «مسجل» أن الاستخدام مقبول أو أن تقييمه اكتمل.

يتضمن إطار NIST لإدارة مخاطر الذكاء الاصطناعي نتيجة خاصة بآليات جرد الأنظمة في GOVERN 1.6. ويصف دليل التطبيق الجرد بأنه تجميع منظم للوثائق والمعلومات المرتبطة بالنظام. الإطار طوعي، وليس تشريعًا سعوديًا. [1، 2] يمكن الاستفادة من هذا الاتجاه دون تحويل القائمة التالية إلى متطلب صادر عن NIST.

اكتب بطاقة تجيب عن قرار حقيقي

اجعل كل حقل قابلًا للتحقق. عبارة «بيانات داخلية» لا تكفي إذا كانت بعض المدخلات تتضمن بيانات شخصية أو وثائق مقيدة. وعبارة «تحت إشراف الإنسان» تحتاج إلى شرح: من يراجع؟ ماذا يرى؟ هل يستطيع إيقاف الإجراء قبل تنفيذه؟ سجّل روابط الأدلة وصاحبها وتاريخها، ولا تضع كلمات مرور أو مفاتيح وصول داخل بطاقة واسعة التداول.

بطاقة نظام مقترحة تربط الغرض والبيانات والمالك وحدود الاستخدام بالمراجعة.

افصل مالك العمل عن المورد

يمكن للمورد توفير وثائق النموذج وحدود أدائه، لكنه لا يحدد وحده قبول استخدامه في عملية الجهة. يوضح مالك العمل الأثر المطلوب والفئات المتأثرة، ويثبت المسؤول التقني المكونات والإصدارات والتكاملات، ويراجع المختصون ما يدخل في نطاقهم. تحدد الجهة صاحب قرار التشغيل وحدود صلاحياته؛ لا ينشئ السجل سلطة اعتماد جديدة.

في مرجع سدايا لمبادئ أخلاقيات الذكاء الاصطناعي، ترتبط المساءلة بإمكانية تحديد الأطراف المسؤولة والإشراف البشري عبر دورة الحياة، كما تتناول الشفافية توثيق معلومات النظام والقرارات. [3] لذلك ينبغي أن توضح البطاقة المسؤولية الفعلية، لا أن تكتفي باسم إدارة عامة. يراجع المختص انطباق الضوابط الوطنية والقطاعية على الحالة، ولا تستبدل هذه البطاقة تلك المراجعة.

اختبر حدود التوسع في مثال واضح

في مثال افتراضي لا يصف مشروعًا أو عميلًا حقيقيًا، تستخدم إدارة مساعدًا لصياغة مسودات ردود اعتمادًا على وثائق داخلية معتمدة، ويقرأ الموظف المسودة قبل إرسالها. تسجل البطاقة أن النظام لا يرسل مباشرة، ولا يقرر استحقاق المستفيد، ولا يستخدم مستندات خارج النطاق المصرح به. ترفق نتائج اختبارات على حالات ممثلة، مع الأخطاء المعروفة وآلية الإبلاغ.

إذا اقترح فريق آخر ربط المساعد ببيانات مستفيدين والسماح له بالإرسال الآلي، فلا يكفي تغيير عدد المستخدمين في البطاقة. تغير الغرض أو البيانات أو الصلاحيات يعيد فتح مراجعة الأثر والخصوصية والأمن والاختبارات بحسب الانطباق. يحفظ السجل ما تغير، ومن طلبه، والأدلة الجديدة، وصاحب القرار، دون نقل نتيجة التجربة السابقة تلقائيًا إلى النطاق الجديد.

عند معالجة بيانات شخصية، تفرض المادة 19 من اللائحة التنفيذية لنظام حماية البيانات الشخصية جمع الحد الأدنى اللازم للغرض والاحتفاظ بالحد الأدنى اللازم له. [4] هذا التزام نظامي منفصل عن نموذج البطاقة المقترح. تصف البطاقة فئات البيانات وأغراضها ومراجع قرارات المعالجة، ولا تتطلب نسخ بيانات الأشخاص إلى السجل. ويقيّم المختص الأساس النظامي والنقل والاحتفاظ وأي تقويم أثر مطلوب وفق الحالة؛ الجرد وحده لا يثبت الامتثال.

اربط تحديث السجل بالتغيير التشغيلي

حدد أحداثًا تستدعي إعادة الفحص: إصدار نموذج جديد، أو مصدر بيانات إضافي، أو تكامل يسمح بإجراء تنفيذي، أو استخدام لدى فئة جديدة، أو شكوى أو حادث مؤثر. سجل تاريخ التغيير وسببه وأثره وما بقي مفتوحًا. لا تفترض أن تحديث المورد ثانوي لمجرد احتفاظ المنتج باسمه.

دورة مقترحة لتحديث السجل عند تغير الغرض أو البيانات أو النموذج أو الصلاحيات، قبل قرار التوسع.

عيّن مسؤولًا عن اكتمال السجل وتحديثه، وامنح مالك كل نظام مسؤولية صحة بطاقته. يمكن لمكتب الذكاء الاصطناعي تنسيق هذا العمل مع السجلات القائمة للأصول والبيانات والمخاطر. استخدم روابط ومعرفات مشتركة بدل إنشاء نسخ متعارضة. أما دورية المراجعة فتحددها الجهة حسب المخاطر والتغير؛ لا يقدم هذا المقال مدة موحدة أو درجة نجاح رسمية.

استخدم السجل في اجتماع التوسع

ابدأ الاجتماع بالنسخة الحالية للبطاقة، ثم اسأل عن النطاق المراد إضافته والفرق بينه وبين النطاق المختبر. اعرض الأدلة والقيود والملاحظات المفتوحة، وسجل قرارًا يمكن فهم حدوده: توسع مقيد بشروط موثقة، أو استكمال مراجعة، أو توقف عن الاستخدام المقترح. هذه خيارات تشغيلية مقترحة وليست نتيجة تلقائية لاستكمال الحقول.

تعرض صفحات RMG خدمات حوكمة الذكاء الاصطناعي وتأسيس مكتبه، بما يشمل الأطر والسياسات وإدارة المخاطر وبناء القدرات. [5، 6] يمكن بدء النقاش مع فريق RMG بعينة من استخدامات الجهة وبطاقة واحدة مكتملة، لتحديد نطاق الجرد والمسؤوليات والمراجعات المطلوبة. تكون القيمة في ربط المعلومات بقرار تشغيلي قابل للتتبع، دون وعد بإلغاء المخاطر أو اعتماد جميع الأنظمة بمجرد تسجيلها.