رحلتك
  1. ١
  2. ٢
  3. ٣
  4. ٤
  5. ٥
  6. ٦
٠ من ٣٤ وحدة

أنت في الدرجة ٥ · الحوكمة والصمودالوحدة ١ من ٦أمامك: سياسة استخدامٍ مُعتمَدة + تقييم نضجٍ مكتمل.

الدرجة ٥ · الوحدة ١.٥

المسؤولية أولاً

شيءٌ مميّز في الطريقالتسجيل قيد الإعداد. ابدأ القراءة الآن — سيكون بانتظارك حين تعود.
درس هذه الوحدة · المسؤولية أولاً

تُكتَب المبادئ عادةً في صيغةٍ لا يُخالفها أحد: «نلتزم بالعدل والشفافية». وهذه صيغةٌ بلا أثر، لأنها لا تُغيّر قراراً واحداً يوم الثلاثاء. والمبدأ النافع يُصاغ سؤالاً يُسأل قبل الفعل، وله جوابٌ يمنع أو يُجيز.

ركيزتا الذكاء الاصطناعي المسؤول

القوة التقنية بلا وعيٍ خطر. المحرّك اكتمل، وبقي المقود والمكابح.

FIG. B23 — أخلاقيٌّ وآمن
الإنسان في الحلقةالقرار النهائي في المال والصحة والقانونالأمنجدار حمايةللأوامرالأخلاقعدالةٌ وشفافية
أخلاقي
العدالة: دقّق بيانات التدريب قبل التدريب — التحيّز التاريخي يصير قاعدةً آلية.
الشفافية: لا صندوق أسود في قرارٍ حاسم؛ اشرح «لماذا».
آمن
حقن الأوامر: «تجاهل تعليماتك السابقة…» — اختبر نموذجك ضدّه بصرامة.
الافتراض: كل مدخلٍ خارجي محاولةُ استدراج حتى يثبت العكس.
DAY TWO
الإطلاق بدايةٌ لا نهاية: النماذج تنحرف فتحتاج إعادة تدريب، والمسؤولية القانونية ما تزال ضبابية.

fawzooz.ai

الركيزتان لا تُفصلان: نموذجٌ عادلٌ يسهل اختراقه يصير أداةَ ضرر، ونموذجٌ محصّنٌ متحيّز يصير ظلماً محكم الإغلاق. والإطلاق بدايةٌ لا نهاية: النماذج تنحرف فتحتاج إعادة تدريب.

FIG. 24 — أربعة مبادئ، أربعة أسئلة
العدل
لو طُبّق هذا القرار على ألف شخص، من الفئة التي ستُظلم أكثر؟ وكيف سأعرف؟
الشفافية
هل يعلم المتأثّر أن نظاماً شارك في قراره؟ وهل يستطيع الاعتراض على إنسان؟
الخصوصية
هل يُعالَج من البيانات أقلُّ ما تكفي المهمّة؟ ومن يستطيع رؤيتها؟ ومتى تُحذف؟
المساءلة
من يُسأل بالاسم إن أخطأ النظام؟ وإن لم يكن للسؤال جوابٌ الآن، فالنظام غير جاهز.
fawzooz.ai
FIG. 25 — شجرة القرار: هل أستخدمه هنا؟
1
هل يمسّ القرار حقّ إنسان — توظيفاً أو علاجاً أو ائتماناً أو عقوبة؟
نعم ← لا يُصدر النظام قراراً؛ يُعدّ مادّةً فقط، والقرار بشريٌّ مُعلَّل ومُوثَّق.
2
هل يُدخَل فيه بياناتٌ شخصية أو سرّية؟
نعم ← لا نظام عامّ؛ بيئةٌ مُعتمَدة، وإخفاءُ ما يُعرّف، وأساسٌ قانوني للمعالجة.
3
هل يظهر الخطأ قبل الضرر؟
لا ← موافقةٌ بشرية قبل التنفيذ، وسجلٌّ كامل، ومراجعةٌ لاحقة بالعيّنة.
4
هل يستطيع صاحب القرار شرح أساسه لمن يعترض؟
لا ← يُوقَف الاستخدام حتى يصير قابلاً للشرح. فما لا يُشرَح لا يُدافَع عنه.
fawzooz.ai

«الإنسان في الحلقة» — بشروطه

تُكتب هذه العبارة في كل سياسةٍ تقريباً، وتُنفَّذ نادراً. لأن وضع إنسانٍ ليضغط «موافق» على مئة توصيةٍ في الساعة ليس رقابة، بل ختمٌ آلي بيدٍ بشرية. والمراجعة الحقيقية لها أربعة شروط: وقتٌ كافٍ للفحص، ومعلوماتٌ كافية ليُقرّر (لا التوصية وحدها بل ما بُنيت عليه)، وسلطةٌ فعلية للرفض بلا كلفةٍ عليه، ومسؤوليةٌ مسمّاة يعلمها هو.

وإن اختلّ شرطٌ منها، فاكتب في سياستك الحقيقة: القرار آلي — وتعامل معه بضوابط القرار الآلي، لا بطمأنينةٍ زائفة.

طبّق

  1. ١ — في مجالك. مرّر استخداماً قائماً في مؤسستك على شجرة القرار الأربعة. أين توقّف؟

  2. ٢ — ذهني. اختر مراجعةً بشرية قائمة عندك واختبرها بالشروط الأربعة. هل هي رقابةٌ أم ختم؟

  3. ٣ — كتابي. اكتب اسم شخصٍ واحد مسؤولٍ عن كل نظامٍ ذكي في نطاقك. والفراغات التي لا تستطيع ملأها هي مخاطرك الحقيقية.

إلى أين بعد هذا الفصل؟ عندك المبادئ. الفصل التالي يُعطيك الهيكل الذي يُنفّذها: ISO 42001 عملياً.