رحلتك
  1. ١
  2. ٢
  3. ٣
  4. ٤
  5. ٥
  6. ٦
٠ من ٣٤ وحدة

أنت في الدرجة ٤ · الحمايةالوحدة ١ من ٦أمامك: اختبارٌ هجومي مصغّر + خطّة دفاعٍ إدراكي.

الدرجة ٤ · الوحدة ١.٤

من أمن المعلومات إلى أمن الذكاء

شيءٌ مميّز في الطريقالتسجيل قيد الإعداد. ابدأ القراءة الآن — سيكون بانتظارك حين تعود.
درس هذه الوحدة · من أمن المعلومات إلى أمن الذكاء

قام أمن المعلومات عقوداً على ثلاثة أعمدة: السرّية (ألّا يراها من لا يحقّ له)، والسلامة (ألّا تُغيَّر بلا إذن)، والتوافر (أن تكون متاحةً حين تُطلب). وهذه الأعمدة لم تسقط — لكنها لم تعد كافية.

الركائز الثلاث: السرية والسلامة والتوافر

سقوط ركيزةٍ واحدة يكفي ليتحوّل الأصل الإبداعي إلى خسارة — وهذه هي الركائز الثلاث بأمثلتها من عملك.

FIG. B20 — ثلاثي CIA في السياق الإبداعي
السرّيةالسلامةالتوافرثلاثي CIAأساس أي برنامجٍ أمني
السرّية
منع الوصول غير المصرّح به.
تسريب سيناريو فيلمٍ قبل إصداره.
السلامة
حفظ الدقّة ومنع العبث.
العبث بإرشادات علامة العميل.
التوافر
إتاحةٌ موثوقة وقت الحاجة.
فديةٌ تُشفّر الأرشيف قبل التسليم.

fawzooz.ai

في القطاع الإبداعي تسبق السريةُ غيرَها غالباً، لأن قيمة العمل كثيراً ما تكون في كونه لم يُرَ بعد.

لأن النظام الذكي يُضيف شيئاً لم يكن في الحسبان: مخرَجاً يُنشئه بنفسه، وسلوكاً يمكن توجيهه بالكلام. فقد تكون بياناتك سرّيةً وسليمةً ومتاحة، ويكون النظام مع ذلك قد أنتج نصيحةً خاطئة، أو نُفّذ فيه أمرٌ دسّه غريبٌ في مستند.

FIG. 18 — الأعمدة الخمسة
السرّية
ألّا تُسرّب بياناتك عبر ما تُدخله أو عبر ما يُخرجه النظام
السلامة
ألّا تُلوَّث بيانات التدريب ولا مصادر الاسترجاع
التوافر
ألّا يتوقّف النظام — ومعه إجراءٌ بديل حين يتوقّف
نزاهة المخرَج
أن يكون ما يُنتجه صادقاً ومُستنداً ومنسوباً إلى مصدره
التحكّم
ألّا يتجاوز حدود ما أُذن له من أفعالٍ وأدوات
fawzooz.ai

خمس طبقاتٍ يُهاجَم فيها النظام

حين تُفكّر في تأمين نظامٍ ذكي، فكّر طبقةً طبقة. فلكل طبقةٍ خطرها المميّز، وضابطُها مختلف.

FIG. 19 — الطبقات الخمس
الإنسان
إفراطٌ في الثقة، أو تضليلٌ مُصنَّع يستهدف قناعته — وهي الطبقة المنسيّة
الأدوات
إساءة استخدام صلاحياته: بريدٌ يُرسَل، ملفٌّ يُحذف، مبلغٌ يُحوَّل
المدخل
حقن الأوامر — مباشرةً من مستخدم، أو مدسوسةً في مستندٍ يقرأه
النموذج
سرقةٌ أو استنساخٌ أو استخراجُ ما حُفظ فيه من بياناتٍ حسّاسة
البيانات
تسميمٌ أو تلويثٌ لما يتعلّم منه أو يسترجع منه
fawzooz.ai

طبّق

  1. ١ — في مجالك. ارسم طبقات نظامٍ ذكي تستخدمه فعلاً، واكتب أمام كل طبقةٍ: من يملكها، وما الضابط القائم عليها اليوم.

  2. ٢ — ذهني. أي الأعمدة الخمسة أضعفُها في مؤسستك؟ ولماذا لم يُلاحَظ حتى الآن؟

لماذا لا يكفي فريق الأمن وحده

في الأنظمة التقليدية كان الأمن اختصاصاً: تُسلّم النظام لفريقٍ يُحصّنه ثم تعمل. أما في الأنظمة الذكية فثلاثٌ من الطبقات الخمس بيد من يستخدم لا بيد من يُحصّن: ما يُدخله في النافذة، وما يُعطيه من صلاحيات، وما يُصدّقه من مخرَجات.

ولهذا لا تُشترى الحماية هنا كخدمة. تُبنى بتغيير عادات من يعمل يومياً — وهذا ما يجعل هذه الدرجة موجّهةً إليك أنت لا إلى قسم التقنية عندك.

في الأنظمة الذكية، أضعف حلقةٍ ليست في الخادم. إنها في اللحظة التي يقرّر فيها إنسانٌ مشغولٌ أن الجواب يبدو صحيحاً.

إلى أين بعد هذا الفصل؟ عرفتَ الخريطة. الفصل التالي يدخل الهجمات نفسها — خمسٌ يجب أن تعرفها بالاسم.