دليل BaFin الإرشادي للذكاء الاصطناعي: إدارة مخاطر تقنية المعلومات والاتصالات عند استخدام الذكاء الاصطناعي وفق DORA

النشأة: من الخطاب إلى النشر

أعلن عن الدليل الإرشادي Nikolas Speer، المدير التنفيذي للرقابة المصرفية، في 04.12.2025 في كلمته الرئيسية «IT-Aufsicht im Finanzsektor: Das erste Jahr DORA» (الرقابة على تقنية المعلومات في القطاع المالي: السنة الأولى من DORA) — بعبارة «ليس دفتر التزامات جديدًا، بل أداة مساعدة». وفي 18.12.2025 صدر البيان «Künstliche Intelligenz: BaFin veröffentlicht Orientierungshilfe zu IKT-Risiken» (الذكاء الاصطناعي: BaFin تنشر دليلًا إرشاديًا بشأن مخاطر تقنية المعلومات والاتصالات). والجهة المُصدِرة هي الوحدة CTF 5 في إدارة المخاطر السيبرانية والتقنية في القطاع المالي. النسخة الألمانية (حتى 18.12.2025، 38 صفحة) هي الأصل؛ أما الترجمة الإنجليزية «Guidance on ICT Risks in the Use of AI at Financial Entities» (تاريخ الإصدار 23.01.2026، 35 صفحة) فصدرت في 30.01.2026.

الطبيعة القانونية: غير ملزم، لكنه ليس تفويضًا مطلقًا

يصف الدليل الإرشادي نفسه بأنه «مساعدة غير إلزامية»، ويستند من بين أمور أخرى إلى محادثات مع مؤسسات مالية، ولا يمثّل «تفسيرًا ملزمًا لـDORA من BaFin» و«لا يحدّد توقعات رقابية» (الفصل I وI.2)؛ كما أن إجراءات دراسة الحالة توضيحية صراحةً. ويبقى الملزم هو DORA وRTS RMF وRTS الإسناد من الباطن. غير أن التقرير السنوي لـBaFin لعام 2025 يتحدث عن «موقف توقعات محدَّث» جرى إبلاغه في صورة الدليل الإرشادي. ولا تنشأ عن ذلك التزامات — لكن ينبغي لكم أخذ هذه الصياغة بجدية كإشارة إلى الممارسة الرقابية.

الفئات المستهدفة والحدود

المقصود هو المؤسسات المالية بمعنى المادة 2 الفقرة 2 بالاقتران مع الفقرة 1 البنود a–t من DORA، ولا سيما مؤسسات CRR وشركات التأمين الخاضعة لـSolvency II؛ والمستهدف أساسًا المؤسسات الخاضعة لرقابة BaFin والملزمة بالامتثال للمواد 5 إلى 15 من DORA. أما الإطار المبسّط وفق المادة 16 من DORA فيحتاج وفق الدليل الإرشادي إلى معالجة منفصلة وليس موضوعه. ومن حيث المحتوى، يدور الأمر حصرًا حول مخاطر تقنية المعلومات والاتصالات ومعالجتها بموجب DORA وRTS المكمّلة؛ وتبقى المنهجية الرياضية للنماذج بما فيها البيانات والتطوير والتحقق خارج النطاق (الفصل I.1).

يعتبر الدليل الإرشادي نفسه «وثيقة حيّة» (الفصل I.3)؛ والمرجع حاليًا هو الإصدار المؤرخ 18.12.2025 (DE) أو 23.01.2026 (EN). وتحيل BaFin إليه بالفعل: في «Risiken im Fokus 2026» (المخاطر في دائرة الضوء 2026) المؤرخ 28.01.2026، الذي يذكر من بين مخاطر الذكاء الاصطناعي الاعتماد على مزوّدين خارجيين للحوسبة السحابية ونماذج الذكاء الاصطناعي وتسميم البيانات والنماذج، وفي مقابلة BaFinJournal حول KI-MIG المؤرخة 29.07.2026.

ثلاث خطوات لصياغة المفهوم (الفصل I.1)

1. 1
   المادة 3 البند 1 من لائحة الذكاء الاصطناعيتبنّي التعريف القانوني

   نظام الذكاء الاصطناعي هو نظام قائم على الآلة، مصمّم للعمل بدرجات متفاوتة من الاستقلالية، وقد يُظهر قابلية للتكيّف بعد بدء تشغيله، ويستنتج من المدخلات التي يتلقاها، لأهداف صريحة أو ضمنية، كيفية توليد مخرجات مثل التنبؤات أو المحتوى أو التوصيات أو القرارات التي يمكن أن تؤثر في البيئات المادية أو الافتراضية.

2. 2
   C(2025) 5053 final، الفقرة الهامشية 11تفسير «القائم على الآلة»

   تُطوَّر أنظمة الذكاء الاصطناعي بمساعدة الآلات وتُشغَّل عليها. ووفق إرشادات المفوضية المؤرخة 29.07.2025، تشمل الآلة العتاد (وحدات المعالجة، والذاكرة، ووحدات الشبكة، وواجهات الإدخال والإخراج) والبرمجيات (ومنها الشيفرة المصدرية، وأنظمة التشغيل، والتطبيقات).

3. 3
   المادة 3 البند 2 من DORAالتموضع ضمن DORA

   وبذلك تكون أنظمة الذكاء الاصطناعي حالة فرعية من أنظمة الشبكات والمعلومات. والمقصود مزيج من أصول تقنية المعلومات والاتصالات وبنيتها التحتية يُنفَّذ فيه نموذج رياضي معقّد؛ والنموذج نفسه أصل من أصول تقنية المعلومات والاتصالات (برمجيات).

لا يتناول الدليل الإرشادي سمتي الاستقلالية وقابلية التكيّف الواردتين في لائحة الذكاء الاصطناعي، ولا المنهجية الرياضية للنماذج بما فيها البيانات المستخدمة وتطويرها والتحقق منها. فهو لا يسأل إذن عن جودة حسابات النموذج، بل عن مدى أمان ومرونة النظام الذي يعمل فيه. ويتوقف نوع نظام الذكاء الاصطناعي ونطاقه على كل حالة على حدة، ويجب أن يتوافقا خصوصًا مع غرض الأعمال ووضع المخاطر والسياق الموضوعي.

الذكاء الاصطناعي الخفي: عندما تتحوّل البرمجيات دون أن يُلاحَظ إلى نظام ذكاء اصطناعي

يصف الفصل III.2 التحدي المتمثل في اكتشاف ما إذا كانت التطبيقات تدمج، عند الاختبار، نماذج ذكاء اصطناعي خارجية مثلًا عبر واجهات API — فبرمجية خُطّط لها أصلًا كتطبيق غير ذكي يمكن أن تصبح بذلك نظام ذكاء اصطناعي. ويضيف الفصل III.1 أن الشيفرة المولّدة بالذكاء الاصطناعي قد تستدعي وظائف ذكاء اصطناعي غير معروفة للمستخدم. ووفق دراسة الحالة (المتغيّر 3)، يُستدعى مساعدو الذكاء الاصطناعي في البرمجيات القياسية ربما دون علم المستخدمين؛ وتؤكد الخلاصة أنهم كثيرًا ما يكونون مضمّنين في البرمجيات القياسية.

النتيجة بالنسبة إلى الجرد: إدارة الأصول المعلوماتية وأصول تقنية المعلومات والاتصالات تستلزم سياسة وإجراءات إلزامية (المادة 8 الفقرة 4 من DORA بالاقتران مع المادتين 4 و5 من RTS RMF). ووفق الفصل IV.1 يجب أيضًا تحديد مكوّنات أنظمة الذكاء الاصطناعي وتصنيفها وتوثيقها ومراقبتها باستمرار. ومن يجرد «مشاريع الذكاء الاصطناعي» فقط يغفل عن الذكاء الاصطناعي الذي يدخل المؤسسة مع التحديث التالي لبرمجية قياسية أو عبر API.

ملاحظة بشأن الاستشهاد: في مقتطفات نص ملف PDF الألماني تظهر عند إرشادات المفوضية «الفقرة الهامشية 116» — والمقصود هو الفقرة الهامشية 11 مع الحاشية 6.

لماذا تُعدّ دورة الحياة إطار التنظيم الأفضل

وفق الفصل I.2 لا ترتبط مخاطر تقنية المعلومات والاتصالات المحددة بموقع نظام الذكاء الاصطناعي في سلسلة القيمة؛ بل تنشأ من دمجه في بيئة تقنية المعلومات والاتصالات. لذلك يتبع الدليل الإرشادي دورة حياة الذكاء الاصطناعي — من جمع البيانات مرورًا بتطوير النموذج ونشره وصولًا إلى التشغيل الجاري والإيقاف النهائي. وفي كل مرحلة ينبغي ضمان أمن نظام الذكاء الاصطناعي ومرونته، ويجب مراعاة أنظمة الذكاء الاصطناعي ضمن إطار إدارة مخاطر تقنية المعلومات والاتصالات القائم. ويصنّف الشكل 1 خمسة نواقل هجوم: البيانات ونموذج الذكاء الاصطناعي (الفصل III)، والمدخلات والمخرجات ونظام تقنية المعلومات والاتصالات نفسه (الفصل IV)؛ ويعمل الأمن السيبراني وأمن البيانات بشكل شامل (الفصل V).

مجالات الاستخدام وفق الفصل I

التناسب وفق المادة 4 من DORA

تُلزم المادة 4 من DORA بتطبيق إدارة مخاطر تقنية المعلومات والاتصالات بشكل متناسب مع الحجم وملف المخاطر الإجمالي وطبيعة الخدمات والأنشطة ونطاقها وتعقيدها. ويترجم الدليل الإرشادي ذلك للذكاء الاصطناعي: التطبيقات المدمجة في وظائف حرجة أو مهمة تحتاج إلى إجراءات أمن ورقابة أوسع مقارنةً مثلًا بمساعدي الخدمة الذاتية القائمين على الذكاء الاصطناعي الخاضعين بالكامل للإشراف البشري وغير المدمجين في عمليات اتخاذ القرار (الفصل I.2). وتُقيَّم أنظمة الذكاء الاصطناعي مثل أنظمة تقنية المعلومات والاتصالات وفق ملف المخاطر والتعقيد والوظائف المدعومة (الفصل II.1). ويتدرّج الدليل الإرشادي صراحةً وفق الأهمية الحرجة في المواضع التالية:

• استراتيجية الذكاء الاصطناعي: تزداد أهميتها عندما يدعم الذكاء الاصطناعي وظائف حرجة أو مهمة (الفصل II.2).
• وظائف الرقابة والتدقيق الداخلي: المشاركة عند الإدخال تبعًا للأهمية الحرجة لنظام الذكاء الاصطناعي (الفصل II.2).
• الاختبارات: نطاق متناسب مع الأهمية الحرجة (المادة 16 الفقرة 2 من RTS RMF)؛ الاختبار العدائي واختبارات الإجهاد «تبعًا للأهمية الحرجة» (الفصل III.2).
• الكشف: تسجيل قائم على المخاطر؛ عتبات ومؤشرات للسلوك الخاطئ في الوظائف الحرجة أو المهمة (الفصل IV.1).
• السحابة: اتفاقيات مستوى الخدمة (SLA)، واستراتيجية الخروج، واختبارات الطوارئ، وحقوق تدقيق كاملة عند دعم وظائف حرجة أو مهمة (الفصل IV.2).

استراتيجية الذكاء الاصطناعي وخارطة الطريق التقنية

تضع المؤسسات المالية وفق الفصل II.2 «في كثير من الأحيان» استراتيجية للذكاء الاصطناعي متوائمة مع الاستراتيجية العامة واستراتيجية المخاطر، وعند الاقتضاء مع استراتيجية تقنية المعلومات والاتصالات واستراتيجية DOR، وتعرضها على الهيئة الإدارية للموافقة — بشكل مستقل أو مدمجة في استراتيجية أعلى. وتزداد أهميتها خصوصًا عندما يدعم الذكاء الاصطناعي وظائف حرجة أو مهمة. ويمكن أن تستند إلى خارطة طريق تقنية تحدد موارد تقنية المعلومات والاتصالات وقدراتها واستثماراتها لاستخدام الذكاء الاصطناعي؛ وتساعد إدارة الابتكار المستمرة في تقييم تقنيات الذكاء الاصطناعي الجديدة. ومن المستحسن تغطية جميع الخطوات من الاستراتيجية مرورًا بالتطوير وصولًا إلى الإيقاف النهائي ضمن عملية واحدة وتوثيقها. ومن المهم وفق الدليل الإرشادي التحقق قبل التنفيذ مما إذا كانت العمليات ذات الصلة مهيأة للذكاء الاصطناعي وما إذا كان هناك وعي بالتعامل مع الأصول المعلوماتية.

الالتزام والممارسة في لمحة

من المفيد وفق الفصل II.2 صياغة متطلبات عامة تتسق مع استراتيجية DOR ومع سياسات وإرشادات أمن المعلومات. وينبغي أن تراعي القواعد الخاصة بمقدّمي خدمات تقنية المعلومات والاتصالات من الأطراف الثالثة وخدماتهم، على نحو مثالي، تقييمًا للمخاطر وإرشادات مقدّم الخدمة وإجراءات خاصة للحد من المخاطر. وينبغي ربط المتطلبات العامة بحالة الاستخدام، مع التحقق مما إذا كانت هناك حاجة إلى إجراءات إضافية خاصة بالذكاء الاصطناعي.

مرتكز الكفاءات: يستند الدليل الإرشادي في متطلبات الكفاءات إلى المادة 5 الفقرة 4 والمادة 13 الفقرة 6 من DORA، وليس إلى المادة 4 من لائحة الذكاء الاصطناعي. وتسري قاعدة كفاءة الذكاء الاصطناعي في لائحة الذكاء الاصطناعي بالتوازي منذ 02.02.2025؛ وقد خففتها اللائحة (EU) 2026/1744: فبدلًا من ضمان مستوى كافٍ من كفاءة الذكاء الاصطناعي ببذل أقصى الجهود، يجب اتخاذ إجراءات لدعم تطوير كفاءة الذكاء الاصطناعي.

تشترط المادة 6 الفقرة 1 من DORA إطارًا متينًا وشاملًا وموثّقًا جيدًا لإدارة مخاطر تقنية المعلومات والاتصالات كجزء من نظام إدارة المخاطر الشامل. ويبرز الدليل الإرشادي هذا النص في إطار اقتباس، ويعدّد من بين مكوّنات الإطار: التحديد، والحماية والوقاية، والكشف، والاستجابة والتعافي، وعمليات التعلّم والتطوير، والتواصل (المواد 8 إلى 11 و13 و14 من DORA). ويشمل دمج أنظمة الذكاء الاصطناعي بناءً على ذلك تحديد الثغرات الأمنية مثلًا في تدريب النماذج أو في خطوط البيانات أو أثناء الاستدلال، وتقييم معايير المخاطر الكمية والنوعية (الفصل II.3).

ما يستنبطه الدليل الإرشادي لكل مكوّن من مكوّنات DORA

مهم للتمييز: تصنّف دراسة الحالة الهلوسات على أنها غير ذات صلة مباشرة بتقنية المعلومات والاتصالات (المرحلة 4). ومن جوانب جودة البيانات، تُعدّ السلامة وحدها هدف حماية في DORA؛ أما الجوانب الأخرى فلا تتضمن اللائحة قواعد بشأنها (الفصل V.2). وتظهر مراقبة انحراف النموذج كإجراء معالجة يجب توثيقه، لا كخطر مستقل لتقنية المعلومات والاتصالات. ويضع الدليل الإرشادي متطلبات جودة البيانات كجزء نموذجي من هياكل الحوكمة للذكاء الاصطناعي — وتبقى جودة البيانات العالية، خصوصًا في بيانات التدريب، شرطًا أساسيًا لاستخدام الذكاء الاصطناعي.

المراجعة السنوية والتقرير

الإلزامي هو مراجعة إطار إدارة مخاطر تقنية المعلومات والاتصالات سنويًا على الأقل، وكذلك بعد الحوادث الجسيمة المتعلقة بتقنية المعلومات والاتصالات أو التعليمات الرقابية أو النتائج المستخلصة من الاختبارات والتدقيقات (المادة 6 الفقرة 5 من DORA). وبناءً على طلب السلطة المختصة يجب تقديم تقرير عن المراجعة؛ وتشترط المادة 27 من RTS RMF لذلك صيغة إلكترونية قابلة للبحث. ومن المحتويات الإلزامية وفق المادة 27 الفقرة 2 من RTS RMF، من بين أمور أخرى: ملخص عن ملف مخاطر تقنية المعلومات والاتصالات الحالي وقصير المدى وعن مشهد التهديدات، وتاريخ موافقة الهيئة الإدارية، والنتائج مع درجة خطورتها، وإجراءات المعالجة مع المواعيد والمسؤولين. ويضيف الدليل الإرشادي أنه يمكن عند الحاجة إثراء التقرير بمعلومات محددة عن أنظمة الذكاء الاصطناعي.

الكفاءات: من يجب أن يتقن ماذا

يواجه الموظفون ذوو المهام المتعلقة بالذكاء الاصطناعي وفق الفصل III.1 تحدي اكتساب كفاءات حول طريقة عمل أنظمة الذكاء الاصطناعي ومخاطرها وخصوصيات التشغيل السحابي والمحلي (On-Premise)؛ وكلما كانت المهمة أكثر تقنية، كانت المعرفة أكثر تخصصًا. وبسبب التقدم السريع يعدّ الدليل الإرشادي التدريبات المنتظمة والمتابعة المستمرة لديناميكية التطوّر أمرًا ضروريًا. وبالنسبة للهيئة الإدارية والإدارة يحيل إلى المادة 5 الفقرة 4 والمادة 13 الفقرة 6 من DORA. وحيث تبني الإدارات المتخصصة تطبيقاتها الخاصة بمساعدة مساعدي الذكاء الاصطناعي، يستشهد بالمادة 16 الفقرة 9 من RTS RMF — وهذا النص هو الأساس لمعاملة الحوسبة لدى المستخدم النهائي بالمثل، أما التزامات الكفاءة نفسها فتنبع من DORA.

الالتزام والممارسة في عملية التطوير

عملية التدريب: أربعة أساليب أثبتت فائدتها وفق الدليل الإرشادي

• تأتي بيانات التدريب والاختبار من مصادر موثوقة.
• لا تحتوي المكتبات (مفتوحة المصدر) وحزم البرمجيات المستخدمة في التدريب على ثغرات أمنية معروفة.
• تُوثَّق عملية التدريب بأكملها وتُدار إصداراتها.
• تكشف التحليلات الأمنية عن التلاعبات الخفية في النموذج أو في بيانات التدريب.

تجلب المكتبات مفتوحة المصدر — وفي أقصى الحالات نموذج مفتوح المصدر يُنفَّذ ويُدرَّب ويُشغَّل على أجهزة خاصة — وفق الفصل III.1 خطرين إضافيين: شيفرة خبيثة مدسوسة، ومكتبات لا تعود تُصان بعد بضع سنوات فتخلّف ثغرات أمنية محددة لكن غير مُعالجة. وتسري على الشيفرة المولَّدة بالذكاء الاصطناعي القواعد نفسها التي تسري على الشيفرة البشرية. ويكمن التحدي في التحقق مما إذا كانت تستدعي وظائف ذكاء اصطناعي غير معروفة للمستخدم؛ ويمكن تحديد ذلك من بين وسائل أخرى عبر التحليل الساكن للشيفرة (المادة 16 الفقرة 3 من RTS RMF). ويمكن لتحليلات أعمق للشيفرة المصدرية أن توفّر أمانًا إضافيًا، وقد ثبت أن التوثيق المناسب مستحسن للاختبار اللاحق.

ما ينظّمه RTS RMF بشكل ملزم

يجب على المؤسسات المالية تطوير الاختبارات وتوثيقها وتنفيذها. ويجب أن يكون نطاق الاختبار متناسبًا مع الأهمية الحرجة لعمليات الأعمال وأصول تقنية المعلومات والاتصالات المعنية، وأن يتحقق مما إذا كانت أنظمة تقنية المعلومات والاتصالات الجديدة — ومن ثمّ أنظمة الذكاء الاصطناعي — ملائمة للغرض المخطط لها (المادة 16 الفقرة 2 من RTS RMF). ويجب فحص الشيفرة المصدرية قبل الاستخدام الإنتاجي بأساليب ساكنة وديناميكية بحثًا عن الشذوذ، بما في ذلك اختبارات أمنية للأنظمة المتصلة بالإنترنت (المادة 16 الفقرة 3 من RTS RMF). ويجب تحليل البرمجيات الاحتكارية، وكذلك قدر الإمكان الشيفرة المصدرية لمقدّمي خدمات تقنية المعلومات والاتصالات من الأطراف الثالثة ومن المشاريع مفتوحة المصدر، واختبارها قبل التشغيل (المادة 16 الفقرة 8 من RTS RMF).

ثلاثة تحديات خاصة بالذكاء الاصطناعي (الفصل III.2)

مكوّنات الاختبار حسب الأهمية الحرجة

ينبغي أن تغطي عمليات التشغيل دورة الحياة بأكملها — التطوير والتثبيت والتشغيل وإلغاء التثبيت — وأن توثّق جميع أنشطة التشغيل، مثل ملفات السجل لعمليات استدلال النماذج (المادة 8 من RTS RMF). ويجب تحديد الأصول المعلوماتية وأصول تقنية المعلومات والاتصالات بما في ذلك مكوّنات الذكاء الاصطناعي وتصنيفها وتوثيقها ومراقبتها باستمرار (المادة 8 الفقرة 4 من DORA بالاقتران مع المادتين 4 و5 من RTS RMF؛ انظروا الفصل 2). ويصف الدليل الإرشادي حقوق الوصول القائمة على الأدوار إلى نماذج الذكاء الاصطناعي وبيانات التدريب بأنها أداة فعالة يجب فحصها وتوثيقها بانتظام؛ وتشترط المادة 21 من RTS RMF مبدأ Least Privilege ومراجعة الحقوق سنويًا على الأقل، وفي أنظمة الوظائف الحرجة أو المهمة كل ستة أشهر على الأقل.

مكوّنات التشغيل في لمحة

يُظهر النص الحرفي مقدار ما هو إلزامي وما هو ممارسة: «يجب» اختبار الخطط سنويًا على الأقل (المادة 11 الفقرة 6 البند a من DORA)، وتشترط المادة 10 من RTS RMF فحوصات مؤتمتة للثغرات الأمنية لأصول الوظائف الحرجة أو المهمة أسبوعيًا على الأقل. أما المراقبة المستمرة والتسجيل الكامل لقرارات الذكاء الاصطناعي والعتبات الخاصة بالذكاء الاصطناعي للسلوك الخاطئ فيصفها الدليل الإرشادي بأنها مفيدة أو مستحسنة أو مجدية — ولا يمسّ ذلك الالتزام العام بآليات الكشف مع عتبات الإنذار (المادة 10 الفقرتان 1 و2 من DORA). وتضيف دراسة الحالة لتشغيل مساعد ذكاء اصطناعي وصيانته (المرحلتان 4 و5) مراقبة سياقية لتفاعلات الذكاء الاصطناعي، وتحديثات مؤتمتة، وخطة استجابة للحوادث الأمنية (SIRP)، ولوحة امتثال تتضمن إصدار النموذج وتقييمات المخاطر والمسؤوليات. ويتناول الفصل 9 إلغاء التثبيت.

أدلة الإثبات التي يمكنكم تقديمها (VamiSec)

• جرد للذكاء الاصطناعي يتضمن المكوّنات والأهمية الحرجة والمالك ومصدر البيانات وتواريخ انتهاء دعم المزوّدين بما في ذلك مواعيد إيقاف إصدارات النماذج
• تخطيط السعة وتحليلات المراقبة للبنية التحتية للذكاء الاصطناعي
• مفهوم التسجيل مع العتبات ودليل إثبات فحص الفعالية
• إعادة اعتماد حقوق الوصول إلى النماذج وبيانات التدريب
• محاضر اختبار خطط استمرارية الأعمال مع سيناريوهات تعطل الذكاء الاصطناعي

يحدد الدليل الإرشادي الخطر بالفعل في الفصل II.1: إعادة الاستخدام غير المضبوطة أو التخلص غير الآمن من تطبيقات الذكاء الاصطناعي يعرّض بيانات النماذج أو بيانات المؤسسة الحساسة للخطر. وتصبح دراسة الحالة أكثر تحديدًا — إذ يمكن إساءة استخدام البيانات والنماذج التاريخية أو أن تصبح متاحة للعموم دون قصد. وتستنتج أن إيقاف نماذج LLM ومصادر البيانات المرتبطة بها يجب التخطيط له «كما هو الحال مع جميع أصول تقنية المعلومات والاتصالات». وقد اقترح الفصل II.2 بالفعل تغطية جميع الخطوات ذات الصلة بالذكاء الاصطناعي من الاستراتيجية حتى الإيقاف النهائي ضمن عملية واحدة وتوثيقها.

الالتزام والممارسة والتوصية — بفصل واضح

يخلّف نظام الذكاء الاصطناعي أكثر من مجرد تطبيق. فمن بين الأصول المعلوماتية وأصول تقنية المعلومات والاتصالات يعدّ الدليل الإرشادي مجموعات بيانات التدريب، وتنفيذات النماذج، ومكتبات البرمجيات، والأجهزة، والبرمجيات المطوَّرة داخليًا ولدى الغير (الفصل IV.1)؛ وللحذف تذكر دراسة الحالة إضافةً إلى ذلك تفاعلات الذكاء الاصطناعي التاريخية. ومن واقع ممارستنا تنتمي إلى القائمة نفسها قواعد معرفة RAG، ونسخ النماذج في النسخ الاحتياطية، ومفاتيح API وحسابات الخدمة.

دليل تشغيل الإيقاف النهائي (توصية VamiSec)

1. 1
   تحديد المحفّز والنطاق

   الإيقاف النهائي وتغيير الإصدار وتغيير المزوّد تطلق العملية نفسها. استخرجوا من جرد الذكاء الاصطناعي جميع العناصر: إصدارات النماذج، وبيانات التدريب، وقواعد المعرفة، والسجلات، والواجهات، والحسابات.

2. 2
   قطع التبعيات

   تعطيل الواجهات وحسابات الخدمة ومفاتيح API، وحظر وصول المستخدمين (المادة 21 من RTS RMF). تعطيل إصدارات النماذج القديمة بشكل مقصود، لا مجرد إخراجها من التوجيه.

3. 3
   الموازنة بين الاحتفاظ والحذف

   تسري على السجلات مهل الاحتفاظ المحددة وفق المادة 12 من RTS RMF، وعلى التفاعلات المتعلقة بالأشخاص DSGVO. حلّوا التعارض بشكل موثّق قبل الحذف.

4. 4
   الحذف دون إمكانية الاستعادة

   حذف النماذج والبيانات والنسخ — بما في ذلك في النسخ الاحتياطية ولدى مقدّم الخدمة؛ وحيثما أمكن الحذف التشفيري عبر إتلاف المفاتيح (المادة 7 من RTS RMF).

5. 5
   الإثبات وإغلاق الجرد

   حفظ محضر الحذف وتأكيد مقدّم الخدمة، وتعيين حالة الجرد إلى «موقوف نهائيًا»، وإعادة الدروس المستفادة إلى تقييم مخاطر تقنية المعلومات والاتصالات.

إجراءات دراسة الحالة أمثلة توضيحية؛ أما الملزم فهو متطلب إلغاء التثبيت في RTS RMF. وفي الذكاء الاصطناعي السحابي، ينتمي الحذف لدى المزوّد من وجهة نظرنا إلى تخطيط الخروج (الفصل 10).

نموذج الهيكلة هو النشرة الرقابية بشأن الإسناد الخارجي إلى المزوّدين السحابيين — التقدير المشترك لـBaFin وDeutsche Bundesbank، وهي النسخة المنقحة من الدليل الإرشادي الصادر في نوفمبر 2018. ويمكن «نقل … بعض جوانبها أيضًا إلى أنظمة الذكاء الاصطناعي» (الفصل IV.2). ويبقى فرق في المصطلحات: فالنشرة الرقابية تفكر بمنطق الإسناد الخارجي (الجوهري)، وDORA بمنطق الوظائف الحرجة أو المهمة.

أين يبدأ الالتزام

الملزم هو DORA نفسه: قبل كل اتفاق بشأن خدمات تقنية المعلومات والاتصالات يجب تقييم المخاطر والوفاء بواجبات العناية (المادة 28 الفقرة 4 من DORA)؛ وتسري المحتويات الدنيا وفق المادة 30 الفقرة 2 من DORA على جميع العقود. أما محتويات العقد الإضافية (المادة 30 الفقرة 3) واستراتيجيات الخروج (المادة 28 الفقرة 8) وRTS التعاقد من الباطن فلا تنطبق إلا على الوظائف الحرجة أو المهمة. لذلك يحتاج مساعد كتابة لا يشارك في القرارات من وجهة نظرنا إلى مجموعة عقود أخف من نموذج تقييم (Scoring) في وظيفة حرجة أو مهمة — ومع ذلك يجب توثيق التصنيف (المادة 8 الفقرة 1 من DORA).

ثلاث دقائق في الاستشهاد

• تنظّم المادة 3 الفقرة 6 من ITS سجل المعلومات معرّف المتعاقدين من الباطن (LEI أو EUID)؛ أما التزام التسجيل فيرد في المادة 3 الفقرة 2 البند b.
• تتعلق المادة 28 الفقرة 8 الفقرة الفرعية 3 من DORA باختبارات خطط الخروج؛ أما اختبارات الطوارئ للوظائف الحرجة أو المهمة المسندة خارجيًا فتستند بدقة أكبر إلى المادة 11 الفقرة 4 من DORA، المستشهد بها في الفصل IV.1 (تفسير VamiSec).
• بالنسبة لإعادة البيانات وصيغتها، تستند المادة 30 الفقرة 2 البند d من DORA بدقة أكبر؛ ولا تستشهد بها BaFin (تفسير VamiSec).

نقطة الانطلاق هي المادة 9 الفقرة 2 من DORA: تصمّم المؤسسات المالية سياسات وإجراءات وبروتوكولات وأدوات أمن تقنية المعلومات والاتصالات وتشتريها وتنفّذها. ووفق الدليل الإرشادي ينبغي مراعاة أنظمة الذكاء الاصطناعي فيها بشكل مناسب — مع إجراءات لأمن الشبكات ونقل البيانات (المادة 2 الفقرة 1 من RTS RMF) والحماية من إساءة استخدام البيانات. وبالنسبة للذكاء الاصطناعي يعني ذلك: إلى جانب الوصول إلى النماذج يجب تأمين تبادل البيانات بين بيانات التدريب ومكوّنات النماذج والمستخدمين النهائيين.

خمسة إجراءات مجرّبة لأنظمة الذكاء الاصطناعي

• مراقبة مستمرة في الوقت الفعلي للسلوك الشاذ، مثل أنماط القرار غير المتوقعة
• آليات حماية ضد المدخلات العدائية، مثل آليات التصفية
• تسجيل المخرجات ذات الصلة واستدعاءات API لتحليلات لاحقة
• تحديثات منتظمة لنظام الذكاء الاصطناعي ضد التهديدات الجديدة
• خطة طوارئ للحوادث الأمنية في نظام الذكاء الاصطناعي

مهم لتقديم أدلة الإثبات: يذكر الدليل الإرشادي هذه الإجراءات الخمسة كممارسة مجرّبة عقب الإحالة إلى المادتين 24 و25 من DORA — وهي غير مستندة إلى هاتين المادتين. الإلزامي هو برنامج الاختبار؛ أما كيفية تصميمه للذكاء الاصطناعي فهي ممارسة. والمواعيد الدورية الصارمة ترد في النص القانوني:

ينظر الدليل الإرشادي إلى الذكاء الاصطناعي أساسًا كهدف للهجوم. ومع تحذير ESRB رقم ESRB/2026/3 الصادر في 25.06.2026 وخطاب EZB الصادر في 07.07.2026، يبرز الذكاء الاصطناعي إضافةً إلى ذلك كأداة هجوم: إذ يصف ESRB نماذج Frontier تجد الثغرات الأمنية وتولّد استغلالات فعّالة؛ وقد طالب EZB المؤسسات المهمة بتقديم خطة عمل إلى Joint Supervisory Team بحلول 31.10.2026. ويستهدف كلاهما من وجهة نظرنا أساسًا مجالًا تنظّمه المادة 10 من RTS RMF بالفعل — إدارة الثغرات الأمنية والتصحيحات، ولكن بوتيرة أعلى بكثير.

التصنيف وفق السرية والسلامة والتوافر هو وفق الدليل الإرشادي «الأساس الأهم» للمعالجة والتخزين الآمنين: فهو يحدد كيف وأين يمكن معالجة البيانات وتخزينها — ووفق الفصل V.2 يُعدّ إضافة مفيدة لتشغيل الذكاء الاصطناعي في السحابة. ويُستشهد بالمادة 5 الفقرة 2 البند b والمادة 11 الفقرة 2 البند k من RTS RMF. وبدقة، ينظّم البند b معايير تقييم الأهمية الحرجة للأصول، والبند k متطلبات الأصول التي يشغّلها مقدّمو خدمات تقنية المعلومات والاتصالات من الأطراف الثالثة؛ أما الالتزام العام بتصنيف الأصول المعلوماتية وأصول تقنية المعلومات والاتصالات فيرد وفق قراءتنا في المادة 8 الفقرة 1 من DORA.

ممارسات مجرّبة — قابلة للتكييف حسب كل مؤسسة

• تشفير النماذج وتوقيعها ضد التعديلات غير المصرّح بها
• التشغيل في بيئات آمنة، مثل الحاويات
• نموذج Zero Trust للوصول إلى خدمات الذكاء الاصطناعي
• الحماية من هجمات الحقن، وتحديد المعدّل (Rate Limiting) ضد حجب الخدمة

بالنسبة لمساعدي LLM تبدأ دراسة الحالة الحماية من المصدر: الكشف المؤتمت عن البيانات السرية، وDifferential Privacy ضد الاستنتاجات من الاستعلامات المتعددة، وترميز البيانات الحساسة (Tokenization) قبل المعالجة — وللمتغير 3 إتاحة أقل للبيانات لا يمكن للمستخدمين تجاوزها من تلقاء أنفسهم (دراسة الحالة، المرحلة 1 والمتغير 3).

جودة البيانات: السلامة وحدها هدف حماية في DORA

تشمل جودة البيانات وفق الدليل الإرشادي عادةً الاكتمال والدقة والصلاحية والاتساق والملاءمة أو التمثيلية والسلامة. والسلامة وحدها هدف حماية في DORA؛ أما الجوانب الأخرى فلا تتضمن اللائحة قواعد بشأنها. ومع ذلك تعتمد دقة الذكاء الاصطناعي وموثوقيته وأداؤه عليها، خصوصًا في بيانات التدريب — ولذلك تنتمي متطلبات جودة البيانات عادةً إلى حوكمة الذكاء الاصطناعي. وتماشيًا مع ذلك، تعدّ دراسة الحالة الهلوسات من التحديات غير ذات الصلة المباشرة بتقنية المعلومات والاتصالات.

يستند الفصل V.2 حصرًا إلى RTS RMF (المواد 5 و6 و7 و11 و14)؛ ولا يستشهد الدليل الإرشادي في هذا القسم بمواد من DORA.

تأتي الأرقام من تحليل BaFin لحوادث تقنية المعلومات والاتصالات لعام 2025 في نظام الإبلاغ وفق DORA ومن مقال BaFinJournal «الترابط يضاعف مخاطر تقنية المعلومات» الصادر في 16.07.2026 الذي يعرض هذا التحليل. وهي تشمل جميع حوادث تقنية المعلومات والاتصالات المُبلَّغ عنها؛ ولا تُصدر BaFin أرقامًا خاصة بالذكاء الاصطناعي. ومع ذلك فحصة الأطراف الثالثة مفيدة: فمن يستمد نموذجًا عبر API يرتبط من وجهة نظرنا أيضًا بوضع الحوادث لدى مزوّده.

ليس كل حادث متعلق بتقنية المعلومات والاتصالات في نظام ذكاء اصطناعي خاضعًا لالتزام الإبلاغ — لكن يجب تسجيل كل حادث (المادة 17 من DORA). وتحدد معايير التصنيف وفق المادة 18 من DORA، التي لا يستشهد بها الدليل الإرشادي نفسه، ما إذا كان الحادث جسيمًا. ويمكن الإبلاغ طوعًا عن التهديدات السيبرانية الكبيرة (المادة 19 من DORA).

إجراءات مجرَّبة وفق التوجيه

1. 1
   تحديد التهديدات الخاصة بالذكاء الاصطناعي

   تحديد التهديدات الخاصة بالذكاء الاصطناعي بشكل مقصود، مثل التلاعب ببيانات التدريب.

2. 2
   كشف حوادث الذكاء الاصطناعي

   كشف أخطاء النماذج أو فقدان البيانات أو مشكلات الأداء بحيث يمكن التصرف فورًا.

3. 3
   تحليل الأثر وتصنيف الخطورة

   تحليل الأثر، مثلًا على فقدان البيانات، وتصنيف درجات الخطورة.

4. 4
   الدمج في مفهوم الاستجابة للحوادث

   دمج الحوادث الناشئة عن أنظمة الذكاء الاصطناعي في المفهوم العام للاستجابة للحوادث — مع الأدوار ومسارات التواصل والتصعيد التي تشترطها المادة 17 من DORA أصلًا.

5. 5
   تحليل الأسباب والتعلّم

   تحليل مفصّل للأسباب لمعالجة الثغرات الأمنية المنهجية في النماذج والعمليات ومنع تكرارها بشكل مستدام.

بالنسبة للذكاء الاصطناعي في السحابة يوصي الدليل الإرشادي إضافةً إلى ذلك باتفاقات بشأن الإبلاغ عن حوادث تقنية المعلومات والاتصالات التي تنشأ في أنظمة الذكاء الاصطناعي، وبموارد داخلية كافية ومؤهلة للتقييم والاستجابة. وتضيف دراسة الحالة لمساعدي الذكاء الاصطناعي خطة استجابة للحوادث الأمنية (SIRP) وهجمات سيبرانية محاكاة تختبر أزمنة الاستجابة (المرحلة 5).

نظرة مستقبلية: ينص مقترح Digital Omnibus الصادر عن المفوضية في 19.11.2025 (COM(2025) 837 final) — ولا ينبغي الخلط بينه وبين لائحة Digital Omnibus الخاصة بالذكاء الاصطناعي النافذة بالفعل، اللائحة (EU) 2026/1744 — من بين أمور أخرى على توجيه البلاغات وفق المادة 19 الفقرة 1 من DORA عبر Single Entry Point. والأمر لا يزال مقترحًا؛ ويبقى المرجع الحاسم هو المادة 19 من DORA بصيغتها السارية.

تُدرس ثلاثة متغيرات للبنية التحتية (الشكل 2): On-Premise، والسحابة مع تطبيق الذكاء الاصطناعي داخل Tenant الخاص، والسحابة مع تطبيق الذكاء الاصطناعي خارج Tenant الخاص. والأشكال المختلطة ممكنة صراحةً؛ وعندئذٍ يجب تكييف مناقشة المخاطر. ولا تتناول دراسة الحالة تكاليف الاستثمار والتكاليف الجارية. وينبغي للمؤسسات المالية تنفيذ الإجراءات الأنسب لوضع المخاطر الخاص بها.

ست مراحل: مخاطر تسري في كل متغير

ثلاثة متغيرات، ثلاثة ملفات مخاطر

لا تتضمن دراسة الحالة والفصل VI أي مرجع من DORA. ومن يربط إجراءات دراسة الحالة بمرتكزات قانونية يُجري إسنادًا خاصًا به — أما الالتزامات نفسها فتنبع من DORA وRTS RMF.

لائحة الذكاء الاصطناعي وKI-MIG: أين تتأثر البنوك وشركات التأمين تحديدًا

تُعدّ عالية المخاطر وفق الملحق III البند 5 الفقرة الفرعية b من لائحة الذكاء الاصطناعي الأنظمةُ المخصصة لتقييم الجدارة الائتمانية وتصنيف الملاءة للأشخاص الطبيعيين — باستثناء تلك المخصصة لكشف الاحتيال المالي — ووفق الفقرة الفرعية c الأنظمةُ المخصصة لتقييم المخاطر والتسعير للأشخاص الطبيعيين في التأمين على الحياة والتأمين الصحي. وتسري التزامات المخاطر العالية (الفصل III الأقسام 1–3 من لائحة الذكاء الاصطناعي) على هذه الأنظمة وفق لائحة Digital Omnibus الخاصة بالذكاء الاصطناعي (اللائحة (EU) 2026/1744) اعتبارًا من 02.12.2027 بدلًا من 02.08.2026 كما كان مقررًا أصلًا.

تراقب BaFin وفق المادة 2 الفقرة 3 من KI-MIG أنظمة الذكاء الاصطناعي المرتبطة مباشرة بنشاط مالي منظّم والتي تطرحها المؤسسات الخاضعة للرقابة في السوق أو تشغّلها أو تستخدمها — ووفق BaFin مثل روبوتات محادثة العملاء وتقييم الجدارة الائتمانية وتقييم المخاطر في التأمين على الحياة والتأمين الصحي. ويبقى الذكاء الاصطناعي في شؤون الموظفين من اختصاص Bundesnetzagentur. وتركّز BaFin في ذلك على الممارسات المحظورة (المادة 5) والتزامات الشفافية (المادة 50) وكفاءة الذكاء الاصطناعي (المادة 4 من لائحة الذكاء الاصطناعي)؛ واعتبارًا من 02.12.2027 تُضاف الأنظمة عالية المخاطر وفق الملحق III البند 5 الفقرتين الفرعيتين b وc. وفي مقابلة BaFinJournal حول KI-MIG بتاريخ 29.07.2026 تحيل BaFin صراحةً إلى الدليل الإرشادي.

الرقابة الأوروبية: الاتجاه نفسه، بلمسات خاصة

• EIOPA، رأي صادر في 06.08.2025 (EIOPA-BoS-25-360): يشرح للجهات الرقابية الوطنية على أساس المخاطر والتناسب كيفية تطبيق IDD وSolvency II وDORA على الذكاء الاصطناعي لدى شركات التأمين — دون متطلبات جديدة؛ مع استثناء الذكاء الاصطناعي المحظور وعالي المخاطر وفق لائحة الذكاء الاصطناعي.
• EBA، ورقة حقائق صادرة في 21.11.2025: مقارنة متطلبات المخاطر العالية في لائحة الذكاء الاصطناعي (مع التركيز على الجدارة الائتمانية) مع CRD/CRR وDORA وقانون الرقابة المصرفية الآخر: لا تناقضات جوهرية، ولا ترى EBA حاجة إلى إرشادات جديدة من EBA.
• ESMA، بيان عام صادر في 30.05.2024: يجب أن يستوفي الذكاء الاصطناعي في خدمات الأوراق المالية للعملاء الأفراد التزامات MiFID II؛ وتبقى المسؤولية على عاتق الهيئة الإدارية.
• EBA وEIOPA وESMA، البيان JC 2026 25 الصادر في 31.07.2026: DORA ولائحة الذكاء الاصطناعي أساس متين في مواجهة مخاطر تقنية المعلومات والاتصالات الناشئة عن نماذج Frontier للذكاء الاصطناعي؛ ومن الوقاية وجود جرد كامل للأصول يشمل مكوّنات AI/ML.

متطلب قابلية التفسير لنماذج الذكاء الاصطناعي ليس من مستجدات التعديل التاسع لـMaRisk؛ فقد ورد بالمضمون نفسه في AT 4.3.5 من التعديل السابع (RS 05/2023 (BA)).

1. 1
   المرحلة 0 · الشهر 1توضيح التفويض ونطاق السريان

   تؤكد الهيئة الإدارية مسؤوليتها النهائية (المادة 5 الفقرة 2 البند a من DORA) وتوفّر الميزانية؛ التحقق مما إذا كانت المواد 5–15 أو الإطار المبسّط وفق المادة 16 من DORA هي السارية؛ تعيين مسؤولين عن نتائج الذكاء الاصطناعي لكل وظيفة.

2. 2
   المرحلة 1 · الأشهر 1–3تحقيق الشفافية

   بناء جرد للذكاء الاصطناعي — بما في ذلك الذكاء الاصطناعي عبر API وضمن البرمجيات القياسية (المادة 8 الفقرة 4 من DORA بالاقتران مع المادتين 4 و5 من RTS RMF)؛ وتسجيل الأهمية الحرجة ومتغير البنية التحتية وفئات البيانات والمالك لكل نظام.

3. 3
   المرحلة 2 · الأشهر 3–6تكييف الإطار

   ترسيخ استراتيجية الذكاء الاصطناعي أو قسم الذكاء الاصطناعي في استراتيجية DOR؛ وإدراج الذكاء الاصطناعي في إطار إدارة مخاطر تقنية المعلومات والاتصالات (IKT-RMF) وسياسات الأمن (المادة 9 الفقرة 2 من DORA) وسياسة الحوادث (المادة 22 من RTS RMF) وعقود الأطراف الثالثة (المواد 28–30 من DORA).

4. 4
   المرحلة 3 · الأشهر 6–9التحصين والاختبار

   اختبارات قبل التشغيل الإنتاجي يتناسب نطاقها مع درجة الأهمية الحرجة (المادة 16 الفقرة 2 من RTS RMF)، تُستكمل باختبارات عدائية (Adversarial Testing) عند استخدام الذكاء الاصطناعي في الوظائف الحرجة أو المهمة؛ وعتبات للسلوك الخاطئ للذكاء الاصطناعي في الوظائف الحرجة أو المهمة (المادة 10 الفقرة 1 البند الفرعي 2 بالاقتران مع الفقرة 2 من DORA)؛ وGovernance Shield للخيار 3؛ واختبار خطط استمرارية الأعمال (المادة 11 الفقرة 6 البند a من DORA، والمادة 25 من RTS RMF).

5. 5
   المرحلة 4 · الأشهر 9–12إثبات الفعالية

   مراجعة سنوية لإطار IKT-RMF (المادة 6 الفقرة 5 من DORA) مع قسم للذكاء الاصطناعي في التقرير وفق المادة 27 من RTS RMF؛ وإدخال الدروس المستفادة (المادة 13 الفقرة 3 من DORA)؛ واختبار خطط الخروج (المادة 28 الفقرة 8 من DORA)؛ وإثبات التدريبات (المادة 5 الفقرة 4، والمادة 13 الفقرة 6 من DORA).

مؤشرات يفهمها مجلس الإدارة

ينطبق مبدأ التناسب على خارطة الطريق أيضًا: فالمساعد الذاتي الخدمة القائم على الذكاء الاصطناعي، الخاضع بالكامل للإشراف البشري وغير المُدمج في عمليات اتخاذ القرار، لا يحتاج إلى عمق الضوابط نفسه الذي يحتاجه الذكاء الاصطناعي في وظيفة حرجة أو مهمة (المادة 4 من DORA، الفصل I.2). ومن يبدأ بالجرد يستطيع تدريج هذا العمق بشكل مُعلَّل – وتوثيق هذا التعليل.

الدليل الإرشادي مساعدة غير ملزمة وليس تفسيرًا ملزمًا لـ DORA من BaFin. أما الملزم فهو DORA وRTS RMF وRTS الخاص بالتعاقد من الباطن. وخارطة الطريق توصية من VamiSec وليست استشارة قانونية.