وفق لائحة الذكاء الاصطناعي يُعدّ مشغّلًا كلُّ من يستخدم نظام ذكاء اصطناعي في إطار مهني وتحت مسؤوليته – وفي المستشفى يكون المشغّل هو المنشأة، لا الطبيبة بمفردها. وفي الأنظمة عالية المخاطر يجب على المشغّل استخدام النظام وفق تعليمات الاستخدام، وإسناد الإشراف إلى أشخاص يملكون الكفاءة والتدريب والصلاحية، ومراقبة التشغيل، والتحقق من ملاءمة بيانات الإدخال التي يوفّرها بنفسه، والاحتفاظ بالسجلات المولَّدة تلقائيًا ستة أشهر على الأقل. وقبل استخدام النظام في مكان العمل يجب إبلاغ العاملين وممثليهم. أما نظام إدارة المخاطر بمفهومه الرسمي فتشترطه اللائحة على المزوّد.
إلى لائحة الذكاء الاصطناعي الأوروبية →إدارة مخاطر الذكاء الاصطناعي في المنشآت الطبية
كيف تشغّل المستشفيات والعيادات والمختبرات أنظمة الذكاء الاصطناعي بأمان: التزامات المشغّل وفق لائحة الذكاء الاصطناعي وتكاملها مع MDR، والمسؤولية المشتركة مع المزوّد، ونموذج تهديدات للذكاء الاصطناعي الطبي، وتقييم المخاطر، وأدلة إثبات متينة.
آخر تحديث: أكتوبر 2026 · Valeri Milke, Lead Auditor لمعياري ISO 27001 وISO 42001
نُشر فيmt|medizintechnik 2.2026 ↗
2 أغسطس 2028التزامات المخاطر العالية للأجهزة الطبية الذكية – على المزوّدين والمشغّلين
2 ديسمبر 2027التزامات المخاطر العالية للأغراض المصنَّفة مباشرةً مثل فرز مرضى الطوارئ
6 أشهر على الأقلالحد الأدنى لاحتفاظ المشغّل بالسجلات المولَّدة تلقائيًا
الفئة IIaالفئة الدنيا المعتادة وفق MDR لبرمجيات دعم التشخيص والعلاج
تعني إدارة مخاطر الذكاء الاصطناعي في المنشآت الطبية أن تقيّم المنشأة الصحية مخاطر نظام الذكاء الاصطناعي الذي تستخدمه على المرضى والعاملين وحماية البيانات قبل إدخاله، وأن تراقبها أثناء التشغيل، وأن تعيد تقييمها عند كل تغيير. وليس ذلك أمرًا اختياريًا بالنسبة إلى المستشفيات والعيادات والمختبرات ومراكز الرعاية الطبية: فلائحة الذكاء الاصطناعي الأوروبية (AI Act) تفرض على المشغّلين التزامات خاصة بهم – من الاستخدام وفق الغرض المحدد، مرورًا بإشراف بشري كفء، وصولًا إلى الاحتفاظ بالسجلات. وبالنسبة إلى الأجهزة الطبية المعتمدة على الذكاء الاصطناعي التي تشارك جهة مُخطَرة في تقييم مطابقتها، تسري التزامات المخاطر العالية هذه اعتبارًا من 2 أغسطس 2028. وتبيّن هذه الصفحة كيف يتقاسم المزوّد والمشغّل المسؤولية، وكيف يبدو نموذج التهديدات للذكاء الاصطناعي الطبي، وكيف تُقيَّم الآثار، وما التدابير وأدلة الإثبات التي تصمد في الممارسة اليومية.
الجدول الزمني لاستخدام الذكاء الاصطناعي في الرعاية الصحية
ما يسري على المشغّلين بالفعل وما يأتي حتى 2028 – انقروا على المحطة لعرض التفاصيل.
1 أغسطس 2024
دخول لائحة الذكاء الاصطناعي حيز النفاذ
تدخل اللائحة الأوروبية للذكاء الاصطناعي حيز النفاذ، وتسري التزاماتها تدريجيًا بحسب نوع النظام ومستوى المخاطر.
2 فبراير 2025
المحظورات والإلمام بالذكاء الاصطناعي
يبدأ سريان حظر ممارسات معيّنة للذكاء الاصطناعي. ويتعيّن على المزوّدين والمشغّلين تعزيز إلمام العاملين لديهم بالذكاء الاصطناعي.
يونيو 2025
إرشادات MDCG 2025-6
يجيب مجلس الذكاء الاصطناعي الأوروبي ومجموعة تنسيق الأجهزة الطبية في 36 سؤالًا عن التكامل بين MDR وIVDR ولائحة الذكاء الاصطناعي – ومن ذلك أن المشغّل لا يُساوى بالمستخدم بمفهوم MDR.
27 يوليو 2026
نفاذ Digital Omnibus
تحدّد اللائحة المعدِّلة الصادرة في 8 يوليو 2026 مواعيد ثابتة لالتزامات المخاطر العالية، وتعيد صياغة الالتزام بالإلمام بالذكاء الاصطناعي.
2 أغسطس 2026
التطبيق العام
تسري لائحة الذكاء الاصطناعي من حيث المبدأ، وتبدأ التزامات الشفافية، ويتولى مكتب الذكاء الاصطناعي الأوروبي والسلطات الوطنية إنفاذ اللائحة.
11 سبتمبر 2026
التزامات الإبلاغ وفق CRA
تُبلغ الشركات المصنِّعة للمنتجات ذات العناصر الرقمية عن الثغرات المستغَلّة فعليًا والحوادث الجسيمة – وهذا يخص بيئة تقنية المعلومات، لا الأجهزة الطبية.
2 ديسمبر 2027
أغراض عالية المخاطر مصنَّفة مباشرةً
تسري التزامات المخاطر العالية على أغراض الاستخدام التي تصنّفها لائحة الذكاء الاصطناعي نفسها عالية المخاطر، مثل فرز مرضى الطوارئ – ما لم يُقيَّم النظام في الوقت ذاته بوصفه جهازًا طبيًا يخضع لجهة مُخطَرة.
11 ديسمبر 2027
التطبيق الكامل لقانون المرونة السيبرانية
يتعيّن على المنتجات غير الطبية ذات العناصر الرقمية التي تُطرح حديثًا في السوق استيفاء متطلبات قانون المرونة السيبرانية.
2 أغسطس 2028
التزامات المخاطر العالية للأجهزة الطبية الذكية
تسري متطلبات المخاطر العالية على الذكاء الاصطناعي في الأجهزة الطبية وأجهزة التشخيص المختبري التي تخضع لجهة مُخطَرة – على المزوّدين والمشغّلين على حد سواء. ولا تشمل هذه الالتزامات الأنظمة المطروحة في السوق قبل ذلك إلا إذا أُدخلت على تصميمها تغييرات جوهرية.
ثماني رسائل أساسية حول استخدام الذكاء الاصطناعي في الرعاية الصحية
ملخص لكل رسالة أساسية – افتحوه للاطلاع على النص الكامل.
لا يُعدّ الذكاء الاصطناعي الطبي عالي المخاطر بصورة تلقائية. فالحاسم هو ما إذا كانت البرمجية نفسها جهازًا طبيًا أو مكوّن أمان في جهاز طبي، وما إذا كان يتعيّن مشاركة جهة مُخطَرة في تقييم المطابقة. والبرمجيات التي تقدّم معلومات تُبنى عليها قرارات التشخيص أو العلاج تصنّفها MDR في العادة ضمن الفئة IIa على الأقل – وبذلك يتحقق الشرطان في أغلب الحالات. وإلى جانب ذلك تصنّف لائحة الذكاء الاصطناعي بعض أغراض الاستخدام في القطاع الصحي مباشرةً على أنها عالية المخاطر، مثل فرز مرضى الطوارئ أو قرارات السلطات بشأن الحصول على خدمات الرعاية الصحية العامة؛ وإذا كان هذا النظام في الوقت ذاته جهازًا طبيًا يخضع لجهة مُخطَرة، فالأولوية للمسار عبر MDR. ولا تغيّر لائحة الذكاء الاصطناعي فئة الجهاز وفق MDR.
إلى لائحة الذكاء الاصطناعي للأجهزة الطبية →منذ دخول Digital Omnibus حيز النفاذ في 27 يوليو 2026 أصبحت المواعيد ملزمة: تسري التزامات المخاطر العالية على الذكاء الاصطناعي في المنتجات المنظَّمة مثل الأجهزة الطبية اعتبارًا من 2 أغسطس 2028، وعلى أغراض الاستخدام المصنَّفة مباشرةً مثل فرز مرضى الطوارئ اعتبارًا من 2 ديسمبر 2027، ما لم يكن النظام في الوقت ذاته جهازًا طبيًا يخضع لجهة مُخطَرة. وتسري اليوم بالفعل محظورات بعض الممارسات، والالتزام بتعزيز إلمام العاملين بالذكاء الاصطناعي، والتزامات الشفافية لتطبيقات معيّنة مثل روبوتات المحادثة. ومن ينتظر حتى عام 2028 لن يجد وقتًا كافيًا للمشتريات والتدريب وبناء العمليات.
لا تخضع الأجهزة الطبية وفق MDR وIVDR لقانون المرونة السيبرانية. لكن حول الجهاز الطبي المعتمد على الذكاء الاصطناعي تعمل عناصر كثيرة يشملها القانون: مكوّنات الشبكة، وبرمجيات الخوادم، ومنصات التكامل، وأدوات ذكاء اصطناعي غير طبية للتوثيق وجدولة المواعيد. والالتزامات تقع على الشركة المصنِّعة لا على المستشفى. فمنذ 11 سبتمبر 2026 يتعيّن على الشركات المصنِّعة الإبلاغ عن الثغرات المستغَلّة فعليًا والحوادث الأمنية الجسيمة، ويبدأ التطبيق الكامل في 11 ديسمبر 2027. وتستفيد المستشفيات من ذلك في المشتريات عبر الاتفاق تعاقديًا على التزامات التحديث وقوائم مكوّنات البرمجيات وعمليات معالجة الثغرات. أما الخدمات السحابية البحتة فتندرج ضمن NIS2.
إلى قانون المرونة السيبرانية →يتحمّل المزوّد والمشغّل المسؤولية عن حلقات مختلفة في السلسلة نفسها. فالمزوّد يقدّم نظامًا مطابقًا جرت المصادقة عليه، وتعليمات استخدام تبيّن حدود الأداء، وتحديثات مستمرة. أما المنشأة فتوفّر بيئة مناسبة وعاملين مدرَّبين وإشرافًا فعالًا وتغذية راجعة من الممارسة اليومية. ولا يصبح ذلك متينًا إلا بنقاط تلاقٍ متفق عليها: معلومات عن مصدر البيانات، وإجراء منسَّق لتحديثات النموذج، ومراجعات مشتركة للمخاطر، وعملية لمعالجة الحوادث يُبلغ فيها المستشفى المزوّدَ أولًا عند وقوع حادث جسيم. وتصف إرشادات MDCG 2019-16 هذا المبدأ في مجال الأمن السيبراني.
إلى الأمن السيبراني في MDR →يكشف نموذج التهديدات المواضع التي يمكن فيها مهاجمة نظام الذكاء الاصطناعي. وقد أثبتت منهجية STRIDE جدواها بفئاتها الست – انتحال الهوية، والتلاعب، والإنكار، والإفصاح عن المعلومات، وحجب الخدمة، وتصعيد الصلاحيات – مطبَّقةً على امتداد تدفقات البيانات من جهاز التصوير الطبي حتى شاشة عرض النتائج. ويضاف إليها في الذكاء الاصطناعي أنماط خاصة: بيانات تدريب أو ضبط دقيق مسمَّمة، ومدخلات معدَّلة عمدًا، وحقن الأوامر في النماذج اللغوية، وصلاحيات تصرّف أوسع مما ينبغي لدى الوكلاء. وتقدّم قائمة OWASP Top 10 for LLM Applications في إصدار 2026 قائمة فحص محدَّثة لهذا الغرض.
إلى نمذجة التهديدات →لا تتساوى التهديدات في وزنها. فيُقيَّم مدى احتمال حدوث خلل – تقنيًا وتنظيميًا وبفعل عوامل بشرية مثل تحيّز الأتمتة – ومدى جسامته: على المريض الفرد، وعلى العاملين، وعلى منظومة الرعاية ككل. ويدخل في ذلك صراحةً الإجحاف المنهجي بحق فئات معيّنة من المرضى. ولا تشترط لائحة الذكاء الاصطناعي تقييم الأثر على الحقوق الأساسية إلا على الجهات العامة والجهات الخاصة التي تقدّم خدمات عامة، ولأغراض محددة فقط مثل فرز مرضى الطوارئ. ومع ذلك يبقى التقييم المنظَّم للآثار مفيدًا للأجهزة الطبية المعتمدة على الذكاء الاصطناعي، مستندًا إلى تقييم أثر حماية البيانات وإلى إدارة المخاطر السريرية.
تتغيّر أنظمة الذكاء الاصطناعي – بتحديثات النموذج، أو بواجهات جديدة، أو بأجهزة مختلفة، أو بتغيّر فئات المرضى. وكثيرًا ما يبقى انجراف النموذج، أي التراجع التدريجي في الأداء حين تبتعد البيانات الفعلية عن ظروف المصادقة، دون أن يلاحظه أحد لفترة طويلة إذا غابت المراقبة. لذلك تنتمي التحديثات إلى إجراء منظَّم لإدارة التغيير يشمل الاختبار والاعتماد وخيار الرجوع. والحذر واجب في التعديلات الذاتية: فمن يُجري تغييرًا جوهريًا على نظام عالي المخاطر، أو يطرحه باسمه، أو يعيد توجيهه إلى غرض عالي المخاطر، يتحمّل التزامات المزوّد – حتى لو كان مستشفى. أما التغييرات التي حدّدتها الشركة المصنِّعة وقيّمتها مسبقًا فلا تُعدّ جوهرية.
إلى صيانة الأجهزة الطبية المتصلة →STRIDE في التشغيل السريري للذكاء الاصطناعي
ست فئات للتهديدات – لكل منها سيناريو من واقع الرعاية الصحية، وعواقبه المحتملة، وتدابير مضادة فعالة. اختاروا الفئة.
الهويةمَن الذي يتواصل فعلًا مع الذكاء الاصطناعي؟
- السيناريو: نظام غريب ينتحل داخل شبكة المستشفى صفة جهاز تصوير طبي، ويرسل صورًا مُعدّة سلفًا إلى خدمة التشخيص بالذكاء الاصطناعي.
- العاقبة: يقيّم النموذج صورًا لا تخص أي مريض حقيقي، وقد تُنسب النتائج إلى المريض الخطأ.
- التدابير المضادة: مصادقة متبادلة بين الأنظمة بالشهادات الرقمية، وتسجيل دخول متعدد العوامل مقاوم للتصيّد لحسابات المستخدمين، ومدة جلسات قصيرة.
هوية الأجهزةالشهادات الرقميةالمصادقة متعددة العوامل
سلامة البياناتهل البيانات والنموذج على حالهما؟
- السيناريو: عبر واجهة مختبر ضعيفة الحماية تُغيَّر قيم قياس منفردة يعتمد عليها مؤشر الإنذار المبكر في وحدة العناية المركزة.
- العاقبة: يبقى المؤشر طبيعيًا رغم تدهور حالة المريض – فيبدأ العلاج متأخرًا.
- التدابير المضادة: حماية سلامة الرسائل، وفحوص معقولية للمدخلات، والتحقق من التوقيع ومجموع الاختبار لكل إصدار من النموذج قبل اعتماده.
التوقيعات الرقميةفحوص المعقوليةالواجهات
قابلية التتبّعهل يمكن لاحقًا إثبات ما حدث؟
- السيناريو: بعد تأخر في العلاج لا يتضح أيُّ إصدار من النموذج قدّم أيَّ توصية، ولا ما إذا كانت الطبيبة قد أكّدتها أو تجاوزتها.
- العاقبة: يستند تحليل الأسباب والإبلاغ وتوضيح المسؤولية القانونية إلى التخمين.
- التدابير المضادة: سجلات متزامنة زمنيًا ومحمية من التلاعب تتضمن إصدار النموذج ومرجع المدخلات وإجراء المستخدم، مع الاحتفاظ بها ستة أشهر على الأقل.
التسجيلإصدار النموذجسجلات مقاومة للتلاعب
السريةإلى أين تتدفق البيانات الصحية؟
- السيناريو: مساعد قائم على نموذج لغوي لصياغة التقارير الطبية يصل عبر نظام استرجاع إلى قاعدة معرفة مشتركة – وهو ما يُعرف بالتوليد المعزَّز بالاسترجاع أو RAG – فيقتبس مقاطع من ملف مريض آخر.
- العاقبة: انتهاك للسرية الطبية ولحماية البيانات، وربما وجوب إبلاغ السلطة الرقابية خلال 72 ساعة قدر الإمكان.
- التدابير المضادة: تقليل البيانات واستخدام الأسماء المستعارة، والفصل الصارم لصلاحيات نظام الاسترجاع بحسب المريض والدور، ومرشحات للمخرجات، وتنظيم واضح لمعالجة البيانات بالنيابة.
حماية البياناتأنظمة الاسترجاعالأسماء المستعارة
التوافرماذا يحدث عندما يغيب الذكاء الاصطناعي؟
- السيناريو: خدمة الاستدلال السحابية لاكتشاف السكتة الدماغية مثقلة بالحمل أو أبطأتها طلبات مفرطة.
- العاقبة: يتأخر تحليل الصور في موقف تُحسب فيه كل دقيقة.
- التدابير المضادة: إجراء بديل دون ذكاء اصطناعي جرى التدرّب عليه، وتحديد السعة ومعدّل الطلبات، وتوافر متفق عليه تعاقديًا، ومراقبة أزمنة الاستجابة.
الإجراء البديلتحديد معدّل الطلباتالتوافر
الصلاحياتهل يملك الذكاء الاصطناعي أكثر مما ينبغي؟
- السيناريو: وكيل ذكاء اصطناعي يملك صلاحيات الكتابة في نظام معلومات المستشفى يقرأ مستندًا ممسوحًا ضوئيًا يتضمن تعليمات مخفية، فيعدّل بناءً عليها إدخالات في النظام.
- العاقبة: تغييرات غير مصرّح بها في الأوامر الطبية أو البيانات الأساسية، ناجمة عن حقن الأوامر وصلاحيات التصرّف المفرطة.
- التدابير المضادة: الحد الأدنى من الصلاحيات للوكلاء، وتأكيد بشري لكل إجراء كتابة، والفصل بين البيانات والتعليمات، ومحاكاة منتظمة لهجمات على الذكاء الاصطناعي.
الحد الأدنى من الصلاحياتExcessive Agencyمحاكاة الهجمات
للتعمّق
تشغيل الذكاء الاصطناعي بأمان: تسعة فصول من منظور المنشأة
تنتقل الفصول من مجالات الاستخدام مرورًا بالأطر التنظيمية والأدوار، وصولًا إلى نموذج التهديدات والتقييم والتدابير وخطة للانطلاق. وتميّز باستمرار بين ما يشترطه القانون، وما توصي به الإرشادات، وما أثبت جدواه في الممارسة.
الذكاء الاصطناعي في الممارسة السريرية: مجالات الاستخدام وأنواع المخاطر
أصبح الذكاء الاصطناعي أمرًا روتينيًا في كثير من المنشآت منذ مدة – وغالبًا ما يتوزع على أقسام ومسارات شراء وعقود مختلفة. لذلك تبدأ المهمة بنظرة شاملة صريحة.
يمتد النطاق من أنظمة تحدّد المواضع اللافتة في صور الأشعة وتقدّم الحالات العاجلة في قائمة العمل، مرورًا بمؤشرات الإنذار المبكر في وحدات العناية المركزة، والتحليلات في المختبر وعلم الأمراض، ومقترحات الجرعات، وصولًا إلى النماذج اللغوية التي تصوغ مسودات التقارير الطبية أو توثّق المحادثات. ويضاف إلى ذلك أدوات لا صلة مباشرة لها بالمرضى، مثل تخطيط المناوبات وإدارة الأسرّة وتنظيم المواعيد. وكلما اقترب النظام من قرار التشخيص أو العلاج، كان أثر أخطائه على البشر أكثر مباشرة.
يكفي تحديثٌ لم ينتبه إليه أحد، أو قاعدة بيانات تكاد تخلو من فئات معيّنة من المرضى، أو معايرة انزاحت عن موضعها، حتى تتغيّر النتائج التشخيصية – وكثيرًا دون أن يلفت ذلك الانتباه في العمل اليومي للأقسام. لذلك لا يهم المشغّل أن يكون النظام «ذكيًا»، بل أيّ قرار يؤثر فيه، ومَن يعتمد على مخرجاته، وماذا يحدث حين يخطئ أو يتعطّل.
ثلاث مجموعات من المخاطر
- المخاطر التقنية: أخطاء التصنيف، وتراجع أداء النموذج، والهجمات على البيانات أو النموذج أو الواجهات، وتعطّل الخدمات.
- المخاطر التنظيمية: غموض توزيع المسؤوليات، ونقص التدريب، والتحديثات غير المنظَّمة، واستخدام أدوات ذكاء اصطناعي غير معتمدة، والثغرات في معالجة الحوادث.
- المخاطر الأخلاقية والقانونية: الإجحاف بحق فئات من المرضى، وضعف قابلية التتبّع، ومخالفات حماية البيانات، وتآكل الثقة بين المعالِجين والمرضى.
مفهومان لا بد من معرفتهما
يشير انجراف النموذج إلى التراجع التدريجي في أداء النموذج، لأن بيانات الإدخال أو فئات المرضى أو الأجهزة أو المسارات السريرية تغيّرت مقارنةً بظروف المصادقة. وتوصي إرشادات MDCG 2025-6 في هذا الصدد بتصميم مجموعات البيانات بحيث يبقى التحيّز غير المقصود وانجراف البيانات تحت السيطرة، وتصبح الفئات الفرعية التي يضعف فيها أداء النموذج مع مرور الوقت قابلة للتعرّف.
أما تحيّز الأتمتة فيعني الميل إلى الاعتماد على مخرجات الآلة أو الإفراط في الثقة بها. وتشترط لائحة الذكاء الاصطناعي تمكين المكلَّفين بالإشراف من إدراك هذا الميل، وتفسير المخرجات تفسيرًا صحيحًا، وتجاوزها في الحالة الفردية، وإيقاف النظام عبر زر إيقاف أو إجراء مماثل.
تلخّص هذه الصفحة المقال المتخصص «Risikomanagement für KI-Systeme im Medizinbetrieb» (إدارة مخاطر أنظمة الذكاء الاصطناعي في المنشآت الطبية) المنشور بالألمانية في مجلة mt|medizintechnik، العدد 2.2026، وتعيد ترتيبه وتستكمله بالتطورات حتى أكتوبر 2026، ولا سيما Digital Omnibus الخاص بلائحة الذكاء الاصطناعي.
الأطر التنظيمية وتكاملها – وما يسري ومتى
تتشابك خمسة أطر تنظيمية عند استخدام الذكاء الاصطناعي في الرعاية الصحية، وهي تخاطب أدوارًا مختلفة ولها مواعيد مختلفة.
لا تصنّف لائحة الذكاء الاصطناعي الذكاء الاصطناعي الطبي على أنه عالي المخاطر بصورة شاملة. فالمعيار هو المسار عبر تشريعات المنتجات: إذا كان الذكاء الاصطناعي نفسه جهازًا طبيًا أو جهاز تشخيص مختبري، أو مكوّن أمان في أيٍّ منهما، وكان يتعيّن مشاركة جهة مُخطَرة في تقييم المطابقة، عُدّ نظام ذكاء اصطناعي عالي المخاطر. ولأن MDR تصنّف البرمجيات التي تقدّم معلومات لقرارات التشخيص أو العلاج في العادة ضمن الفئة IIa على الأقل، فإن ذلك ينطبق على معظم تطبيقات الذكاء الاصطناعي التشخيصية والعلاجية. وتُفحص متطلبات لائحة الذكاء الاصطناعي عندئذ ضمن إجراء MDR القائم لدى الجهة المُخطَرة – دون أن تنشأ شهادة ثانية.
وإلى جانب ذلك تذكر لائحة الذكاء الاصطناعي بعض أغراض الاستخدام في المجال الصحي مباشرةً بوصفها عالية المخاطر: تقييم مكالمات الطوارئ وفرز مرضى الطوارئ، وقرارات السلطات بشأن الحصول على خدمات الرعاية الصحية العامة، وتقييم المخاطر والتسعير في التأمين الصحي والتأمين على الحياة. وإذا كان نظام الفرز هذا في الوقت ذاته جهازًا طبيًا يخضع لجهة مُخطَرة، فالأولوية للمسار عبر تشريعات المنتجات.
| الإطار التنظيمي | الجهة المخاطَبة | الأهمية لاستخدام الذكاء الاصطناعي في المنشأة | الموعد |
|---|---|---|---|
| لائحة الذكاء الاصطناعي الأوروبية | المزوّدون والمشغّلون | التزامات المخاطر العالية للأجهزة الطبية الذكية الخاضعة لجهة مُخطَرة وللأغراض المصنَّفة مباشرةً؛ والمحظورات والإلمام بالذكاء الاصطناعي سارية بالفعل | 2 ديسمبر 2027 أو 2 أغسطس 2028 |
| MDR وIVDR | الشركات المصنِّعة | تصنيف المنتج وتقييمه السريري وإدارة مخاطره ويقظته؛ وهي الإطار الذي تُفحص ضمنه متطلبات الذكاء الاصطناعي | تسري MDR منذ 26 مايو 2021 |
| قانون المرونة السيبرانية | الشركات المصنِّعة للمنتجات غير الطبية ذات العناصر الرقمية | يخص بيئة تقنية المعلومات ومكوّناتها لا الجهاز الطبي؛ ومفيد بوصفه متطلبًا في المشتريات | الإبلاغ منذ 11 سبتمبر 2026، والتطبيق الكامل في 11 ديسمبر 2027 |
| NIS2 وقانون BSI | المستشفيات المصنَّفة جهاتٍ بالغة الأهمية أو جهاتٍ مهمة | إدارة المخاطر وأمن سلسلة التوريد والإبلاغ على ثلاث مراحل – حتى عند وقوع حوادث في أنظمة الذكاء الاصطناعي | قانون BSI الجديد منذ 6 ديسمبر 2025 |
| اللائحة العامة لحماية البيانات | المنشأة بصفتها الجهة المسؤولة عن المعالجة | الأساس القانوني، وتقييم أثر حماية البيانات، والإبلاغ عن انتهاكات البيانات خلال 72 ساعة قدر الإمكان | قانون نافذ |
نظرة عامة مبسّطة، محدّثة حتى أكتوبر 2026. ويتوقف سريان كل إطار تنظيمي على الغرض المقصود وفئة المنتج وحجم المنشأة ودورها في كل حالة على حدة.
كيف ترتبط NIS2 وحماية البيانات بذلك
بالنسبة إلى المستشفيات التي يصنّفها قانون BSI جهاتٍ بالغة الأهمية أو جهاتٍ مهمة، تُعدّ أنظمة الذكاء الاصطناعي جزءًا من تقنية المعلومات الواجب حمايتها: فالحادث الأمني الكبير في خدمة ذكاء اصطناعي يجب الإبلاغ عنه مبكرًا – إنذار أولي خلال 24 ساعة على الأكثر، ثم بلاغ يتضمن تقييمًا أوليًا خلال 72 ساعة، ثم تقرير ختامي بعد شهر على الأكثر. وتشترط حماية البيانات إجراء تقييم أثر حماية البيانات للمعالجات عالية المخاطر؛ وتُلزم لائحة الذكاء الاصطناعي المشغّلين باستخدام المعلومات التي يقدّمها المزوّد لهذا الغرض.
الجدول الزمني من منظور المشغّل
- منذ 2 فبراير 2025: حظر ممارسات معيّنة للذكاء الاصطناعي، والالتزام بتعزيز إلمام العاملين بالذكاء الاصطناعي – ومنذ Digital Omnibus صراحةً دون ضمان مستوى معيّن من الكفاءة.
- منذ 2 أغسطس 2026: التطبيق العام للائحة الذكاء الاصطناعي والتزامات الشفافية، تحت إشراف مكتب الذكاء الاصطناعي الأوروبي والسلطات الوطنية.
- منذ 11 سبتمبر 2026: التزامات الإبلاغ على الشركات المصنِّعة وفق قانون المرونة السيبرانية عن الثغرات المستغَلّة فعليًا والحوادث الأمنية الجسيمة.
- اعتبارًا من 2 ديسمبر 2027: التزامات المخاطر العالية للأغراض المصنَّفة مباشرةً، مثل فرز مرضى الطوارئ الذي لا يُفحص بوصفه جهازًا طبيًا لدى جهة مُخطَرة.
- اعتبارًا من 2 أغسطس 2028: التزامات المخاطر العالية للأجهزة الطبية الذكية – على المزوّدين والمشغّلين. ولا تشمل الأنظمة المطروحة في السوق قبل ذلك إلا بعد إدخال تغييرات جوهرية على تصميمها؛ أما الأنظمة المخصصة للسلطات العامة فموعدها الأقصى 2 أغسطس 2030.
ويتضمن Digital Omnibus كذلك بابًا لم تُحسم نتيجته بعد: إذ يجوز للمفوضية، بالنسبة إلى المنتجات الخاضعة لتشريعات قطاعية خاصة بها – ومنها الأجهزة الطبية – أن تقيّد بعض متطلبات لائحة الذكاء الاصطناعي بقانون مفوَّض، ما دام التشريع القطاعي يوفّر حماية مكافئة. وأمامها حتى 2 أغسطس 2027 لذلك. ولا يغيّر هذا كثيرًا في تخطيط المستشفيات، لأن التزامات المشغّل لا تتأثر به. ويذهب أبعد من ذلك مقترح قدّمته المفوضية في ديسمبر 2025 لمراجعة MDR وIVDR: إذ سينقل الأجهزة الطبية الذكية إلى مجموعة تنظيمية أخف في لائحة الذكاء الاصطناعي، بحيث تُنفَّذ متطلبات الذكاء الاصطناعي أساسًا عبر MDR. ولم يُعتمد ذلك بعد؛ وحتى اعتماده تبقى المواعيد المذكورة هنا سارية.
المسؤولية المشتركة بين المزوّد والمشغّل
تُسند لائحة الذكاء الاصطناعي الالتزامات إلى الأدوار بوضوح. لكن النظام لا يصبح آمنًا إلا حين يربط الطرفان ما يخص كلًّا منهما بعضه ببعض.
المزوّد هو من يطوّر نظام ذكاء اصطناعي أو يكلّف بتطويره ثم يطرحه في السوق أو يشغّله باسمه؛ وفي الأجهزة الطبية يكون ذلك في الغالب الشركة المصنِّعة وفق MDR. أما المشغّل فهو من يستخدم النظام في إطار مهني وتحت مسؤوليته. وتوضح إرشادات MDCG 2025-6 أن المشغّل لا يُساوى بـ«المستخدم» بمفهوم MDR: ففي المستشفى تكون المنشأة هي المشغّل، والطبيبة أمام محطة التشخيص هي المستخدمة.
| المهمة | المزوّد (الشركة المصنِّعة) | المشغّل (مستشفى، عيادة، مختبر، مركز رعاية طبية) | نقطة التلاقي المشتركة |
|---|---|---|---|
| إدارة المخاطر | نظام لإدارة المخاطر على امتداد دورة الحياة، مترابط مع ISO 14971 | تقييم مرتبط بالاستخدام في بيئة المنشأة ومساراتها وفئات مرضاها | مراجعات دورية للمخاطر، وتبادل المعلومات حول المخاطر المتبقية وحدود الأداء |
| البيانات | حوكمة بيانات التدريب والمصادقة والاختبار بما في ذلك مصدرها | ملاءمة بيانات الإدخال التي توفّرها المنشأة وتمثيلها للواقع | معلومات عن مصدر البيانات وعن فئات المرضى التي جرت عليها المصادقة |
| الشفافية | تعليمات استخدام تبيّن الأداء والحدود وتدابير الإشراف | الاستخدام وفق تعليمات الاستخدام، وإبلاغ العاملين، وإعلام المرضى حيثما يكون ذلك إلزاميًا أو ضروريًا طبيًا | مواد تدريبية وأدلة مختصرة مفهومة |
| الإشراف البشري | إمكانات للتدخل والإيقاف ضمن التصميم | تعيين مكلَّفين بالإشراف يتمتعون بالكفاءة والتدريب والصلاحية | قواعد متفق عليها تحدد متى يُتجاوز النظام أو يُوقف |
| التسجيل | إتاحة التسجيل التلقائي تقنيًا | الاحتفاظ بالسجلات الخاضعة لسيطرة المنشأة ستة أشهر على الأقل | الوصول إلى السجلات لتحليل الحوادث |
| التغييرات | تقييم التحديثات وتوثيق التغييرات المحددة مسبقًا | اختبار التحديثات واعتمادها والإبقاء على مستوى رجوع احتياطي | معلومات الإصدارات ومهل الإعلان المسبق |
| الحوادث | اليقظة وفق MDR، والإجراءات التصحيحية، والإشعارات الأمنية | مراقبة التشغيل؛ وعند وجود خطر تعليق الاستخدام وإبلاغ المزوّد والسلطة، وعند وقوع حادث جسيم إبلاغ المزوّد أولًا | مسار مشترك جرى التدرّب عليه لمعالجة الحوادث |
عرض مبسّط. والمرجع هو الالتزامات الواردة في لائحة الذكاء الاصطناعي وMDR والعقود في كل حالة على حدة.
متى تصبح المنشأة نفسها مزوّدًا
- إذا طرحت نظامًا عالي المخاطر موجودًا في السوق باسمها أو بعلامتها التجارية.
- إذا أجرت تغييرًا جوهريًا على نظام عالي المخاطر، أي تغييرًا لم يكن متوقعًا في تقييم المطابقة الأصلي ويمسّ المطابقة أو الغرض المقصود.
- إذا استخدمت نظامًا لم يكن عالي المخاطر – حتى لو كان نموذجًا لغويًا عامًا – لغرض يجعله عالي المخاطر.
ووفق إرشادات MDCG 2025-6 يلزم إجراء تقييم مطابقة جديد عند التغيير الجوهري حتى لو اقتصرت المنشأة على مواصلة استخدام النظام المعدَّل داخليًا. أما التغييرات التي حدّدتها الشركة المصنِّعة وقيّمتها مسبقًا، مثلًا ضمن خطة للتغييرات المحددة سلفًا، فلا تُعدّ جوهرية. ولا تُعدّ الأنظمة المطوَّرة ذاتيًا التي تستخدمها منشأة صحية داخليًا حصرًا وفق قواعد الأجهزة المصنَّعة داخليًا ذكاءً اصطناعيًا عالي المخاطر بحسب الإرشادات؛ غير أن التزامات أخرى في لائحة الذكاء الاصطناعي تظل قائمة.
ما الذي ينبغي أن يتضمنه العقد
- معلومات عن مصدر البيانات وفئات المرضى التي جرت عليها المصادقة وحدود الأداء المعروفة.
- سياسة تحديث تتضمن مهل الإعلان المسبق ومعلومات الإصدارات وخيار الرجوع.
- الوصول إلى السجلات والدعم في تحليل الحوادث وفي تقييم أثر حماية البيانات.
- مسارات الإبلاغ وأزمنة الاستجابة وجهات الاتصال للمسائل الأمنية.
- التزامات أمنية للمكوّنات السحابية ومكتبات الأطراف الثالثة، بما في ذلك قائمة مكوّنات البرمجيات.
- نهاية الدعم، وتسليم البيانات أو حذفها بشكل منظَّم عند انتهاء العقد.
إدارة المخاطر على امتداد دورة الحياة
إدارة المخاطر لدى المشغّل ليست مشروعًا له تاريخ انتهاء، بل ترافق نظام الذكاء الاصطناعي من الفكرة الأولى حتى إيقافه عن العمل.
لا تفرض لائحة الذكاء الاصطناعي نظامًا خاصًا لإدارة المخاطر إلا على المزوّد. أما المشغّلون فعليهم التزامات تتعلق بالمراقبة والإشراف والبيانات والسجلات والإبلاغ. ومع ذلك تبقى إدارة المخاطر المنظَّمة داخل المنشأة هي الأساس العملي للوفاء بهذه الالتزامات. ويصف معيار المشغّلين IEC 80001-1 هذا النهج تحديدًا للأجهزة الطبية المتصلة وبرمجيات الرعاية الصحية: إدارة المخاطر قبل دمجها في تقنية المعلومات بالمستشفى وأثناءه وبعده.
- 1قبل الشراء: الغرض والتصنيف
توضيح الفائدة السريرية والغرض المقصود ودور المنشأة والتصنيف التنظيمي. وتحديد معايير القبول: ما معدلات الخطأ والمخاطر المتبقية المقبولة لهذا الاستخدام، ومَن يقرّر ذلك؟
- 2قبل التشغيل: الاختبار في بيئة المنشأة
التحقق باستخدام بيانات ممثِّلة من المنشأة نفسها مما إذا كان الأداء الذي تعلنه الشركة المصنِّعة يتحقق لدى فئات مرضاها. وتأمين الواجهات والصلاحيات وقطاع الشبكة، وتعيين المكلَّفين بالإشراف وتدريبهم، وتحديد الإجراء البديل.
- 3أثناء التشغيل: المراقبة والتغذية الراجعة
متابعة مؤشرات الأداء ومعدلات التجاوز وجودة البيانات والتوافر بشكل مستمر. وتوثيق الملاحظات اللافتة وإبلاغ المزوّد بها، وتعليق الاستخدام عند وجود خطر.
- 4عند التغيير: اعتماد مضبوط
يمر كل تحديث للنموذج وكل واجهة جديدة وكل مجال استخدام جديد بالتقييم والاختبار والاعتماد والتوثيق. والتحقق مما إذا كان التغيير محددًا مسبقًا من الشركة المصنِّعة أو سيضع المنشأة في دور المزوّد.
- 5عند الإيقاف: خروج منظَّم
ضمان إجراء بديل، وحفظ السجلات وأدلة الإثبات وفق مهل الاحتفاظ، وإغلاق الحسابات والواجهات، وطلب حذف البيانات لدى المزوّد، والاستفادة من الخبرات المكتسبة في عملية الشراء التالية.
نموذج تهديدات للذكاء الاصطناعي الطبي
أفضل طريقة لاكتشاف التهديدات هي تتبّع تدفقات البيانات: من أين تأتي المدخلات، وأين يعمل النموذج، وإلى أين تذهب النتائج؟
تعود منهجية STRIDE إلى Loren Kohnfelder وPraerit Garg اللذين وصفاها عام 1999 في Microsoft. وهي تصنّف التهديدات في ست فئات، ويسهل تطبيقها على مخطط تدفق البيانات: فلكل مكوّن ولكل اتصال يُطرح السؤال عن الفئة الممكنة فيه. وفي نظام تشخيص قائم على الذكاء الاصطناعي يشمل ذلك عادةً جهاز التصوير الطبي، وأرشيف الصور، وخدمة الاستدلال – محليًا أو في السحابة –، وشاشة عرض النتائج، ونظام معلومات المستشفى، وقناة التحديث لدى الشركة المصنِّعة.
| الفئة | السؤال التوجيهي | نقطة الهجوم النموذجية في تشغيل الذكاء الاصطناعي |
|---|---|---|
| انتحال الهوية – Spoofing | هل يمكن لأحد أن ينتحل صفة نظام أو شخص مصرّح له؟ | أجهزة التصوير، وحسابات الخدمة، وواجهات البرمجة الخاصة بخدمة الاستدلال |
| التلاعب – Tampering | هل يمكن تغيير المدخلات أو النموذج أو النتائج دون أن يُلاحَظ ذلك؟ | واجهات المختبر والصور، وملفات النموذج، وقناة التحديث |
| الإنكار – Repudiation | هل يمكن لاحقًا إثبات مَن أطلق أيَّ إجراء ومَن اتخذ أيَّ قرار؟ | السجلات، والطوابع الزمنية، وحالات الإصدارات |
| الإفصاح عن المعلومات – Information Disclosure | هل يمكن أن تتسرب البيانات الصحية أو التفاصيل الداخلية للنموذج؟ | النقل إلى السحابة، وأنظمة الاسترجاع في النماذج اللغوية، وسجلات الشركة المصنِّعة |
| حجب الخدمة – Denial of Service | ماذا يحدث عند الحمل الزائد أو التعطّل؟ | الاستدلال السحابي، والشبكة، وخادم التراخيص |
| تصعيد الصلاحيات – Elevation of Privilege | هل يستطيع مستخدم أو وكيل فعل أكثر مما هو مقرّر؟ | واجهات الإدارة، والوكلاء ذوو صلاحيات الكتابة |
تعرض أداة استكشاف STRIDE في النظرة العامة أعلاه سيناريوهات محددة مع عواقبها وتدابيرها المضادة.
تهديدات خاصة بالذكاء الاصطناعي
تسمّي لائحة الذكاء الاصطناعي نفسها هجمات نموذجية على الذكاء الاصطناعي: تسميم البيانات والنماذج، والمدخلات المعدَّلة عمدًا لخداع النموذج، والهجمات على السرية، واستغلال نقاط ضعف النموذج. وبالنسبة إلى التطبيقات القائمة على النماذج اللغوية، تقدّم قائمة OWASP Top 10 for LLM Applications في إصدار 2026 تصنيفًا محدَّثًا. وأهم هذه الأنماط بالنسبة إلى المنشآت ما يلي:
Data and Model Poisoning
تسميم البيانات والنماذج: بيانات تدريب أو ضبط دقيق متلاعَب بها تحرف سلوك النموذج – كأن يغفل عن نتائج معيّنة بشكل منهجي.
المدخلات المضلِّلة
صور أو إشارات معدَّلة تعديلًا طفيفًا تؤدي إلى تصنيفات خاطئة، دون أن يرى البشر أي فرق.
Prompt Injection
حقن الأوامر: تعليمات مخفية في المستندات أو الصور أو الملفات الصوتية تدفع النموذج اللغوي إلى تجاهل ضوابطه.
Sensitive Information Disclosure
الإفصاح عن المعلومات الحساسة: يكشف النموذج في إجاباته بيانات شخصية أو محتوى سريًا من سياقه.
Excessive Agency
الصلاحيات المفرطة: وكلاء يملكون صلاحيات أكثر من اللازم أو يخضعون لرقابة أقل من اللازم ينفّذون إجراءات بالغة الأثر في الأنظمة المتخصصة.
Misinformation
المعلومات المضلِّلة: عبارات تبدو معقولة لكنها خاطئة تُنقل دون تدقيق إلى التوثيق أو القرارات.
Supply Chain
سلسلة التوريد: نماذج أو مكتبات أو مجموعات بيانات مخترَقة من مصادر خارجية تصل إلى المستشفى عبر الشركة المصنِّعة.
Unbounded Consumption
الاستهلاك غير المحدود: طلبات مفرطة تستنزف موارد الحوسبة أو الميزانيات؛ ويدخل في ذلك أيضًا محاولة استنساخ نموذج عبر استعلامات بأعداد هائلة.
تقييم الآثار: الاحتمال والجسامة والتحيّز
التقييم وحده يحوّل قائمة التهديدات إلى قائمة أولويات. وتُحتسب فيه العواقب السريرية بقدر ما تُحتسب حماية البيانات والإنصاف.
أثبتت مصفوفة ذات محورين جدواها. على أحدهما الاحتمال، ويتغذّى من عوامل تقنية مثل سطح الهجوم ومتانة النموذج، ومن عوامل تنظيمية مثل مستوى التدريب ونضج العمليات، ومن عوامل بشرية مثل ضغط الوقت وتحيّز الأتمتة. وعلى الآخر جسامة العواقب – طبيًا، ومن حيث حماية البيانات، وتشغيليًا، ومن حيث الثقة بالمنشأة.
| المستوى | السؤال التوجيهي | مثال |
|---|---|---|
| المريض الفرد | هل يمكن لخطأ أن يعرّض الصحة أو الحياة للخطر مباشرة؟ | يتأخر مؤشر الإنذار المبكر في التنبيه لدى مريضة، فيبدأ العلاج متأخرًا. |
| العاملون والتشغيل | كيف يغيّر النظام عبء العمل والمسارات والانتباه؟ | كثرة الإنذارات الكاذبة تولّد إرهاق الإنذارات، فتضيع التحذيرات الحقيقية. |
| فئات المرضى والمجتمع | هل تحصل فئات معيّنة على رعاية أسوأ بشكل منهجي؟ | نموذج دُرِّب أساسًا على بيانات فئة عمرية واحدة يكتشف النتائج لدى الفئات الأخرى بمعدل أقل. |
فحص التحيّز بشكل هادف
ينشأ التحيّز حين لا تعكس بيانات التدريب المرضى الذين تخدمهم المنشأة، أو حين تتغيّر المسارات والأجهزة. لذلك ينبغي للمشغّلين تحليل مؤشرات الأداء لا بصورة إجمالية فحسب، بل بحسب الفئات الفرعية ذات الصلة، بقدر ما تسمح به البيانات والأساس القانوني. ومنذ Digital Omnibus تجيز لائحة الذكاء الاصطناعي لمشغّلي الأنظمة عالية المخاطر، على سبيل الاستثناء، معالجة فئات خاصة من البيانات الشخصية مثل البيانات الصحية لاكتشاف التحيّز – بشروط حماية صارمة، ودون أن ينشأ عن ذلك التزام.
تقييم الأثر على الحقوق الأساسية: متى يكون إلزاميًا
لا تشترط لائحة الذكاء الاصطناعي تقييم الأثر على الحقوق الأساسية إلا لأغراض المخاطر العالية التي تدرجها بنفسها، وفقط على الجهات العامة والجهات الخاصة التي تقدّم خدمات عامة، وكذلك على المشغّلين الذين يقيّمون الجدارة الائتمانية أو يسعّرون التأمين على الحياة والتأمين الصحي. وبذلك قد تتأثر المستشفيات العامة والمستشفيات الخاصة المكلَّفة بمهام الرعاية، مثلًا عند استخدام نظام فرز في قسم الطوارئ؛ وإذا كان هذا النظام في الوقت ذاته جهازًا طبيًا يخضع لجهة مُخطَرة، فينبغي – بسبب أولوية تشريعات المنتجات – التحقق في كل حالة على حدة مما إذا كان الالتزام يسري. ولا يسري هذا الالتزام على الأجهزة الطبية الذكية التي تُعدّ عالية المخاطر عبر MDR وحدها. ويجيز Digital Omnibus الإحالة إلى تقييم أثر حماية البيانات المُعَدّ مسبقًا.
التدابير: الوقاية والكشف والتصحيح والإثبات
تقوم المعالجة الفعالة للمخاطر على أربع ركائز، ولا تكفي أيٌّ منها وحدها.
- 1الوقاية
يبدأ الأمن عند الاختيار: المطالبة بمبدأ الأمان منذ التصميم لدى المزوّد، وإجراء المصادقة ببيانات اختبار ممثِّلة من المنشأة نفسها، وتطبيق تقسيم الشبكة والمصادقة متعددة العوامل والصلاحيات القائمة على الأدوار. ومن يستعين قبل التشغيل الفعلي بنظرة ثانية مستقلة – من فحص أمني خارجي أو من مستشفى شريك يملك خبرة في مجال الاستخدام نفسه – يكتشف النقاط العمياء قبل أن تمسّ المرضى.
- 2الكشف
ملاحظة الانحرافات مبكرًا: مراقبة مؤشرات الأداء وبيانات الإدخال لرصد الانجراف، وتحليل السجلات، وتحديد إنذارات للسلوك غير المألوف، واعتبار تجاوز العاملين لتوصيات النظام مؤشرًا مبكرًا. وفي العناية المركزة وقسم الطوارئ تكمن الأهمية في سرعة وصول الملاحظة اللافتة إلى الفريق المختص.
- 3التصحيح
حين يحدث خلل: يحتفظ البشر بالكلمة الأخيرة في النقاط الحرجة ويستطيعون إيقاف النظام. وتحدّ من الضرر إجراءاتٌ بديلة دون ذكاء اصطناعي، وإمكانية العودة إلى إصدار سابق من النموذج، ومسارات تصعيد واضحة، ومسار لمعالجة الحوادث جرى التدرّب عليه.
- 4الإثبات
التوثيق يربط كل شيء: التصنيف، وتقييم المخاطر، ونتائج الاختبارات، والاعتمادات، والتدريبات، وحالات التجاوز، والحوادث، والتصحيحات. وهو يثبت الوفاء بالالتزامات أمام جهات الرقابة والمدققين، ويشكّل أساس التحسين المستمر.
الإبلاغ حين يصبح الأمر جديًا
إذا كان لدى المنشأة ما يدعو إلى الاعتقاد بأن الاستخدام ينطوي على خطر، أبلغت دون تأخير المزوّد أو الموزّع وسلطة مراقبة السوق، وعلّقت الاستخدام. وعند وقوع حادث جسيم تشترط لائحة الذكاء الاصطناعي إبلاغ المزوّد أولًا دون تأخير. وفي الأجهزة الطبية الذكية تمر الحوادث المتعلقة بالصحة عبر نظام اليقظة في MDR – إذ تُبلغ الشركة المصنِّعة بحسب الجسامة خلال 15 يومًا أو 10 أيام أو يومين على الأكثر. وفي ألمانيا يتعيّن كذلك على المشغّلين والمستخدمين إبلاغ السلطة الاتحادية العليا المختصة، وهي عادةً BfArM، بالحوادث الجسيمة المشتبه بها دون تأخير. ولا يُبلَّغ في هذه الحالة عبر لائحة الذكاء الاصطناعي إلا عن انتهاكات الالتزامات التي تحمي الحقوق الأساسية. وبالتوازي قد تنشأ التزامات إبلاغ وفق قانون BSI وقانون حماية البيانات.
التدابير الملموسة في لمحة
- جرد لجميع أنظمة الذكاء الاصطناعي يتضمن الغرض والتصنيف والمسؤولين وتدفقات البيانات.
- مكلَّفون بالإشراف معيَّنون لكل نظام، مع توثيق تدريبهم وصلاحيتهم في تجاوز النظام.
- تسجيل يتضمن إصدار النموذج وإجراء المستخدم، مع الاحتفاظ بالسجلات ستة أشهر على الأقل.
- إجراء لاعتماد التحديثات يتضمن الاختبار في بيئة مرجعية.
- اختبارات أمنية منتظمة ومحاكاة لهجمات الذكاء الاصطناعي، ولا سيما للنماذج اللغوية والوكلاء.
- مصفوفة إبلاغ منسَّقة تشمل المزوّد ويقظة الأجهزة الطبية وBSI وسلطة الرقابة على حماية البيانات.
الدمج في نظام إدارة أمن المعلومات ونظام إدارة الذكاء الاصطناعي
تكون إدارة مخاطر الذكاء الاصطناعي في أفضل حالاتها حين تُدمج في أنظمة الإدارة القائمة بدلًا من أن تقف إلى جانبها.
تدير منشآت كثيرة بالفعل نظامًا لإدارة أمن المعلومات، ونظامًا لإدارة الجودة، ونظامًا لإدارة حماية البيانات. ويمكن ربط مخاطر الذكاء الاصطناعي بها: بوصفها فئة مخاطر مستقلة، بضوابط خاصة بها، ودور واضح في اعتماد الأنظمة الجديدة. ويبيّن العرض التالي ما يقدّمه كل معيار.
ISO/IEC 27001
إطار لإدارة أمن المعلومات: جرد الأصول، وحماية الوصول، وإدارة الموردين، والتسجيل، ومعالجة الحوادث – وهو الأساس لتأمين أي نظام ذكاء اصطناعي.
ISO/IEC 42001
نظام لإدارة الذكاء الاصطناعي يمكن الحصول على شهادة به، ويتضمن الأدوار والسياسات وتقييم الأثر. والمعيار طوعي؛ ولا ينشأ عنه افتراض مطابقة مع لائحة الذكاء الاصطناعي.
ISO/IEC 23894
دليل لإدارة مخاطر الذكاء الاصطناعي موجَّه صراحةً أيضًا إلى المؤسسات التي تستخدم الذكاء الاصطناعي أو تنشره – ولذلك يناسب المشغّلين جيدًا.
IEC 80001-1
معيار المشغّلين للأجهزة الطبية المتصلة وبرمجيات الرعاية الصحية: السلامة والفعالية وأمن المعلومات عند الدمج والاستخدام في تقنية المعلومات بالمستشفى.
ISO 14971
المعيار الأساسي المنسَّق في إطار MDR لإدارة مخاطر المنتج لدى الشركة المصنِّعة. وينبغي للمشغّلين مواءمة تقييمهم مع مصطلحاته كي تبقى المعلومات قابلة للربط.
BS/AAMI 34971
دليل صادر عام 2023 ينقل منطق ISO 14971 إلى تعلّم الآلة، مثلًا إلى مشكلات البيانات والأداء – وهو مفيد في الحوار مع الشركات المصنِّعة.
وبالنسبة إلى المستشفيات الخاضعة لقانون BSI يكون هذا الدمج منطقيًا من الناحية القانونية أيضًا: فتدابير إدارة المخاطر المطلوبة تشمل، ضمن أمور أخرى، معالجة الحوادث وأمن سلسلة التوريد والأمن عند الاقتناء والتطوير والصيانة، بما في ذلك التعامل مع الثغرات الأمنية. وبذلك تنتمي خدمات الذكاء الاصطناعي ومزوّدوها إلى إدارة الموردين وإدارة الثغرات ضمن نظام إدارة أمن المعلومات.
خطة انطلاق في 90 يومًا للمستشفيات
يتوفر وقت حتى ديسمبر 2027 أو أغسطس 2028 – لكنه ليس طويلًا. والانطلاق المنظَّم خلال ثلاثة أشهر يوفّر رؤية شاملة، ويسدّ أكبر الثغرات، ويمهّد للتوسّع.
- 1الأيام 1–15: تحديد المسؤولية
تعيين جهة مسؤولة عن الذكاء الاصطناعي، وجمع الهندسة الطبية وأمن تقنية المعلومات وحماية البيانات وإدارة الجودة والإدارة الطبية في لجنة واحدة، وربط اعتماد أنظمة الذكاء الاصطناعي الجديدة بهذه اللجنة.
- 2الأيام 16–30: إعداد الجرد
حصر جميع أنظمة الذكاء الاصطناعي، بما فيها الوظائف المدمجة في الأجهزة والخدمات السحابية. وتدوين الغرض والمزوّد وتدفقات البيانات وفئات المستخدمين والتصنيف التنظيمي لكل نظام.
- 3الأيام 31–45: ترتيب المخاطر حسب الأولوية
إعداد نموذج تهديدات وفق STRIDE للأنظمة الأوثق صلة بالمرضى وتقييم آثارها. والنتيجة قائمة بأكثر التدابير إلحاحًا.
- 4الأيام 46–60: العقود والمزوّدون
مراجعة العقود القائمة من حيث سياسة التحديث والوصول إلى السجلات ومصدر البيانات ومسارات الإبلاغ ونهاية الدعم؛ وإعادة التفاوض على الالتزامات الناقصة وتحديد متطلبات الشراء المستقبلية.
- 5الأيام 61–75: الإشراف والكفاءة
تعيين المكلَّفين بالإشراف لكل نظام، وتنفيذ تدريبات موجّهة لكل فئة حول حدود الأداء وتحيّز الأتمتة، وإبلاغ العاملين وممثليهم.
- 6الأيام 76–90: ترسيخ التشغيل
إعداد المراقبة والاحتفاظ بالسجلات، وتفعيل إجراء إدارة التغيير ومصفوفة الإبلاغ، وتنفيذ تمرين على معالجة الحوادث، واعتماد الخطة للأشهر الاثني عشر التالية.
هذه الخطة للاسترشاد ولا تغني عن التحقق في كل حالة على حدة. ويتوقف نطاقها وترتيبها على حجم المنشأة ومهام الرعاية المنوطة بها وما لديها من أنظمة الذكاء الاصطناعي.
مقال متخصص · mt|medizintechnik
إدارة مخاطر أنظمة الذكاء الاصطناعي في المنشآت الطبية
يبيّن Valeri Milke، الرئيس التنفيذي لشركة VamiSec GmbH والمدقق الرئيسي لمعياري ISO/IEC 27001 وISO/IEC 42001، في مقاله المنشور في المجلة كيف يؤمّن المشغّلون استخدام الذكاء الاصطناعي في الرعاية الصحية بإدارة منظَّمة للمخاطر – بين لائحة الذكاء الاصطناعي وMDR وقانون المرونة السيبرانية. وتلخّص هذه الصفحة المقال وتعيد ترتيبه وتستكمله بالوضع حتى أكتوبر 2026، ولا سيما المواعيد التي حدّدها Digital Omnibus.
العدد2.2026
الناشرTÜV Media
محور العددالطب الشخصي
الحجمالصفحات 8–12، 3 صور وجدول واحد
- كلما ازداد تدخّل الذكاء الاصطناعي في القرارات السريرية، صارت إدارة المخاطر مهمة قيادية للمنشأة.
- يتحمّل المزوّد والمشغّل المسؤولية معًا؛ والحاسم هو نقاط التلاقي بينهما.
- يكشف نموذج التهديدات وفق STRIDE، مستكمَلًا بالهجمات الخاصة بالذكاء الاصطناعي، نقاط الضعف مبكرًا.
- تشكّل الوقاية والكشف والتصحيح والإثبات معًا أساس الثقة.
نُشر المقال الكامل باللغة الألمانية في النسخة المطبوعة وفي النسخة الرقمية المتاحة للمشتركين.
الأسئلة الشائعة
أسئلة شائعة حول إدارة مخاطر الذكاء الاصطناعي في المنشآت الطبية
إجابات موجزة لإدارات المستشفيات والهندسة الطبية وتقنية المعلومات في المستشفيات ومسؤولي الجودة والشؤون التنظيمية – محدّثة حتى أكتوبر 2026.
في الأنظمة عالية المخاطر يجب على المشغّلين استخدام النظام وفق تعليمات الاستخدام، وإسناد الإشراف البشري إلى أشخاص أكفاء مدرَّبين ومخوَّلين، ومراقبة التشغيل، والتحقق من ملاءمة بيانات الإدخال التي يوفّرونها، والاحتفاظ بالسجلات المولَّدة تلقائيًا ستة أشهر على الأقل، وإبلاغ العاملين قبل بدء الاستخدام. وعند وجود خطر يعلّقون الاستخدام ويُبلغون المزوّد وسلطة مراقبة السوق، وعند وقوع حادث جسيم يُبلغون المزوّد أولًا. وبصرف النظر عن فئة المخاطر يسري الالتزام بتعزيز إلمام العاملين بالذكاء الاصطناعي.
اعتبارًا من 2 أغسطس 2028. فقد حدّد هذا التاريخ Digital Omnibus الساري منذ 27 يوليو 2026، وهو يسري على مزوّدي ومشغّلي الذكاء الاصطناعي في الأجهزة الطبية وأجهزة التشخيص المختبري التي تشارك جهة مُخطَرة في تقييم مطابقتها. أما الأغراض التي تصنّفها لائحة الذكاء الاصطناعي نفسها عالية المخاطر، مثل فرز مرضى الطوارئ، فيسري عليها 2 ديسمبر 2027، ما لم يكن النظام في الوقت ذاته جهازًا طبيًا يخضع لجهة مُخطَرة. والمحظورات والإلمام بالذكاء الاصطناعي والتزامات الشفافية سارية بالفعل. وقد يغيّر مقترح لمراجعة MDR لم يُعتمد بعد هذا التكامل مجددًا. أما الأنظمة التي طُرحت في السوق أو وُضعت في الخدمة بصورة مشروعة قبل الموعد المعني، فلا تسري عليها التزامات المخاطر العالية إلا إذا أُدخلت على تصميمها تغييرات جوهرية بعد ذلك؛ ويتعين على الأنظمة المخصصة للاستخدام من قِبل السلطات العامة الامتثال في موعد أقصاه 2 أغسطس 2030.
لا. يُعدّ الذكاء الاصطناعي الطبي عالي المخاطر في العادة إذا كان جهازًا طبيًا أو مكوّن أمان، وكان يتعيّن مشاركة جهة مُخطَرة في تقييم المطابقة. وينطبق ذلك على معظم تطبيقات التشخيص والعلاج، لأن MDR تصنّف هذه البرمجيات غالبًا ضمن الفئة IIa على الأقل. أما مساعد التوثيق الذي ليس له غرض طبي مقصود فلا يُعدّ في العادة نظامًا عالي المخاطر، ما لم يُستخدم لغرض مُدرَج صراحةً.
لا، فالأجهزة الطبية وأجهزة التشخيص المختبري مستثناة من قانون المرونة السيبرانية، لأن MDR وIVDR تفرضان متطلبات أمنية خاصة بهما. لكنه يشمل المنتجات غير الطبية ذات العناصر الرقمية في البيئة المحيطة، مثل مكوّنات الشبكة أو برمجيات التكامل. وتقع الالتزامات على الشركات المصنِّعة لهذه المنتجات: الإبلاغ منذ 11 سبتمبر 2026، والتطبيق الكامل اعتبارًا من 11 ديسمبر 2027. ويمكن للمستشفيات الاستفادة من ذلك في المناقصات والعقود.
في حالات معيّنة فقط. إذ تشترطه لائحة الذكاء الاصطناعي على الجهات العامة والجهات الخاصة التي تقدّم خدمات عامة، لأغراض المخاطر العالية التي تدرجها بنفسها، مثل نظام فرز في قسم الطوارئ. ولا يسري هذا الالتزام على الأجهزة الطبية الذكية التي تُعدّ عالية المخاطر عبر MDR وحدها. ومع ذلك يبقى التقييم المنظَّم للآثار مفيدًا، ويمكن دمجه مع تقييم أثر حماية البيانات.
إذا طرح نظامًا عالي المخاطر باسمه أو بعلامته التجارية، أو أجرى عليه تغييرًا جوهريًا، أو استخدم نظامًا لم يكن عالي المخاطر لغرض عالي المخاطر. وعندئذ يتحمّل التزامات المزوّد، بما فيها تقييم المطابقة – ووفق إرشادات MDCG 2025-6 حتى لو اقتصر على استخدام النظام بنفسه. أما التغييرات التي حدّدتها الشركة المصنِّعة مسبقًا فلا تُعدّ جوهرية.
انجراف النموذج هو التراجع التدريجي في أداء نموذج الذكاء الاصطناعي، لأن فئات المرضى أو الأجهزة أو صيغ البيانات أو المسارات السريرية تغيّرت مقارنةً بظروف المصادقة. ويمكن اكتشافه بالمراقبة المستمرة لمؤشرات الأداء وتوزيعات بيانات الإدخال ومعدلات تجاوز توصيات النظام – ويُفضَّل أن يجري ذلك بحسب الفئات الفرعية ذات الصلة. وينبغي توثيق الملاحظات اللافتة ومناقشتها مع المزوّد، وتعليق الاستخدام عند وجود خطر.
تساعد تنظيميًا، لكنها لا تُغني عن أي التزام. فمعيار ISO/IEC 42001 نظام طوعي لإدارة الذكاء الاصطناعي يمكن الحصول على شهادة به، ويتضمن الأدوار والسياسات وتقييم المخاطر والآثار. ولا ينشأ عنه افتراض مطابقة مع لائحة الذكاء الاصطناعي. وفي المستشفيات يمكن الجمع بينه وبين نظام لإدارة أمن المعلومات وفق ISO/IEC 27001، وبين IEC 80001-1 للأجهزة الطبية المتصلة.
المعايير والمصادر
يستند محتوى هذه الصفحة إلى الأدلة والدراسات التالية المتاحة للعموم.
mt|medizintechnik · TÜV Media GmbH · 2026
Valeri Milke: «Risikomanagement für KI-Systeme im Medizinbetrieb»، العدد 2.2026 ↗
المقال المتخصص الذي تلخّصه هذه الصفحة وتحدّثه وتتعمق فيه، ضمن محور العدد «الطب الشخصي».
الجريدة الرسمية للاتحاد الأوروبي / EUR-Lex · 2024
لائحة الذكاء الاصطناعي – اللائحة (EU) 2024/1689 ↗
المادة 6(1) والملحق I (MDR/IVDR)، والملحق III البند 5 (فرز الطوارئ، الخدمات الصحية)، والتزامات المشغّل في المادة 26، وتقييم الأثر على الحقوق الأساسية في المادة 27، وتغيّر الأدوار في المادة 25، والحوادث في المادة 73؛ التطبيق العام اعتبارًا من 2 أغسطس 2026 (المادة 113).
الجريدة الرسمية للاتحاد الأوروبي / EUR-Lex · 2026
اللائحة (EU) 2026/1744 – Digital Omnibus on AI ↗
صادرة في 8 يوليو 2026 ونافذة منذ 27 يوليو 2026: التزامات المخاطر العالية للملحق III اعتبارًا من 2 ديسمبر 2027، وللملحق I (ومنه الأجهزة الطبية) اعتبارًا من 2 أغسطس 2028؛ وصياغة جديدة للمادة 4؛ والمادة 4a لاكتشاف التحيّز؛ والمادة 2(13) بشأن القوانين المفوَّضة.
المفوضية الأوروبية / EUR-Lex · 2025
COM(2025) 1023 final – مقترح لتبسيط MDR وIVDR مع تعديل لائحة الذكاء الاصطناعي ↗
بتاريخ 16 ديسمبر 2025، ولا يزال قيد الإجراء التشريعي: يُقترح نقل MDR وIVDR من القسم A إلى القسم B في الملحق I من لائحة الذكاء الاصطناعي.
مجلس الذكاء الاصطناعي الأوروبي / مجموعة تنسيق الأجهزة الطبية · 2025
AIB 2025-1 / MDCG 2025-6 – Interplay between the MDR & IVDR and the Artificial Intelligence Act ↗
36 سؤالًا عن التكامل؛ الجدول 1 لتصنيف المخاطر العالية بحسب فئة المنتج؛ المشغّل ليس هو المستخدم بمفهوم MDR؛ التغيير الجوهري في السؤالين 29 و30؛ الأجهزة المصنَّعة داخليًا في السؤال 35. وقد تجاوز Digital Omnibus موعد 2027 الوارد في السؤال 31.
الجريدة الرسمية للاتحاد الأوروبي / EUR-Lex · 2017
لائحة الأجهزة الطبية MDR – اللائحة (EU) 2017/745 ↗
قاعدة التصنيف 11 للبرمجيات في الملحق VIII، واليقظة في المادة 87 بمهل 15 و10 و2 يوم، والأجهزة المصنَّعة داخليًا في المادة 5(5). وتكملةً لذلك في ألمانيا: التزام المشغّلين والمستخدمين بالإبلاغ وفق § 3 MPAMIV.
الجريدة الرسمية للاتحاد الأوروبي / EUR-Lex · 2024
قانون المرونة السيبرانية – اللائحة (EU) 2024/2847 ↗
استثناء منتجات MDR وIVDR في المادة 2(2)؛ التزامات الإبلاغ منذ 11 سبتمبر 2026 وفق المادة 14، والتطبيق الكامل اعتبارًا من 11 ديسمبر 2027 وفق المادة 71.
جمهورية ألمانيا الاتحادية · 2025
قانون BSI (BSIG) بصيغة قانون NIS2UmsuCG ↗
نافذ منذ 6 ديسمبر 2025؛ الجهات بالغة الأهمية والجهات المهمة (§ 28 والملحق 1)، وتدابير إدارة المخاطر (§ 30)، ومراحل الإبلاغ 24 ساعة و72 ساعة وشهر (§ 32).
مجموعة تنسيق الأجهزة الطبية / المفوضية الأوروبية · 2020
MDCG 2019-16 Rev. 1 – Guidance on Cybersecurity for medical devices ↗
المسؤولية المشتركة بين الشركة المصنِّعة والمشغّل؛ إدارة المخاطر الأمنية على امتداد دورة الحياة.
ISO · 2019
ISO 14971:2019 – Medical devices — Application of risk management to medical devices ↗
المعيار الأساسي المنسَّق EN ISO 14971:2019/A11:2021 لإدارة مخاطر المنتج.
ISO/IEC · 2023
ISO/IEC 23894:2023 – Artificial intelligence — Guidance on risk management ↗
دليل لإدارة مخاطر الذكاء الاصطناعي للمؤسسات التي تطوّر الذكاء الاصطناعي أو توفّره أو تستخدمه.
ISO/IEC · 2023
ISO/IEC 42001:2023 – AI management systems ↗
نظام لإدارة الذكاء الاصطناعي يمكن الحصول على شهادة به؛ طوعي، ولا ينشأ عنه افتراض مطابقة مع لائحة الذكاء الاصطناعي.
IEC · 2021
IEC 80001-1:2021 – Safety, effectiveness and security in the implementation and use of connected medical devices or connected health software ↗
معيار المشغّلين: إدارة المخاطر قبل دمج الأجهزة الطبية المتصلة في تقنية المعلومات بالمستشفى وأثناءه وبعده.
BSI / AAMI · 2023
BS/AAMI 34971:2023 – Application of ISO 14971 to machine learning in artificial intelligence: Guide ↗
ينقل منطق ISO 14971 إلى المخاطر الخاصة بتعلّم الآلة، مثل مشكلات البيانات والأداء.
OWASP GenAI Security Project · 2026
OWASP Top 10 for LLM Applications 2026 ↗
قائمة محدَّثة للمخاطر في التطبيقات القائمة على النماذج اللغوية، نُشرت في 3 أغسطس 2026، ومنها Prompt Injection وData and Model Poisoning وExcessive Agency.
Microsoft · 2026
Threats – Microsoft Threat Modeling Tool (STRIDE) ↗
تعريف فئات STRIDE الست؛ وتعود المنهجية إلى Kohnfelder وGarg في Microsoft عام 1999.
ما مدى أمان استخدامكم للذكاء الاصطناعي؟
في محادثة أولية غير ملزمة نراجع معكم تطبيقات الذكاء الاصطناعي لديكم في ضوء التزامات المشغّل وفق لائحة الذكاء الاصطناعي، وMDR وقانون BSI واللائحة العامة لحماية البيانات، وكذلك ISO/IEC 27001 وISO/IEC 42001 وIEC 80001-1 – مع قائمة مرتّبة حسب الأولوية بالخطوات التالية.