LLM01:2026
حقن الأوامر (Prompt Injection)
أمر صوتي من التلفاز، أو لافتة في صورة الكاميرا، أو دعوة تقويم تتحكم في الجهاز – وكذلك بشكل متعدد الوسائط عبر الصورة والصوت.
منتجات الذكاء الاصطناعي · Embodied AI · AIoT
اختبار الاختراق لـ منتجات الذكاء الاصطناعي: اختبار الروبوتات وأجهزة AIoT والذكاء الاصطناعي الطرفي (Edge-KI) بأمان
حين يُدمج الذكاء الاصطناعي في جهاز، يتحول حقن الموجّهات (Prompt Injection) إلى حركة أو قفل مفتوح أو صورة كاميرا في الشبكة الخطأ. ننمذج التهديدات وفق STRIDE وMAESTRO، ونختبر من واجهة التصحيح حتى الـ LLM، ونحاكي الهجمات السيبرانية-المادية بوصفنا Red Team – وفق OWASP LLM Top 10 وAISVS وISTG وIoT Top 10.
- نمذجة التهديدات وفق STRIDE × MAESTRO
- العتاد، والبرامج الثابتة، والاتصال اللاسلكي، والسحابة، والنموذج والـ LLM
- أدلة إثبات لـ CRA وEN 18031 وAI Act
- 01المستشعرات
- 02النموذج الطرفي
- 03المشغّلات
- 04السحابة والـ LLM
- 05الاتصال اللاسلكي والتطبيق
- 06Firmware
21.1 مليار
جهاز IoT متصل بنهاية 2025 (توقعات) – ويُتوقع 39 مليارًا بحلول 2030
IoT Analytics، 10/2025
5 ملايين
روبوت صناعي قيد التشغيل، وأكثر من 600,000 رُكّبت حديثًا في 2025 وحده
IFR World Robotics، 09/2026
حتى 100%
نسبة نجاح كسر الحماية (Jailbreak) ضد الروبوتات الموجّهة بالـ LLM في اختبار بحثي، بما فيها Unitree Go2
RoboPAIR، UPenn 2024
> 20 %
من الشركات المشمولة بالدراسة التي تعرّضت لاختراق بيانات أبلغت عن حادث استهدف نماذج أو تطبيقات الذكاء الاصطناعي
IBM Cost of a Data Breach، 07/2026
باختصار
ما هو اختبار الاختراق لمنتجات الذكاء الاصطناعي؟
يفحص اختبار الاختراق لمنتجات الذكاء الاصطناعي الأجهزةَ المزوّدة بذكاء اصطناعي مدمج – الروبوتات والروبوتات التعاونية (Cobots) والأنظمة الشبيهة بالبشر وكاميرات الذكاء الاصطناعي والمساعدات الصوتية وألعاب الذكاء الاصطناعي والذكاء الاصطناعي الطرفي في الآلات – عبر جميع الطبقات: العتاد والبرامج الثابتة والاتصال اللاسلكي وCloud-API والتطبيق والنموذج على الجهاز وتكامل الـ LLM. والهدف هو إثبات ما إذا كان المهاجم قادرًا على السيطرة رقميًا على المنتج أو دفعه إلى أفعال غير مرغوبة في العالم المادي.
نختبر تطبيقات الـ LLM والوكلاء البحتة دون جهاز ضمن اختبار اختراق الذكاء الاصطناعي الوكيلي، والأجهزة المتصلة دون وظيفة ذكاء اصطناعي ضمن اختبار اختراق إنترنت الأشياء.
أهم النقاط باختصار
- 1تجمع منتجات الذكاء الاصطناعي ثلاثة مستويات من المخاطر: نقاط ضعف IoT التقليدية، والهجمات الخاصة بالذكاء الاصطناعي، والآثار المادية عبر المشغّلات والمستشعرات.
- 2تربط نمذجة التهديدات بين STRIDE (ما الذي قد يسوء؟) وطبقات MAESTRO السبع (أين في بنية الذكاء الاصطناعي؟) – مع إضافة العالم المادي.
- 3يجري الاختبار وفق معايير معترف بها: OWASP Top 10 for LLM Applications 2026 وOWASP AISVS 1.01 وOWASP ISTG وOWASP IoT Top 10 وMITRE ATLAS وETSI EN 303 645.
- 4منذ 11.09.2026 تسري التزامات الإبلاغ الواردة في Cyber Resilience Act؛ واعتبارًا من 11.12.2027 جميع المتطلبات – بما فيها اختبارات الأمن الدورية.
- 5لا تُجرى الاختبارات على الروبوتات ذات المشغّلات إلا وفق مفهوم سلامة متفق عليه: منطقة اختبار محددة، وإيقاف طوارئ، وسرعات مخفّضة.
لماذا تحتاج منتجات الذكاء الاصطناعي إلى اختبارات خاصة
حين يكتسب الذكاء الاصطناعي جسدًا، تتراكم المخاطر.
منتج الذكاء الاصطناعي هو في آنٍ واحد جهاز IoT ونظام ذكاء اصطناعي و– مع محرّك أو قفل أو صمام – نظام سيبراني-مادي. ومن يفحص طبقة واحدة فقط من هذه الطبقات يغفل سلاسل الهجوم الواقعة بينها.
الطبقة 1
إرث IoT
يجلب العتاد والبرامج الثابتة والاتصال اللاسلكي نقاط الضعف المعروفة للأجهزة المتصلة.
- مفاتيح مضمّنة في الشيفرة وكلمات مرور افتراضية
- منافذ تصحيح مفتوحة (UART وJTAG) وتحديثات غير موقّعة
- واجهات Cloud-API وتطبيقات مرافقة غير آمنة
الطبقة 2
طبقة الذكاء الاصطناعي
تفتح النماذج على الجهاز والـ LLMs في السحابة فئات هجوم جديدة.
- حقن الموجّهات عبر الصوت والنص وصورة الكاميرا
- استخراج النموذج، وAdversarial Examples، وتسميم البيانات (Data Poisoning)
- مخرجات LLM تتحول دون فحص إلى أوامر
الطبقة 3
الأثر المادي
تربط المشغّلات والمستشعرات الهجمات الرقمية بعواقب حقيقية.
- حركات خارج حدود السلامة
- الكاميرا والميكروفون كأداة تنصّت في الغرفة
- تعطّل الإنتاج أو الرعاية أو تقنيات السلامة
سلسلة هجوم من البحث العلمي: من دعوة تقويم إلى نافذة مفتوحة
- 1يرسل المهاجم دعوة تقويم تتضمن تعليمات مخفية.
- 2تطلب المستخدمة من مساعد الذكاء الاصطناعي تلخيص مواعيدها.
- 3يقرأ الـ LLM الدعوة – فتصل التعليمات إلى السياق (حقن موجّهات غير مباشر).
- 4عند «شكرًا» بريئة يستدعي المساعد وظائف المنزل الذكي.
- 5تنفتح النوافذ ويسخن السخّان: تلاعب رقمي بأثر مادي.
عرضه باحثون من جامعة تل أبيب والتخنيون وSafeBreach ضد Gemini وGoogle Home (Black Hat USA، أغسطس 2025). وكانت Google قد طرحت قبل النشر إجراءات مضادة، مثل طلب التأكيد للإجراءات الخطرة. الورقة البحثية «Invitation Is All You Need»
ما منتجات الذكاء الاصطناعي التي نختبرها
ست فئات منتجات، ستة ملفات هجوم.
لكل فئة منتجات محاورها الخاصة. اختاروا فئة: ستجدون أسطح الهجوم النموذجية وأهم التهديدات ومحاور فحصنا والمعايير ذات الصلة.
الروبوتات والـ Cobots والروبوتات الشبيهة بالبشر والكلاب الآلية
تجمع الروبوتات بين المشغّلات والكاميرات والاتصال اللاسلكي، وبشكل متزايد مخطِّطات مدعومة بالـ LLM. والروبوت المُخترَق ليس مجرد تسريب بيانات، بل خطر على سلامة الأشخاص القريبين منه. واعتبارًا من 20.01.2027 تشترط لائحة الآلات أن تصمد أنظمة التحكم أمام الهجمات الخبيثة المتوقعة، وألا تغادر الأنظمة ذاتية التعلم نطاق مهامها وحركتها المحدد.
ROS 2 / DDSالتهيئة عبر BLE (BLE-Provisioning)التحكم وSafety-SPSالتشغيل عن بُعدمخطِّط LLM/VLAسحابة الأسطول
تهديدات نموذجية
- حقن الأوامر عبر واجهات الاتصال اللاسلكي والتهيئة
- كسر حماية المخطِّط يؤدي إلى حركات خطرة
- قياس عن بُعد خفي إلى خوادم الشركة المصنِّعة
- تجاوز حدود السرعة والقوة والمناطق
ما الذي نفحصه
- خدمات الاتصال اللاسلكي وBLE والشبكة بما في ذلك إدارة المفاتيح
- إعدادات ROS 2/DDS وSROS 2 والتحقق من هوية العُقد
- سيناريوهات Jailbreak-to-Action ضد المخطِّط في ميدان الاختبار
- الفصل بين تخطيط الذكاء الاصطناعي وطبقة السلامة الحتمية
كاميرات الذكاء الاصطناعي وتحليل الفيديو والتعرّف على الوجوه
تتعرّف الكاميرات الذكية على الأشخاص أو لوحات المركبات أو الوجوه مباشرةً على الجهاز أو في السحابة. وهي تعالج بيانات صور شديدة الحساسية وغالبًا بيانات بيومترية – وكثيرًا ما تكون قابلة للوصول مباشرةً من الإنترنت.
خادم البث وRTSPواجهة الإدارة عبر الويب وONVIFالنموذج الطرفيالأرشيف السحابيالتطبيق المرافقتحديث البرامج الثابتة
تهديدات نموذجية
- بث مباشر وأرشيفات مفتوحة دون تحقق من الهوية
- Adversarial Patches تخدع التعرّف على الأشخاص والأشياء
- استخراج نموذج التعرّف من الجهاز
- تتدفق البيانات البيومترية دون حماية إلى السحابة أو إلى عمليات الوسم
ما الذي نفحصه
- قابلية الوصول الخارجي والتحقق من الهوية والفصل بين العملاء
- متانة التعرّف أمام Adversarial Patches والانتحال
- حماية ملفات النموذج وسلسلة التحديث
- تدفقات البيانات وفق DSGVO بما في ذلك مواقع التخزين ومهل الحذف
المساعدات الصوتية والمنزل الذكي مع LLM
تتحكم مساعدات الـ LLM في الإضاءة والتدفئة وأقفال الأبواب والكاميرات – وتقرأ في الوقت نفسه رسائل البريد الإلكتروني والتقويمات والمحادثات. وقد يحتوي كل مصدر من مصادر البيانات هذه على تعليمات من مهاجم.
الميكروفون وكلمة التنبيه (Wake Word)الواجهة الخلفية للـ LLMاستدعاءات الأدوات/المهاراتMatter / Zigbee / Threadالتقويم والبريد الإلكترونيالتطبيق المرافق
تهديدات نموذجية
- حقن موجّهات غير مباشر يتحكم في وظائف الجهاز
- أوامر صوتية غير مسموعة أو مُدخلة عبر الليزر
- Excessive Agency: يُسمح للمساعد بأكثر من اللازم
- تسرّب المحادثات وبيانات المنزل
ما الذي نفحصه
- سلاسل حقن الموجّهات عبر جميع مصادر البيانات المتصلة
- التزامات التأكيد ومبدأ الحد الأدنى من الصلاحيات (Least Privilege) للإجراءات الخطرة
- هجمات صوتية: الموجات فوق الصوتية، وإعادة التشغيل (Replay)، وAdversarial Audio
- البروتوكولات (Matter وThread وZigbee) وعمليات الاقتران
ألعاب الذكاء الاصطناعي والنظارات الذكية والأجهزة الاستهلاكية
تُدخل الدمى الناطقة ونظارات الذكاء الاصطناعي وأجهزته النماذجَ اللغوية إلى غرف الأطفال والحياة اليومية. وإلى جانب حماية البيانات، يتعلق الأمر بآليات حماية مناسبة للعمر يجب ألا تختفي عبر كسر الحماية (Jailbreak).
بوابة الوالدين والتطبيقالواجهة الخلفية للـ LLMالميكروفون والكاميراBLE / Wi-Fiسجلات السحابةواجهات API من جهات خارجية
تهديدات نموذجية
- سجلات محادثات الأطفال قابلة للاطلاع من قِبل أطراف ثالثة
- يمكن تجاوز الـ Guardrails عبر لعب الأدوار
- مفاتيح API مضمّنة في الشيفرة على الجهاز أو في التطبيق
- تسجيل خفي عبر الكاميرا والميكروفون
ما الذي نفحصه
- التحكم في الوصول إلى البوابات وواجهات API والسجلات (IDOR وBOLA)
- اختبارات كسر الحماية وحماية الفئات العمرية على النموذج اللغوي
- فحص الأسرار (Secret-Scanning) في البرامج الثابتة والتطبيق
- تقليل البيانات ومدة التخزين ومفهوم الحذف
الذكاء الاصطناعي الطرفي في الآلات والمنشآت والروبوتات المتنقلة
يعمل فحص الجودة المدعوم بالذكاء الاصطناعي والصيانة التنبؤية والروبوتات المتنقلة المستقلة (AMR) على بوابات طرفية (Edge-Gateways) في قلب بيئة OT. وهنا تهم الإتاحة والسلامة وحماية النموذج بوصفه معرفة فنية.
البوابة الطرفية وNPUOPC UA / MQTTالتحكم وناقل الحقل (Feldbus)تحديث النموذجالصيانة عن بُعدالربط بـ MES/السحابة
تهديدات نموذجية
- بيانات مستشعرات متلاعب بها تؤدي إلى قرارات خاطئة
- سرقة النموذج عبر الوصول إلى الملفات أو القنوات الجانبية
- منافذ صيانة عن بُعد غير آمنة إلى بيئة OT
- ثغرات أمنية حرجة في أنظمة تحكم الـ Cobots
ما الذي نفحصه
- التجزئة بين الذكاء الاصطناعي الطرفي وOT وIT
- سلامة خط معالجة البيانات وتحديثات النموذج
- حماية ملفات النموذج وSecure Boot والتحصين
- الصيانة عن بُعد والحسابات والبروتوكولات وفق IEC 62443
الذكاء الاصطناعي في الأجهزة الطبية وأجهزة الرعاية والصحة
تعالج أنظمة التشخيص بالذكاء الاصطناعي وروبوتات الرعاية والأجهزة الصحية القابلة للارتداء بياناتٍ صحية وتؤثر في العلاج. وللتصنيفات الخاطئة والتلاعب هنا أثر مباشر على المرضى.
المستشعرات وقيم القياسنموذج التشخيصواجهات المستشفيات (HL7/FHIR)تطبيق الهاتف المحمولالمنصة السحابيةعملية التحديث
تهديدات نموذجية
- مدخلات عدائية (Adversarial Inputs) تشوّه التشخيصات
- تسرّب البيانات الصحية عبر التطبيق والسحابة
- التلاعب ببيانات التدريب والبيانات المرجعية
- غياب القدرة على التحديث طوال دورة الحياة
ما الذي نفحصه
- متانة النموذج أمام المدخلات المتلاعب بها
- الواجهات والتحقق من الهوية والتشفير
- سلامة خط معالجة البيانات وإصدارات النموذج
- أدلة إثبات للأمن السيبراني وفق MDR وAI Act
سطح الهجوم لمنتج ذكاء اصطناعي
عشر طبقات – من البيئة المحيطة حتى سلسلة التوريد.
هكذا نفكك منتج الذكاء الاصطناعي في الاختبار. لكل طبقة تهديداتها وأساليب فحصها ومراجعها الخاصة. انقروا على إحدى الطبقات.
01 / 10
البيئة المحيطة والمدخلات المادية
كل ما يستطيع المهاجم إدخاله إلى إدراك الجهاز دون لمسه: الصور والنصوص والأصوات والضوء والإشارات اللاسلكية.
التهديدات
- حقن موجّهات مادي عبر لافتات ونصوص في صورة الكاميرا
- Adversarial Patches ضد التعرّف على الأشياء
- أوامر صوتية غير مسموعة عبر الموجات فوق الصوتية أو الليزر
أساليب الفحص
- سيناريوهات بأشياء ولافتات وإشارات صوتية مُعدّة مسبقًا
- قياس معدلات التعرّف والخطأ في ميدان الاختبار
- فحص ما إذا كان السياق من البيئة المحيطة يُفسَّر بوصفه تعليمات
المراجعLLM01:2026ATLAS AML.T0041NIST AI 100-2
02 / 10
المستشعرات والإدراك
توفّر الكاميرات والميكروفونات وLiDAR وIMU وGNSS البيانات التي يتخذ النموذج ونظام التحكم قراراتهما بناءً عليها.
التهديدات
- انتحال المستشعرات (GNSS وLiDAR والموجات فوق الصوتية)
- إعادة تشغيل تدفقات بيانات المستشعرات وحقنها
- غياب التحقق من المعقولية بين المستشعرات
أساليب الفحص
- اختبارات الانتحال وإعادة التشغيل على مستوى المستشعرات
- فحص دمج بيانات المستشعرات من حيث اختبارات المعقولية
- حماية سلامة بيانات المستشعرات على الجهاز وفي السحابة
المراجعATLAS AML.T0008.003ISO 10218:2025IEC 62443-4-2
03 / 10
النموذج الطرفي وNPU
النموذج على الجهاز – التعرّف على الصور أو النموذج اللغوي أو نموذج Vision-Language-Action – هو في آنٍ واحد هدف للهجوم ومعرفة فنية جديرة بالحماية.
التهديدات
- استخراج ملفات النموذج من ذاكرة Flash أو التطبيق
- هجمات القنوات الجانبية على المسرّعات (NPU وTPU)
- أبواب خلفية في الأوزان المدرَّبة مسبقًا
أساليب الفحص
- تحليل الذاكرة ونظام الملفات بحثًا عن نماذج غير محمية
- فحص التشفير والتوقيع وعملية التحميل
- اختبارات المتانة باستخدام Adversarial Examples
المراجعML05:2023AISVS C11ISTG-PROC-SIDEC
04 / 10
المشغّلات والتحكم والسلامة
تحوّل المحركات والقوابض والأقفال والصمامات القرارات إلى حركة – مؤمَّنة (نأمل ذلك) بطبقة سلامة حتمية.
التهديدات
- مخرجات الـ LLM أو النموذج تتحول دون فحص إلى أوامر تحكم
- تجاوز حدود السرعة والقوة والمناطق
- تفعيل إيقاف الطوارئ عمدًا بهدف التخريب
أساليب الفحص
- فحص الفصل بين تخطيط الذكاء الاصطناعي ونظام التحكم في السلامة
- إدخال أوامر تحكم عبر واجهات الناقل والبرمجيات الوسيطة
- اختبارات القيم الحدية في ميدان اختبار مؤمَّن
المراجعLLM10:2026LLM03:2026ISO 10218:2025
05 / 10
البرامج الثابتة والإقلاع وOTA
تحدد أداة الإقلاع ونظام التشغيل والخدمات وآلية التحديث ما إذا كانت عمليات التلاعب تبقى في الجهاز بشكل دائم.
التهديدات
- غياب Secure Boot وتحديثات غير موقّعة
- بيانات وصول ومفاتيح مضمّنة في الشيفرة
- مكوّنات قديمة ذات ثغرات أمنية معروفة
أساليب الفحص
- استخراج البرامج الثابتة وتحليلها وفق OWASP FSTM
- الهندسة العكسية للملفات الثنائية والخدمات
- فحص سلسلة التحديث بما في ذلك الحماية من الرجوع إلى إصدار سابق (Rollback)
المراجعOWASP FSTMISTG-FW[UPDT]OWASP IoT I4EN 303 645 5.3
06 / 10
العتاد وواجهات التصحيح
اللوحة الإلكترونية وشرائح الذاكرة والواجهات هي الطريق المباشر إلى داخل الجهاز لكل من يملك وصولًا ماديًا.
التهديدات
- واجهات UART أو JTAG أو SWD مفتوحة
- قراءة ذاكرات Flash وeMMC
- غياب Secure Element لمفاتيح الجهاز
أساليب الفحص
- تحديد واجهات التصحيح واختبارها
- قراءة الذاكرة وتحليل الأسرار المخزّنة بنص واضح
- فحص الحماية من التلاعب ومخزن المفاتيح
المراجعISTG-INT / ISTG-PHYISVS V5OWASP IoT I10
07 / 10
الاتصال اللاسلكي والشبكة
تربط BLE وWi-Fi وZigbee وThread/Matter والاتصالات الخلوية والخدمات المحلية الجهازَ بالتطبيق والسحابة والأجهزة الأخرى.
التهديدات
- اقتران وتهيئة غير آمنين
- بروتوكولات غير مشفّرة أو ضعيفة التحقق من الهوية
- خدمات شبكة مفتوحة وأنفاق صيانة عن بُعد
أساليب الفحص
- تحليل الاتصال اللاسلكي واختبارات الاقتران والتهيئة
- Fuzzing للبروتوكولات وفحص تشفير النقل
- تحليل المنافذ والخدمات بما في ذلك الوظائف المخفية
المراجعISTG-WRLSOWASP IoT I2EN 18031-1
08 / 10
الواجهة الخلفية السحابية وواجهات API والـ LLM
تتحكم إدارة الأسطول وواجهات API الخاصة بالأجهزة والواجهة الخلفية للـ LLM في أجهزة كثيرة في آنٍ واحد – وهنا يتضاعف أثر خطأ واحد ليشمل الأسطول بأكمله.
التهديدات
- حقن الموجّهات وكسر الحماية ضد الـ LLM
- غياب الفصل بين الأجهزة والعملاء
- Excessive Agency: يُسمح للـ LLM بالتحكم المباشر في الأجهزة
أساليب الفحص
- اختبارات LLM وفق OWASP LLM Top 10 وAI Testing Guide
- اختبارات API وفق OWASP API Security Top 10
- فحص صلاحيات الأدوات والتزامات التأكيد
المراجعOWASP LLM Top 10 2026AISVS C2/C7/C9ASI02
09 / 10
التطبيق المرافق والصيانة عن بُعد
غالبًا ما تكون تطبيقات الهاتف المحمول وبوابات الويب والتشغيل عن بُعد أسهل طريق للوصول إلى أجهزة كثيرة دفعة واحدة.
التهديدات
- الوصول إلى أجهزة الآخرين بسبب خلل في تفويض الكائنات
- أسرار مضمّنة في شيفرة التطبيق
- تشغيل عن بُعد غير آمن مع وصول إلى الكاميرا
أساليب الفحص
- اختبارات تطبيقات الهاتف المحمول وفق OWASP MASTG
- اختبارات التفويض على كائنات الأجهزة والمستخدمين
- فحص منافذ الصيانة عن بُعد والتشغيل عن بُعد
المراجعOWASP MASTGOWASP API Top 10OWASP IoT I3
10 / 10
سلسلة التوريد: النماذج وSBOM وAI-BOM
تُسهم النماذج المدرَّبة مسبقًا والمكتبات والرقاقات والمورّدون في تحديد مستوى الأمن – ويجب توثيقها وفق CRA.
التهديدات
- شيفرة خبيثة في ملفات النماذج (مثل إلغاء تسلسل Pickle)
- مكوّنات مفتوحة المصدر معرّضة للثغرات في البرامج الثابتة والتطبيق
- غياب أدلة الإثبات حول منشأ البيانات والنماذج
أساليب الفحص
- مطابقة SBOM وAI-BOM مع الثغرات الأمنية المعروفة
- فحص مصادر الحصول على النماذج والتواقيع وأدوات الفحص
- تقييم عملية إدارة الثغرات الأمنية لدى الشركة المصنِّعة
المراجعLLM04:2026AISVS C6OWASP IoT I5CRA الملحق I
نمذجة التهديدات
STRIDE × MAESTRO: اكتشاف التهديدات بشكل منهجي، قبل أن يفعل المهاجمون ذلك.
قبل أن نختبر، ننمذج. يوفّر STRIDE الأسئلة الستة حول ما قد يسوء. ويحدد MAESTRO، إطار Cloud Security Alliance للذكاء الاصطناعي الوكيلي، أين يقع ذلك في بنية الذكاء الاصطناعي. وللمنتجات المزوّدة بمستشعرات ومشغّلات نضيف طبقة للعالم المادي.
STRIDE
ما الذي قد يسوء؟
الانتحال (Spoofing)، والتلاعب (Tampering)، والإنكار (Repudiation)، والإفصاح عن المعلومات (Information Disclosure)، وحجب الخدمة (Denial of Service)، ورفع الصلاحيات (Elevation of Privilege) – مطبّقة على كل تدفق بيانات وكل حدّ ثقة في المنتج.
MAESTRO
أين في بنية الذكاء الاصطناعي؟
سبع طبقات من Foundation Models حتى Agent Ecosystem، بما في ذلك التهديدات العابرة للطبقات. ولمنتجات الذكاء الاصطناعي نضيف العالم المادي بمستشعراته ومشغّلاته وسلامته.
SSpoofingالتحقق من الهوية
TTamperingالسلامة
RRepudiationعدم الإنكار
IInformation Disclosureالسرية
DDenial of Serviceالإتاحة
EElevation of Privilegeالتفويض
L1
Foundation Models
النماذج على الجهاز، والنماذج اللغوية ونماذج Vision-Language-Action، ونماذج LLM السحابية
S
نموذج مدسوس
ينتحل نموذج متلاعب به صفة نموذج الشركة المصنِّعة، لأن التوقيع والتجزئة لا يُفحصان عند التحميل.
T
باب خلفي في الأوزان
تستجيب أوزان مُحمّلة بأحصنة طروادة أو عمليات ضبط دقيق (Fine-Tunes) لمحفّز – مثل نمط في صورة الكاميرا – بقرار خاطئ مقصود.
R
إصدار نموذج غير واضح
من دون معرّف النموذج والموجّه ودرجة الثقة في السجل، لا يمكن إثبات أي نموذج أطلق إجراءً ما.
I
استخراج النموذج
تكشف ملفات النماذج غير المشفّرة أو القنوات الجانبية في الـ NPU البنيةَ والمعرفة الفنية.
D
هجمات الموارد
ترفع مدخلات مصمَّمة خصيصًا الحمل الحسابي وزمن الاستجابة واستهلاك البطارية حتى تتعطل الوظائف الآنية.
E
Jailbreak
يدفع حقن الموجّهات أو كسر الحماية النموذجَ إلى تجاهل القواعد والأدوار (LLM01:2026).
L2
Data Operations
بيانات المستشعرات والقياس عن بُعد، وبيانات التدريب والميدان، ومخزن المعرفة المحلي
S
مصادر بيانات مزيّفة
تحاكي تدفقات بيانات محقونة أو مُعاد تشغيلها عبر MQTT أو DDS غير محميين قيمَ قياس حقيقية.
T
Data Poisoning
تسمّم بيانات الميدان المُعادة أو تصحيحات المستخدمين التدريبَ التالي للأسطول (LLM05:2026).
R
غياب منشأ البيانات
من دون Provenance لا يمكن إثبات أي بيانات دخلت في النموذج.
I
تسرّب الصور والصوت
تنتهي الصور الخام والتسجيلات الصوتية أو الـ Embeddings دون تشفير في وحدات التخزين السحابية أو لدى مقدمي خدمات الوسم.
D
إغراق خط المعالجة
تحجب فيضانات القياس عن بُعد عمليات الرفع والتحديثات، وتفيض المخازن المؤقتة.
E
مخزن معرفة مسموم
تتحكم إدخالات متلاعب بها في مخزن RAG المحلي في الإجابات والإجراءات (LLM09:2026).
L3
أطر الوكلاء
المخطِّطات والمهارات واستدعاءات الأدوات التي تتحول إلى أوامر للأجهزة
S
مُصدرو أوامر غرباء
تُعامَل أصوات أو نصوص أو أجهزة غريبة معاملة المستخدمين المخوَّلين، لأن المرسل لا يُتحقق من هويته.
T
اختطاف الأهداف (Goal Hijacking)
يغيّر حقن الموجّهات غير المباشر عبر البريد الإلكتروني أو التقويم أو لافتة في صورة الكاميرا هدفَ المخطِّط.
R
أوامر مشغّلات غير موثّقة
تُسجَّل استدعاءات الأدوات الموجّهة إلى المحركات أو الأقفال أو الصمامات دون محفّز ودون تعليل.
I
تسرّب السياق
يقرأ الوكيل بيانات الكاميرا أو جهات الاتصال ويمرّرها في الإجابات أو معاملات الأدوات.
D
حلقات التخطيط
تحجب الخطط التكرارية وعواصف الأدوات الجهازَ أو تُثقل الواجهات الخلفية (LLM06:2026).
E
الصلاحيات المفرطة (Excessive Agency)
يُسمح للنموذج بأكثر من اللازم: فتح الأبواب، وتغيير معاملات السلامة، وتحميل برمجيات إضافية (LLM03:2026).
L4
Deployment & Infrastructure
العتاد والبرامج الثابتة ونظام التشغيل الطرفي وOTA والواجهة الخلفية السحابية
S
هوية جهاز مستنسخة
من دون Secure Element يمكن قراءة مفاتيح الجهاز وتسجيل نسخ مستنسخة في الأسطول.
T
برامج ثابتة غير موقّعة
يتيح غياب Secure Boot أو التحديثات غير الموقّعة تلاعبًا دائمًا (OWASP IoT I4).
R
سجلات أجهزة قابلة للحذف
يمكن تغيير السجلات المحلية أو إزالتها بعد الهجوم.
I
منافذ التصحيح والأسرار
منافذ UART/JTAG مفتوحة، وذاكرة Flash قابلة للقراءة، ومفاتيح API مضمّنة في الشيفرة (OWASP IoT I1).
D
التشويش والتعطيل الدائم (Jamming & Bricking)
يُعطّل الاتصال اللاسلكي المشوَّش أو التحديثات المعيبة أجهزةً منفردة أو أساطيل كاملة.
E
صلاحيات Root عبر خدمات الشبكة
تؤدي الخدمات المفتوحة أو بيانات الوصول الافتراضية أو أنفاق الصيانة عن بُعد إلى صلاحيات Root على الجهاز (OWASP IoT I2).
L5
Evaluation & Observability
الاختبارات والمراقبة والقياس عن بُعد ومراقبة الأسطول
S
حالة جهاز مزيّفة
يواصل جهاز مُخترَق الإبلاغ عن «كل شيء طبيعي» لأنظمة المراقبة وإدارة الأسطول.
T
بيانات اختبار مُجمَّلة
تُخفي بيانات التقييم والقبول المتلاعب بها أوجه القصور في المتانة.
R
سلسلة أحداث منقوصة
من دون سجلات مترابطة من المستشعر والنموذج والمشغّل لا يمكن إعادة بناء الحادث – وهذا يمثّل إشكالية لإبلاغات CRA.
I
قياس عن بُعد ثرثار
تتضمن عمليات رفع بيانات التشخيص صورًا أو مواقع أو بيانات صوتية.
D
ضجيج التنبيهات
يولّد المهاجمون أحداثًا عمدًا حتى تضيع الحالات الشاذة الحقيقية.
E
وحدة التحكم كباب خلفي
تمنح لوحات المعلومات أو وحدات التحكم عن بُعد ضعيفة الحماية وصولًا إلى الأسطول بأكمله.
L6
الأمن والامتثال
طبقة عرضية: الهويات والسياسات وحماية البيانات وأدلة الإثبات
S
هويات موحّدة على مستوى السلسلة
شهادات مشتركة أو رموز افتراضية لجيل كامل من الأجهزة.
T
انحراف السياسات (Policy-Drift)
تتغير قواعد السلامة وحماية البيانات في الموجّهات أو ملفات الإعداد دون أن يُلاحظ ذلك.
R
ثغرات في أدلة الإثبات
يهدد غياب SBOM وتقارير الاختبار وعمليات إدارة الثغرات مطابقةَ CE والتزامات الإبلاغ.
I
مستشعرات دون أساس قانوني
تلتقط الكاميرات والميكروفونات أطرافًا ثالثة؛ وتندرج البيانات البيومترية تحت المادة 9 من DSGVO.
D
لا مسار للتحديث
من دون تحديثات أمنية طوال فترة الدعم يصبح المنتج خطرًا من حيث المسؤولية القانونية.
E
Guardrails في الموجّه فقط
تُكتب حدود الأمن في موجّه النظام بدلًا من طبقة سياسات حتمية.
L7
Agent Ecosystem
التطبيقات والمهارات ومنصات المنزل الذكي وخدمات الشركاء والأجهزة الأخرى
S
مهارات خبيثة
تنتحل مهارات أو تكاملات من جهات خارجية صفة الجدارة بالثقة.
T
الحقن عبر الأجهزة (Cross-Device-Injection)
يتحكم محتوى من خدمة متصلة – التقويم أو البريد الإلكتروني أو الدردشة – في جهاز آخر.
R
مسؤولية غير واضحة
في الإجراءات عبر منصات متعددة لا يمكن تحديد أي وكيل أطلق ماذا.
I
مشاركة البيانات مع الشركاء
تتدفق بيانات الصوت والكاميرا عبر واجهات API الخاصة بالمنظومة إلى أطراف ثالثة.
D
الاعتماد على السحابة
إذا تعطّلت سحابة الشركة المصنِّعة، يفقد الجهاز وظائفه الأساسية دون بديل آمن.
E
التطبيق كمفتاح رئيسي
يفتح خلل تفويض الكائنات في واجهة API الخاصة بالتطبيق أجهزةَ الآخرين (OWASP API1).
LX
العالم المادي والتجسيد (Embodiment)
البيئة المحيطة والمستشعرات والمشغّلات والسلامة – الجسر إلى العالم الحقيقي
هذه الطبقة توسعة منهجية من VamiSec لـ Embodied AI، وليست جزءًا من إطار MAESTRO الرسمي.
S
انتحال المستشعرات
يخدع الليزر أو الموجات فوق الصوتية أو انتحال GNSS أو LiDAR الإدراكَ، مثلًا عبر أوامر صوتية غير مسموعة.
T
حقن موجّهات مادي
تتلاعب الملصقات أو اللافتات أو النصوص في مجال الرؤية بالتعرّف والتخطيط.
R
غياب حفظ الأدلة
من دون تسجيل مقاوم للتزوير يبقى غير واضح ما إذا كان إنسان أو البيئة أو مهاجم هو من أطلق حركة ما.
I
أداة تنصّت في الغرفة
يتجسس جهاز مُخترَق عبر الكاميرا والميكروفون على المنزل أو المصنع أو المستشفى.
D
إيقاف الطوارئ كأداة ضغط
يؤدي التفعيل المتعمَّد لإيقاف الطوارئ أو حقول الحماية إلى توقف الإنتاج.
E
الخروج من غلاف السلامة
تتجاوز أوامر برمجية حدود السرعة أو القوة أو المناطق في نظام التحكم.
نتيجة نمذجة التهديدات
- مخطط تدفق البيانات مع حدود الثقة بما في ذلك الواجهات المادية
- سجل التهديدات وفق STRIDE لكل طبقة من طبقات MAESTRO
- تقييم وفق CVSS 4.0 والأثر على السلامة
- أشجار الهجوم لأكثر السيناريوهات حرجًا
- خطة اختبار تُغذّي مباشرةً اختبار الاختراق ومحاكاة الهجمات (Red Teaming)
- المطابقة مع OWASP وMITRE ATLAS وCRA وAI Act
OWASP Top 10 for LLM Applications 2026
قائمة LLM Top 10، مترجمةً إلى العالم المادي.
يصف إصدار قائمة OWASP الصادر في أغسطس 2026 مخاطر تطبيقات الـ LLM – ويعدّ الهجمات عبر الصور والصوت الآن صراحةً من حقن الموجّهات. وفي الجهاز تكتسب المخاطر طابعًا جديدًا:
LLM02:2026
الإفصاح عن المعلومات الحساسة (Sensitive Information Disclosure)
يكشف المساعد مفاتيح WLAN أو مخططات الغرف أو الوجوه أو محتوى المحادثات.
LLM03:2026
الصلاحيات المفرطة (Excessive Agency)
يشغّل النموذج أقفال الأبواب أو مواقد الطهي أو الأذرع الآلية دون تأكيد – وهو أخطر صاعد في القائمة من حيث العواقب.
LLM04:2026
سلسلة التوريد (Supply Chain)
تجلب النماذج المدرَّبة مسبقًا والمحوّلات (Adapter) ومستودعات النماذج أبوابًا خلفية أو شيفرة خبيثة إلى الجهاز.
LLM05:2026
تسميم البيانات والنماذج (Data and Model Poisoning)
تجعل بيانات الأسطول أو التدريب أو الضبط الدقيق المسمومة الروبوتَ يغفل عن العوائق.
LLM06:2026
الاستهلاك غير المحدود (Unbounded Consumption)
تستنزف الطلبات اللامتناهية البطارية وميزانية API أو تؤدي إلى ارتفاع حرارة الـ NPU.
LLM07:2026
Misinformation
تؤدي إرشادات صيانة مُهلوَسة أو تعرّف خاطئ على الأشياء إلى أفعال خطرة.
LLM08:2026
كشف السياق المخفي (Hidden Context Exposure)
يمكن استخراج موجّه النظام ومخططات الأدوات وقواعد الأمن الخاصة بالجهاز واستخدامها مخططًا للهجمات.
LLM09:2026
نقاط ضعف المتجهات والتضمينات (Vector and Embedding Weaknesses)
تتحكم إدخالات متلاعب بها في مخزن المعرفة المحلي – مثل تعليمات الصيانة – في الإجابات.
LLM10:2026
المعالجة غير السليمة للمخرجات (Improper Output Handling)
تتحول مخرجات النموذج غير المفحوصة إلى أوامر للمحركات أو أوامر Shell أو رسائل ROS.
وبالنسبة إلى الوظائف الوكيلية نفحص أيضًا وفق OWASP Top 10 for Agentic Applications 2026 (ASI01–ASI10). وعند الطلب نطابق النتائج أيضًا مع الإصدار السابق 2025.
المعايير والمنهجيات
ما الذي نقيس به – ولأي غرض نستخدمه.
نجمع بين قوائم المخاطر ومعايير التحقق وأدلة الاختبار والمواصفات القياسية. وبذلك تكون النتائج قابلة للمقارنة والتتبع وقابلة للاستخدام مباشرةً في وثائقكم الفنية. جميع بيانات الإصدارات محدّثة حتى: 10.10.2026.
Risiko-Listeإصدار 2026 · 08/2026
OWASP Top 10 for LLM Applications 2026
إطار توجيهي لجميع وظائف الـ LLM – من حقن الموجّهات (LLM01) مرورًا بـ Excessive Agency (LLM03) حتى Improper Output Handling (LLM10).
Risiko-Listeإصدار 2026 · 12/2025
OWASP Top 10 for Agentic Applications 2026
للأجهزة ذات الوظائف الوكيلية: Goal Hijack (ASI01) وTool Misuse (ASI02) والهويات والذاكرة والتفاعل بين وكلاء متعددين.
Verifikationsstandardv1.01 · 10/2026
OWASP AISVS
متطلبات قابلة للفحص في 12 فصلًا (C1–C12) وثلاثة مستويات (L1–L3) – أساسنا لخطط الاختبار ومعايير القبول لطبقة الذكاء الاصطناعي.
Testleitfadenv1 · 11/2025
OWASP AI Testing Guide
32 حالة اختبار في أربعة مجالات: تطبيق الذكاء الاصطناعي والنموذج والبنية التحتية والبيانات – من حقن الموجّهات حتى Evasion Attacks.
Red-Teaming-Methodikv1.0 · 01/2025
OWASP GenAI Red Teaming Guide
أربع مراحل من تقييم النموذج حتى تقييم التشغيل والوكلاء – هيكل لسيناريوهات محاكاة الهجمات (Red Teaming) لدينا.
Risiko-Listeإصدار 2023 · مسودة
OWASP Machine Learning Security Top 10
مخاطر نماذج تعلّم الآلة التقليدية على الجهاز: Input Manipulation وData Poisoning وModel Theft وغيرها.
Wissensbasisv2026.09
MITRE ATLAS
16 تكتيكًا و120 تقنية لهجمات حقيقية على الذكاء الاصطناعي – بما في ذلك Physical Environment Access (AML.T0041) ووسائل الخداع المادية مثل الملصقات العدائية (AML.T0008.003).
Testleitfadenv1.0.1 · 06/2024
OWASP ISTG
حالات اختبار لكل مكوّن من مكوّنات الجهاز – المعالج والذاكرة والبرامج الثابتة والواجهات والاتصال اللاسلكي والتشغيل – مع نماذج للمهاجمين بحسب الوصول المادي والصلاحيات.
Verifikationsstandard1.0.0-RC2 · مسودة
OWASP ISVS
متطلبات لمنظومات IoT آمنة في خمسة فصول من المنظومة حتى منصة العتاد – أساس لمعايير التحصين.
Risiko-Listeإصدار 2018
OWASP IoT Top 10
أكثر فئات الثغرات الأمنية العشر شيوعًا في الأجهزة المتصلة – ولا تزال اللغة المشتركة في اختبار اختراق IoT.
Methodik9 مراحل
OWASP FSTM
منهجية تحليل البرامج الثابتة: من جمع المعلومات مرورًا بالاستخراج والمحاكاة حتى تحليل وقت التشغيل واستغلال الملفات الثنائية (Binary Exploitation).
SpezifikationDDS Security v1.2 · 02/2026
OMG DDS Security & SROS 2
آليات الأمن في DDS، البرمجيات الوسيطة تحت ROS 2: التحقق من الهوية والتحكم في الوصول والتشفير بين العُقد، مطبّقة باستخدام SROS 2.
NormV3.1.3 · 09/2024
ETSI EN 303 645
13 مجموعة من المتطلبات الأساسية لأجهزة IoT الاستهلاكية – من «لا كلمات مرور افتراضية عامة» حتى التحقق من صحة المدخلات.
معيار مُنسَّقمُدرج مع قيود
EN 18031-1/-2/-3
إثبات متطلبات الأمن السيبراني الواردة في توجيه المعدات الراديوية. وتتعلق القيود، من بين أمور أخرى، بكلمات المرور وأدوات الرقابة الأبوية ومعايير التحديث.
NormV2.1.1 · 12/2025
ETSI EN 304 223
13 مبدأً عبر خمس مراحل من دورة الحياة لنماذج وأنظمة الذكاء الاصطناعي – بما في ذلك إلزامية اختبارات الأمن قبل الإصدار (المبدأ 9).
Normenreihe4-1:2018 · 4-2:2019
IEC 62443-4-1/-4-2
عملية تطوير آمنة (4-1) ومتطلبات فنية للمكوّنات (4-2) للمنتجات الصناعية.
TaxonomieE2025 · 03/2025
NIST AI 100-2 E2025
مصطلحات مشتركة للتهرّب (Evasion) والتسميم (Poisoning) وهجمات الخصوصية وإساءة الاستخدام – بما في ذلك حقن الموجّهات غير المباشر والوكلاء.
OWASP IoT Top 10 – أساس كل اختبار للأجهزة
- I1كلمات مرور ضعيفة أو قابلة للتخمين أو مضمّنة في الشيفرة
- I2خدمات شبكة غير آمنة
- I3واجهات غير آمنة في المنظومة
- I4غياب آلية تحديث آمنة
- I5مكوّنات غير آمنة أو قديمة
- I6حماية غير كافية للخصوصية
- I7نقل وتخزين غير آمنين للبيانات
- I8غياب إدارة الأجهزة
- I9إعدادات افتراضية غير آمنة
- I10غياب التحصين المادي
ترجمة عمل ألمانية لـ OWASP Internet of Things Top 10 (2018) – ولا تزال الإصدار الحالي حتى اليوم. وفي منتجات الذكاء الاصطناعي تبقى هذه الفئات ذات صلة: فهي غالبًا نقطة الدخول للهجمات على طبقة الذكاء الاصطناعي.
الخدمات
أربع وحدات – منفردةً أو كحزمة متكاملة.
من ورشة العمل الأولى حول البنية حتى حزمة أدلة الإثبات لتقييم المطابقة. تبني الوحدات على بعضها، لكن يمكن أيضًا التعاقد على كل منها منفردة.
01
الوحدة 1 · التصميمنمذجة التهديدات لمنتجات الذكاء الاصطناعي
ننمذج منتجكم وفق STRIDE وMAESTRO – بما في ذلك الطبقة المادية – ونستخلص منها مخاطر مرتبة حسب الأولوية وخطة اختبار.
- ورش عمل مع فرق التطوير والسلامة وإدارة المنتج
- مخطط تدفق البيانات مع حدود الثقة
- سجل التهديدات مع تقييم وفق CVSS 4.0 والسلامة
- الإجراءات وخطة الاختبار للخطوات التالية
بدعم من VamiThreat: تحليل STRIDE وMAESTRO والمطابقة التلقائية مع MITRE ATT&CK وATLAS.
المزيد حول نمذجة تهديدات الذكاء الاصطناعي02
الوحدة 2 · الاختباراختبار اختراق منتج الذكاء الاصطناعي
اختبار Grey-Box أو White-Box عبر جميع الطبقات: العتاد والبرامج الثابتة والاتصال اللاسلكي وCloud-API والتطبيق والنموذج على الجهاز وتكامل الـ LLM.
- واجهات العتاد والتصحيح، وقراءة الذاكرة
- تحليل البرامج الثابتة والهندسة العكسية
- الاتصال اللاسلكي والاقتران وخدمات الشبكة
- Cloud-API والتطبيق والـ LLM وفق منهجية OWASP
تحليل البرامج الثابتة والملفات الثنائية بدعم الذكاء الاصطناعي باستخدام VamiReverse.
اطلبوا اختبار اختراق03
الوحدة 3 · الهجوممحاكاة هجمات الذكاء الاصطناعي (AI Red Teaming) والسيناريوهات السيبرانية-المادية
محاكاة هجمات موجّهة نحو الهدف عبر حدود الطبقات: هل يستطيع المهاجم دفع منتجكم إلى فعل غير مرغوب في العالم الحقيقي؟
- سلاسل Jailbreak-to-Action ضد المخطِّطات والمساعدات
- حقن موجّهات مادي، وAdversarial Patches، وهجمات صوتية
- سيناريوهات الأسطول عبر السحابة والتطبيق والصيانة عن بُعد
- TTPs وفق MITRE ATLAS، بأمان في ميدان الاختبار
قابلة للتوسع باستخدام AI Pentesting Agent من VamiRedteam (مجموعات اختبار خاصة بالذكاء الاصطناعي وفق MITRE ATLAS).
تعرّفوا على VamiRedteam04
الوحدة 4 · الإثباتالتحصين وأدلة إثبات الامتثال
نحوّل النتائج إلى أدلة إثبات لوثائقكم الفنية ونرافق المعالجة حتى نجاح إعادة الاختبار.
- المطابقة مع CRA الملحق I وEN 18031 وETSI EN 303 645
- الربط بـ AI Act المادة 15 ولائحة الآلات
- SBOM وAI-BOM، وعملية إدارة الثغرات الأمنية والإبلاغ
- إعادة الاختبار وتقرير إعادة الاختبار
SBOM لكل إصدار وتتبّع الثغرات الأمنية باستخدام VamiAppSec.
إلى قانون المرونة السيبرانيةالمنهجية
في ست خطوات من تحديد النطاق حتى دليل الإثبات.
يوجّه نموذج التهديدات الاختبار: نفحص أولًا ما هو حرج فعلًا لمنتجكم.
- 1
تحديد النطاق وإحاطة السلامة
متغيرات المنتج ونطاق الاختبار وبيئة الاختبار والوصول وقواعد الاشتباك (Rules of Engagement) – وفي حالة المشغّلات بما في ذلك مفهوم السلامة.
النتيجة: اتفاقية الاختبار وموافقة السلامة
- 2
نمذجة التهديدات
STRIDE لكل تدفق بيانات وحدّ ثقة، منظَّمًا وفق طبقات MAESTRO إضافة إلى العالم المادي.
النتيجة: سجل التهديدات وأشجار الهجوم
- 3
خطة الاختبار
استخلاص حالات الاختبار من نموذج التهديدات، مع مطابقتها مع AISVS وISTG وLLM Top 10 وIoT Top 10.
النتيجة: خطة اختبار مرتبة حسب الأولوية
- 4
اختبار اختراق المكوّنات
العتاد والبرامج الثابتة والاتصال اللاسلكي وCloud-API والتطبيق والنموذج والـ LLM – كل طبقة بالأساليب المناسبة.
النتيجة: نتائج مُتحقَّق منها مع إثبات مفهوم (Proof of Concept)
- 5
محاكاة الهجمات (Red Teaming) من البداية إلى النهاية
سيناريوهات متسلسلة عبر حدود الطبقات: من نقطة الدخول حتى الأثر في العالم المادي.
النتيجة: سلاسل هجوم مع لوحة قصصية (Storyboard)
- 6
التقرير وإعادة الاختبار ودليل الإثبات
ملخص إداري، ونتائج فنية، وإجراءات، ومطابقة مع المعايير – وبعد المعالجة نعيد الفحص.
النتيجة: التقرير، وتقرير إعادة الاختبار، وحزمة أدلة الإثبات
السلامة أولًا: لا نُجري الاختبارات على الروبوتات والآلات ذات المشغّلات إلا وفق مفهوم سلامة متفق عليه – منطقة اختبار محددة، وإيقاف طوارئ في متناول اليد، وسرعات مخفّضة، وموافقة المسؤولين عن السلامة لديكم. وحيثما أمكن، نختبر أولًا في المحاكاة أو على توأم رقمي (Digital Twin).
التمييز
اختبار اختراق IoT، اختبار اختراق LLM – أو كلاهما معًا?
يحتاج منتج الذكاء الاصطناعي إلى عمق اختبار اختراق IoT وأساليب اختبار اختراق LLM – إضافة إلى النظر في العواقب المادية.
| مجال الفحص | اختبار اختراق IoT التقليدي | اختبار اختراق LLM/الوكلاء | اختبار الاختراق لمنتجات الذكاء الاصطناعي |
|---|---|---|---|
| العتاد وواجهات التصحيح والبرامج الثابتة | مشمول | غير مغطى | مشمول |
| الاتصال اللاسلكي والاقتران (BLE وWi-Fi وMatter وZigbee) | مشمول | غير مغطى | مشمول |
| الواجهة الخلفية السحابية وواجهات API والتطبيق المرافق | مشمول | جزئيًا | مشمول |
| حقن الموجّهات وكسر الحماية (النص والصوت والصورة) | غير مغطى | مشمول | مشمول |
| استخراج النموذج وAdversarial Examples والتسميم | غير مغطى | جزئيًا | مشمول |
| العواقب المادية وحدود السلامة للمشغّلات | غير مغطى | غير مغطى | مشمول |
| نموذج التهديدات وفق STRIDE × MAESTRO بما في ذلك الطبقة المادية | جزئيًا | جزئيًا | مشمول |
| أدلة إثبات لـ CRA وEN 18031 وAI Act ولائحة الآلات | جزئيًا | جزئيًا | مشمول |
مشمول جزئيًا غير مغطى
حالات موثّقة
ليست نظرية: هجمات على منتجات الذكاء الاصطناعي من البحث العلمي والممارسة.
مجموعة مختارة من الثغرات الأمنية الموثّقة ونتائج البحث خلال العامين الماضيين – كل منها مع المصدر.
UniPwn: صلاحيات Root عبر Bluetooth على روبوتات Unitree
سمحت مفاتيح AES مضمّنة في الشيفرة ضمن تهيئة BLE بحقن أوامر بصلاحيات Root على G1 وH1 وGo2 وB2. وأظهر الباحثون أن روبوتًا مصابًا يمكن أن ينتشر إلى روبوتات أخرى ضمن نطاق الاتصال اللاسلكي. ومُنحت أربعة معرّفات CVE (CVE-2025-35027، -60017، -60250، -60251).
ما نختبره بناءً على ذلك: التهيئة والاتصال اللاسلكي وإدارة المفاتيح في كل اختبار للروبوتات.
IEEE Spectrum، 09/2025قياس عن بُعد خفي في Unitree G1
وفقًا لـ Alias Robotics يرسل الروبوت الشبيه بالبشر G1 كل 300 ثانية بيانات المستشعرات والحالة عبر MQTT إلى خوادم خارجية – دون إشعار المشغّل. كما تستخدم واجهة BLE مفتاح AES ثابتًا ومتطابقًا على جميع الأجهزة.
ما نختبره بناءً على ذلك: تحليل تدفق البيانات وفحص الاتصالات المخفية.
arXiv 2509.14139دعوة تقويم تتحكم في Google Home
دفعت تعليمات مخفية في دعوات التقويم Gemini إلى تشغيل أجهزة المنزل الذكي. وقيّم الباحثون 73% من التهديدات المعروضة بأنها عالية أو حرجة؛ وطرحت Google إجراءات مضادة.
ما نختبره بناءً على ذلك: حقن الموجّهات غير المباشر عبر جميع مصادر البيانات المتصلة.
arXiv 2508.12175حقن موجّهات مادي عبر لافتات في صورة الكاميرا
سيطرت نصوص مُحسَّنة على لافتات في صورة الكاميرا على وكلاء Vision-Language: نسبة نجاح 95.5% في تتبّع الأشياء بالطائرات المسيّرة في المحاكاة، وحتى 92.5% على مركبة روبوتية حقيقية تعمل بـ GPT-4o.
ما نختبره بناءً على ذلك: البيئة المحيطة بوصفها ناقل هجوم في محاكاة الهجمات (Red Teaming).
arXiv 2510.00181 (IEEE SaTML 2026)Adversarial Patches ضد نماذج Vision-Language-Action
جعلت رقعة ملوّنة صغيرة في مجال الرؤية الروبوتات العاملة بـ OpenVLA تُخفق في مهامها – في المحاكاة وفي أفضل سيناريو هجوم بنسبة تصل إلى 100%، وفي التجربة المادية في أكثر من 43% من الحالات.
ما نختبره بناءً على ذلك: اختبارات متانة النموذج في ظروف حقيقية.
ICCV 2025، arXiv 2411.13587نحو 50,000 محادثة أطفال مكشوفة من دمية ذكاء اصطناعي
لم تكن بوابة الوالدين لدمية الذكاء الاصطناعي Bondu تتحقق إلا من وجود حساب Google. وبذلك كانت سجلات المحادثات وأسماء الأطفال وتواريخ ميلادهم قابلة للاطلاع من قِبل أطراف ثالثة. وأغلقت الشركة المصنِّعة الثغرة على الفور.
ما نختبره بناءً على ذلك: تفويض البوابات وواجهات API والسجلات.
Malwarebytes، 02/2026كاميرات ذكاء اصطناعي قابلة للوصول دون تسجيل دخول
قدّمت 60 كاميرا على الأقل من كاميرات Flock Safety المدعومة بالذكاء الاصطناعي بثًا مباشرًا وأرشيفات ولوحات إدارة دون تسجيل دخول على الإنترنت. وتحدثت الشركة المصنِّعة عن خطأ في الإعداد جرى إصلاحه.
ما نختبره بناءً على ذلك: سطح الهجوم الخارجي والتحقق من الهوية لكل واجهة.
404 Media، 12/2025CVSS 9.8 في نظام تحكم Cobot
سمحت الثغرة CVE-2026-8153 في PolyScope 5 من Universal Robots بتنفيذ أوامر نظام تشغيل دون تحقق من الهوية عبر Dashboard-Server – ووفقًا لتقدير الجهة المكتشفة (Claroty) مع عواقب قد تمتد إلى أساطيل Cobots كاملة، شريطة أن يكون Dashboard-Server مفعّلًا وقابلًا للوصول.
ما نختبره بناءً على ذلك: خدمات الشبكة وتجزئة أنظمة التحكم في الروبوتات.
SecurityWeek، 05/2026قراءة بنية النموذج عبر قناة جانبية
عبر الإشعاع الكهرومغناطيسي أعاد باحثون من NC State University بناء المعاملات الفائقة (Hyperparameters) للشبكات العصبية على Google Edge TPU بدقة 99.91% – بشرط الوصول المادي.
ما نختبره بناءً على ذلك: حماية النموذج بوصفه ملكية فكرية.
IACR TCHES 2025الإطار التنظيمي
مواعيد نهائية تخص منتجات الذكاء الاصطناعي.
تتشابك سلامة المنتجات وتوجيه المعدات الراديوية وCyber Resilience Act والمسؤولية عن المنتجات ولائحة الآلات وAI Act. وتتحول اختبارات الأمن في ذلك من عنصر إثبات إلى عنصر إلزامي.
- GPSR
سلامة المنتجات تشمل الأمن السيبراني
تشترط لائحة سلامة المنتجات (EU) 2023/988 إدراج خصائص الأمن السيبراني وكذلك الوظائف التعلّمية والتنبؤية في تقييم السلامة.
- RED
الأمن السيبراني للمعدات الراديوية
تسري اللائحة المفوَّضة (EU) 2022/30 – ويتم الإثبات مثلًا عبر EN 18031-1/-2/-3 المُدرجة مع قيود فقط. واعتبارًا من 11.12.2027 يتولى CRA ذلك.
- AI Act
التزامات الشفافية وفق المادة 50
يجب إبلاغ كل من يتفاعل مع نظام ذكاء اصطناعي – مثل مساعد صوتي – بذلك، ما لم يكن ذلك واضحًا. وبالنسبة إلى وسم المحتوى المولَّد بالذكاء الاصطناعي (الفقرة 2) تسري للأنظمة القائمة فترة انتقالية حتى 02.12.2026.
- CRA
التزامات الإبلاغ في Cyber Resilience Act
يجب الإبلاغ عن الثغرات الأمنية المستغَلة فعليًا والحوادث الخطيرة عبر منصة الإبلاغ التابعة لـ ENISA: إنذار مبكر خلال 24 ساعة، وإبلاغ خلال 72 ساعة – وكذلك للمنتجات الموجودة بالفعل في السوق.
- المسؤولية عن المنتجات
توجيه جديد بشأن المسؤولية عن المنتجات
للمنتجات المطروحة في السوق بعد 09.12.2026: تُعدّ البرمجيات – بما فيها الذكاء الاصطناعي – منتجًا؛ وتُعتبر متطلبات الأمن السيبراني ذات الصلة بالسلامة معيارًا حاسمًا أيضًا. ولا يُعفي غياب التحديثات الأمنية الشركة المصنِّعة، طالما كانت ضمن سيطرتها (المادتان 7 و11 من التوجيه (EU) 2024/2853).
- الآلات
لائحة الآلات الأوروبية سارية
الحماية من الإفساد (الملحق III 1.1.9) وأنظمة تحكم مقاومة للهجمات (1.2.1). وتحتاج وظائف السلامة ذات السلوك ذاتي التعلم القائم على تعلّم الآلة إلى تقييم مطابقة من طرف ثالث.
- AI Act
الذكاء الاصطناعي عالي المخاطر وفق الملحق III
من بين أمور أخرى التعرّف البيومتري عن بُعد والتعرّف على المشاعر – وهو ذو صلة بكاميرات الذكاء الاصطناعي المزوّدة بالتعرّف على الوجوه.
- CRA
Cyber Resilience Act يسري بالكامل
تسري جميع متطلبات الملحق I – بما فيها اختبارات أمن فعّالة ودورية. وفي الوقت نفسه ينتهي سريان اللائحة المفوَّضة الخاصة بتوجيه المعدات الراديوية.
- AI Act
الذكاء الاصطناعي عالي المخاطر في المنتجات وفق الملحق I
بالنسبة إلى الذكاء الاصطناعي بوصفه مكوّن سلامة، مثلًا في الألعاب والمعدات الراديوية والأجهزة الطبية، تسري التزامات الأنظمة عالية المخاطر بما فيها المادة 15، شريطة أن يكون تقييم المطابقة من طرف ثالث منصوصًا عليه. وبالنسبة إلى الآلات تأتي متطلبات الذكاء الاصطناعي عبر قوانين مفوَّضة للائحة الآلات تسري في موعد أقصاه 02.08.2028.
محدّث حتى: 10.10.2026. بيانات AI Act وفق Digital Omnibus on AI (اللائحة (EU) 2026/1744) الذي نقل الآلات إلى الملحق I القسم B. لا يُعدّ هذا استشارة قانونية – نحن ندعم إعداد أدلة الإثبات من الناحية الفنية.
النتائج
ما بين أيديكم.
ملخص إداري
وضع المخاطر وسلاسل الهجوم الحرجة والتوصيات في صفحتين – للإدارة العليا ومسؤولي المنتجات.
نموذج التهديدات
مخطط تدفق البيانات وحدود الثقة وسجل التهديدات وفق STRIDE × MAESTRO – كوثيقة حيّة لفريق التطوير.
تقرير النتائج مع إثبات المفهوم (Proof of Concept)
كل نتيجة قابلة لإعادة الإنتاج، ومقيّمة وفق CVSS 4.0 و– في حالة المشغّلات – وفق الأثر على السلامة.
سلاسل الهجوم كلوحة قصصية
سيناريوهات محاكاة الهجمات (Red Teaming) خطوة بخطوة: الدخول، والتصعيد، والأثر المادي.
المطابقة مع المعايير والمتطلبات التنظيمية
الربط بـ OWASP وMITRE ATLAS وETSI EN 303 645 وEN 18031 وCRA وAI Act.
خطة إجراءات مرتّبة حسب الأولوية
إصلاحات محددة للعتاد والبرامج الثابتة والسحابة والنموذج – مرتبة حسب المخاطر والجهد.
إعادة الاختبار وتقرير إعادة الاختبار
بعد المعالجة نفحص النتائج مجددًا ونوثّق الحالة.
حزمة أدلة الإثبات
تقارير اختبار ومطابقات مُعدّة للوثائق الفنية وتقييم المطابقة.
المسرد
مصطلحات بإيجاز.
- الذكاء الاصطناعي المتجسّد (Embodied AI)
- ذكاء اصطناعي يتفاعل مع العالم عبر جسد مادي – مثل الروبوتات أو الطائرات المسيّرة أو المركبات ذاتية القيادة المزوّدة بمستشعرات ومشغّلات.
- AIoT (Artificial Intelligence of Things)
- أجهزة متصلة تستخدم وظائف الذكاء الاصطناعي على الجهاز أو على الحافة (Edge) أو في السحابة.
- الذكاء الاصطناعي الطرفي
- نماذج ذكاء اصطناعي تعمل مباشرةً على الجهاز أو على بوابة قريبة بدلًا من السحابة – وغالبًا على مسرّعات متخصصة (NPU).
- نموذج Vision-Language-Action (VLA)
- نموذج يعالج صور الكاميرا والتعليمات اللغوية ويولّد منها مباشرةً أوامر تحكم لروبوت.
- حقن الأوامر (Prompt Injection)
- هجوم تدفع فيه مدخلات – مباشرة أو مخفية في بيانات مثل رسائل البريد الإلكتروني أو الصور أو إدخالات التقويم – نموذجًا لغويًا إلى سلوك غير مرغوب.
- حقن موجّهات مادي
- حقن الموجّهات عبر البيئة المادية، مثل نص على لافتات أو أشياء في مجال رؤية الكاميرا.
- المثال العدائي / الرقعة (Adversarial Example / Patch)
- مُدخل مُعدّل عمدًا – مثل نمط مطبوع – يضلّل النموذج إلى تعرّف أو قرار خاطئ.
- استخراج النموذج
- سرقة نموذج أو بنيته، مثلًا عبر قراءة الملفات أو الاستعلامات المنهجية أو القنوات الجانبية.
- STRIDE
- منهجية لنمذجة التهديدات من Microsoft بست فئات تهديد: Spoofing وTampering وRepudiation وInformation Disclosure وDenial of Service وElevation of Privilege.
- MAESTRO
- «Multi-Agent Environment, Security, Threat, Risk, and Outcome» – إطار لنمذجة التهديدات من Cloud Security Alliance (2025) بسبع طبقات للذكاء الاصطناعي الوكيلي.
FAQ
أسئلة شائعة حول اختبار الاختراق لمنتجات الذكاء الاصطناعي
ما هو اختبار الاختراق لمنتجات الذكاء الاصطناعي؟
اختبار الاختراق لمنتجات الذكاء الاصطناعي هو اختبار أمني للأجهزة المزوّدة بذكاء اصطناعي مدمج – مثل الروبوتات وكاميرات الذكاء الاصطناعي والمساعدات الصوتية أو الذكاء الاصطناعي الطرفي في الآلات. ويُفحص العتاد والبرامج الثابتة والاتصال اللاسلكي وCloud-API والتطبيق والنموذج على الجهاز وتكامل الـ LLM. ويتمحور السؤال حول ما إذا كان المهاجم قادرًا على السيطرة على المنتج أو دفعه إلى أفعال في العالم المادي.
بمَ يختلف عن اختبار اختراق IoT التقليدي؟
يفحص اختبار اختراق IoT العتاد والبرامج الثابتة والاتصال اللاسلكي والسحابة. أما في منتج الذكاء الاصطناعي فتُضاف الهجمات على النموذج وتكامل الـ LLM – حقن الموجّهات وكسر الحماية واستخراج النموذج وAdversarial Examples – إضافة إلى مسألة العواقب المادية التي قد يُحدثها هجوم عبر المشغّلات والمستشعرات. وللأجهزة التي لا تتضمن وظيفة ذكاء اصطناعي نوصي باختبار اختراق IoT لدينا.
هل يمكن اختراق روبوتات الذكاء الاصطناعي والروبوتات الشبيهة بالبشر؟
نعم. ومن الحالات الموثّقة الوصول بصلاحيات Root عبر Bluetooth إلى روبوتات Unitree (UniPwn، 2025)، وكسر حماية روبوتات موجّهة بالـ LLM بنسب نجاح تصل إلى 100% في اختبار بحثي (RoboPAIR، 2024)، وثغرة حرجة في برنامج Cobots من Universal Robots (CVE-2026-8153، CVSS 9.8). ونقاط الدخول النموذجية هي واجهات الاتصال اللاسلكي وخدمات الشبكة وواجهات Cloud-API ومخطِّط الذكاء الاصطناعي نفسه.
هل يمكن لحقن الموجّهات أن يدفع روبوتًا إلى أفعال مادية؟
نعم، إذا تحولت مخرجات النموذج دون فحص إلى أوامر أو امتلك النموذج صلاحيات واسعة أكثر من اللازم – وفي إصدار OWASP لعام 2026 يُسمّى ذلك Improper Output Handling (LLM10) وExcessive Agency (LLM03). وقد أظهر الباحثون أن الأوامر الصوتية أو النصوص في صورة الكاميرا أو دعوات التقويم يمكنها التحكم في الروبوتات والطائرات المسيّرة وأجهزة المنزل الذكي. لذلك نفحص بشكل موجّه ما إذا كانت هناك طبقة أمن حتمية تعمل بين تخطيط الذكاء الاصطناعي والمشغّلات.
ما المعايير التي تستخدمونها؟
لطبقة الذكاء الاصطناعي: OWASP Top 10 for LLM Applications 2026 وOWASP Top 10 for Agentic Applications 2026 وOWASP AISVS 1.01 وOWASP AI Testing Guide وOWASP GenAI Red Teaming Guide وMITRE ATLAS. وللجهاز والاتصال اللاسلكي: OWASP ISTG وOWASP ISVS وOWASP IoT Top 10 ومنهجية البرامج الثابتة OWASP FSTM، وللروبوتات DDS Security مع SROS 2. ومن المواصفات القياسية: ETSI EN 303 645 وEN 18031 وETSI EN 304 223 وIEC 62443-4-1/-4-2.
ما هو MAESTRO ولماذا تجمعونه مع STRIDE؟
MAESTRO هو إطار لنمذجة التهديدات صادر عن Cloud Security Alliance للذكاء الاصطناعي الوكيلي، يتضمن سبع طبقات معمارية من النماذج الأساسية (Foundation Models) حتى منظومة الوكلاء (Agent Ecosystem). يجيب STRIDE عن نوع التهديد القائم، بينما يجيب MAESTRO عن موضع نشوئه في بنية الذكاء الاصطناعي. وللمنتجات المزوّدة بأجهزة استشعار ومشغّلات نضيف طبقة للعالم المادي – إذ تُدرج Microsoft الأمثلة العدائية (Adversarial Examples) في المجال المادي فئةَ تهديد مستقلة ضمن نمذجة التهديدات لأنظمة الذكاء الاصطناعي/التعلم الآلي.
هل يشترط قانون المرونة السيبرانية (Cyber Resilience Act) إجراء اختبار اختراق؟
لا ينص CRA على إجراء يُسمّى اختبار الاختراق، لكنه يشترط في الملحق I الجزء II اختبارات ومراجعات فعّالة ومنتظمة لأمن المنتج. واختبار الاختراق هو الطريقة المعتادة لإثبات ذلك. تسري التزامات الإبلاغ منذ 11 سبتمبر 2026، وتسري سائر المتطلبات اعتبارًا من 11 ديسمبر 2027.
هل تُعدّ مكبرات الصوت الذكية وكاميرات المراقبة وألعاب الذكاء الاصطناعي منتجات مهمة وفق CRA؟
نعم: يذكر الملحق III من CRA ضمن الفئة I المساعدات الافتراضية العامة للمنزل الذكي (البند 16)، ومنتجات المنزل الذكي ذات الوظائف الأمنية مثل كاميرات المراقبة وأجهزة مراقبة الأطفال وأنظمة الإنذار (البند 17)، والألعاب المتصلة ذات التفاعل الاجتماعي أو تحديد الموقع (البند 18)، وكذلك أجهزة قابلة للارتداء معيّنة (البند 19). وتذكر اللائحة التنفيذية (EU) 2025/2392 صراحةً مكبرات الصوت الذكية المزوّدة بمساعد صوتي. ولا يُتاح التقييم الذاتي (الوحدة A) للفئة I إلا إذا طُبّقت بالكامل معايير منسّقة أو مواصفات مشتركة أو مخطط اعتماد أوروبي لا يقل عن مستوى «substantial» (المادة 32 الفقرة 2 من CRA) – وما دامت المعايير غير منشورة في الجريدة الرسمية، يمر الطريق في الغالب عبر جهة مُخطَرة.
متى يسري EU AI Act على الذكاء الاصطناعي في الروبوتات والآلات والأجهزة؟
يتوقف ذلك على تشريعات المنتج. فبالنسبة إلى الذكاء الاصطناعي بوصفه مكوّنًا أمنيًا في منتجات الملحق I القسم A – مثل الألعاب أو الأجهزة اللاسلكية أو الأجهزة الطبية – تسري التزامات المخاطر العالية بما فيها المادة 15 وفق Digital Omnibus اعتبارًا من 2 أغسطس 2028، إذا كان تقييم المطابقة من قِبل طرف ثالث منصوصًا عليه. أما الآلات فقد نقلها Omnibus إلى القسم B: إذ ترد متطلبات الذكاء الاصطناعي في الروبوتات والآلات عبر قوانين مفوّضة بموجب لائحة الآلات، التي تسري بدورها اعتبارًا من 20 يناير 2027. وتسري التزامات الشفافية وفق المادة 50 منذ 2 أغسطس 2026.
كيف تختبرون الروبوتات دون تعريض البشر للخطر؟
عبر مفهوم سلامة متفق عليه: منطقة اختبار محددة، وزر إيقاف طارئ في المتناول، وسرعات مخفّضة، وموافقة مسؤولي السلامة لدى الشركة المصنِّعة. ونختبر السيناريوهات الحرجة أولًا في المحاكاة أو على التوأم الرقمي (Digital Twin)، قبل إعادة تنفيذها على النظام الحقيقي.
هل تختبرون أيضًا النماذج الموجودة على الجهاز؟
نعم. نفحص ما إذا كانت ملفات النماذج مخزّنة دون حماية على الجهاز أو في التطبيق، وما إذا كانت عملية التحميل والتوقيع آمنة، ومدى صمود النموذج أمام الأمثلة العدائية وبيانات الاستشعار المتلاعب بها والتسميم (Poisoning). وعند الحاجة نقيّم أيضًا مخاطر القنوات الجانبية في المسرّعات (ISTG-PROC-SIDEC).
هل تكتشفون القياس عن بُعد الخفي والأبواب الخلفية؟
نعم. نحلّل البرامج الثابتة والخدمات وحركة الشبكة بحثًا عن اتصالات غير موثّقة وأنفاق صيانة عن بُعد ووظائف مخفية. ومن أمثلة الأبحاث القياس عن بُعد الخفي في Unitree G1 ونفق الوصول عن بُعد في Unitree Go1 (CVE-2025-2894).
ما الذي تحتاجونه منا – Black أو Grey أو White Box؟
النهج الأكثر فاعلية هو Grey Box أو White Box: جهازا اختبار إلى ثلاثة، ووصول إلى التطبيق وبيئة الاختبار السحابية، ووثائق البنية، و– إن أمكن – صور البرامج الثابتة ومقتطفات من الشيفرة المصدرية. اختبار Black Box ممكن، لكنه يغطي في الوقت نفسه سطح هجوم أقل.
كم تبلغ تكلفة اختبار الاختراق لمنتج ذكاء اصطناعي وكم يستغرق؟
يتوقف ذلك على فئة المنتج وعدد الواجهات وعمق الاختبار والوحدات المطلوبة. بعد محادثة تحديد نطاق مجانية تحصلون على عرض بسعر ثابت. ويستغرق الاختبار المركّز لجهاز واحد شاملًا التقرير في الغالب بضعة أسابيع.
كم مرة ينبغي إعادة اختبار منتج الذكاء الاصطناعي؟
على الأقل قبل كل إصدار رئيسي للمنتج وبعد التغييرات الجوهرية في البرامج الثابتة أو النموذج أو الوظائف السحابية. ونظرًا لتطور النماذج وتقنيات الهجوم بسرعة، نوصي إضافةً إلى ذلك بإعادة اختبار سنوية – إذ يشترط CRA اختبارات منتظمة طوال فترة الدعم بأكملها.
تابعوا القراءة
ذات صلة: الخدمات والمعرفة
Leistungاختبار اختراق إنترنت الأشياءأجهزة متصلة دون وظيفة ذكاء اصطناعي: البرامج الثابتة والبروتوكولات والعتاد.Leistungاختبار اختراق الذكاء الاصطناعي الوكيليوكلاء الذكاء الاصطناعي وتطبيقات LLM دون جهاز خاص.Leistungنمذجة تهديدات الذكاء الاصطناعي وفق MAESTROتحليل التهديدات لبنية الذكاء الاصطناعي لديكم – طبقةً تلو الأخرى.Leistungأمن المنتجاتتطوير آمن للمنتجات من المفهوم حتى PSIRT.Leistungأمن OT والأمن الصناعيأمن المنشآت وأنظمة التحكم وIEC 62443.Leistungالأمن السيبراني للأجهزة الطبيةالأمن السيبراني للأجهزة الطبية وفق MDR.Leistungلائحة الآلات الأوروبيةمتطلبات الأمن السيبراني للآلات اعتبارًا من 2027.Wissenاختبار اختراق IoT بالتفصيلأسطح الهجوم وOWASP ISVS/ISTG وEN 303 645 وCRA.WissenOWASP LLM Top 10أهم عشرة مخاطر لتطبيقات LLM.Wissenشرح MAESTROإطار CSA لنمذجة تهديدات الذكاء الاصطناعي الوكيلي.Wissenمحاكاة هجمات الذكاء الاصطناعي (AI Red Teaming)أساليب وأدوات الهجوم على أنظمة الذكاء الاصطناعي.
المصادر
المصادر والمراجع الأولية
- OWASP Top 10 for LLM Applications 2026
- قائمة OWASP Top 10 for Agentic Applications 2026
- OWASP AISVS – Artificial Intelligence Security Verification Standard («معيار التحقق من أمن الذكاء الاصطناعي»)
- OWASP AI Testing Guide
- OWASP ISTG – IoT Security Testing Guide («دليل اختبار أمن إنترنت الأشياء»)
- OWASP Internet of Things Top 10 (2018) («أهم عشرة مخاطر لإنترنت الأشياء»)
- MAESTRO: Agentic AI Threat Modeling Framework («إطار نمذجة تهديدات الذكاء الاصطناعي الوكيلي»)
- Threat Modeling AI/ML Systems and Dependencies («نمذجة تهديدات أنظمة الذكاء الاصطناعي/التعلم الآلي واعتمادياتها»)
- MITRE ATLAS
- اللائحة (EU) 2024/2847 – Cyber Resilience Act
- اللائحة (EU) 2026/1744 – Digital Omnibus on AI
- اللائحة (EU) 2023/1230 – لائحة الآلات
- التوجيه (EU) 2024/2853 – المسؤولية عن المنتجات
- القرار التنفيذي (EU) 2025/138 – EN 18031
- ETSI EN 304 223: Baseline Cyber Security Requirements for AI («متطلبات الأمن السيبراني الأساسية للذكاء الاصطناعي»)
- NIST AI 100-2 E2025: Adversarial Machine Learning («التعلم الآلي العدائي»)
- Robey et al.: Jailbreaking LLM-Controlled Robots (RoboPAIR) («كسر حماية الروبوتات الموجَّهة بـ LLM»)
- Nassi et al.: Invitation Is All You Need («الدعوة هي كل ما تحتاجه»)
- Mayoral-Vilches et al.: Cybersecurity AI: Humanoid Robots as Attack Vectors («الروبوتات البشرية بوصفها نواقل هجوم»)
- UniPwn: إمكانية الاستيلاء على روبوتات Unitree عبر Bluetooth
- NVD: CVE-2025-35027 (UniPwn، Unitree)
- CHAI: Command Hijacking against Embodied AI («اختطاف الأوامر في الذكاء الاصطناعي المتجسّد»)
- Wang et al.: Adversarial Vulnerabilities of VLA Models in Robotics («الثغرات العدائية في نماذج VLA في الروبوتات»)
- TPUXtract: استخراج المعاملات الفائقة على Google Edge TPU
- State of IoT 2025: 21.1 مليار جهاز متصل
- World Robotics 2026: خمسة ملايين روبوت صناعي
- Cost of a Data Breach Report 2026 («تقرير تكلفة اختراق البيانات 2026»)
Valeri Milkeالمؤسس والرئيس التنفيذي · VamiSec GmbH
جهة الاتصال الخاصة بكم
«في منتجات الذكاء الاصطناعي لم يعد السؤال فقط ما إذا كان المهاجم سيتمكن من الدخول – بل ما الذي يمكنه أن يجعل الجهاز يفعله في العالم الحقيقي.“
نجمع بين اختبار اختراق العتاد وإنترنت الأشياء، ومحاكاة الهجمات (Red Teaming) على الذكاء الاصطناعي، والخبرة التنظيمية في CRA وEU AI Act ولائحة الآلات – للحصول على أدلة إثبات أمنية متينة قبل الطرح في السوق وطوال فترة الدعم بأكملها.