مجال بحثي · الأمن الهجومي وكيلي
الأمن الهجومي الوكيلي: الاستقلالية تحتاج إلى قابلية الإثبات والتحكم
يغيّر وكلاء الذكاء الاصطناعي الفحوص الأمنية الهجومية: فهم يرسمون خرائط أسطح الهجوم، ويزحفون عبر التطبيقات، ويختبرون الثغرات بالتوازي. ويدرس Vami Research في ظل أي شروط يمكن تحمّل مسؤولية ذلك – مع فحص النطاق قبل كل إجراء، وموافقات متدرجة، وأدلة يمكن تتبعها – ويربط ذلك باختبار الاختراق ومحاكاة الهجمات (Red Teaming) ومحاكاة هجمات الذكاء الاصطناعي (AI Red Teaming).
- اختبارات الاختراق الوكيلية
- فرض النطاق
- OWASP APTS
- اختبارات اختراق MCP
- محاكاة هجمات الذكاء الاصطناعي
- محاكاة هجمات قائمة على TTP
- EASM
- دراسات معمّقة
- 13
- أوراق بيضاء
- 4
- حلول
- 1
حين يُسمح للوكلاء بالهجوم: النطاق والإشراف والإثبات
تصبح الفحوص الهجومية وكيلية. فمنصات اختبار الاختراق التي يقودها الذكاء الاصطناعي تنفّذ سلاسل الهجوم باستقلالية متزايدة: فبحسب مستوى الاستقلالية تقترح الخطوات، أو تخطط لها وتعرضها للموافقة، أو تنفّذها بنفسها تحت الإشراف. وبذلك يتغير السؤال بالنسبة إلى الجهات المكلِّفة. فالمهم ليس ما عُثر عليه فحسب، بل كيف تصرفت المنصة: هل بقيت ضمن النطاق المصرّح به، ومن وافق على أي إجراء، وهل كل نتيجة مدعومة بدليل.
ويصف OWASP Autonomous Penetration Testing Standard (APTS) خصائص المنصة هذه تحديدًا: 173 متطلبًا في ثمانية مجالات، من فرض النطاق (Scope Enforcement) مرورًا بالإشراف البشري (Human Oversight) ومقاومة التلاعب (Manipulation Resistance) حتى إعداد التقارير (Reporting)، وثلاثة مستويات امتثال (Tiers)، وأربعة مستويات استقلالية. وهو متاح في الإصدار 0.1.0 ولا يحل محل أي منهجية اختبار. وإذا كانت البنية التحتية للوكلاء نفسها هي الهدف، فإن اختبار اختراق MCP يفحص التفاعل بين الخادم والعميل أو المضيف والبوابة (Gateway)، مع OWASP MCP Top 10 (v0.1, Beta) إطارًا للهيكلة، لا معيارًا للفحص.
وتتبع منصة اختبار الاختراق الوكيلية VamiRedteam مبدأ بقاء التحكم بيد الجهة المكلِّفة: إذ يختبر ثلاثة وكلاء ذكاء اصطناعي – Recon وSmart Crawler وPentester – تطبيقات الويب وواجهات API والأجهزة المضيفة والشبكات حصريًا ضمن النطاق المصرّح به، ويُفحص كل إجراء قبل تنفيذه ويُسجَّل. وإلى جانب ذلك تبقى التخصصات التقليدية: اختبار الاختراق، ومحاكاة الهجمات (Red Teaming) على امتداد MITRE ATT&CK، وEASM، واختبارات الاختراق المادي واختبارات اختراق إنترنت الأشياء (IoT)، وBug Bounty، وعمليات التدقيق، والعناية الواجبة في عمليات الاندماج والاستحواذ.
أسئلة مفتوحة من الممارسة العملية
- 01
كيف يُعرف ما إذا كانت منصة اختبار اختراق مستقلة تبقى بشكل موثوق ضمن النطاق المصرّح به؟
نهجنا
من سلوكها أثناء التنفيذ. إذ يشترط OWASP APTS فرض حدود النطاق تقنيًا لا تعاقديًا فقط، إضافةً إلى مفتاح إيقاف (Kill-Switch) فعّال، وتصنيف للأثر لكل إجراء، وسجلات تدقيق موقّعة ومعزولة عن المنصة. وفي المشتريات يُوصى بإعلان ذاتي عن المستوى (Tier) مع إجابات ملموسة بشأن فرض النطاق ومفتاح الإيقاف؛ وينبغي أن تكون اختبارات مفتاح الإيقاف جزءًا من كل مهمة.
- 02
كيف تُفحص خوادم MCP حين تكون الأدوات خاضعة لتحكم النموذج وتعمل أوصافها بوصفها تعليمات؟
نهجنا
بوصفها تفاعلًا بين الخادم والعميل أو المضيف والبوابة (Gateway)، لا بوصفها نقطة نهاية منفردة. فنحسب قيمة تجزئة (Hash) لكل تعريف أداة بوصفها خط أساس، ونختبر Rug Pull وShadowing، وندرج علامات غير ضارة في ردود الأدوات أو المستندات أو التذاكر لنرى ما إذا كان الوكيل يتعامل معها بوصفها تعليمات. ونثبت نتائج الإعدادات بشكل حتمي، ونتائج السلوك بالتكرارات ومعدل النجاح والنموذج والعميل.
- 03
ما الذي يميّز محاكاة هجمات الذكاء الاصطناعي (AI Red Teaming) عن اختبار الاختراق التقليدي؟
نهجنا
يُظهر اختبار الاختراق الثغرات الموجودة في نظام محدد. أما محاكاة هجمات الذكاء الاصطناعي فتفحص سلوك نظام الذكاء الاصطناعي نفسه: كسر القيود (Jailbreaks)، وحقن الأوامر (Prompt Injection) المباشر وغير المباشر، واستخراج البيانات، وإساءة استخدام الأدوات. والمرتكزات هي OWASP GenAI Red Teaming Guide وNIST AI 100-2؛ وتشترط لائحة الذكاء الاصطناعي منذ 2 أغسطس 2025 على مزودي نماذج الذكاء الاصطناعي ذات الأغراض العامة والمخاطر النظامية إجراء الاختبار العدائي (Adversarial Testing).
- 04
كيف تتكامل الاختبارات الوكيلية مع التخصصات الهجومية التقليدية؟
نهجنا
إنها تجيب عن أسئلة مختلفة ولا يحل بعضها محل بعض. فـ EASM يعثر على الأصول غير المعروفة، واختبار الاختراق يثبت قابلية الاستغلال، ومحاكاة الهجمات (Red Teaming) تقيس الكشف والاستجابة، وعمليات التدقيق تفحص مقابل معيار مرجعي محدد. وتتيح الاختبارات الوكيلية فحوصًا أكثر تواترًا حين تتغير أسطح الهجوم مع كل إصدار. وتغطي اختبارات الاختراق المادي واختبارات اختراق إنترنت الأشياء (IoT) المباني والعتاد.
ما نخلص إليه
- 01
الحاسم هو الاستقلالية اللازمة، لا الاستقلالية الممكنة
يربط OWASP APTS الاستقلالية بأدلة الإثبات: فمن L1، حيث تقترح المنصة فقط، حتى L4، أي التشغيل المستقل من البداية إلى النهاية، ترتفع متطلبات التأكيد (Assurance)؛ ولا يمكن تبرير L4 إلا بأدلة إثبات من المستوى Tier 3. وعمليًا يكفي L2 كثيرًا من المؤسسات، وفيه يوافق إنسان على كل خطوة.
المرجع: OWASP APTS
- 02
حالات الاختبار التقليدية لا تغطي مخاطر MCP إلا جزئيًا
يكسر MCP افتراض السلوك الحتمي: فالأدوات، وفق المواصفة، يتحكم بها النموذج، وتعمل بصلاحيات مفوَّضة من المستخدمين، وتفتح مسارات عشوائية للوصول إلى البيانات والتنفيذ. ووجدت دراسة شملت 1,899 خادم MCP مفتوح المصدر ثماني فئات من الثغرات، ثلاث منها فقط تتداخل مع ثغرات البرمجيات التقليدية. وتحتاج اختبارات اختراق MCP إلى حالات اختبار خاصة بها.
المرجع: اختبار اختراق MCP
- 03
أنظمة الذكاء الاصطناعي المتغيرة تحتاج إلى اختبارات متكررة
قد لا ينجح هجوم على نموذج لغوي إلا بعد عدة محاولات، كما أن تحديثات النماذج وموجّهات النظام والأدوات ومصادر البيانات الجديدة تغيّر وضع المخاطر باستمرار. ولذلك تجمع محاكاة هجمات الذكاء الاصطناعي بين الاختبارات المؤتمتة للتغطية الواسعة وسلاسل الهجوم اليدوية الخاصة بالسياق، واختبارات الانحدار (Regression) عند كل تغيير ذي صلة.
- 04
محاكاة الهجمات تقيس الدفاع، لا عدد النتائج
المؤشرات المعبّرة هي الوقت حتى الاكتشاف، والوقت حتى الاحتواء، ومسألة أي التكتيكات والتقنيات المنفَّذة أطلقت إنذارات أصلًا. ومن خلال ربط إجراءات المهاجم بـ MITRE ATT&CK تظهر فجوات الكشف بشكل منهجي – تقييم موثوق بدلًا من لقطة آنية.
المرجع: محاكاة الهجمات (Red Teaming)
كيف نعمل
نفحص هجوميًا ونوثّق بحيث تكون كل إفادة قابلة للتحقق: نطاق محدد كتابيًا وتقنيًا، واستقلالية مختارة عن وعي، وأدلة لكل نتيجة، مع معدل النجاح في نتائج السلوك.
اختبارات الاختراق الوكيلية
تتحقق VamiRedteam من كل إجراء يقوم به الوكيل قبل تنفيذه مقابل الأهداف المصرّح بها، وعند الرغبة مع موافقة على كل أمر.
اختبارات اختراق MCP
فحص الخادم والعميل والبوابة (Gateway) على امتداد OWASP MCP Top 10 (v0.1, Beta): تعريفات الأدوات عبر قيمة تجزئة لخط الأساس، وعلامات في المحتوى الخارجي، وإعادة البناء من السجلات.
محاكاة هجمات الذكاء الاصطناعي
كسر القيود (Jailbreaks)، وحقن الأوامر (Prompt Injection) المباشر وغير المباشر، واستخراج البيانات، وإساءة استخدام الأدوات، على امتداد OWASP GenAI Red Teaming Guide وNIST AI 100-2.
محاكاة هجمات قائمة على TTP
محاكاة الهجمات على امتداد MITRE ATT&CK بأهداف متفق عليها، وقياس الاكتشاف والاحتواء، وPurple Teaming بوصفه حلقة تعلّم.
سطح الهجوم من الخارج وفي الموقع
EASM للأصول غير المعروفة وتقنية المعلومات الظلية (Shadow IT)، واختبارات الاختراق المادي واختراق IoT حيث تكون المباني والعتاد والاتصال اللاسلكي جزءًا من سطح الهجوم.
تقييم الفجوات وفق APTS
تقييم منصات اختبار الاختراق المستقلة مقابل مجالات APTS الثمانية، بما في ذلك العناية الواجبة تجاه المورّدين والربط بالمتطلبات التنظيمية.
هكذا تبدؤون
- 1تحديد النطاق والاستقلاليةالاتفاق كتابيًا على الأهداف والاستثناءات ونوافذ الاختبار وجهات الاتصال في حالات الطوارئ، وتحديد الخطوات التي تحتاج إلى موافقة لكل هدف.
- 2الاختبار والإثباتاستغلال الثغرات بشكل مضبوط، وتوثيق كل نتيجة بالأدلة وخطوات إعادة الإنتاج والإثبات، وتسجيل كل خطوة.
- 3التقييم وإعادة الاختبارترتيب النتائج حسب الأولوية، ومرافقة الإجراءات، والتحقق من المعالجة عبر إعادة الاختبار، بوصف ذلك دليل إثبات لعمليات التدقيق وNIS2 وDORA.
دراسات معمّقة وأوراق بيضاء وتحليلات
دراسات معمّقة 13
أوراق بيضاء 4
صفحات أخرى
من المجال البحثي إلى التطبيق
الخدمات
مجالات بحثية ذات صلة
الاختبار باستقلالية – مع النطاق والإشراف والإثبات؟
في المحادثة الأولية نوضّح النطاق والإشراف والإطار التنظيمي – من اختبار الاختراق التقليدي مرورًا بمحاكاة هجمات الذكاء الاصطناعي حتى الاختبارات الوكيلية مع VamiRedteam.