اعرفوا ما إذا كان وكلاء الذكاء الاصطناعي لديكم قابلين للاستغلال – قبل أن يكتشف ذلك شخص آخر.
يوسّع الوكلاء المستقلون سطح الهجوم لديكم ببُعد جديد كليًا: سلوك احتمالي، ووصول إلى الأدوات، وذاكرة دائمة، واتصال متعدد الوكلاء. نفحص أنظمة الذكاء الاصطناعي الوكيلي لديكم مقابل OWASP Agentic Threats T1–T15 – بشكل منهجي، قائم على الأدلة، مع استغلالات مُتحقَّق منها.
نظرة سريعة على Agentic AI Pentesting
اختبارات الاختراق التقليدية لا تفحص ما يجعل الذكاء الاصطناعي الوكيلي خطيرًا.
يبحث اختبار اختراق الويب عن حقن SQL. ويفحص اختبار اختراق API المصادقة. وكلاهما ينطلق من سلوك حتمي – المدخل نفسه، المخرج نفسه. والذكاء الاصطناعي الوكيلي يكسر هذا الافتراض تحديدًا: استدلال احتمالي، واختيار مستقل للأدوات، وذاكرة دائمة، واتصال متعدد الوكلاء.
تنشأ من ذلك فئات هجوم لا يغطيها أي اختبار اختراق تقليدي: حقن الأوامر عبر مصادر بيانات موثوقة، وتسميم الذاكرة الذي يستمر عبر الجلسات، وإساءة استخدام الأدوات عبر مسارات استدلال متلاعب بها، واختراق الصلاحيات عبر هوية الوكيل. اختبار اختراق الذكاء الاصطناعي الوكيلي تخصص قائم بذاته – ويحدد ما إذا كان وكيلكم يبقى أداة أم يصبح أداة في أيدي المهاجمين.
ما هو اختبار اختراق الذكاء الاصطناعي الوكيلي?
تحليل أمني هجومي بقيادة خبراء لوكلاء الذكاء الاصطناعي لديكم – مقابل فئات الهجوم المحددة التي تنشأ في الأنظمة المستقلة المستخدمة للأدوات والمزودة بذاكرة.
يُفحص ما يشكّل الوكيل: الـ LLM (KC1)، والتنسيق (KC2)، والاستدلال (KC3)، ووحدات الذاكرة (KC4)، وتكاملات الأدوات (KC5)، والبيئة التشغيلية (KC6). ولكل طبقة ثغراتها الخاصة.
أطر راسخة (OWASP Agentic Threats T1–T15، MAESTRO، NIST AI RMF) مع أدوات اختبار اختراق حديثة (AgentDojo، Agentic Radar، AgentPoison، Garak، Promptfoo) وتحقق يدوي – لا تقارير أدوات فقط، ولا قوائم تحقق عامة.
يُتحقق من كل ثغرة: بإثبات مفهوم قابل لإعادة الإنتاج، ومسار هجوم موثق، وأثر ملموس. لا فرضيات ولا مخاطر نظرية – فقط ما هو قابل للاستغلال فعلًا.
OWASP Top 10 for LLM Applications
أخطر 10 مخاطر أمنية لنماذج اللغة الكبيرة — أساس منهجية الاختبار لدينا.
تتلاعب تعليمات خبيثة في المدخلات بالنموذج — تجاهل القواعد، أو إفشاء البيانات، أو توليد محتوى ضار. ويشمل ذلك الحقن المباشر وغير المباشر: تعليمات مضمَّنة في رسائل البريد الإلكتروني أو ملفات PDF أو صفحات الويب أو مستندات RAG. وكثيرًا ما تفشل المرشحات التقليدية لأن الهجوم يحدث في سياق اللغة الطبيعية.
كشف بيانات سرية عبر المخرجات أو التهيئة — بيانات شخصية (PII)، أسرار تجارية، بيانات داخلية للنموذج. وهو خطير بشكل خاص في الجلسات الطويلة وعند غياب مرشحات المخرجات وعند تضمين تعليمات النظام أو المطورين عن غير قصد. التخفيف: تقليل السياق، وإبعاد الأنماط الحساسة عن السجلات.
نماذج أو مجموعات بيانات أو مكتبات أو منصات مخترقة — السلامة والثقة عبر دورة حياة الذكاء الاصطناعي. ثغرات نموذجية: محوّلات (Adapters) غير موقّعة، وحزم pip/npm في خطوط تعلم الآلة، وواجهات API لأطراف ثالثة دون دليل على المصدر. ودون فحص التجزئة والإصدارات والمورّدين يصعب تدقيق السلامة أثناء التشغيل.
التلاعب ببيانات التدريب أو الضبط الدقيق (Fine-Tuning) — تحيّز، أبواب خلفية، ثغرات. يمكن لمصادر مثل التعهيد الجماعي أو الزحف على الويب أو مجموعات الضبط الدقيق المعادية أن تحرف السلوك بشكل خفي — وصولًا إلى أبواب خلفية تعتمد على مُحفّزات. تستهدف الاختبارات خطوط البيانات والتوسيم وواجهات إعادة التدريب.
محتوى مولَّد دون تحقق يُمرَّر إلى أنظمة لاحقة — XSS، حقن، كشف بيانات. كل نظام يمرر مخرجات النموذج إلى SQL أو Shell أو HTML أو إلى المتصفح ينشئ أسطح حقن تقليدية. يبقى ترميز المخرجات والتنميط وقوائم السماح إلزاميًا — فالـ LLM لا يحل محل التحقق من جهة الخادم.
استقلالية أو صلاحيات مفرطة — إجراءات غير مقصودة أو ضارة. أسباب شائعة: نطاقات OAuth واسعة جدًا، وسياسات عامة من نوع «الوكيل يُسمح له بكل شيء»، وغياب التأكيد قبل المعاملات. نفحص الأدوات اللازمة فعلًا وما إذا كان مبدأ Human-in-the-Loop مُطبَّقًا.
كشف تعليمات النظام (System Prompts) ومنطق التحكم الداخلي — تجاوز آليات الحماية. غالبًا مزيج من أسئلة موجّهة وتسريبات جزئية عبر صيغ المخرجات. التوصية: لا أسرار في التعليمات؛ والاحتفاظ بالسياسات والقواعد خارجيًا وبإصدارات.
التلاعب بالاسترجاع والتضمينات (Embeddings) — إجابات خاطئة، تسرب بيانات، فقدان السيطرة. ذو صلة: تضمينات عدائية، وتسميم المدوّنة، وفصل مساحات الأسماء/المستأجرين في قواعد البيانات المتجهية. تشمل اختبارات الاختراق استعلامات موجّهة ووصول كتابة إلى مسارات الاسترجاع.
مخرجات معقولة لكنها خاطئة — مخاطر أمنية ومخاطر على السمعة ومخاطر مسؤولية قانونية. حرجة بشكل خاص عندما ينقل المستخدمون الإجابات دون فحص إلى عقود أو قرارات أمنية أو امتثالية. يقلل الإسناد (Grounding) والتزامات ذكر المصادر من المخاطر؛ والتدريب والعمليات جزء من الدفاع.
استدلال غير مضبوط — حجب الخدمة، «Denial of Wallet»، سرقة النموذج أو استنساخ سلوكه. يمكن لمفاتيح API دون حصص، وغياب حدود المعدل، والكشط المؤتمت أن تؤدي إلى انفجار التكاليف أو استخراج سلوك النموذج بشكل منهجي. تنبيهات الفوترة واكتشاف إساءة الاستخدام والتقييد (Throttling) جزء من المعيار.
ما نختبره
من هجمات LLM التقليدية حتى سيناريوهات الاستغلال الوكيلية — هذا ما نفحصه في إطار اختبار اختراق الذكاء الاصطناعي.
متى يكون اختبار اختراق الذكاء الاصطناعي الوكيلي مفيدًا ؟
أربعة مواقف نموذجية تُحدث فيها قاعدة الحقائق التي يوفرها اختبار اختراق الذكاء الاصطناعي الوكيلي الفرق بين نظام آمن وآخر قابل للاستغلال.
هكذا نعمل.
أربع مراحل منظمة – من تحليل البنية مرورًا بالاستغلال الموجّه حتى خارطة طريق موثقة للمعالجة.
ما تحصلون عليه.
مخرجات ملموسة وقابلة للتتبع – لا مستندات امتثال عامة، ولا مخرجات أدوات خام.
ليس كل تحليل أمني يجيب عن السؤال نفسه.
اختبار الاختراق التقليدي، ومحاكاة هجمات LLM (Red Teaming)، واختبار اختراق الذكاء الاصطناعي الوكيلي تتكامل – ولا يحل أحدها محل الآخر.
- OWASP Web Top 10، API Top 10، البنية التحتية
- هجمات حتمية على فئات معروفة
- إجابة عن «أين»، لا عن «ماذا يفعل الوكيل»
- حقن الأوامر، التحيز، مخاطر المحتوى
- التركيز على نموذج اللغة نفسه
- إجابة تخص النموذج، لا النظام المحيط به
- من البداية إلى النهاية: LLM + الأدوات + الذاكرة + الاستدلال + تعدد الوكلاء
- سلاسل استغلال مُتحقَّق منها ضد OWASP T1–T15
- إجابة تخص النظام – وتخص «ما الذي يجب فعله الآن»
من أنظمة ذكاء اصطناعي آمنة إلى امتثال جاهز للتدقيق
تلتقي ثغرات الويب التقليدية بمخاطر خاصة بالذكاء الاصطناعي: حقن الأوامر (Prompt Injection)، وتسميم البيانات والنماذج، ومسارات الأدوات وRAG غير الآمنة. تقدم اختبارات الاختراق والمراجعات الموجهة وفق OWASP لدينا أدلة قابلة لإعادة الإنتاج — بما يتوافق مع ما تتوقعه محادثات الجهات الرقابية والتدقيق تحت «المتانة» و«الأمن السيبراني» وإدارة المخاطر.
بالنسبة لأنظمة الذكاء الاصطناعي عالية المخاطر، تُعدّ تحليلات المخاطر الموثقة والإجراءات التقنية الفعالة إلزامية. تدعم نتائج اختبارات الاختراق المادة 15 (الأمن السيبراني، المتانة) وتعزز إدارة المخاطر وفق المادة 9. ويمكن دعم التزامات الشفافية والبيانات (المادتان 10 و13) بأدلة واضحة حول تدفقات البيانات والتسجيل وسلسلة توريد النماذج.
- المادة 9 — نظام إدارة المخاطر: مستمر وموثق ومرتبط بفئة المخاطر
- المادة 10 — البيانات والحوكمة: الجودة، ومراقبة التحيز، وبيانات تدريب وتشغيل تمثيلية
- المادة 15 — الدقة والمتانة والأمن السيبراني: محاكاة هجمات موجّهة وإثباتات مفهوم (PoCs) صارمة
تخضع مكونات الذكاء الاصطناعي في القطاعات الحرجة والأساسية لالتزامات أمنية وإثباتية مشددة. وتُعد الفحوصات الأمنية الدورية والتعامل مع الثغرات ومخرجات المخاطر الموثوقة جزءًا من التوقعات.
- فحوصات أمنية دورية للبنية التحتية للذكاء الاصطناعي
- مخرجات مخاطر قابلة للإثبات لمحادثات الجهات الرقابية
- الدمج في عمليات الاستجابة للحوادث وفق NIS2
يتطلب نظام إدارة الذكاء الاصطناعي أمنًا تشغيليًا وتقييمًا مستمرًا. توفر الاختبارات التقنية (اختبار الاختراق، Red Team، سيناريوهات LLM/الوكلاء الموجّهة) مدخلات قابلة للقياس للرقابة والتحسين ومحادثات الحصول على الشهادة.
- مدخلات قابلة للقياس لنظام رقابة KIMS
- قابل للدمج مع ISO 27001 لأدلة مشتركة
- أساس لمحادثات الحصول على الشهادة وعمليات التدقيق
يتسع سطح الهجوم على تقنيات المعلومات والاتصالات مع كل واجهة محادثة وCopilot وسير عمل مستقل. يتطلب DORA اختبارات منهجية للمرونة الرقمية؛ ومن منظور الرقابة تنطبق على الأنظمة المدعومة بالذكاء الاصطناعي المعايير نفسها المطبقة على تقنية المعلومات التقليدية.
- إدارة مخاطر تقنيات المعلومات والاتصالات بما في ذلك سلاسل توريد الذكاء الاصطناعي والإسناد الخارجي
- دورات اختبار ومراجعة قابلة للإثبات، لا مجرد إجراءات منفردة
- نتائج قابلة للتوثيق لمحادثات التدقيق الداخلي والجهات الرقابية
هل يحتوي جهازكم على ذكاء اصطناعي؟ إذن لا يكفي الاختبار التقليدي.
للروبوتات والكاميرات المدعومة بالذكاء الاصطناعي والمساعدات الصوتية والذكاء الاصطناعي الطرفي (Edge AI)، نجمع بين اختبار اختراق الأجهزة وIoT، واختبارات LLM، ومحاكاة الهجمات السيبرانية-المادية (Red Teaming) – مع نمذجة التهديدات وفق STRIDE × MAESTRO.
- OWASP LLM Top 10
- OWASP AISVS
- OWASP ISTG
- IoT Top 10
- CRA وEN 18031
الأسئلة الشائعة
ما الذي يميز اختبار اختراق الذكاء الاصطناعي عن اختبار الاختراق التقليدي؟
يوسّع الذكاء الاصطناعي سطح الهجوم جذريًا إلى ما هو أبعد من البرمجيات التقليدية. فالتعليمات وبيانات السياق وخطوط البيانات والمنطق الوكيلي تصبح نقاط مخاطر قائمة بذاتها. ولا توجد سوابق في الأمن التقليدي لفئات هجوم جديدة مثل حقن الأوامر وتسميم البيانات واستخراج النماذج.
ما هي مخاطر الذكاء الاصطناعي الوكيلي؟
الذكاء الاصطناعي الوكيلي ليس موضوعًا مستقبليًا. نحاكي سيناريوهات استغلال موجّهة ضد بنى الذكاء الاصطناعي الوكيلي: إساءة استخدام الأدوات ورفع الصلاحيات، والاستيلاء على السلوك وتسميم الذاكرة، وحقن الأوامر في سير العمل متعدد الوكلاء، وإساءة استخدام الهوية (Human ↔ Agent). استنادًا إلى OWASP Top 10 for Agentic Applications 2026.
ما متطلبات الامتثال التي يدعمها اختبار اختراق الذكاء الاصطناعي؟
تنشئ اختباراتنا أدلة موثوقة لـ EU AI Act (تقييم المطابقة، تصنيف المخاطر)، وNIS2 (اختبارات أمنية منهجية للذكاء الاصطناعي كجزء من بيئة تقنيات المعلومات والاتصالات)، وDORA (جاهزية TLPT، أدلة متوافقة مع BaFin)، وDSGVO (حماية البيانات الشخصية، الامتثال للإبلاغ عن الاختراقات خلال 72 ساعة)، إضافة إلى ISO 27001 وISO 42001.
ما الأطر المستخدمة؟
لا تنجح المقاربات الأمنية التقليدية مع LLMs. نستخدم ثلاثة أطر: OWASP Top 10 for LLM Apps (التركيز على المطورين)، وMITRE ATLAS (التركيز على الخصم: Recon → Resource Dev → Execution → Exfiltration)، وNIST AI RMF (التركيز على الحوكمة: GOVERN · MAP · MEASURE · MANAGE).
«اختبار اختراق الذكاء الاصطناعي الوكيلي ليس اختبار اختراق ويب بلمسة ChatGPT. إنه تخصص قائم بذاته – ويحدد ما إذا كان وكيلكم يبقى أداة أم يصبح أداة في أيدي المهاجمين.»