الأمن لـ وكلاء الذكاء الاصطناعي وأنظمة LLM
تتصرف وكلاء الذكاء الاصطناعي باستقلالية متزايدة — مع الوصول إلى الأدوات والذاكرة والاتصال بأنظمتكم عبر بروتوكولات مثل MCP. وبذلك تنشأ أسطح هجوم لا تغطيها اختبارات الأمن التقليدية. تفحص VamiSec أنظمة الذكاء الاصطناعي لديكم وتحصّنها وتحوكمها على امتداد دورة حياتها كاملة.
من الفحص الهجومي للأنظمة الوكيلية مرورًا بأمن MCP ونمذجة التهديدات وصولًا إلى شفافية سلسلة توريد الذكاء الاصطناعي: تتكامل خدماتنا في مجال أمن الذكاء الاصطناعي الوكيلي وتسترشد بأُطر معترف بها مثل مشاريع OWASP للذكاء الاصطناعي التوليدي والتطبيقات الوكيلية وMITRE ATLAS وNIST AI Risk Management Framework.
أين تكون الأنظمة الوكيلية عرضة للاختراق
من الموجّه (Prompt) حتى النظام المستهدف: لكل محطة في وكيل الذكاء الاصطناعي تهديداتها الخاصة. اختاروا محطة — وسنعرض لكم المخاطر النموذجية والخدمات التي تعالجها.
تهديدات نموذجية
- حقن الموجّهات (Prompt Injection) المباشر وغير المباشر عبر مدخلات المستخدمين والمستندات ومحتوى الويب
- كسر القيود (Jailbreaks) والتلاعب بالأهداف بما يتجاوز ضوابط الحماية
- سياقات مسمومة من مصادر RAG ومسارات الاسترجاع
اختيار التهديدات استنادًا إلى OWASP Top 10 for Agentic Applications (ASI01–ASI10) وOWASP MCP Top 10 وCSA MAESTRO.
ثلاثة مجالات، ثماني خدمات
تعكس محفظتنا بنية التنقل: الاستشارات وأمن المنصات، والاختبار الهجومي مع الكشف والاستجابة، ونمذجة التهديدات وشفافية سلسلة التوريد — وتقود كل خدمة إلى صفحة تفصيلية.
الاختبار والحماية
اختبار اختراق الذكاء الاصطناعي الوكيلي
فحص أمني هجومي لوكلاء الذكاء الاصطناعي المستقلين: نختبر الوصول إلى الأدوات والذاكرة والتنسيق وضوابط الحماية في مواجهة سيناريوهات هجوم واقعية — وفق منهجية OWASP للتطبيقات الوكيلية.
- سيناريوهات حقن الموجّهات وكسر القيود وإساءة استخدام الأدوات
- التلاعب بالذاكرة والسياق في النظام العامل
- نتائج قابلة للتتبع مع مسار الاستغلال وتوصية الإصلاح
اختبار اختراق منتجات الذكاء الاصطناعي
اختبار الاختراق ومحاكاة الهجمات (Red Teaming) للمنتجات ذات الذكاء الاصطناعي المدمج – الروبوتات وأجهزة AIoT وكاميرات الذكاء الاصطناعي والمساعدات الصوتية: من العتاد والبرامج الثابتة حتى النموذج وLLM والأثر المادي.
- نمذجة التهديدات وفق STRIDE × MAESTRO بما في ذلك الطبقة المادية
- اختبارات وفق OWASP LLM Top 10 وAISVS وISTG وIoT Top 10
- أدلة إثبات لـ CRA وEN 18031 وAI Act ولائحة الآلات
أمن مهارات الوكلاء (Agent Skills)
فحص Agent Skills وآليات الإفصاح التدريجي وتحصينها — ضد القدرات المخترقة وإساءة استخدام الأدوات وOWASP Agentic Skills Top 10.
- تحليل تعريفات المهارات والإفصاح التدريجي (Progressive Disclosure)
- كشف التعليمات المضمّنة ومخاطر Rug-Pull
- عمليات الاعتماد والتحديث لكتالوجات المهارات
ADR — الكشف والاستجابة
الكشف والاستجابة لوكلاء الذكاء الاصطناعي أثناء التشغيل: قياس عن بُعد للموجّهات واستدعاءات الأدوات وهويات الوكلاء، وحالات استخدام للكشف عن اختطاف الأهداف (Goal Hijacking) وما شابهه، وأدلة استجابة مُتمرَّن عليها — مدمجة في مركز SOC لديكم.
- قياس عن بُعد للموجّهات واستدعاءات الأدوات والهويات
- قواعد كشف لسلوك الوكلاء الخاطئ
- مسارات استجابة وأدلة تشغيل (Playbooks) لحالات الطوارئ
نمذجة التهديدات والشفافية
نمذجة تهديدات الذكاء الاصطناعي (MAESTRO)
نمذجة تهديدات منهجية لأنظمة الذكاء الاصطناعي والوكلاء وفق MAESTRO — لاكتشاف مسارات الهجوم قبل انتقالها إلى الإنتاج.
- تطبيق MAESTRO عبر 7 طبقات معمارية
- الدمج مع STRIDE وكتالوجات OWASP
- مخاطر مرتّبة حسب الأولوية مع خارطة طريق للإجراءات
نمذجة تهديدات MCP
نمذجة تهديدات مخصّصة لبيئات MCP: دمج STRIDE وMAESTRO وOWASP MCP Top 10 في خريطة تهديدات موثوقة.
- نمذجة خوادم MCP والعملاء وسلاسل الأدوات
- STRIDE × MAESTRO × OWASP MCP Top 10
- حدود الثقة وبنية التفويض
نمذجة التهديدات المؤتمتة
يرسّخ Diagram-as-Code والتحليل المؤتمت نمذجة التهديدات مباشرة في عملية التطوير لديكم — بشكل قابل للتكرار والتوسع.
- Diagram-as-Code من مخرجات البنية المعمارية
- نمذجة التهديدات راسخة في CI/CD
- نماذج محدَّثة باستمرار بدلًا من ورش عمل لمرة واحدة
SBOM للذكاء الاصطناعي
الشفافية في سلسلة توريد الذكاء الاصطناعي: رصد النماذج ومجموعات البيانات والمكتبات والاعتماديات كقائمة مكوّنات للذكاء الاصطناعي (AI-Bill-of-Materials) — الأساس للحوكمة والتزامات الإثبات.
- جرد للنماذج ومجموعات البيانات والمكتبات
- صيغ AI-BOM وتكامل الأدوات
- أدلة إثبات لـ EU AI Act وNIS2 وعمليات تدقيق العملاء
من نموذج التهديدات إلى التشغيل الآمن
أربع مراحل وخيط واحد: تبني كل مرحلة على نتائج المرحلة السابقة — ويمكن التعاقد على كل منها بشكل منفرد أيضًا.
رصد التهديدات بشكل منهجي
ننمذج نظام الوكلاء لديكم وفق MAESTRO عبر 7 طبقات معمارية، ونجمع بين STRIDE وكتالوجات OWASP، ونرتّب المخاطر حسب الأولوية وفق بنيتكم الفعلية — كأساس للاختبارات والتحصين والتشغيل.
راسخة في معايير معترف بها
تتبع خدماتنا الكتالوجات واللوائح المرجعية لأمن الذكاء الاصطناعي والوكلاء — من OWASP حتى EU AI Act.
تعمّقوا في المعرفة
تجدون في قسم المعرفة دراسات معمّقة رصينة حول أمن MCP ومعايير OWASP وZero Trust لوكلاء الذكاء الاصطناعي وأُطر أمن الذكاء الاصطناعي — مع مصادر موثّقة.
الأسئلة الشائعة
إجابات موجزة — ونوضّح التفاصيل في اللقاء الأول.
ما الذي يميّز أمن الذكاء الاصطناعي الوكيلي عن أمن LLM التقليدي؟
تخطط الوكلاء وتستخدم الأدوات وتحتفظ بذاكرة وتتصرف باستقلالية في أنظمة حقيقية. وبذلك تنشأ مخاطر تتجاوز مرشحات الموجّهات بكثير: تسميم الأدوات وتسميم الذاكرة والاستقلالية المنحرفة وهويات الوكلاء غير القابلة للإسناد. وتعالج خدماتنا هذه الطبقات تحديدًا — من النمذجة حتى التشغيل.
نستخدم MCP — من أين نبدأ؟
بتقييم أمني لـ MCP: نفحص الخوادم والتفويض (OAuth 2.1) وتعريفات الأدوات وحدود الثقة، ونرتّب النتائج حسب الأولوية. وتُبنى على ذلك نمذجة تهديدات MCP واختبارات اختراق موجّهة.
هل نحتاج أولًا إلى نموذج تهديدات أم إلى اختبار اختراق؟
يُفضَّل الاثنان بهذا الترتيب: يكشف نموذج التهديدات البنية والمخاطر ويركّز اختبار الاختراق على المسارات الحرجة. وفي الأنظمة العاملة يمكن البدء مباشرة باختبار اختراق — ثم تُغذّى النتائج في النموذج.
هل يغطي ذلك أيضًا متطلبات الامتثال مثل EU AI Act؟
نعم — تُعدّ نماذج التهديدات وتقارير الاختبار وSBOM للذكاء الاصطناعي أدلة إثبات موثوقة لـ EU AI Act وISO/IEC 42001 وNIS2. وفي جانب الحوكمة نعمل بتكامل تام مع فريق GRC لدينا — وصولًا إلى نظام إدارة الذكاء الاصطناعي القابل للاعتماد.
ما مدى سرعة تقديم أول النتائج في المشروع؟
تقدّم التقييمات وورش عمل نمذجة التهديدات نتائج مرتّبة حسب الأولوية خلال أيام قليلة؛ وتتبع اختبارات الاختراق النطاق المتفق عليه. ونبني الكشف والاستجابة بشكل تدريجي — بدءًا من الإشارات التي تغطي أكبر مخاطركم.
هل تستخدمون وكلاء الذكاء الاصطناعي؟ إذن أمّنوها.
في استشارة أولية دون التزام نصنّف بيئة الذكاء الاصطناعي لديكم ونوضّح أيّ وحدات الفحص والتحصين تحقق لكم أكبر أثر.
حدّدوا موعد محادثة أولية