يحدد كتالوج OWASP GenAI Security Project أخطر فئات الثغرات الأمنية في تطبيقات LLM — من Prompt Injection (LLM01:2025) مرورًا بـ Sensitive Information Disclosure (LLM02) وSupply Chain (LLM03) وحتى Excessive Agency (LLM06). ستة من المخاطر العشرة تمس أمن البيانات مباشرة. وتستخدم فرق التطوير وأمن التطبيقات (AppSec) القائمة كمنظور للفحص والمتطلبات عند بناء أنظمة LLM واختبارها.
أطر أمن الذكاء الاصطناعي نظرة عامة
تنظر OWASP وMITRE ATLAS وNIST AI RMF إلى أمن الذكاء الاصطناعي من ثلاثة منظورات مختلفة. نظرة عامة على ما يمثله كل إطار عمل — وكيف تشكّل معًا مفهوم حماية متينًا.
3أطر عمل تغطي معًا دورة حياة الذكاء الاصطناعي بالكامل
6من المخاطر العشرة في قائمة Top 10 تمس أمن البيانات مباشرة
4وظائف أساسية في NIST AI RMF: GOVERN، MAP، MEASURE، MANAGE
4خطوات للبدء العملي: Assess، Test، Govern، Protect
لا تنجح مناهج الأمن التقليدية مع الأنظمة القائمة على LLM إلا بشكل محدود: إذ تصبح الموجّهات (Prompts) وبيانات السياق وخطوط البيانات والمنطق الوكيلي نقاط مخاطر مستقلة، ويستعصي سلوك النماذج غير الحتمي على التحليل الثابت والتواقيع. وقد ترسّخت ثلاثة أطر عمل كمراجع — لكل منها منظوره الخاص: يوفّر OWASP GenAI Security Project عبر قائمة Top 10 لتطبيقات LLM منظور الفحص والمتطلبات لفرق التطوير والأمن، ويصنّف MITRE ATLAS تكتيكات المهاجمين الحقيقيين وتقنياتهم، وينظّم NIST AI RMF إدارة المخاطر الشاملة. وتغطي معًا دورة حياة الذكاء الاصطناعي بالكامل — من البناء الآمن مرورًا بالاختبار العدائي وحتى الحوكمة. ويكتسب هذا التكامل أهمية تنظيمية أيضًا: إذ تتطلب EU AI Act وNIS2 وDORA وDSGVO إجراءات أمنية قابلة للإثبات لأنظمة الذكاء الاصطناعي.
أهم النقاط في لمحة
ستة محاور موضوعية — انقروا للتوسيع.
ثلاثة أطر عمل، ثلاثة منظورات
ما الذي يمثله كل إطار عمل — انقروا على التبويب.
- يحدد كتالوج OWASP GenAI Security Project أخطر فئات الثغرات الأمنية في تطبيقات LLM.
- ستة من المخاطر العشرة تمس أمن البيانات مباشرة.
- تستخدم فرق التطوير وأمن التطبيقات (AppSec) القائمة كمنظور للفحص والمتطلبات عند بناء أنظمة LLM واختبارها.
حقن الموجّهات (LLM01:2025)الإفصاح عن المعلومات الحساسة (LLM02)سلسلة التوريد (LLM03)الاستقلالية المفرطة (LLM06)
- يصنّف تكتيكات وتقنيات الهجوم الحقيقية ضد أنظمة الذكاء الاصطناعي — على غرار مصفوفة ATT&CK.
- يتبنى منظور المهاجم بشكل منهجي.
- ويشكّل بذلك الأساس لعمليات Red Teaming وPurple Teaming ضد أنظمة الذكاء الاصطناعي.
ReconnaissanceResource DevelopmentExfiltrationAML.T0051ATT&CK
- ينظّم إدارة المخاطر عبر دورة حياة الذكاء الاصطناعي بالكامل وفق الوظائف الأساسية الأربع.
- يتناول الجدارة بالثقة (Trustworthiness) والحوكمة، ويستهدف مسؤولي أمن المعلومات (CISOs) وإدارة المخاطر.
- إطار تُحوَّل فيه النتائج التقنية إلى سياسات وعمليات ومسؤوليات.
GOVERNMAPMEASUREMANAGEالجدارة بالثقة
المعايير والمصادر
يستند محتوى هذه الصفحة إلى الأدلة والدراسات التالية المتاحة للعموم.
دليل OWASP المرجعي لحلول أمن LLM/GenAI للربعين الثاني والثالث 2025 (OWASP LLM/GenAI Security Solutions Reference Guide Q2/Q3'25)
ربط محايد تجاه الموردين لحلول الأمن مفتوحة المصدر والتجارية بمخاطر Top 10 وفق مراحل دورة حياة LLMOps من Scoping/Planning حتى Govern.
دليل مشهد حلول أمن LLM والذكاء الاصطناعي التوليدي — سلسلة الأوراق المرجعية، الربع الأول 2025 (LLM and Gen AI Security Solution Landscape Guide)
نظرة عامة موجزة على مشهد حلول أمن LLM والذكاء الاصطناعي التوليدي، بما في ذلك LLM and Gen AI App SecOps Framework.
مشهد حلول أمن الذكاء الاصطناعي للذكاء الاصطناعي الوكيلي (الربع الثالث 2025) (AI Security Solutions Landscape for Agentic AI)
يربط مهام DevOps وSecOps والحلول بمراحل دورة حياة الذكاء الاصطناعي الوكيلي من Scope & Plan حتى Govern؛ ويُحدَّث فصليًا.
من إطار العمل إلى التطبيق
تدعمكم VamiSec باختبارات اختراق الذكاء الاصطناعي وLLM وفق OWASP Top 10 وMITRE ATLAS، وبالاستشارات لبناء حوكمة الذكاء الاصطناعي لديكم وفق NIST AI RMF. احجزوا استشارة أولية دون التزام.