InjectionGuard — دفاع متعدد اللغات ضد حقن التعليمات
صاحب المشروع · بحث أمني
المشكلة
حقن التعليمات غير المباشر: أوامر مخبّأة داخل رسائل البريد والمستندات وصفحات الويب يقرأها المساعد الذكي بوصفها تعليمات لا بيانات. ومعظم حواجز الحماية المتاحة تعمل بالإنجليزية وحدها، فتعبر الحمولات العربية دون أن تُرصد.
القيود
- تغطية العربية والإنجليزية كانت شرطاً أساسياً، لا امتداداً لاحقاً
- يجب أن يعمل الرصد قبل استدعاء النموذج، وبتكلفة لا تضيف زمن استجابة ملموساً
- حاجز حماية لا يستطيع تفسير سبب الحجب غير صالح للمراجعة
قرارات جوهرية
ثلاث طبقات مستقلة — تنقية، واستدلالات، وتسليط ضوء بدلاً من مصنّف واحد مدرَّب
الطبقات تفشل بطرق مختلفة. محارف Unicode غير المرئية، والصياغة الخصومية، والخلط بين البيانات والتعليمات مشكلات منفصلة؛ والنموذج الواحد يطويها جميعاً في درجة واحدة غامضة.
استدلالات حتمية بتعبيرات نمطية بدلاً من نموذج لغوي في دور الحَكَم
القواعد قابلة للتدقيق، ولا تكلّف شيئاً عند التشغيل، ولا يمكن حقنها هي نفسها — أما النموذج الحَكَم فهو معرّض للاختراق تماماً كالنموذج الذي يحميه.
تدفق النظام
عرض مبسط لكيفية عمل الأجزاء الرئيسية معاً.
محتوى غير موثوق
تدخل رسائل البريد والمستندات ومحتوى الويب بوصفها بيانات قد تحوي تعليمات مخفية.
التنقية والاستدلالات ثنائية اللغة
تُزال الوسوم غير المرئية وتُفحص أنماط الحقن العربية والإنجليزية فحصاً حتمياً.
مدخل مسلّط الضوء للنموذج
يُغلَّف المحتوى بعد تنقيته ليتمكّن النموذج التالي من التمييز بين البيانات والتعليمات.
InjectionGuard نموذج بحثي أمني يرصد ويحجب هجمات حقن التعليمات غير المباشر ضد التطبيقات المبنية على نماذج اللغة الكبيرة — وهي فئة تهديد تُخفى فيها تعليمات داخل رسائل بريد أو مستندات لتختطف سلوك المساعد الذكي.
بُني كحاجز من ثلاث طبقات: (1) مُنقٍّ لـ Unicode وHTML يزيل المحارف غير المرئية والوسوم المخفية، (2) محرّك أنماط استدلالي يضم أكثر من 30 قاعدة تعبير نمطي تغطي عبارات الحقن بالعربية والإنجليزية، (3) طبقة تسليط ضوء تغلّف المحتوى غير الموثوق ليتعامل معه النموذج بوصفه بيانات لا أوامر.
في اختبار أوّلي على 20 حمولة بالعربية والإنجليزية، رصد الحاجز 19 حمولة ولم يُنتج أي إنذار كاذب. حجم العيّنة أصغر من أن يُثبت دقّة إنتاجية، لذا تُعرض النتيجة بوصفها اختباراً مبكراً لا ضماناً عاماً للأداء.
مبني على أبحاث Greshake وزملائه (ACM CCS 2023) وعمل Microsoft حول Spotlighting (2024).
النتيجة
- رصد 19 حمولة من 20 دون أي إنذار كاذب في اختبار أوّلي بالعربية والإنجليزية
التقنيات
روابط
تريد نظاماً مشابهاً لعملك؟
لنتحدث