باحثون من Tracebit يطوّرون دفاع "قصف السياق" ضد وكلاء اختراق الذكاء الاصطناعي

أعلن باحثو Tracebit، يوم الاثنين، عن تقنية دفاعية للأمن السيبراني تُسمى “القصف بالسياق” (context bombing)، تستخدم حقن الأوامر (prompt injections) للحماية من وكلاء اختراق الذكاء الاصطناعي. وتقوم التقنية بزرع أوامر خبيثة إلى جانب كلمات مرور ومفاتيح تشفير مخزنة على AWS، بهدف تشغيل آليات الرفض لدى النماذج اللغوية الكبيرة أثناء الهجوم، ما يؤدي إلى إيقاف عملها. وتُستخدم حقن الأوامر عادةً من قبل المهاجمين لإجبار نماذج LLM على استخراج بيانات حساسة، لكنّ المدافعين يعيدون توظيفها الآن بوصفها إجراءً وقائيًا.

القصف بالسياق يفعّل آليات رفض LLM

تقوم تقنية القصف بالسياق بزرع حقن الأوامر إلى جانب الأسرار المخزنة في بيئات AWS. وتوجّه هذه الطلبات وكلاء LLM المهاجمين لتنفيذ إجراءات محظورة ضمن “الضوابط” الخاصة بها، وهي حواجز السلامة التي يضعها مطورو الذكاء الاصطناعي لمنع الأعمال الضارة. ومن الأمثلة على ذلك طلب الأوامر إلى الـLLM لتقديم خطوات لتطوير أبواغ “جمرة” (Anthrax) قابلة للاستنشاق، أو الطلب من نماذج LLM الصادرة عن مطورين من الصين بإجراء إحالات إلى “Tank Man” المرتبط بمجزرة ميدان تيانانمن عام 1989. وما إن يواجه الـLLM هذه الأوامر المحظورة، يتوقف عن تنفيذ أوامره الحالية ويغلق.

قال آندي سميث، المؤسس المشارك والمدير التنفيذي لدى Tracebit، عند شرح سبب اختيار الاسم: “في المحصلة، نحن نُفعّل آلية رفض داخل السياق. ما نحاول التقاطه هو أن لهذا تأثيرًا قويًا وحادًا، وقد يكون من الصعب على العوامل العودة عنه. بمجرد أن يدمجوا ذلك ضمن سياقهم، سيواصلون الرفض.”

نتائج الاختبار تُظهر انخفاضًا في نجاح الهجمات من 57% إلى 5%

اختبرت Tracebit تقنية القصف بالسياق على خمسة نماذج: Opus 4.8 وGemini 3.1 Pro وGLM 5.2 وDeepSeek 4 Pro وKimi 2.6. أعطى الباحثون النماذج تعليمات لأداء مهام روتينية للمطورين قادتهم إلى تعداد الموارد والتعامل مع السلاسل المزروعة داخل بيئة AWS محاكية. وخلال 152 عملية هجوم، أدى زرع إحدى هذه السلاسل داخل سرّ وهمي إلى خفض معدل استيلاء الوكلاء على صلاحية مدير الحساب الكامل من 57% إلى 5%. كما خفّضت التقنية نسبة الإخلال الكامل، حيث يترك الوكلاء لأنفسهم أيضًا موطئ قدم دائمًا، من 36% إلى 1%.

Opus 4.8 حقق صفرًا من الهجمات الناجحة

كان أكثر وكيل قدرة ضمن التجارب هو Opus 4.8؛ فقد انتقل من تحقيق وصول إداري في 93% من مرات التشغيل إلى الفشل في كل مرة عندما يواجه “قنبلة سياق”. وذكرت Tracebit أن الاختبارات الأولية تشير إلى أن القصف بالسياق يمتلك إمكانات كبيرة بوصفه إجراءً دفاعيًا ضد وكلاء اختراق الذكاء الاصطناعي.

الأسئلة الشائعة

ما هو القصف بالسياق في أمن الذكاء الاصطناعي؟
القصف بالسياق هو تقنية دفاعية طوّرها باحثون في Tracebit، تقوم بزرع حقن الأوامر إلى جانب أسرار مخزنة على AWS لتفعيل آليات الرفض لدى النماذج اللغوية الكبيرة أثناء الهجوم، بحيث تُغلق بدلًا من اتباع الأوامر الخبيثة.

ما مدى فعالية القصف بالسياق في اختبارات Tracebit؟
عبر 152 عملية هجوم على خمسة نماذج رائدة، خفّض القصف بالسياق معدل الاستيلاء على مدير الحساب الكامل من 57% إلى 5%، وخفض الإخلال الكامل من 36% إلى 1%. أما النموذج الأكثر قدرة، Opus 4.8، فانتقل من معدل نجاح 93% إلى صفر هجمات ناجحة.