أعلنت شركة OpenAI عن إطلاق ميزة أمنية جديدة تحمل اسم Lockdown Mode، وتهدف إلى تقليل مخاطر هجمات حقن الأوامر داخل ChatGPT، خاصة عند التعامل مع محتوى خارجي مثل صفحات الويب، الملفات المرفوعة، أو مصادر البيانات المختلفة.
وتحدث هجمات حقن الأوامر عندما يتم إخفاء تعليمات ضارة داخل محتوى خارجي يقرأه نموذج الذكاء الاصطناعي. وقد تؤدي هذه التعليمات إلى التأثير على سلوك النموذج، أو تغيير دقة إجاباته، أو محاولة دفعه للكشف عن معلومات حساسة دون قصد.
ولتقليل هذا النوع من المخاطر، يعمل Lockdown Mode على فرض قيود أكثر صرامة على طريقة تفاعل ChatGPT مع المحتوى الخارجي. فعند تفعيله، يتم تعطيل أو تقييد بعض الخصائص مثل التصفح المباشر للويب، واسترجاع الصور من الإنترنت وعرضها، والبحث العميق، ووضع الوكيل Agent Mode.
ورغم ذلك، أوضحت OpenAI أن تفعيل هذا الوضع لا يعني القضاء الكامل على مخاطر حقن الأوامر. فقد تظل بعض التعليمات الضارة موجودة في محتوى مخزن مؤقتًا، أو داخل ملف قام المستخدم برفعه، وقد تؤثر في سلوك النموذج أو دقة الاستجابة.
وتؤكد الشركة أن Lockdown Mode ليس موجهًا لجميع المستخدمين، بل صُمم بالأساس للأفراد والمؤسسات التي تتعامل مع بيانات حساسة وتحتاج إلى طبقة حماية إضافية للحد من مخاطر تسريب البيانات الناتجة عن هجمات حقن الأوامر.
وتطرح OpenAI الميزة حاليًا لحسابات ChatGPT Business ذاتية الخدمة، إلى جانب بعض الحسابات الشخصية المؤهلة.
وتعكس هذه الخطوة التحدي الأمني المتزايد أمام منتجات الذكاء الاصطناعي، فكلما أصبحت النماذج أكثر اتصالًا بالويب والملفات والأدوات الخارجية، زادت الحاجة إلى ضوابط أكثر صرامة لحماية البيانات الحساسة وتقليل فرص استغلال الأنظمة عبر تعليمات مخفية.
لقراءة المقالة باللغة الإنجليزية اضغط هنا
