- بعد أيام من حادثة OpenAI.. واقعة Anthropic تكشف تحديات السيطرة على وكلاء الذكاء الاصطناعي مع تصاعد سباق تطوير النماذج الأكثر استقلالية
تواجه شركات الذكاء الاصطناعي اختبارًا جديدًا يتعلق بقدرتها على السيطرة على نماذجها المتقدمة، بعدما كشفت شركة Anthropic أن بعض نماذج Claude تمكنت من الوصول غير المصرح به إلى أنظمة ثلاث شركات خلال اختبارات أمن سيبراني، نتيجة خطأ تقني منحها اتصالًا بالإنترنت.
ورغم تأكيد الشركة أن الواقعة جاءت بسبب “فشل تشغيلي” وليس نتيجة سلوك متعمد من النماذج، فإن الحادثة أعادت إلى الواجهة تساؤلات متزايدة حول مدى جاهزية القطاع للتعامل مع جيل جديد من وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام معقدة باستقلالية متزايدة.
وتأتي هذه التطورات بعد أيام فقط من إعلان OpenAI أن أحد وكلائها المعتمدين على الذكاء الاصطناعي استغل ثغرة أمنية خلال اختبار سيبراني للوصول إلى الإنترنت، في حادثة أثارت اهتمام الجهات التنظيمية والمختصين بالأمن السيبراني.
ماذا حدث داخل اختبارات Anthropic؟
بحسب الشركة، كانت نماذج Claude تعمل داخل بيئة اختبار مخصصة لمحاكاة سيناريوهات الهجمات الإلكترونية، وكان من المفترض أن تكون معزولة بالكامل عن الإنترنت.
لكن خطأ في إعدادات أحد شركاء التقييم أدى إلى بقاء الاتصال بالشبكة العامة مفتوحًا، ما منح النماذج فرصة للوصول إلى أنظمة حقيقية بدلًا من البيئة التجريبية.
وخلال تلك الاختبارات، استخدمت النماذج وسائل اختراق تقليدية، مثل استغلال كلمات المرور الضعيفة ونقاط الوصول غير المؤمنة، للوصول إلى أنظمة ثلاث مؤسسات، لم تكشف الشركة عن هويتها.
كما أوضحت أن إحدى الحالات تضمنت نموذج Claude Opus 4.7 الذي تعامل مع شركة حقيقية بعدما تطابق اسمها مع شركة افتراضية داخل سيناريو الاختبار، في حين أوقف نموذج تجريبي آخر هجومه ذاتيًا عندما أدرك أن الهدف الذي وصل إليه حقيقي وليس جزءًا من المحاكاة.
لماذا تتكرر هذه الحوادث؟
رغم اختلاف تفاصيل حادثتي Anthropic وOpenAI، فإنهما تكشفان تحديًا مشتركًا يواجه شركات الذكاء الاصطناعي، يتمثل في أن النماذج أصبحت أكثر قدرة على التخطيط واتخاذ القرار وتنفيذ المهام دون تدخل بشري مباشر.
ومع تطور ما يُعرف بـ AI Agents، لم تعد النماذج تقتصر على الإجابة عن الأسئلة أو إنتاج النصوص، بل أصبحت قادرة على تنفيذ سلاسل من الإجراءات، مثل البحث، وتشغيل البرمجيات، وتحليل الأنظمة، واتخاذ قرارات بناءً على النتائج التي تصل إليها.
ويرى خبراء أن هذه القدرات، رغم أهميتها في رفع الإنتاجية، تزيد أيضًا من احتمالات تجاوز النماذج للحدود الموضوعة لها إذا لم تُصمم بيئات الاختبار وأنظمة الحماية بدقة كافية.
سباق الذكاء الاصطناعي يسبق ضوابط الأمان
تعكس هذه الحوادث جانبًا من المنافسة المحتدمة بين شركات التكنولوجيا الكبرى لتطوير نماذج أكثر قوة واستقلالية.
فشركات مثل OpenAI وAnthropic وGoogle وMicrosoft وMeta تضخ مليارات الدولارات في تطوير وكلاء ذكاء اصطناعي قادرين على تنفيذ مهام معقدة داخل المؤسسات، في وقت لا تزال فيه الأطر التنظيمية وآليات الاختبار تتطور بوتيرة أبطأ من سرعة الابتكار.
ويؤكد ذلك أن التحدي لم يعد مقتصرًا على تحسين أداء النماذج، بل أصبح يشمل بناء ضوابط قادرة على منعها من تجاوز نطاق المهام المسموح بها.
ماذا يعني ذلك للشركات؟
تشير هذه الحوادث إلى أن المؤسسات التي تخطط للاعتماد على وكلاء الذكاء الاصطناعي ستحتاج إلى إعادة النظر في آليات الحوكمة وإدارة المخاطر.
ومن المتوقع أن تتجه الشركات إلى تعزيز عزل بيئات الاختبار، وتقليل الصلاحيات الممنوحة للنماذج، وفرض رقابة بشرية أكبر على العمليات الحساسة، إلى جانب الاستثمار في حلول الأمن السيبراني القادرة على اكتشاف أي سلوك غير متوقع في الوقت الفعلي.
كما قد تدفع هذه التطورات مزودي النماذج إلى تشديد معايير السلامة قبل إتاحة الإصدارات الجديدة للعملاء.
هل تؤثر هذه الحوادث على استثمارات الذكاء الاصطناعي؟
من غير المرجح أن تؤدي مثل هذه الوقائع إلى إبطاء الاستثمارات في الذكاء الاصطناعي، خاصة مع استمرار الطلب القوي على التطبيقات المؤسسية، لكنها قد تدفع الشركات إلى تخصيص ميزانيات أكبر للأمن السيبراني والاختبارات، كما قد تؤدي إلى تشديد الرقابة التنظيمية، خصوصًا في الولايات المتحدة، حيث بدأت السلطات بالفعل في تطوير أطر لتقييم مخاطر النماذج المتقدمة قبل إطلاقها.
وبالنسبة للمستثمرين، أصبحت معايير الأمان والحوكمة عنصرًا لا يقل أهمية عن قدرات النمو والإيرادات، مع تحول الذكاء الاصطناعي إلى بنية تحتية أساسية للاقتصاد الرقمي.
مستقبل الذكاء الاصطناعي.. الابتكار وحده لم يعد كافيًا
تكشف حادثتا Anthropic وOpenAI أن التحدي المقبل في سباق الذكاء الاصطناعي لن يقتصر على تطوير نماذج أكثر ذكاءً، بل سيمتد إلى ضمان قدرتها على العمل ضمن حدود آمنة يمكن التنبؤ بها.
فكلما ازدادت استقلالية النماذج وقدرتها على اتخاذ القرار، أصبحت الحاجة إلى أنظمة رقابة واختبار أكثر تطورًا أمرًا لا يقل أهمية عن الابتكار نفسه.
وفي ظل تسارع المنافسة بين عمالقة التكنولوجيا، يبدو أن معيار النجاح في المرحلة المقبلة لن يكون فقط بناء النموذج الأكثر تقدمًا، وإنما أيضًا النموذج الأكثر أمانًا وثقة.
لقراءة المقالة باللغة الإنجليزية اضغط هنا
