إنت عربي
بينما تتجه الشركات الناشئة حول العالم إلى أتمتة عملياتها باستخدام تقنيات الذكاء الاصطناعي، كشفت واقعة حديثة لشركة PocketOS عن مخاطر غير متوقعة لهذا التوجه
فقد تعرضت الشركة، التي أسسها “جيريمي كرين”، لفقدان كامل لقاعدة بياناتها، إلى جانب النسخ الاحتياطية، بعد استخدام وكيل برمجي يعتمد على الـAI بهدف تسريع عمليات التطوير
وبحسب ما تم تداوله، فإن النظام القائم على نموذجClaude اتخذ قرارًا خاطئًا أدى إلى حذف البيانات، دون أن يكون ذلك نتيجة اختراق أمني، بل بسبب آلية تنفيذ الأوامر الممنوحة له
وتثير هذه الواقعة تساؤلات متزايدة حول مدى أمان الاعتماد الكامل على الذكاء الاصطناعي في بيئات العمل الحساسة، خاصة مع التوسع في استخدام ما يُعرف بـ الوكلاء الأذكياء
كيف يستفيد رواد الأعمال من هذه الواقعة؟
- عدم الاعتماد الكلي على الذكاء الاصطناعي: حتى أكثر النماذج تطورًا قد تتسبب في أخطاء جسيمة عند منحها صلاحيات واسعة
- أهمية أنظمة الأمان والرقابة: تسريع التطوير يجب أن يقابله استثمار موازي في أنظمة الحماية
- النسخ الاحتياطي ضرورة وليس خيارًا
ماذا يعني ذلك للشركات الناشئة؟
تأثرت بعض الشركات المتعاملة معPocketOS بشكل مباشر، حيث فقدت بيانات تشغيلية مهمة، ما يعكس حجم المخاطر المرتبطة بالاعتماد المفرط على الأنظمة الذكية دون ضوابط واضحة
وفي ظل هذا التطور، لم يعد السؤال”هل يستطيع الذكاء الاصطناعي تنفيذ المهام؟”،بل أصبح”إلى أي مدى يمكن الوثوق به دون تدخل بشري؟”
