تواجه منصات التواصل الاجتماعي مشكلة متزايدة مع انتشار المحتوى المزعج والروبوتات، خاصة بعد سهولة استخدام أدوات الذكاء الاصطناعي في كتابة منشورات وتعليقات بكميات كبيرة.
منصة Reddit قالت إنها بدأت استخدام أدوات تعتمد على نماذج اللغة الكبيرة LLMs لاكتشاف السبام والمحتوى المزيف بشكل أسرع وأكثر دقة.
المفارقة هنا أن جزءًا كبيرًا من هذا المحتوى المزعج يتم إنتاجه أصلًا باستخدام أدوات الذكاء الاصطناعي، لذلك أصبحت المنصات مضطرة لاستخدام الذكاء الاصطناعي لمواجهة المشكلة نفسها.
وبحسب Reddit، تحظر المنصة يوميًا حوالي 23 مليون مشاهدة لمحتوى مزعج، كما تكتشف نحو 25 ألف منشور وتعليق سبام جديد كل يوم.
وتقول الشركة إن أدواتها الجديدة تساعد في رصد السلوك المزيف، والحملات المنسقة، ومحاولات خلق تفاعل وهمي حول بعض الموضوعات.
كما أعلنت Reddit أن هذه الأدوات ساعدت في تقليل تعرض المستخدمين للسبام بنسبة 20% خلال الفترة من يناير إلى مارس، مقارنة بالأشهر الثلاثة السابقة.
هذه الخطوة تأتي في وقت تتعامل فيه منصات كبرى مثل YouTube وMeta وInstagram وTikTok مع زيادة المحتوى المولّد بالذكاء الاصطناعي، سواء من خلال طلب الإفصاح عنه أو منح المستخدمين خيارات للتحكم في ظهوره.
لكن رغم أهمية الذكاء الاصطناعي في اكتشاف المحتوى المخالف بسرعة، يرى خبراء أن الاعتماد عليه وحده لا يكفي. فالمراجعة البشرية تظل ضرورية لفهم السياق، وتقليل الأخطاء، وضمان قرارات أكثر عدلًا في إدارة المحتوى.
لقراءة المقالة باللغة الإنجليزية اضغط هنا
