أقرت Discord بوجود خلل في نظام الإشراف القائم على الذكاء الاصطناعي لديها، مما أدى إلى حظر أكثر من 8000 مستخدم عن طريق الخطأ خلال الشهرين الماضيين. حدث ذلك بعد تصنيف صور بريئة – مثل جداول البيانات، لوحات الشطرنج، قوام الألعاب (Game Textures)، وحتى الخلفيات الشفافة البيضاء والرمادية – على أنها محتوى ضار بشكل خاطئ. أكدت الشركة أن المشكلة كانت تؤثر على الحسابات منذ شهر مايو، مع حظر 200 مستخدم إضافي خلال عطلة نهاية الأسبوع قبل أن يتمكن فريقها من تحديد المشكلة وإصلاحها. وتجري حالياً عملية استعادة جميع الحسابات المتأثرة.
يسلط هذا الحادث الضوء على أحد التحديات المتزايدة المحيطة بالإشراف المدعوم بالذكاء الاصطناعي، حيث تعتمد العديد من المنصات بشكل متزايد على الأنظمة الآلية لتحديد المواد غير القانونية أو المسيئة على نطاق واسع.
في منشور مفصل على منصة X (تويتر سابقاً)، أوضحت Discord أن نظام الأمان الآلي الخاص بها يعمل عن طريق مطابقة المحتوى المحمل مع قواعد بيانات للمواد الضارة المعروفة. وبينما تم تصميم هذه التقنية لالتقاط المحتوى غير القانوني، أقرت الشركة بأنها قد تولد أحياناً "إيجابيات كاذبة" (False Positives). كان من المفترض أن يقوم المشرف البشري بمراجعة المحتوى، لكن وجود خلل تسبب في حظر النظام للحسابات المتأثرة على الفور. كتبت الشركة: "نحن نعمل على ضمانات أفضل لكي لا يتكرر هذا الأمر مرة أخرى." وأضافت: "تقوم أنظمتنا بوضع علامة على المحتوى من خلال مطابقته مع المواد الضارة المعروفة. يمكن أن ينتج عن هذا النوع من المطابقة التشابهية إيجابيات كاذبة، ولهذا السبب يقوم عضو من فريق الثقة والأمان لدينا دائماً بمراجعة المحتوى المحدد قبل اتخاذ أي إجراء. السلوك المقصود هو أن..."
على منصتي X وريديت، ادعى مستخدمون أنهم تعرضوا لتعليق دائم لمجرد تحميل صور تحتوي على أنماط شبكية مربعة. وتكهن العديد من المستخدمين بأن أدوات الإشراف بالذكاء الاصطناعي لدى Discord أصبحت أكثر حساسية للأنماط الشبكية لأنها استخدمت سابقاً في محاولات لإخفاء أو تمويه محتوى غير لائق (NSFW) واستغلال الأطفال عن أنظمة الكشف الآلية.
عبر المستخدمون المتضررون عن إحباطهم على وسائل التواصل الاجتماعي، حيث يجادل البعض بأن الحظر الدائم للحسابات بناءً على الكشف الآلي وحده يمكن أن تكون له عواقب وخيمة، خاصة بالنسبة للمستخدمين الذين يعتمدون على Discord للعمل، مجتمعات الألعاب، أو الروابط الاجتماعية عن بعد. كتب أحد مستخدمي X: "قد يكون فقدان حساب Discord بسبب شيء غير عادل كهذا مدمراً للغاية ويؤثر على المستخدمين بشدة، وكل يوم يتأثر الملايين من المستخدمين بحظر الذكاء الاصطناعي الخاطئ. يجب أن يتوقف هذا." كما شارك مستخدم آخر على X تغريدة قال فيها: "تم حظر حسابي ظلماً من منصتكم بسبب خلل في نظام الذكاء الاصطناعي الآلي الذي اكتشف قوام ألعابي (GAME TEXTURES) على أنها مواد استغلال أطفال. أحتاج حسابي للعودة لأنني مدير ألعاب وأستخدم Discord لجميع اتصالاتي. لقد طلبت مراجعة تعليقي. @discord @discord_support."
ليست Discord وحدها التي تواجه مشكلات في الإشراف بسبب الأنظمة الآلية. ففي العام الماضي، أبلغ مستخدمو Instagram ومجموعات Facebook عن عمليات تعليق واسعة النطاق وغير مبررة للحسابات، والتي اعتقد الكثيرون أنها ناجمة عن أنظمة الإشراف بالذكاء الاصطناعي. ورغم أن المستخدمين أشاروا إلى الأتمتة كسبب محتمل، إلا أن Meta لم تؤكد علناً ما إذا كانت أخطاء الذكاء الاصطناعي هي المسؤولة. يدفع مجلس الإشراف التابع لـ Meta الآن من أجل زيادة الشفافية. كما واجهت Tumblr العام الماضي شكاوى من مستخدمين قالوا إن حساباتهم تعرضت لتعليق جماعي دون تفسيرات واضحة.
المصدر: عرض الخبر الأصلي
مرحبا، أسمي زين وهذه مدونتي أسعى دائما لأقدم لكم أفضل المواضيع الخاصة بالتكنلوجيا
ليست هناك تعليقات:
إرسال تعليق