يتسابق قراء الفانفيكشن لتطوير طرق للكشف عما إذا كان الذكاء الاصطناعي التوليدي قد استُخدم في كتابة الأعمال الفنية المشتقة (fanworks)، لكن النتائج لا تزال موضع شك. في الأسابيع الأخيرة، انطلقت حركة جديدة داخل مجتمع الفانفيكشن تهدف إلى استئصال المؤلفين الذين يستخدمون الذكاء الاصطناعي التوليدي. ومع ذلك، فإن أساليب الكشف المطبقة مشكوك فيها، وأي كاتب فانفيكشن قد يقع في مرمى نيران هذه الحملة.
لطالما ساد استياء واسع النطاق من استخدام كلود (Claude) وتشات جي بي تي (ChatGPT) وأدوات الذكاء الاصطناعي الأخرى في المجتمعات الإبداعية، بما في ذلك عالم الفانفيكشن. تناقل القراء والكتاب نصائح حول كيفية رصد الأعمال التي يُفترض أنها مولّدة بواسطة الذكاء الاصطناعي، مستشهدين بأي شيء بدءًا من استخدام الشرطات الطويلة (em dashes) وحتى المفهوم العام للغة الزخرفية المبالغ فيها (purple prose).
لكن في 29 يونيو، وعد حساب مجهول على منصة X يحمل اسم @heatedrivalryai بتقديم حل يبدو أكثر موثوقية. نشر الحساب "مظهرًا" (skin) – يشبه الإضافة – لموقع أرشيف الأعمال الخاصة بنا (Archive of Our Own - AO3) الشهير، والذي يزعم أنه قادر على تحديد "بقايا برمجية" تتركها روبوتات كلود من Anthropic. صرح حساب @heatedrivalryai: "عند لصق استجابة مولّدة بواسطة كلود مباشرة في AO3، يتم تغليف النص بكود يُحقنه كلود وهو 'font-claude-response-body'. يشير وجوده بشكل قاطع إلى استخدام كلود."
عندما يزور المستخدم صفحة (مثل عمل فانفيكشن) تحتوي على هذا الكود، يقوم المظهر بتحويل الخلفية بأكملها إلى اللون الأحمر. نُشرت العديد من المشاركات الاختبارية على AO3 للسماح للمستخدمين بالتحقق من فعاليته. عند اختبار المظهر بنفسي على هذه الأمثلة، تحولت الشاشة إلى اللون الأحمر على الفور. وقمت بنشر قصة قصيرة مولّدة بواسطة كلود لإجراء تجربتي الخاصة، وظهرت الشاشة الحمراء عندما قمت باللصق مباشرة من روبوت الدردشة إلى المحرر، واختفت إذا قمت بلصق نص (بما في ذلك القصة المولّدة نفسها) لم يأتِ مباشرة من كلود.
رافق منشور كاشف كلود أمثلة لأعمال فانفيكشن تم رصد هذه البقايا فيها، والتي قال المبتكر المجهول إنها تهدف إلى إظهار عمل النظام، وليس "خلق بيئة من عدم الثقة أو اتهام مستخدمين محددين." ومع ذلك، تحركت مجتمعات الفانفيكشن بسرعة لتسمية وتشهير الكتاب الذين تم الإشارة إلى أعمالهم بواسطة الأداة. ولا يعتبر مبتكر الأداة الذكاء الاصطناعي شيئًا إيجابيًا: "عالم الفاندم هو مساحة فريدة من نوعها للتواصل والتعاون. يزدهر بالعنصر البشري والشرارة الإبداعية التي تدفعه وتتغذى عليه. إذا سمحنا، دون علم، للذكاء الاصطناعي بإفساد هذه المساحات، فماذا سيبقى منها؟"
لم تستجب شركة Anthropic لطلب التحقق مما إذا كان كاشف كلود المصنوع من قبل المعجبين يعمل كما هو موصوف. ومع ذلك، تبدو المنهجية هنا سليمة، وتدعم اختباراتنا الخاصة ذلك. لا يوجد سبب واضح لوجود كود كلود في قصة إذا لم يتم استخدام الروبوت بطريقة ما.
لكن هناك خطر واضح من كل من النتائج السلبية الخاطئة (false negatives) والتعميم المفرط. يتم الاحتفاظ بتغليف الكود فقط إذا تم نسخ النص مباشرة من كلود إلى محرر AO3، لذلك لن تكتشف الأداة أي نص تم تحريره في Google Docs أو Microsoft Word ثم نقله إلى AO3. وبصفتي أكتب للعيش، يمكنني أن أشهد على مدى خطورة الكتابة مباشرة في نظام إدارة المحتوى (CMS). قام بعض الكتاب الذين تم وضع علامة عليهم بالفعل بتحديث أعمالهم لإزالة البقايا، ويمكن للأعمال المستقبلية التهرب بسهولة من الأداة.
على النقيض من ذلك، لا يكشف الوسم عن مدى كثافة استخدام كلود في عمل معين. قد يعني وميض الشاشة القرمزية أن القصة بأكملها مولّدة بالكامل بواسطة الذكاء الاصطناعي، أو أن المؤلف لصق بضع جمل مكتوبة يدويًا في كلود للتدقيق الإملائي أو الترجمة، ثم نقلها مرة أخرى إلى AO3. لم يهم ذلك بعض أعضاء الفاندوم، الذين يرون أي استخدام للذكاء الاصطناعي التوليدي خيانة لا تُغتفر للمجتمع الإبداعي الأوسع. يستشهد العديد من الأشخاص بمخاوف بشأن التأثير البيئي للتكنولوجيا وكيف يتم تدريبها عن طريق جمع البيانات من الويب المفتوح، والذي من المحتمل أن يشمل أعمال الفانفيكشن التي تم تحميلها على منصات مثل AO3.
تطبيق هذه الأداة بالذات محدود – فـ AO3 ليست المنصة الوحيدة لنشر الفانفيكشن، وكلود هو مجرد نموذج واحد من بين العديد من نماذج الذكاء الاصطناعي. يدعي شخص واحد على الأقل أنه كتب كودًا منفصلاً يمكنه اكتشاف استخدام "كلود، ديبسيك (Deepseek)، وبعض نماذج تشات جي بي تي"، لكنه لم يُصدر هذا الحل للجمهور أو يشرح كيفية عمله. سألت Google وOpenAI عما إذا كانت نماذجهما تترك أي بقايا قابلة للتتبع في توليد النصوص يمكن اكتشافها بوسائل مماثلة، لكنهما لم يستجيبا. في الواقع، سيكون من المدهش للغاية إذا وُجد نظام موثوق به عالميًا.
لقد كنت أُبلغ عن المشكلات المحيطة بكشف الذكاء الاصطناعي منذ بضع سنوات حتى الآن، وعلى حد علمي، لا يوجد حاليًا حل تكنولوجي موثوق به للتمييز بين النص المولّد والنص المكتوب بأيدي بشرية. تُحقق أنظمة مثل C2PA Content Credentials و Google's SynthID بعض التقدم نحو تحديد الذكاء الاصطناعي التوليدي في الصور ومقاطع الفيديو وحتى الصوت، لكن هذه تعتمد على علامات مائية غير مرئية وبيانات وصفية (metadata) لا تنتقل مع النصوص المنسوخة والملصقة.
يمكن أن يتغير هذا في المستقبل، ولدى شركات الذكاء الاصطناعي كل الحوافز لحل المشكلة داخليًا على الأقل. تدربت النماذج المبكرة على نصوص تم جمعها عشوائيًا من الإنترنت، ومع تزاحم الكتابة البشرية بنظيرتها الاصطناعية، قد تخاطر هذه النماذج بسيناريو "انهيار النموذج" (model collapse) الذي من شأنه أن يقلل من دقة المخرجات.
في الوقت الحالي، تعتمد مجتمعات الفاندوم في الغالب على "الإحساس العام" (vibes). لا يتم الحكم على معظم أعمال الفانفيكشن بواسطة أداة مثل مظهر AO3، بل بواسطة "مؤشرات" يمكن أن تشمل أي شيء بدءًا من هياكل جمل محددة – مثل "إنه ليس X، إنه Y" سيئ السمعة – إلى الإفراط في استخدام الاستعارات الزهرية. (على الأقل، لم يتحول أحد في الفاندوم، حتى الآن، إلى جعل المقاعد تصبح رجالًا).
لكن علينا أن نتذكر أن الذكاء الاصطناعي غالبًا "يكتب بهذه الطريقة" لأنه تدرب على مواد كتبها أناس حقيقيون. إنه يحاول تقليدنا. لست جريئًا بما يكفي لمشاركة علامات AO3 المرجعية الخاصة بي، لكنني بالتأكيد قرأت بعض أعمال الفانفيكشن المبالغ فيها في أيام ما قبل تشات جي بي تي والتي لن تجتاز هذا الاختبار المشكوك فيه.
أفضل حل لتمييز أعمال الذكاء الاصطناعي على AO3 متاح بالفعل: نظام الوسوم القوي للموقع. يوجد وسم "تم الإنشاء باستخدام الذكاء الاصطناعي التوليدي" (Created Using Generative AI)، ويقوم العديد من المؤلفين بتضمينه للكشف عن استخدام أدوات مثل كلود. لكن هذا يتطلب شفافية صادقة، وهناك حافز ضئيل للصدق نظرًا لرد الفعل العنيف.
تجدر الإشارة أيضًا إلى أن الفانفيكشن يُفترض أن يكون هواية، وليس صناعة منظمة. مع هذه الجهود لمنع الذكاء الاصطناعي من سحب الانتباه بعيدًا عن الإبداع البشري الأصيل، قد يصبح المؤلفون الذين لا يتوافقون مع ما يُعتبر جودة كتابة مقبولة ضحايا أبرياء لحملة مطاردة الساحرات المستمرة. وقع كاتب واحد على الأقل بالفعل في هذا الفخ لأن شخصًا آخر وثق به لتحرير عمله فعل ذلك باستخدام كلود. لذا، إذا شعرت أن عمل الفانفيكشن التالي الذي تقرأه آليًا بعض الشيء، تذكر أنه قد لا يكون في الواقع نتاج روبوت.
المصدر: عرض الخبر الأصلي
مرحبا، أسمي زين وهذه مدونتي أسعى دائما لأقدم لكم أفضل المواضيع الخاصة بالتكنلوجيا
ليست هناك تعليقات:
إرسال تعليق