الذكاء الاصطناعي يكافح خطاب الكراهية ضد المتنمرين في تويتر

تواجه المنصات الاجتماعية مثل تويتر تحديات كبيرة بسبب ظاهرة "التنمر الإلكتروني" أو ما يُعرف بـ "الترويل" (Trolling)، حيث يُعبّر المستخدمون عن أراءهم السلبية بالشتائم أو التعليقات المسيئة. وعلى الرغم من المحاولات العديدة التي قامت بها هذه المنصات للحد من هذه الظاهرة، إلا أن الأمر ما زال يشكل مشكلة ملحّة. وفي إطار المبادرات لمواجهة هذا النوع من الخطاب، أطلقت وكالة إبداعية تُدعى Possible حملة تحت عنوان "نواجه الكراهية" (We Counter Hate).

مفهوم الحملة والابتكار التقني

بدأت حملة "نواجه الكراهية" بالشراكة مع منصة Spredfast، وتركزت على تطوير تقنية الذكاء الاصطناعي (AI) القادرة على التعرف على التغريدات التي تحتوي على خطاب كراهية. فعند اكتشاف المحتوى المسيء، يتدخل مُشرف بشري لإرسال "تغريدة مضادة"، تُشير إلى أن التغريدة التي تم نشرها قد تم التصدي لها بطريقة إيجابية. كما أن الحملة تتبنى نموذجًا تبرعيًا، حيث يتم تخصيص دولار واحد لدعم منظمة "الحياة بعد الكراهية" (Life After Hate) عن كل إعادة تغريد تطرأ على محتوى الحملة، بفضل التبرعات العامة.

التقنية وراء التصدي للكراهية

خلال حديثها مع VentureBeat، أوضحت وكالة Possible كيفية تدريب الذكاء الاصطناعي للتعرف على خطاب الكراهية استنادًا إلى “المراحل العشر لإبادة الأشخاص” (Ten Stages of Genocide) لجريجوري ستانتون. حيث قامت الوكالة بتعديل الوثيقة مع التركيز على النقاط المهمة المتعلقة بتويتر، من أجل التعرف على التغريدات التي تهدف لتجريد الآخرين من إنسانيتهم أو تلك التي تسعى لتقسيم المجتمع بشكل متعمد.

وتقوم الآلية المُعتمدة على تصنيف التغريدات تحت فئات مختلفة من خطاب الكراهية، قبل إرسالها إلى النظام التعلمي لإكسابه القدرة على فهم الفروق اللغوية. بمجرد أن يتم تدريب الذكاء الاصطناعي بصورة صحيحة، يُمكنه تمييز الرسائل التي تتطلب تدخل المُشرفين البشر لتحديد ما يعتبر فعلاً خطاب كراهية.

التحديات والانتقادات

رغم النوايا الطيبة وراء الحملة، إلا أن هناك مجموعة من التحديات التي تواجهها. فعلى سبيل المثال، التاريخ يشير إلى أن المنصات التي تحمل أهدافًا نبيلة غالبًا ما تُستهدف من قِبل المتنمرين. يُذكّرنا هذا بسلسلة من الأحداث المحزنة التي شهدها الممثل شيا لابوف عندما أطلق مشروع "لن يُفرقنا" (He Will Not Divide Us) احتجاجًا على تنصيب ترامب، والذي استُهدف من قبل المتنمرين حتى تم إغلاقه بعد فترة قصيرة.

هذا يجعلنا نتساءل: هل ستقدم حملة "نواجه الكراهية" نفس النتائج السلبية؟ ليس من الصعب تخيل سيناريوهات قد تقوم بها مجموعات من المتنمرين بإيجاد وسيلة للتلاعب بالروبوتات وتجاوز قيودها.

بالإضافة إلى ذلك، كيف يساهم هذا البرنامج، بطريقة غير مقصودة، في تعزيز خطاب الكراهية؟ حيث أن زيادة التغريدات المسيئة ستؤدي بالضرورة إلى زيادة التغريدات المضادة. هذا قد يشجع البعض على نشر خطاب الكراهية فقط ليشهدوا ردود الأفعال.

السياق الأوسع للمشكلة

على الرغم من أن هذه الحملات تمثل خطوة إيجابية في مواجهة مشاكل الإنترنت، إلا أنني أشعر بالقلق من أنها قد تنتهي في خيبة الأمل. لا توجد حلول شاملة أو نهائية لمواجهة التنمر على الإنترنت. فالعملية تتشابك مع أنظمة التواصل الاجتماعي ذاتها ولا أرى أن هناك حلاً واحدًا فعالًا ينتقص من هذه المشكلة. لذا، من غير المرجح أن يكون روبوت مُصمم لأغراض تسويقية لصالح وكالة إبداعية هو الحل الوحيد.

أسئلة شائعة

1. ما هي حملة "نواجه الكراهية"؟

   • هي حملة أطلقتها وكالة Possible للتصدي لخطاب الكراهية على تويتر باستخدام الذكاء الاصطناعي.

2. كيف يعمل الذكاء الاصطناعي في الحملة؟

   • يتم تدريب الذكاء الاصطناعي على التعرف على خطاب الكراهية وتصنيف التغريدات، ليتم الرد عليها بتغريدة مضادة.

3. ما الفائدة من الحملة؟

   • تساهم الحملة في توعية المستخدمين بدور خطاب الكراهية وتعزيز الحوار الإيجابي.

4. هل تواجه الحملة تحديات؟

   • نعم، فهناك احتمال أن تُستغل الحملة من قِبل المتنمرين، وقد تعزز خطاب الكراهية بدلاً من تقليله.
5. كيف يمكن المشاركة في الحملة؟
   • يمكن ذلك من خلال إعادة تغريد المحتوى الخاص بالحملة وتقديم التبرعات لدعم القضايا المتعلقة بمكافحة الكراهية.

من المهم أن نفهم أن التحركات لمواجهة خطاب الكراهية تحتاج إلى المزيد من الجهود المشتركة. يمكن للمواطنين أن يلعبوا دورًا في تغيير البيئة الإلكترونية من خلال الإبلاغ عن المحتوى المسيء ودعم الحملات الإيجابية. جميع هذه الجهود تتطلب تعاونًا فعالًا عبر المجتمعات وعلى المنصات الاجتماعية المحلية والعالمية.