بعد ثمانية عشر شهرًا من حظر Facebook للمجتمعات والمستخدمين المرتبطين بحركة “Boogaloo” المناهضة للحكومة ، عادت أفكار الجماعة المتطرفة وازدهرت على منصة التواصل الاجتماعي ، وفقًا لبحث جديد.
وجدت الورقة ، من جامعة جورج واشنطن و Jigsaw ، وهي وحدة داخل Google تستكشف التهديدات للمجتمعات المفتوحة – بما في ذلك الكراهية والسمية والتطرف العنيف والرقابة – أنه بعد حظر Facebook في يونيو 2020 لحركة ميليشيا Boogaloo ، “ارتد” المحتوى ، في البداية ثم ارتد إلى حجمه الأصلي تقريبًا.
قالت بيث جولدبيرج ، رئيسة قسم البحث والتطوير في شركة Jigsaw: “ما تقوله هذه الدراسة هو أنه لا يمكنك لعب لعبة whack-a-mole مرة واحدة والخروج بعيدًا”. “أنت بحاجة إلى الإشراف المستمر على المحتوى – وتعديل المحتوى المتكيف والمتطور ، لأن هذه المجموعات متكيفة ومتطورة.”
يأتي البحث ، الذي لم تتم مراجعته من قبل الأقران ، في وقت تقوم فيه العديد من شركات التكنولوجيا ، بما في ذلك Facebook ، بقطع أقسام الثقة والأمان لديهم ، ويتم التشهير بجهود الإشراف على المحتوى والتخلي عنها.
تراقب الفرق داخل Facebook والعاملين الخارجيين المتعاقدين مع Facebook المنصة للمستخدمين والمحتوى الذي ينتهك سياساتها ضد ما تسميه الشركة المنظمات والأفراد الخطرين. صنفت Facebook حركة Boogaloo على أنها “شبكة عنيفة مناهضة للحكومة مقرها الولايات المتحدة” بموجب تلك السياسة في عام 2020.
قالت Meta ، الشركة الأم لـ Facebook ، في بيان إن الدراسة الجديدة هي “لقطة من لحظة واحدة في الزمن قبل عامين – نعلم أن هذه مساحة عدائية تتغير باستمرار ، حيث يحاول الجناة باستمرار إيجاد طرق جديدة للالتفاف على سياساتنا. من أولوياتنا الحفاظ على أمان منصاتنا ومجتمعاتنا. لهذا السبب نستمر في الاستثمار بكثافة في الأشخاص والتكنولوجيا للبقاء في طليعة المشهد المتطور ، ثم دراسة هذه التكتيكات وصقلها لضمان فعاليتها في الحفاظ على أمان مستخدمينا ومنصاتنا “.
عُرف أعضاء حركة بوجالو الفضفاضة بمشاركتهم في المظاهرات المناهضة للإغلاق واحتجاجات جورج فلويد في عام 2020 ، حاملين بنادق هجومية ويرتدون دروعًا واقية من الجسد وقمصان هاواي. لقد دعوا إلى حرب أهلية ثانية ، حتى أن بعضهم اتهم بارتكاب عدد من الجرائم العنيفة ، بما في ذلك القتل.
في إعلانه عن الحظر في صيف عام 2020 ، قال فيسبوك إن أعضاء حركة ميليشيا بوجالو يستخدمون منصة التواصل الاجتماعي للتنظيم والتجنيد. كما أقر فيسبوك بأن إزالة مئات المستخدمين والصفحات والمجموعات كانت مجرد خطوة أولى ، حيث توقعت الشركة أن تحاول المجموعة العودة.
جاء في منشور مدونة فيسبوك: “ما دامت الحركات العنيفة تعمل في العالم المادي ، فسوف يسعون لاستغلال المنصات الرقمية”. “نحن نعمل على تكثيف جهودنا ضد هذه الشبكة ونعلم أنه لا يزال هناك المزيد للقيام به.”
كان موقع Facebook على حق ، وفقًا للبحث الجديد من جامعة جورج واشنطن و Jigsaw.
استخدم تحليل الباحثين خوارزمية حددت المحتوى من الحركات اليمينية المتطرفة ، بما في ذلك Boogaloo و QAnon والقوميين البيض والجماعات الوطنية والميليشيات. تضمنت البيانات المستخدمة لتدريب الخوارزمية 12 مليون منشور وتعليق من ما يقرب من 1500 مجتمع عبر ثماني منصات على الإنترنت ، بما في ذلك Facebook ، من يونيو 2019 حتى ديسمبر 2021.
تم تدريب الخوارزمية على التعرف على النص في المنشورات من هذه الحركات المتطرفة وتحديد محتوى Boogaloo الناشئ ، ليس من خلال الكلمات الرئيسية أو الصور المتطابقة ، ولكن من خلال أوجه التشابه في الخطابة والأسلوب. بمجرد أن حددت الخوارزمية هذه المنشورات ، أكد الباحثون أن المحتوى مرتبط بـ Boogaloo ، ووجدوا صراحة جماليات Boogaloo والميمات التي تضمنت قمصان هاواي وعيون الليزر الحمراء.
قال غولدبيرغ: “لقد تطورت اللغة المشفرة التي كانوا يستخدمونها تمامًا” ، مشيرًا إلى أن الحركة بدت وكأنها تتجاهل مصطلحات مثل “بوج” و “كوخ الإسكيمو الكبير”. وقالت: “كان هذا تكيفًا متعمدًا للغاية لتجنب عمليات الإزالة”.
من خلال تحليلهم ، نجح حظر Boogaloo الأولي ، مما قلل إلى حد كبير من محتوى حركة الميليشيات ، ولكن بعد 18 شهرًا من الحظر ، في أواخر عام 2021 ، كانت كمية المحتوى المرتبط بـ Boogaloo على مجموعات Facebook العامة – بما في ذلك المناقشات حول تعديلات الأسلحة المخصصة والاستعدادات لـ الحرب الأهلية – عادت تقريبًا إلى مستوى ما قبل الحظر.
يبدو أن البحث الذي نشرته Meta الأسبوع الماضي يدعم استنتاجات Jigsaw حول فعالية الإلغاء الأولي: إزالة مجموعات الكراهية وقادتها أعاق عمليات المجموعات عبر الإنترنت.
ومع ذلك ، في منشور مدونة على البحث نُشر يوم الجمعة ، أشارت Jigsaw إلى أن الترابط المتزايد بين المنصات الرئيسية والبديلة – بما في ذلك Gab و Telegram و 4Chan ، والتي قد تفتقر إلى الإرادة أو الموارد لإزالة المحتوى المتطرف البغيض والعنيف – تجعل كبح هذا المحتوى أمرًا مشكلة أكثر تعقيدًا من أي وقت مضى.
تمكّن متطرفو Boogaloo ، الذين يتمتعون ببراعة في التحايل على تطبيق الاعتدال ، من التهرب من الوسطاء من خلال الهجرة عبر (والعودة من) المنصات البديلة.
تعتمد الدراسة الجديدة على مجموعة صغيرة من الأبحاث الأكاديمية ، والتي تُظهر عمومًا أنه عندما يتم حظر المتطرفين من استخدام المنصات الرئيسية ، فإن وصولهم يتضاءل. يشير البحث أيضًا إلى أن الدفع إلى منصات بديلة يمكن أن يكون له تأثير غير مقصود على تطرف الأتباع الذين ينتقلون إلى مساحات صغيرة على الإنترنت أو غير خاضعة للإشراف أو خاصة.
نشرت Jigsaw أيضًا نتائج دراسة نوعية حديثة أجرى فيها الباحثون مقابلات مع أشخاص لديهم منشورات أو حسابات تمت إزالتها من منصات وسائل التواصل الاجتماعي السائدة نتيجة لإجراءات الإنفاذ. أبلغوا عن التحول إلى منصات بديلة والتعرض لمحتوى أكثر تطرفًا ، وبعضها ، في تأثير آخر ، قاموا بنشره مرة أخرى على المنصات الرئيسية. ذكرت Jigsaw أن جميع الأشخاص الذين تمت مقابلتهم تقريبًا عادوا في النهاية إلى المنصات الرئيسية.
كتب باحثو Jigsaw: “أراد الناس أن يكونوا على الإنترنت حيث تدور النقاشات العامة”.
قال مارك أندريه أرجنتينو ، الباحث البارز في اتحاد أبحاث التسارع ، الذي يدرس الحركات المتطرفة عبر الإنترنت ولم يشارك في ورقة Jigsaw ، إن الحظر يعمل في البداية ، لكن يجب تنفيذه.
قال أرجنتينو عن ميتا ، “لقد وضعوا في الأساس ضمادة إسعافات أولية على جرح ناجم عن طلق ناري. لقد أوقفوا النزيف لكنهم لم يعالجوا الجرح “.
قال أرجنتينو إن جهود المنصات التقنية للحفاظ على أمان المساحات على الإنترنت تعتمد بشكل مفرط على الأجهزة والأدوات الخوارزمية.
وقال: “إنهم يريدون أتمتة العملية ، وهذه ليست طريقة معقدة للقضاء على البشر الذين يعملون بنشاط للعودة إلى المنصة لإيصال رسائلهم”.
وبحسب ما ورد أنهت Meta العقود أو قامت بتسريح مئات العمال المكلفين بمراقبة المحتوى والثقة والسلامة ، وفقًا للوثائق المقدمة إلى وزارة العمل الأمريكية. تعكس التخفيضات الأخيرة صدى التقلبات في شركات التكنولوجيا الأخرى للفرق التي تراقب خطاب الكراهية والمعلومات المضللة.
قال أرجنتينو: “إنهم يقطعون الفرق ، ولا توجد موارد للتعامل فعليًا مع العديد من التهديدات”. “حتى تكون هناك طريقة لإبقاء المنصات خاضعة للمساءلة ، وعليهم أن يلعبوا الكرة بطريقة هادفة. ستكون هذه الحلول المرقعة فقط “.
اكتشاف المزيد من صحيفة 24 ساعة
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.