همه چیز درباره نفرت پراکنی در شبکه های مجازی - وبلاگ سارا

به گزارش وبلاگ سارا، جیمز هادون، استاد جامعه شناسی و مدیر مرکز مطالعات صلح و پیشگیری از خشونت در ویرجینیا تک، ایالات متحده، سال های زیادی را صرف مطالعه نفرت پراکنی آنلاین، از جمله سخنان نفرت انگیز و سایر انواع خشونت در فضای مجازی نموده است. کار او آنالیز نموده است که چگونه سخنان نفرت انگیز فراوری می گردد، چگونه این گروه ها و افرادی که آن را فراوری می نمایند رادیکالیزه می شوند، چگونه در اینترنت پخش می گردد، چه تأثیراتی بر فراورینمایندگان و اهداف نفرت آنها دارد و همچنین جوامع برای جلوگیری از آنها چه کاری می توانند انجام دهند.

افراط گرایی به قدمت تمدن است، اما کسانی که هوادار نفرت پراکنی هستند می توانند با استفاده از اینترنت ایده های خود را به طور گسترده تری به نمایش بگذارند. اکنون میلیاردها کاربر در یک جریان اطلاعاتی دنیای شرکت می نمایند و بسیاری از کشورها، مانند چین، اکنون سعی می نمایند این جریان قوی را محدود نمایند زیرا آنها آن را یک رقیب سیاسی یا فرهنگی برای ساختارهای قدرت ارتدکس می دانند.

در طول هفت سال گذشته، جیمز هادون و همکارانش گفتگوی خشونت آمیز آنلاین را در سراسر هفت کشور مورد آنالیز قرار داده اند که دارای سطح بالایی از دسترسی به اینترنت و محدودیت های مختلف اما عمدتاً کم محدودیت های دولتی است.

در این مدت، گروه تحقیق افزایش نفرت پراکنی آنلاین را که به گروه ها حمله می نماید، بر اساس نژاد، قومیت، ملیت، گرایش جنسی، مذهب یا بعضی از ویژگی های گروه دیگر، مستند نموده است. این نوعی خشونت سایبری است که برخلاف زورگویی نه به شخص اختصاص دارد و نه یک قربانی خاص و این مطالب که شامل متن، فیلم، عکس، بازی و سایر روش های ارتباطی است، ابراز نفرت یا تحقیر نسبت به یک مجموعه است.

مطالعات زیادی صورت گرفته است که تأثیر منفی موارد تنفر آمیز را تأیید می نماید و همانطور که یکی از کارهای مشترک هادون بیان می دارد، این نوع سخنان نفرت انگیز بسیاری اثرات مخربی دارد. قرار دریافت در معرض نفرت پراکنی با طیف وسیعی از نتایج رفتاری منفی ارتباط دارد، به عنوان مثال به کاهش اعتماد اجتماعی، انتقال بین نسلی با ایدئولوژی افراطی، تقویت تبعیض علیه گروه های مورد هدف و ترس و خشم در میان اعضای یک گروه می توان اشاره نمود. قرار دریافت در معرض این رفتار افراطی نیز با اعمال خشونت آمیز مرتبط است.

شدیدترین نمونه این امر ظهور داعش و استفاده آنها از اینترنت و رسانه های اجتماعی برای رادیکال سازی و استخدام اعضا و برنامه ریزی اقدامات خشونت آمیز در سطح بین المللی است. تا همین اواخر، بیشتر تحقیقات در خصوص این موضوع در کشورهای انگلیسی زبان صورت گرفته است. با این حال، مطالعات اخیر بیشتر دامنه خود را گسترش داده و شامل فنلاند، فرانسه، آلمان، لهستان و اسپانیا است. بدیهی است که با توجه به ماهیت فزاینده دنیای گروه های گسترش دهنده نفرت و امکان دیگر جنبش های نفرت ملی سراسری مشابه داعش، دامنه تحقیقات باید گسترده تر باشد.

گسترش دهندگان نفرت در فضای مجازی (راست گرایان) تمایل دارند که دنیا بینی ضد دنیا وطنی اتخاذ نمایند که ملت و فرهنگ آنها را مورد حمله مهاجرت و چندفرهنگی قرار دهد.

چه کسی آن را می سازد؟

تحقیقات زیادی توسط دکتر هادون و دیگران در خصوص ایجاد نفرت در اینترنت، آنچه افراد را به دیدن آن سوق می دهد و اقدامات برای مبارزه با آن صورت گرفته است. گروه های سازمان یافته نفرت از ابتدای پیدایش آن در اینترنت حضور فزاینده ای داشته اند، اما بیشتر گسترش دهندگان نفرت به صورت آنلاین توسط افرادی ایجاد می گردد که از وب سایت ها نگهداری می نمایند یا در شبکه های اجتماعی اظهار نظر می نمایند و تعداد افرادی که آن را ایجاد می نمایند افزایش یافته است. به عنوان مثال، در یک مطالعه در سال 2013، 7 درصد از آمریکایی ها اعتراف کردند که نفرت پراکنی را در شبکه های مجازی انجام داده اند. در سال 2018، 21٪ به این کار اعتراف کردند.

گرچه افراط گرایی انواع مختلفی دارد اما افراط گرایی راست گرایانه در حال حاضر بر اینترنت یا قطعاً بخش انگلیسی زبان آن تسلط دارد و تولیدنمایندگان نفرت تمایل دارند که دنیا بینی ضد دنیا میهنی اتخاذ نمایند که ملت و فرهنگ آنها را مورد حمله قرار دهد. مهاجرت و چندفرهنگی به وجود آورد. همچنین تمایلات زن ستیزانه و ضد فمینیستی دارد و جای تعجب نیست که مردان بیشتر از خانم ها نفرت پراکنی می نمایند.

در بین اعضای این گروه ها احساس قربانی جمعی نیز وجود دارد و کسانی که وابستگی شدیدی به این جوامع آنلاین احساس می نمایند نیز بیشتر محتمل است نفرت پراکنی نمایند. عامل دیگر این است که به نظر می رسد بین این تولیدنمایندگان و خودکنترلی همبستگی وجود دارد، زیرا خودکنترلی کم نشانگر عدم توانایی در پیش بینی تأثیرات منفی و عدم حساسیت به عواقبی است که رفتار آنها می تواند برای خود داشته باشد یا هدف نفرت آنها باشد.

چگونه گسترش یافته است؟

مطالعات مختلف فرآیندهای جمع شدن و پر کردن را نشان می دهد. افرادی که یک دنیا بینی ضد دنیا میهنی را در جمع می پذیرند و پس از آن، پر کردن ذهن شان در جایی اتفاق می افتد که آنها نگرش های گروه های دیگر را یاد بگیرند و اتخاذ نمایند.

با پیوستن افراد به چنین گروه هایی که باعث افزایش تماس آنها با افراد مشابه می گردد در حالی که تماس آنها با دیدگاه های جایگزین محدود می گردد، می توان این فرآیند را به صورت آنلاین تقویت کرد. این گروه تحقیقاتی دریافت که می تواند دنیا بینی منفی را تقویت کند و مردم در گسترش آن راحت ترند. همانطور که تعداد سایت های پخش نفرت افزایش یافته است، تعداد افرادی که آن را مشاهده می نمایند نیز افزایش یافته است و گروه های گسترش دهنده نفرت نیز از این موضوع مطلع هستند: به گفته یکی از نیروهای راست افراط گرای آلمانی، اینترنت ساده ترین راه برای برقراری ارتباط است و آنها بهتر می توانند مسئولیت ها را به عهده بگیرند و هماهنگ نمایند، شهرت کسب نمایند و پیشرفت نمایند.

الگوریتم هایی که سایتهایی مانند YouTube ،Reddit و Facebook از آنها استفاده می نمایند به اوضاع یاری نمی نمایند، زیرا این مواردی را که کاربران ممکن است دوست داشته باشند توصیه می نماید و آنها را به سمت نفرت از مطالب سوق می دهد. همچنین ممکن است باعث گردد فرد بیشتر بتواند جامعه ای شبیه خود پیدا کند.

کاربران همچنین می توانند به وسیله پیوند به سایت هایی که روی موضوعات جایگزین تمرکز دارند، در معرض این موارد قرار بگیرند، بسیاری از آنها وب سایتهای ضد دولتی یا کاملاً آزادیخواهانه مانند 4Chan هستند که نه تنها بازدیدنمایندگان جوان را به خود جلب می نمایند، بلکه میزبان تعداد زیادی از محتوای افراطی (و ناشناس ارسال شده) هستند. همچنین شواهدی وجود دارد که نشان می دهد اگر ورود افراد جوانتر توسط والدین یا سرپرستانشان به این سایتها ممنوع گردد، احتمالاً به عنوان نوعی عصیان، به دنبال نفرت پراکنی هستند.

شاید این کنترل اجتماعی آنلاین بتواند افراط گرایان را متقاعد کند که تا حدودی از قضا، یک جامعه بردبار ایدئولوژی های افراطی را تحمل نمی نماید.

یک مطالعه نشان داد که درصد آمریکایی های 18 تا 25 ساله که نفرت پراکنی آنلاین را مشاهده می نمایند از 53.9% در سال 2013 به 73.2% در سال 2018 افزایش یافته است و آنها دریافتند که روال آنلاین افراد - گذراندن اوقات آنلاین، استفاده از چندین سایت شبکه های اجتماعی، اضافه کردن افراد غریبه به زندگی اجتماعی، ابراز عقاید بحث برانگیز به صورت آنلاین یا داشتن دنیا بینی ضد دنیا میهنی - همه احتمال مشاهده نفرت به صورت آنلاین را افزایش می دهد.

در خصوص آن چه می توان کرد؟

آخرین مطالعات بین المللی نشان می دهد که اجرای قوانین ضد نفرت پراکنی ممکن است مواجهه با بروز نفرت را محدود کند و همچنین اقداماتی توسط گروه های ضد نفرت، رسانه های اجتماعی و شرکت های فناوری صورت گرفته است، همانطور که دکتر هادون شرح می دهد: پروژه ضد افراط گرایی به عنوان مثال، از رسانه های اجتماعی و ابزارهای تکنولوژیکی برای شناسایی تهدیدات افراطی و مقابله مستقیم با ایدئولوژی و استخدام افراطی استفاده می نماید. به همین ترتیب، بخش اروپایی گوگل برنامه هایی را برای بهبود توانایی ایجاد وقفه در این فرایند با استفاده از یادگیری بهتر ماشین برای شناسایی فیلم های افراطی، بکارگیری پرچمداران مستقل انسانی برای شناسایی محتوایی که فعالیت های گسترش دهنده نفرت را ترویج می دهد، یافتن سختتر فیلم های افراطی و راهنمایی جستجوها با محتوای رادیکال به وسیله فیلم های ضد تروریسم را انجام داد.

با این حال، حمایت از آزادی بیان می تواند اثربخشی قوانین را محدود کند زیرا وب سایت های موجود در یک شبکه دنیای می توانند در خارج از کشورها با قوی ترین حمایت ها مانند ایالات متحده آمریکا فعالیت نمایند. سیستم عامل های شبکه های اجتماعی ممکن است با حذف پیغام ها سعی در مبارزه با نفرت داشته باشند، اما تعداد زیاد پیغام ها در این سیستم عامل ها انجام این کار را سخت می نماید. ما همچنین می بینیم که افراد از کنترل اجتماعی غیررسمی به صورت آنلاین استفاده می نمایند، جایی که افراد از فشار گروه همسالان استفاده می نمایند و بحث می نمایند یا سعی در ایجاد فرهنگ ضد نفرت دارند.

در مطالعات دکتر هادون، بیش از دو سوم پاسخ دهندگان گزارش دادند که به افرادی که به صورت آنلاین نفرت خود ابراز می نمایند، می گویند تا گروه مورد حمله را متوقف یا از آن دفاع نمایند. او پیشنهاد می نماید که شاید این کنترل اجتماعی آنلاین بتواند افراط گرایان را متقاعد کند که تا حدودی، یک جامعه ایدئولوژی های افراطی شان را تحمل نمی نماید. این ممکن است یک دنیای مجازی تحمل پذیرتر ایجاد کند و خوشبختانه رادیکالیزاسیون مرتکب بعدی خشونت مبتنی بر نفرت را مختل کند.

با این حال، با توجه به اینکه بیشتر مردم در حباب های فیلتر شده خود جاگیرتر می شوند و به طور فزاینده ای به کسانی که دارای یک دنیا بینی متفاوت هستند گله می نمایند، این با گذشت زمان سختتر می گردد. بنابراین واضح است که تحقیقات بیشتری باید انجام گردد نه فقط در دنیا غرب و در میان جوانان بلکه در سراسر دنیا و هر گروه سنی.

چهار روش بحث برانگیز برای مبارزه با نفرت پراکنی

برای ناظران سیستم عامل های اجتماعی مانند فیس بوک، کوشش برای مهار فرهنگ بیمارگونه نفرت پراکنی آنلاین، مانند انجام یک بازی پیچیده خسته نماینده است. به محض له شدن یک گروه ابراز نماینده نفرت آنلاین، گروه دیگری به جای آن ظاهر می گردد اغلب در یک سیستم عامل دیگر. به گفته کارشناسان، کنترل بی نظیر دیدگاه های چنین گروه هایی می تواند عواقب مرگبار داشته باشد.

با توجه به این مشکل، یک مطالعه جدید نفرت پراکنی آنلاین را به عنوان یک موجود زنده در حال تکامل معرفی می نماید و گسترش و فعل و انفعالات آن را با گذشت زمان ردیابی می نماید. تیم تحقیقاتی، به سرپرستی فیزیکدان و محقق نیل جانسون از دانشگاه جورج واشنگتن در واشنگتن دی سی، مدل های ریاضی برای تجزیه و تحلیل داده ها از سیستم عامل های اجتماعی از جمله فیس بوک را ایجاد کردند، جایی که کاربران می توانند گروه های دیگری را با دیدگاه های مشابه مشاهده نمایند.

آنا ماریا بلیوک، روانشناس اجتماعی و سیاسی در دانشگاه داندی استرالیا می گوید: این یک مطالعه مهم و بسیار به موقع است. این فراتر از آن است که ما می دانیم … با ارائه شواهدی در خصوص چگونگی یاری سیستم عامل های آنلاین به متنفران برای متحد کردن در سیستم عامل ها و ایجاد پل های نفرت در سراسر ملت ها و فرهنگ ها.

نفرت تعاریف زیادی دارد. محققان گروه های نفرت را کسانی تعریف کردند که کاربرانشان خصومت ابراز داشتند یا از خشونت علیه نژاد خاص یا یک گروه اجتماعی حمایت می کردند. محققان با استفاده از الگوریتم های راهنمایی شده توسط انسان و دانش آنها در خصوص بعضی از گروه های ممنوع شده، بیش از 1000 گروه گسترش دهنده نفرت را در چندین سیستم عامل شناسایی کردند، از جمله گروه هایی که خود را نئو نازی، ضد یهود یا حامیان گروه دولت اسلامی معرفی می کردند.

با آغاز این پروژه، محققان انتظار داشتند که اکوسیستم نفرت پراکنی آنلاین شبیه سوپرمارکت پرمصرف باشد و در یک راهرو فزونی طلبان سفیدپوست، در دیگری ضد یهودیان و در دیگری دیگر زن ستیزها باشند. جانسون می گوید: اما این چیزی نیست که ما پیدا کردیم. در عوض، این بیشتر به یک طیف مداوم شباهت داشت که مردم را به سمت یک جامعه متنفر و نفرت انگیز آنلاین گسترده تر می کشاند.

محققان در درجه اول با ردیابی پست هایی که به گروه های دیگر پیوند خورده بودند، تعاملات بین گروه های مرتبط را ترسیم کردند. دستیابی به موفقیت آنها زمانی رخ داد که فهمیدند باید این تعاملات را در سیستم عامل های اجتماعی ردیابی نمایند. جانسون و همکارانش گزارش می دهند، به جای اینکه گروه های ابراز نماینده نفرت در یک محل جمع شوند، آنها اغلب در بسیاری از شبکه های مختلف دیدار می نمایند و محدودیت های شدیدتر در یک سیستم عامل باعث می گردد که جوامع آنها در سیستم عامل های دیگر تقویت شوند.

به گفته آنها ارتباطات بین پلتفرمی که محققان از آنها به عنوان بزرگراه های تنفر یاد می نمایند، به ویژه به سرعت ایجاد می شوند. به عنوان مثال، پس از تیراندازی در سال 2018 در دبیرستان Marjory Stoneman Douglas در پارکلند فلوریدا، بسیاری از رسانه ها در خصوص علاقه تیرانداز به (Ku Klux Klan) بحث کردند. وی و همکارانش در گروه های فیس بوکی KKK با ارسال پیوندهایی به گروه های متنفر در سیستم عامل های مختلف مانند Gab یا VK، تقویت ارگانیسم ایدئولوژیک غیرمتمرکز KKK را افزایش دادند.

جانسون می گوید: بزرگراه های نفرت می توانند در اتحاد مردم از مرزهای جغرافیایی مختلف قدرتمند باشند. با یک ارتباط بین 10،000 نئو نازی در انگلیس و 10،000 نئونازی در نیوزیلند و سپس 10،000 نفر در ایالات متحده، ناگهان شما 30،000 نفر را با همان نفرت به هم متصل نموده اید.

علاوه بر این، بعضی از سیستم عامل های مجاز تر می توانند به عنوان دستگاه جوجه کشی عمل نمایند، به ویژه هنگامی که حضور یک گروه در یک سیستم عامل ممنوع است. به عنوان مثال هنگامی که فیس بوک در سال 2016 و 2017 گروه های KKK را مورد سرکوب و فیلتر قرار داد، بسیاری از اعضای سابق آنها به VK، یک پلت فرم رسانه های اجتماعی محبوب در روسیه و اروپای شرقی، رجوع کردند. جانسون می گوید در آنجا، آنها کمیته استقبال مجازی را پیدا کردند، صفحات ورودی آنها را به جوامع افرادی که مانند شما متنفرند راهنمایی می نماید.

محققان کشف کردند که بسیاری از این گروه های VK پیوندهای کمی به سیستم عامل های خارج از شبکه های اجتماعی داشتند اما تعداد زیادی پیوند به سایر گروه های نفرت در فضای VK داشتند.

بعداً اعضای چندین گروه KKK پس از یافتن راه هایی برای جستجوی محدودیت های موجود در محتوا، به فیس بوک بازگشتند. یکی از این گروه ها شامل پوسترهایی بود که به زبان اوکراینی نوشته می شدند. هنگامی که دولت اوکراین VK را در ماه مه 2017 ممنوع نمود، این جوامع برای جلوگیری از شناسایی توسط الگوریتم های جستجوی انگلیسی، در فیس بوک به عنوان КуКлухКлан، شکل سیریلیک Ku Klux Klan، تجسم یافتند.

محققان می گویند که این روش معمول برای مبارزه با چنین گروه هایی - با ممنوع نمودن گروه های به خصوص فعال و نفرت انگیز بی تأثیر است. در عوض، آنها چهار سیاست مشتق شده از مدل های آنها را برای بی ثبات کردن جوامع گسترش دهنده نفرت آنلاین توصیه می نمایند.

اولین روش این است که گروه های کوچک حذف شوند در حالی که بزرگترها در جای خود قرار می مانند. از آنجا که گروه های کوچک در نهایت به گروه های بزرگتری تبدیل می شوند، این سیاست جلوی رشد آنها را می گیرد. سیاست دوم ممنوعیت تصادفی زیر مجموعه کوچکی از کاربران است. جانسون می گوید، چنین ممنوعیتی احتمالاً خشم گروه بزرگی را به دنبال نخواهد داشت و این امر احتمال شکایت های قضایی متعدد را نیز کاهش می دهد.

دو گزینه دیگر بحث برانگیزتر هستند. یکی ایجاد گروه های ضد انحصاری است که سعی در تعامل با جوامع نفرت دارند، از نظر تئوری آنها را بیش از حد مشغول جذب نیرو می نماید. آخرین مورد کاربران و گروه های جعلی را برای ایجاد اختلاف نظر در بین گروه های گسترش دهنده نفرت معرفی می نماید. جانسون می گوید: اگر سر و صدا اضافه کنید، روایت ها در گروه ها می تواند از راستا خارج گردد.

سارا رابرتز، محقق اینترنتی در دانشگاه کالیفرنیا لس آنجلس که در خصوص تعدیل محتوا مطالعه می نماید، می گوید: این از بسیاری از زمینه ها نگران نماینده تر است. او می گوید کاربرانی که در هر یک از این دو سیاست شرکت می نمایند می توانند اثرات منفی بر سلامت روان داشته باشند. آنها چه سیستم های پشتیبانی برای مقابله با این مشارکت ها را دارند؟ چه آموزش حل تعارضی؟ و اگر این تعاملات از تعاملات آنلاین به خشونت بین فردی در دنیای واقعی گسترش یابد، چه اتفاقی می افتد؟

بلیوک موافق است. او می گوید استراتژی تعامل ایده جالبی است اما برای درک اینکه چگونه چنین تعامل آنلاینی می تواند نظرات گروه های مخالف ایدئولوژیک را تغییر دهد، احتیاج به کار بیشتری دارد به ویژه با توجه به تحقیقاتی که نشان می دهد می تواند منجر به بیشتر شدنش گردد.

جانسون اعتراف می نماید که مدل های مطالعه بسیار ایده آل هستند. او می گوید سیستم عامل ها مجبور نیستند از هر خط مشی استفاده نمایند - هر سایت می تواند تصمیم بگیرد که کدام استراتژی ها برای عملکرد آنها مناسب ترند. جانسون می گوید: من فکر می کنم سیستم عامل های مختلف سیاست های مختلفی را انتخاب می نمایند. اما اگر هرکدام این کار را انجام دهند، محاسبات ما نشان می دهد که این چهار سیاست نفرت پراکنی را کاهش می دهد.

فراتر از این سوال که سیاست ها چقدر می توانند کار نمایند، این پرسش باقی می ماند که چگونه با شیوه های راهنمایی بیشتر سیستم عامل های رسانه های اجتماعی منطبق است. رابرتز شک دارد که آنها مایل به پذیرش خطرات اخلاقی و قانونی گسترده - و سرمایه گذاری - لازم برای یک موضع واحد هستند. وی می گوید: فرضیه اساسی که بنیان این مطالعه است … این است که خود سیستم عامل ها به طور قطعی و صریح علیه نفرت در سایت های خود موضع گرفته اند.

منبع:

researchoutreach

sciencemag