الگوریتمها چگونه نفرت را گسترش میدهند؟؛ هشدار درباره نقش شبکههای اجتماعی در تقویت خشونت آنلاین
شام نفاع میگوید الگوریتمهای شبکههای اجتماعی با برجستهکردن محتوای جنجالی و خشمبرانگیز، به گسترش نفرتپراکنی و خشونت آنلاین دامن میزنند.
روشيل جونيور
سويداء ـ در سایه گسترش گسترده استفاده از شبکههای اجتماعی، الگوریتمهای پلتفرمهای دیجیتال به یکی از عوامل اصلی شکلدهی افکار عمومی و هدایت محتوایی تبدیل شدهاند که روزانه به کاربران میرسد. همزمان با افزایش محتوای جنجالی و خشونتآمیز، پرسشی اساسی درباره نقش این الگوریتمها در گسترش نفرتپراکنی مطرح شده است؛ بهویژه اینکه محتوای خشمبرانگیز یا شوکآور معمولاً تعامل و بازنشر بیشتری نسبت به دیگر محتواها دریافت میکند.
در همین چارچوب، شام نفاع، روزنامهنگار و استاد دانشگاه، از گسترش بیسابقه نفرتپراکنی در شبکههای اجتماعی طی یک سال گذشته سخن میگوید و توضیح میدهد که الگوریتمهای این پلتفرمها بهدلیل تمرکز بر میزان تعامل کاربران، نقش مهمی در تقویت چنین محتواهایی دارند؛ بدون آنکه به ماهیت یا پیامدهای آن توجهی شود.
او میگوید محتوایی که جنبهای شوکآور، خشونتآمیز یا بحثبرانگیز دارد، معمولاً در جامعه بیشتر دیده میشود، زیرا پلتفرمهای دیجیتال بر اساس تحلیل رفتار کاربران طراحی شدهاند و محتوایی را که کاربر روی آن مکث میکند یا با آن تعامل دارد، بیشتر نمایش میدهند. به گفته او، انسان بهطور طبیعی نسبت به محتوایی که احساساتی مانند ترس، خشم، تهدید یا حتی حس تعلق را تحریک میکند، واکنش بیشتری نشان میدهد و همین مسئله باعث میشود نفرتپراکنی قابلیت انتشار بیشتری پیدا کند.
شام نفاع اشاره میکند که افراد خشمگین معمولاً سریعتر واکنش نشان میدهند و در نتیجه پستهای تحریکآمیز یا جنجالی تعامل بیشتری میگیرند؛ موضوعی که الگوریتمها را به بازنشر گستردهتر آن محتوا سوق میدهد. او تأکید میکند که شاید هدف مستقیم این پلتفرمها ترویج نفرت نباشد، اما آنها به محتوای «پربازدید» پاداش میدهند و این محتوا اغلب همان چیزی است که احساسات کاربران را تحریک میکند.
او همچنین توضیح میدهد که نفرتپراکنی تنها به تحریک علیه گروههای خاص محدود نمیشود، بلکه شامل خشونت و تبعیض جنسیتی نیز هست؛ پدیدهای که در جوامع عربی بهطور گسترده دیده میشود. به گفته او، جایگاه اجتماعی و فرهنگی زنان در این جوامع باعث میشود زنان گاهی به ابزاری برای فشار و تحریک تبدیل شوند و در نتیجه بیشتر در معرض تخریب شخصیت، تهدید و باجگیری اینترنتی قرار بگیرند.
به گفته شام نفاع، زنان فعال در حوزههای مدنی، سیاسی و رسانهای بارها هدف کارزارهای سازمانیافته آنلاین قرار گرفتهاند؛ حملاتی که اعتبار و کرامت آنها را هدف میگیرد تا از حضورشان در عرصه عمومی جلوگیری شود یا نقش اجتماعیشان محدود شود. او هشدار میدهد که حتی واکنش به این پستها، با هدف دفاع یا بحث، عملاً به گسترش بیشتر آنها کمک میکند، زیرا الگوریتمها این تعامل را نشانه اهمیت محتوا تلقی میکنند.
او در ادامه به رخدادهای سویداء پس از حوادث ژوئیه ۲۰۲۵ اشاره میکند و میگوید بسیاری از زنانی که درباره نقض حقوق یا خشونتها اطلاعرسانی کرده بودند، با موجی از تخریب شخصیت، تهدید و باجگیری اینترنتی روبهرو شدند؛ تلاشی برای خاموشکردن صدای آنها و حذفشان از نقش اجتماعی. با این حال، او معتقد است سطح آگاهی اجتماعی در سویدا باعث شد بخش بزرگی از جامعه در برابر این حملات از زنان حمایت کند.
شام نفاع تأکید میکند که امنیت اجتماعی واقعی تنها به همبستگی پس از حمله محدود نمیشود، بلکه نیازمند ایجاد فضایی امن و حمایتی در محیط دیجیتال است تا زنان بتوانند بدون ترس از نفرتپراکنی و تخریب شخصیت، در جامعه حضور داشته باشند.
او درباره راهکارها نیز خواستار بازنگری در شیوه عملکرد الگوریتمها شد تا بهجای تمرکز صرف بر میزان بازدید، تأثیر و ماهیت محتوا نیز ارزیابی شود. همچنین بر ضرورت نظارت و پاسخگویی بیشتر شرکتهای مالک شبکههای اجتماعی برای تضمین شفافیت و حفاظت از کاربران تأکید کرد.
این روزنامهنگار و استاد دانشگاه، آموزش سواد رسانهای و دیجیتال را مهمترین ابزار مقابله با نفرتپراکنی دانست و گفت آگاهی کاربران نسبت به ماهیت تحریکآمیز این محتواها میتواند از افتادن آنها در دام بازنشر نفرت جلوگیری کند.
شام نفاع در پایان تأکید کرد که افزایش آگاهی عمومی و حمایت از محتوای آرام، مسئولانه و هدفمند، همچنان مهمترین راه مقابله با نفرتپراکنی و کاهش گسترش آن در شبکههای اجتماعی است.