الگوریتم یوتیوب به پیشنهاد محتوای افراطی ادامه می‌دهد، مطالعه واقعه را پیدا کرد
یک مطالعه اخیر انجام شده توسط مؤسسه برای گفتگوی استراتژیک (ISD) نشان داده است که الگوریتم یوتیوب همچنان به کاربران ویدیوهای افراطی و انحرافی کام می‌پیشنهادد، حتی اگر آن‌ها قبلاً با این نوع محتوا تعامل نداشته باشند. این یافته بطور چشمگیری با قول‌های قبلی یوتیوب برای بهبود سیستم پیشنهادهایش و جلوگیری از گسترش اطلاعات نادرست در تضاد است.
این مطالعه که بر تفاوت‌های مختلفی مانند بازی، محتوای زندگی آقایانه، کانال‌های مامان‌ها و اخبار اسپانیایی متمرکز بود، هدفش درک نحوه عملکرد الگوریتم یوتیوب بود. پژوهشگران پروفایل‌های یوتیوبی را برای گروه‌ها و علایق خاص ایجاد کرده و پیشنهادهای تولیدشده توسط الگوریتم را طی یک ماه پیگیری کردند.
به طور حیرت‌آوری، مطالعه نشان داد که الگوریتم یوتیوب به هر دو پروفایل 13 ساله علاقه‌مند به محتوای زندگی آقایانه و یک مرد 30 ساله با علایق مشابه، ویدیوهای حاوی محتویات اندرو تیت، یک مرد خودمختار زن‌دوست، پیشنهاد داد. این اتفاق در حالی رخ داد که هیچ یک از حساب‌ها قبلا هیچ علاقه ای به تیت یا محتوایش نشان نداده بودند. علاوه بر این، ویدیوهای حاوی محتویات جنسی یا خشونت‌آمیز مرتبط با بازی ویدیویی ماینکرافت به پروفایل‌هایی که برای پسران و دختران 14 ساله راه‌انداخته شده بود، پیشنهاد شد.
مطالعه ISD نشان می‌دهد که الگوریتم قادر به تفکیک کیفیت محتوا از حساسیت نیست. الگوریتم یوتیوب به طور اساسی ویدیوها با ترافیک و مشارکت بالا را ترجیح می‌دهد که منجر به ترویج محتوای مورد اختلاف و افراطی می‌شود. اگرچه یوتیوب ادعا می‌کند که در سیاست‌ها و روش‌هایی برای حفاظت از کاربران در برابر محتوای مضر سرمایه‌گذاری می‌کند، مطالعه نشان می‌دهد که تغییرات در رفتار الگوریتم کمی هستند.
نتایج این مطالعه با نگرانی‌هایی که توسط جراح ارشد ویوک مورتی ابراز شده است، همخوانی دارد که او از پلتفرم‌های رسانه‌ای اطلعاتی برای کاربران جوان تجسسی را اجرایی کند. با این حال، محقق اصلی مطالعه، آویف گالاگر، معتقد است که برچسب‌های هشدارنده به تنهایی کافی نیستند و از شفافیت و دسترسی داده بیشتری از پلتفرم‌هایی مانند یوتیوب حمایت می‌کند.
در نتیجه، مطالعه نشان می‌دهد که الگوریتم یوتیوب هنوز تاثیر قابل توجهی را در توصیه محتوای افراطی و مشکل‌ساز به کاربران دارد، بدون در نظر گرفتن علایق آن‌ها. این مطالعه نیاز به تحقیقات و بهبودات مداوم برای اطمینان از این است که الگوریتم‌های پلتفرم به گسترش اطلاعات نادرست و رادیکالیزه شدگی کمک نمی‌کنند.
مطالب تکمیلی:
– یوتیوب متعلق به گوگل است و یکی از بزرگترین پلتفرم‌های به اشتراک‌گذاری ویدیو در جهان است که روزانه میلیاردها کاربر و ویدیو آپلود می‌کنند.
– الگوریتم توصیه یوتیوب برای حفظ رضایت کاربران و ترجمه به سود افزایشی تبلیغات برای شرکت طراحی شده است.
– الگوریتم تحلیل می‌کند که عملکرد کاربران، مانند تاریخچه تماشا، لایک‌ها و اشتراک‌گذاری‌ها را بررسی کند و توصیه‌های شخصی سازی شده ارائه کند.
– مطالعه تنها بر روی تعداد محدودی از علاقه‌مندی‌ها و گروه‌های جمعی تمرکز داشت، بنابراین دامنه پیشنهادهای الگوریتم یوتیوب برای محتوای افراطی ممکن است گسترده‌تر باشد از آنچه که مشاهده شد.
سوالات کلیدی و پاسخ‌ها:
– الگوریتم یوتیوب چگونه عمل می‌کند؟
الگوریتم یوتیوب عملکرد کاربران، همچون تاریخچه تماشا، لایک‌ها و اشتراک‌گذاری‌ها را بررسی کرده و توصیه‌های شخصی‌سازی شده ارائه می‌دهد تا کاربران را به پلتفرم جذب نگه دارد.
– چرا الگوریتم یوتیوب محتوای افراطی را توصیه می‌کند؟
الگوریتم یوتیوب اصولاً ویدیوهایی با ترافیک و مشارکت بالا را ترجیح می‌دهد. بنابراین، محتوای افراطی و مورد اختلاف اغلب بازدید و مشارکت بیشتری جلب می‌کند که منجر به توصیه‌اش می‌شود.
– چه تأثیری احتمالی از توصیه محتوای افراطی الگوریتم خواهد شد؟
توصیه محتوای افراطی می‌تواند به گسترش اطلاعات نادرست، رادیکالیزه شدگی و تقویت ایدئولوژی‌های مضر منجر شود. همچنین می‌تواند منجر به انتشار غیرمستقیم چنین محتوا به کاربرانی که احتمالاً با آن‌ها مواجه نمی‌شدند، شود.
چالش‌ها یا اختلاف‌ها:
– تعادل بین آزادی بیان با نیاز به مقابله با محتوای مضر: یوتیوب با چالش روبرو است که بین حفظ مجموعه‌ای از فراوانی محتوا و کمینه کردن گسترش محتوای افراطی و مشکل‌ساز تعادل برقرار کند.
– انحرافات الگوریتمی: یافته‌های مطالعه نگرانی‌ها درباره احتمال وجود انحرافات داخلی در الگوریتم توصیه یوتیوب را بیان می‌کند. احتمالا باید این انحرافات را برای تضمین توصیه محتوای عادلانه و بی‌طرفی تصحیح کرد.
مزایا:
– توصیه‌های شخصی‌سازی شده از محتوا: الگوریتم یوتیوب به کاربران این امکان را می‌دهد که محتوای جدیدی را که به علاقه‌ها و ترجیحات آن‌ها مرتبط است کشف کنند.
– افزایش مشارکت: توانایی الگوریتم برای توصیه ویدیوهایی که کاربران احتمالاً از آن‌ها لذت می‌برند می‌تواند به افزایش مشارکت در پلتفرم منجر شود، که در نتیجه برای ایجاد کنندگان محتوا و پلتفرم خود مزیتی است.
معایب:
– احتمال گسترش اطلاعات نادرست و رادیکالیزه شدگی: با الگوریتم ترجیح دادن محتوای محتکر و افراطی، خطری برای گسترش اطلاعات نادرست و ایدئولوژی‌های مضر وجود دارد.
– کمبود شفافیت: کاربران امکانی هدایة درک محدودی از نحوه تصمیم‌گیری الگوریتم را ندارند که به مراتب الزاماتی راجع به مسئولیت پلتفرم و انحیازهای ممکن آن ایجاد می‌کند.
پیوندهای مرتبط:
– موسسه برای گفت‌وگوی استراتژیک (ISD)
– سازمان بهداشت جهانی (WHO)
– نشریه ملی جغرافیا
