خوارزمية يوتيوب ما زالت توصي بمحتوى متطرف، حسب دراسة

أظهرت دراسة حديثة أجراها معهد الحوار الاستراتيجي (ISD) أن خوارزمية YouTube ما زالت توصي بشكل مستمر بمقاطع فيديو يمينية متطرفة للمستخدمين، حتى لو لم يتفاعلوا مع هذا النوع من المحتوى من قبل. تختلف هذه النتيجة بشكل كبير عن التعهدات السابقة لـ YouTube بتحسين نظام التوصيات الخاص بها ومنع انتشار التضليل.

ركزت الدراسة، التي تركزت على مصالح مختلفة مثل الألعاب ومحتوى نمط الحياة الذكوري ومدونات الأمهات وأخبار اللغة الإسبانية، على فهم كيفية عمل خوارزمية YouTube. قام الباحثون بإنشاء ملفات تعريف على YouTube مصممة لفئات سكانية واهتمامات محددة وتتبع التوصيات التي أنشأتها الخوارزمية على مدى شهر.

عثرت الدراسة بشكل مفاجئ على أن خوارزمية YouTube قامت بتوصية بمقاطع فيديو تظهر فيها أندرو تيت، الذي يدعي بأنه متعصب للنساء، إلى صبي يبلغ من العمر 13 عامًا مهتم بمحتوى نمط الحياة الذكوري ورجل يبلغ من العمر 30 عامًا يشترك معه اهتمامات مماثلة. حدث ذلك على الرغم من عدم تظهّر أي من الحسابين تاريخًا سابقًا في الاهتمام بتيت أو محتواه. بالإضافة إلى ذلك، تم توصية مقاطع الفيديو ذات المحتوى الجنسي الصريح أو العنيف المرتبطة بلعبة الفيديو شهيرة Minecraft للملفات التي أعدت لصبيين وفتيات يبلغان من العمر 14 عامًا.

تسلط دراسة ISD الضوء على عدم قدرة الخوارزمية على التمييز بين جودة المحتوى والإثارة. تفضل خوارزمية YouTube في المقام الأول مقاطع الفيديو ذات الحركة والانخراط العالي، مما يؤدي إلى تعزيز المحتوى المثير للجدل والمتطرف. على الرغم من أن YouTube تدعي الاستثمار في السياسات والممارسات لحماية المستخدمين من المحتوى الضار، إلا أن الدراسة تشير إلى أن التغييرات في سلوك الخوارزمية قليلة.

تردد نتائج هذه الدراسة صدى القلق الذي عبر عنه الجراح العام فيفيك مورثي الذي طالب بتطبيق تصنيفات تحذيرية للمستخدمين الشباب على منصات التواصل الاجتماعي. ومع ذلك، تعتقد الباحثة الرئيسية للدراسة، آويف غالاغر، أن التصنيفات التحذيرية وحدها ليست كافية وتدعو إلى مزيد من الشفافية والوصول إلى البيانات من منصات مثل YouTube.

في الختام، تظهر الدراسة أن خوارزمية YouTube لا تزال تمتلك تأثيرًا كبيرًا في توصية المحتوى المتطرف والمشكوك فيه للمستخدمين، بغض النظر عن اهتماماتهم. إنها تؤكد على الحاجة إلى مواصلة الأبحاث والتحسينات لضمان عدم مساهمة خوارزميات المنصة في انتشار التضليل والتطرف.

حقائق إضافية:
– يمتلك YouTube شركة جوجل وهو واحد من أكبر منصات المشاركة في الفيديو في العالم، مع مليارات المستخدمين والفيديوهات المرفوعة يوميًا.
– تم تصميم خوارزمية التوصيات في YouTube للحفاظ على انخراط المستخدمين في المنصة، حيث يعني المزيد من الانخراط زيادة في عائدات الإعلانات للشركة.
– تحليل سلوك المستخدم، مثل تاريخ المشاهدة والإعجابات والمشاركات، من خلال الخوارزمية لتقديم توصيات مخصصة.
– ركزت الدراسة فقط على عدد محدود من المصالح والفئات السكانية، لذلك قد يكون نطاق توصيات الخوارزمية الخاصة بـ المحتوى المتطرف أوسع مما لوحظ.

أسئلة رئيسية وأجوبتها:
– كيف تعمل خوارزمية YouTube؟
تحليل خوارزمية YouTube سلوك المستخدم، مثل تاريخ المشاهدة والإعجابات والمشاركات، لتقديم توصيات مخصصة للحفاظ على انخراط المستخدمين في المنصة.

– لماذا توصي خوارزمية YouTube بالمحتوى المتطرف؟
تفضل خوارزمية YouTube في المقام الأول بمقاطع الفيديو ذات الحركة والانخراط العالي. وبالتالي، قد يؤدي ذلك إلى توليف المحتوى المثير للجدل والمتطرف بشكل كبير.

– ما الآثار المحتملة لتوصية الخوارزمية بالمحتوى المتطرف؟
توصية المحتوى المتطرف يمكن أن تسهم في انتشار التضليل والتطرف وتضخيم الأيديولوجيات الضارة. كما يمكن أن يؤدي ذلك إلى تعرض غير مقصود لهذا المحتوى لمستخدمين قد لا يكونوا قد تعاملوا معه بطريقة أخرى.

تحديات أو جدل:
– التوازن بين حرية التعبير والحاجة لمواجهة المحتوى الضار: تواجه YouTube تحدي استيعاب التوازن بين السماح بمحتوى متنوع مع تقليل انتشار المواد المتطرفة والمشكورة.

– التحيزات الخوارزمية: تثير نتائج الدراسة القلق بشأن التحيزات المحتملة داخل خوارزمية التوصيات في YouTube. قد تكون هناك حاجة لمعالجة هذه التحيزات من أجل ضمان توصيات عادلة وغير مُحسوبة.

مزايا:
– توصيات المحتوى المخصصة: تسمح خوارزمية YouTube للمستخدمين باكتشاف محتوى جديد يتناسب مع اهتماماتهم وتفضيلاتهم.

– زيادة الانخراط: قدرة الخوارزمية على توصية مقاطع فيديو قد يستمتع المستخدمون بها يمكن أن تسهم في زيادة الانخراط على المنصة، مما يعود بالفائدة على صانعي المحتوى والمنصة نفسها.

سلبيات:
– احتمالات انتشار التضليل والتطرّف: مع تفضيل الخوارزمية للمحتوى المثير للجدل والمتطرف، هناك خطر من انتشار التضليل والأيديولوجيات الضارة على المنصة.

– عدم الشفافية: قد لا يكون للمستخدمين فهم واضح حول كيفية اتخاذ الخوارزمية قراراتها في توصية الفيديوهات، مما يثير مخاوف حول مساءلة المنصة واحتمال وجود تحيزات.

روابط ذات صلة:
– معهد الحوار الاستراتيجي (ISD)
– منظمة الصحة العالمية (WHO)
– ناشيونال جيوغرافيك