مما بات معروفاً عند الجميع، أن منصات التواصل تستخدم خوارزميات الذكاء الاصطناعي لإدارة المحتوى المطروح من خلالها. تقوم هذه الخوارزميات بحجب المحتوى غير اللائق (تطرف سياسي،ارهاب،جنس، عنف،…) كما و تقوم بإعطاء الأولوية لمحتوى معيّن على غيره.
قبل أن نبدأ بطرح الإشكالية، دعونا نفهم كيف تعمل هذه الخوارزميات. إن خوارزميات الذكاء الإصطناعي تحاكي الشبكات العصبية في الدماغ إلى حد ما، و تعمل بمبدأ النبضات الكهربائية. تخيّل دماغ الطفل حديث الولادة، شبكات عصبية تعمل و تتعلّم، و لكنها بحاجة للمعلومات كي تحللها. هذه المعلومات تأتي عن طريق المداخل العصبية الموصولة بالحواس الخمسة عند الانسان. الخوارزميات تعمل تماما كدماغ الطفل حيث تتعلّم كيف تصنّف المعلومات بحسب نوعية هذه المدخلات. و تماماً كما يقوم الأهل بتربية ابنائهم و ابعادهم عن العادات او الألفاظ السيئة ليكونوا صالحين، يقوم المبرمجون بتعليم الخوارزميات عن طريق المعلومات التي يقدمونها لها. (لمزيد من المعلومات حول الذكاء الاصطناعي و كيفية عمله، أنصح بهذه المحاضرة)
بعد أن عرفنا كيف تعمل هذه الخوارزميات، بتنا نعلم أنه يمكن تغيير “منطق” هذه الخوارزميات عن طريق ادخال معلومات معينة لتدريبها عليها، عن قصد او بدون قصد، و هذا ما يسمى ب”إنحياز الذكاء الاصطناعي” AI Bias. و قد لمسنا هذا في خوارزميات فيسبوك خلال الحرب الأخيرة على غزة، حيث كانت المنصة تحجب كل المحتوى الداعم لفلسطين و تترك المحدى الداعم للإحتلال.
في دراسة أجرتها Algorithm watch على خوارزميات انستاغرام تبيّن أن المنصّة تقدّم إظهار المحتوى الذي يظهر شبه العري على غيره، و هذه بعض التفاصيل من الدراسة.
سارة (الاسم وهمي لحمايتها من الحظر)، صاحبة مشروع صغير في أوروبا يعنى بمساعدة النساء على تنظيم حميتهم الغذائية براحة و دون تعب. و تعتمد سارة على منصة انستاغرام للتسويق. لاحظت أن المحتوى المفيد لا يصل إلى ال٥٣٠٠٠ متابع عندها بينما أكثر صورة نالت اعجاب المتابعين كانت صورتها في ملابس السباحة. إلاي كيليوس، مؤلفة كتب لديها ١٣٢٠٠٠ متابع، اكثر صورة اعجاباً كانت في ملابس السباحة كذلك. هنا بدأت الشكوك أنه لا يعقل ان متبعين سارة و إلاي سهتمون لصور العري اكثر من المحتوى المفيد و إلا لفضّلوا متابعة عارضات الازياء.
في الدراسة، قاموا بتحليل ٢٤٠٠ منشور عن طريق ٢٦ حساب على انستاغرام يتابعون صانعي محتوى متنوع مثل الأعمال، الأكل، السفر، الرياضة، الموضة. وجدوا أن الصور التي تحتوي نساء في الملابس الداخلية أو السباحة ظهرت بنسبة ٥٤% أكثر من باقي المحتوى. و الصور التي تظهر مناظر طبيعية او أكل ظهرت بنسبة ٦٠% أقل من باقي المحتوى. (تفاصيل الدراسة في المراجع أدناه.)
و لما سُئلت شركة فيسبوك المالكة لمنصة إنستاغرام عن الموضوع لم تعطي إجابة واضحة و اكتفت بالقول أن المنصة تصنف المحتوى و تعرضه للمستخدم حسب اعجاباته السابقة، في محاولة منها لقلب المسؤولية على المستخدم نفسه. و لكن الجدير بالذكر أن الشركة قدمت براءة اختراع في عام ٢٠١٥ عن خوارزمياتها لتصنيف المحتوى تشرح فيها كيف أن المنصة تستخدم الذكاء الاصطناعي لمعرفة محتوى المنشور ثم تضع له رقم تقييمي engagement metric ليصنف على أساسه في واجهة المحتوى لكل مستخدم. كما و انه يصنف أيضاً بحسب اعجابات كل المستخدمين على المنصة. لذلك مثلاً، حتى ان لم تكن تتابع اي من صفحات كرة القدم سيظهر لك محتوى منها لأن غيرك على المنصة يتابعون هذا المحتوى و له قاعدة شعبية كبيرة. و الفارق في الموضوع أن في براءة الاختراع هذه يُذكر ان أحد أرقام التقييم يعتمد على نسبة العري في الصورة “state of undress” و هذا ما شكّل نقطة ضعف في النظام حيث أن الصور التحتوي على شبه العري بات لها رقم تقييمي، بينما صور العري الكامل تحظر مباشرة.
بغض النظر إن كان هذا التصنيف للمحتوى بسبب انحياز القاعدة الشعبية الأكبر من المستخدمين لصور شبه العري ام عن قصد من المنصة لجذب عدد اكبر من المستخدمين، خصوصاً مع اكتساح “تيك توك” لكل المنصات الاخرى عن طريق الرقص و العري أيضاً، فإن هذا يجعلنا نراجع حساباتنا هل هذه المنصة مازالت هدفاً لترويج المحتوى المفيد و الأعمال و التطوير و التسويق، أم انها باتت مرتعاً للراقصين و اصحاب المحتوى التافه؟
المراجع: