"خوارزميات الموت".. جوجل وفيسبوك قد يساهمان في التشجيع على الانتحار في مصر ودول عربية

بعنوان "خوارزميات الموت" كشف تحقيق تليفزيوني قدمه أحمد الشيخ الصحفي المتخصص في المنصات الرقمية، وعضو مجلس الإعلام الجديد في نقابة الصحفيين البريطانية عن ثغرات في أنظمة الذكاء الصناعي في موقعي جوجل وفيسبوك، قد تشجع على الانتحار. وأوضح التحقيق أن الموقعين يقدمان خدمات لمكافحة الانتحار في بريطانيا باللغة الإنجليزية، لكن الخدمة محدودة أو غير متاحة عند استخدام اللغة العربية أو البحث من مصر ودول عربية.

وأجرى التحقيق الذي أذيع على قناة الغد الفضائية، تجربة البحث عن وسائل ومواد الانتحار من بريطانيا ومصر عبر جوجل وفيسبوك باستخدام اللغتين العربية والانجليزية، ليكتشف أن الموقعين يشاركان في جهود منع الانتحار عند البحث باللغة الانجليزية من بريطانيا حيث يعدل الموقعان قائمة النتائج لتظهر على رأسها بيانات الخط الساخن لمكافحة الانتحار كما تظهر نتائج أخرى تكافح الانتحار، أما عند البحث باللغة العربية من مصر يقدم الموقعان معلومات ومقاطع فيديو تشرح طرق الانتحار مما قد يشجع المستخدم على التخلص من حياته.

وقال أحمد الشيخ، إنه كرر التجربة على مدار ثلاث سنوات. وأوضح أن هذه التجربة تسلط الضوء على حاجة المستخدم في مصر والدول العربية إلى أن يلقى نفس الخدمة التي يتلقاها المستخدم في بريطانيا والدول الغربية خاصة وأن الدول العربية تشهد حوادث انتحار وهناك حالة وقعت مؤخرا في مصر وتم تنفيذها وبثها مباشرة عبر فيسبوك.

وخلال التحقيق قام الدكتور محمد عبد المجيد مساعد رئيس جامعة كانتربري لشؤون العلوم والتكنولوجيا والهندسة والرياضيات بإجراء تجارب على خوارزميات البحث باللغة العربية والإنجليزية عبر جوجل واكتشف أن الخوارزميات تقدم الخط الساخن للمساعدة في حالة البحث بضمائر المذكر باللغة العربية ولا تقدم الخدمة في حالة البحث بضمائر المؤنث، كما أنها تعجز أحيانا عن تقديم الدعم باللغة الإنجليزية في حالة استخدام مرادفات أخرى لكلمة انتحار، وهو ما يشير إلى أن هناك ثغرات في تقنيات الذكاء الصناعي حتى في حالة البحث باللغة الانجليزية.

واستشهد التحقيق بتقرير للكلية الملكية للأطباء النفسيين في بريطانيا الذي طالب شبكات التواصل الاجتماعي بتقديم البيانات التي تمتلكها عن أنشطة المستخدمين لمكافحة الانتحار، واستضاف الطبيبان النفسيان جمال فرويز من مصر ومحمود اللواتي من بريطانيا وأشار الطبيبان إلى أن هناك إجماعا على تاثر مستخدمي الشبكات الاجتماعية بالمواد التي تشجع على الانتحار أو تكافحه.

وعرض التحقيق حادث انتحار الفتاة الانجليزية مولي راسل التي كانت تبلغ من العمر 15 عاما وقالت أسرتها إنها تأثرت بمشاهدة مواد تشجع على الانتحار عبر تطبيق إنستجرام وتواجه شركة ميتا المالكة للتطبيق مطالبات رسمية بريطانية بتقديم نسخة من المواد التي شاهدتها راسل قبل انتحارها ومن المقرر أن ينطلق تحقيق قضائي في الحادث لتوضيح مدى مسؤولية التطبيق عن انتحارها.

وأشار تحقيق قناة الغد إلى أن الدول العربية تفتقد إلى القوانين التي تحمي المستخدمين من المحتوى الضار والمواد التي تشجع على الانتحار.

وأجرى التحقيق مقابلة مع الدكتورة أيشيم فانبرج أستاذ القانون بجامعة لندن والتي قدمت شهادة للبرلمان البريطاني بشأن مشروع قانون السلامة الرقمية الذي يبحثه مجلس العموم البريطاني.

وقالت فانبرج إن هناك حاجة لسن قوانين تمنع انتشار المواد التي تشجع على الانتحار عبر الإنترنت ولكنها عارضت مشروع القانون المطروح واعتبرت أنه لا يقدم تعريفاً واضحا للمواد الضارة عبر الإنترنت وعارضت الفقرة التي تنص على تحريك دعاوى جنائية ضد رؤساء شركات التواصل الاجتماعي وقالت إن القانون من شأنه تشجيع المنصات الاجتماعية على محاربة حرية الرأي.

لمشاهدة التحقيق: