كشف تحقيق أن خوارزمية البحث في منصة "تيك توك" تقترح مصطلحات تحمل طابعًا جنسيًا لمستخدمين قاصرين في المملكة المتحدة، حتى عند تفعيل خاصية "الوضع المقيّد" المصممة للحد من ظهور المحتوى الحساس.
اعلان
أظهرت نتائج تحقيق جديد أجرته مؤسسة Global Witness أن منصة الفيديو القصيرة "تيك توك" تقدم اقتراحات بحثية ذات محتوى جنسي لمستخدمين تبلغ أعمارهم 13 عامًا في المملكة المتحدة، حتى عند تفعيل خاصية الوضع المقيد المخصصة لتقليل ظهور محتوى جنسي أو حساس.
كيف تم الكشف عن الظاهرة؟
أجرى فريق التحقيق تجارب على سبعة حسابات جديدة في المملكة المتحدة لمستخدمين بعمر 13 عامًا، باستخدام هواتف تم مسح كل محتواها وإعادة ضبطها بالكامل، بحيث لم يكن لها أي سجل بحث أو مشاهدة سابق.
وبالرغم من تفعيل الوضع المقيد، لوحظ أن اقتراحات البحث تضمنت مصطلحات ذات إيحاءات جنسية مباشرة، ما أدى إلى ظهور مقاطع إباحية بعد نقرتين فقط في بعض الحسابات، قبل أن يقوم المستخدم بأي بحث فعلي.
تفاصيل التجربة
تضمنت التجربة النقر على اقتراحات البحث التي تظهر تلقائيًا عند فتح التطبيق، مع متابعة المحتوى المرتبط بهذه الاقتراحات. وأظهرت النتائج أن بعض المقاطع اعتمدت أساليب لإخفاء محتواها الجنسي داخل صور أو فيديوهات تبدو غير ضارة.
كما سجل الفريق بعض الحالات التي تضمنت محتوى قد يشير إلى استغلال القاصرين، وتم الإبلاغ عن هذه المقاطع إلى هيئة Internet Watch Foundation في المملكة المتحدة للتحقق القانوني.
ردود الخبراء والقانون
يرى المحامي الإعلامي مارك ستيفنز أن نتائج التحقيق تستدعي متابعة دقيقة من قبل هيئة Ofcom، المسؤولة عن تطبيق قانون السلامة الإلكترونية الجديد، الذي يفرض على المنصات الرقمية اتخاذ خطوات لحماية القاصرين من المواد الإباحية وغيرها من المحتويات الحساسة.
وينص القانون على أن المنصات الرقمية يجب أن تضبط خوارزمياتها لتقليل وصول الأطفال إلى المحتوى غير المناسب، بما يشمل المواد الجنسية والمحتوى الذي قد يؤثر على سلامتهم النفسية.
إحصاءات عن استخدام الأطفال للتطبيق
تشير بيانات هيئة Ofcom إلى أن نسبة كبيرة من الأطفال بين 5 و11 عامًا يستخدمون "تيك توك"، وغالبًا دون إشراف مباشر من الأهل.
كما يفضل العديد من المستخدمين من جيل Z البحث داخل "تيك توك" بدلًا من محركات البحث التقليدية مثل Google، ما يضاعف أهمية مراقبة المحتوى الذي يقترحه التطبيق.
رد "تيك توك" على التحقيق
قالت منصة "تيك توك "إنها أزالت أكثر من 90 مقطعًا من الاقتراحات البحثية، وأكدت أنها تواصل مراجعة سياسات حماية المستخدمين الشباب، بما في ذلك الحد الأدنى للعمر، ووضع القيود على المحتوى غير المناسب.
لكن التحقيق أظهر أن بعض الحسابات القاصرة ما زالت تتلقى اقتراحات لمحتوى جنسي، حتى مع تفعيل الوضع المقيد، دون الحاجة إلى التحقق من العمر بشكل صارم.