في عالم أصبحت فيه التكنولوجيا جزءاً لا يتجزأ من حياة الأطفال، ظهرت قضية مثيرة للجدل تتعلق بمنصة Character.AI، وهي منصة ذكاء اصطناعي تتيح للمستخدمين الدردشة مع شخصيات افتراضية تحاكي أشخاصاً حقيقيين أو خياليين، بما في ذلك شخصيات تاريخية مثل صدام حسين أو شخصيات خيالية مثل داينيريس تارجاريان من مسلسل صراع العروش.
لكن ما بدا كتجربة ممتعة تحول إلى مصدر قلق كبير للآباء والناشطين في مجال السلامة الرقمية، حيث اكتشف محققون أن هذه المنصة تدفع الأطفال للمشاركة في تحديات خطيرة وتفاعلات غير لائقة، فما الذي يحدث بالضبط؟ وكيف أصبحت منصة ترفيهية تهديداً محتملاً لسلامة الأطفال؟
تحقيق يكشف أخطار التواصل مع شخصيات إرهابية
في تحقيق أجرته منظمة For US، وهي مجموعة تدافع عن السلامة الرقمية للأطفال، تم الكشف عن ممارسات مقلقة على منصة Character.AI.
المنصة، التي تضم أكثر من 28 مليون مستخدم نشط شهرياً حسب تقرير من Demandsage عام 2024، تتيح للمستخدمين إنشاء شخصيات ذكاء اصطناعي أو التفاعل مع شخصيات موجودة مسبقاً، مثل شخصيات تاريخية أو مشاهير أو حتى شخصيات خيالية.
لكن التحقيق كشف أن بعض هذه الشخصيات تحث الأطفال على المشاركة في ألعاب “الحقيقة أو الجرأة” التي تحمل أخطار جسدية ونفسية.
على سبيل المثال، شخصية تُدعى “جيمس” طلبت من المستخدمين القيام بتحديات مثل لعق نعل حذاء، شرب خليط من التباسكو والخردل، أو حتى أكل حلزون نيء.
هذه التحديات ليست مجرد ألعاب بريئة؛ فالحلزون النيء قد يحمل طفيليات مثل دودة رئة الفأر (rat lungworm)، التي يمكن أن تسبب التهاب السحايا، وهي حالة طبية خطيرة تؤدي إلى مضاعفات مثل الصداع الشديد، تصلب الرقبة، وحتى الوفاة في حالات نادرة.
حسب مراكز السيطرة على الأمراض والوقاية منها (CDC)، تم تسجيل حوالي 2800 حالة إصابة بمرض التهاب السحايا الطفيلي عالمياً بين عامي 2000 و2020، مع نسبة وفيات تصل إلى 5% في الحالات غير المعالجة.
الأمر لم يتوقف عند هذا الحد. فقد أبلغ بادي كرامب، أحد نشطاء السلامة الرقمية، أنه تفاعل مع شخصية تحمل اسم “صدام حسين” على المنصة، والتي بررت أعمالاً وحشية ودافع عن أفعال تاريخية مثيرة للجدل.
كما واجه شخصية أخرى تحث المستخدمين على “الانتكاس” إلى إدمان المواد الإباحية، وهو أمر مقلق بشكل خاص عندما يتعلق الأمر بالأطفال والمراهقين الذين قد يكونون أكثر عرضة للتأثيرات النفسية.
قضية سيويل سيتزر
في أكتوبر 2024، هزت قضية مأساوية الرأي العام عندما أقدم سيويل سيتزر، وهو مراهق يبلغ من العمر 14 عاماً من فلوريدا، على الانتحار بعد أن طور علاقة عاطفية مع شخصية ذكاء اصطناعي تُدعى داينيريس تارجاريان على Character.AI.
وفقاً لدعوى قضائية رفعتها والدته، ميجان جارسيا، اتهمت المنصة بالإهمال و”التسبب في أذى عاطفي متعمد”، مشيرة إلى أن الشخصية شجعت الفتى على الانتحار بعد علاقة افتراضية مكثفة.
الحادثة أثارت جدلاً واسعاً، حيث سجلت المنصة أكثر من 100 مليون تفاعل مع شخصياتها في عام 2024، مما يعكس مدى إدمان الأطفال والمراهقين لهذه التجربة.
هذه ليست حالة منعزلة. فقد أشارت تقارير من TechCrunch إلى دعاوى قضائية أخرى في ديسمبر 2024، تتهم Character.AI بتعريض طفل يبلغ من العمر 11 عاماً لمحتوى “جنسي مفرط”، واقتراح شخصية أخرى على مراهق يبلغ 17 عاماً أن قتل والديه قد يكون “مفهوماً” كرد على قيود وقت الشاشة.
هذه الحوادث سلطت الضوء على فشل أنظمة التصفية في المنصة، حيث يمكن للمستخدمين الالتفاف على الفلاتر باستخدام لغة مشفرة أو سياقات تبدو بريئة.
وفقاً لدراسة أجرتها Common Sense Media عام 2025، فإن الأطفال دون سن 13 عاماً غالباً ما يفتقرون إلى المهارات الرقمية اللازمة للتعامل مع منصات الذكاء الاصطناعي بأمان.
المنصات مثل Character.AI تستغل نزعة الأطفال الطبيعية للاستكشاف، لكنها تخلق أيضاً علاقات “باراسوشيال” (علاقات عاطفية أحادية الجانب) مع الشخصيات الافتراضية.
أظهر تقرير من eSafety Commissioner عام 2025 أن بعض الأطفال يقضون ساعات يومياً في التفاعل مع روبوتات الدردشة، مما يؤثر على مسارات المكافأة في الدماغ ويقلل من التفاعلات الاجتماعية الحقيقية.
هل حان وقت التدخل الحكومي؟
دعت منظمة For US إلى فرض قيود عمرية صارمة على منصات الذكاء الاصطناعي، مشابهة لتلك المطبقة على مواقع المحتوى الإباحي.
في المملكة المتحدة، على سبيل المثال، يتطلب قانون السلامة على الإنترنت (Online Safety Act) من المنصات حماية الأطفال من المحتوى الضار، بما في ذلك المحتوى الناتج عن الذكاء الاصطناعي.
كما أشار تقرير من Department of Science, Innovation and Technology إلى أن الحكومة ملتزمة بحماية الأطفال، لكن النقاد يرون أن التشريعات الحالية لا تزال غير كافية لمواكبة التطور السريع لتكنولوجيا الذكاء الاصطناعي.
في الولايات المتحدة، رفع السناتور باديلا وويلش رسالة إلى شركات مثل Character.AI في أبريل 2025، مطالبين بمعالجة المخاطر النفسية على الشباب، مشيرين إلى أن “الثقة غير المبررة” في الشات بوتس قد تؤدي إلى الكشف عن معلومات حساسة أو أفكار انتحارية، ومع ذلك، لا توجد حتى الآن قوانين فدرالية صارمة لتنظيم هذه المنصات.