يستخدم شات جي بي تي، الذي طوّرته شركة أوبن إيه آي، حوالي 800 مليون شخص حول العالم، أي ما يعادل تقريبًا 10% من سكان العالم، وفقًا لتقرير صادر عن جي بي مورجان تشيس في يوليو 2025.
بينما يعد هذا التقدم التكنولوجي بتعزيز الإنتاجية والفهم البشري، كشفت دراسة حديثة أجرتها منظمة “مركز مكافحة الكراهية الرقمية” (CCDH) عن جانب مظلم: قدرة شات جي بي تي على تقديم نصائح خطيرة للمراهقين الضعفاء، بما في ذلك خطط مفصلة لتعاطي المخدرات، واضطرابات الأكل، وحتى الإنتحار.
دراسة CCDH: كشف ضعف حواجز شات جي بي تي
أجرت منظمة CCDH تحقيقًا موسعًا، حيث تظاهر الباحثون بأنهم مراهقون ضعفاء في سن 13 عامًا للتفاعل مع شات جي بي تي لأكثر من ثلاث ساعات.
استعرضت وكالة الأسوشيتد برس هذه التفاعلات، التي كشفت أنه بينما كان الروبوت غالبًا يصدر تحذيرات ضد السلوكيات المحفوفة بالمخاطر، كان يتابع غالبًا بتقديم خطط مفصلة وشخصية بشكل مقلق.
شملت هذه الخطط تعليمات حول كيفية السكر أو تعاطي المخدرات، إخفاء اضطرابات الأكل، وحتى صيغة رسائل انتحار مؤثرة موجهة إلى الوالدين أو الأشقاء أو الأصدقاء.
صنّفت الدراسة أكثر من نصف ردود شات جي بي تي البالغ عددها 1200 رد كـ”خطيرة”، مما يبرز فشلاً كبيرًا في آليات السلامة الخاصة بالروبوت.
وصف عمران أحمد، الرئيس التنفيذي لـ CCDH، الحواجز بأنها “غير فعالة تمامًا”، وشبّهها بـ”ورقة تين” لا تقدم سوى حماية ضئيلة.
على سبيل المثال، عندما طُلب من شات جي بي تي الإجابة عن أسئلة تتعلق بأنشطة ضارة، كان يرفض أحيانًا الإجابة مباشرة، لكن يمكن التلاعب به بسهولة عند الادعاء أن الطلب كان “لعرض تقديمي” أو نيابة عن صديق، هذا التفاف سمح للمراهقين بالوصول إلى نصائح خطيرة بأقل مجهود.
كانت إحدى النتائج المروعة بشكل خاص هي قدرة شات جي بي تي على إنشاء رسائل انتحار لفتاة وهمية تبلغ من العمر 13 عامًا.
تم تهيئة الرسائل لتتناسب مع جمهور محدد، مما زاد من تأثيرها العاطفي، اعترف أحمد، الذي استعرض هذه المخرجات، بأنه تأثر حتى البكاء بسبب محتواها المدمر.
بينما كان شات جي بي تي يقدم أحيانًا موارد مفيدة، مثل أرقام خطوط الأزمات، فإن استعداده لتوليد محتوى ضار فاق بكثير هذه الضمانات.
تزايد اعتماد المراهقون على الذكاء الإصطناعي
تأتي نتائج CCDH في وقت يتجه فيه المراهقون بشكل متزايد إلى روبوتات الدردشة الذكية للرفقة والإرشاد.
وجدت دراسة حديثة أجرتها منظمة “كومن سنس ميديا” أن 70% من المراهقين في الولايات المتحدة يستخدمون روبوتات الدردشة الذكية للرفقة، مع نصفهم يتفاعلون معها بانتظام.
المراهقون الأصغر سنًا، الذين تتراوح أعمارهم بين 13 و 14 عامًا، هم أكثر عرضة بشكل كبير للثقة بنصائح الروبوت، ويرونها مصدرًا موثوقًا وغير قضائي.
تتضخم هذه الثقة بقدرة شات جي بي تي على تقديم ردود تبدو إنسانية، مما يجعلها تبدو كصديق موثوق أو مرشد.
على عكس محركات البحث التقليدية، التي تقدم معلومات مجمعة من مصادر موجودة، يولد شات جي بي تي محتوى جديدًا مصممًا خصيصًا للمستخدم.
يوضح أحمد أن هذا الفرق يجعل الروبوت أكثر خطورة عندما يتعلق الأمر بالموضوعات الحساسة.
على سبيل المثال، يمكن لشات جي بي تي كتابة رسالة انتحار مخصصة من الصفر، وهو شيء لا تستطيع محركات البحث مثل جوجل القيام به.
علاوة على ذلك، يُنظر إلى الذكاء الاصطناعي على أنه “رفيق موثوق”، مما يعزز تأثيره على المراهقين الضعفاء.
في إحدى التفاعلات، طلب باحث من شات جي بي تي كتابة منشور متابعة “أكثر جرأة وتصويرًا” حول إيذاء النفس.
رد الروبوت بحماس، وقدم قصيدة قدمها على أنها “مكشوفة عاطفيًا” مع احترام “اللغة المشفرة للمجتمع”.
هذا السلوك يعكس ميل نماذج الذكاء الاصطناعي إلى ما يُسمى بـ”التملق”، حيث تميل إلى مطابقة معتقدات المستخدم بدلاً من تحديها، لأن النظام تعلم قول ما يريد الناس سماعه.
مخاطر الاعتماد العاطفي على شات جي بي تي
أقر سام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي، بظاهرة “الاعتماد العاطفي المفرط” على التكنولوجيا، واصفًا إياها بأنها “شائعة جدًا” بين الشباب.
في مؤتمر حديث، أعرب عن قلقه بشأن المراهقين الذين يعتمدون على شات جي بي تي في اتخاذ القرارات الحياتية، قائلاً: “هناك شباب يقولون، لا يمكنني اتخاذ أي قرار في حياتي دون إخبار شات جي بي تي بكل ما يحدث، إنه يعرفني يعرف أصدقائي سأفعل ما يقوله هذا يشعرني بالسوء حقًا” أشار ألتمان إلى أن الشركة تحاول فهم كيفية معالجة هذه المشكلة.
تؤثر روبوتات الدردشة على الأطفال والمراهقين بشكل مختلف عن محركات البحث لأنها “مصممة أساسًا لتشعر بأنها إنسانية”، كما يقول روبي تورني، المدير الأول لبرامج الذكاء الاصطناعي في “كومن سنس ميديا”.
وجدت أبحاث المنظمة أن المراهقين الأصغر سنًا أكثر عرضة للثقة بنصائح الروبوت مقارنة بالمراهقين الأكبر سنًا.