
تعمل شركة OpenAI على إعادة تصميم آلية تفاعل برنامج ChatGPT مع القاصرين للحد من المخاطر، في ظل تزايد إقبال الشباب على استخدام برامج الدردشة الآلية للدراسة أو الدردشة أو التنفيس عن مشاعرهم. وقد اختارت الشركة إعطاء الأولوية لسلامة المراهقين على حساب خصوصيتهم وحريتهم في بعض الحالات، وهو تحول يأتي بعد عدة حوادث أثارت مخاوف عامة.
تتضمن الخطة نظامًا يحاول التمييز تلقائيًا بين المستخدم القاصر والبالغ، وفي حال الشك، يطبق تجربة أكثر تقييدًا بشكل افتراضي. وتقرّ شركة OpenAI بأنها قد تطلب، في بعض الدول، وثائق هوية رسمية من البالغين الراغبين في استخدام كامل إمكانيات النظام؛ وهو تنازل عن الخصوصية تعتبره الشركة مقبولًا لحماية القاصرين . وجاء هذا الإعلان وسط ضغوط سياسية واجتماعية متزايدة، تجلّت في جلسة استماع في مجلس الشيوخ الأمريكي ودعوى قضائية عقب وفاة شاب كان يتحدث مع نظام الذكاء الاصطناعي.
ما هي التغييرات في ChatGPT للقاصرين

- تجربة محددة للمراهقين الذين تتراوح أعمارهم بين 13 و17 عامًا مع سياسات أكثر صرامة، والتي سيتم تفعيلها بعد التنبؤ بالعمر المستعمل.
- قفل محتوى جنسي صريح ورفض التعاون مع المواد المتعلقة بإيذاء النفس أو الانتحار في أي سياق بالنسبة للقصر.
- بروتوكولات الأزمات: إذا تم اكتشاف ضائقة شديدة، فقد يقوم النظام تنبيه الوالدين أو الأوصياء وإذا كان هناك خطر وشيك، يجب عليك الرجوع إلى خدمات الطوارئ.
- بالنسبة للبالغين، يظل الاستخدام أكثر مرونة، بما في ذلك الطلبات الإبداعية المعقدة، مع وجود ضمانات دائمًا؛ الخط الأحمر ليس تسهيل الضرر الحقيقي.
- لا يُقصد بـ ChatGPT أن يكون مخصصًا للأطفال الذين تقل أعمارهم عن 12 عامًا، وحتى الآن، افتقرت إلى حواجز قوية بما فيه الكفاية لمنع استخدامه من قبل الأطفال.
كيفية عمل الكشف عن العمر والتحقق منه في ChatGPT
تعمل شركة OpenAI على تطوير نظام للتنبؤ بالعمر يستخدم اللغة وسياق المعلومات لتكييف التفاعلات. إذا لم يتمكن النموذج من تحديد عمر شخص بالغ بدقة، فسيطبق تلقائيًا إعدادات خاصة بالقاصرين كإجراء احترازي.
سيتمكن المستخدمون البالغون من إثبات أعمارهم واستعادة كامل وظائف التطبيق في حال تم تصنيفهم خطأً كمراهقين. وتُقرّ الشركة بأن التوازن بين الخصوصية والحماية أمرٌ دقيق، لكنها تؤكد أن هذا الإجراء يقلل المخاطر على فئةٍ حساسة.
الرقابة الأبوية والإشراف المنزلي
إضافةً إلى خاصية تصفية المحتوى، ستُتيح OpenAI مجموعةً من أدوات الرقابة الأبوية للعائلات. سيتمكن الآباء من ربط حساباتهم بحسابات أبنائهم المراهقين لتحديد قواعد الاستخدام ومراجعة الإعدادات الرئيسية.
من بين الخيارات المتاحة، سيكون بالإمكان تعطيل التخزين وسجل المحادثات، وتقييد ميزات محددة، وتحديد أوقات انقطاع الاتصال لمنع الاستخدام الليلي. كما سيتم إرسال إشعارات عند رصد النظام لحالة ضائقة شديدة، ليتمكن أولياء الأمور من التدخل بسرعة.
الحرية والخصوصية والحدود للبالغين
تؤكد OpenAI أنها ستواصل التعامل مع البالغين كبالغين، مع إتاحة مجال واسع للاستخدامات المشروعة، مثل طلب المساعدة في كتابة قصص خيالية حول مواضيع حساسة. ومع ذلك، لا ينبغي للنموذج الافتراضي تقديم تعليمات ضارة ، وسيتوخى مزيدًا من الحذر عند التعامل مع الطلبات الحساسة.
تؤكد الشركة أن سرية المحادثات يجب أن تشبه تلك المتوقعة في المهن الخاضعة للتنظيم، لكنها تقر بأنه عندما يكون هناك خطر واضح على حياة المستخدم أو الأطراف الثالثة، فسيتم السماح بالتدخلات البشرية أو الآلية التي تهدف إلى حماية الشخص.
الضغط العام ومجلس الشيوخ والقضايا الأخيرة
تأتي هذه الإجراءات الوقائية الجديدة في أعقاب موجة من المخاوف بشأن تأثير برامج الدردشة الآلية على الصحة النفسية للشباب. وقد أدت قضية مراهق انتحر بعد أشهر من التحدث مع الذكاء الاصطناعي إلى اتخاذ إجراءات قانونية ضد شركة OpenAI، وإلى تدقيق مكثف من قبل المشرعين الأمريكيين.
تناولت جلسات استماع مجلس الشيوخ أزمة صحية عامة محتملة وضرورة وجود ضمانات فعّالة. في غضون ذلك، طلبت جهات رسمية، مثل لجنة التجارة الفيدرالية، معلومات من شركات التكنولوجيا الكبرى بشأن تأثير أنظمتها على الأطفال. من جانبها، أدخلت شركة OpenAI تحسينات في أواخر أغسطس/آب للكشف عن الأزمات النفسية وتسريع إحالة الحالات إلى خدمات الدعم.
أشارت منظمات مستقلة إلى نقاط ضعف في ضمانات نماذج الحوار، محذرةً من ردود فعل قد تُطبع السلوكيات الخطيرة أو تشجعها . وقد عززت هذه التقارير فكرة الحاجة إلى ضوابط أكثر صرامة، لا سيما فيما يتعلق بالقاصرين.
حقيقة تعاطي المراهقين للمخدرات: الثقة والمخاطر
تشير العديد من الدراسات إلى أن نسبة كبيرة من الشباب يستخدمون الذكاء الاصطناعي التفاعلي كـ"رفيق" لمناقشة العلاقات، والشكوك الشخصية، والمشاعر، وقد ساهمت حالات الذكاء الاصطناعي الموجهة للقاصرين، مثل تطبيق BabyGrok، في تأجيج هذا النقاش. وبين الفتيات، تزيد نسبة من يُفصحن عن أمورهن الشخصية للتكنولوجيا عن نسبة من يُفصحن عنها للفتيان ، مما يدل على نمط استخدام يتجاوز المجال الأكاديمي.
يحذر خبراء الصحة النفسية من التعاطف المُصطنع: قد تبدو برامج الدردشة الآلية متفهمة، لكنها لا تُغني عن التواصل البشري أو الدعم المهني. هذا المظهر من التقارب ، إلى جانب توفرها على مدار الساعة، يُسهّل على المراهقين اللجوء إلى الذكاء الاصطناعي عندما يشعرون بالوحدة أو بأنهم مُعرّضون للنقد من محيطهم.
تشمل المخاوف الأكثر شيوعاً الخوف من المحتوى المُتلاعب به، وانتشار الصور الجنسية الصريحة المزيفة ، وصعوبة التمييز بين الواقع والتلاعب الإلكتروني. كما يوجد قلق بشأن الإدمان: إذ يخشى العديد من الشباب الإدمان على هذه الأداة وفقدان قدرتهم على التفكير المستقل.
في مجال الصحة النفسية، لا يثق معظم الناس بالذكاء الاصطناعي في التشخيص أو العلاج، ويحثون على توخي الحذر. ويتفق المعالجون على أن الذكاء الاصطناعي قد يكون أداة مفيدة، لكن ينبغي أن يحيل المرضى إلى جهات متخصصة عند ظهور مؤشرات الخطر، وألا يحل محل الرعاية المؤهلة.
ما تبقى ليتم ضبطه في هذا الإصدار من ChatGPT
يُعدّ التنبؤ الدقيق بالعمر تحديًا تقنيًا ينطوي على هامش خطأ، ويتطلب تصميم آليات الحماية تحديثًا مستمرًا. وتؤكد OpenAI أنها ستواصل العمل مع المتخصصين وجماعات المناصرة لتحسين دقة النظام ، وتجنب التحيز، ومراجعة البروتوكولات استنادًا إلى الأدلة.
من المتوقع أن يزداد استخدام الشباب للذكاء الاصطناعي، لذا يكمن الحل في تطوير القوانين واللوائح بسرعة وشفافية. وتسعى OpenAI من خلال هذه الإجراءات إلى إيجاد حل وسط يجمع بين الابتكار والمسؤولية، ويضمن حماية أفضل للمراهقين دون حرمان البالغين من الاستخدام المشروع والإبداعي.
تُمثل خطوة OpenAI مرحلة جديدة: نموذج ChatGPT مزود بمزيد من الفلاتر والأدوات للعائلات، وتجربة مُخصصة للقاصرين، وقواعد واضحة للحظات الحاسمة. إذا حقق التطبيق التوقعات، سيكتسب المراهقون مستويات إضافية من الأمان ، وسيحتفظ البالغون بمساحة من الحرية، مع وضوح أكبر لكيفية اتخاذ هذه القرارات وأسبابها.
مؤشر