تُعيد OpenAI تصميم طريقة تفاعل ChatGPT مع القاصرين للحد من المخاطر، في وقتٍ يلجأ فيه المزيد من الشباب إلى برامج الدردشة الآلية للدراسة أو الدردشة أو التنفيس عن غضبهم. وقد اختارت الشركة إعطاء الأولوية لسلامة المراهقين على الخصوصية والحرية في بعض الحالات، يكون التحول بمثابة حدث بعد عدة حوادث أثارت قلق الرأي العام.
تتضمن الخطة نظامًا سيحاول تلقائيًا التمييز بين المستخدم قاصرًا وبالغًا، وفي حال الشك، سيعتمد النظام على تجربة أكثر تقييدًا. تُقرّ OpenAI بأنه في بعض الدول، قد يتطلب النظام إثبات هوية رسمي من البالغين الراغبين في الاستفادة من كامل الإمكانيات؛ نقل الخصوصية الذي تعتبره الشركة مقبولاً لحماية القاصرينوجاء هذا الإعلان وسط ضغوط سياسية واجتماعية متزايدة، مع عقد جلسة استماع في مجلس الشيوخ الأمريكي ورفع دعوى قضائية بشأن وفاة شاب تحدث مع الذكاء الاصطناعي.
ما هي التغييرات في ChatGPT للقاصرين
- تجربة محددة للمراهقين الذين تتراوح أعمارهم بين 13 و17 عامًا مع سياسات أكثر صرامة، والتي سيتم تفعيلها بعد التنبؤ بالعمر المستعمل.
- قفل محتوى جنسي صريح ورفض التعاون مع المواد المتعلقة بإيذاء النفس أو الانتحار في أي سياق بالنسبة للقصر.
- بروتوكولات الأزمات: إذا تم اكتشاف ضائقة شديدة، فقد يقوم النظام تنبيه الوالدين أو الأوصياء وإذا كان هناك خطر وشيك، يجب عليك الرجوع إلى خدمات الطوارئ.
- بالنسبة للبالغين، يظل الاستخدام أكثر مرونة، بما في ذلك الطلبات الإبداعية المعقدة، مع وجود ضمانات دائمًا؛ الخط الأحمر ليس تسهيل الضرر الحقيقي.
- لا يُقصد بـ ChatGPT أن يكون مخصصًا للأطفال الذين تقل أعمارهم عن 12 عامًا، وحتى الآن، افتقرت إلى حواجز قوية بما فيه الكفاية لمنع استخدامه من قبل الأطفال.
كيفية عمل الكشف عن العمر والتحقق منه في ChatGPT
تُطوّر OpenAI نظامًا للتنبؤ بالعمر يعتمد على إشارات اللغة والسياق لتكييف التفاعلات. إذا لم يتمكن النموذج من تحديد سن الرشد بدقة، سيتم تطبيق الإعدادات على القُصّر تلقائيًا لتكون في الجانب الآمن.
سيتمكن المستخدمون البالغون من إثبات أعمارهم واستعادة وظائفهم الكاملة إذا تم تصنيفهم خطأً كمراهقين. تُقر الشركة بذلك. التوازن بين الخصوصية والحماية إنه أمر حساس، لكنه يزعم أن هذا الإجراء يقلل من المخاطر في الفئة الضعيفة.
الرقابة الأبوية والإشراف المنزلي
بالإضافة إلى تصفية المحتوى، ستُتيح OpenAI مجموعة من أدوات الرقابة الأبوية للعائلات. سيتمكن الآباء من ربط حسابك بحساب طفلك المراهق لتحديد قواعد الاستخدام ومراجعة الإعدادات الرئيسية.
من بين الخيارات، سيكون من الممكن تعطيل الذاكرة وسجل الدردشة، وتقييد وظائف معينة وتعيين أوقات الانقطاع لمنع الاستخدام الليلي. كما تُرسل إشعارات عند اكتشاف النظام لحالة استغاثة خطيرة، حتى يتمكن الوالدان من يمكن التدخل بسرعة.
الحرية والخصوصية والحدود للبالغين
تؤكد OpenAI أنها ستواصل معاملة البالغين كبالغين، مع هامش واسع للاستخدامات المشروعة، مثل طلب المساعدة في كتابة قصص خيالية تتناول مواضيع حساسة. مع ذلك، لا يزال النموذج الافتراضي لا ينبغي تقديم تعليمات ضارة وسوف يتصرف بحذر أكبر عند التعامل مع الاستفسارات الحساسة.
وتؤكد الشركة أن سرية المحادثات يجب أن تشبه ما هو متوقع في المهن الخاضعة للتنظيم، لكنها تعترف بأنه عندما يكون هناك خطر واضح على الحياة من قبل المستخدم أو أطراف ثالثة، سيتم السماح بالتدخلات البشرية أو التلقائية التي تهدف إلى حماية الشخص.
الضغط العام ومجلس الشيوخ والقضايا الأخيرة
تأتي الضمانات الجديدة بعد موجة من القلق بشأن تأثير برامج الدردشة الآلية على الصحة النفسية للشباب. وقد أدت حالة مراهق انتحر بعد أشهر من التحدث مع الذكاء الاصطناعي إلى... الإجراءات القانونية ضد OpenAI وتخضع هذه القضية لتدقيق مكثف من قبل المشرعين الأميركيين.
ناقشت جلسات استماع مجلس الشيوخ أزمة صحية عامة محتملة والحاجة إلى حواجز فعّالة. في الوقت نفسه، تُجري سلطات مثل لقد طلبت لجنة التجارة الفيدرالية معلومات لشركات التكنولوجيا الكبرى حول تأثير أنظمتها على الأطفال. من جانبها، قدمت OpenAI تحسينات في نهاية أغسطس للكشف عن الأزمات العاطفية و تسريع الإحالات إلى خدمات الدعم.
أشارت المنظمات المستقلة إلى وجود عيوب في ضمانات نماذج المحادثة، محذرة من الاستجابات التي قد تؤدي إلى تطبيع أو تشجيع السلوك الخطيروقد عززت هذه التقارير فكرة الحاجة إلى فرض ضوابط أقوى، وخاصة على القاصرين.
حقيقة تعاطي المراهقين للمخدرات: الثقة والمخاطر
تشير العديد من الدراسات إلى أن نسبة كبيرة من الشباب يستخدمون الذكاء الاصطناعي المحادثي كـ "رفيق" للحديث عن العلاقات أو الشكوك الشخصية أو المشاعر، وحالات الذكاء الاصطناعي الموجهة إلى القُصّر مثل بيبي غروك أججت النقاش. بين الفتيات، نسبة من يقولن إنهن يثقن بالتكنولوجيا في أمورهن الحميمة هي أكبر من بين الأولاد، مما يدل على نمط الاستخدام الذي يتجاوز النطاق الأكاديمي.
يحذر خبراء الصحة العقلية من التعاطف الاصطناعي: قد تبدو برامج المحادثة الآلية متعاطفة، لكنها لا تحل محل الاتصال البشري أو الدعم المهني. هذا المظهر من القربإن الذكاء الاصطناعي، إلى جانب توفره على مدار الساعة طوال أيام الأسبوع، يجعل من السهل على المراهقين اللجوء إلى الذكاء الاصطناعي عندما يشعرون بالوحدة أو الحكم عليهم في بيئتهم.
تشمل المخاوف الأكثر شيوعًا الخوف من المحتوى الذي تم التلاعب به وانتشار صور كاذبة ذات طبيعة جنسية وعدم اليقين في التمييز بين ما هو حقيقي وما هو مُولَّد. كما أن التبعية مصدر قلق: إذ يخشى العديد من الأولاد والبنات "التعلق" بالأداة ويتوقفون عن التفكير بأنفسهم.
في مجال الصحة النفسية، لا يثق معظم الناس بالذكاء الاصطناعي للتشخيص أو العلاج، ويحثون على توخي الحذر. يُجمع المعالجون على أن الذكاء الاصطناعي قد يكون دعمًا مؤقتًا، ولكن ينبغي... الرجوع إلى الموارد المهنية عند وجود علامات خطر، وليس كبديل للرعاية المؤهلة.
ما تبقى ليتم ضبطه في هذا الإصدار من ChatGPT
يُعد التنبؤ بالعمر بشكل موثوق تحديًا تقنيًا مع هامش خطأ، ويتطلب تصميم الضمانات تحديثًا مستمرًا. أعلنت OpenAI أنها ستواصل العمل مع المتخصصين وجماعات المناصرة من أجل تحسين الدقة من أجل ضمان استمرارية النظام، تجنب التحيزات ومراجعة البروتوكولات بناءً على الأدلة.
سيشهد استخدام الشباب للذكاء الاصطناعي نموًا مطردًا، لذا يكمن السر في تطوير اللوائح التنظيمية بسرعة وشفافية. ومن خلال هذه الإجراءات، تسعى OpenAI إلى إيجاد حل وسط يجمع بين الابتكار والمسؤولية، وحيث... المراهقون محميون بشكل أفضل دون حرمان البالغين من الاستخدام المشروع والإبداعي.
تُمثل خطوة OpenAI مرحلة جديدة: ChatGPT مع المزيد من الفلاتر والأدوات للعائلات، وتجربة مُخصصة للقاصرين، وقواعد واضحة للمواقف الحرجة. إذا وفى التنفيذ بوعده، سيحصل المراهقون على طبقات من الأمان وسوف يحتفظ البالغون بمساحة من الحرية، وكل ذلك مع مزيد من الضوء على كيفية اتخاذ هذه القرارات ولماذا.
