بدأت شركة OpenAI في طرح نظام جديد للتنبؤ بالعمر عبر جميع خطط ChatGPT المخصصة للمستخدمين الأفراد، بهدف تحسين قدرتها على تحديد الحسابات التي قد تعود لمستخدمين دون سن 18 عاما.
وتمثل هذه الخطوة تحولا واضحا عن الاعتماد الحصري على الأعمار التي يصرّح بها المستخدمون بأنفسهم، نحو إجراءات حماية آلية تعتمد على سلوك الاستخدام.
وتقول الشركة إن النظام الجديد سيساعدها على تطبيق مستوى الحماية المناسب على حسابات المراهقين، مع إتاحة تجربة أقل تقييدًا للمستخدمين البالغين.
لماذا انتقلت OpenAI إلى التنبؤ بالعمر؟
يأتي هذا التحديث في وقت تتعرض فيه شركات الذكاء الاصطناعي لضغوط متزايدة من الجهات التنظيمية والمشرّعين، الذين يطالبون بتوفير حماية أقوى للقاصرين عند استخدام أدوات الذكاء الاصطناعي التوليدي.
وترى OpenAI أن الاعتماد على التصريح الذاتي بالعمر لم يعد كافيا، مما دفعها إلى تطوير نظام أكثر تكيفا وذكاءً، دون الحاجة إلى مطالبة المستخدمين بشكل متكرر بإثبات هويتهم.
كيف يعمل نظام التنبؤ بالعمر؟
يعتمد نموذج التنبؤ بالعمر على مجموعة من الإشارات المرتبطة بالحساب وسلوك المستخدم، من بينها:
مدة وجود الحساب
أنماط الاستخدام على مدار الوقت
أوقات النشاط المعتادة
أي معلومات عمرية سبق أن قدّمها المستخدم
وتؤكد OpenAI أن هذا النهج يسمح لها باستنتاج العمر بشكل غير مباشر، دون اللجوء إلى عمليات تحقق متكررة أو مزعجة.
وتصف الشركة النظام بأنه تقديري وليس نهائيا. فعندما تكون الإشارات غير واضحة، يقوم ChatGPT تلقائيا بتفعيل تجربة أكثر أمانا بشكل افتراضي.
ما الذي يحدث عند تصنيف الحساب كمراهق؟
إذا قدّر النظام أن الحساب يعود على الأرجح لمستخدم دون 18 عاما، يتم تفعيل إجراءات حماية إضافية تلقائيا، تهدف إلى تقليل التعرض لمحتوى يُعتبر عالي الخطورة على المراهقين.
وتشمل هذه القيود:
المحتوى الذي يتضمن عنفا مفرطا أو مشاهد دموية
الصور أو الأوصاف المتعلقة بإيذاء النفس
تقليص تمثيل الأدوار الجنسية أو العنيفة
تقييد التحديات المنتشرة التي قد تشجع على سلوكيات خطرة
الحد من المحتوى الذي يروّج لمعايير جمال متطرفة
المحتوى المرتبط بالحمية غير الصحية أو التنمّر على شكل الجسم
وتشير OpenAI إلى أن هذه القرارات تم اتخاذها بإرشاد خبراء في نمو الأطفال والمراهقين، استنادا إلى أبحاث تُظهر اختلاف إدراك المخاطر والتحكم في الاندفاع بين المراهقين والبالغين.
ماذا لو تم تصنيف المستخدم البالغ بالخطأ؟
تعترف OpenAI بأن الأنظمة الآلية قد تخطئ في بعض الحالات. ولهذا، يمكن للمستخدمين البالغين الذين تم تصنيفهم كمراهقين استعادة الوصول الكامل من خلال إجراء تحقق من العمر.
وتستخدم هذه العملية تحققا عبر صورة سيلفي بالتعاون مع خدمة Persona، وهي خدمة تدعم بالفعل عمليات التحقق لمنصات أخرى مثل Roblox.
وتوضح الشركة أن:
عملية التحقق سريعة
قابلة للعكس
لا تتطلب تحميل مستندات هوية دائمة، ما يحد من مخاوف الخصوصية
ويمكن للمستخدمين معرفة ما إذا كانت إجراءات الحماية مفعّلة على حسابهم، وبدء التحقق، من خلال إعدادات ChatGPT.
أدوات إضافية لحماية المراهقين
يبني نظام التنبؤ بالعمر على ميزات سابقة أطلقتها OpenAI للمراهقين، من بينها:
أدوات رقابة أبوية تتيح للوالدين التحكم في استخدام ChatGPT
تحديد أوقات هادئة
التحكم في الميزات المتاحة
تنبيهات مرتبطة بعلامات الضيق النفسي الحاد
كما شكّلت OpenAI مجلسا استشاريا خارجيا من خبراء لدراسة تأثير الذكاء الاصطناعي على الصحة النفسية والرفاه العاطفي، وتقديم المشورة بشأن القرارات المتعلقة بالمستخدمين الأكثر عرضة للمخاطر.
ضغوط تنظيمية متزايدة
يتزامن إطلاق النظام مع تصاعد التدقيق التنظيمي في الولايات المتحدة ودول أخرى. حيث تحقق لجنة التجارة الفيدرالية الأمريكية (FTC) في تأثير روبوتات الدردشة الذكية على الأطفال والمراهقين.
كما تواجه OpenAI دعاوى قضائية مرتبطة بمخاوف تتعلق بسلامة المستخدمين.
وتؤكد الشركة أنها ستواصل تحسين نموذج التنبؤ بالعمر، ومراقبة دقته، ورصد أي محاولات للتحايل على إجراءات الحماية.
التوسع الدولي وخطط المستقبل
أعلنت OpenAI أن النظام سيصل إلى دول الاتحاد الأوروبي خلال الأسابيع المقبلة، بعد تعديل الجدول الزمني ليتماشى مع المتطلبات التنظيمية الإقليمية.
ورغم وصف الشركة للتحديث بأنه محطة مهمة، فإنها تؤكد أن تصميم أنظمة ذكاء اصطناعي واعية بالعمر هو عملية مستمرة، وستشارك مزيدًا من التحديثات مع توسع الإطلاق وتحسن النموذج.
