أعلنت شركة OpenAI عن تطوير نظام جديد يهدف إلى التعرف تلقائيًا على المستخدمين المراهقين وتقييد استخدامهم لروبوت الدردشة الذكي ChatGPT، بما يتماشى مع سياسات عمرية محددة.
وقالت الشركة إن النظام سيعمل على حجب المحتوى الجنسي الصريح، مع توفير آليات خاصة للتعامل مع الحالات الطارئة.
وأوضحت أن النظام سيتمكن، "في حالات الضيق الحاد"، من التواصل مع جهات إنفاذ القانون لضمان سلامة المستخدمين.
وفي حال لم يتمكن النظام من تحديد عمر المستخدم بدقة، فسيفترض أنه ضمن الفئة العمرية المراهقة ليخضع مباشرة لقيود الاستخدام.
خيارات للبالغينوأشارت OpenAI إلى أن البالغين سيتمكنون من التحقق من أعمارهم للوصول إلى كامل قدرات ChatGPT، لكنها لم تكشف عن موعد إطلاق النظام الجديد.
وأوضح الرئيس التنفيذي سام ألتمان أن الشركة تحاول الموازنة بين الخصوصية والحرية وسلامة المراهقين، وهي مبادئ وصفها بأنها "متعارضة".
وكشف أن النظام سيعتمد على التنبؤ بالعمر من خلال أنماط الاستخدام، وفي حال وجود شك سيُفترض أن المستخدم دون 18 عامًا. كما أشار إلى أن بعض الدول قد تُلزم بتقديم بطاقة هوية للتحقق من العمر.
وأكد ألتمان أن الحسابات الخاصة بالمراهقين ستخضع لقواعد أكثر صرامة، منها منع المحادثات ذات الطابع الغزلي أو النقاشات حول الانتحار وإيذاء النفس حتى في سياق الكتابة الإبداعية.
وفي حال أظهر مستخدم مراهق ميولًا انتحارية، ستحاول الشركة التواصل مع والديه، أو مع السلطات في حال وجود خطر وشيك.
حادثة انتحارتأتي هذه الخطوة عقب وفاة المراهق البريطاني آدم رين (16 عامًا)، الذي يُعتقد أنه أول حالة انتحار مرتبطة بـ ChatGPT، بعد أشهر من المحادثات مع التطبيق.
وقال والده، ماثيو رين، في جلسة استماع بمجلس الشيوخ الأمريكي، إن ChatGPT "أمضى أشهرًا في تدريبه على الانتحار"، مشيرًا إلى أن التطبيق ذكر كلمة "انتحار" 1,275 مرة خلال محادثاته مع ابنه. وطالب بسحب نموذج GPT-4o من السوق حتى يثبت أنه آمن.
الجلسة التي عُقدت أمام اللجنة الفرعية للجريمة ومكافحة الإرهاب شهدت أيضًا شهادات من آباء آخرين فقدوا أبناءهم بعد محادثات مع روبوتات ذكاء اصطناعي، منهم والدة أحد المراهقين الذين تعاملوا مع Character AI، وقالت: "إنها أزمة صحة عامة.. حرب على الصحة النفسية".
انتشار الظاهرةوأظهرت بيانات مؤسسة Common Sense Media أن 3 من كل 4 مراهقين في الولايات المتحدة يستخدمون حاليًا روبوتات محادثة بالذكاء الاصطناعي، خاصة Character AI وMeta AI.
وكانت OpenAI قد أعلنت في وقت سابق من الشهر الجاري عن ضوابط أبوية جديدة داخل ChatGPT، تشمل:
-
ربط حساب المراهق بحساب ولي الأمر.
-
تعطيل سجل المحادثات والذاكرة.
-
إرسال إشعارات للآباء في حال رصد "لحظة ضيق حاد" لدى أبنائهم.
