كشفت شركة OpenAI عن إطلاق ميزة جديدة تحمل اسم “Trusted Contact” أو “جهة الاتصال الموثوقة”، في خطوة تستهدف تعزيز معايير الأمان داخل روبوت الدردشة ChatGPT، من خلال تنبيه شخص يختاره المستخدم مسبقًا عند رصد مؤشرات تتعلق بإيذاء النفس أو الأفكار الانتحارية أثناء المحادثات.
وتمنح الميزة المستخدمين البالغين إمكانية إضافة “جهة اتصال موثوقة” عبر إعدادات الحساب، سواء كان أحد أفراد الأسرة أو صديقًا مقرّبًا. وعند اكتشاف النظام محادثات تتضمن مؤشرات خطرة مرتبطة بإيذاء النفس، يشجّع ChatGPT المستخدم على التواصل مع هذا الشخص، إلى جانب إرسال إشعار تلقائي إلى جهة الاتصال المختارة لحثّها على متابعة حالة المستخدم والاطمئنان عليه.
وتأتي هذه الخطوة في ظل مواجهة الشركة عددًا من الدعاوى القضائية التي رفعتها عائلات لأشخاص أقدموا على الانتحار بعد استخدام روبوت الدردشة، إذ تتهم بعض القضايا ChatGPT بالتشجيع على الانتحار أو المساعدة في التخطيط له.
وأوضحت الشركة أنها تعتمد حاليًا على أنظمة آلية مدعومة بمراجعات بشرية لرصد المحادثات التي قد تمثل خطرًا على المستخدمين، مشيرةً إلى أن أي مؤشرات مرتبطة بميول انتحارية يتم تحويلها مباشرة إلى فريق السلامة المختص داخل الشركة لمراجعتها.
وأكدت OpenAI أن جميع البلاغات المتعلقة بالسلامة تخضع لمراجعة بشرية دقيقة، مع العمل على تقييم التنبيهات خلال أقل من ساعة واحدة.
وفي حال توصّل فريق السلامة إلى وجود تهديد حقيقي، يرسل ChatGPT إشعارًا إلى جهة الاتصال الموثوقة عبر البريد الإلكتروني أو الرسائل النصية أو من خلال التطبيق، مع التأكيد أن التنبيه لا يتضمن تفاصيل المحادثة حفاظًا على خصوصية المستخدم.
وتعتمد الميزة الجديدة على أدوات السلامة التي أطلقتها الشركة في سبتمبر الماضي، والتي أتاحت لأولياء الأمور مستوى أكبر من الإشراف على حسابات المراهقين، من بينها تلقي تنبيهات عند رصد ما وصفته الشركة بـ“الخطر الجدي” على المستخدمين القاصرين. كما يوفّر ChatGPT منذ فترة تنبيهات تلقائية تشجّع المستخدمين على طلب المساعدة المتخصصة عند ظهور مؤشرات مرتبطة بإيذاء النفس.
ورغم ذلك، شددت الشركة على أن ميزة “Trusted Contact” تظل اختيارية بالكامل، لافتةً إلى أن إمكانية إنشاء أكثر من حساب داخل ChatGPT قد تقلّل من فعالية هذه الإجراءات، على غرار أدوات الرقابة الأبوية الاختيارية.
وقالت OpenAI إن الميزة الجديدة تأتي ضمن جهودها المستمرة لتطوير أنظمة ذكاء اصطناعي أكثر قدرة على دعم المستخدمين خلال الأزمات النفسية والضغوط الصعبة، مؤكدةً استمرار تعاونها مع الأطباء والباحثين وصنّاع السياسات لتحسين استجابة تقنيات الذكاء الاصطناعي للحالات المرتبطة بالصحة النفسية والأزمات الإنسانية.
