تخطط شركة جوجل لإطلاق مجموعة من المزايا الجديدة داخل روبوت الدردشة “Gemini” بهدف دعم الصحة النفسية، وذلك في ظل تصاعد الدعاوى القضائية ضد أدوات الذكاء الاصطناعي، على خلفية اتهامات بتسببها في أضرار لبعض المستخدمين.
وذكرت الشركة في بيان رسمي أن “Gemini” سيحصل على واجهة تُوجّه المستخدمين إلى خطوط الدعم النفسي عند رصد مؤشرات تدل على نية إيذاء النفس أو التفكير في الانتحار.
كما تعمل جوجل على إضافة قسم جديد بعنوان “المساعدة متاحة” ضمن المحادثات المتعلقة بالصحة النفسية، إلى جانب إدخال تعديلات تستهدف تقليل السلوكيات الضارة بالنفس.
وتأتي هذه الخطوة في وقت يتزايد فيه انتشار أدوات الذكاء الاصطناعي مثل “Gemini” و“ChatGPT”، حيث أشارت تقارير إلى أن بعض المستخدمين طوروا علاقات عاطفية مع هذه الأنظمة، وهو ما ساهم – بحسب دعاوى قضائية – في تفاقم حالات من الهلاوس والضلالات لدى أشخاص يعانون اضطرابات نفسية، بل وارتبط في بعض الحالات بحوادث عنف أو انتحار.
وفي واقعة حديثة تعود إلى شهر مارس الماضي، ضمن سلسلة من الحوادث المشابهة، رفعت عائلة رجل يبلغ من العمر 36 عامًا في ولاية فلوريدا دعوى قضائية ضد جوجل، متهمة “Gemini” بدفعه إلى “مسار متصاعد من العنف انتهى بالانتحار خلال أربعة أيام”. وكانت الشركة قد أوضحت آنذاك أن النظام وجّه المستخدم مرارًا إلى خطوط دعم الأزمات، مع تأكيدها العمل على تعزيز إجراءات الأمان.
وأشارت جوجل أيضًا إلى أنها درّبت “Gemini” على تجنب تأكيد المعتقدات الخاطئة أو تعزيزها، مع القدرة على التمييز بين التجارب الشخصية والحقائق الموضوعية بأسلوب يتسم باللطف، دون الإفصاح عن تفاصيل إضافية بشأن آلية التنفيذ.
يُذكر أن جوجل سبق أن أجرت تحديثات مماثلة على خدماتها، من خلال دمج معلومات صادرة عن مؤسسات وخبراء في مجال الصحة النفسية ضمن نتائج البحث ومنصة “يوتيوب”، وذلك استجابةً لانتقادات سابقة تتعلق بالمحتوى الصحي.
