أعلنت شركة ناشئة من نيوزيلندا تخطيطها لإطلاق حل هجين يجمع بين الذكاء الاصطناعي والتدخل البشري لاستهداف مستخدمي منصات الدردشة الذين يظهرون علامات تطرف عنيف، في خطوة أوسع نحو معالجة المخاطر المرتبطة بسلوكيات متطرفة في البيئات الرقمية.
وأوضحت المبادرة التي تقودها شركة ThroughLine، والتي تُعد من المقاولين المعتمدين لدى OpenAI وأيضًا مستخدمة من قبل منافسين مثل Anthropic وGoogle أنها تعمل حاليًا على تطوير أداة قادرة على التعرّف على المستخدمين ذوي التوجّهات المتطرفة عبر أنظمة الذكاء الاصطناعي وتوجيههم إلى دعم بشري مناسب وخدمات الصحة النفسية، وفقا لرويترز.
وقال إليوت تايلور، مؤسس ThroughLine، إن المشروع يندرج ضمن توسيع نطاق آليات التدخّل الحالية التي تعتمد عليها الشركة لمعالجة حالات مثل الانتحار والعنف الأسري واضطرابات الأكل، لافتًا إلى أن انتشار استخدام chatbots زاد من تعقيد المشكلات التي يواجهها المستخدمون عبر الإنترنت.
وتعاون ThroughLine مع مبادرة The Christchurch Call، التي تأسست بعد هجوم إرهابي في نيوزيلندا عام 2019، لتقديم المشورة حول تطوير الأداة وتوسيع نطاقها ليشمل الكراهية والتطرف ضمن المحتوى الرقمي. وأكد تايلور أن النظام المرتقب سيكون مزيجًا من الذكاء الاصطناعي المخصّص وردود بشرية لإدارة الحالات الخطرة بشكل فعال، رغم عدم تحديد موعد نهائي لإطلاق الأداة حتى الآن.
في حين أكدت OpenAI علاقتها مع ThroughLine، امتنعت Anthropic وGoogle عن التعليق رسميًا على مشاركتهما في المشروع، مما يعكس زيادة الضغط على شركات الذكاء الاصطناعي لمعالجة مخاطر الاستخدام السيئ في ظل ارتفاع الدعاوى القانونية والمخاوف من أن بعض المنصات قد تسهم في نشر العنف أو المحتوى المتطرف.
ويُنظر إلى هذه المبادرة كجزء من جهد أوسع لإيجاد حلول تكنولوجية وأخلاقية متوازنة، تجمع بين التدريب المتخصّص وآليات التوجيه البشري لمواجهة التحديات المتنامية التي تطرحها الذكاء الاصطناعي في بيئات التواصل الرقمي.
