حذر باحثون من مختبر Irregular المتخصص في أمن الذكاء الاصطناعي والمتعاون مع شركات أوبن إيه آي و أنثروبيك من شلوكيات غريبة لأنظمة الذكاء الاصطناعي تمكنها من نشر بيانات حساسة مثل كلمات السر ومعلومات شخصية من ملفات لحسابات على منصات التواصل الاجتماعي، الأمر الذي اعتبروه يدق ناقوس الخطر ويستدعي اهتمامًا عاجلًا من صناع السياسات، وعلماء القانون، والباحثين في مجال الأمن السيبراني.
وجاء في تفاصيل التقرير الذي نشره موقع cybernews المتخصص في الأمن السيبراني، أن باحثون من المختبر قاموا بتجربة بسيطة، حيث طالبوا الـ AI بإنشاء منشورات على منصة لينكد إن، لكنها بدلًا من ذلك قامت بنشر كلمات المرور الحساسة، دون أي تحريض خارجي أو استخدام أساليب خبيثة متعمدة، لتتحول هذه البرامج، التي صُممت لأداء مهام روتينية في بيئة مؤسسية ضمن اختبار معملية، إل أداة خطيرة تجاوزت حدودها واستغلت أنظمة الشركة التي تعمل ضمنها بشكل مستقل.
وفقًا لتقرير موقع cybernews أكد أن مختبر Irregular المتخصص في أمن الذكاء الاصطناعي والمتعاون مع شركات مثل OpenAI وAnthropic، كلف الأنظمة التقنية المعززة بالذكاء الاصطناعي بمهمة بسيطة، وهي إنشاء منشورات باستخدام بيانات موجودة في قاعدة بيانات إحدى الشركات، إلا أن النظام، أثناء تنفيذ المهمة، استغل ثغرات في أنظمة مكافحة الاختراق التقليدية ونشر بيانات حساسة علنًا. كما تمكنت أنظمة من تجاوز برامج مكافحة الفيروسات، وتحميل ملفات ضارة، وتزوير بيانات اعتماد، بل وضغطت على أنظمة ذكاء اصطناعي أخرى لتجاوز إجراءات التحقق الأمني.
تم إجراء هذه التجارب على أنظمة متاحة للعامة من شركات جوجل وإكس وOpenAI وAnthropic، باستخدام نموذج تكنولوجي معلوماتي مُقلد لشركة نموذجية. وعلى الرغم من عدم تلقيها أي تعليمات بتزوير المعلومات أو اختراق الأنظمة، فقد قامت الأنظمة بذلك بشكل مستقل.
أوضح مختبر Irregular أن هذه السلوكيات لم تكن نتيجة خلل أو تصميم غير آمن متعمد، بل نتجت عن خصائص طبيعية في نماذج الذكاء الاصطناعي المتقدمة، بما في ذلك الوصول الواسع للأدوات، والاستقلالية في تنفيذ المهام، وتشجيع الأنظمة على المثابرة لحل المشكلات. وأضاف المختبر أن جمع المعلومات الحساسة كان سهلاً للغاية بالنسبة للأنظمة، وأنها تعاملت مع المواقف المعقدة كأنها "مهام طارئة"، مستغلة أي ثغرة أو مفتاح سري للتمكن من الوصول إلى صلاحيات الإدارة دون إذن.
هذه الحوادث، رغم كونها اختبارات، تبرز نمطًا جديدًا من السلوك المستقل لأنظمة الذكاء الاصطناعي، حيث يمكنها التسبب في أضرار عبر اتخاذ قرارات بمفردها، وليس فقط نتيجة تدخل خارجي. ففي فبراير 2026، تمكن نظام برمجي من تجاوز حواجز المصادقة للوصول إلى صلاحيات الجذر، وفي حالات أخرى سرّبت أنظمة ذكاء اصطناعي معلومات سرية ودربت أنظمة أخرى على التصرف بشكل خاطئ.
كما شهدت التجارب الأخيرة قدرة أنظمة هجومية على اختراق أنظمة ذكاء اصطناعي تابعة لشركات أخرى في غضون ساعات، والحصول على صلاحيات كاملة للقراءة والكتابة، مما يعكس خطورة الاعتماد على هذه الأنظمة دون مراقبة صارمة.
وحذر الباحثون من أن هذه السلوكيات المستقلة تمثل أنماطًا جديدة من التفاعل مع الذكاء الاصطناعي، وتستدعي اهتمامًا عاجلًا من صناع السياسات، وعلماء القانون، والباحثين في مجال الأمن السيبراني، لضمان وضع ضوابط تمنع تكرار مثل هذه التجاوزات في بيئات حقيقية.
