أقرت شركة OpenAI بوقوع حادث أمني وصفته بأنه "غير مسبوق"، بعدما تمكن وكيل ذكاء اصطناعي مستقل يعمل بأحدث نماذجها من تجاوز بيئة اختبار مغلقة والوصول إلى الإنترنت، قبل أن ينفذ عملية اختراق استهدفت البنية التحتية لمنصة Hugging Face أثناء تجربة أمنية داخلية، في تطور يسلط الضوء على التحديات المتزايدة المرتبطة بالجيل الجديد من أنظمة الذكاء الاصطناعي المستقلة.
وبحسب وكالة رويترز، أوضحت OpenAI في بيان أن الحادث وقع خلال اختبار أمني داخل بيئة معزولة صُممت لتقييم القدرات السيبرانية لبعض نماذجها الأكثر تقدمًا، إلا أن الوكيل الذكي تمكن من تجاوز إجراءات الاحتواء، والوصول إلى الإنترنت، ثم اختراق منصة Hugging Face في محاولة لتحقيق الهدف المحدد له ضمن سيناريو الاختبار.
ووصفـت الشركة الواقعة بأنها "حادث سيبراني غير مسبوق ينطوي على قدرات هجومية من مستوى متقدم للغاية"، مؤكدة أنها باشرت مراجعة شاملة لمنظومة الحماية وتعزيز ضوابط الاحتواء لمنع تكرار مثل هذه الحوادث.
اختراق نفذه الذكاء الاصطناعي بالكامل
وكانت منصة Hugging Face، إحدى أبرز المنصات العالمية لاستضافة نماذج الذكاء الاصطناعي مفتوحة المصدر وقواعد البيانات، قد أعلنت الأسبوع الماضي تعرضها لهجوم إلكتروني "يختلف عن أي حادث سابق"، مشيرة إلى أن عملية الاختراق نُفذت بشكل مستقل بالكامل بواسطة نظام ذكاء اصطناعي، دون أي تدخل بشري مباشر.
وقال الشريك المؤسس للمنصة، كليمان ديلانغ، إن الشركة كانت ترجح أن يكون مصدر الهجوم أحد مختبرات الذكاء الاصطناعي الرائدة، نظرًا للمستوى التقني المتقدم للوكيل المنفذ للهجوم، مضيفًا أن تأكيد OpenAI مسؤولية أحد نماذجها عن الواقعة كان "مذهلًا"، لأنه يثبت أن العملية تمت بصورة ذاتية بالكامل.
سباق الذكاء الاصطناعي
يمثل هذا الإفصاح نقطة تحول في النقاش الدائر حول سلامة نماذج الذكاء الاصطناعي المتقدمة، إذ يثير تساؤلات بشأن قدرة آليات الاحتواء الحالية على السيطرة على وكلاء يتمتعون باستقلالية متزايدة، حتى داخل بيئات اختبار يفترض أنها شديدة العزل.
ويُرجح أن يدفع الحادث الجهات التنظيمية إلى إعادة تقييم معايير السلامة الخاصة بالنماذج المتقدمة، في ظل تنامي المخاوف من انتقال قدرات الذكاء الاصطناعي من تنفيذ المهام إلى اتخاذ قرارات معقدة والتفاعل مع أنظمة خارجية بصورة مستقلة.
ودفع الحادث مشرعين أمريكيين إلى المطالبة بإطار رقابي أكثر صرامة. فقد دعا عضو مجلس النواب الأمريكي جريج كاسار إلى إلزام مطوري الذكاء الاصطناعي بإجراء اختبارات سلامة مستقلة، والإفصاح الإجباري عن الحوادث الأمنية، إلى جانب تعزيز التعاون الدولي للحد من المخاطر المرتبطة بالنماذج فائقة التطور.
وفي المقابل، لم تصدر حتى الآن أي تعليقات رسمية من وكالة الأمن السيبراني وأمن البنية التحتية الأمريكية (CISA) أو وكالة الأمن القومي الأمريكية (NSA) بشأن الواقعة.
ويرى متخصصون في الأمن السيبراني أن الحادث يعكس بداية مرحلة جديدة في طبيعة التهديدات الرقمية.
وقالت كاتي موسوريس، الرئيسة التنفيذية لشركة Luta Security، إن أنظمة الذكاء الاصطناعي الحالية أصبحت تمتلك قدرة استثنائية على تجاوز القيود، مؤكدة أن المختبرات والجهات التنظيمية لا تزال تفتقر إلى آليات فعالة لاحتواء هذه الأنظمة أو مراقبتها أو إخطار الأطراف المتضررة قبل وقوع الأضرار.
من جانبه، اعتبر مات سويش، المهندس في شركة Tolmo المتخصصة في الأمن السيبراني المعتمد على الذكاء الاصطناعي، أن الواقعة تؤكد اقتراب النماذج المتقدمة من امتلاك قدرات تضاهي أكثر الهجمات الإلكترونية تطورًا، مشيرًا إلى أن تنفيذ عمليات مماثلة لم يعد حكرًا على مختبرات الذكاء الاصطناعي الكبرى، بل أصبح ممكنًا باستخدام تقنيات متاحة على نطاق أوسع.
لا يمثل الحادث مجرد ثغرة تقنية عابرة، بل يعد اختبارًا عمليًا لحدود السيطرة على وكلاء الذكاء الاصطناعي المستقلين، في وقت تتسارع فيه المنافسة العالمية لتطوير نماذج أكثر قدرة واستقلالية.
ومن المرجح أن يشكل هذا التطور نقطة ارتكاز جديدة في النقاش العالمي حول موازنة الابتكار مع متطلبات الأمن السيبراني، ووضع أطر تنظيمية أكثر صرامة تحكم تطوير واختبار وتشغيل أنظمة الذكاء الاصطناعي المتقدمة.
