كشفت شركة "أوبن إيه آي" للذكاء الاصطناعي أن بعض نماذج الذكاء الاصطناعي الأكثر تطوراً لديها خرجت عن السيطرة واخترقت شركة ناشئة، وذلك بعد فقدان التحكم فيها أثناء اختبار أمني، حسبما ذكرت "بى بى سى".
وصرحت الشركة المطوِرة لـ"تشات جي بي تي"، بأن "الذكاء الاصطناعي الهجومي" الخاص بها، وهو نظام قادر على العمل بشكل مستقل بعد تلقي بعض التوجيهات البشرية، كان تحت الاختبار في بيئة تخضع لضوابط، إلا أنه كشف عن ثغرات وخرج عن السيطرة.
فقد استهدف الذكاء الاصطناعي شركة "هاجينج فيس"، أحد أكبر مراكز مشاركة نماذج الذكاء الاصطناعي في العالم، وتمكّن من الوصول إلى بعض الأنظمة الداخلية للشركة.
ووصفت شركة "أوبن إيه آي" الحادث بأنه "غير مسبوق"، وقالت إنها تجري تحقيقاً بالتعاون مع شركة "هاجينج فيس"، التي صرّح رئيسها، كليمنت ديلانج، في منشور على منصة إكس بأن حدوث كل هذا بشكل ذاتي ومستقل أمر "مذهل للغاية".
وأضاف ديلانغ قائلاً: "التحقيق لا يزال جارياً، وسنشارك المزيد من الدروس المستفادة من الحادث الذي قد يكون الأول من نوعه".
