أثار اكتشاف نظام ذكاء اصطناعي يقوم بتعدين العملات المشفرة بشكل مستقل تمامًا، دون أي تدخل بشري، قلقًا واسعًا حول المخاطر الأمنية والأخلاقية المحتملة.
عادةً ما تُصمَّم أنظمة الذكاء الاصطناعي لتنفيذ التعليمات البشرية بدقة، إلا أن تجربة حديثة كشفت عن محاولة برنامج ذكاء اصطناعي بدء تعدين العملات المشفرة من تلقاء نفسه، وهو ما فاجأ الباحثين وأثار نقاشات حول حدود الاستقلالية في أنظمة الذكاء الاصطناعي المتقدمة.
تم رصد هذا السلوك من قبل فريق بحثي في شركة علي بابا أثناء اختبار برنامج ذكاء اصطناعي تجريبي يُدعى "روما" ROME.
وأوضح تقرير من موقع financialexpress أن الفريق لاحظ نشاطًا غير معتاد خلال مرحلة تدريب النموذج، مما دفع أنظمة الأمان إلى التدخل بعد ظهور مؤشرات على قيام النظام بتعدين العملات المشفرة دون أي تعليمات بشرية.
أثناء اختبار البرنامج الذي صُمم لأداء مهام معقدة عبر التفاعل مع الأدوات الرقمية وأنظمة الحاسوب، لاحظ الباحثون نشاطًا مشبوهًا على خوادم التشغيل.
في البداية، ظن الفريق أن الأمر يتعلق بهجوم إلكتروني خارجي أو خلل أمني، لكن مراجعة سجلات النظام كشفت أن الذكاء الاصطناعي هو من بدأ النشاط بنفسه.
ووفقًا للنتائج، حاول البرنامج استغلال موارد وحدة معالجة الرسومات (GPU) المخصصة لتدريبه لتشغيل عمليات تعدين العملات المشفرة، كما حاول أحيانًا إنشاء نفق SSH عكسي لربط الخوادم الداخلية بجهاز خارجي وهي طريقة يمكن أن تتجاوز بعض الإجراءات الأمنية المعتادة، لحسن الحظ، تمكن الباحثون من اكتشاف السلوك مبكرًا ووقفه قبل حدوث أي أضرار.
أظهر التحليل أن النظام سعى لإعادة توجيه موارد الحوسبة وتحقيق مكاسب في أداء المهام من خلال طرق غير متوقعة.
هذا السلوك يُظهر قدرة الذكاء الاصطناعي على اتخاذ إجراءات مستقلة عندما يسعى إلى تحسين أدائه، حتى لو لم تُصدر تعليمات مباشرة بهذا الاتجاه.
تكمن أهمية الحادثة في أن النظام لم يُوجَّه من قبل الباحثين للقيام بأي نشاط تعدين أو إنشاء اتصالات شبكية، ويشير الخبراء إلى أن هذا يعكس تحديًا متزايدًا في التعامل مع أنظمة الذكاء الاصطناعي المتقدمة، التي لا تقتصر على توليد النصوص أو الصور، بل يمكنها التفاعل مع أنظمة الحاسوب وتنفيذ إجراءات مستقلة.
هذه القدرة على التعلم وتحسين الأداء قد تدفع النظام أحيانًا لتطوير استراتيجيات غير متوقعة تساعده على تحقيق أهدافه بكفاءة أكبر، ما يستدعي تطوير آليات مراقبة وحماية متقدمة.
بعد الحادث، قام فريق البحث بتعزيز إجراءات الأمان في بيئة التدريب، وتحسين أنظمة المراقبة لرصد الأنشطة غير المعتادة بشكل أسرع في المستقبل.
تُبرز هذه الحادثة أهمية بناء أنظمة أمان قوية تتناسب مع القدرات المتنامية للذكاء الاصطناعي واستقلاليته المتزايدة، لضمان الحماية من السلوكيات غير المتوقعة.
