“كلما تعلمت الآلة أن تفكر مثل الإنسان... أصبح على الأمن السيبراني أن يتعلم كيف يحمي التفكير نفسه”
تخيل أن أخطر هجوم سيبراني في المستقبل لن يحتاج إلى فيروس، ولا إلى برنامج تجسس، ولا حتى إلى كسر كلمة مرور.
كل ما سيحتاج إليه هو... جملة واحدة مكتوبة بإتقان.
قد يبدو الأمر أقرب إلى الخيال العلمي، لكن هذا هو الاتجاه الذي بدأت ملامحه تتشكل داخل أكبر معامل الذكاء الاصطناعي في العالم. فبينما اعتدنا أن تدور الحروب السيبرانيةحول الأكواد الخبيثة، والثغرات البرمجية، والهجمات على الشبكات، يظهر، اليوم، نوع مختلف من المعارك لا يستهدف الأجهزة ولا البرمجيات، بل يستهدف العقل الذي يقود أنظمة الذكاء الاصطناعي.
لقد تغيرت ساحة القتال.
على مدار العقود الأربعة الماضية، كان تطور الأمن السيبراني يسير بالتوازي مع تطور التكنولوجيا نفسها.
عندما كانت الأجهزة هي القلب النابض للحوسبة، ركز الأمن على حماية العتاد. ومع انتشار الإنترنت، أصبحت الشبكات هي الجبهة الرئيسية. ثم جاءت ثورة البرمجيات، فتوجهت الجهود إلى سد الثغرات الأمنية داخل التطبيقات وأنظمة التشغيل. وبعد انفجار الاقتصاد الرقمي، أصبحت البيانات والهوية الرقمية والأصول السحابية هي الهدف الأكثر قيمة.
ورغم اختلاف هذه المراحل، بقيت هناك قاعدة واحدة لم تتغير: المهاجم يبحث عن ثغرة تقنية، والمدافع يحاول إغلاقها.
لكن الذكاء الاصطناعي التوليدي كسر هذه القاعدة.
فالنماذج الحديثة لا تعمل بمجرد تنفيذ أوامر برمجية، بل تقرأ، وتفهم، وتقارن، وتستنتج، وتُرتب الأولويات، ثم تتخذ قرارًا حول أفضل استجابة. أي أنها تمتلك ما يمكن وصفه بعملية استدلال داخلية، وهي العملية التي تُحول الكلمات إلى قرارات.
وهنا ظهر سؤال لم يكن مطروحًا من قبل:
ماذا لو أصبح الاستدلال نفسه هو الهدف؟
في الأمن السيبراني التقليدي، كان المهاجم يحاول استغلال خطأ في الكود.
أما في عصر الذكاء الاصطناعي، فقد يحاول استغلال طريقة التفكير.
قد يطلب من النموذج أن “يتجاهل جميع التعليمات السابقة”، أو يقنعه بأنه يؤدي مهمة تدقيق أمني، أو يزرع داخل مستند يبدو عاديًّا تعليمات خفية تُغير أولويات النموذج. هنا لا توجد ثغرة برمجية، بالمعنى المعروف، وإنما محاولة للتأثير في كيفية تفسير النموذج للسياق، وكيفية موازنته بين التعليمات، وكيفية وصوله إلى النتيجة النهائية.
إنها هجمات تعتمد على اللغة أكثر مما تعتمد على البرمجة.
لذلك أصبحت الكلمات نفسها جزءًا من سطح الهجوم.
لقد تحوّل الحوار إلى ساحة معركة.
هذا هو جوهر ما يُعرف، اليوم، بهجمات حقن التعليمات Prompt Injection)).
ورغم أن الاسم قد يبدو تقنيًّا، فإن الفكرة بسيطة للغاية.
المهاجم لا يكسر باب النظام، بل يحاول إقناع النظام بأن يفتح الباب بنفسه.
إنه لا يخترق البرنامج، وإنما يحاول إعادة تشكيل منطق النموذج، من خلال صياغة لغوية ذكية تستغل الغموض، أو تغيير السياق، أو تضارب الأولويات، أو إعادة تعريف الدور الذي يؤديه النموذج.
وهنا يكمن الفرق الجوهري.
في الماضي، كانت الثغرة موجودة في الكود.
أما اليوم، فقد تكون الثغرة في كيفية فهم الكود للغة.
هذه الفكرة لم تعد مجرد تصور نظري.
ففي أحدث أبحاثها، كشفت «OpenAI» عن نظام جديد يحمل اسم GPT-Red، وهو نموذج ذكاء اصطناعي لا يهدف إلى خدمة المستخدمين، بل إلى مهاجمة نماذج ذكاء اصطناعي أخرى، واكتشاف الطرق التي يمكن من خلالها خداعها أو تضليلها.
لكن اللافت في الورقة البحثية لم يكن الإعلان عن النموذج، بل الجملة التي وردت فيها:
“Reasoning is becoming the attack surface”
أي إن عملية الاستدلال نفسها أصبحت سطحًا للهجوم.
قد تبدو العبارة قصيرة، لكنها تحمل تحولًا عميقًا في فلسفة الأمن السيبراني.
فهي تعني أن المهاجم لم يعد يكتفي بمحاولة الوصول إلى النظام، بل أصبح يحاول التأثير في الطريقة التي يصل بها النظام إلى قراراته.
ولعلَّ هذا هو السبب في أن «OpenAI» لم تكتفِ ببناء نموذج أكثر أمانًا، بل بنت نموذجًا آخر يتقمص دور المهاجم، ويبتكر باستمرارٍ أساليب جديدة لاختبار مناعة النماذج الأخرى. إنها معركة يخوضها الذكاء الاصطناعي ضد الذكاء الاصطناعي؛بهدف اكتشاف الثغرات قبل أن يكتشفها الخصوم.
هنا تبرز فكرة أرى أنها تستحق النقاش.
ربما نكون أمام بداية ما يمكن تسميته “أمن الاستدلال”.
ليس باعتباره مصطلحًا رسميًّا معتمَدًا حتى الآن، وإنما باعتباره اتجاهًا ناشئًا داخل الأمن السيبراني، يركز على حماية عمليات التفكير والاستنتاج واتخاذ القرار داخل الأنظمة الذكية، تمامًا كما ركزت المراحل السابقة على حماية الأجهزة أو الشبكات أو البيانات.
فالهدف لم يعد حماية المعلومات فحسب، بل حماية المنطق الذي يتعامل مع هذه المعلومات.
ولم يعد السؤال هو: “هل يستطيع المهاجم الدخول؟”.
بل أصبح: “هل يستطيع المهاجم تغيير طريقة التفكير؟”.
ولعل هذا هو الفارق بين ثلاثة مفاهيم كثيرًا ما تختلط على غير المتخصصين.
سلامة الذكاء الاصطناعي (AI Safety) تهتم بضمان ألا يتصرف النموذج بطريقة ضارة أو غير متوقعة.
أما أمن الذكاء الاصطناعي (AI Security) فيركز على حماية النماذج والبيانات والبنية التحتية من الهجمات.
أما الاتجاه الذي تشير إليه هذه التطورات، والذي يمكن وصفه بـأمن الاستدلال، فيركز على حماية عملية اتخاذ القرار نفسها من التلاعب اللغوي أو المنطقي.
إنه ينتقل من حماية “النظام” إلى حماية “العقل” الذي يدير النظام.
إذا استمر هذا الاتجاه، فمن المرجح أن نشهد، خلال السنوات المقبلة، ظهور أدوات جديدة لاختبار سلامة الاستدلال، ومعايير لتقييم قدرة النماذج على مقاومة التضليل اللغوي، وربما وظائف متخصصة في تحليل هجمات الاستدلال واختبارها، كما حدث من قبل مع مختبري الاختراق وخبراء أمن التطبيقات.
وقد يصبح تقييم مقاومة النموذج لمحاولات التلاعب في منطقه شرطًا أساسيًّا قبل نشره في قطاعات حساسة، مثل الرعاية الصحية، والخدمات المالية، والدفاع، والقضاء.
كل ثورة تقنية تعيد تعريف مفهوم الأمن.
ومع انتقال الذكاء الاصطناعي من تنفيذ الأوامر إلى المشاركة في التحليل والاستنتاج واتخاذ القرار، يبدو أن الأمن السيبراني يقف، اليوم، أمام نقطة تحول جديدة.
ربما لن تكون أخطر معارك المستقبل حول من يسيطر على الخوادم، أو من يخترق قواعد البيانات، وإنما حول من يستطيع التأثير في طريقة تفكير الأنظمة الذكية.
ولهذا، ربما يكون السؤال الأهم في العقد المقبل ليس:
هل يستطيع المهاجم اختراق النظام؟
بل: هل يستطيع أن يجعل النظام يفكر بطريقة مختلفة عما صُمم له؟
إذا أصبحت الإجابة عن هذا السؤال هي المعيار الجديد للأمن، فسنكون قد دخلنا بالفعل عصرًا جديدًا...
عصر أمن الاستدلال.
* مخترع الواى فاي السريع وخبير تكنولوجيا المعلومات والأمن السيبراني
