في زمنٍ أصبحت فيه الآلة تكتب، وتترجم، وتلخّص، وتقترح، وتجيب عن أسئلة الطب والقانون والاقتصاد والتعليم، لم يعد السؤال الحقيقي هو: هل يستطيع الذكاء الاصطناعي أن يتحدث مثل الإنسان؟
لقد تجاوزنا هذه المرحلة بالفعل.
السؤال الأعمق اليوم هو: هل كل ما يقوله الذكاء الاصطناعي صحيح لمجرد أنه يقوله بثقة؟
هنا تظهر واحدة من أكثر الظواهر إثارة للجدل في عالم التكنولوجيا الحديثة: هلوسة الذكاء الاصطناعي.
وهي ليست مجرد خطأ لغوي أو زلة معلوماتية عابرة، بل ظاهرة تكشف جانبًا بالغ الأهمية في طبيعة النماذج الذكية: قدرتها المدهشة على إنتاج لغة منظمة ومقنعة، حتى حين تكون المعلومة نفسها غير صحيحة أو غير موجودة أصلًا.
وكأننا أمام مفارقة جديدة في تاريخ المعرفة:
آلة لا تعرف كما يعرف الإنسان، لكنها تستطيع أن تبدو كمن يعرف.
ما معنى هلوسة الذكاء الاصطناعي؟
حين نسمع كلمة “هلوسة”، يذهب الذهن غالبًا إلى الإنسان: مريض يرى أشياء غير موجودة، أو شخص يتحدث تحت تأثير البنج، أو عقل مضطرب يخلط بين الواقع والخيال.
لكن المقصود بهلوسة الذكاء الاصطناعي مختلف تمامًا.
فالذكاء الاصطناعي لا يرى أحلامًا، ولا يملك خيالًا بشريًا، ولا وعيًا يضطرب. إنما المقصود أن النظام ينتج إجابة تبدو صحيحة ومنطقية، لكنها في الحقيقة خاطئة أو مختلقة أو غير دقيقة.
قد يخترع اسم كتاب لم يُكتب، أو دراسة لم تُنشر، أو رقمًا بلا مصدر، أو اقتباسًا لم يقله صاحبه، أو حكمًا قانونيًا غير موجود، أو معلومة طبية خطيرة لا أساس لها.
المشكلة هنا ليست فقط في الخطأ، بل في شكل الخطأ. فالذكاء الاصطناعي لا يقول المعلومة الخاطئة بتردد، بل قد يقولها بلغة واثقة، مرتبة، رصينة، ومقنعة. وهذه الثقة المصطنعة هي ما يجعل الهلوسة أكثر خطورة.
حين تنفصل اللغة عن الحقيقة
لكن السؤال الأعمق هنا هو: لماذا يهلوس الذكاء الاصطناعي أصلًا؟
إذا كان الإنسان قد يهلوس تحت تأثير البنج أو المرض بسبب اضطراب مؤقت في كيمياء المخ ومسارات الإدراك والذاكرة، فإن هلوسة الذكاء الاصطناعي تنتمي إلى طبيعة مختلفة تمامًا. فالآلة لا تفقد وعيها، لأنها لا تملك وعيًا بالمعنى الإنساني، ولا ترى أو تتخيل كما يفعل الإنسان، لكنها تنتج نصوصًا بناءً على احتمالات لغوية هائلة تعلّمتها من البيانات.
النموذج اللغوي لا يبدأ دائمًا من سؤال: “هل هذه المعلومة صحيحة؟”، بل من سؤال رياضي صامت: “ما الكلمة أو العبارة الأكثر احتمالًا أن تأتي بعد ما سبق؟”. وهنا تنشأ الفجوة الخطيرة بين الطلاقة اللغوية والتحقق الواقعي. فقد تكون الجملة منسقة، والمعلومة مصوغة بثقة، والاستشهاد يبدو مقنعًا، لكن ذلك كله لا يضمن أن ما قيل صحيح.
ومن هنا يمكن القول إن هلوسة الذكاء الاصطناعي ليست حلم آلة، ولا خيال عقل إلكتروني، بل نتيجة لنظام يتقن التنبؤ أكثر مما يتقن التحقق. إنه لا يكذب بالمعنى الأخلاقي، لأنه لا يملك نية، لكنه قد يخطئ بثقة؛ وهذه الثقة المصطنعة هي أخطر ما في الهلوسة.
لذلك، فإن الفرق الجوهري بين الإنسان والآلة أن الإنسان يهلوس حين يضطرب وعيه، أما الذكاء الاصطناعي فيهلوس حين تنفصل قدرته على إنتاج اللغة عن قدرته على التحقق من الواقع. ولهذا تبدو هلوسة الذكاء الاصطناعي خطيرة على نحو خاص: فهي لا تأتي غالبًا في صورة كلام مرتبك أو عبثي، بل في صورة إجابة واثقة ومنظمة، تحمل شكل المعرفة دون أن تضمن حقيقتها.
من أين تأتي الهلوسة؟
تأتي هلوسة الذكاء الاصطناعي من عدة أسباب متداخلة.
أولها أن نماذج اللغة الحديثة لا تعمل بالطريقة التي يتخيلها كثيرون. فهي ليست عقلًا واعيًا يبحث عن الحقيقة كما يفعل الباحث أو القاضي أو الطبيب، بل أنظمة رياضية ضخمة تتعلم من كميات هائلة من النصوص، ثم تتوقع بناءً عليها ما الكلمة أو الجملة الأكثر احتمالًا في سياق معين.
بعبارة أبسط:
الذكاء الاصطناعي لا “يعرف” دائمًا بالمعنى الإنساني، بل “يرجّح”.
هو لا يفتح خزانة داخلية مليئة بالحقائق المؤكدة، بل يبني استجابة محتملة اعتمادًا على الأنماط التي تعلمها. فإذا كان السؤال واضحًا، والمعلومة شائعة، والبيانات متسقة، جاءت الإجابة غالبًا جيدة. أما إذا كان السؤال غامضًا، أو المعلومة نادرة، أو البيانات متناقضة، أو السياق ناقصًا، فقد يبدأ النموذج في ملء الفراغات بتخمينات تبدو معقولة.
وهنا تظهر الهلوسة.
السبب الثاني أن البيانات التي يتعلم منها الذكاء الاصطناعي ليست مثالية. فالإنترنت نفسه ليس مكتبة من الحقائق النقية، بل خليط من العلم والرأي والدعاية والخطأ والتكرار والتضليل والمبالغة والمعلومات القديمة. فإذا تعلّم النموذج من عالم مليء بالضوضاء، فمن الطبيعي أن يحمل داخله بعض آثار هذه الضوضاء.
أما السبب الثالث فهو أن النماذج قد تُكافأ أحيانًا على إنتاج إجابة تبدو مفيدة وكاملة، لا على الاعتراف بعدم المعرفة. وهنا تظهر مشكلة ثقافية وتقنية في آن واحد: نحن كبشر نميل إلى تفضيل الإجابة الواثقة، حتى لو كان الصمت أو الاعتراف بعدم اليقين أكثر أمانًا.
وهذه ليست مشكلة في الآلة وحدها، بل في توقعاتنا نحن من الآلة.
هل الذكاء الاصطناعي يكذب؟
من الخطأ أن نقول إن الذكاء الاصطناعي “يكذب” بالمعنى الأخلاقي للكذب.
الكذب يحتاج إلى نية. يحتاج إلى كائن يعرف الحقيقة ثم يتعمد إخفاءها أو تشويهها.
أما الذكاء الاصطناعي فلا يملك نية، ولا ضميرًا، ولا رغبة في الخداع. لكنه قد ينتج كلامًا غير صحيح لأنه لا يميّز دائمًا بين الجملة التي تشبه الحقيقة والجملة التي تثبتها الحقيقة.
وهنا مكمن الخطورة:
الذكاء الاصطناعي لا يكذب، لكنه قد يمنح الخطأ هيئة الصدق.
ولهذا قال عالم الإحصاء البريطاني جورج بوكس عبارته الشهيرة: “كل النماذج خاطئة، لكن بعضها مفيد”. ورغم أن العبارة قيلت قبل عصر الذكاء الاصطناعي التوليدي، فإنها تصلح اليوم مدخلًا لفهم هذه التقنية. فالنموذج ليس الواقع، بل تمثيل احتمالي له. وكلما تعاملنا معه باعتباره الواقع نفسه، وقعنا في فخ الثقة الزائدة.
أمثلة واقعية على خطورة الهلوسة
لم تعد هلوسة الذكاء الاصطناعي قضية نظرية. لقد ظهرت آثارها في مواقف حقيقية.
في المجال القانوني، وقعت حالات قدّم فيها محامون مذكرات تضمنت سوابق قضائية مختلقة أنتجها الذكاء الاصطناعي. بدت الصياغة قانونية ومقنعة، لكن القضايا المشار إليها لم تكن موجودة. هنا لم يكن الخطأ مجرد جملة غير دقيقة، بل مسألة تمس العدالة والثقة في المهنة القانونية.
وفي المجال الصحفي، قد يؤدي الاعتماد غير النقدي على أدوات الذكاء الاصطناعي إلى نشر معلومات غير دقيقة، أو نسب تصريحات إلى شخصيات لم تقلها، أو اختراع مصادر لا وجود لها. وهذه نقطة شديدة الحساسية، لأن الصحافة تقوم في جوهرها على التحقق، لا على جمال الصياغة.
وفي المجال الطبي، قد تكون الهلوسة أخطر بكثير. إجابة غير دقيقة عن دواء أو جرعة أو تشخيص قد تدفع غير المتخصص إلى قرار خاطئ. لذلك لا ينبغي أبدًا التعامل مع الذكاء الاصطناعي كبديل للطبيب، بل كأداة مساعدة تحتاج إلى مراجعة بشرية متخصصة.
وفي الاقتصاد والأعمال، قد تقدم الأنظمة الذكية تحليلات تبدو دقيقة عن الأسواق أو الاستثمارات أو الشركات، لكنها مبنية على بيانات ناقصة أو افتراضات غير صحيحة. وهنا قد تتحول الهلوسة من خطأ معرفي إلى خسارة مالية.
لماذا نصدق الآلة؟
السؤال لا يتعلق بالآلة وحدها، بل بنا نحن أيضًا.
لماذا يميل الإنسان إلى تصديق إجابة الذكاء الاصطناعي؟
ربما لأن اللغة المنظمة تمنحنا إحساسًا بالثقة. وربما لأننا اعتدنا أن نربط التكنولوجيابالدقة. وربما لأننا نميل إلى الراحة المعرفية: نريد إجابة سريعة، مرتبة، جاهزة للاستخدام.
لكن التاريخ يعلمنا أن كل تقنية كبرى جاءت ومعها وهمها الخاص.
المطبعة نشرت المعرفة، لكنها نشرت أيضًا الدعاية.
الراديو قرّب البشر، لكنه استُخدم في التحريض.
التلفزيون نقل الصورة، لكنه صنع الوهم الجماهيري.
والإنترنت فتح أبواب المعرفة، لكنه فتح معها أبواب التضليل.
أما الذكاء الاصطناعي، فخطره أنه لا يكتفي بنقل المعلومة، بل يصنعها أمامنا في لحظة واحدة، بلغة تشبه لغة الخبراء.
ولهذا فإن السؤال الحضاري ليس: كيف نمنع الذكاء الاصطناعي من الخطأ تمامًا؟
بل: كيف نبني وعيًا إنسانيًا قادرًا على استخدامه دون أن يستسلم له؟
الأثر الاقتصادي للهلوسة
في عالم الأعمال، قد تبدو الهلوسة في البداية مشكلة تقنية صغيرة. لكنها في الحقيقة قد تتحول إلى تكلفة اقتصادية ضخمة.
تخيل شركة تعتمد على الذكاء الاصطناعي في خدمة العملاء، فيقدّم للعميل معلومة خاطئة عن منتج أو سعر أو سياسة استرجاع. هنا تتضرر الثقة.
وتخيل مؤسسة مالية تستخدمه في تلخيص تقارير السوق، فيخلط بين أرقام قديمة وجديدة. هنا قد يتأثر القرار الاستثماري.
وتخيل منصة تعليمية تستخدمه في شرح المفاهيم للطلاب، فيقدم معرفة خاطئة بثقة. هنا لا نخسر معلومة فقط، بل نشوّه طريقة التفكير.
لذلك أصبحت جودة البيانات، والحوكمة، والمراجعة البشرية، والتحقق من المصادر، عناصر أساسية في أي استخدام جاد للذكاء الاصطناعي داخل المؤسسات.
فالذكاء الاصطناعي لا يقلل التكلفة دائمًا إذا استُخدم بلا رقابة. أحيانًا قد يخفض تكلفة الإنتاج، لكنه يرفع تكلفة التصحيح، والمراجعة، والسمعة، والمسؤوليةالقانونية.
أين يقف العالم العربي ومصر؟
بالنسبة للعالم العربي، ومصر تحديدًا، تمثل هلوسة الذكاء الاصطناعي تحديًا مضاعفًا.
فمن ناحية، نحن بحاجة إلى استخدام هذه الأدوات بقوة في التعليم، والإعلام، والخدمات الحكومية، وريادة الأعمال، والصحة، والترجمة، وإنتاج المحتوى. لا يمكن أن نقف خارج هذا التحول العالمي.
لكن من ناحية أخرى، تواجه اللغة العربية تحديات خاصة داخل نماذج الذكاء الاصطناعي. فالمحتوى العربي الرقمي أقل حجمًا وتنوعًا مقارنة بالإنجليزية، كما أن جزءًا منه غير موثق أو مكرر أو ضعيف الجودة. وهذا قد يجعل احتمالات الخطأ أو التعميم أو سوء الفهم أعلى في بعض السياقات.
لذلك لا يكفي أن نكون مستخدمين للتقنية. يجب أن نكون مشاركين في تحسينها.
نحتاج إلى محتوى عربي موثوق، وقواعد بيانات منظمة، ومؤسسات بحثية وتعليمية تنتج معرفة رقمية عالية الجودة، وصحافة عربية تتحقق قبل أن تنشر، ومدارس وجامعات تعلّم الطلاب كيف يسألون الذكاء الاصطناعي وكيف يراجعونه.
إن مستقبل الذكاء الاصطناعي في منطقتنا لن يتحدد فقط بعدد الأدوات التي نستخدمها، بل بجودة الأسئلة التي نطرحها، ودقة البيانات التي نغذيه بها، وصرامة العقل النقدي الذي نواجه به إجاباته.
كيف نتعامل مع هلوسة الذكاء الاصطناعي؟
الحل ليس الخوف من الذكاء الاصطناعي، ولا الانبهار المطلق به.
الحل هو الاستخدام الواعي.
أولًا، يجب ألا نتعامل مع إجابات الذكاء الاصطناعي باعتبارها حقيقة نهائية، خصوصًا في المجالات الحساسة مثل الطب والقانون والمال والسياسة والتاريخ.
ثانيًا، يجب طلب المصادر كلما كانت المعلومة مهمة، ثم التحقق من هذه المصادر لا الاكتفاء بوجودها داخل الإجابة؛ لأن النموذج قد يخترع مصدرًا أو يخلط بين مرجع وآخر.
ثالثًا، يجب استخدام الذكاء الاصطناعي كأداة تفكير أولية: يساعدنا في ترتيب الأفكار، وفتح الزوايا، وتلخيص المعلومات،واقتراح الأسئلة، لكنه لا يعفينا من مسؤولية الحكم والتحقق.
رابعًا، يجب على المؤسسات أن تضع سياسات واضحة لاستخدامه: ما الذي يسمح باستخدامه فيه؟ وما الذي يحتاج إلى مراجعة بشرية؟ ومن يتحمل مسؤولية الخطأ؟ وكيف يتم حفظ البيانات وحمايتها؟
خامسًا، يجب أن نعلّم الأجيال الجديدة أن الذكاء الاصطناعي ليس عقلًا أعلى، بل أداة قوية. والأداة القوية قد تبني وقد تهدم، بحسب اليد التي تستخدمها والعقل الذي يوجهها.
من يمتلك السؤال يمتلك المستقبل
ربما تكون هلوسة الذكاء الاصطناعي تذكيرًا مهمًا لنا بأن المعرفة ليست مجرد إجابة سريعة.
المعرفة سؤال، ومصدر، وسياق، وتحقق، ومراجعة، ومسؤولية.
لقد أدهشنا الذكاء الاصطناعي لأنه يتكلم مثلنا. لكنه في لحظة الهلوسة يذكرنا بأنه لا يفكر مثلنا، ولا يتحمل المسؤولية بدلًا منا.
ومن هنا لا ينبغي أن يكون هدفنا أن نرفض الذكاء الاصطناعي، بل أن نعيد ترتيب علاقتنا به. أن نستخدمه دون أن نعبده. أن نستفيد من سرعته دون أن نتنازل عن بطء التحقق. أن نأخذ منه الاقتراح، لا الحكم النهائي.
ففي عالم تتسارع فيه الآلات، ستصبح قيمة الإنسان لا في قدرته على إنتاج إجابة أسرع، بل في قدرته على طرح سؤال أعمق، والتمييز بين ما يبدو صحيحًا وما هو صحيح بالفعل.
إن أخطر ما في هلوسة الذكاء الاصطناعي أنها لا تكشف ضعف الآلة فقط، بل تختبر يقظة الإنسان.
فالآلة قد تهلوس لأنها لا تعرف الحقيقة.
أما الإنسان فقد يضل الطريق إذا توقف عن السؤال.
ويبقى سؤال آخر أكثر عمقًا يستحق مقالًا مستقلًا: هل يمكن أن نمنع هلوسة الذكاء الاصطناعي تمامًا دون أن نضعف قدرته على الاستنباط؟وهل توجد علاقة شبيهة، ولو على سبيل التشبيه، بين مبدأ عدم اليقين في فيزياء الكم وبين العلاقة المعقدة بين اليقين والذكاء في النماذج الاصطناعية؟
هذا ما سنناقشه في المقال القادم.
* مخترع الواى فاي السريع وخبير تكنولوجيا المعلومات والأمن السيبراني
