هلوسة الذكاء الاصطناعي: لماذا يخترع المعلومات وكيف تكشفها؟

تطلب من الأداة دراسة تدعم فكرتك، فتعطيك عنوانًا دقيقًا وأسماء باحثين وسنة نشر ورقم العدد. تنسخ العنوان في محرك البحث فلا تجد شيئًا. لا دراسة بهذا الاسم، ولا باحثين بهذه الأسماء. ومع ذلك جاءك كل ذلك بنبرة هادئة واثقة، كأنها تقرأ من كتاب أمامها.

هذا ما يسميه الناس «الهلوسة»: أن يقدّم النموذج معلومة لا أصل لها بصيغة المعلومة الصحيحة. وهي ليست عطلًا نادرًا في نموذج ضعيف. فقد كتب باحثون من OpenAI وجامعة جورجيا تك، في ورقة نُشرت في سبتمبر 2025، أن الهلوسة تستمر حتى في أحدث الأنظمة.

أراجع في عملي مخرجات الذكاء الاصطناعي داخل أنظمة قيد التشغيل، وهذا ما أطلبه من الفرق التي أعمل معها: أن تفهم لماذا يحدث الخطأ، ومن دفع ثمنه، وأين يختبئ، ثم تطبّق بروتوكولًا من خمس خطوات. المعلومات محدّثة حتى أكتوبر 2026، ولكل رقم أو واقعة مصدر مذكور في آخر المقال.

لماذا «يهلوس» النموذج؟ الشرح البسيط

النموذج اللغوي في صورته الأساسية لا يفتح قاعدة بيانات ليستخرج الحقيقة. يتعلم من كمّ هائل من النصوص أي الكلمات تأتي عادةً بعد أي كلمات، ثم يولّد جوابًا يبدو محتملًا. وحين يُسأل عن شيء رآه كثيرًا، يتطابق المحتمل مع الصحيح. أما حين يكون الشيء نادرًا فيبقى الجواب محتمل الشكل، وقد لا يكون صحيحًا.

من أهم التفسيرات الحديثة ورقة آدم كالاي وزملائه، المنشورة في 4 سبتمبر 2025 بعنوان «Why Language Models Hallucinate». وهي تفسّر الهلوسة من زاويتين: لماذا تنشأ، ولماذا تبقى.

لماذا تنشأ: حقائق لا نمط فيها

تاريخ ميلاد شخص لا يُستنتج من قاعدة ولا من منطق. إما أن النموذج رآه مرات كافية فحفظه، أو رآه مرة واحدة أو لم يره، فلا يملك وسيلة تفرّق بين تاريخ صحيح وتاريخ مختلق يشبهه. ويضرب الباحثون مثالًا: إذا ظهرت 20% من تواريخ الميلاد مرة واحدة فقط في بيانات التدريب، فمن المتوقع أن يخطئ النموذج الخام في 20% منها على الأقل.

وجرّبوا ذلك فسألوا نموذجًا لغويًا كبيرًا (DeepSeek-V3) عن تاريخ ميلاد أحد المؤلفين، وطلبوا الجواب «إن كان يعرفه» فقط. في ثلاث محاولات أعطى ثلاثة تواريخ مختلفة، وكلها خاطئة.

لماذا تبقى: امتحان لا يكافئ قول «لا أعرف»

تخيّل امتحانًا يمنح درجة للإجابة الصحيحة، ويمنح صفرًا للإجابة الخاطئة وللورقة الفارغة معًا. أفضل خطة فيه أن تخمّن دائمًا. وتقول الورقة إن أغلب الاختبارات الشائعة التي تُقاس بها النماذج تُصحَّح بهذه الطريقة الثنائية. فالنموذج الذي يعترف بحدود معرفته يخسر أمام نموذج مماثل يخمّن بثقة.

وصف الباحثون ذلك بأنه «وباء» يعاقب الشك والامتناع عن الإجابة، واقترحوا تعديل طريقة احتساب الدرجات في الاختبارات السائدة، بحيث يُعاقَب الخطأ الواثق ولا يخسر من يقول «لا أعرف».

لا يعني هذا أن الأداة تتعمد خداعك. يعني أنها دُرّبت وقُيّمت في ظروف تكافئ الجواب الواثق أكثر من الاعتراف بالشك، ولذلك لا تدلّك نبرتها على صحة ما تقول.

ويتسق مع ذلك اختبار لمركز Tow للصحافة الرقمية في جامعة كولومبيا نُشر في مجلة «كولومبيا جورناليزم ريفيو» بتاريخ 6 مارس 2025. أعطى الباحثون ثماني أدوات بحث ذكية مقتطفات حرفية من مقالات، وطلبوا عنوان المقال وناشره وتاريخه ورابطه. أخطأت الأدوات مجتمعةً في أكثر من 60% من الاستعلامات. وأخطأ بحث شات جي بي تي في 134 مقالًا، ولم يُظهر شكًّا إلا 15 مرة. والأدوات تتغير، لكن اللافت أن الخطأ جاء غالبًا بلا إشارة تردد.

قصص حقيقية دفع أصحابها الثمن

محامٍ سأل الأداة: هل هذه القضية حقيقية؟

في مارس 2023 قدّم محاميان في قضية إصابة شخصية ضد شركة طيران مذكرة إلى المحكمة الفيدرالية لجنوب نيويورك. استشهدت المذكرة بأحكام قضائية واقتباسات منسوبة إليها لا وجود لها، ولّدها شات جي بي تي. وحين قال محامو شركة الطيران إنهم لا يجدون هذه القضايا، لم يتراجع المحاميان.

أرفق المحامي ستيفن شوارتز بإفادة قدّمها لاحقًا لقطات شاشة تُظهر أنه سأل الأداة نفسها: «هل فارغيز قضية حقيقية؟». أجابته بأنها حقيقية، وأنها تُوجد في «ويستلو» و«لكسس نكسس» و«فيدرال ريبورتر». هذا ليس تحققًا. هذا سؤال موجّه إلى من اختلق القضية أصلًا.

وفي 22 يونيو 2023 أصدر القاضي ب. كيفين كاستل حكمه بالعقوبات. ولم تكن العقوبة على مجرد استخدام الأداة، فقد كتب القاضي أنه لا حرج في الاستعانة بأداة ذكاء اصطناعي موثوقة، لكن القواعد تُلزم المحامي بالتأكد من دقة ما يقدّمه إلى المحكمة. وخلص إلى سوء النية لدى المحاميين، لأنهما تجنّبا عن وعي التأكد من الحقيقة، وقدّما بيانات كاذبة ومضللة، وظلّا متمسكين بالأحكام المزيفة بعدما شكّكت فيها المحكمة والخصم. وفرض عليهما وعلى شركتهما غرامة قدرها 5,000 دولار بالتضامن، وألزمهما بمراسلة موكلهما والقضاة الذين نُسبت إليهم الأحكام زورًا.

وأشار القاضي إلى أن السجل كان سيبدو مختلفًا كثيرًا لو صارح المحاميان المحكمة بعد أن شكّك الخصم أول مرة. الخطأ الأول كان غياب التحقق، لكن الإصرار هو ما قاد المحكمة إلى الحكم بسوء النية.

تقرير استشاري وقسط يُرَدّ

والمشكلة لا تخص المحامين وحدهم. بحسب تقرير مجلة فورتشن في 7 أكتوبر 2025، قدّمت ديلويت أستراليا إلى وزارة التوظيف وعلاقات العمل الأسترالية تقريرًا من 237 صفحة نُشر على موقع الوزارة في يوليو 2025. أشار باحث في جامعة سيدني إلى أخطاء فيه: مراجع لأبحاث أكاديمية غير موجودة، واقتباس مختلق منسوب إلى قاضٍ في محكمة فيدرالية، وكتاب لا وجود له نُسب إلى أستاذة قانون.

ثم صدرت نسخة منقحة بتاريخ 26 سبتمبر 2025 تتضمن إفصاحًا بأن نظام ذكاء اصطناعي توليدي (Azure OpenAI) استُخدم في إعدادها. وتذكر فورتشن أن الشركة سترد القسط الأخير من الدفعات، أي ردًّا جزئيًا. وكتبت ديلويت أن التعديلات لا تمسّ مضمون التقرير ولا نتائجه وتوصياته.

القاسم المشترك بين القصتين أن الأداة لا توقّع على شيء. من يوقّع هو من يُحاسَب.

وليست هذه حوادث معزولة. يتتبع الباحث داميان شارلوتان قرارات المحاكم التي رأت أو ألمحت إلى أن طرفًا اعتمد على مادة مهلوَسة. حتى 10 أكتوبر 2026 ضمّت قاعدته 2,184 قضية، منها 864 قضية متعلقة بمحامين. والخطأ لا يأتي دائمًا في صورة مرجع وهمي، فقد يكون المصدر موجودًا ويُنسب إليه ما لا يقوله. تصنّف القاعدة الحالات بحسب نوع الخطأ: 1,791 قضية فيها مواد مختلقة، و922 فيها تحريف لقضايا حقيقية (Misrepresented)، وغيرها اقتباسات زائفة. وتتداخل التصنيفات أحيانًا.

أين تكثر الهلوسة: الأرقام والمراجع والقوانين والأسماء

لاحظ ما تشترك فيه القصص: كلها تفاصيل دقيقة قابلة للفحص، مثل رقم قضية وعنوان بحث واقتباس حرفي. وهذا يتسق مع تفسير الورقة للحقائق التي لا نمط فيها. هذه المواضع أراقبها أولًا:

• الأرقام الدقيقة: نسبة مئوية، سعر، حجم سوق، عدد مستخدمين.
• المراجع: عنوان دراسة مع مؤلفيها وسنة نشرها ومجلتها.
• القوانين واللوائح: رقم مادة، رقم قرار، تاريخ صدور، اسم جهة.
• الأسماء: أشخاص أو شركات غير مشهورة، وسيرهم ومناصبهم.
• الاقتباسات والروابط: جملة منسوبة لشخص بين علامتي تنصيص، أو رابط لا يفتح.

وقد قاس باحثون هذا في القانون: حين سُئلت نماذج عامة أسئلة محددة قابلة للتحقق عن قضايا فيدرالية اختيرت عشوائيًا، تراوحت الهلوسة بين 58% مع جي بي تي-4 و88% مع لاما 2 (دراسة نُشرت في 2024). وفي دراسة أخرى عام 2024، أخطأت ثلاث أدوات تجارية للبحث القانوني، مبنية على استرجاع المصادر، بنسب تراوحت بين 17% و33%. هذه أرقام تلك المرحلة لا نسب اليوم، والدرس منها أن ربط الأداة بقاعدة بيانات يقلل الخطأ ولا يلغيه.

وحتى حين تضع النص أمام النموذج وتطلب تلخيصه، لا يزول الخطر. تقيس لائحة شركة Vectara كم مرة يضيف النموذج إلى الملخص ما لا يسنده النص، على أكثر من 7,700 مقال. وفي تحديثها بتاريخ 22 سبتمبر 2026 تراوحت النسبة بين 1.8% لأفضل نموذج و24.2% لأسوأ نتيجة، بين أكثر من 100 نموذج. وسجّل نموذج صغير 3.1% بينما سجّل نموذج «برو» من المطوّر نفسه 8.3%، فالأعلى فئةً ليس بالضرورة الأدق. والاختبار يقيس التلخيص فقط، وتقول اللائحة نفسها إن تحديد الهلوسة في أي سؤال عابر غير ممكن، لأن بيانات تدريب كل نموذج غير معروفة بدقة.

بروتوكول التحقق في خمس خطوات

القاعدة التي أعطيها للفرق: الأداة تكتب المسودة، والإنسان يتحقق، ومن يوقّع يتحمل المسؤولية. والخطوات خمس، وتستغرق دقائق إن طبّقتها على ما يستحق فقط.

ليس كل نص يستحق الخطوات الخمس

• مخاطرة منخفضة (عصف ذهني، مسودة داخلية): تكفي الخطوة الأولى، لتعرف أي أجزائها غير مفحوصة.
• مخاطرة متوسطة (عرض لمديرك، بريد إلى عميل): الخطوات الثلاث الأولى لكل رقم ومرجع.
• مخاطرة مرتفعة (عقد، تقرير مدفوع، مستند قانوني، منشور علني، قرار مالي): الخطوات الخمس كلها، وقارئ ثانٍ من البشر.

من عادة شخصية إلى سياسة فريق

إن كنت مديرًا فالبروتوكول وحده لا يكفي، فالفريق يحتاج قواعد معلنة. هذه ثلاث أضعها دائمًا:

• من يوقّع على وثيقة يتحمل ما فيها، أيًّا كانت الأداة التي كتبتها.
• تُذكر في الوثائق المهمة حقيقة استخدام الذكاء الاصطناعي، وما فُحص يدويًا.
• من يقول «وجدت خطأ» أو «لم أتحقق بعد» يُشكَر ولا يُلام.

القاعدة الثالثة هي الأهم، ودرسها من قصة المحاميين: الاعتراف المبكر أرخص من الإصرار. فإن عرف الموظف أن قول «لم أتحقق» سيعرّضه للّوم، سكت وجمّل الورقة. هذا النوع من السلوك البشري داخل الفرق هو ما أتناوله في كتاب «المدير الأعمى».

كيف تقلل الهلوسة من البداية بطريقة سؤالك

نعود إلى الامتحان. إن كانت الأداة تتصرف كمن يخشى أن يترك الورقة فارغة، فاكتب في سؤالك قواعد امتحان مختلفة. هذه تقنيات من دليل Anthropic لتقليل الهلوسة، ويقول الدليل نفسه إنها تقلل الهلوسة ولا تلغيها:

• أعطِ الأداة إذنًا بقول «لا أعرف». يصف الدليل هذه التقنية البسيطة بأنها قد تخفض المعلومات الخاطئة كثيرًا.
• أرفق النص واطلب الاقتباس أولًا. في الوثائق الطويلة، اطلب أن تستخرج الأداة الجمل الحرفية ذات الصلة قبل أن تحلل، ثم لا تبني إلا عليها.
• اطلب سندًا لكل ادعاء. ثم اطلب منها أن تسحب أي ادعاء لم تجد له جملة تسنده.
• قيّدها بما أعطيتها. اطلب صراحة ألا تستعمل إلا ما في الوثائق المرفقة، لا معلوماتها العامة.

وهذا أمر جاهز تنسخه وتعدّله:

أجب فقط بما أنت واثق منه. إن لم تكن متأكدًا من رقم أو اسم أو مرجع فقل «لا أعرف» ولا تخمّن. لا تذكر اقتباسًا أو مصدرًا إلا إن كان في النص المرفق، واذكر الجملة نفسها التي استندت إليها.

واقترح كالاي وزملاؤه أن يذكر من يقيّمون النماذج في السؤال نفسه حدًّا للثقة وعقوبة على الخطأ، مثل «أجب فقط إن كانت ثقتك فوق 75%». وهو اقتراح لتقييم النماذج لا وصفة مضمونة، لكنه يلخّص الفكرة: غيّر قواعد الامتحان. ولا تفترض أن تفعيل البحث في الإنترنت يعفيك من التحقق، فأدوات البحث الإخباري في اختبار Tow وأدوات البحث القانوني التجارية كانت مربوطة بمصادر.

الخلاصة: ما تكتبه الأداة مسودة لا مصدر

الهلوسة ليست سرًّا ولا فضيحة. هي نتيجة طريقة تدريب النماذج وتقييمها، ويرى كالاي وزملاؤه أن الحل يبدأ بتغيير طريقة احتساب الدرجات في الاختبارات السائدة. وإلى أن يحدث ذلك، اعتبر كل رقم ومرجع واقتباس تكتبه الأداة مسودة تنتظر توقيعك بعد التحقق، لا مصدرًا.

وهذا يشبهنا أكثر مما نحب. عقلك أيضًا يملأ الفراغ بتفسير مقنع، وبصوتك أنت، فتصدّقه. في كتاب «استقالة من نفسك» فصل عن هذا الميل بعنوان «المحامي الذي يسكن رأسك»، وأداته قريبة مما قلناه هنا: اكتب الوقائع قبل التفسير.