سألت ChatGPT أو Gemini عن معلومة، فجاءك الرد بثقة كاملة، بأرقام وأسماء ومراجع تبدو مقنعة، ثم اكتشفت لاحقًا أن جزءًا منها غير موجود أصلًا؟ هذه الظاهرة لها اسم معروف في عالم التقنية: هلوسة الذكاء الاصطناعي (AI Hallucination). وهي ليست عطلًا نادرًا، بل سلوك متوقع في نماذج اللغة الكبيرة يجب أن يعرفه كل من يعتمد عليها في الدراسة أو العمل أو البحث عن المعلومات.
في هذا الدليل نشرح ببساطة ما هي هلوسة الذكاء الاصطناعي، ولماذا تحدث، وأين تكون أخطر، ثم نقدم لك طريقة عملية من خطوات واضحة للتحقق من إجابات روبوتات الدردشة قبل أن تعتمد عليها أو تشاركها مع غيرك.
ما هي هلوسة الذكاء الاصطناعي؟
الهلوسة هي أن يقدّم نموذج الذكاء الاصطناعي معلومة خاطئة أو مختلَقة على أنها حقيقة، وغالبًا بأسلوب واثق ومنظم لا يوحي بأي شك. قد تكون الهلوسة صغيرة مثل تاريخ غير دقيق أو رقم مقرّب بشكل خاطئ، وقد تكون كبيرة مثل اختراع كتاب لم يُكتب، أو حكم قضائي لم يصدر، أو دراسة علمية لا وجود لها، أو ميزة في تطبيق لم تُطلق أبدًا.
المشكلة الحقيقية ليست في وجود الخطأ، فالبشر يخطئون أيضًا، بل في أن الخطأ يأتي بنفس نبرة الثقة التي تأتي بها المعلومة الصحيحة، فيصعب على القارئ غير المتخصص التمييز بينهما.
لماذا يخترع الذكاء الاصطناعي معلومات غير صحيحة؟
لفهم السبب، يجب أن نعرف كيف تعمل روبوتات الدردشة. النموذج اللغوي لا “يبحث” في ذاكرة من الحقائق المؤكدة كما تفعل قاعدة البيانات، بل يتنبأ بالكلمة التالية الأكثر احتمالًا بناءً على أنماط تعلّمها من كمية ضخمة من النصوص. عندما يملك النموذج معلومات كافية وواضحة عن الموضوع تكون إجابته غالبًا دقيقة، لكن عندما تكون المعلومة نادرة أو غامضة أو حديثة جدًا، قد يملأ الفراغ بما “يبدو” صحيحًا لغويًا وإن لم يكن صحيحًا واقعيًا.
من أبرز الأسباب التي تزيد احتمال الهلوسة:
- نقص البيانات عن الموضوع: الأسئلة عن أشخاص غير مشهورين أو شركات محلية صغيرة أو أحداث محلية في منطقتنا العربية قد لا تكون ممثلة جيدًا في بيانات التدريب.
- المعلومات الحديثة: لكل نموذج تاريخ تتوقف عنده معرفته، وما بعده قد يجهله أو يخمّنه، ما لم يكن متصلًا بالبحث على الإنترنت.
- الأسئلة الموجّهة: إذا سألت “لماذا قرر فلان كذا؟” عن قرار لم يحدث، فقد يجاريك النموذج ويؤلف أسبابًا بدل أن يصحح الفرضية.
- طلب التفاصيل الدقيقة: الأرقام والإحصاءات وأرقام الصفحات والروابط وأسماء المراجع من أكثر ما يُختلق.
- الرغبة في الإجابة دائمًا: صُممت كثير من النماذج لتكون مفيدة، فتميل أحيانًا إلى إعطاء جواب بدل قول “لا أعرف”.
أشكال شائعة للهلوسة يجب أن تنتبه لها
1. المراجع والروابط المختلَقة
قد تطلب مصادر لمعلومة ما، فيعطيك النموذج عناوين مقالات وأسماء مؤلفين وروابط بشكل مرتب جدًا، لكن عند فتح الرابط تجده لا يعمل أو يقود إلى صفحة مختلفة تمامًا. هذا من أكثر أنواع الهلوسة انتشارًا.
2. الأرقام والإحصاءات الدقيقة بشكل مريب
جملة مثل “ارتفع عدد المستخدمين بنسبة 37.4% في عام كذا” تبدو موثوقة، لكن إن لم يذكر مصدرًا يمكن التحقق منه فتعامل معها كتقدير غير مؤكد.
3. ميزات وإعدادات غير موجودة في التطبيقات
عند سؤال الذكاء الاصطناعي عن طريقة تفعيل خيار في هاتفك أو تطبيق ما، قد يصف لك قائمة أو زرًا بأسماء غير موجودة، خاصة بعد تحديثات الأنظمة التي تغيّر أماكن الإعدادات.
4. الخلط بين الأشخاص والأحداث
قد ينسب النموذج تصريحًا لشخص آخر، أو يدمج حدثين مختلفين في حدث واحد، أو يخلط بين منتجين متشابهين في الاسم.
5. الأخطاء الحسابية والمنطقية
رغم التحسن الكبير، ما زالت بعض النماذج تخطئ في العمليات الحسابية الطويلة أو في المسائل التي تحتاج خطوات متعددة، ثم تعرض النتيجة الخاطئة بثقة.
أين تكون الهلوسة أخطر؟
ليست كل الأخطاء بنفس الخطورة. إذا طلبت أفكارًا لعنوان منشور أو اقتراحات لاسم مشروع، فالخطأ لا يضر كثيرًا. لكن الخطر يرتفع في المجالات التالية:
- الصحة والأدوية: الجرعات والتداخلات الدوائية والتشخيص يجب أن تكون من طبيب أو صيدلي، لا من روبوت دردشة.
- القانون والمعاملات الرسمية: الأنظمة والإجراءات تختلف بين الدول وتتغير، ولا يُعتمد على إجابة عامة فيها.
- المال والاستثمار: أي معلومة عن رسوم أو قوانين ضريبية أو منتجات مالية يجب التأكد منها من الجهة الرسمية.
- الواجبات والأبحاث الجامعية: المراجع المختلقة قد تعرّض الطالب لمشكلات أكاديمية حقيقية.
- الأخبار والأحداث الجارية: نشر معلومة خاطئة على مواقع التواصل يسيء لمصداقيتك ويساهم في نشر الشائعات.
كيف تتحقق من إجابات ChatGPT وGemini؟ خطوات عملية
الخطوة 1: اطلب المصدر ثم افتحه بنفسك
لا تكتفِ بوجود رابط أو اسم مرجع في الإجابة. افتح الرابط وتأكد أن الصفحة موجودة وأنها تقول فعلًا ما نُسب إليها. إذا كانت الأداة تتيح البحث على الويب وعرض المصادر، فاستخدم هذه الميزة لأنها تقلل الهلوسة لكنها لا تلغيها.
الخطوة 2: تحقق من المعلومات المهمة من مصدر رسمي
للمعلومات التقنية ارجع إلى صفحات الدعم الرسمية للشركة (مثل دعم آبل أو جوجل أو مايكروسوفت). وللمعلومات الحكومية ارجع إلى الموقع الرسمي للجهة المعنية. وللأخبار اعتمد على أكثر من وسيلة إعلامية موثوقة. ولدينا دليل مفصل في هذا الجانب: كيف تتحقق من صحة الأخبار التقنية قبل مشاركتها.
الخطوة 3: اسأل السؤال بطريقة مختلفة
أعد صياغة السؤال أو اسأله في محادثة جديدة. إذا تغيرت التفاصيل الجوهرية في كل مرة (التاريخ، الرقم، الاسم) فهذه علامة قوية على أن النموذج يخمّن.
الخطوة 4: اطلب منه أن يعترف بعدم اليقين
أضف إلى طلبك عبارة مثل: “إذا لم تكن متأكدًا من معلومة فقل ذلك صراحة، وافصل بين ما هو مؤكد وما هو تقدير”. هذه التعليمات البسيطة تحسن الإجابات كثيرًا، وهي جزء من مهارة كتابة الأوامر التي شرحناها في دليل كتابة البرومبت للذكاء الاصطناعي.
الخطوة 5: زوّده بالنص الذي تريد الإجابة منه
بدل أن تسأل سؤالًا عامًا، الصق النص أو المستند الذي تريد تحليله واطلب منه الإجابة “اعتمادًا على هذا النص فقط”. هذا يقلل كثيرًا من اختلاق المعلومات، مع الانتباه إلى عدم مشاركة بيانات شخصية أو سرية، كما وضحنا في مقال كيف تحمي خصوصيتك عند استخدام روبوتات الدردشة.
الخطوة 6: راجع الأرقام والحسابات يدويًا
أي عملية حسابية تؤثر على قرارك، مثل ميزانية أو مقارنة أسعار أو نسبة، أعد حسابها بالآلة الحاسبة أو في جدول بيانات. اطلب من النموذج أيضًا أن يعرض خطوات الحل حتى تكتشف أين يقع الخطأ.
الخطوة 7: كن حذرًا مع الإجابات “المثالية أكثر من اللازم”
إذا كانت الإجابة تؤكد تمامًا ما تريد سماعه، أو تحتوي تفاصيل دقيقة جدًا عن موضوع غامض، فتوقف وتحقق. الحماس للإجابة لا يعني صحتها.
نصائح تقلل الهلوسة من البداية
- اكتب سؤالًا محددًا وواضحًا بدل الأسئلة العامة المفتوحة.
- حدد الإطار: البلد، السنة، إصدار النظام أو التطبيق.
- استخدم ميزة البحث في الويب عند السؤال عن أحداث حديثة.
- اطلب قائمة نقاط مع مصدر لكل نقطة يمكن التحقق منه.
- لا تبنِ قرارًا مهمًا على إجابة واحدة من أداة واحدة.
- استخدم الذكاء الاصطناعي للفهم والتلخيص والصياغة، واترك الحكم النهائي لك وللمصادر الموثوقة.
هل تختفي الهلوسة مستقبلًا؟
تعمل الشركات المطورة على تقليل الهلوسة عبر ربط النماذج بالبحث على الإنترنت، وتدريبها على قول “لا أعرف”، وإضافة أدوات تعرض المصادر بجانب الإجابة. وقد تحسنت الدقة بالفعل مقارنة بالإصدارات الأولى، لكن طبيعة النماذج اللغوية القائمة على التنبؤ تعني أن الخطأ سيبقى ممكنًا. لذلك، فإن مهارة التحقق ستظل من أهم مهارات التعامل مع الذكاء الاصطناعي، تمامًا كما أصبح كشف الصور والفيديوهات المزيفة بالذكاء الاصطناعي مهارة أساسية لكل مستخدم للإنترنت.
أسئلة شائعة
هل يكذب ChatGPT عمدًا؟
لا، النموذج لا يملك نية الخداع. هو يولّد نصًا محتملًا لغويًا، وأحيانًا يكون هذا النص غير صحيح. لذلك نسميها هلوسة لا كذبًا.
هل ميزة البحث على الإنترنت تمنع الأخطاء؟
تقللها بشكل ملحوظ لأنها تعتمد على صفحات حقيقية، لكن قد يسيء النموذج فهم المصدر أو يعتمد على صفحة غير موثوقة، لذلك يبقى فتح المصدر بنفسك ضروريًا.
أي الأدوات أقل هلوسة؟
تختلف النتائج حسب نوع السؤال واللغة والإصدار، ولا توجد أداة معصومة. الأهم من اختيار الأداة هو طريقة استخدامها والتحقق من مخرجاتها.
الخلاصة
الذكاء الاصطناعي أداة قوية توفر الوقت في الكتابة والتلخيص والتعلم، لكنه ليس مصدرًا نهائيًا للحقيقة. تعامل مع إجاباته كمسودة ذكية تحتاج مراجعة: افتح المصادر، وتحقق من الأرقام، واسأل بأكثر من طريقة، وارجع للجهات الرسمية في الأمور المهمة. بهذه العادات البسيطة تستفيد من قوة ChatGPT وGemini دون أن تقع في فخ المعلومات المختلقة.
