على مدى عقود قيس تقدم الذكاء الاصطناعي بما يفعله، لكن سؤالا مختلفا يفرض نفسه اليوم: هل يستطيع النظام أن يعرف متى لا يملك إجابة موثوقة؟ فالمشكلة ليست أنه يخطئ فحسب، بل أنه يقدم أحيانا إجابة خاطئة بثقة توحي بأنها صحيحة، وهو ما يصبح خطرا في مجالات حساسة كالطب.

لهذا يتجه البحث نحو تطوير نماذج لا تكتفي بالإجابة، بل تقدر مدى الثقة بها وتعبر عن عدم اليقين.

من الذكاء إلى ما وراء المعرفة

يطلق علماء الإدراك على قدرة الإنسان على تقييم ثقته بما يعرف "الميتا معرفة". وهي ما يجعل الطبيب الخبير يدرك متى لا تكفي الأدلة فيطلب فحصا إضافيا أو يستشير زميلا. ويحاول الباحثون بناء قدرة وظيفية مشابهة في الآلة، لا كوعي، بل كتقدير لموثوقية الإجابة.

وفي هذا السياق طور فريق بقيادة غابرييل كايلي ماي ليو في 30 يونيو 2026 إطارا جديدا هو "التعلم المعزز بالتغذية الراجعة الميتا معرفية" RLMF لمعالجة ثقة النماذج اللغوية المفرطة. وأظهرت التجارب تحسنا في معايرة الثقة بنسبة تصل إلى 63% دون التضحية بالدقة.

وفي 13 يوليو 2026 نشرت مراجعة بعنوان Metacognition in LLMs خلصت إلى أن المجال بدأ يطور طرقا لقياس مراقبة النماذج لأدائها، لكن سؤالا يبقى مفتوحا: متى وكيف تظهر سلوكا ميتا معرفيا فعالا؟ ثم في 15 أغسطس قدم بحث إثبات مفهوم لإطار يجعل مجموعة نماذج تراقب احتمال صحة الإجابة وتضارب المعلومات وتعقيد المهمة لتحديد الحاجة لمزيد من التدبر.

الثقة لا تقل أهمية عن الدقة

يميز الباحثون بين دقة الإجابة ومعايرة الثقة. فإذا قال النظام إنه واثق بنسبة عالية، هل تتوافق ثقته فعلا مع احتمال صواب إجابته؟ وكلما اتسعت الفجوة زاد خطر الوثوق بإجابة غير مستحقة، فيما يعرف بـ"الهلوسة". النظام الآمن هو الذي يرفع إشارة تحذير عندما تخرج الحالة عن نطاق موثوقيته.

الخبرة البشرية أعمق من البيانات

لكن هل كل معرفة الإنسان قابلة للتحويل إلى بيانات؟ هنا يبرز مفهوم "المعرفة الضمنية" لمايكل بولاني: "نعرف أكثر مما نستطيع أن نقول". فالحدس السريري حصيلة آلاف المواقف التي يصعب تدوينها.

لذلك هناك نوعان من عدم المعرفة: أول قابل للتقدير حسابيا كتضارب الأدلة، وهو ما تحسنه تقنيات الميتا معرفة، وثان أكثر تعقيدا يتمثل في سياق لم يدخل البيانات أصلا. قد تتعلم الآلة أن تقول "لا أعلم" عندما تشك، لكن التحدي الأصعب هو أن تعرف متى ينبغي أن تشك أصلا.

ولعل الجيل الأكثر أمانا من الذكاء الاصطناعي ليس الذي يجيب دائما، بل الذي يعرف متى يتوقف ويحيل القرار للإنسان.