وسم

| المنشور الثاني أدوات كشف الذكاء الاصطناعي تحت الاختبار: هل تكشف فعلًا؟ تخيل أن تكتب مقالًا بنفسك، ثم تخبرك أداة كشف أن نصك مولّد بالذكاء الاصطناعي. • هل تكفي هذه النتيجة للحكم عليك؟ في المنشور السابق قلنا إن الإجابة ليست دليلًا. واليوم نختبر فكرة قريبة: • هل نتيجة أداة الكشف دليل قاطع على هوية كاتب النص؟ بدل الاعتماد على الانطباعات، لنرجع إلى دراسات حديثة. 🔍 أولًا: دراسة منشورة في يونيو 2026 نشرت مجلة International Journal for Educational Integrity دراسة قارنت أربع أدوات لكشف النصوص المولّدة بالذكاء الاصطناعي: • GPTZero • Pangram • Copyleaks • Turnitin اختبر الباحثون الأدوات على 160 نصًا أكاديميًا موزعة على أربع فئات: نصوص بشرية... ونصوص مولّدة بالكامل بالذكاء الاصطناعي... ونصوص تجمع بين الكتابة البشرية والآلية... ونصوص مولّدة آليًا ثم عُدّلت لتبدو بشرية. • ماذا وجدوا؟ تفوقت Pangram على الأدوات الأخرى في مجموعة الاختبارات، بينما قلّلت الأدوات الأخرى تقدير المحتوى المولّد آليًا في حالات متعددة، خصوصًا مع النصوص التي أنتجها وضع Deep Research في ChatGPT. بل إن Turnitin أخفقت في كشف النصوص الأربعين المولّدة بالكامل ضمن هذه العينة، إذ أعطتها جميعًا درجات تشير إلى أن المحتوى المولّد لا يتجاوز 20%. لكن هذه النتيجة تخص اختبارًا محددًا، ولا تعني أن الأداة ستفشل بالطريقة نفسها مع جميع النصوص. ويرجّح الباحثون أن من أسباب تفوق Pangram اعتمادها أساليب تدريب تركز على التمييز بين النصوص المتشابهة في الموضوع والأسلوب، وعلى معالجة الحالات الصعبة التي يخطئ النموذج في تصنيفها. لكن لا يمكن الجزم بأن هذه الآليات وحدها تفسر تفوقها. وفي هذه العينة، صنّفت الأدوات النصوص البشرية تصنيفًا صحيحًا بدرجة مرتفعة، مع وجود أخطاء محدودة. وهذه نقطة إيجابية، لكنها لا تلغي حدود الاختبار. 🔍 ثانيًا: • ماذا حدث عند اختبار الأداة على رسائل ماجستير حقيقية؟ طبّق الباحثون أداة Pangram على 1,163 رسالة ماجستير قُدّمت خلال العام الأكاديمي 2024–2025. وضعت الأداة علامة على 529 رسالة، أي 45.5% من العينة، وقدّرت متوسط المحتوى المرتبط بالذكاء الاصطناعي في هذه الرسائل بنحو 34%. لكن انتبهوا إلى التفصيل الأهم: لم تكن هناك حقيقة مرجعية مؤكدة تحدد مقدار استخدام الذكاء الاصطناعي في هذه الرسائل. لذلك لا تثبت النتائج أن 45.5% من الطلاب استخدموه فعلًا، ولا أن أحدًا منهم ارتكب غشًا أكاديميًا. إنها نتائج أداة كشف تحتاج إلى تفسير، وليست إحصاءً مؤكدًا عن سلوك الطلاب. 🔍 ثالثًا: • هل تنجو النصوص من الكشف بعد إعادة صياغتها؟ في بحث قُدّم ضمن أعمال مؤتمر NAACL لعام 2025، اختبر الباحثان قدرة عدة طرق للكشف على مقاومة محاولات إعادة صياغة النصوص المولّدة آليًا. وجدا أن بعض الأساليب التي حققت أداءً أفضل في الكشف تعرضت أيضًا لخسائر أكبر في الأداء عند إعادة الصياغة. تكشف هذه النتيجة مفاضلة مهمة: قد تتفوق طريقة في الكشف في الظروف العادية، لكنها تكون أقل مقاومة لمحاولات تجاوزها. ولا تعني النتيجة أن جميع أدوات الكشف تتأثر بالدرجة نفسها. 🔍 رابعًا: • ماذا نستنتج؟ لا نستطيع أن نقول إن أدوات الكشف عديمة الفائدة، ولا أن نتائجها صحيحة دائمًا. ما نستطيع قوله هو: • تختلف دقة الكشف باختلاف الأداة والنص وظروف الاختبار. • قد تتراجع قدرة بعض الأساليب على الكشف عند إعادة صياغة النصوص. • نجاح الأداة في مجموعة اختبار محددة لا يضمن نجاحها في جميع الحالات. • لا تكفي نتيجة الكشف وحدها لإثبات أن شخصًا بعينه استخدم الذكاء الاصطناعي. وهناك قيد إضافي مهم: الدراسات المذكورة اختبرت نصوصًا باللغة الإنجليزية. لذلك لا يجوز نقل نتائجها أو نسب دقتها إلى النصوص العربية دون اختبارات مستقلة مناسبة. ● الخلاصة أداة الكشف قد تقدم مؤشرًا مفيدًا، لكنها ليست شاهدًا على عملية الكتابة نفسها. إذا قالت الأداة إن نصًا ما مولّد بالذكاء الاصطناعي، فعلينا أن نسأل: • ما الأداة التي استخدمناها؟ • وعلى أي نصوص اختُبرت؟ • وما حدود دقتها؟ • وهل توجد أدلة أخرى تدعم النتيجة؟ فالفارق كبير بين أداة تساعدنا على طرح سؤال، وأداة نعامل نتيجتها وكأنها حكم نهائي. 🔬 في الذكاء الاصطناعي تحت المجهر، لا نبحث عما يؤكد رأينا فقط؛ بل نفحص النتائج المؤيدة والمعارضة، ثم نحكم بقدر ما تسمح به الأدلة. 📚 المصادر الأصلية: دراسة منشورة في مجلة Internationa Journal for Educational Integrity عام 2026: Who wrote this? Evaluating the reliability of AI detection tools in higher education link.springer.com/article/10.10… التصحيح الرسمي للدراسة المنشورة عام 2026: link.springer.com/article/10.10… دراسة عن مقاومة طرق كشف النصوص المولّدة لمحاولات إعادة الصياغة، منشورة ضمن أعمال مؤتمر NAACL لعام 2025: aclanthology.org/2025.naacl-srw… #الذكاء_الاصطناعي_تحت_المجهر #كشف_الذكاء_الاصطناعي #تحقق #علوم #تقنية #غواص_المعاني أغوص في بحر القراءة... لأعود بدرة.💎

المنشور الأول الإجابة ليست دليلًا كيف نعرف أن ما يقوله الذكاء الاصطناعي صحيح؟ في السلسلة السابقة سألنا: إلى أين يتجه الذكاء الاصطناعي؟ في هذه السلسلة نسأل سؤالًا أكثر إلحاحًا: كيف نتحقق مما يقوله؟ النماذج اليوم تنتج إجابات سريعة ومنظمة ومقنعة. لكن الإجابة، مهما بدت واثقة، ليست دليلًا بحد ذاتها. الدليل هو ما يسند الادعاء ويمكن فحصه: مصدر موثوق، أو برهان صالح، أو تجربة موصوفة بما يسمح بإعادة إجرائها حيثما أمكن. خذ مثالًا بسيطًا: قد يقدم نموذج برهانًا رياضيًا متماسكًا في ظاهره، لكنه يتضمن خطوة غير مبررة. وقد يذكر مرجعًا بتفاصيل دقيقة، ثم نكتشف أن المرجع غير موجود أصلًا. المشكلة ليست في الخطأ وحده، بل في أن طريقة عرض الإجابة قد تمنحها ثقة لا تستحقها. وقد تكون الإجابة المقنعة: • صحيحة بالمصادفة، لكن الاستدلال الذي أوصل إليها غير صالح. • صحيحة في حالة محددة، لكنها عُممت على حالات أخرى دون مبرر. • مبنية على مرجع لا يسند الادعاء، أو لا يمكن التحقق منه. فكيف نتحقق؟ 🔹 نعود إلى المصدر الأصلي: الورقة العلمية أو الوثائق الرسمية أو الكود، بدل الاكتفاء بملخص النموذج. 🔹 نستخدم التحقق الرسمي حيث يناسب: ففي الرياضيات والبرمجيات، يمكن لأدوات مثل Lean أن تساعد في فحص براهين صيغت بطريقة رسمية. 🔹 نفحص قابلية إعادة الإنتاج: هل يستطيع باحث آخر الوصول إلى النتيجة نفسها في ظروف موضحة؟ 🔹 نستعين بالمراجعة المتخصصة: خصوصًا في المسائل التي تتطلب خبرة علمية أو مهنية. 🔹 ننتبه إلى تلوث بيانات التدريب: فقد تتأثر نتائج اختبارات النماذج إذا سبق أن ظهرت أسئلتها أو إجاباتها في بيانات التدريب. وهذه مشكلة بحثية في تقييم قدرات النماذج، وليست فحصًا بسيطًا يمكن حسمه في كل محادثة. 🔹 نفصل بين صحة النتيجة وصحة البرهان: الوصول إلى جواب صحيح لا يثبت أن الطريق إليه كان صحيحًا. ولماذا يزداد الأمر صعوبة؟ لأن المحتوى الذي تنتجه الآلات يتزايد بسرعة، ولأن الصياغة العلمية لا تعني بالضرورة أن الكلام صحيح أو قابل للفحص. والأخطر أن نعتاد قبول الإجابات لأن شكلها مقنع، لا لأن أدلتها قوية. القاعدة التي نحتاجها ليست أن نشك في كل إجابة، بل ألا نجعل الثقة بديلًا عن الدليل. اسأل دائمًا: ما المصدر؟ هل يسند هذا الادعاء فعلًا؟ ومن يستطيع فحصه؟ وهل يمكن إعادة إنتاج النتيجة؟ 📚 مصادر للاستزادة والتحقق: • NIST: تقرير عن مخاطر الذكاء الاصطناعي التوليدي، ومنها إنتاج معلومات خاطئة أو مضللة. nvlpubs.nist.gov/nistpubs/ai/NI… • Lean: التوثيق الرسمي لأداة تُستخدم في صياغة البراهين الرياضية والتحقق الرسمي منها. lean-lang.org • الأكاديميات الوطنية الأمريكية: تقرير عن قابلية إعادة إنتاج النتائج العلمية وتكرارها. nap.nationalacademies.org/catal… • بحث علمي حول تلوث اختبارات النماذج اللغوية ببيانات التدريب: aclanthology.org/2024.naacl-lon… 🔬 نتحقق أولًا، ونحلل ثانيًا، ثم نكتب للنشر. #الذكاء_الاصطناعي_تحت_المجهر #الإجابة_ليست_دليلًا #تحقق #علوم #تقنية #غواص_المعاني أغوص في بحر القراءة... لأعود بدرة.💎