الذكاء الاصطناعي التوليدي في تصميم التدريب: مساعد مفيد ومؤلف محفوف بالمخاطر

تتعرض فرق التدريب لضغط مستمر لإنتاج محتوى أكثر وبسرعة أكبر وبلغات أكثر. ويبدو الذكاء الاصطناعي التوليدي الأداة المثالية: فهو يصوغ مخططات الدروس، ويعيد كتابة النص لمستويات قراءة مختلفة، ويولّد أسئلة الاختبارات، ويترجم في ثوانٍ. وعند استخدامه بعناية يوفر وقتًا حقيقيًا. أما عند استخدامه باستهتار فقد يضع معلومات سلامة غير دقيقة أمام العاملين. تعرض هذه المقالة نهجًا عمليًا يراعي المخاطر.

ما هو الذكاء الاصطناعي التوليدي

الذكاء الاصطناعي التوليدي (GenAI) فرع من الذكاء الاصطناعي يبني نماذج قادرة على إنتاج مواد جديدة، سواء نصوصًا أو صورًا أو فيديو أو صوتًا أو شيفرة برمجية.¹ ويُدرَّب النموذج من هذا النوع على مجموعات كبيرة من الأمثلة، ويلتقط ما فيها من انتظام، ثم يُنتج مخرجات جديدة عند إعطائه تعليمة، وهي في الغالب موجّه نصي (prompt) مكتوب بلغة يومية.¹ وتستخدمه شركات في قطاعات كثيرة بالفعل لأتمتة إنتاج المحتوى وتوسيع نطاقه.¹

مشكلة الدقة

في التدريب، أكبر خطر هو الخطأ. فهذه النماذج تُنتج أحيانًا إجابات غير صحيحة ببساطة، وهو إخفاق يُسمّى عادةً «الهلوسة».¹ ويحدث ذلك بما يكفي ليكون مهمًا: ففي استطلاع McKinsey State of AI 2024، أبلغت نحو 44% من المنظمات المستطلَعة عن نتيجة ضارة واحدة على الأقل من استخدام الذكاء الاصطناعي التوليدي، وكانت المخرجات غير الدقيقة أو المختلقة من أكثر المخاطر ذكرًا.¹ تخيّل دورة سلامة تذكر حدًّا للتعرض أو خطوة عزل بثقة تامة وتخطئ فيها؛ فقد يتأذى شخص. ولذلك يجب تأكيد كل معلومة تقدّمها أداة ذكاء اصطناعي من مصدر موثوق.

وهناك أيضًا مسائل قانونية. فالمحاكم تنظر في نزاعات حول جواز استخدام أعمال محمية بحقوق النشر لتدريب نماذج الذكاء الاصطناعي، وحول وضع ما تُنتجه هذه الأنظمة.¹ راجع سياسة مؤسستك وشروط أدواتك قبل استخدام المخرجات تجاريًا.

استخدامات جيدة في تصميم التعلّم

• صياغة المخططات انطلاقًا من أهداف تقدّمها أنت.
• إعادة الكتابة لنص معتمد بلغة مبسطة أو بصيغ أقصر.
• توليد صيغ متعددة للأسئلة من محتوى جرى التحقق منه، ليراجعها خبير.
• أفكار لسيناريوهات لدراسات الحالة وتمثيل الأدوار.
• ترجمة أولية يتبعها مراجعة من خبير في الموضوع متمكّن من اللغة.
• تلخيص الوثائق الطويلة للمصممين لا للمتعلّمين، دون مراجعة.

استخدامات ينبغي تجنبها أو ضبطها بإحكام

• توليد حقائق أو حدود أو إجراءات تقنية دون مصدر جرى التحقق منه.
• نشر محتوى الذكاء الاصطناعي للمتعلّمين دون مراجعة خبير.
• رفع وثائق سرية إلى أدوات لم تعتمدها مؤسستك.
• قرارات تقييم آلية لها آثار على وظائف الناس دون إشراف بشري.

إطار للمخاطر

يُعدّ إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن NIST (NIST AI Risk Management Framework) نقطة مرجعية مفيدة. ويقدّمه NIST بوصفه مورِدًا طوعيًا يساعد المؤسسات على ترسيخ الموثوقية في طريقة تصميمها لمنتجات الذكاء الاصطناعي وخدماته وتطويرها واستخدامها وتقويمها.² وهو ليس ثابتًا: إذ يذكر NIST أن الإصدار 1.0 قيد المراجعة تزامنًا مع خطة عمل الذكاء الاصطناعي الصادرة عن البيت الأبيض.² وقد يهمّ المشغّلين الصناعيين أيضًا أن NIST نشر في 7 أبريل 2026 مذكرة مفاهيمية لملف تعريفي مزمع بشأن الذكاء الاصطناعي الجدير بالثقة في البنى التحتية الحيوية.² خذ أفكار الإطار الأربع، وهي رسم السياق وقياس المخاطر وإدارتها وحوكمة العملية كلها، وقدّرها بما يناسب برنامجك.

سير عمل عملي

1. حدّد الموجز بأهداف واضحة وجمهور محدد ووثائق مصدرية معتمدة.
2. ولّد المسودات مع الاحتفاظ بالموجّهات والإصدارات.
3. تحقق من كل معلومة مع خبير في الموضوع بالرجوع إلى المصادر.
4. جرّب مع المتعلّمين وصحّح المشكلات.
5. اعتمد عبر ضبط الوثائق المعتاد لديك.
6. تابع الملاحظات وحدّث المحتوى عند تغيّر المصادر.

الإنصاف وإتاحة الوصول

يمكن للذكاء الاصطناعي أن يساعد في إتاحة المحتوى بلغات ومستويات قراءة أكثر، دعمًا للإدماج. وتعمل اليونسكو مع الحكومات والمؤسسات في البحوث والأدلة والسياسات الخاصة بالتعلّم الرقمي، مع تركيز خاص على البيئات المحرومة.³ احتفظ بمراجع بشري متمكّن من كل لغة مستهدفة.

كيف تعمل هذه النماذج، باختصار

ببساطة، امتصّ النموذج التوليدي أنماطًا إحصائية من مجموعة ضخمة جدًا من بيانات التدريب، ويستخدمها لتأليف إجابة معقولة عمّا يُسأل عنه.¹ وفي النصوص، الأدوات المستخدمة في معظمها نماذج لغوية كبيرة (LLM). وكثير منها محوّلات توليدية مُدرَّبة مسبقًا (GPT)، تتدرّب على تخمين الكلمة المرجّح أن تأتي بعد ذلك.⁴ وكتابة نص معقول عمل مختلف عن التحقق من الحقائق، وهذه الفجوة جذر مشكلة الدقة.

الهلوسة في محتوى التدريب

في مصطلحات الذكاء الاصطناعي، الهلوسة (وتسمّى أحيانًا التلفيق) مخرَج يبدو موثوقًا لكنه يحتوي على مضمون خاطئ أو مضلّل.⁵ ويمكن لروبوتات المحادثة المبنية على نماذج لغوية كبيرة أن تدسّ تفاصيل مختلقة في نص يبدو معقولًا في سواه، والمراجع الملفّقة حالة نموذجية.⁵ وفي التدريب على السلامة والامتثال، قد يتسبب حدّ أو رقم لائحة أو خطوة إجراء مختلقة في ضرر حقيقي. وجودة البيانات مهمة كذلك: فإذا كانت المواد التي تعلّم منها النموذج متحيزة أو خاطئة، قلّت موثوقية إجاباته.⁴

بروتوكول مراجعة للمحتوى المدعوم بالذكاء الاصطناعي

1. اربط النموذج بوثائق مصدرية معتمدة (إجراءات ومعايير وأدلة) بدلًا من معرفته العامة.
2. تتبّع كل معلومة: يجب أن يرجع كل ادعاء تقني إلى مصدر يستطيع المراجع فتحه.
3. موافقة خبير في الموضوع على المحتوى الحيوي للسلامة، تُسجَّل في ضبط الوثائق.
4. افحص اللغة والشمول: مستوى القراءة والثقافة والنوع الاجتماعي وإتاحة الاستخدام.
5. جرّب مع المتعلّمين وصحّح العناصر المربكة قبل الإصدار.
6. أشِر إلى مشاركة الذكاء الاصطناعي داخليًا ليعرف المراجعون لاحقًا أي محتوى يعيدون فحصه.

صيغ موجّهات تفيد المصممين

• «من هذا الإجراء، اذكر الخطوات التي يرجَّح فيها الخطأ أكثر واشرح السبب»، نقطةَ بداية للتحليل.
• «اكتب خمسة أسئلة قائمة على سيناريوهات عند مستوى «التطبيق»، مع مشتّتات معقولة مبنية على الأخطاء الشائعة المذكورة هنا.»
• «أعد كتابة هذه الفقرة لمستوى قراءة يناسب نحو 12 عامًا دون تغيير المصطلحات التقنية.»
• «اقترح ثلاث طرق لتقييم هذا الهدف عمليًا.»

كل مخرَج مسودة يحكم عليها المصمم، وليس منتجًا نهائيًا.

حماية البيانات والملكية الفكرية

راجع سياسة مؤسستك قبل لصق وثائق داخلية أو بيانات متعلّمين في أدوات خارجية. وفضّل اتفاقيات المؤسسات ذات شروط الاحتفاظ بالبيانات الواضحة، وتجنّب رفع بيانات شخصية من التقييمات. وراجع حالة ترخيص الصور المولَّدة وحقوق أي مواد مصدرية تقدّمها.

استخدام الذكاء الاصطناعي مع المتعلّمين

يمكن للمدرّسين الآليين ومساعدي المحادثة الإجابة عن الأسئلة في أي ساعة، لكن ينبغي أن يستندوا إلى محتوى معتمد، وأن يعرضوا مصادرهم، وأن يخبروا المتعلّمين متى يسألون شخصًا. راقب عيّنة من المحادثات للتأكد من دقتها، وأبقِ وسيلة بسيطة يبلّغ بها المتعلّمون عن الإجابات الخاطئة.

أهم النقاط

• استخدم الذكاء الاصطناعي التوليدي للصياغة والتكييف، لا لتأليف حقائق لم يُتحقق منها.
• كل عبارة تقنية تحتاج إلى تحقق خبير بالرجوع إلى مصدر.
• طبّق إطارًا للمخاطر، مثل NIST AI RMF، وأبقِ البشر مسؤولين.

الأسئلة الشائعة

هل يمكننا ترك الذكاء الاصطناعي يكتب دورة كاملة؟

لا نوصي بذلك. يمكن للذكاء الاصطناعي أن يصوغ مسودات، لكن على الخبراء التحقق من المحتوى، ويظل تصميم التعلّم بحاجة إلى تحليل المهام الفعلية.

هل الترجمة بالذكاء الاصطناعي جيدة بما يكفي للتدريب على السلامة؟

يمكنها تقديم مسودة أولى مفيدة، لكن ينبغي أن يراجعها خبير في الموضوع متمكّن من اللغة قبل الاستخدام.

ما هو NIST AI RMF؟

إطار طوعي من NIST لإدارة مخاطر الذكاء الاصطناعي، مع دليل عملي وموارد. وهو قيد المراجعة.

كيف نحمي الوثائق السرية؟

استخدم الأدوات التي تعتمدها مؤسستك والتزم بسياساتها للبيانات قبل رفع أي محتوى.

هل يمكننا ترك الذكاء الاصطناعي يكتب دورة التهيئة لدينا؟

يمكنه صياغة أجزاء منها، لكن على مراجع مؤهل التحقق من كل معلومة بالرجوع إلى مصادر معتمدة قبل الإصدار.

هل سيحلّ الذكاء الاصطناعي محل مصممي التعليم؟

إنه يغيّر العمل: صياغة أولى أقل، وتحليل ومراجعة وتصميم تقييم واختبار مع المتعلّمين أكثر.

المصادر

كل معلومة مرقّمة في النص ترتبط بمصدرها في القائمة أدناه. جُمعت المصادر في 23 أكتوبر 2026، وهي صفحات باللغة الإنجليزية. راجعوا الجهة الناشرة للاطلاع على أي تحديثات لاحقة.

1. الذكاء الاصطناعي التوليدي (ويكيبيديا، بالإنجليزية) en.wikipedia.org
2. إطار إدارة مخاطر الذكاء الاصطناعي (NIST) nist.gov
3. التعليم الرقمي (اليونسكو) unesco.org
4. النموذج اللغوي الكبير (ويكيبيديا، بالإنجليزية) en.wikipedia.org
5. الهلوسة (الذكاء الاصطناعي) (ويكيبيديا، بالإنجليزية) en.wikipedia.org