احصل على شهادة — 16.67 دولارًا5 دولارات
أساسيات وكلاء الذكاء الاصطناعي والذكاء الاصطناعي الوكيلي
افهم كيف يخطط وكيل الذكاء الاصطناعي وينفذ المهام بالأدوات، ومتى يكون الخيار المناسب، وتعرّف على مخاطر حقن التعليمات والصلاحيات المفرطة، وأشرف على الوكلاء بأمان في العمل.
ماذا ستتعلّم
- شرح ماهية وكيل الذكاء الاصطناعي وكيف يختلف عن روبوت المحادثة أو سير العمل الثابت، ووصف حلقة عمل الوكيل.
- وصف مكونات الوكيل: النموذج والتعليمات والأدوات والذاكرة والتخطيط، بما في ذلك الأنظمة متعددة الوكلاء.
- تقدير متى يكون الوكيل هو الحل المناسب واختيار مستوى الاستقلالية الملائم للمهمة.
- التعرف على أنماط إخفاق الوكلاء ومخاطرهم الأمنية مثل حقن التعليمات والصلاحيات المفرطة وتسرب البيانات.
- تطبيق الضوابط: أقل صلاحية لازمة، والموافقة البشرية، وبيئة العزل، والاختبار، والتسجيل، وإجراء الإيقاف.
- استخدام الوكلاء بمسؤولية في العمل وفق أطر الحوكمة وقانون الذكاء الاصطناعي الأوروبي وقواعد حماية البيانات.
وحدات
- ما هو وكيل الذكاء الاصطناعي؟
- كيف يعمل الوكيل: المكونات الأساسية
- متى نستخدم الوكيل، وبأي قدر من الاستقلالية
- ما الذي قد يسوء: أنماط الإخفاق والمخاطر الأمنية
- إبقاء الوكلاء تحت السيطرة
- استخدام الوكلاء بمسؤولية في العمل
بطاقة الدورة
- المستوى
- توعوي
- مدة الدراسة التقديرية
- نحو 45 دقيقة
- التقييم النهائي
- 24 سؤالاً · درجة النجاح 80%
- متاحة بـ
- English, Français, العربية
- السعر
- مجانية. شهادة قابلة للتحقق اختيارية: 5 دولارات
- آخر تحديث
- الناشر
- AMAADOR ACADEMY
لمن هذه الدورة
الموظفون والمديرون وفرق المشاريع والعمليات ومستخدمو تقنية المعلومات غير المتخصصين الذين يستخدمون وكلاء الذكاء الاصطناعي أو يطلبونهم أو يعتمدونهم أو يشرفون عليهم في العمل. لا يلزم أي برمجة.
المتطلبات المسبقة
لا يوجد. تساعد تجربة سابقة مع مساعد محادثة لكنها ليست شرطًا.
محتوى الدورة
1. ما هو وكيل الذكاء الاصطناعي؟
تعرّف منظمة OECD نظام الذكاء الاصطناعي بأنه نظام آلي يستنتج من المدخلات التي يتلقاها كيف يولّد مخرجات مثل التنبؤات أو المحتوى أو التوصيات أو القرارات التي قد تؤثر في بيئات مادية أو افتراضية، وذلك لتحقيق أهداف صريحة أو ضمنية. ويضيف التعريف نفسه أن هذه الأنظمة تختلف في مستوى استقلاليتها. وهذه الاستقلالية هي محور هذه الدورة.
روبوت المحادثة يجيب فقط: تسأل فيرد، وأنت من يقرر ما تفعله بالرد. أما وكيل الذكاء الاصطناعي فينفّذ: يتلقى هدفًا، ويحدد الخطوات، ويستخدم أدوات مثل البحث والبريد الإلكتروني وجداول البيانات ونظام التذاكر، ثم يراجع النتائج ويواصل حتى يحقق الهدف أو يتعثر. والذكاء الاصطناعي الوكيلي هو الاسم العام للأنظمة المبنية بهذه الطريقة.
| النوع | من يحدد الخطوات؟ | هل يستطيع تغيير شيء؟ |
|---|---|---|
| مساعد محادثة | أنت، بعد كل رد | لا، ينتج نصًا فقط |
| سير عمل ثابت مع ذكاء اصطناعي | المصمم، مسبقًا | نعم، في مسار محدد |
| وكيل ذكاء اصطناعي | النموذج، أثناء التنفيذ | نعم، عبر أدواته |
تقع معظم الأنظمة الحقيقية بين هذه الحالات. فقد يتضمن سير العمل خطوة وكيلية صغيرة، وقد يحتاج الوكيل إلى موافقة بشرية قبل بعض الإجراءات. والمهم هو سؤال واحد بسيط: ما الذي يُسمح للنظام أن يقرره وينفذه دون أن يتحقق منه شخص؟
2. كيف يعمل الوكيل: المكونات الأساسية
الوكيل ليس برنامجًا سحريًا واحدًا، بل مجموعة مكونات يمكن فحص كل منها وتقييده واختباره.
| المكوّن | وظيفته | السؤال الذي تطرحه |
|---|---|---|
| النموذج | نموذج لغوي كبير (LLM) يقرأ الموقف ويقرر الخطوة التالية | هل هو موثوق بما يكفي لهذه المهمة؟ |
| التعليمات | موجّه النظام: الدور والقواعد والحدود والأسلوب ومتى يتوقف | هل الحدود مكتوبة وواضحة؟ |
| الأدوات | وظائف يستطيع الوكيل استدعاءها: البحث، قراءة ملف، الاستعلام في قاعدة بيانات، إرسال رسالة | أي الأدوات تغيّر البيانات أو تتصل بالخارج؟ |
| الذاكرة | ما يحتفظ به: المحادثة الحالية، الملاحظات، الحالات السابقة | ما البيانات الشخصية أو السرية المخزنة؟ |
| التنسيق | الشيفرة التي تشغّل الحلقة وتطبق الحدود وتسجل كل خطوة | من يطلع على السجلات، ومن يستطيع إيقافه؟ |
الخطر يكمن في الأدوات. النموذج وحده ينتج نصًا، لكنه حين يتصل بالأدوات يصبح نصه أفعالًا. والنموذج لا يشغّل الأداة بنفسه، بل يكتب طلبًا منظّمًا يسمى استدعاء أداة، ثم ينفذه برنامج التنسيق بالصلاحيات الممنوحة للوكيل. وتتيح بروتوكولات مفتوحة اليوم ربط الوكيل بأدوات كثيرة بطريقة موحدة، فيسهل إضافة الأدوات ويسهل أيضًا إضافة أكثر من اللازم.
قسّم الأدوات إلى مجموعتين: أدوات القراءة مثل البحث وعرض سجل، وقد تسرّب معلومات لكنها لا تغيّر شيئًا. وأدوات الكتابة مثل الإرسال والدفع والحذف والنشر وتعديل سجل، ولها عواقب حقيقية وتحتاج إلى قيود أشد.
3. متى نستخدم الوكيل، وبأي قدر من الاستقلالية
يكون الوكيل مفيدًا عندما تكون للمهمة مسارات ممكنة كثيرة، وتحتاج إلى معلومات من مصادر متعددة، ويمكن التحقق من نتيجتها. ولا يناسب المهام ذات الخطوات الثابتة دائمًا، أو التي تكون أخطاؤها مكلفة ويصعب التراجع عنها، أو التي لا يستطيع أحد أن يحكم على صحة نتيجتها.
| مناسب غالبًا | غير مناسب غالبًا |
|---|---|
| فرز تذاكر الدعم، مع شخص يتولى الحالات الصعبة | القرارات النهائية في التوظيف أو الائتمان أو العلاج |
| البحث وكتابة المسودات الأولى بمصادر يتحقق منها شخص | المدفوعات أو توقيع العقود دون موافقة بشرية |
| جمع البيانات من عدة أنظمة داخلية في تقرير | مهمة شهرية ثابتة ينجزها برنامج بسيط أصلًا |
| المساعدة في البرمجة داخل بيئة اختبار مع مراجعة قبل الإطلاق | تغييرات في أنظمة الإنتاج دون مراجعة أو إمكانية تراجع |
قبل اختيار وكيل، جرّب أبسط حل يؤدي الغرض. فكثيرًا ما يكون الموجّه الجيد أو سير العمل الثابت مع خطوة ذكاء اصطناعي واحدة أرخص وأسرع وأسهل في الاختبار. أما الوكيل فتكلفته أعلى، لأن كل دورة تستدعي النموذج من جديد فتزيد الوقت والرسوم، كما يتغير سلوكه أكثر من تشغيل لآخر.
- حدّد النتيجة — كيف تبدو المهمة «منجزة وصحيحة»؟
- افحص الخطوات — هل هي ثابتة دائمًا؟ إن كانت كذلك فاستخدم سير عمل.
- افحص قابلية التراجع — هل يسهل إلغاء فعل خاطئ؟
- افحص التحقق — هل يستطيع شخص أو اختبار تأكيد النتيجة؟
- ابدأ صغيرًا — تجربة أولية بأدوات قراءة فقط وأمثلة حقيقية.
4. ما الذي قد يسوء: أنماط الإخفاق والمخاطر الأمنية
يخفق الوكلاء بطرق تختلف عن أخطاء البرمجيات المعتادة، فتعلّم كيف تتعرف عليها.
| نمط الإخفاق | ما تلاحظه |
|---|---|
| الاختلاق | حقائق أو مصادر أو أرقام خاطئة تُقدَّم بثقة (تسمى الهلوسة)، وتصنفها OWASP ضمن المعلومات المضللة |
| أداة خاطئة أو هدف خاطئ | رسالة إلى شخص خطأ، أو تعديل سجل خطأ، أو حذف ملف خطأ |
| تراكم الأخطاء | خطأ صغير مبكر ينتقل إلى كل الخطوات اللاحقة |
| انحراف الهدف | يحل مشكلة أخرى، أو يسلك طريقًا مختصرًا يخالف قاعدة |
| الحلقات والتكلفة المنفلتة | يكرر الاستدعاء نفسه ويستهلك الميزانية، وتسميه OWASP الاستهلاك غير المحدود |
| النجاح الزائف | يعلن «تم» بينما فشلت خطوة أو تم تخطيها |
النمط الأخير هو الأخطر على المستخدم، لأن تقرير الوكيل عن عمله هو أيضًا من مخرجات النموذج وقد يكون خاطئًا. تحقق من النتيجة لا من الملخص.
حالة: في قضية Moffatt ضد Air Canada (2024 BCCRT 149) وجدت محكمة تسوية النزاعات المدنية في كولومبيا البريطانية أن روبوت المحادثة في موقع الشركة أخبر عميلًا خطأً بأنه يستطيع طلب تعرفة الحداد بعد السفر. احتجت الشركة بأن الروبوت مسؤول عن أفعاله، فرفضت المحكمة ذلك وحمّلتها المسؤولية عن تضليل ناتج عن الإهمال، وألزمتها بدفع نحو 812 دولارًا كنديًا إجمالًا: فرق السعر مع الفوائد ورسوم المحكمة · السبب: الإجابة خالفت صفحة السياسة الرسمية للشركة ولم يتحقق منها أحد · الوقاية: بناء الإجابات على السياسة الرسمية واختبارها، وإدراك أن المؤسسة مسؤولة عما يقوله ذكاؤها الاصطناعي.
5. إبقاء الوكلاء تحت السيطرة
لا يمكن جعل النموذج مطيعًا تمامًا، لذا نصمم النظام من حوله بحيث تبقى الأخطاء صغيرة. وتقدّم تدابير OWASP لمواجهة الصلاحيات المفرطة قائمة عملية.
- أقل عدد من الأدوات — امنح الوكيل الأدوات التي تحتاجها هذه المهمة فقط وأزل الباقي.
- أدوات ضيقة النطاق — فضّل «أرسل ردًا على هذه التذكرة» على «نفّذ أي أمر» أو «افتح أي رابط».
- أقل صلاحيات لازمة — قراءة فقط حين تكفي القراءة، ووصول إلى مجلد واحد لا إلى القرص كله.
- العمل باسم المستخدم — يعمل الوكيل بصلاحيات الشخص الذي طلبه، لا بحساب شامل يرى كل شيء.
- موافقة بشرية للأفعال عالية الأثر — المدفوعات والحذف والرسائل الخارجية وتغييرات أنظمة الإنتاج تنتظر شخصًا.
- فرض القواعد خارج النموذج — النظام المستقبِل هو من يتحقق من التفويض، وعبارة «لا تحذف أبدًا» في الموجّه ليست ضابطًا.
بيئة العزل (Sandbox) بيئة معزولة يعمل فيها الوكيل دون أن يلمس الأنظمة الحقيقية: نسخة من البيانات، أو حساب اختبار، أو حاوية بلا اتصال بالشبكة. استخدمها في التجارب الأولية ومع وكلاء البرمجة ومع كل ما يشغّل شيفرة.
افعل
- ضع حدودًا للإنفاق وعدد الخطوات والوقت
- احتفظ بنسخ احتياطية وطريقة للتراجع
- استخدم بيانات اعتماد منفصلة لكل وكيل
6. استخدام الوكلاء بمسؤولية في العمل
لا يوجد قانون خاص بالوكلاء وحدهم، بل تنطبق عليهم الأطر والقواعد القائمة، وتترجمها سياسة الذكاء الاصطناعي في مؤسستك إلى ممارسات يومية.
| المصدر | ما الذي يقدمه |
|---|---|
| NIST AI RMF 1.0 (2023) وملف الذكاء الاصطناعي التوليدي NIST AI 600-1 (2024) | منهج طوعي لإدارة المخاطر في أربع وظائف: الحوكمة Govern (الأدوار والسياسة)، والتحديد Map (السياق والمخاطر)، والقياس Measure (الاختبار والمتابعة)، والإدارة Manage (المعالجة والمراقبة) |
| ISO/IEC 42001:2023 | معيار قابل للإشهاد لنظام إدارة الذكاء الاصطناعي، مبني على نمط ISO 27001 وISO 9001 |
| قانون الذكاء الاصطناعي الأوروبي، اللائحة 2024/1689 | التزامات بحسب مستوى المخاطر. تُلزم المادة 4 المزودين والجهات المستخدمة باتخاذ تدابير لإلمام موظفيهم بالذكاء الاصطناعي (سارية منذ 2 فبراير 2025). وتفرض المادة 50 التزامات شفافية، مثل إبلاغ الأشخاص بأنهم يتعاملون مع نظام ذكاء اصطناعي |
| حماية البيانات: اللائحة العامة لحماية البيانات GDPR في الاتحاد الأوروبي، والقانون الفرنسي مع هيئة CNIL، والقانون المغربي 09-08 مع اللجنة الوطنية CNDP | الأساس القانوني وتقليل البيانات والأمن، وقيود على القرارات المبنية حصرًا على المعالجة الآلية (المادة 22 من GDPR) |
ينطبق قانون الذكاء الاصطناعي الأوروبي أيضًا على مؤسسات خارج الاتحاد حين تُطرح أنظمتها في السوق الأوروبية أو تُستخدم مخرجاتها داخله، وهذا مهم لكثير من الشركات المغربية والخليجية التي تعمل مع عملاء أوروبيين. وقد رُوجعت بعض مواعيد القانون والتزاماته منذ 2025، ومنها صياغة المادة 4 وموعد تطبيق قواعد الأنظمة عالية المخاطر، فتحقق من النص الموحد الساري قبل الاعتماد على أي موعد.
يتواصل الدرس كاملاً في الدورة التفاعلية على هذه الصفحة.
المصادر والمراجع
- AI Risk Management Framework (AI RMF 1.0) and Generative AI Profile (NIST AI 600-1)
- OWASP Top 10 for LLM Applications 2025
- LLM06:2025 Excessive Agency
- Agentic AI: Threats and Mitigations (February 2025)
- Regulation (EU) 2024/1689 (Artificial Intelligence Act)
- Updated OECD definition of an AI system (2023)
- CVE-2025-32711: AI command injection in M365 Copilot (EchoLeak)
- Moffatt v. Air Canada, 2024 BCCRT 149
دورة تعليمية مستقلة عن أي مزوّد. ليست استشارة قانونية أو أمنية أو استشارة امتثال، ولا تغني عن سياسة الذكاء الاصطناعي في مؤسستك ولا عن قواعدها الأمنية ولا عن مسؤول حماية البيانات. تستند النقاط القانونية إلى قانون الاتحاد الأوروبي (قانون الذكاء الاصطناعي واللائحة العامة لحماية البيانات) وقانوني حماية المعطيات الشخصية في فرنسا والمغرب حتى نوفمبر 2026، فتحقق من النصوص المحدثة. أسماء المنتجات الواردة في الحالات تُذكر فقط لوصف حوادث علنية.
كل الدورات · الذكاء الاصطناعي والبيانات - دورات مجانية، والشهادة مقابل 5 دولارات | أكاديمية أمادور