استخدام الذكاء التوليدي في العمل يحمل مخاطر حقيقية. ومعرفة الأكثر احتمالاً والأشدّ ضرراً تدلّك أين تضع الحواجز. المصفوفة أدناه تصنّف مخاطر النماذج الشائعة حسب الاحتمال والأثر.

انجراف الأسلوب

انحياز

هلوسة

ملكية فكرية/حقوق

تسريب بيانات

مخرجات مطوّلة

إفراط الاعتماد

حقائق خاطئة

حقن الأوامر

خرق الخصوصية

انزلاق النبرة

معلومات قديمة

تضخيم الانحياز

شيفرة غير آمنة

إخفاق امتثال

تنسيق

أخطاء طفيفة

اقتباس خاطئ

ذكاء اصطناعي خفي

تسريب سرّي

أخطاء مطبعية

تكرار

حشو

رابط قديم

مصدر غامض

الاحتمال (→) مقابل الأثر (↑). تسريبات البيانات وخروق الخصوصية في أعلى اليمين: نادرة إلى محتملة لكنها خطيرة.

أكبر خطأ في مكان العمل هو لصق بيانات سرّية — سجلات عملاء، شيفرة مصدرية، أسرار — في أداة عامّة قد تحتفظ بها. وحقن الأوامر خطر أمني حيث تختطف تعليمات مخفيّة في مستند أو صفحة ويب النموذج ليتجاهل قواعده؛ فلا تدع نموذجاً يتصرّف بناءً على نص غير موثوق دون حدود. وقد يهلوس النموذج أو يعكس انحيازات بيانات تدريبه.

لا أسرار في الأوامر

تحقّق من الحقائق

احذر الحقن

أبقِ إنساناً في الحلقة

⚖️ الحوكمة اتّبع سياسة استخدام الذكاء الاصطناعي وقواعد تصنيف البيانات في مؤسستك. وتؤكّد أُطُر مثل NIST AI RMF على الشفافية والمساءلة والإشراف البشري لأنظمة الذكاء الاصطناعي.

⚠️ إنسان في الحلقة لأي شأن عالي المخاطر — قانوني أو طبي أو مالي أو توظيف — يصوغ الذكاء الاصطناعي؛ ويقرّر شخص مؤهَّل. لا تجعل مخرَج النموذج هو الإجراء النهائي غير المُراجَع أبداً.

✨ Prompt Engineering & Generative AI at Work