Arabic:أخلاقيات الذكاء الاصطناعي في المؤسسات

مقدمة

أصبح الذكاء الاصطناعي جزءًا من قرارات العمل اليومية: فرز طلبات التوظيف، التنبؤ بالطلب، كشف الاحتيال، تلخيص المستندات، دعم خدمة العملاء، تقييم المخاطر، إنشاء المحتوى، ومراقبة العمليات. لكن كفاءة النظام لا تكفي وحدها للحكم على جودة استخدامه. قد يكون النموذج دقيقًا في المتوسط، ومع ذلك يضر فئة محددة، أو يستخدم بيانات لم يتوقع أصحابها هذا الاستخدام، أو ينتج قرارًا لا يستطيع الموظف تفسيره أو الاعتراض عليه.

في هذه الدورة ستتعلم كيف تحول مبادئ الأخلاقيات إلى إجراءات مؤسسية قابلة للتطبيق. سنركز على العدالة، والتحيز، والشفافية، والمساءلة، والخصوصية، والإشراف البشري، والاستخدام المؤسسي المسؤول. وستتعامل مع حالات واقعية شبيهة بما يحدث في التوظيف، والموارد البشرية، والخدمات المالية، والرعاية، والتسويق، وخدمة العملاء، والمشتريات التقنية.

رمز بصري عام يشير إلى محتوى أو نظام قائم على الذكاء الاصطناعي

رمز يذكّر بأن تعريف المحتوى أو النظام المدعوم بالذكاء الاصطناعي جزء من الشفافية المؤسسية.

الفئة المستهدفة: الموظفون، والمديرون، والمتخصصون، وأعضاء فرق الامتثال والمخاطر والموارد البشرية والمشتريات والتحول الرقمي، والمتعلمون البالغون في برامج التطوير المهني المستمر.

المتطلبات السابقة: لا تحتاج إلى خبرة برمجية متقدمة. يكفي فهم عام لعمليات المؤسسة والقرارات المهنية. يفيد أن تكون قادرًا على وصف عملية عمل واحدة في مؤسستك يمكن أن يستخدم فيها الذكاء الاصطناعي.

أهداف التعلم

بنهاية الدورة ستكون قادرًا على:

1. تقييم المخاطر الأخلاقية: تحديد من قد يستفيد ومن قد يتضرر من نظام ذكاء اصطناعي مؤسسي.
2. العدالة الخوارزمية: تمييز أشكال التحيز في البيانات والتصميم والاستخدام وقياس آثارها على مجموعات مختلفة.
3. الشفافية: صياغة معلومات مفهومة للمستخدمين والموظفين والمتأثرين بالقرارات الآلية.
4. المساءلة: توزيع الأدوار والمسؤوليات والتصعيد والتوثيق بدل ترك المسؤولية غامضة.
5. الخصوصية: تقليل جمع البيانات وتقييد استخدامها وحمايتها طوال دورة حياة النظام.
6. الإشراف البشري: تصميم نقاط تدخل بشرية ذات معنى وليست مجرد توقيع شكلي.
7. حوكمة الذكاء الاصطناعي: دمج الضوابط الأخلاقية في الاختيار والشراء والتطوير والنشر والمراقبة والإيقاف.

من المبادئ إلى المخاطر المؤسسية

الأخلاق في المؤسسة ليست قائمة شعارات، بل طريقة منهجية لتحديد المخاطر والحقوق والمسؤوليات قبل أن تتحول إلى حادث. يبدأ التحليل بسؤال بسيط: ما القرار أو المهمة التي يدعمها النظام، ومن يتأثر بها، وما شدة الضرر المحتمل إذا أخطأ؟

يمكن أن تشمل الأضرار رفض فرصة عمل، أو زيادة عبء المراقبة على فئة من الموظفين، أو كشف معلومات شخصية، أو حرمان عميل من خدمة، أو خلق محتوى مضلل، أو إضعاف قدرة الموظف على ممارسة حكمه المهني. لذلك يجب تقييم المخاطر في سياق الاستخدام الفعلي، لا في المختبر فقط.

من الأخطاء الشائعة الاعتقاد أن النظام المحايد تقنيًا ينتج قرارات محايدة اجتماعيًا. في الواقع، يتأثر النظام بأهداف العمل، وطريقة تعريف النجاح، ومصادر البيانات، ومن جرى تمثيلهم في البيانات، ومن لم يُمثّل، وكيف يفسر الموظفون مخرجاته.

حالة عمل: اشترت مؤسسة أداة لتحديد الموظفين المعرضين لترك العمل. أعطت الأداة درجات خطر لكل موظف. إذا استخدم المدير الدرجة لبدء حوار داعم، فالأثر مختلف عن استخدامها لخفض فرص الترقية. التقنية نفسها قد تكون مقبولة في سياق ومرفوضة في سياق آخر بسبب اختلاف الغرض والعواقب.

تحميل الفيديو

يوتيوب

قد يقوم يوتيوب بجمع البيانات الشخصية. سياسة الخصوصية

استمرار تجاهل

العدالة والتحيز: لا يكفي المتوسط

العدالة تعني أن تصميم النظام واستخدامه لا يفرضان أعباء غير مبررة على أفراد أو مجموعات، وأن المؤسسة تراقب فروق الأداء والنتائج ذات الصلة بالسياق. أما التحيز فقد يظهر في عدة طبقات:

1. تحيز البيانات: البيانات التاريخية قد تعكس ممارسات سابقة غير عادلة أو تمثيلًا ناقصًا لبعض الفئات.
2. تحيز القياس: المتغير الذي نستخدمه قد لا يقيس ما نعتقد أنه يقيسه فعلًا.
3. تحيز الهدف: اختيار هدف مثل تقليل الوقت أو التكلفة فقط قد يهمل الجودة أو العدالة أو السلامة.
4. تحيز النشر: قد يتغير السلوك عندما ينتقل النظام من بيئة الاختبار إلى سير عمل حقيقي.
5. تحيز الأتمتة: قد يثق الموظف بمخرجات النظام أكثر مما يستحق، خصوصًا تحت ضغط الوقت.

توضح دراسة Gender Shades المنشورة عام 2018 أن ثلاثة أنظمة تجارية لتصنيف الجنس بالصور أظهرت فروقًا كبيرة بين المجموعات، وكانت أعلى معدلات الخطأ لدى النساء ذوات البشرة الداكنة في الاختبار المستخدم. كما أظهرت دراسة واسعة للمعهد الوطني الأمريكي للمعايير والتقنية أن كثيرًا من خوارزميات التعرف على الوجه التي اختبرت أظهرت فروقًا ديموغرافية، مع اختلاف كبير بين الخوارزميات. الدرس المؤسسي ليس أن كل نظام يكرر النتيجة نفسها، بل أن اختبار الفئات الفرعية ومقارنة أنواع الخطأ ضرورة.

دراسة Gender Shades ملخص NIST حول الفروق الديموغرافية في التعرف على الوجه

كاميرا قائمة بذاتها عند نقطة تستخدم تقنية التعرف على الوجه

مثال بصري على تقنية التعرف على الوجه؛ تقييمها الأخلاقي يعتمد على الغرض، والضرورة، والدقة، والخصوصية، والضمانات.

سيناريو مهني: تستخدم إدارة الموارد البشرية نموذجًا لترتيب المرشحين. اكتشف الفريق أن معدل اجتياز المرشحين من مجموعة معينة أقل بكثير. لا يكفي حذف سمة حساسة واحدة من البيانات؛ فقد تعمل متغيرات أخرى كبدائل غير مباشرة. الإجراء المسؤول يشمل فحص مصدر الفارق، ومراجعة السمات والهدف، واختبار الأداء حسب المجموعات، وإتاحة مراجعة بشرية، وتوثيق القرار.

الشفافية وقابلية التفسير

الشفافية لا تعني نشر الشفرة المصدرية دائمًا. في المؤسسة، تعني تقديم المعلومات المناسبة للشخص المناسب في الوقت المناسب. الموظف الذي يستخدم أداة توليد نصوص يحتاج إلى معرفة حدودها وواجب التحقق من النتائج. العميل الذي يتفاعل مع مساعد آلي يحتاج إلى معرفة أنه يتعامل مع نظام آلي عندما يكون ذلك ذا صلة. الشخص المتأثر بقرار مهم يحتاج إلى تفسير مفيد لمسار القرار وكيفية طلب المراجعة.

أيقونة ترمز إلى الشفافية

الشفافية المؤسسية تتطلب معلومات مفهومة عن الغرض والقيود والبيانات والمسؤوليات وقنوات الاعتراض.

يمكن بناء طبقات للشفافية:

1. شفافية الغرض: لماذا تستخدم المؤسسة النظام وما المشكلة التي يحلها؟
2. شفافية البيانات: ما أنواع البيانات المستخدمة وما مصادرها وحدودها؟
3. شفافية الأداء: ما المؤشرات والاختبارات المعروفة، ولأي مجموعات أو سياقات؟
4. شفافية القرار: ما العوامل التي أثرت في النتيجة بالقدر الذي يسمح به النظام والسياق؟
5. شفافية الحوكمة: من يملك سلطة الإيقاف أو التعديل أو قبول المخاطر؟

خلاف عملي: يقول فريق الابتكار إن الإفصاح الزائد سيجعل الأداة معقدة ويبطئ الاستخدام، بينما يطالب فريق الامتثال بتفاصيل واسعة. الحل الأخلاقي ليس اختيار طرف واحد، بل تصميم إفصاح متعدد المستويات: رسالة قصيرة للمستخدم، وإرشادات أعمق للموظف، وتوثيق تقني وحوكمي للمتخصصين.

المساءلة: من يقرر ومن يراجع ومن يوقف

لا يمكن أن تكون الإجابة عن سؤال المسؤولية هي "النموذج قرر". المساءلة تعني أن أدوار البشر والوحدات التنظيمية محددة وقابلة للتتبع. يمكن توزيع المسؤوليات بين مالك العملية، ومالك النظام، ومزود التقنية، وأمن المعلومات، والخصوصية، والامتثال، والمراجعة الداخلية، والإدارة التنفيذية.

رسم بصري يرمز إلى المساءلة

المساءلة تحتاج إلى أدوار واضحة وتوثيق وحق تصعيد وقدرة فعلية على التصحيح.

مصفوفة قرار مبسطة: قبل النشر يجب أن يعرف الفريق من يوافق على حالة الاستخدام، ومن يتحقق من البيانات، ومن يراجع اختبارات الإنصاف، ومن يجيب عن شكاوى المتأثرين، ومن يستطيع إيقاف النظام. وبعد النشر يجب تحديد مؤشرات المراقبة وحدود الانحراف التي تؤدي إلى التحقيق أو الإيقاف.

المساءلة تشمل أيضًا الاحتفاظ بسجل قابل للتدقيق: نسخة النموذج أو الخدمة، الغرض، بيانات الاختبار، القرارات المهمة، التغييرات، الحوادث، الشكاوى، والإجراءات التصحيحية. لا يعني التوثيق جمع كل شيء إلى الأبد؛ يجب موازنته مع تقليل البيانات ومتطلبات الحماية.

الخصوصية وحوكمة البيانات

الخصوصية ليست مسألة موافقة شكلية فقط. اسأل: هل تحتاج المؤسسة فعلًا إلى هذه البيانات؟ هل الغرض واضح ومحدد؟ هل يمكن تحقيق الهدف ببيانات أقل حساسية؟ هل ستنتقل البيانات إلى مزود خارجي؟ هل ستستخدم لتحسين نموذج عام؟ هل يعرف الموظفون والعملاء ما يحدث؟

Fehler beim Erstellen des Vorschaubildes:

تقليل البيانات وتحديد الغرض والتحكم في الوصول مبادئ عملية لحماية الخصوصية.

من الضوابط العملية:

1. تقليل البيانات: اجمع الحد الأدنى اللازم.
2. تحديد الغرض: لا تعيد استخدام البيانات لغرض جديد حساس دون تقييم مناسب.
3. التحكم في الوصول: امنح الصلاحيات حسب الحاجة المهنية.
4. الاحتفاظ المحدود: لا تحتفظ بالبيانات أو السجلات أكثر مما يلزم للغرض والالتزامات المشروعة.
5. التعاقد مع الموردين: افهم أين تذهب البيانات، ومن يمكنه الوصول إليها، وكيف تحذف أو تعاد عند انتهاء العقد.
6. اختبار التسريب: قيّم مخاطر إدخال معلومات سرية أو شخصية في أدوات توليدية غير معتمدة.

سيناريو مهني: ينسخ موظف سجل شكوى عميل كاملًا إلى مساعد توليدي عام لطلب تلخيصه. قد يحتوي السجل على بيانات شخصية وتفاصيل تعاقدية. الإجراء المسؤول هو استخدام بيئة معتمدة، وتقليل البيانات أو إخفاء الهوية حيث يناسب الغرض، والتحقق من شروط المعالجة والاحتفاظ، وعدم افتراض أن أداة شائعة آمنة تلقائيًا للاستخدام المؤسسي.

الإشراف البشري: تدخل ذو معنى لا ختم شكلي

الإشراف البشري فعال عندما يملك الإنسان المعلومات والوقت والسلطة والكفاءة لمراجعة النتيجة وتغييرها. إذا كان الموظف مطالبًا بالموافقة على مئات القرارات في دقائق، فوجود اسمه في العملية لا يجعلها رقابة حقيقية.

صور الإشراف تشمل:

1. مراجعة بشرية إلزامية للقرارات ذات العواقب الكبيرة.
2. حدود ثقة أو مخاطر تحيل الحالات غير الواضحة إلى مختص.
3. أخذ عينات دورية من القرارات للتحقق من الجودة والإنصاف.
4. قناة اعتراض تمكّن المتأثر من تقديم معلومات إضافية.
5. زر إيقاف أو خطة رجوع إلى إجراء يدوي عند ظهور مشكلة كبيرة.

مفهوم خاطئ: "وجود إنسان في الحلقة يجعل النظام أخلاقيًا". ليس بالضرورة. قد يعاني الإنسان من تحيز الأتمتة، أو لا يرى البيانات اللازمة، أو يخشى مخالفة توصية النظام. لذلك يجب اختبار عملية الإشراف نفسها، لا الاكتفاء بوجودها في مخطط العملية.

دورة حياة الاستخدام المسؤول للذكاء الاصطناعي

يمكن للمؤسسة تنظيم الحوكمة عبر دورة حياة من ثماني خطوات:

1. تحديد حالة الاستخدام: وصف القرار، والمستفيدين، والمتأثرين، والبيانات، والبدائل غير الآلية.
2. تصنيف المخاطر: تقدير شدة الضرر واحتماله وقابلية عكسه وحجم التأثير.
3. فحص المورد أو النموذج: مراجعة الأدلة والقيود والأمن والخصوصية وشروط الاستخدام.
4. اختبار ما قبل النشر: قياس الأداء، والفئات الفرعية، والحالات الحدية، وسلوك المستخدمين.
5. تصميم الضوابط: إشراف بشري، صلاحيات، تسجيل، تنبيهات، وإجراءات اعتراض.
6. تدريب المستخدمين: تعليمهم متى يثقون ومتى يتحققون ومتى يصعّدون.
7. المراقبة المستمرة: تتبع الانحراف والحوادث والشكاوى وتغير السياق.
8. الإيقاف أو التعديل: وجود معايير واضحة لتعليق النظام أو سحبه أو استبداله.

يتقاطع هذا النهج مع أطر دولية. تؤكد توصية اليونسكو لأخلاقيات الذكاء الاصطناعي على حقوق الإنسان والكرامة والعدالة والشفافية والإشراف البشري. وتدعو مبادئ منظمة التعاون والتنمية في الميدان الاقتصادي إلى ذكاء اصطناعي جدير بالثقة، مع الشفافية والمساءلة وإدارة المخاطر. ويعرض إطار NIST لإدارة مخاطر الذكاء الاصطناعي خصائص للجدارة بالثقة تشمل الصلاحية والموثوقية والسلامة والأمن والمرونة والمساءلة والشفافية وقابلية التفسير والخصوصية والعدالة مع إدارة التحيز الضار.

في الاتحاد الأوروبي، بدأت في 2 أغسطس 2026 مرحلة مهمة من تطبيق وإنفاذ أحكام قانون الذكاء الاصطناعي، ومنها متطلبات شفافية محددة، مع مواعيد لاحقة لبعض أنظمة الذكاء الاصطناعي عالية المخاطر. هذا مثال على أن الحوكمة الأخلاقية تتفاعل مع المتطلبات القانونية المتغيرة؛ لذلك على المؤسسة مراجعة التشريعات التي تنطبق على موقعها وقطاعها بدل الاعتماد على قائمة عالمية واحدة.

تحميل الفيديو

يوتيوب

قد يقوم يوتيوب بجمع البيانات الشخصية. سياسة الخصوصية

استمرار تجاهل

حالات عمل للنقاش

الحالة الأولى — التوظيف: يوصي نظام آلي بالمرشحين للمقابلة. لاحظ الفريق أن بعض الخلفيات المهنية غير التقليدية تحصل على درجات أقل. ناقش: هل معيار "التشابه مع الموظفين الناجحين سابقًا" قد يعيد إنتاج نمط قديم؟ ما الاختبار الذي يجب إجراؤه؟ ومن يملك سلطة تعديل الهدف؟

الحالة الثانية — مراقبة الموظفين: تقترح الإدارة أداة لتحليل نشاط الحاسوب والتنبؤ بالإنتاجية. ناقش الفرق بين أمن الأنظمة ومراقبة الأداء. ما البيانات الضرورية فعلًا؟ ما أثر الأداة في الثقة والاستقلال المهني؟ وما البدائل الأقل تدخلاً؟

الحالة الثالثة — خدمة العملاء: روبوت محادثة يقدم معلومات مالية أولية. إذا كان يخطئ أحيانًا بثقة عالية، فهل يكفي وضع تنبيه عام؟ صمم مسارًا يحوّل الحالات الحساسة إلى موظف ويجعل العميل يعرف متى يتعامل مع نظام آلي.

الحالة الرابعة — الذكاء الاصطناعي التوليدي: يستخدم فريق التسويق نموذجًا لإنشاء صور ونصوص. ما المطلوب للتحقق من الدقة وحقوق الاستخدام وعدم التضليل؟ متى يجب الإفصاح عن المحتوى الاصطناعي؟ ومن يوافق على النشر النهائي؟

قائمة فحص قبل اعتماد نظام مؤسسي

استخدم الأسئلة التالية في اجتماع شراء أو تصميم أو مراجعة:

1. ما المشكلة التي نحاول حلها، وهل الذكاء الاصطناعي ضروري لها؟
2. من يتأثر مباشرة وغير مباشرة؟
3. ما أسوأ ضرر معقول، وهل يمكن عكسه؟
4. ما البيانات المستخدمة، وهل هي مناسبة ومشروعة وكافية التمثيل؟
5. كيف نقيس الأداء والإنصاف، وبأي فئات فرعية؟
6. ماذا سيعرف المستخدم والمتأثر عن النظام؟
7. أين تكون المراجعة البشرية إلزامية، وهل يملك المراجع سلطة حقيقية؟
8. من المسؤول عن الحادث أو الشكوى أو قرار الإيقاف؟
9. كيف نراقب التغير بعد النشر؟
10. ما خطة الخروج إذا أصبح النظام غير مناسب أو غير آمن؟

مهام تفاعلية

اختبار: اختبر معرفتك

ما أفضل وصف للاستخدام الأخلاقي للذكاء الاصطناعي في المؤسسة؟ (ربط المنفعة بإدارة المخاطر والحقوق والمسؤوليات طوال دورة الحياة) (!اختيار النموذج الأعلى دقة فقط) (!منع أي استخدام للذكاء الاصطناعي) (!ترك القرار الأخلاقي لمورد التقنية)

لماذا لا يكفي قياس متوسط الدقة للحكم على العدالة؟ (لأن المتوسط قد يخفي فروقًا مهمة بين مجموعات أو حالات مختلفة) (!لأن الدقة لا يمكن قياسها في أنظمة الذكاء الاصطناعي) (!لأن العدالة تعني أن تكون كل النتائج متطابقة) (!لأن كل الفئات تستخدم البيانات بالطريقة نفسها)

أي مثال يمثل تحيز الأتمتة؟ (قبول الموظف توصية النظام دون فحص كاف لأنها صادرة عن أداة آلية) (!حذف سجل بيانات مكرر) (!تشفير قاعدة بيانات) (!توثيق تغيير في النموذج)

ما المقصود بالشفافية المؤسسية المناسبة؟ (تقديم معلومات مفهومة ومناسبة لدور الشخص وتأثره بالنظام) (!نشر الشفرة المصدرية في كل حالة) (!إخفاء حدود النظام لتجنب القلق) (!إرسال الوثائق التقنية نفسها إلى جميع المستخدمين)

أي إجراء يقوي المساءلة أكثر؟ (تحديد مالك واضح للقرار وقناة تصعيد وسلطة إيقاف موثقة) (!القول إن النموذج هو المسؤول عن النتيجة) (!حذف سجلات القرارات لتقليل الأسئلة) (!ترك كل موظف يضع قواعده الخاصة)

ما أفضل تطبيق لمبدأ تقليل البيانات؟ (استخدام الحد الأدنى من البيانات اللازمة للغرض المحدد) (!جمع أكبر كمية ممكنة تحسبًا لأي استخدام مستقبلي) (!نسخ البيانات الشخصية إلى أدوات عامة لتسريع العمل) (!الاحتفاظ بكل البيانات دون مدة محددة)

متى يكون الإشراف البشري ذا معنى؟ (عندما يملك المراجع وقتًا ومعلومات وكفاءة وسلطة لتغيير النتيجة) (!عندما يوافق الإنسان تلقائيًا على كل نتيجة) (!عندما لا يعرف المراجع حدود النظام) (!عندما يمنع على الموظف مخالفة التوصية)

ما الخطوة الأنسب عند اكتشاف فرق أداء كبير بين فئتين في نظام توظيف؟ (التحقيق في مصدر الفارق ومراجعة البيانات والهدف والاختبارات والضوابط) (!تجاهل الفارق إذا كان متوسط الدقة مرتفعًا) (!حذف كل بيانات التقييم السابقة فورًا) (!نشر النظام أولًا ثم دراسة المشكلة لاحقًا)

لماذا تعد مراقبة النظام بعد النشر ضرورية؟ (لأن البيانات والسلوك والسياق قد تتغير وقد تظهر مخاطر لم تكن واضحة في الاختبار) (!لأن الاختبار قبل النشر غير مسموح) (!لأن النموذج يتوقف عن العمل بعد فترة قصيرة دائمًا) (!لأن المراقبة تلغي الحاجة إلى المسؤولية البشرية)

ما السؤال الأكثر أهمية قبل شراء أداة ذكاء اصطناعي من مورد خارجي؟ (كيف تعمل في حالة الاستخدام الفعلية وما مخاطرها وبياناتها وضوابطها ومسؤوليات المورد والمؤسسة) (!كم عدد الألوان في واجهة الأداة) (!هل يستخدم المورد كلمة ابتكار في الإعلان) (!هل يستطيع الفريق بدء الاستخدام دون سياسة)

لعبة الذاكرة

العدالة	فحص توزيع المنافع والأضرار وفروق النتائج بين الفئات والسياقات
التحيز	انحراف منهجي قد ينشأ من البيانات أو القياس أو الهدف أو طريقة الاستخدام
الشفافية	توفير معلومات مفهومة عن الغرض والحدود والبيانات ومسار القرار
المساءلة	تحديد من يقرر ويراجع ويصحح ويتحمل مسؤولية الإجراءات
الخصوصية	حماية البيانات الشخصية وتقليلها وتقييد استخدامها والوصول إليها
الإشراف البشري	قدرة بشرية فعلية على فحص النتيجة وتعديلها أو إيقافها
المراقبة	متابعة الأداء والحوادث والانحراف والشكاوى بعد النشر
التتبع	الاحتفاظ بسجل مناسب يوضح القرارات والتغييرات والمسؤوليات

السحب والإفلات

صِل الإجراء بالمبدأ الأخلاقي الأقرب إليه.	الاستخدام المؤسسي المسؤول
اختبار معدلات الخطأ حسب الفئات	العدالة
شرح الغرض والقيود للمستخدم	الشفافية
تعيين مالك لقرار الإيقاف	المساءلة
جمع أقل قدر لازم من البيانات	الخصوصية
إحالة الحالات عالية المخاطر إلى مختص	الإشراف البشري
تتبع الانحراف والحوادث بعد النشر	المراقبة المستمرة

كلمات متقاطعة

العدالة	مبدأ يطلب فحص توزيع المنافع والأضرار وفروق النتائج بين الفئات
التحيز	انحراف منهجي قد يظهر في البيانات أو القياس أو الاستخدام
الشفافية	إتاحة معلومات مفهومة عن النظام وغرضه وحدوده
المساءلة	وضوح من يتحمل مسؤولية القرار والمراجعة والتصحيح
الخصوصية	حماية البيانات الشخصية وتقليل جمعها واستخدامها
الإشراف	تدخل بشري فعلي يمكنه مراجعة النتيجة وتغييرها

مهام مفتوحة

سهل

1. خريطة أصحاب المصلحة: اختر حالة استخدام للذكاء الاصطناعي في مؤسسة وارسم خريطة تبين المستخدمين والمتأثرين والمستفيدين وأصحاب سلطة القرار.
2. بطاقة شفافية: اكتب بطاقة من ثمانية أسطر تشرح لموظف غير تقني غرض أداة ذكاء اصطناعي وحدودها ومتى يجب طلب مراجعة بشرية.
3. تدقيق بيانات مبسط: أنشئ قائمة تحقق من عشر نقاط تسأل عن مصدر البيانات والحاجة إليها وحساسيتها ومدة الاحتفاظ بها ومن يمكنه الوصول إليها.
4. مقابلة مهنية قصيرة: أجر مقابلة مع زميل أو مدير حول موقف استخدمت فيه توصية آلية، ثم لخّص كيف تحقق الإنسان من النتيجة دون تسجيل بيانات شخصية غير لازمة.

متوسط

1. تحليل حالة توظيف: حلل سيناريو نظام ترتيب المرشحين وحدد ثلاثة مصادر محتملة للتحيز وثلاثة اختبارات وثلاثة ضوابط قبل النشر.
2. مناظرة الشفافية: شكّل فريقين؛ أحدهما يدافع عن الإفصاح الواسع والآخر عن الإفصاح المتدرج، ثم صمموا سياسة توازن بين الفهم والأمن والملكية الفكرية.
3. محاكاة لجنة حوكمة: وزع أدوار الموارد البشرية والخصوصية والأمن والامتثال ومالك العمل والمورد، وناقش قرار نشر نظام جديد مع توثيق أسباب القبول أو الرفض.
4. فيديو توعوي: أنشئ فيديو قصيرًا باللغة العربية يشرح مثالًا على تحيز الأتمتة وكيف يمكن للموظف مقاومته في سير العمل اليومي دون عرض بيانات حقيقية أو سرية.

متقدم

1. تقييم أثر أخلاقي: أعد تقييمًا من صفحتين لحالة استخدام عالية الأثر يشمل الغرض وأصحاب المصلحة والأضرار والعدالة والخصوصية والشفافية والإشراف وخطة المراقبة.
2. اختبار عدالة تجريبي: استخدم مجموعة بيانات عامة أو بيانات اصطناعية آمنة لبناء جدول يقارن معدل الخطأ بين مجموعات فرعية، ثم فسّر حدود الاختبار وما لا يمكن استنتاجه منه.
3. خطة استجابة لحادث ذكاء اصطناعي: صمم تمرين طاولة يتضمن اكتشاف ضرر مفاجئ بعد النشر، وحدد من يصعّد ومن يوقف ومن يتواصل مع المتأثرين وكيف توثق الإجراءات التصحيحية.
4. سياسة مؤسسية مسؤولة: اكتب مسودة سياسة داخلية من صفحة واحدة تحدد الاستخدامات المسموحة والمحظورة، وتصنيف المخاطر، وضوابط البيانات، والمراجعة البشرية، والمشتريات، والمراقبة، وآلية الاستثناءات.

مجالات تعلم مرتبطة

أخلاقيات الذكاء الاصطناعي في المؤسسات حوكمة الذكاء الاصطناعي العدالة الخوارزمية حماية البيانات إدارة المخاطر الامتثال المؤسسي الأمن السيبراني إدارة الموارد البشرية المشتريات التقنية

مسرد

العدالة

تقييم ما إذا كانت المنافع والأعباء والأخطاء موزعة بطريقة يمكن تبريرها في السياق.

التحيز

انحراف منهجي قد يؤدي إلى نتائج غير متوازنة أو غير مناسبة بسبب البيانات أو التصميم أو الاستخدام.

الشفافية

إتاحة معلومات مناسبة ومفهومة عن الغرض والبيانات والحدود وطريقة الحوكمة ومسار القرار.

المساءلة

وضوح الأدوار والسلطات والواجبات وإمكانية تتبع القرارات وتصحيح الأضرار.

الخصوصية

حماية الأفراد عبر تقليل البيانات وتحديد الغرض والتحكم في الوصول والاحتفاظ الآمن.

الإشراف البشري

تدخل شخص مؤهل يملك معلومات وسلطة كافية لمراجعة مخرجات النظام وتغييرها.

تحيز الأتمتة

الميل إلى إعطاء توصية النظام الآلي وزنًا أكبر مما تستحق دون تحقق كاف.

التتبع

القدرة على إعادة بناء الأحداث والقرارات والتغييرات ذات الصلة بالنظام لأغراض المراجعة والتعلم.

الانحراف

تغير البيانات أو السلوك أو السياق بما يضعف صلاحية الأداء المتوقع بعد النشر.

حوكمة الذكاء الاصطناعي

القواعد والأدوار والعمليات التي توجه اختيار أنظمة الذكاء الاصطناعي وتطويرها واستخدامها ومراقبتها وإيقافها.