Arabic:أخلاقيات الذكاء الاصطناعي

مقدمة

أصبحت نظم الذكاء الاصطناعي جزءًا من قرارات تمس التعليم والصحة والعمل والتمويل والإعلام والخدمات العامة. لا يكفي أن يكون النظام دقيقًا تقنيًا؛ فقد يحقق أداءً مرتفعًا في المتوسط ومع ذلك يوزع الأخطاء أو المنافع بصورة غير عادلة، أو يجمع بيانات أكثر مما يلزم، أو يصعب الاعتراض على قراراته، أو ينقل مسؤولية القرار إلى سلسلة غامضة من المطورين والمؤسسات والمستخدمين. لهذا تهتم أخلاقيات الذكاء الاصطناعي بالسؤال عن القيم والحقوق والمسؤوليات التي ينبغي أن توجه تصميم النظم وتطويرها ونشرها واستخدامها ومراقبتها وإيقافها.

يتعامل هذا المقرر مع الأخلاق بوصفها ممارسة تحليلية وليست قائمة شعارات. ستفحص حالات واقعية ونتائج بحثية وأمثلة تنظيمية، وستتعلم كيف تميز بين مفاهيم مثل الإنصاف والتحيز والمساءلة والشفافية والقابلية للشرح والخصوصية والإشراف البشري. كما ستناقش كيف تتغير الأحكام الأخلاقية باختلاف مجال الاستخدام ودرجة الخطر والسياق الثقافي والمؤسسي، مع الحفاظ على حقوق الإنسان والكرامة وعدم التمييز.

صورة تجريدية تذكّر بأن الذكاء الاصطناعي نظام تقني اجتماعي يتفاعل مع البشر والمؤسسات.

تحميل الفيديو

يوتيوب

قد يقوم يوتيوب بجمع البيانات الشخصية. سياسة الخصوصية

استمرار تجاهل

أهداف التعلم

1. أن تشرح لماذا تعد أخلاقيات الذكاء الاصطناعي مجالًا تقنيًا واجتماعيًا وقانونيًا في الوقت نفسه.
2. أن تميز بين مصادر التحيز في صياغة المشكلة والبيانات والنموذج والنشر والاستخدام.
3. أن تقارن بين تعريفات مختلفة للإنصاف وتفسر لماذا قد تتعارض بعض مقاييسه في الممارسة.
4. أن تحلل المسؤوليات المتوزعة بين مطوري النظام ومورديه والجهة الناشرة والمستخدم البشري وصانع السياسة.
5. أن تفرق بين الشفافية والقابلية للشرح وقابلية التتبع وحق المتضرر في الاعتراض.
6. أن تقيم مخاطر الخصوصية عبر دورة حياة البيانات وتطبق مبدأ تقليل البيانات والخصوصية منذ التصميم.
7. أن تصمم صورة مناسبة للإشراف البشري تتناسب مع خطورة القرار وسياقه.
8. أن تناقش أثر اللغة والثقافة والبنية المؤسسية وعدم تكافؤ الموارد في تقييم نظم الذكاء الاصطناعي.
9. أن تستخدم أطرًا دولية لإدارة المخاطر والذكاء الاصطناعي المسؤول في دراسة حالة تطبيقية.

لماذا الأخلاق جزء من هندسة الذكاء الاصطناعي؟

الذكاء الاصطناعي ليس مجرد نموذج رياضي. هو نظام تقني اجتماعي يشمل تعريف المشكلة، واختيار البيانات، وبنية النموذج، ومعايير النجاح، وواجهة الاستخدام، وإجراءات المؤسسة، والحوافز الاقتصادية، والقوانين، وخبرات الأشخاص المتأثرين. لذلك يمكن لقرار يبدو تقنيًا، مثل اختيار المتغير الذي يتنبأ به النموذج، أن يحمل أثرًا أخلاقيًا كبيرًا.

فإذا صمم فريق نظامًا لتحديد المرضى الأكثر احتياجًا للرعاية واستخدم تكلفة العلاج بوصفها مؤشرًا للحاجة الصحية، فقد يبدو ذلك عمليًا لأن التكلفة رقم متاح. لكن دراسة منشورة في مجلة علمية عام 2019 بينت أن خوارزمية واسعة الاستخدام في إدارة صحة السكان أظهرت تحيزًا عرقيًا مهمًا؛ لأن الإنفاق الصحي لم يكن بديلًا محايدًا عن شدة المرض. عند الدرجة نفسها كان المرضى السود أكثر مرضًا من المرضى البيض، وأظهر تحليل الباحثين أن معالجة هذا التحيز كانت سترفع نسبة المرضى السود المؤهلين لمساعدة إضافية من 17.7 في المئة إلى 46.5 في المئة. الدرس الأخلاقي هنا هو أن اختيار الهدف أو المؤشر البديل يمكن أن يعيد إنتاج تفاوتات اجتماعية حتى إذا كان النموذج نفسه مضبوطًا إحصائيًا.

من المفيد لذلك أن تسأل في بداية أي مشروع: ما المشكلة التي نحاول حلها؟ من صاغها؟ من يستفيد من الحل؟ من قد يتحمل الضرر؟ ما البدائل غير المعتمدة على الذكاء الاصطناعي؟ وهل يمكن تحقيق الهدف بوسيلة أقل تدخلًا وأكثر قابلية للمساءلة؟

= دورة حياة أخلاقية

يمكنك فحص الأخلاق عبر مراحل مترابطة: تحديد الغاية، جمع البيانات، التطوير والتدريب، الاختبار، النشر، الاستخدام البشري، المراقبة، ثم التحديث أو الإيقاف. الخطر لا ينتهي عند إطلاق النموذج؛ فقد يتغير السكان أو السلوك أو البيئة التنظيمية، وقد تتحول أداة مساعدة إلى أداة تقرير نهائي بسبب ضغط الوقت أو الثقة الزائدة في الأتمتة. لهذا يحتاج الذكاء الاصطناعي المسؤول إلى مراقبة مستمرة، وتوثيق واضح، ومسارات للتصحيح والتظلم.

رمز للتعلم الآلي؛ الأخلاق ترتبط بكل مرحلة من مراحل بناء النظام واستخدامه، لا بالخوارزمية وحدها.

الإنصاف والتحيز: من المتوسط إلى الفئات المتقاطعة

التحيز في سياق الذكاء الاصطناعي قد يعني انحرافًا منهجيًا في البيانات أو التصميم أو القياس أو الاستخدام يؤدي إلى نتائج غير مرغوبة أو غير عادلة. ولا يعني وجود فرق عددي بين مجموعتين تلقائيًا أن هناك ظلمًا؛ بل يجب فهم سبب الفرق وسياق القرار وحقوق الأشخاص والآثار الواقعية.

توجد مصادر متعددة للتحيز. قد يكون تحيز التمثيل عندما لا تمثل بيانات التدريب السكان الذين سيستخدم لديهم النظام. وقد يكون تحيز القياس عندما يقاس المفهوم الحقيقي بمؤشر غير مناسب. وقد يظهر تحيز تاريخي عندما تعكس البيانات ممارسات تمييزية سابقة. ويمكن أن ينشأ تحيز النشر عندما يستخدم النظام في سياق مختلف عن السياق الذي اختبر فيه، أو حين يتحول اقتراح احتمالي إلى قرار إلزامي.

تقدم دراسة ظلال النوع الاجتماعي المنشورة عام 2018 مثالًا بارزًا على أهمية التحليل المتقاطع. اختبر الباحثان جوي بولامويني وتيمنيت غبرو ثلاثة أنظمة تجارية لتصنيف النوع الاجتماعي من الوجه، فوجدت الدراسة أن النساء ذوات البشرة الداكنة كن الفئة الأعلى خطأ، بمعدلات وصلت إلى 34.7 في المئة، بينما بلغ الحد الأقصى للخطأ لدى الرجال ذوي البشرة الفاتحة 0.8 في المئة. المغزى ليس تعميم هذه الأرقام على كل نظام لاحق، بل إظهار أن المتوسط العام قد يخفي تفاوتًا حادًا بين مجموعات متقاطعة.

الإنصاف لا يعني دائمًا معاملة الجميع بالطريقة نفسها؛ بل يتطلب تحديد ما الذي يجب أن يكون متساويًا ولماذا.

= معضلة تعريف الإنصاف

قد يركز فريق على تكافؤ معدلات الخطأ، بينما يركز آخر على تكافؤ فرص الحصول على منفعة، أو على المعاملة المتساوية للحالات المتشابهة. في بعض البيئات لا يمكن تحقيق جميع مقاييس الإنصاف الإحصائي في الوقت نفسه إذا اختلفت المعدلات الأساسية بين المجموعات. لذلك لا توجد معادلة واحدة تحسم السؤال الأخلاقي. ينبغي اختيار المقياس بالاستناد إلى غرض النظام، وشدة الضرر، والقانون، وآراء المتأثرين، والبدائل المتاحة.

حالة للنقاش: جامعة تستخدم نموذجًا للتنبؤ بخطر الانقطاع عن الدراسة. إذا كان النموذج أقل دقة للطلاب الذين يدرسون بلغة ثانية، فهل الأفضل إيقافه، أم تحسين البيانات، أم استخدامه فقط لتقديم دعم اختياري لا لعقوبة؟ الإجابة الأخلاقية تعتمد على نوع التدخل، وقابلية الخطأ للتصحيح، واحترام استقلال الطالب، وإمكان الاعتراض، وعدم تحويل التنبؤ إلى وصمة.

الشفافية والقابلية للشرح والمساءلة

الشفافية مفهوم واسع يشمل الإفصاح عن وجود النظام، وغرضه، والجهة المسؤولة عنه، ونوع البيانات المستخدمة، وحدوده، وإجراءات الاختبار والمراقبة. أما القابلية للشرح فتركز على توفير تفسير مفيد لكيفية الوصول إلى مخرج أو توصية، على مستوى يناسب الجمهور. وقد يحتاج المهندس إلى تفسير تقني، بينما يحتاج المتقدم للحصول على قرض إلى سبب مفهوم يمكنه على أساسه تصحيح معلومة أو الاعتراض على قرار.

لا تكفي الشفافية وحدها. نشر آلاف الصفحات من الوثائق التقنية قد لا يمنح الشخص المتأثر قدرة حقيقية على الفهم. لذلك يجب أن تكون المعلومات مناسبة للسياق وقابلة للاستخدام. وتساعد أدوات مثل بطاقات النماذج على توثيق حالات الاستخدام المقصودة، والقيود، ونتائج الأداء عبر مجموعات مختلفة، وأساليب التقييم. كما تساعد سجلات القرارات والبيانات الوصفية على قابلية التتبع والتحقيق بعد وقوع مشكلة.

المساءلة تعني وجود أشخاص ومؤسسات يمكن سؤالهم عن النتائج، ولديهم سلطة وقدرة على تصحيحها. لا ينبغي استخدام عبارة أن الخوارزمية قررت لتجنب المسؤولية. في نظام جامعي مثلًا قد تتوزع الأدوار بين مزود التقنية، وإدارة الجامعة، وفريق البيانات، والموظف الذي يستخدم المخرج، ولجنة مستقلة للمراجعة. التصميم المسؤول يحدد هذه الأدوار قبل وقوع الضرر، ويضع آليات للتدقيق والإبلاغ والتظلم والإصلاح.

= مسألة قابلة للجدل: الدقة أم القابلية للشرح؟

قد يختار فريق نموذجًا أكثر تعقيدًا لأنه يحقق دقة أعلى قليلًا، بينما يكون نموذج أبسط أسهل في التفسير. لا توجد إجابة واحدة لكل المجالات. في قرار منخفض المخاطر قد تكون الزيادة في الأداء ذات قيمة أكبر، بينما في قرار يهدد حقًا أساسيًا قد تصبح قابلية الفهم والمراجعة والاعتراض ضرورية. كما أن المقارنة ليست دائمًا ثنائية؛ يمكن تحسين الوثائق والاختبارات وواجهات الشرح حتى مع النماذج المعقدة.

الخصوصية وحوكمة البيانات

الخصوصية ليست مجرد إخفاء الاسم. قد تسمح مجموعات من السمات بإعادة التعرف على شخص، وقد تكشف الاستدلالات الخوارزمية معلومات لم يصرح بها صراحة. لذلك ينبغي فحص دورة حياة البيانات كاملة: ما الذي يجمع؟ ولأي غرض؟ ومن يمكنه الوصول؟ وكم يحتفظ به؟ وهل يمكن استخدامه لاحقًا لغرض مختلف؟ وهل توجد قواعد للحذف والتصحيح والنقل والمشاركة؟

Fehler beim Erstellen des Vorschaubildes:

الخصوصية تتطلب حوكمة للبيانات وتقليلًا للجمع وحماية عبر دورة الحياة.

من المبادئ المهمة تقليل البيانات: جمع ما يلزم فقط لتحقيق غرض مشروع ومحدد. كما يعني الخصوصية منذ التصميم إدماج الحماية في بنية النظام منذ البداية بدل إضافتها بعد وقوع مشكلة. وتشمل الممارسات الملائمة تحديد مدد الاحتفاظ، وضبط الصلاحيات، والتشفير، واختبار مخاطر إعادة التعرف، وتقييم الحاجة إلى البيانات الحساسة، وتوثيق الأساس القانوني أو المؤسسي لمعالجتها.

حالة للنقاش: يريد مقرر جامعي استخدام أداة توليدية لتحليل مسودات الطلاب واقتراح تحسينات. قبل الإرسال إلى خدمة خارجية يجب سؤال من يملك النصوص، وهل تحتوي بيانات شخصية أو أفكارًا غير منشورة، وهل ستستخدم المدخلات للتدريب، وهل يستطيع الطالب اختيار بديل، وما مدة الاحتفاظ، وكيف يتعامل النظام مع طلب الحذف. القرار الأخلاقي هنا يجمع بين الفائدة التعليمية والاستقلال والخصوصية والعدالة في الوصول.

تحميل الفيديو

يوتيوب

قد يقوم يوتيوب بجمع البيانات الشخصية. سياسة الخصوصية

استمرار تجاهل

الإشراف البشري والاستقلال والمسؤولية المهنية

يستخدم مصطلح الإشراف البشري لوصف قدرة أشخاص مؤهلين على فهم دور النظام ومراقبته والتدخل عند الحاجة. لكن وجود إنسان في العملية لا يضمن سلامة القرار. إذا كان الموظف يوافق آليًا على كل توصية بسبب ضغط الوقت أو لأن الواجهة توحي بثقة زائفة، يصبح الإشراف شكليًا.

الإشراف الفعال يحتاج إلى معرفة حدود النظام، ووقت كاف للمراجعة، وسلطة فعلية لتجاوز التوصية، وتدريب مناسب، ومعلومات عن درجة عدم اليقين، وإجراءات للتصعيد عند الحالات غير المألوفة. وكلما ارتفعت المخاطر على الصحة أو الحرية أو التعليم أو العمل، زادت أهمية تحديد من يقرر نهائيًا ومن يتحمل المسؤولية.

يمكن تصور ثلاث درجات عامة: نظام يقترح ويقرر الإنسان، ونظام ينفذ مع مراقبة بشرية وقدرة على الإيقاف، ونظام يعمل باستقلال واسع مع مراجعة لاحقة. اختيار الدرجة ليس مسألة تقنية فقط؛ بل قرار أخلاقي وتنظيمي مرتبط بخطورة الضرر وإمكان عكس القرار وحقوق المتأثرين.

الثقافة والسياق والتنوع

تسعى الأخلاقيات إلى مبادئ يمكن الدفاع عنها عبر السياقات، لكنها لا تعمل في فراغ ثقافي. قد يختلف معنى البيانات الحساسة، وتوقعات الخصوصية، وأشكال السلطة المؤسسية، واللغة المستخدمة في التفسير، ومستوى الثقة في الجهات العامة والخاصة. كما يمكن لنظام مدرب أساسًا على بيانات من لغة أو منطقة معينة أن يؤدي بصورة أضعف مع العربية أو لهجاتها أو الأسماء المحلية أو أنماط التعبير المختلفة.

لا يعني احترام السياق الثقافي قبول أي ممارسة لمجرد أنها شائعة محليًا. حقوق الإنسان والكرامة وعدم التمييز تضع حدودًا معيارية مهمة. وفي الوقت نفسه، لا ينبغي افتراض أن معيارًا تقنيًا طور في بيئة واحدة مناسب تلقائيًا لكل المجتمعات. لذلك تدعو الحوكمة المسؤولة إلى إشراك أصحاب المصلحة محليًا، بما في ذلك الفئات الأقل تمثيلًا، واختبار الأداء في السياق الفعلي، وتوفير معلومات بلغة مفهومة، ودراسة أثر النظام في توزيع القوة والفرص.

مناظرة مركزية: هل يجب أن تكون معايير الذكاء الاصطناعي عالمية تمامًا أم محلية؟ المقاربة الأكثر قوة تجمع بين مبادئ أساسية مشتركة، مثل الكرامة والحقوق وعدم الإضرار، وبين آليات تطبيق تراعي اللغة والمؤسسات والقانون والاحتياجات المحلية، مع رفض استخدام الثقافة ذريعة للتمييز أو إسكات المتضررين.

أطر السياسات والذكاء الاصطناعي المسؤول

قدمت مؤسسات دولية ووطنية أطرًا تساعد على تحويل المبادئ إلى ممارسات. اعتمدت اليونسكو في عام 2021 توصية أخلاقيات الذكاء الاصطناعي بوصفها معيارًا عالميًا يركز على حقوق الإنسان والكرامة، ويشمل مبادئ مثل الإنصاف والخصوصية والشفافية والإشراف البشري، ومجالات عمل في البيانات والتعليم والبحث والصحة والثقافة والبيئة وغيرها.

اعتمدت منظمة التعاون والتنمية في الميدان الاقتصادي مبادئ للذكاء الاصطناعي عام 2019 وحدثتها عام 2024. وتؤكد هذه المبادئ القيم المتمحورة حول الإنسان، والإنصاف والخصوصية، والشفافية والقابلية للشرح، والمتانة والأمن والسلامة، والمساءلة.

أصدر المعهد الوطني الأمريكي للمعايير والتقنية الإصدار الأول من إطار إدارة مخاطر الذكاء الاصطناعي عام 2023 بوصفه إطارًا طوعيًا يساعد المؤسسات على إدارة مخاطر الذكاء الاصطناعي. يصف خصائص الثقة مثل الصلاحية والموثوقية، والسلامة، والأمن والقدرة على الصمود، والمساءلة والشفافية، والقابلية للشرح والتفسير، وتعزيز الخصوصية، والإنصاف مع إدارة التحيز الضار.

أما نظام الاتحاد الأوروبي للذكاء الاصطناعي الصادر عام 2024 فيستخدم نهجًا قائمًا على المخاطر، ويضع متطلبات خاصة للأنظمة عالية المخاطر، من بينها الشفافية المناسبة للمستخدمين المهنيين وتدابير الإشراف البشري. يوضح هذا المثال الفرق بين المبدأ الأخلاقي والالتزام القانوني: قد يتداخلان، لكن القانون يحدد واجبات قابلة للتنفيذ في نطاق قضائي معين، بينما تساعد الأخلاق على تقييم ما ينبغي فعله حتى عندما لا يغطي القانون كل حالة.

= من المبادئ إلى الممارسة

يمكنك استخدام دورة عمل مختصرة للذكاء الاصطناعي المسؤول. ابدأ بتحديد الغرض والضرر المحتمل، ثم خريطة أصحاب المصلحة، ثم تقييم جودة البيانات وتمثيلها، ثم اختيار مقاييس الأداء والإنصاف، ثم اختبار السيناريوهات المتطرفة والفئات الفرعية، ثم توثيق الحدود، ثم تصميم إشراف بشري ومسار اعتراض، ثم المراقبة بعد النشر. لا يعفي نجاح مرحلة واحدة من فشل أخرى.

من المفيد أيضًا إجراء تقييم أثر قبل النشر وعند التغييرات الكبيرة. يسأل التقييم عن الحقوق المتأثرة، والفئات الأكثر تعرضًا للضرر، واحتمال الخطأ وشدته، والبدائل، وتدابير التخفيف، وخطة المراقبة. في المشروعات الجامعية يمكن تبسيط هذه العملية في سجل أخلاقي يوضح القرارات والافتراضات والأدلة والشكوك.

نتائج بحثية وحالات للتفكير النقدي

الحالة الأولى: تحليل الوجه. أظهرت دراسة ظلال النوع الاجتماعي أن الفروق المتقاطعة في الأداء قد تكون كبيرة حتى عندما يبدو النظام جيدًا في المتوسط. السؤال العملي هو كيف نصمم بيانات اختبار وتمثيلًا للفئات يكشف هذه الفروق قبل النشر.

الحالة الثانية: الرعاية الصحية. أظهرت دراسة عام 2019 أن اختيار التكلفة بوصفها بديلًا عن الحاجة الصحية يمكن أن ينقل تفاوتات اجتماعية إلى نظام التنبؤ. السؤال هنا ليس فقط هل النموذج دقيق، بل هل الهدف نفسه يقيس ما نريد أخلاقيًا وعمليًا.

الحالة الثالثة: التعليم العالي. إذا استخدمت جامعة نموذجًا لترتيب طلبات القبول أو المنح، فيجب أن تسأل عن تاريخ البيانات، وتمثيل المدارس والمناطق واللغات، وإمكان وجود متغيرات تعمل بدائل غير مباشرة لخصائص محمية، ومدى وضوح معايير القرار، وحق الطالب في التصحيح والاعتراض.

الحالة الرابعة: الذكاء الاصطناعي التوليدي. يمكن أن تزيد أدوات التوليد من الإنتاجية والوصول، لكنها قد تنتج معلومات غير صحيحة أو محتوى نمطيًا أو تكشف بيانات حساسة أو تؤثر في النزاهة الأكاديمية. الاستخدام المسؤول يتطلب تحققًا من المخرجات، وإفصاحًا مناسبًا، وسياسة واضحة للاستخدام، وحماية للبيانات، وعدم إسناد قرار عالي المخاطر إلى مخرج توليدي غير متحقق منه.

= مصادر وقراءات موثوقة

يمكنك التوسع عبر توصية اليونسكو لأخلاقيات الذكاء الاصطناعي، ومبادئ منظمة التعاون والتنمية في الميدان الاقتصادي، وإطار إدارة مخاطر الذكاء الاصطناعي، والنص الرسمي لنظام الاتحاد الأوروبي للذكاء الاصطناعي، ودراسة ظلال النوع الاجتماعي، ودراسة التحيز في خوارزمية إدارة صحة السكان.

مهام تفاعلية

اختبار: اختبر معرفتك

ما الوصف الأدق لأخلاقيات الذكاء الاصطناعي في هذا المقرر؟ (تقييم معياري وتقني اجتماعي لآثار نظم الذكاء الاصطناعي عبر دورة حياتها) (!تحسين سرعة الخوارزمية فقط) (!منع استخدام الذكاء الاصطناعي في جميع المجالات) (!استبدال القانون بقرارات المهندسين)

ما الدرس الأساسي من دراسة خوارزمية إدارة صحة السكان؟ (قد يسبب اختيار مؤشر بديل غير مناسب تحيزًا حتى لو بدا النموذج دقيقًا) (!كل نموذج صحي متحيز بالضرورة) (!زيادة البيانات تلغي التفاوتات تلقائيًا) (!لا علاقة لتصميم الهدف بالإنصاف)

ماذا أظهرت دراسة ظلال النوع الاجتماعي؟ (أن المتوسط العام قد يخفي فروق أداء كبيرة بين مجموعات متقاطعة) (!أن جميع أنظمة تحليل الوجه متساوية في الخطأ) (!أن لون البشرة لا يؤثر في تقييم الأداء) (!أن الاختبار على مجموعة واحدة يكفي لكل السكان)

ما الفرق الأقرب بين الشفافية والقابلية للشرح؟ (الشفافية أوسع وتشمل معلومات عن النظام بينما يركز الشرح على فهم مخرج أو منطق مناسب للسياق) (!الشفافية تعني نشر الشيفرة فقط والشرح يعني إخفاءها) (!المفهومان متطابقان دائمًا) (!الشرح مطلوب للمهندسين فقط)

ما الذي يجعل المساءلة فعالة؟ (تحديد جهات مسؤولة تملك سلطة التحقيق والتصحيح والاستجابة للمتضررين) (!ترك القرار للنظام لأنه أكثر موضوعية) (!إخفاء سجلات التشغيل لتقليل المخاطر) (!توزيع المسؤولية بحيث لا يملك أحد قرارًا نهائيًا)

ما المقصود بتقليل البيانات؟ (جمع البيانات الضرورية فقط لغرض مشروع ومحدد) (!جمع كل البيانات المتاحة لاستخدامها مستقبلًا) (!حذف أسماء الأشخاص مع الاحتفاظ بكل السمات) (!منع أي معالجة رقمية للبيانات)

متى يكون الإشراف البشري ذا معنى؟ (عندما يفهم المشرف حدود النظام ويملك وقتًا وسلطة فعلية للتدخل) (!عندما يوافق المشرف على كل مخرج تلقائيًا) (!عندما يمنع المشرف أي تحديث للنظام) (!عندما لا يعرف المشرف درجة عدم اليقين)

كيف ينبغي التعامل مع السياق الثقافي؟ (تطبيق مبادئ الحقوق والكرامة مع اختبار محلي ومشاركة أصحاب المصلحة) (!اعتبار أي ممارسة محلية صحيحة أخلاقيًا) (!استخدام معيار تقني واحد دون اختبار محلي) (!إهمال اللغة لأن النماذج تعمل بالطريقة نفسها في كل مكان)

ما الذي يميز توصية اليونسكو لأخلاقيات الذكاء الاصطناعي؟ (تربط حقوق الإنسان والكرامة بمبادئ ومجالات عمل قابلة للتطبيق في السياسات) (!تركز على دقة النماذج التجارية فقط) (!تقتصر على قطاع التعليم العالي) (!تلغي الحاجة إلى الحوكمة الوطنية)

ما الممارسة الأقرب إلى الذكاء الاصطناعي المسؤول؟ (إدارة المخاطر والتوثيق والاختبار والمراقبة عبر دورة الحياة) (!اختبار النموذج مرة واحدة قبل الإطلاق فقط) (!إخفاء القيود حتى لا يفقد المستخدمون الثقة) (!قياس الأداء المتوسط دون فئات فرعية)

لعبة الذاكرة

الإنصاف	تقييم توزيع المنافع والأخطاء والفرص بطريقة يمكن تبريرها أخلاقيًا
الشفافية	إتاحة معلومات مفيدة عن وجود النظام وغرضه وحدوده ومسؤولياته
المساءلة	قابلية إسناد المسؤولية وطلب التفسير والتحقيق والتصحيح
الخصوصية	حماية الأفراد في جمع بياناتهم واستخدامها واستنتاج المعلومات عنهم
الإشراف البشري	قدرة أشخاص مؤهلين على مراقبة النظام والتدخل فيه عند الحاجة
قابلية التتبع	الاحتفاظ بمعلومات وسجلات تسمح بفهم مسار البيانات والقرارات

السحب والإفلات

صل كل خطر بالممارسة الأكثر ملاءمة لمعالجته.	أخلاقيات الذكاء الاصطناعي
نقص تمثيل فئة في بيانات الاختبار	توسيع العينة وتحليل الأداء حسب الفئات الفرعية
جمع بيانات أكثر من الحاجة	تطبيق تقليل البيانات وتحديد الغرض
قرار غير قابل للاعتراض	إنشاء مسار مراجعة وتظلم بشري
غموض الجهة المسؤولة	تحديد أدوار المساءلة وسلطة التصحيح
استخدام النموذج خارج سياقه	توثيق حدود الاستخدام ومراقبة النشر
اعتماد أعمى على التوصية	تدريب المشرف ومنحه وقتًا وسلطة للتجاوز

كلمات متقاطعة

الإنصاف	ما المفهوم الذي يدرس عدالة توزيع الفرص والأخطاء والمنافع؟
الشفافية	ما المبدأ الذي يطلب معلومات مفيدة عن النظام وغرضه وحدوده؟
الخصوصية	ما الحق الذي يتعلق بحماية البيانات الشخصية والتحكم في استخدامها؟
المساءلة	ما المفهوم الذي يربط النتائج بجهات يمكن سؤالها وتصحيح قراراتها؟
التحيز	ما المصطلح الذي يصف انحرافًا منهجيًا قد يؤدي إلى نتائج غير عادلة؟
الإشراف	ما العملية التي تتيح للإنسان مراقبة النظام والتدخل عند الحاجة؟

مهام مفتوحة

سهل

1. خريطة أصحاب المصلحة: اختر تطبيقًا جامعيًا للذكاء الاصطناعي وارسم خريطة تبين المستخدمين والمتأثرين والجهات المسؤولة، ثم اكتب خطرًا وفائدة لكل فئة.
2. يوميات الشفافية: استخدم أداة ذكاء اصطناعي مسموحًا بها في بيئتك التعليمية وسجل ما الذي توضحه لك عن البيانات والقيود والغرض، وما المعلومات التي ما زلت تحتاجها لاتخاذ قرار واع.
3. تحليل خبر أخلاقي: اختر خبرًا موثوقًا عن استخدام الذكاء الاصطناعي ولخص القضية في فقرة تميز بين المشكلة التقنية والمشكلة الأخلاقية من دون مشاركة بيانات شخصية.
4. ملصق الخصوصية: صمم صورة أو ملصقًا قصيرًا يشرح مبدأ تقليل البيانات لطلاب الجامعة باستخدام مثال يومي واضح.

متوسط

1. تدقيق إنصاف مصغر: أنشئ مجموعة بيانات اصطناعية صغيرة أو استخدم بيانات عامة غير شخصية، وقارن معدل الخطأ بين مجموعتين، ثم ناقش حدود النتيجة وما لا يمكن استنتاجه منها.
2. مناظرة القابلية للشرح: نظم مناظرة صفية حول اختيار نموذج أكثر دقة لكنه أصعب تفسيرًا في قرار عالي المخاطر، مع فريقين يقدمان أدلة ثم صياغة حل وسط مشترك.
3. مقابلة مهنية: أجر مقابلة مع عضو هيئة تدريس أو مختص تقني أو مسؤول حوكمة حول مسؤولية الإنسان عند استخدام الذكاء الاصطناعي، بعد أخذ الموافقة، ثم لخص الأفكار من دون نشر معلومات تعريفية غير لازمة.
4. بطاقة نموذج: اكتب بطاقة نموذج تعليمية لنظام افتراضي توضح الغرض والاستخدامات غير المناسبة والبيانات العامة ومقاييس الأداء والقيود والفئات التي تحتاج اختبارًا إضافيًا.

متقدم

1. تقييم أثر أخلاقي: نفذ تقييم أثر لنظام افتراضي يقرر أولوية المنح الجامعية، وحدد الحقوق والمخاطر والفئات المتأثرة والبدائل وتدابير التخفيف وخطة المراقبة.
2. مقارنة أطر الحوكمة: قارن توصية اليونسكو ومبادئ منظمة التعاون والتنمية وإطار إدارة المخاطر ونظام الاتحاد الأوروبي في جدول تحليلي يبين نقاط الالتقاء والاختلاف بين الأخلاق والإدارة والتنظيم.
3. تجربة تدخل بشري: صمم تجربة آمنة بمحاكاة قرارات منخفضة المخاطر تقارن أداء المشاركين قبل عرض توصية خوارزمية وبعدها، واختبر احتمال التحيز نحو الأتمتة من دون جمع بيانات حساسة.
4. مشروع ذكاء اصطناعي مسؤول: أنشئ عرضًا أو فيديو قصيرًا يقترح نظامًا يخدم مشكلة اجتماعية أو تعليمية، واشرح لماذا يحتاج الذكاء الاصطناعي أصلًا، وكيف ستدير الإنصاف والخصوصية والشفافية والمساءلة والإشراف والسياق الثقافي عبر دورة الحياة.

مجالات تعلم مرتبطة

أخلاقيات الذكاء الاصطناعي مبادئ الذكاء الاصطناعي أخلاقيات البيانات الخصوصية وحماية البيانات حقوق الإنسان والتقنية التعلم الآلي وتقييم النماذج حوكمة الذكاء الاصطناعي الأمن والسلامة الرقمية الفلسفة الأخلاقية واتخاذ القرار

مسرد

المصطلح	التعريف
أخلاقيات الذكاء الاصطناعي	تفكير معياري وممارسة حوكمة لتقييم آثار نظم الذكاء الاصطناعي وتوجيهها بصورة مسؤولة.
الإنصاف	تقييم عدالة توزيع المنافع والفرص والأخطاء والعبء بين الأفراد والمجموعات وفق سياق مبرر.
التحيز	انحراف منهجي في البيانات أو القياس أو التصميم أو الاستخدام قد ينتج نتائج غير مرغوبة أو غير عادلة.
المساءلة	وجود جهات محددة يمكن مطالبتها بالتفسير والتحقيق والتصحيح وتحمل تبعات القرارات.
الشفافية	توفير معلومات مناسبة ومفهومة عن وجود النظام وغرضه وبياناته العامة وحدوده وأدوار المسؤولية.
القابلية للشرح	قدرة النظام أو الجهة المشغلة على تقديم تفسير مفيد لمخرج أو منطق بما يناسب الجمهور والسياق.
الخصوصية	حماية الأشخاص من الجمع أو الاستخدام أو الاستدلال غير الملائم لبياناتهم، وتمكينهم من حقوق مناسبة عليها.
تقليل البيانات	حصر الجمع والمعالجة في البيانات الضرورية لتحقيق غرض محدد ومشروع.
الإشراف البشري	ترتيبات تمكّن أشخاصًا مؤهلين من مراقبة النظام وفهم حدوده والتدخل أو الإيقاف عند الحاجة.
قابلية التتبع	القدرة على تتبع البيانات والعمليات والإصدارات والسجلات اللازمة لتحليل المخرجات والتحقيق في المشكلات.
تقييم الأثر	عملية منظمة لتحديد المنافع والمخاطر والحقوق المتأثرة والبدائل وتدابير التخفيف قبل النشر وخلاله.
الذكاء الاصطناعي المسؤول	ممارسات تصميم وتطوير ونشر ومراقبة تربط الأداء التقني بالحقوق والسلامة والإنصاف والحوكمة عبر دورة الحياة.