Arabic:الذكاء الاصطناعي التوليدي
الذكاء الاصطناعي التوليدي
مقدمة
الذكاء الاصطناعي التوليدي هو فرع من الذكاء الاصطناعي يركّز على أنظمة تتعلم أنماطًا من بيانات كثيرة ثم تنتج محتوى جديدًا مثل النصوص والصور والصوت والبرمجيات. لا يعني وصف النظام بأنه «توليدي» أنه يفهم العالم بالطريقة البشرية أو أنه يضمن صحة ما ينتجه؛ بل يعني أن النموذج يتعلم تمثيلات واحتمالات تسمح له بإنشاء مخرجات جديدة تشبه الأنماط التي تعلّمها.
في هذا المقرر الجامعي ستتعلم كيف تعمل نماذج اللغة الكبيرة، وكيف تولّد أنظمة الصور محتوى بصريًا، وكيف تصوغ مطالبات أكثر دقة، وكيف يربط التوليد المعزّز بالاسترجاع بين النموذج ومصادر خارجية. وستتدرب أيضًا على تقييم المخرجات، وكشف الهلوسة، وإدارة مخاطر حقوق النشر والخصوصية، وبناء ممارسات مسؤولة للاستخدام المهني والأكاديمي.
لا يشترط هذا المقرر خبرة متقدمة في البرمجة، لكن يفيد أن تكون لديك معرفة أولية بمفاهيم تعلم الآلة والاحتمالات والبحث الأكاديمي. عندما تظهر مصطلحات مثل «رمز» و«متجه تضمين» و«انتباه ذاتي» سنشرحها ضمن السياق.
أهداف التعلم
بعد إكمال المقرر، يُتوقع أن تكون قادرًا على:
- شرح الفكرة العامة للذكاء الاصطناعي التوليدي والتمييز بين التدريب والاستدلال.
- تفسير الدور الأساسي لبنية المحول والانتباه في نماذج اللغة الكبيرة.
- وصف المبدأ العام لأنظمة توليد الصور، ولا سيما نماذج الانتشار.
- صياغة مطالبات واضحة تحدد الهدف والسياق والقيود وشكل المخرج.
- شرح مراحل التوليد المعزّز بالاسترجاع ومتى يكون مناسبًا.
- تصميم خطة تقييم تجمع بين مقاييس كمية وفحص بشري ومعايير مرتبطة بالمهمة.
- التعرف إلى الهلوسة والمبالغة في الثقة ومشكلات الإسناد، واقتراح وسائل للتخفيف منها.
- تحليل قضايا حقوق النشر والخصوصية والشفافية والمسؤولية المهنية في استخدام الأنظمة التوليدية.
- توثيق دور الذكاء الاصطناعي في العمل الأكاديمي أو المهني عندما تتطلب السياسة أو النزاهة ذلك.
من النمذجة التنبؤية إلى التوليد
ما الذي يتعلمه النموذج التوليدي؟
في تعلم الآلة التقليدي قد يكون الهدف تصنيف رسالة إلى «مزعجة» أو «غير مزعجة»، أو توقع قيمة عددية. أما النموذج التوليدي فيتعلم بنية توزيع البيانات بحيث يستطيع أخذ مدخل ثم إنشاء مخرج جديد. في نموذج لغوي مثلًا، يحاول النظام تقدير أي رمز لغوي يُرجّح أن يأتي بعد الرموز السابقة. وعند تكرار هذه العملية خطوة بعد خطوة يتكوّن نص طويل.
الرمز هو وحدة يعالجها النموذج، وقد تكون كلمة كاملة أو جزءًا من كلمة أو علامة ترقيم. لا يرى النموذج الجملة كما يراها القارئ، بل يحول الرموز إلى متجهات عددية تسمى تضمينات. هذه المتجهات تمثل علاقات إحصائية ودلالية متعلمة، ثم تمر عبر طبقات الشبكة العصبية لإنتاج احتمالات للرمز التالي.
يجب التمييز بين مرحلتين. التدريب هو تعديل أوزان النموذج باستخدام بيانات وأهداف تعلم وحسابات مكثفة. أما الاستدلال فهو استخدام نموذج مدرَّب لإنتاج مخرج استجابة لمدخل جديد. قد تُطبّق على النموذج بعد التدريب تقنيات إضافية مثل الضبط بالتعليمات أو التعلم من التفضيلات البشرية، لكن ذلك لا يحول النموذج إلى قاعدة حقائق مضمونة.
عرض توضيحي: التوليد خطوة بخطوة
افترض أن نموذجًا مبسطًا تلقى العبارة «تعمل الجامعة على تحسين». يمكن أن يمنح احتمالات مرتفعة لكلمات مثل «التدريس» أو «البحث» أو «الخدمات». يختار النظام رمزًا وفق طريقة فك الترميز، ثم يعيد الحساب للرمز التالي. إذا ضُبطت العشوائية بدرجة أعلى قد تزيد تنوعات المخرج، لكنها لا تعني تلقائيًا جودة أعلى أو حقيقة أكبر.
| العنصر | ما يحدث عمليًا | سؤال نقدي |
|---|---|---|
| المدخل | يُقسّم النص إلى رموز ويحوّل إلى تمثيلات عددية | هل يحمل المدخل سياقًا كافيًا للمهمة؟ |
| الاحتمالات | يقدّر النموذج احتمالات الرموز التالية | هل توجد بدائل متعددة معقولة؟ |
| فك الترميز | تُختار رموز متتابعة لبناء المخرج | هل نحتاج دقة ثابتة أم تنوعًا إبداعيًا؟ |
| المراجعة | يفحص الإنسان المخرج مقابل الهدف والمصادر | ما الدليل الذي يثبت صحة الادعاءات؟ |
نماذج اللغة الكبيرة وبنية المحول
الانتباه الذاتي
أصبحت بنية المحول أساسًا مهمًا لكثير من نماذج اللغة الحديثة. الفكرة المحورية هي آلية الانتباه التي تسمح للنموذج بحساب مدى ارتباط أجزاء مختلفة من السياق بعضها ببعض. عند معالجة جملة طويلة، لا يعتمد النظام فقط على الكلمة المجاورة؛ بل يبني علاقات بين الرموز داخل نافذة السياق.
في الانتباه الذاتي تُشتق تمثيلات تسمى عادة الاستعلامات والمفاتيح والقيم. تُقارن الاستعلامات بالمفاتيح لتحديد أوزان الانتباه، ثم تُجمع القيم وفق تلك الأوزان. يسمح تعدد رؤوس الانتباه للنموذج بتعلم أنماط مختلفة من العلاقات في الوقت نفسه. لا يلزمك في هذا المقرر اشتقاق كل المعادلات، لكن عليك فهم أن الانتباه عملية حسابية تتعلم علاقات السياق، وليس «انتباهًا واعيًا» بالمعنى النفسي.
الصورة السابقة تحتوي تسميات تقنية بالإنجليزية. اقرأها بوصفها مخططًا لتدفق البيانات: التضمينات والترميز الموضعي تدخلان إلى كتل متكررة، ويظهر داخلها انتباه متعدد الرؤوس وشبكات أمامية وتطبيع. في النماذج التي تولد نصًا رمزًا بعد رمز، يُستخدم قناع يمنع موضعًا من الاعتماد على رموز مستقبلية غير مولدة بعد.
من المحول إلى نموذج لغوي كبير
يتكون نموذج لغوي كبير من عدد ضخم من المعاملات المتعلمة وتدريب واسع على نصوص أو بيانات متعددة الأنماط. الحجم وحده ليس تعريفًا للجودة؛ فالأداء يتأثر ببنية النموذج وبيانات التدريب والمعالجة اللاحقة وأدوات النظام وسياسات الاستخدام.
يوضح المخطط كيف تنتقل المدخلات من التضمينات والترميز الموضعي إلى كتل المحول المتكررة ثم طبقة خطية وتوزيع احتمالات على الرموز. لا تستنتج من هذا المخطط أن كل نموذج تجاري يطابقه حرفيًا؛ فالتصميمات الحديثة تختلف في تفاصيلها.
حدود نماذج اللغة الكبيرة
تتعلم نماذج اللغة أنماطًا إحصائية قوية، لكنها قد تنتج نصًا مقنعًا دون أن يكون صحيحًا. كما أن المعرفة الموجودة في أوزان النموذج لا تُحدَّث تلقائيًا كلما تغير العالم، وقد تكون بيانات التدريب غير متوازنة أو ناقصة. لذا يُفضّل التعامل مع النموذج بوصفه أداة استدلال وتوليد مساعدة، لا مصدرًا نهائيًا للحقيقة.
من الأخطاء المفاهيمية الشائعة القول إن النموذج «يبحث في الإنترنت داخل ذاكرته» عند كل سؤال. في الاستدلال الأساسي لا يحدث ذلك. إذا كان النظام مزودًا بأداة بحث أو بآلية استرجاع خارجية فهذه مكوّنات إضافية يجب تمييزها عن النموذج نفسه.
أنظمة توليد الصور
الفكرة العامة لنماذج الانتشار
تنتج أنظمة الصور التوليدية صورًا جديدة من نص أو صورة مرجعية أو مدخلات أخرى. إحدى العائلات المهمة هي نماذج الانتشار. أثناء التدريب يتعلم النموذج عكس عملية إضافة ضوضاء تدريجية إلى البيانات. وعند التوليد يبدأ من ضوضاء أو تمثيل عشوائي ثم يزيل الضوضاء على خطوات، مع توجيه العملية بواسطة وصف نصي أو شروط أخرى.
الجزء الأمامي في المخطط ليس عملية إنشاء الصورة النهائية، بل طريقة لبناء مهمة تعلم. أثناء التوليد نستخدم العملية العكسية المتعلمة لتقليل الضوضاء تدريجيًا. في نماذج الانتشار الكامن تُجرى أجزاء كبيرة من العملية في فضاء تمثيل مضغوط بدل العمل على كل بكسل مباشرة.
عرض توضيحي: لماذا يتغير الناتج مع المطالبة؟
قارن بين مطالبتين لنظام توليد صور. الأولى: «أنشئ صورة لمختبر». الثانية: «أنشئ رسمًا توضيحيًا أكاديميًا لمختبر جامعي للطاقة المتجددة، منظور واسع، أجهزة قياس واضحة، ألوان هادئة، بلا شعارات أو نصوص داخل الصورة». الثانية تحدد الموضوع والأسلوب والقيود والعناصر المرغوبة، ولذلك تقل مساحة التخمين، لكنها لا تضمن خلو الصورة من أخطاء فيزيائية أو رموز غير منطقية.
في الاستخدام الأكاديمي لا تستخدم صورة مولدة لتوثيق تجربة لم تُجرَ أو لتقديم حدث خيالي على أنه واقعي. إذا كانت الصورة توضيحية أو تركيبية، فضع وصفًا واضحًا لطبيعتها وفق سياسة مؤسستك أو جهة النشر.
هندسة المطالبات
من السؤال الغامض إلى التكليف القابل للتقييم
المطالبة هي التعليمات والسياق والبيانات التي تقدمها للنظام. هندسة المطالبات ليست مجموعة «كلمات سحرية»، بل ممارسة لتقليل الغموض وتحديد معايير النجاح. المطالبة الجيدة تحدد المهمة والجمهور والسياق والقيود وشكل المخرج، وقد تطلب من النموذج التصريح بعدم اليقين أو الاستناد فقط إلى مصادر معطاة.
| مكوّن المطالبة | مثال أكاديمي | فائدته |
|---|---|---|
| الهدف | لخّص الحجة المركزية في هذا النص | يحدد العمل المطلوب |
| الجمهور | اكتب لطلاب سنة جامعية أولى | يضبط مستوى الشرح |
| السياق | استخدم المقتطفات المرفقة فقط | يحد من الاعتماد على معرفة غير موثقة |
| القيود | لا تضف أرقامًا أو مراجع غير موجودة | يقلل أنواعًا متوقعة من الأخطاء |
| شكل المخرج | جدول من أربعة أعمدة ثم فقرة نقدية | يسهل المقارنة والتقييم |
| معيار الجودة | ميّز بين الادعاء والدليل وعدم اليقين | يجعل المراجعة أكثر صراحة |
مثال ضعيف: «اكتب عن التغير المناخي.»
مثال أقوى: «اكتب تمهيدًا أكاديميًا من فقرتين لطلاب الهندسة يشرح الفرق بين التخفيف من تغير المناخ والتكيف معه. اعتمد فقط على النصين المرفقين، واشر بوضوح إلى أي نقطة لا يدعمانها، ثم اختم بسؤالين للنقاش.»
لاحظ أن المطالبة الأقوى لا تجعل النموذج معصومًا، لكنها تجعل المهمة قابلة للفحص وتقلل الغموض.
استراتيجيات عملية
يمكنك تحسين العمل على مراحل: اطلب مخططًا أوليًا، راجعه، ثم اطلب التوسيع. أعط أمثلة على الشكل المرغوب عندما يكون التنسيق معقدًا. في المهام التي تعتمد على مستندات، قدّم المستندات أو مقتطفات منها واطلب الاستشهاد بها بدل طلب إجابة عامة. وعندما تكون الدقة حاسمة، اطلب قائمة ادعاءات قابلة للتحقق وافحصها خارج النموذج.
لا تفترض أن مطالبة طويلة أفضل دائمًا. الإفراط في التعليمات قد يخلق تعارضات أو يخفي الهدف الأساسي. الأفضل أن تكون التعليمات واضحة ومرتبة وأن تختبرها على حالات متنوعة، بما في ذلك حالات صعبة أو ملتبسة.
التوليد المعزّز بالاسترجاع
لماذا نضيف الاسترجاع؟
التوليد المعزّز بالاسترجاع، ويختصر عادة RAG، هو نمط معماري يجمع بين استرجاع معلومات من مصادر خارجية وبين نموذج توليدي. بدل أن يعتمد النظام فقط على ما تعلمته أوزانه، يبحث أولًا في مجموعة وثائق أو قاعدة معرفة، ثم يضيف المقاطع الأكثر صلة إلى سياق المطالبة قبل التوليد.
تحتوي الصورة على تسميات إنجليزية، لكن التدفق الأساسي هو: سؤال المستخدم ← آلية استرجاع ← وثائق مرتبطة ← سياق مضاف إلى نموذج اللغة ← جواب. لا يضمن هذا التسلسل صحة الجواب؛ فقد تكون الوثائق غير مناسبة أو قد يسيء النموذج تلخيصها.
مراحل نظام RAG جامعي
يمكن تخيل مساعد لسياسة الجامعة يعمل وفق المراحل الآتية. أولًا تُجمع سياسات منشورة ومحدثة ومصرح باستخدامها. ثانيًا تُقسم الوثائق إلى مقاطع قابلة للاسترجاع. ثالثًا تُحوَّل المقاطع إلى تضمينات وتفهرس. رابعًا يتحول سؤال المستخدم إلى تمثيل بحثي ويسترجع النظام أكثر المقاطع صلة. خامسًا تُرسل المقاطع مع السؤال إلى النموذج مع تعليمات تلزمه بتمييز ما هو موجود في المصادر عما ليس موجودًا. سادسًا يظهر الجواب مع إحالات قابلة للمراجعة.
دراسة حالة: مساعد سياسات القبول. إذا سأل طالب عن آخر موعد لتقديم مستند ما، فإن نموذجًا عامًا قد يعطي موعدًا من الذاكرة أو يختلق تاريخًا. نظام RAG المصمم جيدًا يسترجع السياسة الحالية ويعرض الجواب مع المرجع. لكن إذا كانت قاعدة الوثائق قديمة فلن ينقذ الاسترجاع النظام؛ جودة المصدر وإدارته جزء من جودة الحل.
ما الذي نقيسه في RAG؟
يجب فصل جودة الاسترجاع عن جودة التوليد. اسأل أولًا: هل استُرجعت الوثيقة الصحيحة؟ ثم: هل نقل النموذج معناها بدقة؟ ثم: هل الإحالة تشير فعلًا إلى الدليل؟ مقاييس الاسترجاع مثل الدقة والاستدعاء أو ترتيب النتائج مفيدة، لكن المهمة النهائية قد تحتاج أيضًا تقييمًا بشريًا لجودة الإجابة وسلامتها.
التقييم والهلوسة
ما المقصود بالهلوسة؟
الهلوسة هي مخرج يبدو لغويًا أو بصريًا مقنعًا لكنه يتضمن معلومات مختلقة أو غير مدعومة أو تناقض المصدر المطلوب. قد تكون الهلوسة مرجعًا أكاديميًا غير موجود، أو رقمًا بلا دليل، أو نسبة قول إلى شخص لم يقله، أو تفسيرًا يضيف تفصيلًا غير موجود في الوثيقة.
الطلاقة ليست دليلًا على الحقيقة، ونبرة الثقة ليست مقياسًا لاحتمال الصحة. لذلك تحتاج المخرجات عالية الأثر إلى تحقق مستقل، خصوصًا في الطب والقانون والتمويل والسلامة والبحث العلمي.
خطة تقييم متعددة الأبعاد
لا يوجد مقياس واحد يكفي لكل تطبيق. ابدأ بتعريف المهمة ومعيار النجاح، ثم كوّن مجموعة اختبار تمثل الاستخدام الواقعي والحالات الحافة. افصل بين جودة المحتوى وجودة الأسلوب والسلامة والسرعة والكلفة حيث يلزم.
| البعد | سؤال التقييم | مثال على طريقة القياس |
|---|---|---|
| الصحة | هل الادعاءات صحيحة ومدعومة؟ | مقارنة بمصادر مرجعية موثوقة |
| الصلة | هل يجيب المخرج عن السؤال المطلوب؟ | تحكيم بشري وفق محك واضح |
| الإسناد | هل كل إحالة تدعم الجملة المرتبطة بها؟ | فحص يدوي لعينة من الإحالات |
| الاتساق | هل تتعارض أجزاء المخرج؟ | اختبارات حالات متعددة وتحليل تناقضات |
| السلامة | هل يتجنب المخرج كشف بيانات أو تقديم محتوى غير ملائم للسياق؟ | اختبارات مخاطر وحالات خصمية |
| المنفعة | هل يوفر قيمة للمستخدم في المهمة الواقعية؟ | دراسة استخدام وملاحظات خبراء |
يستفيد التقييم الجيد من بيانات اختبار لم تُستخدم في ضبط النظام، ومن معايير مكتوبة قبل رؤية النتائج قدر الإمكان. كما يجب تسجيل إصدار النموذج وإعدادات النظام والمطالبة ومصادر RAG، لأن تغيير أي منها قد يغير النتيجة.
استراتيجيات الحد من الهلوسة
يمكن تقليل الهلوسة، لا إلغاؤها، عبر تضييق المهمة وتوفير مصادر موثوقة ومحدثة، واستخدام RAG عندما تكون المعرفة الخارجية مهمة، وطلب الإسناد، والتحقق من الإحالات، وإضافة قواعد ترفض التخمين عندما يغيب الدليل. وفي الأنظمة المهنية يمكن إضافة مراجعة بشرية أو سير عمل موافقة قبل نشر المخرج.
لا يكفي أن تطلب من النموذج «لا تهلوس». يجب أن يكون النظام قادرًا على الوصول إلى أدلة، وأن تكون معايير الرفض والتحقق واضحة، وأن يُختبر على حالات لا تتوافر فيها إجابة.
حقوق النشر والخصوصية والمسؤولية
حقوق النشر والملكية الفكرية
يثير الذكاء الاصطناعي التوليدي أسئلة قانونية متعددة: المواد المستخدمة في التدريب، وحقوق المخرجات، واحتمال التشابه مع أعمال محمية، وتقليد الأسلوب أو الهوية، ومسؤولية المستخدم أو المؤسسة. تختلف القوانين والاستثناءات وقرارات المحاكم بين الدول، لذلك لا توجد قاعدة عالمية بسيطة من نوع «كل ما يولده الذكاء الاصطناعي حر الاستخدام» أو «كل استخدام محظور».
في العمل المهني اتبع سياسة المؤسسة وشروط الترخيص والقانون المحلي، ووثّق مصادر المواد التي تدخل النظام عندما يكون ذلك مطلوبًا. لا تطلب من أداة توليد أن تنسخ عملًا محميًا أو تزيل نسبته إلى صاحبه. وإذا كان المخرج يشبه مادة موجودة أو يستخدم شعارًا أو شخصية أو هوية شخص، فافحص المخاطر قبل النشر.
تشير دراسات رسمية حديثة في بعض الأنظمة القانونية إلى أن دور الإبداع البشري مهم في تقرير قابلية حماية الناتج، لكن هذه النتائج لا ينبغي تعميمها على كل دولة. في التعليم الجامعي، المهم عمليًا هو أن تميز بين حق المؤلف، والترخيص، والنزاهة الأكاديمية، وشروط المنصة؛ فهي مسائل مترابطة لكنها ليست شيئًا واحدًا.
الخصوصية وحماية البيانات
لا تُدخل بيانات شخصية حساسة أو أسرارًا مهنية أو مواد بحثية سرية في خدمة خارجية ما لم يكن لديك أساس قانوني وصلاحية واضحة وتفهم سياسة المعالجة والاحتفاظ. طبّق مبدأ تقليل البيانات: استخدم أقل قدر ممكن من المعلومات، وأزل المعرفات حين لا تكون ضرورية، وفكر في حلول مؤسسية أو محلية عندما تكون السرية مطلبًا أساسيًا.
دراسة حالة: تحليل مقابلات بحثية. لديك نصوص مقابلات تتضمن أسماء وأرقام هواتف ومعلومات صحية. إرسال النصوص كاملة إلى أداة عامة قد يخلق مخاطر خصوصية وأخلاق بحثية. البديل المسؤول هو مراجعة موافقات المشاركين وسياسة المؤسسة، ثم إزالة المعرفات أو استخدام بيئة معالجة معتمدة، وتسجيل خطوات الحماية، وعدم افتراض أن «حذف المحادثة» يعني بالضرورة عدم معالجة البيانات وفق شروط المزود.
الاستخدام المهني المسؤول
المسؤولية لا تنتقل إلى الأداة. إذا استخدمت مخرجًا في تقرير هندسي أو بحث أو سياسة أو تعليم، فأنت تحتاج إلى معرفة من يراجعه وما درجة الخطر وما مستوى الدليل المطلوب. أفضل سير عمل هو أن تحدد حدود التفويض للذكاء الاصطناعي: ما الذي يمكنه اقتراحه؟ ما الذي يتطلب تحققًا؟ ما الذي يحتاج موافقة إنسان؟ وما الذي يُمنع إسناده إلى النظام أصلًا؟
يمكن تلخيص ممارسة مسؤولة في ستة مبادئ: وضوح الغرض، تقليل البيانات، تحقق من الحقائق والمصادر، تقييم للانحياز والمخاطر، شفافية مناسبة عن دور الأداة، ومساءلة بشرية عن القرار النهائي. في التعليم العالي أضف الالتزام بسياسات النزاهة الأكاديمية والإفصاح عن استخدام الأدوات عندما تطلب الجامعة ذلك.
يعرض هذا التسجيل الجامعي مثالًا قطاعيًا على مناقشة الذكاء الاصطناعي التوليدي في الصحة. عند دراسة حالة صحية، ركز على الفرق بين دعم المختص واتخاذ القرار عنه، وعلى ضرورة حماية بيانات المرضى والتحقق السريري وعدم استخدام المخرجات العامة كبديل عن الخبرة المهنية.
سير عمل تطبيقي لمشروع جامعي
من الفكرة إلى نظام قابل للمراجعة
افترض أنك تبني مساعدًا لطلاب مقرر جامعي يجيب عن أسئلة المنهج من ملفات المحاضرات. ابدأ بتحديد نطاق الإجابات المسموح بها، ثم اجمع فقط المواد المرخصة والمعتمدة. أنشئ مجموعة أسئلة اختبار تشمل الأسئلة المباشرة والأسئلة التي لا توجد لها إجابة في الملفات. بعد ذلك اختبر نموذجًا أساسيًا ثم نسخة تستخدم RAG. قارن بينهما في صحة الإجابة، وجودة الإسناد، والقدرة على قول «لا أجد ذلك في المواد» عندما يغيب الدليل.
وثّق كل تجربة في جدول يتضمن إصدار النظام والمطالبة ومصادر الاسترجاع وبيانات الاختبار والنتيجة والملاحظات. هذه الممارسة تحول «الانطباع» إلى تجربة قابلة للمقارنة، وتساعد على اكتشاف التحسن الحقيقي بدل الاكتفاء بأمثلة منتقاة.
قائمة فحص قبل اعتماد مخرج توليدي
- تحقق من أن المهمة مناسبة أصلًا للأتمتة أو المساعدة التوليدية.
- افحص الادعاءات المهمة بمصدر مستقل أو مصدر مسترجع يمكن فتحه.
- تأكد من أن الإحالات موجودة وتدعم النص بالفعل.
- راجع وجود بيانات شخصية أو سرية أو محمية بحقوق لا ينبغي نشرها.
- اختبر المخرج على حالات معاكسة أو ناقصة بدل الاكتفاء بحالة ناجحة.
- احتفظ بسجل للمراجعة البشرية والإصدار عندما تكون المهمة عالية الأثر.
مصادر موثوقة ومطالعة إضافية
للتعمق، استخدم المصادر التالية مع مراعاة أن بعض المواد الأصلية منشورة بالإنجليزية:
- إرشادات اليونسكو بشأن الذكاء الاصطناعي التوليدي في التعليم والبحث.
- ملف المعهد الوطني للمعايير والتقنية لإدارة مخاطر الذكاء الاصطناعي التوليدي.
- الورقة البحثية المؤسسة لبنية المحول والانتباه.
- الورقة البحثية المؤسسة للتوليد المعزّز بالاسترجاع في مهام المعرفة.
- دراسة رسمية لقضايا حقوق النشر والذكاء الاصطناعي.
- مادة تدريبية رسمية عن أمن الذكاء الاصطناعي وحماية البيانات.
مهام تفاعلية
اختبار: اختبر معرفتك
ما الذي يميز نظامًا توليديًا عن نموذج تصنيف بسيط؟ (ينشئ محتوى جديدًا اعتمادًا على أنماط متعلمة) (!يضمن صحة كل معلومة ينتجها) (!يعمل دائمًا دون بيانات تدريب) (!يسترجع الإنترنت تلقائيًا عند كل سؤال)
ما الوظيفة الأساسية لآلية الانتباه في المحول؟ (حساب علاقات وأوزان بين أجزاء السياق) (!تخزين جميع الحقائق في قاعدة بيانات خارجية) (!تحويل كل كلمة إلى صورة) (!إلغاء الحاجة إلى التحقق من المخرجات)
ما الفرق الصحيح بين التدريب والاستدلال؟ (التدريب يعدل أوزان النموذج والاستدلال يستخدم الأوزان لإنتاج مخرج) (!التدريب هو البحث في الإنترنت والاستدلال هو تنزيل الملفات) (!التدريب يحدث بعد كل إجابة والاستدلال يحدث مرة واحدة فقط) (!لا يوجد فرق عملي بين المرحلتين)
ما الفكرة العامة لنموذج الانتشار عند توليد صورة؟ (يتعلم إزالة الضوضاء تدريجيًا لإنتاج عينة) (!ينسخ صورة واحدة محفوظة حرفيًا في كل مرة) (!يحول الصوت إلى جدول بيانات فقط) (!يضمن أن كل عنصر في الصورة صحيح فيزيائيًا)
أي عنصر يجعل المطالبة أكثر قابلية للتقييم؟ (تحديد الهدف والسياق والقيود وشكل المخرج) (!إضافة كلمات كثيرة بلا ترتيب) (!طلب إجابة واثقة مهما كانت الأدلة) (!إخفاء الجمهور المقصود عن النظام)
ما الدور الأساسي للاسترجاع في نظام RAG؟ (جلب مقاطع خارجية ذات صلة لإضافتها إلى سياق التوليد) (!تغيير أوزان النموذج بعد كل سؤال) (!منع كل أنواع الهلوسة بصورة مضمونة) (!استبدال الحاجة إلى مصادر موثوقة)
ما المقصود بالهلوسة في نموذج توليدي؟ (معلومة أو تفصيل مقنع لكنه مختلق أو غير مدعوم) (!تأخر بسيط في ظهور واجهة المستخدم) (!ضغط الصور لتقليل حجمها) (!ترجمة صحيحة لمصطلح تقني)
ما النهج الأفضل لتقييم نظام توليدي جامعي؟ (استخدام معايير متعددة واختبارات ممثلة ومراجعة بشرية عند الحاجة) (!الاعتماد على مثال واحد أعجب الفريق) (!قياس طول الإجابة فقط) (!اعتبار نبرة الثقة دليلًا على الصحة)
ما الممارسة الأكثر أمانًا عند التعامل مع بيانات شخصية حساسة؟ (تقليل البيانات واستخدام بيئة معتمدة وعدم الإرسال دون صلاحية واضحة) (!نسخ كل البيانات إلى أداة عامة لتوفير الوقت) (!الافتراض أن حذف المحادثة يلغي كل معالجة للبيانات) (!نشر السجلات الأصلية حتى يتمكن الجميع من التحقق)
ما المبدأ الأنسب للاستخدام المهني المسؤول للذكاء الاصطناعي التوليدي؟ (يبقى الإنسان أو المؤسسة مسؤولًا عن التحقق والقرار النهائي) (!تنقل الأداة المسؤولية القانونية والأخلاقية عن المستخدم) (!كل مخرج توليدي قابل للنشر دون مراجعة) (!حقوق النشر متطابقة في جميع الدول)
لعبة الذاكرة
| المحول | بنية شبكية تعتمد آليات الانتباه لمعالجة العلاقات في السياق |
| التضمين | تمثيل عددي متعلم لرمز أو مقطع أو وثيقة |
| الانتشار | عائلة توليدية تتعلم عكس عملية إضافة الضوضاء |
| الاسترجاع | جلب معلومات خارجية ذات صلة قبل التوليد |
| الهلوسة | مخرج يبدو معقولًا لكنه غير مدعوم أو مختلق |
| التقييم | قياس منظم لقدرات النظام وحدوده وفق معايير محددة |
السحب والإفلات
| طابق المصطلح مع الاستخدام الأنسب | التطبيق |
|---|---|
| نافذة السياق | مقدار النص أو الرموز التي يمكن للنموذج مراعاتها في تفاعل واحد |
| مطالبة منظمة | تعليمات تحدد المهمة والجمهور والقيود وشكل المخرج |
| قاعدة متجهية | مخزن يدعم البحث عن مقاطع متشابهة دلاليًا في تطبيقات الاسترجاع |
| تحقق بشري | مراجعة ادعاءات أو قرارات قبل اعتمادها في مهمة عالية الأثر |
| تقليل البيانات | الاكتفاء بأقل قدر من المعلومات الشخصية اللازمة للغرض |
| مجموعة اختبار | حالات ممثلة وثابتة نسبيًا لمقارنة الإصدارات أو الإعدادات |
كلمات متقاطعة
| محول | ما اسم البنية التي تعتمد الانتباه وتشكل أساسًا لكثير من نماذج اللغة الحديثة؟ |
| انتشار | ما اسم عائلة النماذج التي تتعلم إزالة الضوضاء تدريجيًا لتوليد الصور؟ |
| استرجاع | ما العملية التي تجلب وثائق خارجية ذات صلة قبل التوليد في نظام RAG؟ |
| هلوسة | ما المصطلح الذي يصف معلومة مقنعة لكنها مختلقة أو غير مدعومة؟ |
| خصوصية | ما المجال الذي يهتم بحماية البيانات الشخصية وتقليل كشفها؟ |
| تقييم | ما العملية المنظمة التي تقيس قدرات النظام وحدوده وفق محكات؟ |
مهام مفتوحة
سهل
- تحليل مطالبة قصيرة: اختر مهمة دراسية واكتب مطالبة غامضة ثم حسّنها بإضافة الهدف والجمهور والسياق والقيود وشكل المخرج، وفسر في فقرة ما الذي تغير.
- خريطة مفاهيم: أنشئ رسمًا يربط بين النموذج والرموز والتضمينات والانتباه والمطالبة والمخرج، ثم أضف مثالًا واحدًا لكل علاقة.
- تجربة هلوسة: استخدم سؤالًا غير حساس يصعب التحقق منه، وسجل كيف تتغير الإجابة عندما تطلب من النظام ذكر عدم اليقين ومصادر قابلة للفحص، ثم تحقق يدويًا من الادعاءات.
- يوميات استخدام: دوّن ثلاث مهام استخدمت فيها أداة توليدية خلال أسبوع، وحدد ما أدخلته من بيانات وكيف راجعت المخرج وما الذي قررت عدم مشاركته.
متوسط
- مقارنة تجريبية: اختبر المهمة نفسها على أداتين أو إعدادين مختلفين باستخدام مجموعة أسئلة ثابتة، وابن جدول تقييم للصحة والصلة والوضوح مع تبرير النتائج.
- مختبر صور: أنشئ سلسلة مطالبات لصورة تعليمية واحدة، وغيّر في كل مرة عنصرًا واحدًا مثل الأسلوب أو القيود، ثم حلل كيف أثّر التغيير في الدقة البصرية والتحيز والأخطاء.
- نموذج RAG ورقي: اختر خمس وثائق عامة موثوقة، وصمم على الورق أو بأداة مجانية مخططًا يوضح التقسيم والفهرسة والاسترجاع والتوليد والإسناد، ثم اختبره بثلاثة أسئلة.
- مقابلة تعليمية: أجر مقابلة بموافقة واضحة مع مدرس أو طالب حول سياسات استخدام الذكاء الاصطناعي في الجامعة، ولا تجمع بيانات شخصية غير ضرورية، ثم لخص نقاط الاتفاق والاختلاف.
متقدم
- معيار تقييم: أنشئ مجموعة اختبار من عشرين حالة لمهمة جامعية محددة تشمل حالات عادية وحالات لا جواب لها وحالات خصمية، وحدد محكًا مسبقًا للتصحيح والإسناد والسلامة ثم حلل النتائج.
- تدقيق RAG: نفذ أو حاكِ نظام استرجاع لمجموعة وثائق عامة، وافصل في التقرير بين أخطاء الاسترجاع وأخطاء التوليد وأخطاء الإسناد، واقترح تجربة واحدة لمعالجة كل نوع.
- دراسة قانونية مقارنة: اختر بلدين أو سياقين قانونيين، وابحث في مصادر رسمية عن قضايا حقوق النشر أو حماية البيانات المتعلقة بالذكاء الاصطناعي التوليدي، ثم اكتب مقارنة تميز بوضوح بين القواعد المؤكدة والمسائل محل النزاع.
- فيديو توعوي: أنتج فيديو قصيرًا لطلاب الجامعة يشرح سير عمل مسؤولًا لاستخدام الذكاء الاصطناعي في البحث، مع مثال على التحقق من مصدر ومثال على تقليل البيانات وإفصاح واضح عن دور الأداة.
مجالات تعلم مرتبطة
مسرد
| المصطلح | التعريف |
|---|---|
| الذكاء الاصطناعي التوليدي | أنظمة تتعلم أنماطًا من البيانات لتنتج محتوى جديدًا مثل النصوص أو الصور أو الشيفرة. |
| نموذج لغوي كبير | نموذج تعلم آلي واسع يتنبأ بتتابعات الرموز ويستطيع تنفيذ مهام لغوية متعددة بعد التدريب والمواءمة. |
| رمز | وحدة نصية يعالجها النموذج، وقد تكون كلمة أو جزء كلمة أو علامة. |
| تضمين | تمثيل عددي متعلم يضع العناصر المتشابهة دلاليًا في علاقات مفيدة للحساب والبحث. |
| انتباه | آلية تحسب أوزان العلاقة بين أجزاء السياق لتكوين تمثيلات تعتمد على بقية المدخل. |
| مطالبة | التعليمات والسياق والبيانات التي تقدم إلى النظام لتوجيه المخرج. |
| نموذج انتشار | نموذج توليدي يتعلم عملية عكسية لإزالة الضوضاء تدريجيًا من تمثيل عشوائي أو مشوش. |
| التوليد المعزّز بالاسترجاع | نمط يضيف معلومات مسترجعة من مصادر خارجية إلى سياق النموذج قبل التوليد. |
| هلوسة | معلومات أو تفاصيل مولدة تبدو معقولة لكنها غير صحيحة أو غير مدعومة بالمصدر المطلوب. |
| تقييم | عملية منهجية لقياس أداء النظام وحدوده وفق معايير وبيانات اختبار محددة. |
| تقليل البيانات | مبدأ يقتضي جمع أو مشاركة أقل قدر من البيانات الشخصية اللازم لتحقيق الغرض. |
| مراجعة بشرية | فحص يقوم به شخص مؤهل للمخرج أو القرار قبل الاعتماد، خصوصًا في المهام عالية الأثر. |
