الذكاء الاصطناعي المسؤول والأخلاقي: الرهانات التي يجب على كل شركة مغربية معرفتها

لم يعد الذكاء الاصطناعي ترفاً حكراً على الشركات الكبرى. ففي المغرب، يستطيع متجر بالدار البيضاء نشر روبوت محادثة عبر WhatsApp في غضون أيام قليلة، ويمكن لعيادة طبية بالرباط أتمتة تذكيرات المواعيد، وتستطيع مقاولة صناعية صغيرة بطنجة أن تجعل الذكاء الاصطناعي يفرز فواتيرها. لكن هذه السهولة في الوصول تخلق نقطة عمياء خطيرة: نُثبّت الأداة دون أن نتساءل هل هي عادلة وقانونية وجديرة بالثقة. فنظام ذكاء اصطناعي سيّئ التأطير قد يميّز ضد الزبناء، أو يُسرّب بيانات شخصية، أو يُعرّض الشركة لعقوبة من اللجنة الوطنية CNDP. يستعرض هذا الدليل الرهانات الملموسة ويمنحك منهجية لتبنّي الذكاء الاصطناعي بشكل مسؤول في المغرب.

لماذا لا يقتصر الذكاء الاصطناعي المسؤول على مسألة أخلاقية

يرى العديد من المسيّرين المغاربة أن أخلاقيات الذكاء الاصطناعي موضوع فلسفي منفصل عن الواقع. وهذا خطأ في الحساب. فالذكاء الاصطناعي غير المسؤول مكلِّف، وبشكل ملموس جداً:

• المخاطرة القانونية: معالجة بيانات غير مصرّح بها لدى CNDP تُعرّض لغرامات، وفي الحالات الخطيرة، لمتابعات جنائية ينص عليها القانون 09-08.
• المخاطرة المتعلقة بالسمعة: روبوت محادثة يُهين زبوناً، أو يوصي بمنتج غير مناسب، أو يتلفّظ بعبارات تمييزية، يجد نفسه في صورة ملتقطة على الشبكات الاجتماعية خلال ساعات قليلة.
• المخاطرة المالية المباشرة: ذكاء اصطناعي متحيّز في تنقيط الجدارة الائتمانية أو فرز السير الذاتية قد يُفقدك زبناء جيدين أو مرشحين جيدين، ويُحرّف قرارات ذات تأثير كبير.
• المخاطرة التشغيلية: أتمتة «تهلوس» مبلغ عرض أسعار أو تاريخ تسليم تُولّد نزاعات وفقداناً للثقة.

فالذكاء الاصطناعي المسؤول هو إذن تدبير للمخاطر بقدر ما هو موقف أخلاقي. وبالنسبة لمقاولة صغيرة، فإن تكلفة تأطير جدّي مسبق (غالباً ما بين 5000 و20000 درهم حسب المشروع) لا تُقارن بتكلفة حادث.

التحيّز الخوارزمي: الفخ الخفي

يتعلّم الذكاء الاصطناعي انطلاقاً من البيانات. وإذا عكست هذه البيانات تفاوتات قائمة، فإن الذكاء الاصطناعي يُعيد إنتاجها ويُضخّمها. هذا هو التحيّز الخوارزمي، وهو أكثر خطورة لأنه يختبئ خلف مظهر موضوعية «رياضية».

بعض الحالات الواقعية في السياق المغربي:

• ذكاء اصطناعي لـفرز الترشيحات مُدرّب على التوظيفات السابقة لشركة ذات أغلبية ذكورية سيُنقّط، بشكل آلي، الملفات النسائية بدرجات أدنى.
• نموذج لـتنقيط الملاءة المالية قد يُعاقب زبناء منطقة أو حي معيّن استناداً فقط إلى الرمز البريدي، مُحدِثاً تمييزاً جغرافياً.
• روبوت محادثة متعدد اللغات يفهم الفرنسية بشكل ممتاز لكنه يتعامل بشكل سيّئ مع الدارجة أو العربية يُدهور الخدمة لشريحة من الزبناء.

كيف نحدّ من التحيّز بشكل ملموس:

• تدقيق بيانات التدريب قبل إطلاق مشروع: هل هي ممثِّلة لزبنائك المغاربة الحقيقيين؟
• اختبار مخرجات النظام على ملفات متنوعة (الجنس، المنطقة، اللغة) قبل وضعها في الإنتاج.
• الإبقاء على عنصر بشري ضمن الحلقة بالنسبة للقرارات الحساسة: قرض، توظيف، تشخيص لا يجب أبداً أن تكون مؤتمتة بنسبة 100%.
• التوثيق والقياس: معدل إجابات صحيحة بنسبة 95% بالفرنسية مقابل 60% بالدارجة يجب أن يُطلق إجراء تصحيح.

الخصوصية والبيانات الشخصية: ما ينص عليه القانون 09-08

هذا هو جوهر الموضوع التنظيمي في المغرب. فـالقانون 09-08 المتعلق بحماية الأشخاص الذاتيين تجاه معالجة المعطيات ذات الطابع الشخصي، الذي تُشرف عليه CNDP (اللجنة الوطنية لمراقبة حماية المعطيات ذات الطابع الشخصي)، يؤطّر كل جمع واستعمال للبيانات. والذكاء الاصطناعي، بطبيعته، يعالج بيانات ضخمة.

الالتزامات الأساسية التي يجب على كل شركة تستعمل الذكاء الاصطناعي احترامها:

• التصريح المسبق لدى CNDP بكل معالجة لبيانات شخصية (زبناء، عملاء محتملون، موظفون).
• موافقة الشخص المعني، بغاية واضحة وصريحة: لا نجمع البيانات «تحسّباً».
• غاية محدودة: البيانات المجمَّعة لروبوت محادثة لخدمة ما بعد البيع لا يمكن إعادة استعمالها للتسويق دون موافقة جديدة.
• حق الاطلاع والتصحيح والاعتراض: يمكن لزبنائك طلب الاطلاع على بياناتهم أو تصحيحها أو حذفها.
• الأمان والحفظ المحدود: يجب حماية البيانات وعدم الاحتفاظ بها إلى أجل غير مسمى.

الفخ الكلاسيكي مع الذكاء الاصطناعي التوليدي: إرسال بيانات زبناء حقيقية (أسماء، أرقام، ملفات طبية، عقود) نحو واجهة برمجة تطبيقات API مثل OpenAI أو Claude دون تأطير. الممارسات الجيدة:

• إخفاء الهوية أو استعمال أسماء مستعارة للبيانات قبل أي إرسال نحو خدمة خارجية.
• تفضيل حلول لا تُستعمل فيها البيانات لإعادة تدريب النموذج (إعداد «no training»).
• بالنسبة للبيانات الحساسة جداً (الصحة، القانون)، التفكير في معالجة محلية أو بنية RAG محكَمة.
• إخبار المستخدمين بوضوح حين يتحدثون إلى ذكاء اصطناعي وأن رسائلهم تُعالَج.

وبالضبط على هذا النوع من المفاضلات التقنية (أين تُخزَّن البيانات، أي مزوّد، أي إخفاء للهوية) تصنع المرافقة المتخصصة الفرق بين مشروع مطابق وقنبلة موقوتة.

الشفافية وقابلية التفسير: الخروج من الصندوق الأسود

نظام الذكاء الاصطناعي المسؤول هو نظام يمكن تفسير قراراته. فإذا رفض ذكاؤك الاصطناعي ملفاً، أو أوصى بمنتج، أو رتّب طلباً حسب الأولوية، يجب أن تكون قادراً على قول السبب — لزبنائك كما للسلطات.

مبادئ الشفافية الواجب تطبيقها:

• الإشارة إلى أنه ذكاء اصطناعي: للزبون الحق في معرفة أنه يتحدث مع وكيل آلي وليس مع إنسان. هذا انتظار قوي، وقريباً سيصبح معياراً.
• تتبّع القرارات: الاحتفاظ بسجل لمدخلات ومخرجات النظام لإمكانية التدقيق والتصحيح.
• تجنّب النماذج المعتمة كلياً بالنسبة للقرارات ذات الرهان الكبير: تفضيل أنظمة يبقى منطقها قابلاً للتحقق.
• توفير لجوء بشري: يجب أن يتمكن كل مستخدم من «التحدث إلى إنسان» حين لا يكفي الذكاء الاصطناعي.

بشكل ملموس، بالنسبة لروبوت محادثة لخدمة الزبناء، يعني ذلك جملة ترحيب من نوع «مرحباً، أنا المساعد الافتراضي لـ[الشركة]» وزرّ واضح للانتقال إلى مستشار. بسيط، لكنه غالباً ما يُنسى.

تبنّي ذكاء اصطناعي مسؤول وأخلاقي في المغرب: المنهجية

إلى جانب المبادئ، إليك خارطة طريق قابلة للتنفيذ من أجل ذكاء اصطناعي مسؤول وأخلاقي في المغرب، قابلة للتطبيق على مقاولة صغيرة كما على عيادة:

1. رسم خريطة الاستعمال — أي قرار أو مهمة سيتولاها الذكاء الاصطناعي؟ ما هو الأثر إذا أخطأ؟ كلما ارتفع الأثر، وجب أن يكون التأطير أكثر صرامة.
2. جرد البيانات — أي بيانات شخصية ستُعالَج؟ من أين تأتي؟ أين ستُخزَّن وتُرسَل؟
3. التحقق من مطابقة القانون 09-08 — هل المعالجة مُصرّح بها لدى CNDP؟ هل تُجمَع الموافقة؟ هل الغاية محدودة؟
4. الاختبار ضد التحيّزات — هل يُقيَّم النظام على ملفات متنوعة قبل وضعه في الإنتاج؟
5. تحديد دور العنصر البشري — أي قرارات تبقى خاضعة للمصادقة البشرية؟ كيف يصل زبون إلى إنسان؟
6. التوثيق والمراقبة — مسك سجل للنظام، تتبّع أدائه وأخطائه، توقّع نقطة مراقبة منتظمة.

معلم مرجعي للميزانية: مشروع ذكاء اصطناعي مؤطَّر جيداً لمقاولة مغربية صغيرة يتراوح غالباً بين 8000 و40000 درهم حسب التعقيد (روبوت محادثة بسيط مقابل أتمتة متعددة المراحل مع الإدماج). «الكلفة الإضافية» للتأطير الأخلاقي والقانوني تمثّل جزءاً يسيراً من المجموع — وهي ضمان لنشر آمن.

هذا بالضبط هو النهج الذي أقترحه في خدماتي لـإدماج ذكاء اصطناعي مُفصّل حسب الطلب: روبوتات محادثة متعددة اللغات (الفرنسية، العربية، الدارجة)، أتمتة المساطر (عروض الأسعار، الفواتير، التذكيرات، المواعيد) ووكلاء ذكاء اصطناعي، كل ذلك مُصمَّم منذ البداية ليكون مطابقاً للقانون 09-08 ومحترماً لزبنائك.

الأخطاء الأكثر شيوعاً لدى الشركات المغربية

ختاماً، إليك الأفخاخ المتكررة المُلاحَظة في الميدان — الواجب تجنّبها قطعاً:

• ربط الذكاء الاصطناعي بقاعدة الزبناء دون تصريح لدى CNDP ولا إخفاء للهوية: الخطأ الأكثر شيوعاً والأكثر خطورة.
• الثقة العمياء في إجابات الذكاء الاصطناعي: روبوت محادثة يختلق أسعاراً أو توفّر منتجات أو نصائح طبية يُلزم مسؤوليتك.
• نسيان اللغات الحقيقية للزبناء: نشر ذكاء اصطناعي بالفرنسية فقط بينما تُعبّر شريحة من الزبناء بالدارجة أو العربية.
• عدم توفير أي لجوء بشري: حبس الزبون في نفق مؤتمت دون باب خروج.
• عدم التحديث ولا المراقبة: ذكاء اصطناعي يُنشَر ويُنسى ينحرف مع الوقت ومع البيانات الجديدة.

الذكاء الاصطناعي المسؤول ليس عائقاً أمام الابتكار: بل هو ما يجعل الابتكار مستداماً وقابلاً للدفاع عنه. فالشركة المغربية التي تتبنّى الذكاء الاصطناعي بهذا الإطار تحقّق تقدّماً حقيقياً، مع حماية زبنائها وسمعتها.

أسئلة شائعة

هل ينطبق القانون 09-08 فعلاً على مجرد روبوت محادثة عبر WhatsApp؟

نعم. بمجرد أن يجمع روبوت المحادثة أو يعالج بيانات شخصية (اسم، رقم هاتف، رسالة تحتوي على معلومات تُعرّف بالهوية)، يدخل ضمن نطاق القانون 09-08. يجب التصريح بالمعالجة لدى CNDP، وإخبار الزبون، وحماية البيانات. روبوت المحادثة لا يفلت من التنظيم لمجرد كونه «آلياً».

كيف أعرف ما إذا كان ذكائي الاصطناعي متحيّزاً؟

اختبر مخرجاته على ملفات متنوعة عمداً: أجناس مختلفة، مناطق، لغات (الفرنسية، العربية، الدارجة) وفئات عمرية. إذا اختلفت الأداءات أو القرارات بشكل ملحوظ من مجموعة إلى أخرى دون سبب مشروع، فأنت أمام تحيّز. تدقيق بيانات التدريب مسبقاً يتيح أيضاً كشف الاختلالات قبل وضعها في الإنتاج.

هل يمكنني استعمال ChatGPT أو Claude مع بيانات زبنائي؟

بحذر. تجنّب إرسال بيانات شخصية حقيقية غير مُخفاة الهوية. فضّل استعمال الأسماء المستعارة، واختر عروضاً تضمن أن بياناتك لا تُستعمل لإعادة تدريب النموذج، وبالنسبة للبيانات الحساسة (الصحة، القانون) فكّر في معالجة محلية أو بنية RAG محكَمة. التأطير التقني الملائم يتيح استعمال واجهات API هذه بشكل مطابق.

كم تكلّف مطابقة مشروع ذكاء اصطناعي في المغرب؟

التأطير الأخلاقي والقانوني لا يمثّل سوى جزء يسير من الميزانية الإجمالية للمشروع، التي تتراوح غالباً بين 8000 و40000 درهم لمقاولة صغيرة حسب التعقيد. إنه استثمار ضعيف مقارنة بتكلفة عقوبة من CNDP أو حادث متعلق بالسمعة، وهو يندمج منذ تصميم المشروع بدل أن يأتي لاحقاً.