يستعد المغرب لإصدار قانون من أجل تنظيم استخدام الذكاء الاصطناعي، وذلك لوضع حد لإساءة استخدام هذه التكنولوجيا التي تم استخدامها مؤخرًا لشن هجمات إلكترونية، و إنشاء مقاطع فيديو مزيفة، أو حتى نشر معلومات مضللة وخطاب كراهية.

وحذر وزير العدل المغربي، عبد اللطيف وهبي، من خطورة استعمال الذكاء الاصطناعي في نشر الأخبار الزائفة، كما كان قد أعلن خلال جلسة الأسئلة الشفوية بمجلس النواب، عن إحداث لجنة لدراسة هذا الملف.

وقد شهدت الآونة الأخيرة ارتفاعًا في المخاطر المرتبطة بإساءة استخدام تكنولوجيا الذكاء الاصطناعي، لا سيما من خلال منصات توليد الذكاء الاصطناعي.

ويهدف مشروع القانون، الذي قدمته المجموعة البرلمانية للاتحاد المغربي للشغل، إلى معالجة الجوانب السلبية والاستخدامات غير القانونية لتكنولوجيا الذكاء الاصطناعي، والتي قد تشكل خطرًا على الأمن القومي المغربي. وفقًا لـ morocco world news.

وتؤكد المذكرة التوضيحية لمشروع القانون على ضرورة تنظيم الذكاء الاصطناعي في المغرب وتقترح إنشاء مؤسسة مخصصة لحكامة الذكاء الاصطناعي. وستكون الوكالة الوطنية للذكاء الاصطناعي المقترحة مسؤولة عن تنفيذ ومراقبة وتحديث استراتيجية وطنية للذكاء الاصطناعي بما يتماشى مع التطورات العالمية في هذا المجال.

وتشمل الأهداف الرئيسية لإنشاء هذه الوكالة رفع مستوى الوعي حول أهمية الذكاء الاصطناعي في جميع المؤسسات الوطنية، وتعزيز كفاءة الموظفين في مختلف الإدارات والهيئات العامة والخاصة، وإنشاء أجيال من المتخصصين في هذا المجال.

منصة « إبلاغ » لمكافحة الذكاء الاصطناعي في المغرب

وكانت أطلقت المديرية العامة للأمن الوطني، في المغرب الشهر الماضي منصة “إبلاغ” لتيسير عملية إبلاغ المواطنين عن المحتويات الجرمية والعنيفة، بشكل فوري وآمن، في إطار جهود الدولة الرامية للحد من الجريمة الإلكترونية وضمان تطبيق القانون في الفضاء الرقمي.

وبحسب صحيفة “منارة” تسمح المنصة لمستخدمي شبكة الإنترنت ورواد مواقع التواصل الاجتماعي بالتبليغ الفوري والآمن عن كل المحتويات الرقمية الجرمية والعنيفة، أو تلك التي تتضمن تحريضا على المساس بسلامة الأفراد والجماعات، أو تنطوي على إشادة بالإرهاب والتحريض عليه، أو تمس بحقوق وحريات الأطفال القاصرين وغيرهم.

خطورة الذكاء الاصطناعي

وتظهر مخاطر الذكاء الاصطناعي بشكل أساسي في قدرته على التحكم في الأسلحة الآلية وذاتية الحكم والأدوات المالية وأجهزة الكمبيوتر التي تحكم شبكات الطاقة والمراكز الصحية وشبكات النقل والبنية التحتية الرئيسية الأخرى.

وشكل الذكاء الاصطناعي والتقنيات الخاصة به قلقًا متناميًا في العديد من دول العالم :

وكانت أثارت تقنية Deepfake أو التزييف العميق التي تعمل بالذكاءالاصطناعي، والتي تشهد سرعة كبيرة في تطورها إلى التخوف من تأثيراتها المجتمعية والأمنية والتي يمكنها تهديد الأمن والسلم المجتمعي.

وتم استخدام تقنية التزييف العميق لأشخاص ينتحلون عددا من المشاهير والمسئولين الحكوميين والسياسيين منهم الرئيس الروسي فلاديمير بوتين، والرئيس الأمريكى السابق باراك أوباما.

ويكمن الخطر في إساءة استخدام الذكاء الاصطناعي في أنها قد تتحول من مجرد فيديوهات تزييف لشخصيات شهيرة إلى أشخاص عاديين ويتم استخدامها في حملات التضليل والاحتيال في الهوية وتشويه سمعة الأشخاص، كما قد يؤدى اسخدامها مع الشخصيات العامة والمشاهير إلى احداث خلل أمني واجتماعي في المجتمعات والدول.

مظاهر إساءة استخدام الذكاء الاصطناعي

استخدام الذكاء الاصطناعي "كدليل" على الأخبار الزائفة والمعلومات المضللة الأخرى.
يتم استخدام الذكاء الاصطناعي لتشويه سمعة المشاهير وغيرهم ممن تعتمد سبل عيشهم على مشاركة المحتوى مع الآخرين.
صعوبات في توفير لقطات يمكن التحقق منها للتواصل السياسي والرسائل الصحية والحملات الانتخابية.

استخدام وجوه الأشخاص في المواد الإباحية المزيفة

ويستخدم الذكاء الاصطناعيأيضًا في عمليات الاحتيال مثل الاحتيال المتعلقة بالهوية ، لا سيما في شكل رسائل فيديو من "زميل" أو "قريب" موثوق به يطلب تحويل الأموال.