وجهت خديجة الزومي، النائبة البرلمانية عن الفريق الاستقلالي للوحدة والتعادلية بمجلس النواب، سؤالًا كتابيًا إلى وزيرة الانتقال الرقمي وإصلاح الإدارة، دقت من خلاله ناقوس الخطر بشأن بعض تطبيقات الذكاء الاصطناعي، وما قد تشكله من تهديد مباشر لحقوق النساء والفتيات القاصرات، خاصة عبر توليد صور إباحية دون علم أو موافقة المعنيات.
وأبرزت الزومي أن الذكاء الاصطناعي، رغم ما يتيحه من فرص تكنولوجية متقدمة، بات يُستعمل في بعض الحالات بشكل غير منضبط، ما أفرز ممارسات تمس الحقوق الأساسية للأفراد، وعلى رأسها الكرامة الإنسانية، والحق في الصورة، وحماية الحياة الخاصة.
وأشارت البرلمانية إلى أن تورط بعض تطبيقات الذكاء الاصطناعي التوليدي، من بينها تطبيق “Grok”، في إنتاج محتويات إباحية ومسيئة لنساء وقاصرات دون إذنهن، أثار موجة واسعة من الاستنكار على المستوى الدولي، معتبرة أن هذه السلوكيات تشكل نمطًا جديدًا من العنف الرقمي القائم على النوع الاجتماعي، وانتهاكًا خطيرًا لحقوق المرأة والطفل، لما تسببه من أضرار نفسية واجتماعية عميقة قد تؤدي إلى تفكك أسري ومعاناة فردية.
وأضافت أن خطورة هذه الظواهر دفعت عددا من الدول إلى فتح تحقيقات رسمية واتخاذ إجراءات احترازية، وصلت في بعض الحالات إلى تقييد أو حظر مؤقت لبعض التطبيقات، بعد رصد ضعف آليات المراقبة التقنية والأخلاقية التي تحول دون إنتاج وتداول محتوى إباحي مزيف، يُستغل أحيانًا في التشهير والابتزاز والضغط النفسي.
وفي ظل تنامي استخدام هذه التطبيقات داخل الفضاء الرقمي المغربي، تساءلت الزومي عن تقييم وزارة الانتقال الرقمي لمدى خطورة هذه الأدوات، وعن التدابير الوقائية والتشريعية والتقنية التي تعتزم اتخاذها من أجل حماية النساء والفتيات القاصرات من هذه الانتهاكات.
كما استفسرت عن نية الحكومة تقنين استعمال الذكاء الاصطناعي أو تحيين الإطار القانوني المنظم له، إضافة إلى آليات التنسيق بين الوزارة وباقي القطاعات المعنية للوقاية من هذه الممارسات والتخفيف من آثارها الاجتماعية والنفسية.
