تتحرك الحكومات حول العالم بسرعة لكبح “Grok”، روبوت الدردشة القائم على الذكاء الاصطناعي (AI) العائد لإيلون ماسك، وسط تصاعد المخاوف من أنه ينتج صورا مزيفة ذات طابع جنسي صريح.
في صيف العام الماضي، أضافت شركة “xAI”، المشغِّلة لـ”Grok”، خاصية لتوليد الصور تضمنت “وضع “spicy”” يمكنه إنتاج محتوى للبالغين.
في الأسابيع الأخيرة، استجاب “Grok” لطلبات مستخدمين بـ”نزع ملابس” صور لنساء وإلباسهنّ البكيني، ما أوجد لقطات مفبركة بتقنيات الذكاء الاصطناعي من دون أي ضوابط.
ومن الحظر المباشر في جنوب شرق آسيا إلى التحقيقات الجنائية والتحذيرات التنظيمية في أوروبا وأستراليا، تقول السلطات إن الضمانات القائمة لا تؤدي الغرض.
هذه هي الدول التي حظرت “Grok” أو وجّهت تحذيرات بشأنه.
ما الدول التي حظرت “Grok”؟
إندونيسيا
كانت إندونيسيا أول دولة تحظر “Grok” مؤقتا لحماية النساء والأطفال والمجتمع الأوسع من المحتوى الإباحي المزيف المُنشأ باستخدام الذكاء الاصطناعي.
وقالت وزيرة الاتصالات والشؤون الرقمية الإندونيسية ميوتيا حافيد في بيان السبت: “ترى الحكومة أن المقاطع الجنسية المفبركة من دون موافقة تمثل انتهاكا خطيرا لحقوق الإنسان والكرامة وسلامة المواطنين في الفضاء الرقمي”.
وقالت الشرطة الوطنية الإندونيسية إن القيود المفروضة على “Grok” هي “إجراء” وقائي بينما تقيّم السلطات ما إذا كانت المنصة آمنة.
وأظهرت النتائج الأولية أن “Grok” لا يملك ضوابط فعالة تمنع إنشاء وتوزيع محتوى إباحي يعتمد على صور حقيقية لمقيمين إندونيسيين، وفق بيان لألكسندر سابار، المدير العام الإندونيسي لمراقبة الفضاء الرقمي.
وأضاف سابار أن مثل هذه الممارسات تُعرّض خصوصية الأفراد وحقوق الصورة للانتهاك عند التلاعب بالصور أو مشاركتها من دون موافقة، بما يسبب أضرارا نفسية واجتماعية وسمعية.
ماليزيا
أمرت هيئة الاتصالات والوسائط المتعددة الماليزية (MCMC) يوم الأحد بحظر مؤقت لـ”Grok” بعد ما وصفته بـ”سوء استخدام متكرر” للأداة لتوليد صور فاحشة وصريحة جنسيا ومُعدّلة من دون موافقة.
وقالت الهيئة إنها أرسلت إشعارين هذا الشهر إلى “X” و”xAI” تطلب فيهما ضمانات أقوى. وفي ردودها، قالت “X” إن “Grok” يعتمد في الغالب على المستخدمين لتقديم شكاوى بشأن المحتوى المسيء.
وخلصت الهيئة إلى أن “X” “فشلت في معالجة المخاطر الكامنة” في تصميم وتشغيل منصتها للذكاء الاصطناعي، وهو ما اعتبرته غير كاف بموجب القانون الماليزي.
وأضافت: “فُرض هذا التقييد كإجراء وقائي ومتناسب بينما تستمر الإجراءات القانونية والتنظيمية”، مشيرة إلى أن الوصول سيظل محجوبا حتى توضع ضمانات فعالة.
كيف تفاعلت دول أخرى؟
الاتحاد الأوروبي
أعلنت المفوضية الأوروبية أنها تنظر في حالات تتعلق بصور موحية وصريحة جنسيا لفتيات صغيرات أنشأها “Grok”.
وقال متحدث باسم المفوضية للصحفيين في بروكسل الأسبوع الماضي: “أستطيع أن أؤكد من هذا المنبر أن المفوضية تنظر أيضا بجدية بالغة في هذه المسألة”.
وأفادت رويترز بأن المفوضية أمرت “X” بالاحتفاظ بجميع الوثائق المتعلقة بـ”Grok” حتى نهاية العام لكي يتمكن التكتل من تقييم مدى امتثاله لقواعد الاتحاد الأوروبي.
وقال متحدث باسم المفوضية لرويترز إن ذلك لا يعني فتح تحقيق رسمي.
وقالت أورسولا فون دير لايين، رئيسة المفوضية الأوروبية، في مقابلة مع الصحيفة الإيطالية “Corriere della Sera” إنها “مستاءة من سماح منصة تكنولوجية للمستخدمين بتجريد النساء والأطفال رقميا عبر الإنترنت”.
ومن دون أن تسمي “X” أو “Grok” مباشرة، قالت فون دير لايين إن المفوضية “لن تُفوّض حماية الأطفال ومسألة الموافقة إلى وادي السيليكون. إذا لم يتحركوا، فسنتحرك نحن”.
المملكة المتحدة
أطلقت هيئة تنظيم الإعلام في المملكة المتحدة تحقيقا بشأن “X”، الشركة الأم لـ”xAI” ومنصة التواصل الاجتماعي التابعة لماسك، بسبب استخدام “Grok” في توليد صور جنسية صريحة ومن دون موافقة.
وقالت أوفكوم في بيان إن هناك “تقارير مقلقة للغاية” عن استخدام روبوت الدردشة لإنشاء ومشاركة صور لأشخاص من دون ملابس، وكذلك “صور مُجنسة لأطفال”.
وقد تسعى الجهة المنظمة أيضا إلى أمر قضائي لإجبار مزودي خدمات الإنترنت على حجب الوصول إلى “Grok” إذا لم تمتثل “X” لمتطلبات أوفكوم.
“X” قد تواجه غرامة تصل إلى عشرة بالمئة من إيراداتها العالمية أو 18 مليون جنيه إسترليني (20 مليون يورو).
_”_المحتوى الذي تم تداوله على “X” مُشين. ليس مجرد إهانة للمجتمع القويم، بل هو غير قانوني”، قالت ليز كيندال، وزيرة التكنولوجيا، أمام البرلمان.
فرنسا
وسّعت نيابة باريس تحقيقا يطال “X” في مطلع يناير ليشمل “Grok”، بحسب ما أفادت وسائل إعلام محلية.
وكان التحقيق الأولي، المستمر منذ يوليو الماضي، يركّز على الاشتباه بتدخل منظم في أنظمة “X” المعلوماتية والاستخراج غير القانوني للبيانات.
وجاء قرار توسيع التحقيق هذا الأسبوع بعد أن اتهم خمسة سياسيين المنصة بإنتاج ونشر مقاطع مزيفة ذات طابع جنسي تتضمن قصّرا، بحسب صحيفة “لو باريزيان” الفرنسية.
وأفادت بأن الهيئة العليا لتنظيم الاتصال السمعي البصري والرقمي في فرنسا (أركوم) تحقق في مخالفات محتملة من “X” لـ”قانون الخدمات الرقمية”، الإطار الأوروبي المنظم للخدمات الرقمية.
إيطاليا
في ثمانية يناير، حذّرت هيئة حماية البيانات الإيطالية (غارانتي) من أن أي شخص يستخدم “Grok” أو منصات ذكاء اصطناعي أخرى لإزالة ملابس الأشخاص، وأولئك الذين يوزعون هذه الصور، يواجهون اتهامات جنائية.
وقالت الهيئة إن استخدام هذه الأدوات من دون إذن الشخص الظاهر في الصورة قد يعدّ “انتهاكا جسيما للحقوق والحريات الأساسية للأشخاص المعنيين”.
وذكّرت الهيئة “Grok” ومزوّدي خدمات الذكاء الاصطناعي الآخرين بضرورة تصميم وتطوير وإتاحة منتجات تمتثل لأنظمة الخصوصية.
وقالت الجهة الناظمة الإيطالية إنها تعمل مع لجنة حماية البيانات الأيرلندية، السلطة المختصة بالخصوصية بالنسبة لـ”X”، نظرا لوجود المقر الرئيسي للشركة في أيرلندا.
وفي أكتوبر، حظرت الهيئة الإيطالية منصة “ClothOff”، وهي منصة تعتمد الذكاء الاصطناعي لإزالة الملابس. وتتيح هذه المنصة لأي شخص، بمن فيهم القاصرون، إنشاء صور ومقاطع فيديو تُظهر أشخاصا حقيقيين عراة أو في أوضاع جنسية.
وفي سبتمبر، أضافت إيطاليا مادةجديدة إلى قانونها الجنائي لمعاقبة من ينشرون مقاطع “ديب فيك” بالذكاء الاصطناعي بالسجن حتى خمسة أعوام.
ألمانيا
قالت ألمانيا إنها ستعرض قريبا “اقتراحا ملموسا” لقانون جديد لمكافحة العنف الرقمي.
وقالت آنا لينا بيكفيلد، المتحدثة باسم وزارة العدل الألمانية، في مؤتمر صحفي في يناير إن قانون العنف الرقمي المرتقب سيكون وسيلة لدعم ضحايا هذا “النوع من العنف الرقمي”، بجعل “من الأسهل عليهم اتخاذ إجراءات مباشرة ضد انتهاكات حقوقهم عبر الإنترنت”.
وعند سؤالها تحديدا عن “Grok”، قالت بيكفيلد إن “من غير المقبول استخدام التلاعب على نطاق واسع لانتهاكات منهجية للحقوق الشخصية”.
وأضافت: “لذلك نريد أن نرى اتخاذ تدابير أشد ضد ذلك عبر القانون الجنائي”.
وفي 2025، اتفقت الأحزاب الثلاثة الرئيسية في ألمانيا على إصلاح قانون الجرائم الإلكترونية وسد “ثغرات” في القانون الجنائي تخص الجرائم المرتبطة بالذكاء الاصطناعي، مثل الصور الجنسية المولدة بالذكاء الاصطناعي، وذلك بحسب اتفاق ائتلافي.
أستراليا
في يناير، قال مكتب مفوض السلامة الإلكترونية في أستراليا إنه تلقى عددا قليلا لكنه متزايد من البلاغات خلال الأسبوعين الماضيين بشأن محتوى “Grok” الجنسي المولّد بالذكاء الاصطناعي.
وأضاف المكتب أنه سيستخدم صلاحياته، مثل إشعار الإزالة الذي قد يأمر موقع تواصل اجتماعي بإزالة محتوى إشكالي، إذا خالف أي من المحتوى قانون السلامة على الإنترنت في البلاد.
وطلب المكتب بالفعل مزيدا من المعلومات من “X” بشأن إساءة استخدام خدمة “Grok” الجنسية ولتقييم ما إذا كانت تمتثل لقانون أستراليا الجديد الخاص بمواقع التواصل الاجتماعي.
وذكّر “Grok” بأنه اعتبارا من تسعة مارس ستتعين على الخدمات عبر الإنترنت، بما فيها شركات الذكاء الاصطناعي، حجب وصول الأطفال إلى المحتوى الجنسي أو العنيف أو الضار.
