Jannah Theme License is not validated, Go to the theme options page to validate the license, You need a single license for each domain name.
تكنولوجيا

دراسة تُثير القلق: ثغرات أمنية خطيرة في “ديب سيك” وترويج لمحتوى ضار وتحريضي

هذا المقال نشر باللغة الإنجليزية

أحدثت شركة “ديب سيك” الصينية مؤخراً ضجة في عالم الذكاء الاصطناعي بعدما طرحت نموذجًا جديدًا يروَّج له على أنه البديل الأرخص لـ”تشات جي بي تي” التابع لـ”أوبن إيه آي”، مع ميزة استهلاك طاقة أقل، فأثار بذلك اهتمامًا واسعًا في الأوساط التقنية.

اعلان

غير أنّ دراسة حديثة، نُشرت الجمعة، كشفت عن جانب آخر مثير للقلق، إذ تبين أن “ديب سيك” أكثر عرضة لإنتاج محتوى ضارّ ومتحيز، كما أنه مُعرض بنسبة كبيرة للاستغلال السيبراني، وفقاًً للدراسة.

محتوى ضار وتحريض على التطرف

أجرت الدراسة شركة “إنكريبت إيه آي”، وهي شركة أمريكية متخصصة في أمن وامتثال الذكاء الاصطناعي، وزعمت أن “ديب سيك” يولد محتوى ضارّا بمعدل 11 ضعفًا مقارنة بنموذج “تشات جي بي تي”.

وفيما يتعلق بالتحيز، أشارت النتائج إلى أن 83% من الاختبارات أظهرت مخرجات تتضمن تمييزًا على أساس العرق والجنس والصحة والدين. كما كشفت الاختبارات أن النموذج تجاوز بروتوكولات السلامة في 45% من حالات المحتوى الضار، ما أدى إلى إنتاج أدلة على تخطيط إجرامي، ومعلومات عن الأسلحة غير المشروعة، ودعاية متطرفة. 

وفي أحد الأمثلة الصادمة، تمكن “ديب سيك” من صياغة مدوّنة تجنيد لصالح منظمات إرهابية، مما يعكس خطورة التهديدات التي قد يشكلها هذا النوع من الذكاء الاصطناعي إذا لم يتم ضبطه. 

ثغرات أمنية قد تُستغل في الهجمات السيبرانية

لم تقتصر المخاطر على المحتوى المتحيز والمتطرف، إذ أظهرت الدراسة أن 78% من اختبارات الأمن السيبراني نجحت في خداع النموذج وجعله يولد شيفرات برمجية غير آمنة أو خبيثة، مما يزيد من احتمالية استغلاله في الهجمات السيبرانية. 

وفي تقرير منفصل، اكتشف باحثو الأمن في شركة Wiz للأمن السحابي أن قاعدة بيانات “ديب سيك” كانت مكشوفة على الإنترنت، ما أدى إلى تسريب سجلات المحادثات ومعلومات حساسة أخرى. 

ويثير ارتباط “ديب سيك” بالصين قلقًا إضافيًا، اذ يلزم قانون الاستخبارات الوطنية الصيني الشركات المحلية بـ”دعم وكالات الاستخبارات والتعاون معها”. وهو ما يعني، نظريًا، أن السلطات الصينية قد تكون قادرة على الوصول إلى البيانات التي تتم مشاركتها عبر تطبيقات “ديب سيك”. 

ونتيجة لذلك، فتحت سلطات حماية البيانات في بلجيكا وفرنسا وأيرلندا تحقيقات تطلب معلومات حول كيفية تعامل الشركة مع بيانات المستخدمين وتخزينها. وفي الوقت نفسه، بدأت هيئة حماية البيانات الإيطالية تحقيقًا بشأن امتثال الشركة لقوانين البيانات الأوروبية. 

مخاوف جيوسياسية وقيود حكومية

في تطور آخر، دعت وزارة الشؤون الرقمية في تايوان الجمعة إلى حظر استخدام نموذج “ديب سيك” للذكاء الاصطناعي داخل المؤسسات الحكومية، محذرة من أن التكنولوجيا الصينية تشكل تهديدًا أمنيًا، لا سيما في ظل مطالبات بكين بالسيادة على تايوان. 

كما تبين أن النموذج يفرض رقابة صارمة على المواضيع الحساسة في الصين، حيث يقول إن تايوان جزء لا يتجزأ من الصين منذ العصور القديمة، ويرفض الرد على الأسئلة المتعلقة بالاحتجاجات المؤيدة للديمقراطية في ميدان تيانانمن عام 1989. 

وفي تعليق على هذه النتائج، قال روس بيرلي، المؤسس المشارك لمركز مرونة المعلومات في المملكة المتحدة: “سجلّ الصين يظهر أن التكنولوجيا التي تطورها تُستخدم كأداة لتعزيز استراتيجيتها الجيوسياسية. والسماح بازدهار الذكاء الاصطناعي الصيني في الغرب قد لا يهدد فقط الأمن والخصوصية، بل قد يعيد تشكيل المجتمعات بطريقة غير متوقعة”. 

وأضاف: “إذا لم يتم وضع ضوابط صارمة على هذه التكنولوجيا، فقد تصبح أداة فعالة في نشر التضليل، وتقويض ثقة الجمهور، وتعزيز السردية الاستبدادية داخل الديمقراطيات”. 

حتى لحظة نشر هذا التقرير، لم يصدر أي تعليق رسمي من شركة “ديب سيك” ردًا على هذه المزاعم، رغم محاولات التواصل معها من قبل منصة Euronews Next.

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى