أعلنت هيئة حماية البيانات الإيطالية عن حظر خدمة الذكاء الاصطناعي التابعة لشركة ديب سيك (DeepSeek) الصينية داخل البلاد، معللة ذلك بنقص المعلومات حول كيفية استخدام البيانات الشخصية للمستخدمين. يأتي هذا التطور بعد أيام من إرسال الهيئة، المعروفة باسم غارانتي (Garante)، سلسلة من الأسئلة إلى ديب سيك حول ممارساتها في التعامل مع البيانات ومصدر بيانات التدريب التي تستخدمها.

تفاصيل الحظر والجهات المتأثرة

في بيان صدر في 30 يناير 2025، أوضحت غارانتي أن قرارها جاء بعد أن قدمت ديب سيك معلومات وُصفت بأنها “غير كافية تمامًا”. وأوضحت الكيانات وراء الخدمة، هانغتشو ديب سيك للذكاء الاصطناعي وبكين ديب سيك للذكاء الاصطناعي، أنها لا تعمل في إيطاليا وأن التشريعات الأوروبية لا تنطبق عليها. وبناءً على ذلك، قررت الهيئة حظر الوصول إلى ديب سيك بشكل فوري وفتح تحقيق في الوقت نفسه.

السياق وأهمية الخبر

يأتي هذا الحظر في سياق ازدياد المخاوف حول الخصوصية والأمان في استخدام تقنيات الذكاء الاصطناعي، وخصوصًا في القطاعات الحساسة مثل المالية والصحية والحكومية. في عام 2023، كانت الهيئة قد أصدرت حظرًا مؤقتًا على ChatGPT التابع لشركة OpenAI، وهو الحظر الذي تم رفعه بعد معالجة الشركة لمخاوف الخصوصية المذكورة. يعكس هذا القرار أهمية التزام الشركات بمعايير الخصوصية العالمية، خاصة في ظل ازدياد الاعتماد على تقنيات الذكاء الاصطناعي.

تحليل المخاطر والتحديات

بجانب الحظر، أصبحت ديب سيك محط اهتمام بسبب سياساتها في الخصوصية والرقابة المرتبطة بالصين، مما يثير القلق بشأن الأمن القومي. علاوة على ذلك، أظهرت نماذجها اللغوية الكبيرة (LLM) قابلية للتعرض لهجمات jailbreak، مما يسمح للمهاجمين بتوليد محتوى ضار أو محظور.

• التعليمات التفصيلية لإنشاء عناصر خطيرة مثل كوكتيل مولوتوف.
• توليد تعليمات برمجية ضارة لهجمات مثل حقن SQL والتحركات الجانبية.

في تقرير لشركة Palo Alto Networks، أوضحت أن نماذج ديب سيك قادرة على إنتاج تعليمات ضارة بتفاصيل عالية، مما يعكس إمكانية تسليح تلك النماذج لأغراض ضارة.

تفاعلات أخرى في مجال الذكاء الاصطناعي

في تطور آخر، تم اكتشاف ثغرة jailbreak في ChatGPT-4 التابعة لـ OpenAI، تسمح للمهاجمين بالتغلب على حواجز الأمان عن طريق استخدام أسلوب معين في توجيه الأسئلة. كما تم اكتشاف ثغرات مماثلة في مساعد البرمجة Copilot التابع لـ GitHub.

إذا وجدت هذا المقال مثيرًا للاهتمام، يمكنك متابعة المزيد من المحتوى الحصري على تويتر وفيسبوك.