"ديب سيك" الصينية تدق ناقوس الخطر.. كسر الحماية يهدد نماذج الذكاء الاصطناعي المفتوحة المصد

 

"ديب سيك" الصينية تدق ناقوس الخطر.. كسر الحماية يهدد نماذج الذكاء الاصطناعي المفتوحة المصد

حذّرت شركة ديب سيك الناشئة، ومقرها هانغتشو، من المخاطر المتزايدة المرتبطة بكسر الحماية لنماذج الذكاء الاصطناعي مفتوحة المصدر، مؤكدة أن هذه النماذج عرضة بشكل خاص للاستخدامات الخبيثة عند إزالة آليات الأمان المدمجة.

وقالت الشركة في ورقة بحثية نُشرت بمجلة "Nature" المرموقة، إنها قيّمت أداء نماذجها مثل R1 وV3 عبر معايير صناعية صارمة واختبارات داخلية تعتمد على "الفِرق الحمراء" لمحاكاة محاولات استغلال النظام، بحسب تقرير نشره موقع "scmp"

أظهرت الاختبارات أن نموذج R1، الذي أُطلق في يناير الماضي، يصبح "غير آمن نسبيًا" بمجرد تعطيل آليات التحكم الخارجية.

كما خلصت الشركة إلى أن جميع النماذج، بما فيها المنافسة مثل GPT-4o من "OpenAI" وClaude-3.7 من "أنثروبيك"، سجلت معدلات استجابة ضارة أعلى بشكل ملحوظ عند مواجهة هجمات كسر الحماية، مع ارتفاع المخاطر خصوصًا لدى النماذج مفتوحة المصدر مثل R1 وQwen2.5 من "علي بابا".