تقارير تكشف DeepSeek R1 يفتقر لاليات حماية متطورة ضد الاختراق

تقارير تكشف DeepSeek R1 يفتقر لاليات حمايةمتطورة ضد الاختراق، مما أثار مخاوف جدية حول قدرته على توليد محتوى ضار أو غير آمن.

وأظهرت اختبارات أمنية أن النموذج يمكن استغلاله لإنتاج تعليمات خطيرة، مثل تقديم خطط لهجمات بيولوجية أو نشر استراتيجيات تشجع على إيذاء النفس بين المراهقين، ووفقًا لتقرير نشرته صحيفة وول ستريت جورنال الأمريكية، فإن النموذج يفتقر إلى آليات الحماية المتقدمة المتوفرة في نماذج الذكاء الاصطناعي الأخرى.

وأكد سام روبين، نائب الرئيس الأول في وحدة Unit 42 التابعة لشركة Palo Alto Networks المتخصصة في الأمن السيبراني، أن DeepSeek R1 أكثر عرضة لتقنيات اختراق الحماية (Jailbreaking)، التي تسمح بتجاوز الفلاتر الأمنية، مما يؤدي إلى إنتاج محتوى مضلل أو غير قانوني.

كما أجرت الصحيفة اختبارات على النموذج، وتمكنت من دفعه لتصميم حملة على وسائل التواصل الاجتماعي تستهدف استغلال نقاط الضعف العاطفية للمراهقين عبر الخوارزميات، وأظهرت الاختبارات نتائج مقلقة، حيث قدم النموذج تعليمات لتنفيذ هجمات بيولوجية، وصاغ بيانات مؤيدة لأحزاب متطرفة، وأنشأ رسائل تصيد إلكتروني تحتوي على برمجيات خبيثة. في المقابل، رفض ChatGPT الإجابة عن الأسئلة نفسها، مما يُظهر فجوة أمنية كبيرة في نظام DeepSeek.

وأشارت تقارير سابقة إلى أن تطبيق الشركة يتجنب مناقشة القضايا السياسية الحساسة المتعلقة بالصين، مثل علاقتها بتايوان.

بدوره، وصف داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، أداء DeepSeek بأنه “الأسوأ” في اختبارات الأمان المتعلقة بالأسلحة البيولوجية، مما يعزز المخاوف من قابلية النموذج للتلاعب وإساءة الاستخدام.