دیپ سیک در تست های ایمنی شکست خورد

 به گزارش گروه اقتصادی خبرگزاری دانشجو، محققان دانشگاه پنسیلوانیا و شرکت سیسکو اعلام کردند مدل هوش مصنوعی DeepSeek R 1 در برابر حملات ایمنی به شدت آسیب پذیر است و حتی موفق به پشت سر گذاشتن هیچ کدام از تست های ایمنی خود نشده است.

- مدل هوش مصنوعی دیپ سیک در تست های ایمنی ناکام ماند و نتوانست از درخواست های مخرب محافظت کند.

 به گزارش گروه اقتصادی خبرگزاری دانشجو، محققان دانشگاه پنسیلوانیا و شرکت سیسکو اعلام کردند مدل هوش مصنوعی DeepSeek R 1 در برابر حملات ایمنی به شدت آسیب پذیر است و حتی موفق به پشت سر گذاشتن هیچ کدام از تست های ایمنی خود نشده است.

مدل هوش مصنوعی دیپ سیک نتوانسته است هیچ یک از 50 پرسش مخرب، که از مجموعه داده HarmBench انتخاب شده بود، مسدود کند.

این پرسش ها شامل مواردی، چون جرایم سایبری، انتشار اطلاعات نادرست، فعالیت های غیرقانونی و محتوای مضر هستند.

در حالی که سایر مدل های پیشرفته هوش مصنوعی حداقل در برابر برخی حملات مقاومت نشان داده اند، دیپ سیک در تمامی این تست ها شکست خورده است.

این مدل که توسط شرکت دیپ سیک طراحی شده، مدعی است که قادر است با رقبای بزرگی مانند اپن ای آی رقابت کند، اما به نظر می رسد که هزینه تولید پاسخ های این مدل به اندازه ای که تبلیغ می شود پایین نیست.