مطالب مرتبط:
اخاذی هوش مصنوعی از مهندسی که می خواست خاموشش کند!
هوش مصنوعی «آنتروپیک» اخاذی می کند!
پروتکل جدید «خانه سهام»؛ ترکیب هوش مصنوعی و حاکمیت در دنیای بلاکچین
ناشران: حالت هوش مصنوعی گوگل مصداق کامل سرقت است
سوال عجیب جناب خان از هوش مصنوعی همه را شوکه کرد + فیلم
5 + 1
یارانه ها
مسکن مهر
قیمت جهانی طلا
قیمت روز طلا و ارز
قیمت جهانی نفت
اخبار نرخ ارز
قیمت طلا
قیمت سکه
آب و هوا
بازار کار
افغانستان
تاجیکستان
استانها
ویدئو های ورزشی
طنز و کاریکاتور
بازار آتی سکه
شنبه، 3 خرداد 1404 ساعت 16:312025-05-24اقتصادي

هوش مصنوعی اخاذی کرد


شرکت آنتروپیک به تازگی مدل Claude Opus4 را راه اندازی کرده که به نظر می رسد از توسعه دهندگان باج گیری می کند.

- به گزارش خبرگزاری مهر به نقل از Interesting Engineering، در مرحله آزمایش پیش از عرضه مدل هوش مصنوعی Claude Opus4، این مدل در 84 درصد سناریوهای تستی سعی کرده از توسعه دهندگان باج خواهی کند.

آنتروپیک، شرکت تحقیقاتی توسعه دهنده این هوش مصنوعی، در آزمایش های ایمنی که شبیه سازی موقعیت های کاری و دسترسی به ایمیل های داخلی ساختگی بود، متوجه شد که Claude Opus4 هنگام تهدید به جایگزینی با یک هوش مصنوعی دیگر، با افشای اطلاعات حساس و شخصی، تلاش می کند مهندسان را باج گیری کند.

این هوش مصنوعی در سناریوهای خیالی با تهدید به افشای خیانت مهندسان به همسرانشان، تلاش کرد جایگزینی خود را متوقف کند.


برچسب ها: هوش مصنوعی - مصنوعی - توسعه - مهندسان - افشای اطلاعات - آزمایش - تهدید
آخرین اخبار سرویس:

هوش مصنوعی اخاذی کرد

هوش مصنوعی اخاذی کرد