هوش مصنوعی روزی آگاهانه خرابکاری می کند

شرکت توسعه هوش مصنوعی آنتروپیک(Anthropic) می گوید هوش مصنوعی روزی می تواند بشریت را با کارشکنی و خرابکاری مواجه کند، اما فعلاً همه چیز خوب پیش می رود.

- شرکت توسعه هوش مصنوعی آنتروپیک(Anthropic) می گوید هوش مصنوعی روزی می تواند بشریت را با کارشکنی و خرابکاری مواجه کند، اما فعلاً همه چیز خوب پیش می رود.

شرکت آنتروپیک که توسعه دهنده هوش مصنوعی است، به تازگی تحقیقات جدیدی را منتشر کرده است که در آن مجموعه ای از تهدیدات بالقوه خرابکارانه برای بشریت ناشی از مدل های پیشرفته هوش مصنوعی را شناسایی می کند.

به گفته این شرکت، این پژوهش بر چهار روش خاص متمرکز شده است که یک مدل هوش مصنوعی مخرب می تواند انسان را فریب دهد تا تصمیمی خطرناک یا مضر بگیرد.

در نهایت، این تحقیقات جدید یک خبر خوب یک خبر بد برای ما دارد.

خبر بد اینکه طبق تحقیقات این شرکت، مدل های زبان بزرگ پیشرفته مانند ChatGPT  و Claude-3  ظرفیت روشنی برای خرابکاری نشان می دهند.

به گزارش ایسنا، در این مطالعه آمده است: مدل های به اندازه کافی توانمند می توانند نظارت و تصمیم گیری انسانی را در زمینه های مهم زیر سوال ببرند.

به عنوان مثال، در زمینه توسعه هوش مصنوعی، مدل ها می توانند به طور پنهانی تلاش ها برای ارزیابی قابلیت های خطرناک خود، نظارت بر رفتار آنها یا تصمیم گیری در مورد استقرارشان را مختل