مدلهای جدید هوش مصنوعی به کاربر دروغ می گویند

معیار جدید شرکت اوپن ای آی حاکی از آن است که مدل های هوش مصنوعی این شرکت و همچنین دیگر همتایان آن از پاسخگویی درست به سوالات ناتوان هستند و همه آنها توهم دارند.

- به گزارش خبرگزاری مهر به نقل از فیوچریسم، شرکت اوپن ای آی یک معیار جدید به نام پرسش و پاسخ ساده (SimpleQA) ارائه کرده که هدف آن اندازه گیری دقت خروجی مدل های هوش مصنوعی خود و شرکت های دیگر است.

این شرکت هوش مصنوعی با انجام چنین اقدامی نشان داد مدل های جدید فناوری مذکور در فراهم کردن پاسخ درست به سوالات عملکرد بدی دارند.

نسخه هوش مصنوعی o1-preview این شرکت که ماه گذشته ارائه شد در آزمون جدید به نرخ موفقیت 42.

7 درصد دست یافت.

به بیان دیگر حتی برترین مدل های بزرگ زبانی که به تازگی معرفی شده اند احتمال زیادی دارد به جای پاسخ درست، جوابی اشتباه به کاربر بدهند.

با توجه به آنکه این فناوری در بسیاری از وجوه مختلف زندگی انسان ها نفوذ کرده، چنین امری نگران کننده است.

مدل های هوش مصنوعی رقیب مانند محصول شرکت آنتروپیک در آزمون SimpleQA امتیاز پایین تری کسب کردند، به طوریکه مدل تازه منتشر شده Claude-3.

5-sonnet این شرکت فقط به 28.

9 درصد سوالات پاسخ درست داد.

با این وجود مدل مذکور بیشتر تمایل داشت عدم قطعیت خود را نشان دهد و از پاسخ دادن خودداری کند، که این امر با توجه به نتایج ناامید کننده احتمالا گزینه