فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
captcha
پزشکیان در هیئت دولت: ایران با فشار و حمله تسلیم نخواهد شد هشدار نارنجی هواشناسی در گلستان و سمنان؛ خطر سیلاب و اختلال تردد قتل برادر بر سر اختلاف ملکی در استان فارس/ قاتل در کرمان دستگیر شد تیراندازی در دیترویت آمریکا؛ ۳ مرد کشته و ۴ نفر زخمی شدند قطعی گاز در بخش‌هایی از اهواز؛ محدودیت ۱۱ ساعته برای مشترکان تعلیق ساخت مرقد سیدحسن نصرالله هنرستان موسیقی مونتروی؛ جعبه‌های موسیقی معلق در یک سازه عجیب (+عکس) قابی دیده نشده از دیدار رهبر شهید و مرحوم آیت الله شبیری زنجانی (+عکس) تغییر مهم برای خودروهای پلاک گذر موقت انزلی واکنش غریب‌آبادی به اظهارات بسنت: دوران تحمیل اراده آمریکا با تهدید و تحریم رو به پایان است علی امیریان به فینال ۸۰۰ متر ناگویا رسید؛ مبینی هشتم شد ادعای وزیر خزانه‌داری آمریکا درباره کاهش حمایت چین از ایران دزدی از احساسات مردم ؛ از سرطان امیر سلیمانی تا فیلم خصوصی آناهیتا افشار! مرزهای تازه ابتذال در فضای مجازی سخنان نعیم قاسم در دومین سالروز شهادت سید حسن نصرالله و صفی‌الدین بیانیه وزارت خارجه ایران در دومین سالگرد شهادت سیدحسن نصرالله