فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
captcha
عروس پادشاه بریتانیا به دنبال بازیگری در سریال پرفروش نتفلیکس درآمد اسپاتیفای چقدر است/ محاسبه + نقد در ایران زن سوم و نقشهٔ مرگ/ رابطهٔ پنهانی با مرد فامیل که به قیمت جان شوهر و افشای راز تمام شد چرا و چگونه باید به جنگ پایان داد واکنش کارگردان فیلم «صدای هند رجب» به اقدام اسرائیل خرید کتاب‌های درسی فقط از این ۲ راه / برخورد با فروشگاه‌های اینترنتی متخلف چرا راهکارهای نوین کاهش مصرف انرژی در ایران اجرا نمی شوند؟ نجات ۵ مرزنشین از غرق‌ شدن در آب‌های بندرعباس پاسخ مدیر سازمان سینمایی به سرنوشت حذف پروانه ساخت و غیبت نمایندگان خانه سینما پروژه جامع شاهنامه کلید خورد پلیس: نوزاد دو ماهه تهرانی که ربوده‌ شده بود، پیدا شد/ دو زن متهمان این پرونده هستند زنگ خطر کمبود نیروی کار برای ساختمان/ سازندگان با چالش نیروی انسانی مواجهند توضیح خانواده اکبر عبدی درباره سنگ مزار و اهدا یادگاری‌ها به موزه انتقاد از پلیس به خاطر تعلل در صدور گواهینامه موتورسیکلت زنان: صدور گواهینامه زنان یک مطالبه عمومی است تکذیب شایعه امکان خدمت سربازی مشمولان فوتبالیست در تیم‌های غیرنظامی لیگ برتر
نظرسنجی
با توجه به بحرانی شدن وضعیت بنزین در ایران، شما کدام روش را برای مدیریت آن بهتر یا کم ضررتر می دانید؟