کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
زیبایی ببینیم: فراری دینو ۲۴۶ GT مدل ۱۹۷۲ تصور رانندگی با این هیولا و گیربکس دستی (+عکس) چرا باران، خیابان‌ها را قفل می‌کند؟ از لغزندگی تا اختلال در جریان حرکت خودروها بنتلی آرناژ آر مولینر؛ نسخه‌ای فوق‌محدود با تنها ۴۰ دستگاه تولید (+عکس) روزنامه جوان: تکرار روش‌های گذشته درباره حجاب، به تشدید تقابل و بازشدن زخم‌های اجتماعی منجر می‌شود خانه اپرای شانگهای؛ زیبایی معماری که تا بام می رود! (+عکس) «تاج‌ایران، نتیجه ناصرالدین شاه» و اعضای خانواده‌اش در سال 1315(عکس) فضای سازی جالب با بالکن ها در برج وان بخارست (+عکس) خانه اوتیما ؛ معماری متفاوت در دل شیب جنگل (+عکس) ادعای روزنامه شهرداری تهران: تصاویر مربوط به آبگرفتگی معابر شهری را هوش مصنوعی ساخته! / هیچ اتفاق غیرعادی در تهران ندیدیم! بدن انسان فقط با زنده ماندن، سالانه ۲ میلیارد تن کربن‌دی‌اکسید تولید می‌کند چرا به دیوارهای بتنی وسط بزرگراه «نیوجرسی» می‌گوییم؟ راز طراحی عجیب آن‌ها آموزش زبان انگلیسی به سبک عصر ایران / درس صد و پانزده مقایسه زرادخانه هسته‌ای جهان در ۲۰۰۶ و ۲۰۲۶ (+ اینفوگرافیک) سرطان پانکراس چرا اغلب دیر تشخیص داده می‌شود؟ علائم خاموشی که نباید نادیده بگیرید