فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
آرزوی دیرینه مجید مجیدی به عنوان خادم حرم امام رضا (ع) سقوط شاخص‌های بورس آمریکا همزمان با رشد قیمت نفت آغاز پروازهای حج تمتع از فرودگاه‌های مشهد و زاهدان خروج امارات متحده عربی از اوپک چه عواقبی دارد؟ انفجارهای کنترل شده مهمات در دزفول احتمال شنیده شدن صدای انفجار در آران و بیدگل جنجال بزرگ آیفون ۱۷ / اگر باتری خالی شود دیگر روشن نمی‌شود! فوکویاما در نظریۀ «پایان تاریخ» چه می‌گوید؟ عبور ظرفیت نیروگاه‌های تجدیدپذیر کشور از مرز ۴۵۰۰ مگاوات تصویری نادر از سیستم عصبی کامل انسان مربوط به ۱۳۸ سال پیش 4 خطای راهبردی که می تواند جنگ 40 روزه را علیه ما ورق بزند آخرین قیمت‌ها از بازار ارز محمد گلریز: حضرت امام تأثیر زیادی در شکل‌گیری و تقویت موسیقی حماسی و انقلابی داشتند/ من و برادرم «اکبر گلپا» مسیرهای جداگانه‌ای را رفتیم پالایشگاه‌های ایران هیچ مشکلی برای تولید و تامین بنزین ندارند کاهش 50 درصدی تولید اوره در خاورمیانه زیر سایه جنگ