فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
کاخ سفید در تکاپوی گرفتن مجوز کنگره برای جنگ ایران سنای آمریکا پیش‌نویس قطعنامه‌ توقف عملیات نظامی علیه ایران را رد کرد تاکید دوباره اینفانتینو به حضور ایران در جام جهانی یکی از شگفت انگیزترین نمونه های بقا در برابر سقوط از نظر علم فیزیک / هر چه زمان سقوط طولانی تر؛ شانس زنده ماندن بیشتر! قالیباف خطاب به وزیر جنگ آمریکا: ایران محاصره‌پذیر نیست دعوت ترامپ از نخست وزیر مکلف عراق برای سفر به آمریکا شباهت شگفت‌ انگیز دست انسان و یک موجود ماقبل تاریخ (+اینفوگرافیک) تصادف در زنجان با ۴ کشته بخشش قاتل زن جوان به حرمت امام رضا(ع) در خرم‌دره  سناتور آمریکایی خطاب به هگست: به هیچ هدفی علیه ایران نرسیدید افزایش تهدید تروریستی در انگلیس به «سطح جدی»  آمریکا: ما توافقی با ایران مانند توافقی که توسط اوباما امضا شد، نمی‌خواهیم ولایتی: مواهب امنیت هرمز متعلق به مردم منطقه است ، نه غریبه‌هایی که هنوز بر سر زبان مادری‌شان با هم جدال دارند! پزشکیان: ادامه محاصره دریایی علیه ایران غیرقابل‌ تحمل است  پلیس کرمان: مرگ ۳ شرور و کشف بیش از یک تن موادمخدر در کویر شهداد