۲۰ آبان ۱۴۰۴
به روز شده در: ۲۰ آبان ۱۴۰۴ - ۲۳:۵۷
فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
ورود کد امنیتی
captcha
دیدار نمایندگان ایران، چین و روسیه با گروسی مهمترین غایبان انتخابات عراق واژگونی تریلی حامل سیمان در جلفا یک کشته بر جای گذاشت 4 ماده خوراکی خطرناک برای قند خون تولیت آستان امامزاده صالح (ع) تکذیب کرد: سرداب امامزاده پناهگاه نیست واکنش علی مطهری به ساخت مجسمه والرین: شهرداری تهران از مشاوران فرهنگی فهیم استفاده کند وحید هاشمیان اخلاق‌مدار یا حرفه‌ای؟ قضاوت‌ها درباره پول کامل قرارداد پرسپولیس سرقت ۶ تندیس باستانی از موزه ملی دمشق کره‌ای اما با جذابیت رنجروور؛ تلوراید ۲۰۲۷ آمده است! (تصویری) جنگ غول‌های اروپا بر سر پدیده ۱۶ ساله هرتابرلین؛ رئال و بارسا در کمین ایخورن فیدان: با ویتکاف درباره ایران صحبت کردم دیدار معاون وزیر خارجه فیلیپین با عراقچی خامس، به استقلال بیا؛ کامنت‌باران ستاره کلمبیایی توسط ۴۰ هزار هوادار آبی فرمانده قرارگاه خاتم‌الانبیا: آمادگی تقابل با هر تهدیدی را داریم چرا در تهران قدیم مغازه ها تابلو نداشتند؟