فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
سفر تصویری به قلب بنفش گیلان؛ فصل برداشت عطر آرامش در رودسر راز ۸۰۰ ساله نورهای قرمز آسمان مناطق شمالی ژاپن بالاخره فاش شد! (+عکس) عادتی ساده که از سرطان پیشگیری می‌کند تأثیر خاموش کردن کولر خودرو بر مصرف سوخت؛ واقعیت یا تصور اشتباه؟ سفر به ایران قاجاری؛ نقشه نایاب و با کیفیت آسیا در سال ۱۸۶۰ را ببینید کتاب مهم اسناد خلیج‌فارس جهانی شد ایده دانشمندان برای مقابله با گرمایش زمین: روشن‌کردن ابرها با پاشیدن آب‌نمک در آسمان این‌ها کم‌مصرف‌ترین خودروهای حال حاضر در بازار جهانی هستند هشدار سرلشکر رضایی: آمریکا در بن‌بست نظامی و سیاسی گرفتار شده است / در صورت اقدام نظامی، ناوهای آمریکا را غرق می‌کنیم شگفتی های آفرینش؛ وقتی اندازه و کارایی تناسبی پیچیده تشکیل می دهند! (+اینفوگرافیک) نجفی: رفتار آمریکا پیمان منع گسترش سلاح‌های هسته‌ای را تهدید می‌کند رابطه نرخ ارز و یارانه؛ پتانسیل افزایش کالابرگ تا ۲۵۰ هزار تومان رایزنی وزرای خارجه آمریکا و انگلیس درباره تنگه هرمز بیانیه مجلس خبرگان: رمز موفقیت ایران حفظ استحکام میدان و دیپلماسی است «سرخ و سیاه» در فستیوال سریال کن؛ نخستین حضور یک سریال ایرانی در بخش مسابقه