فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
تعطیلی رسمی در بغداد به مناسبت مراسم تشییع پیکر مطهر رهبر انقلاب وزارت دفاع روسیه منتشر کرد: فیلم انهدام مرکز پهپادی اوکراین با بمب 1500 کیلوگرمی سوخو-34 روسی اگر بودجه نامحدود داشتید، ب ام و سری 7 را می خریدید یا S کلاس؟! اژدها بیدار می‌شود؛ حاج ابراهیم دنبال انتقام از یلدا و عماد! اوج جاه طلبی لامبورگینی در بازار خودروهای شاسی بلند (+عکس) سرمربی کره جنوبی استعفا کرد و پنهانی از کشور خارج شد! قالیباف به ترامپ: به فکر سوءتغذیه ۴۰ میلیون آمریکایی باش قطعی برق و اختلال در زندگی میلیون‌ها آمریکایی در پی گرمای شدید پزشکیان: از همکاری‌ها و حمایت‌های ترکیه در دوران جنگ قدردانی می‌کنیم آغاز محدودیت های ترافیکی اطراف مصلی تهران تصویری از وداع فرمانده هوافضای سپاه با رهبر شهید تشییع پیکر شهید مصباح‌الهدی باقری‌کنی (عکس) قضاوت دیدار بزرگ جام جهانی به فغانی رسید نتانیاهو به زودی با ترامپ در آمریکا دیدار می‌کند کدام مقام‌های خارجی برای ادای احترام به رهبر شهید به ایران آمدند؟