فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
captcha
هواپیمایی که کامپیوتر ثانیه‌ای ۴۰ بار نجاتش می‌داد! انجمن حمایت از گردشگری پایدار به دنبال یک اکوسیستم تازه؛ ایرلاین‌ها، هتل‌ها و تورگردانان کنار هم چرا خودروهای مدرن از چند سنسور اکسیژن استفاده می‌کنند؟ آیت‌الله شبیری زنجانی دار فانی را وداع گفت وضعیت اتحادیه اروپا در سال ۲۰۲۶؛ چه آینده‌ای در انتظار این بلوک اقتصادی-سیاسی است؟ (+اینفوگرافیک) امیر حسین قیاسی: مهران مدیری را راحت کتک می زنم محمد رضا گلزار: شما آن وقت ها خواب بودید لایحه اصلاحی بودجه 1405 همچنان در انتظار ارسال به مجلس رییس سازمان حج: احتمال تأثیر تحریم‌ها در سفرهای زیارتی ۱۴ کشته در حمله مسلحانه به نظامیان پاکستانی محمود بصیری: نقشم مقابل گوگوش سانسور شد سخنگوی سازمان هواپیمایی: تکذیب خبر لغو پروازهای ایران و عراق از روز سه‌شنبه ۴ شهید و ۳ زخمی در اثر حملات عربستان به دکل‌های مخابراتی در یمن مهار حریق در آزمایشگاه بیمارستان مسیح دانشوری اولین تصاویر از 17 اتوبوس شهری تهران که داخل کشتی، هدف حملات آمریکا قرار گرفتند