فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
جنجال در کنگره؛ هزینه‌های سنگین جنگ با ایران بر روی میز / هزینه ۲۵ میلیارد دلاری مهمات آمریکا در یک ماه جنگ با ایران هشدار رئیس‌جمهور لبنان به اسرائیل؛ امنیت با تخریب روستاها تأمین نمی‌شود صدراعظم آلمان: از ابتدا درباره جنگ علیه ایران تردید داشتم / واکنش مرتس به حملات ترامپ ورود بیش از ۱۶۰۰ زائر ایرانی به مدینه منوره منصوری هر خودرویی را به دنیای دیگر وارد می کند؛ حتی یک چهارچرخه کوچک! (+تصاویر) تبریک مسعود پزشکیان به مناسبت ولادت امام رضا (ع) قالیباف: هدف ترامپ تسلیم ایران از طریق محاصره دریایی و اختلاف داخلی است اخراج متقابل دیپلمات روسیه توسط انگلیس؛ تنش در لندن بالا گرفت اختلاف در لایه‌های قدرت لبنان بر سر مذاکره با رژیم صهیونیستی ترافیک سنگین در شمال؛ محدودیت‌های جدید در جاده چالوس طرح جنجالی فیفا؛ حضور اجباری بازیکن زیر ۲۱ سال در ترکیب باشگاه‌ها بنزین در آمریکا به بالاترین قیمت ۴ سال اخیر رسید جزئیات حراج جدید شمش طلا در مرکز مبادله؛ ۱۳ اردیبهشت ادامه مذاکرات غزه در قاهره؛ تداوم حملات رژیم صهیونیستی تاکید کمیسیون امنیت ملی بر صیانت از معیشت مردم در جنگ تحمیلی سوم