۰۹ بهمن ۱۴۰۴
به روز شده در: ۰۹ بهمن ۱۴۰۴ - ۰۵:۰۰
فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
متحصنین مشروطه‌خواه ایرانی در سفارت عثمانی در تهران (عکس) ناو آبراهام لینکلن روزانه چقدر هزینه برای ترامپ می‌تراشد؟ خوراکی‌هایی که مثل بخاری بدن را در سرما گرم نگه می‌دارد دیدار «ریچارد هلمز، سفیر امریکا» با «اسدالله علم»؛ دهه 50 (عکس) چرا ناوهای جنگی کلاس ترامپ گران‌ترین سلاح تاریخ می‌شوند؟ ۵۰ اقتصاد بزرگ جهان در سال ۲۰۲۶ بر اساس تولید ناخالص داخلی مورد انتظار (+ اینفوگرافیک) ۱۰۰ فیلم برتر دنیا از دید مجله تخصصی کایه دو سینما استاندار خراسان رضوی: برای واردات کالاهای مورد نیاز از افغانستان آمادگی کامل داریم افت محسوس نیازمند در دور برگشت لیگ برتر؛ ۶ گل در ۳ مسابقه ساعت خاص ستاره تکرارنشدنی دنیای فوتبال (+عکس) رئیس جمهور چین به آمریکا می رود رویاپردازی فولاد در لیگ و جام حذفی با مهره‌های جدید مکرون: به دنبال تحریم های جدید علیه روسیه هستیم سخنگوی سازمان تعزیرات حکومتی: مردم از ثبت‌نام در طرح فروش ایران‌خودرو خودداری کنند! تقابل طارمی و آژاکس در لیگ قهرمانان اروپا؛ ستاره ایرانی فیکس شد