کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
چرا به دیوارهای بتنی وسط بزرگراه «نیوجرسی» می‌گوییم؟ راز طراحی عجیب آن‌ها آموزش زبان انگلیسی به سبک عصر ایران / درس صد و پانزده مقایسه زرادخانه هسته‌ای جهان در ۲۰۰۶ و ۲۰۲۶ (+ اینفوگرافیک) سرطان پانکراس چرا اغلب دیر تشخیص داده می‌شود؟ علائم خاموشی که نباید نادیده بگیرید نورا محقق، بازیگر سریال «شغال» با استایل پاییزی متفاوت در قاب عکاسی (+عکس) جوزفین کوکران؛ زنی که ماشین ظرف‌شویی را اختراع کرد(+عکس) شازدۀ قاجاری با تیپ خاص غربی در کنار دختر کوچکش؛ سال 1287(عکس) خداحافظی با رینگ‌های معمولی؟ اختراع جدید هیوندای برای کاهش مصرف سوخت خودروها فیلسوف-امپراتور روم هر روز صبح به خودش چه می‌گفت؟ نبود ما همیشه به نفع طبیعت نیست؛ وقتی طاعون انسان‌ها را کشت، تنوع زیستی هم کم شد حل معمای ۶۰۰ ساله؛ کشف نظم واقعی صفحات عجیب‌ترین کتاب دنیا اروپا از طرح موشک رهگیر AQUILA برای مقابله با تسلیحات هایپرسونیک رونمایی کرد گاز دادن در حالت توقف؛ مفید برای موتور یا عامل آسیب به خودرو؟ آن حروف ناخوانای اعصاب‌خردکن بی‌دلیل نبودند؛ ماجرای عجیب کپچاهای قدیمی اینترنت چرا قطره‌های آب روی ماهیتابه داغ سُر می‌خورند و دیرتر تبخیر می‌شوند؟