۱۵ آذر ۱۴۰۴
به روز شده در: ۱۵ آذر ۱۴۰۴ - ۲۰:۴۹
فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
طراحی عالی و بی نظیر هوش مصنوعی از معماری یک خانه خاص و متفاوت (تصاویر) انتقاد تند مدیرعامل تراکتور: با وجود VAR پذیرش اشتباه داوری سخت است؛ احضار زنوزی به کمیته اخلاق سوال‌برانگیز است لغو جُنگ حامد آهنگی در اصفهان لغو جُنگ حامد آهنگی در اصفهان ایلان ماسک خواستار انحلال اتحادیه اروپا شد خبر خوش برای استقلال؛ الحدادی مشکلی برای دیدار مقابل ملوان ندارد؛ وضعیت احمدی نامشخص است صدور هشدار تشدید سامانه بارشی؛ هشدار بارش برف و تگرگ در ۱۶ استان کشور دومین شکست متوالی هندبال بانوان ایران در پرزیدنت کاپ؛ مغلوب پاراگوئه شدیم بازداشت ۶ نفر در لبنان با اتهام حمله به گشتی یونیفل یک تیم لیگ برتری کنار کشید؛ پایش پارت شاهرود از بسکتبال خداحافظی کرد؛ اعتبار لیگ زیر سؤال پرداخت خسارات اثاثیه منازل آسیب دیده در جنگ ۱۲ روزه به کجا رسید؟ فوت ۷ یزدی بر اثر ابتلا به آنفلوآنزا دانشمندان ۱۶ هزار ردپای دایناسور را در بولیوی ثبت کردند زره قصور الساف با قدمت بیش از 2000 سال؛ تلاقی قدرت و ظرافت(+تصاویر) دیدگاهی نامتعارف برای زندگی بهتر: هنر ظریف بی خیالی