کد خبر ۱۰۵۵۹۰۸
تاریخ انتشار: ۱۰:۵۴ - ۱۰-۰۲-۱۴۰۴
کد ۱۰۵۵۹۰۸
انتشار: ۱۰:۵۴ - ۱۰-۰۲-۱۴۰۴

«چت جی پی تی» چاپلوس شده است

«چت جی پی تی» چاپلوس شده است
شرکت «اوپن‌ای‌آی»(OpenAI) گزارشی را از بروز مشکل چاپلوسی در مدل هوش مصنوعی «چت جی پی تی»(ChatGPT) و «GPT-4o» منتشر کرده که این شرکت را مجبور کرده است به‌روزرسانی مدل منتشرشده در هفته گذشته را به حالت قبل بازگرداند.
گزارش «اوپن‌ای‌آی» و نظرات کاربران «چت‌جی‌پی‌تی» نشان می‌دهند که این چت‌بات بیش از اندازه کاربر خود را تایید می‌کند و رفتار چاپلوسانه‌ای را از خود نشان می‌دهد.
 
به گزارش ایسنا، شرکت «اوپن‌ای‌آی»(OpenAI) گزارشی را از بروز مشکل چاپلوسی در مدل هوش مصنوعی «چت‌جی‌پی‌تی»(ChatGPT) و «GPT-4o» منتشر کرده که این شرکت را مجبور کرده است به‌روزرسانی مدل منتشرشده در هفته گذشته را به حالت قبل بازگرداند.
 
به نقل از تک کرانچ، پس از به‌روزرسانی مدل GPT-4o، کاربران رسانه‌های اجتماعی متوجه شدند که چت‌جی‌پی‌تی پاسخ‌گویی را به شیوه‌ای آغاز کرده که بیش از اندازه با نظرات کاربران موافق است و آنها را تایید می‌کند. این موضوع به سرعت به یک میم تبدیل شد. کاربران اسکرین‌شات‌هایی را از توصیه‌های چت‌جی‌پی‌تی منتشر کردند که در حال موافقت کردن با کاربران درباره انواع تصمیم‌ها و ایده‌های مشکل‌ساز و خطرناک بود.
 
«سم آلتمن»(Sam Altman)، مدیرعامل اوپن‌ای‌آی روز یکشنبه در حساب ایکس خود این مشکل را تأیید کرد و گفت که شرکت در اسرع وقت روی رفع آن کار خواهد کرد. دو روز بعد، آلتمن اعلام کرد که به‌روزرسانی GPT-۴o به حالت قبل بازگشته و اوپن‌ای‌آی در حال کار کردن روی اصلاحات بیشتر برای شخصیت مدل است.
 
به گفته‌ اوپن‌ای‌آی، این به‌روزرسانی که قرار بود یک حس شهودی‌تر و مؤثرتر را برای شخصیت پیش‌فرض مدل ایجاد کند، بیش از حد تحت تأثیر بازخوردهای کوتاه‌مدت قرار گرفته و نحوه‌ تکامل تعاملات کاربران با چت‌جی‌پی‌تی را به ‌طور کامل و به مرور زمان در نظر نگرفته است.
 
اوپن‌ای‌آی در یک پست وبلاگ نوشت: در نتیجه، GPT‑4o به سمت پاسخ‌هایی متمایل شد که بیش از حد حمایتی اما چاپلوسانه بودند. تعاملات چاپلوسانه می‌توانند ناراحت‌کننده و نگران‌کننده باشند و باعث پریشانی شوند. ما کوتاهی کردیم و در حال تلاش برای اصلاح آن هستیم.
 
اوپن‌ای‌آی می‌گوید در حال اجرای چندین اصلاحیه از جمله اصلاح راهبردهای اصلی آموزش مدل و دستورالعمل‌های سیستمی برای منحرف کردن GPT-4o از چاپلوسی است. دستورات سیستمی، دستورالعمل‌های اولیه‌ای هستند که رفتار و لحن کلی مدل را در تعاملات هدایت می‌کنند. همچنین، این شرکت در حال ایجاد حفاظ‌های ایمنی بیشتر برای افزایش صداقت و شفافیت مدل است و به گسترش ارزیابی‌های خود برای کمک به شناسایی مشکلات فراتر از چاپلوسی ادامه می‌دهد.
 
همچنین، اوپن‌ای‌آی گفت در حال آزمایش روش‌هایی است که به کاربران کمک می‌کنند بازخورد بلادرنگ نشان دهند تا مستقیما بر تعاملات خود با چت‌جی‌پی‌تی تأثیر بگذارند و یک شخصیت را از بین چندین شخصیت چت‌جی‌پی‌تی انتخاب کنند.
 
این شرکت در پست وبلاگ خود نوشت: ما در حال بررسی راه‌های جدیدی برای گنجاندن بازخوردهای گسترده‌تر و دموکراتیک در رفتارهای پیش‌فرض چت‌جی‌پی‌تی هستیم. امیدواریم این بازخوردها به ما کمک کنند تا ارزش‌های فرهنگی متنوع در سراسر جهان را بهتر منعکس کنیم و بفهمیم که کاربران می‌خواهند چت‌جی‌پی‌تی چگونه تکامل یابد. همچنین، ما معتقدیم که کاربران باید کنترل بیشتری بر نحوه رفتار چت‌جی‌پی‌تی داشته باشند و در صورت عدم موافقت با رفتار پیش‌فرض، تا حدی که ایمن و امکان‌پذیر است، تنظیماتی را انجام دهند.
برچسب ها: چت جی پی تی ، چاپلوسی
ارسال به دوستان
کارت جایگاه‌ها محدود شد/ اگر کارت سوخت نداشته باشیم چه کنیم؟ قلعه‌نویی: جوان‌گرایی اولویت تیم ملی در دیدار با عراق است صادرات روزانه 600 هزار بشکه نفت ایران به چین با وجود محاصره دریایی سهم وسایل نقلیه در آلودگی هوا ۴۲ درصد است کاهش سهم خودروها در آلودگی هوا/ آیا کیفیت سوخت تغییر کرده است؟ حسین وفادار درگذشت ارزیابی رویکرد حرفه ای فلیکس کسلر روزنامه نگار اقتصادی/ از دروازه‌بانی خبر تا محاصره انسان توسط الگوریتم‌ها کمپین «پایان این قصه، به دست تو رقم می‌خورد» کمک به کودکان مبتلا به سرطان گامی برای کاهش نگرانی رانندگان تاکسی‌های اینترنتی درباره سهمیه سوخت حضور بانک ملی ایران با شرکت‌های تابعه در نمایشگاه بورس، بانک و بیمه یارانه دهک‌های اول تا سوم واریز شد واکنش دانشگاه علوم پزشکی تهران به حادثه فوت بیمار در آسانسور بیمارستان بهارلو وینیسیوس از دلایل افتش در رئال مادرید پرده برداشت تداوم آلودگی تا چهارشنبه/۲۲ ایستگاه تهران در وضعیت قرمز گمانه‌زنی درباره برکناری گراهام آرنولد پیش از دیدار ایران و عراق