تاریخ:
مهدی طارمی: ترجیح میدادم در زمان جنگ در ایران میبودم 
درس پنجاه و سه
«چت جی پی تی» چاپلوس شده است
شرکت «اوپنایآی»(OpenAI) گزارشی را از بروز مشکل چاپلوسی در مدل هوش مصنوعی «چت جی پی تی»(ChatGPT) و «GPT-4o» منتشر کرده که این شرکت را مجبور کرده است بهروزرسانی مدل منتشرشده در هفته گذشته را به حالت قبل بازگرداند.
گزارش «اوپنایآی» و نظرات کاربران «چتجیپیتی» نشان میدهند که این چتبات بیش از اندازه کاربر خود را تایید میکند و رفتار چاپلوسانهای را از خود نشان میدهد.
به گزارش ایسنا، شرکت «اوپنایآی»(OpenAI) گزارشی را از بروز مشکل چاپلوسی در مدل هوش مصنوعی «چتجیپیتی»(ChatGPT) و «GPT-4o» منتشر کرده که این شرکت را مجبور کرده است بهروزرسانی مدل منتشرشده در هفته گذشته را به حالت قبل بازگرداند.
به نقل از تک کرانچ، پس از بهروزرسانی مدل GPT-4o، کاربران رسانههای اجتماعی متوجه شدند که چتجیپیتی پاسخگویی را به شیوهای آغاز کرده که بیش از اندازه با نظرات کاربران موافق است و آنها را تایید میکند. این موضوع به سرعت به یک میم تبدیل شد. کاربران اسکرینشاتهایی را از توصیههای چتجیپیتی منتشر کردند که در حال موافقت کردن با کاربران درباره انواع تصمیمها و ایدههای مشکلساز و خطرناک بود.
«سم آلتمن»(Sam Altman)، مدیرعامل اوپنایآی روز یکشنبه در حساب ایکس خود این مشکل را تأیید کرد و گفت که شرکت در اسرع وقت روی رفع آن کار خواهد کرد. دو روز بعد، آلتمن اعلام کرد که بهروزرسانی GPT-۴o به حالت قبل بازگشته و اوپنایآی در حال کار کردن روی اصلاحات بیشتر برای شخصیت مدل است.
به گفته اوپنایآی، این بهروزرسانی که قرار بود یک حس شهودیتر و مؤثرتر را برای شخصیت پیشفرض مدل ایجاد کند، بیش از حد تحت تأثیر بازخوردهای کوتاهمدت قرار گرفته و نحوه تکامل تعاملات کاربران با چتجیپیتی را به طور کامل و به مرور زمان در نظر نگرفته است.
اوپنایآی در یک پست وبلاگ نوشت: در نتیجه، GPT‑4o به سمت پاسخهایی متمایل شد که بیش از حد حمایتی اما چاپلوسانه بودند. تعاملات چاپلوسانه میتوانند ناراحتکننده و نگرانکننده باشند و باعث پریشانی شوند. ما کوتاهی کردیم و در حال تلاش برای اصلاح آن هستیم.
اوپنایآی میگوید در حال اجرای چندین اصلاحیه از جمله اصلاح راهبردهای اصلی آموزش مدل و دستورالعملهای سیستمی برای منحرف کردن GPT-4o از چاپلوسی است. دستورات سیستمی، دستورالعملهای اولیهای هستند که رفتار و لحن کلی مدل را در تعاملات هدایت میکنند. همچنین، این شرکت در حال ایجاد حفاظهای ایمنی بیشتر برای افزایش صداقت و شفافیت مدل است و به گسترش ارزیابیهای خود برای کمک به شناسایی مشکلات فراتر از چاپلوسی ادامه میدهد.
همچنین، اوپنایآی گفت در حال آزمایش روشهایی است که به کاربران کمک میکنند بازخورد بلادرنگ نشان دهند تا مستقیما بر تعاملات خود با چتجیپیتی تأثیر بگذارند و یک شخصیت را از بین چندین شخصیت چتجیپیتی انتخاب کنند.
این شرکت در پست وبلاگ خود نوشت: ما در حال بررسی راههای جدیدی برای گنجاندن بازخوردهای گستردهتر و دموکراتیک در رفتارهای پیشفرض چتجیپیتی هستیم. امیدواریم این بازخوردها به ما کمک کنند تا ارزشهای فرهنگی متنوع در سراسر جهان را بهتر منعکس کنیم و بفهمیم که کاربران میخواهند چتجیپیتی چگونه تکامل یابد. همچنین، ما معتقدیم که کاربران باید کنترل بیشتری بر نحوه رفتار چتجیپیتی داشته باشند و در صورت عدم موافقت با رفتار پیشفرض، تا حدی که ایمن و امکانپذیر است، تنظیماتی را انجام دهند.
لینک کوتاه: کپی لینک
تفاوت انواع گیربکسهای اتوماتیک چیست؟ منظرۀ یک کوچه در اصفهان و منارههای دارالضیافه؛ 115 سال قبل کشف سیاهچالهای غولپیکر که از کهکشان خود سنگینتر است؛ اما کسی نمیداند چگونه بارها از مردم فحش شنیدم تا «کسائی» شدم!(+عکس) ژست «زهرا سلطان دختر نظامالسلطنه» در جوانی در حیاط خانه قبل از مرگ باید دید: ۱۰ فیلم نوآر که هرگز از ذهن شما پاک نمیشوند! 10کشور با قوی ترین نیروی زیردریایی جهان در سال 2026 برای پیشگیری از نقرس و عوارض کلیوی، این ۷ ماده غذایی را از رژیم خود حذف کنید ایران ۱-۱نیوزیلند/ رامین رضاییان گل مساوی را زد پیام سخنگوی وزارت خارجه برای تیم ملی فوتبال در جام جهانی سردار قاآنی: جبهه مقاومت کابوس آمریکا و رژیم صهیونیستی است شهادت مأمور پلیس گیلان در عملیات مقابله با قاچاق کالا تست هوش هندسی: شکل بعدی این الگو را حدس بزنید! خروج قریبالوقوع هواپیماهای سوخترسان آمریکا از فرودگاه بنگوریون چه زمانی جهان زیبایی خود را از دست داد؟ / بازخوانی یک جا به جایی تاریخی در اولویت های طراحی (+تصاویر)