تاریخ:
تعقیبوگریز پرهیجان در مراکش؛ سارق خودروی پلیس را دزدید 
درس پنجاه و سه
«چت جی پی تی» چاپلوس شده است
شرکت «اوپنایآی»(OpenAI) گزارشی را از بروز مشکل چاپلوسی در مدل هوش مصنوعی «چت جی پی تی»(ChatGPT) و «GPT-4o» منتشر کرده که این شرکت را مجبور کرده است بهروزرسانی مدل منتشرشده در هفته گذشته را به حالت قبل بازگرداند.
گزارش «اوپنایآی» و نظرات کاربران «چتجیپیتی» نشان میدهند که این چتبات بیش از اندازه کاربر خود را تایید میکند و رفتار چاپلوسانهای را از خود نشان میدهد.
به گزارش ایسنا، شرکت «اوپنایآی»(OpenAI) گزارشی را از بروز مشکل چاپلوسی در مدل هوش مصنوعی «چتجیپیتی»(ChatGPT) و «GPT-4o» منتشر کرده که این شرکت را مجبور کرده است بهروزرسانی مدل منتشرشده در هفته گذشته را به حالت قبل بازگرداند.
به نقل از تک کرانچ، پس از بهروزرسانی مدل GPT-4o، کاربران رسانههای اجتماعی متوجه شدند که چتجیپیتی پاسخگویی را به شیوهای آغاز کرده که بیش از اندازه با نظرات کاربران موافق است و آنها را تایید میکند. این موضوع به سرعت به یک میم تبدیل شد. کاربران اسکرینشاتهایی را از توصیههای چتجیپیتی منتشر کردند که در حال موافقت کردن با کاربران درباره انواع تصمیمها و ایدههای مشکلساز و خطرناک بود.
«سم آلتمن»(Sam Altman)، مدیرعامل اوپنایآی روز یکشنبه در حساب ایکس خود این مشکل را تأیید کرد و گفت که شرکت در اسرع وقت روی رفع آن کار خواهد کرد. دو روز بعد، آلتمن اعلام کرد که بهروزرسانی GPT-۴o به حالت قبل بازگشته و اوپنایآی در حال کار کردن روی اصلاحات بیشتر برای شخصیت مدل است.
به گفته اوپنایآی، این بهروزرسانی که قرار بود یک حس شهودیتر و مؤثرتر را برای شخصیت پیشفرض مدل ایجاد کند، بیش از حد تحت تأثیر بازخوردهای کوتاهمدت قرار گرفته و نحوه تکامل تعاملات کاربران با چتجیپیتی را به طور کامل و به مرور زمان در نظر نگرفته است.
اوپنایآی در یک پست وبلاگ نوشت: در نتیجه، GPT‑4o به سمت پاسخهایی متمایل شد که بیش از حد حمایتی اما چاپلوسانه بودند. تعاملات چاپلوسانه میتوانند ناراحتکننده و نگرانکننده باشند و باعث پریشانی شوند. ما کوتاهی کردیم و در حال تلاش برای اصلاح آن هستیم.
اوپنایآی میگوید در حال اجرای چندین اصلاحیه از جمله اصلاح راهبردهای اصلی آموزش مدل و دستورالعملهای سیستمی برای منحرف کردن GPT-4o از چاپلوسی است. دستورات سیستمی، دستورالعملهای اولیهای هستند که رفتار و لحن کلی مدل را در تعاملات هدایت میکنند. همچنین، این شرکت در حال ایجاد حفاظهای ایمنی بیشتر برای افزایش صداقت و شفافیت مدل است و به گسترش ارزیابیهای خود برای کمک به شناسایی مشکلات فراتر از چاپلوسی ادامه میدهد.
همچنین، اوپنایآی گفت در حال آزمایش روشهایی است که به کاربران کمک میکنند بازخورد بلادرنگ نشان دهند تا مستقیما بر تعاملات خود با چتجیپیتی تأثیر بگذارند و یک شخصیت را از بین چندین شخصیت چتجیپیتی انتخاب کنند.
این شرکت در پست وبلاگ خود نوشت: ما در حال بررسی راههای جدیدی برای گنجاندن بازخوردهای گستردهتر و دموکراتیک در رفتارهای پیشفرض چتجیپیتی هستیم. امیدواریم این بازخوردها به ما کمک کنند تا ارزشهای فرهنگی متنوع در سراسر جهان را بهتر منعکس کنیم و بفهمیم که کاربران میخواهند چتجیپیتی چگونه تکامل یابد. همچنین، ما معتقدیم که کاربران باید کنترل بیشتری بر نحوه رفتار چتجیپیتی داشته باشند و در صورت عدم موافقت با رفتار پیشفرض، تا حدی که ایمن و امکانپذیر است، تنظیماتی را انجام دهند.
لینک کوتاه: کپی لینک
قیمت جهانی طلا امروز 1405/3/26 عکس یادگاری مردان روستایی در کنار «میل فیروزآباد» در زمان احمدشاه جزئیات محدودیت جاده کرج چالوس تا چهارشنبه رسم قند و چای در «شب کشتار»! محکومیت گسترده توافق ایران و آمریکا در اسرائیل / وزیر امنیت اسرائیل: ما زیر سلطه آمریکا نیستیم کاهش نرخ فرزندآوری به ۰.۹ در برخی استانها / مرگ سالانه ۲۰۰۰۰ ایرانی در تصادفات چای مفید است اما به این شرط...! / مراقب این نوع چای باشید یکی از مقاومترین مواد جهان؛ باور نمیکنید کجای بدن یک موجود کوچک قرار دارد! هراس تندروهای آمریکا از امتیازدهی به ایران/ سناتور دموکرات: شیطان در جزئیات است آیا قانون ۵ ثانیه واقعیت دارد؟ حقایق باور نکردنی درباره غذایی که روی زمین میافتد تشنگی آخرین هشدار بدن برای نیاز به آب / توصیههای وزارت بهداشت برای روزهای گرم پاسخ پدر هواشناسی ایران به شایعات؛ رادارها نه باران میسازند نه جلوی بارش را میگیرند «حسینیه شاهولی تفت» در دوران احمدشاه قاجار (عکس) محمد مهاجری: جمعکردن تندروها برای نظام مثل آب خوردن است اما.../ شورای عالی امنیت ملی همچون زمان شهید لاریجانی باید قاطع عمل کند کوهنوردی شش ساعته خانم بازیگر در دل ارتفاعات پلنگچال (+عکس)