.png "عصر ایران")
۱۶ آذر ۱۴۰۴
به روز شده در: ۱۶ آذر ۱۴۰۴ - ۰۳:۳۰
عراقچی: توپ در زمین آمریکاست؛ اگر رویکردشان را عوض کنند، ما آمادهایم (فیلم) «چت جی پی تی» چاپلوس شده است
شرکت «اوپنایآی»(OpenAI) گزارشی را از بروز مشکل چاپلوسی در مدل هوش مصنوعی «چت جی پی تی»(ChatGPT) و «GPT-4o» منتشر کرده که این شرکت را مجبور کرده است بهروزرسانی مدل منتشرشده در هفته گذشته را به حالت قبل بازگرداند.
گزارش «اوپنایآی» و نظرات کاربران «چتجیپیتی» نشان میدهند که این چتبات بیش از اندازه کاربر خود را تایید میکند و رفتار چاپلوسانهای را از خود نشان میدهد.
به گزارش ایسنا، شرکت «اوپنایآی»(OpenAI) گزارشی را از بروز مشکل چاپلوسی در مدل هوش مصنوعی «چتجیپیتی»(ChatGPT) و «GPT-4o» منتشر کرده که این شرکت را مجبور کرده است بهروزرسانی مدل منتشرشده در هفته گذشته را به حالت قبل بازگرداند.
به نقل از تک کرانچ، پس از بهروزرسانی مدل GPT-4o، کاربران رسانههای اجتماعی متوجه شدند که چتجیپیتی پاسخگویی را به شیوهای آغاز کرده که بیش از اندازه با نظرات کاربران موافق است و آنها را تایید میکند. این موضوع به سرعت به یک میم تبدیل شد. کاربران اسکرینشاتهایی را از توصیههای چتجیپیتی منتشر کردند که در حال موافقت کردن با کاربران درباره انواع تصمیمها و ایدههای مشکلساز و خطرناک بود.
«سم آلتمن»(Sam Altman)، مدیرعامل اوپنایآی روز یکشنبه در حساب ایکس خود این مشکل را تأیید کرد و گفت که شرکت در اسرع وقت روی رفع آن کار خواهد کرد. دو روز بعد، آلتمن اعلام کرد که بهروزرسانی GPT-۴o به حالت قبل بازگشته و اوپنایآی در حال کار کردن روی اصلاحات بیشتر برای شخصیت مدل است.
به گفته اوپنایآی، این بهروزرسانی که قرار بود یک حس شهودیتر و مؤثرتر را برای شخصیت پیشفرض مدل ایجاد کند، بیش از حد تحت تأثیر بازخوردهای کوتاهمدت قرار گرفته و نحوه تکامل تعاملات کاربران با چتجیپیتی را به طور کامل و به مرور زمان در نظر نگرفته است.
اوپنایآی در یک پست وبلاگ نوشت: در نتیجه، GPT‑4o به سمت پاسخهایی متمایل شد که بیش از حد حمایتی اما چاپلوسانه بودند. تعاملات چاپلوسانه میتوانند ناراحتکننده و نگرانکننده باشند و باعث پریشانی شوند. ما کوتاهی کردیم و در حال تلاش برای اصلاح آن هستیم.
اوپنایآی میگوید در حال اجرای چندین اصلاحیه از جمله اصلاح راهبردهای اصلی آموزش مدل و دستورالعملهای سیستمی برای منحرف کردن GPT-4o از چاپلوسی است. دستورات سیستمی، دستورالعملهای اولیهای هستند که رفتار و لحن کلی مدل را در تعاملات هدایت میکنند. همچنین، این شرکت در حال ایجاد حفاظهای ایمنی بیشتر برای افزایش صداقت و شفافیت مدل است و به گسترش ارزیابیهای خود برای کمک به شناسایی مشکلات فراتر از چاپلوسی ادامه میدهد.
همچنین، اوپنایآی گفت در حال آزمایش روشهایی است که به کاربران کمک میکنند بازخورد بلادرنگ نشان دهند تا مستقیما بر تعاملات خود با چتجیپیتی تأثیر بگذارند و یک شخصیت را از بین چندین شخصیت چتجیپیتی انتخاب کنند.
این شرکت در پست وبلاگ خود نوشت: ما در حال بررسی راههای جدیدی برای گنجاندن بازخوردهای گستردهتر و دموکراتیک در رفتارهای پیشفرض چتجیپیتی هستیم. امیدواریم این بازخوردها به ما کمک کنند تا ارزشهای فرهنگی متنوع در سراسر جهان را بهتر منعکس کنیم و بفهمیم که کاربران میخواهند چتجیپیتی چگونه تکامل یابد. همچنین، ما معتقدیم که کاربران باید کنترل بیشتری بر نحوه رفتار چتجیپیتی داشته باشند و در صورت عدم موافقت با رفتار پیشفرض، تا حدی که ایمن و امکانپذیر است، تنظیماتی را انجام دهند.
لینک کوتاه: کپی لینک
سفر در زمان؛ «رضاخان» چند روز قبل استعفا به همراه محمدرضا پهلوی؛ سال 1320(عکس) اگر یک سر میلهای فلزی به طول ۳۰ کیلومتر را تکان دهیم، انتهای آن فوراً حرکت میکند؟ قصههای نان و نمک(68)/ عادت میکنی عزیزم! خوب میشی! محمود بصیری در ۲۸ سالگی در کنار فتحعلی اویسی؛ سال ۵۴ (عکس) سلولها چگونه موقعیت خود و نقششان در بدن را میفهمند؟ علت خفگی و گاز نخوردن ماشین پراید و پژو ۴۰۵ + راههای رفع مشکل خفگی ماشین وزیر میراث فزهنگی: بیش از یک میلیون اثر تاریخی شناختهشده در ایران وجود دارد برخی مدارس استان مرکزی یکشنبه غیرحضوری شدند رئیس سابق سازمان برنامه و بودجه: دولت منابع مالی ندارد ۱۸ کشته در حمله هوایی در میانمار ژیلا صادقی:« مدیر شبکه 3 تلویزیون با حرکت دست به من گفت: «کار خودتو ساختی» قدیری ابیانه: یارانه اگر درست به دست مردم برسد به هر خانواده ۳۰ میلیون میرسد (فیلم) نقص فنی در پرواز ماهشهر - تهران مدارس و دانشگاههای کهگیلویه و بویراحمد غیرحضوری شد یاسویو ؛ 56 سال زیبایی معماری یک ساختمان در ژاپن (+عکس)
نظرسنجی
با توجه به مشخص شدن رقبای ایران در مرحله نخست جام جهانی فوتبال، به نظر شما تیم ملی می تواند به مرحله بعدی صعود کند؟