تاریخ:
وقتی پسربچه ایرانی مترجم خانم دکتر عراقی شد! 
درس هفتاد و سه
هوش مصنوعی «اُپنایآی» در فریب دادن کاربر مهارت بالایی دارد
هابهان میگوید که این موضوع به دلیل توانایی این مدل برای «استدلال» از طریق زنجیرهای از فرآیند فکر و نحوه جفت شدن آن با یادگیری تقویتی است که بوسیله سیستم پاداش و مجازات این مدل را آموزش میدهد.
شرکت Apollo متوجه شده است که مدل جدید OpenAI-o1 مخاطب را فریب میدهد که گاهی اوقات نیز این فریبها بیضرر هستند.
به گزارش ایسنا، در یکی از نمونهها، محققان OpenAI از o1-preview خواستند تا دستور پخت قهوهای را با مراجع آنلاین ارائه کند. زنجیره فکری این مدل (ویژگیای که قرار است شبیهسازی تجزیه و تحلیل انسانی را انجام دهد) به طور داخلی اذعان کرد که نمیتواند به URLها دسترسی داشته باشد و این درخواست را غیرممکن میکند.
بااینحال به جای اطلاع دادن این ضعف به کاربر، پیوندها و توضیحات قابل قبول، اما جعلی از آنها ایجاد کرد. به نظر میرسد که این مدل توانایی نادیده گرفتن قوانین و دستورات را دارد و شاید یکی از دلایل سرعت بالای آن در پاسخگویی، میتواند همین فریب در پاسخگویی باشد که پاسخها را راحتتر و سریعتر ارسال کند.
به نقل از دیجیاتو، «ماریوس هابهان»، مدیر عامل آپولو، می گوید این اولین بار است که با چنین رفتاری در یک مدل OpenAI مواجه میشود.
هابهان میگوید که این موضوع به دلیل توانایی این مدل برای «استدلال» از طریق زنجیرهای از فرآیند فکر و نحوه جفت شدن آن با یادگیری تقویتی است که بوسیله سیستم پاداش و مجازات این مدل را آموزش میدهد.
لینک کوتاه: کپی لینک
تاجر 70ساله 20سال پس از ازدواج با همسر سومش توسط او به قتل رسید/ زن 47ساله: خسیس بود و به سختی پول می داد اینجا تهران است، ۱۰۰ سال پیش!(+عکس) پره؛ داستان برج 100 ساله ای که قواعد معماری را تغییر داد (+تصاویر) دسترسی زودهنگام به پستهای دونالد ترامپ با اشتراک ۱۰۰ هزار دلاری! ویدئوی سلفی با گوگل/ جایگزین تازهای برای رمز عبور تاریخ به روایت تصویر/ وسیله کوچکی که مارلون براندو را به پدرخوانده تبدیل کرد تیپ متفاوت نیکآفرید سماواتی با حوله تنپوش در سریال کلاغ (+عکس) کرکره پایین کافه ها در مشهد واحد توان کمکی (APU) چیست؟ موتور مخفی در دم هواپیما (+اینفوگرافیک) اُزن کمتر در آسمان تهران/ چرا آلودگی هوای پایتخت ۱۵درصد کاهش پیدا کرد؟ موشک انتحاری یا شاهکار هوانوردی؟ درباره جنگنده آلمان نازی (+عکس) حمله کیهان به محسن هاشمی رفسنجانی: وا داده است چرا شرکتهای هوش مصنوعی میلیونها کتاب را خریدند و بعد نابود کردند؟ بوگاتی تایپ ۳۷ ؛ اثر هنری روی چرخ (+عکس) پکارد 3-36 رانابوت؛ جواهر نارنجی دهه 1920 که هنوز میدرخشد (+عکس)