تاریخ:
سوپرگل رشفورد، گل اول بارسلونا به رئال مادرید 
درس سی و هشتم
هوش مصنوعی «اُپنایآی» در فریب دادن کاربر مهارت بالایی دارد
هابهان میگوید که این موضوع به دلیل توانایی این مدل برای «استدلال» از طریق زنجیرهای از فرآیند فکر و نحوه جفت شدن آن با یادگیری تقویتی است که بوسیله سیستم پاداش و مجازات این مدل را آموزش میدهد.
شرکت Apollo متوجه شده است که مدل جدید OpenAI-o1 مخاطب را فریب میدهد که گاهی اوقات نیز این فریبها بیضرر هستند.
به گزارش ایسنا، در یکی از نمونهها، محققان OpenAI از o1-preview خواستند تا دستور پخت قهوهای را با مراجع آنلاین ارائه کند. زنجیره فکری این مدل (ویژگیای که قرار است شبیهسازی تجزیه و تحلیل انسانی را انجام دهد) به طور داخلی اذعان کرد که نمیتواند به URLها دسترسی داشته باشد و این درخواست را غیرممکن میکند.
بااینحال به جای اطلاع دادن این ضعف به کاربر، پیوندها و توضیحات قابل قبول، اما جعلی از آنها ایجاد کرد. به نظر میرسد که این مدل توانایی نادیده گرفتن قوانین و دستورات را دارد و شاید یکی از دلایل سرعت بالای آن در پاسخگویی، میتواند همین فریب در پاسخگویی باشد که پاسخها را راحتتر و سریعتر ارسال کند.
به نقل از دیجیاتو، «ماریوس هابهان»، مدیر عامل آپولو، می گوید این اولین بار است که با چنین رفتاری در یک مدل OpenAI مواجه میشود.
هابهان میگوید که این موضوع به دلیل توانایی این مدل برای «استدلال» از طریق زنجیرهای از فرآیند فکر و نحوه جفت شدن آن با یادگیری تقویتی است که بوسیله سیستم پاداش و مجازات این مدل را آموزش میدهد.
لینک کوتاه: کپی لینک
اگر با درمانهای معمول سنگ کلیه دفع نشد، پای این دمنوشها را وسط بکشید چرا نظریه «دزدیدن باران» دوباره مطرح شد؟ دیدنی های امروز؛ از تخلیه کشتی تفریحی ویروسی تا تظاهرات ضدسلطنتی در انگلیس خطرات دوران «نه جنگ، نه صلح»/ ساختمانها را میتوان دوباره ساخت اما روحیه اجتماعی را چطور؟ بحران «دستودلبازی» در درمان؛ سرم و آنتیبیوتیک را هدر ندهید زیان اقتصادی نجومی قطعی اینترنت و گوش های که نمی شنوند انگلیس برای اسرائیل مجوز صادرات نظامی صادر کرد وزیر جنگ مظفرالدین شاه در بازدید از تمرین نظامیان در میدان مشق(عکس) ST-26 ؛ نمایش خلاقیت واحد مهندسی ارتش شوروی (+عکس) واکنش سازمان محیط زیست به شایعه انتشار آلودگی نفتی در اطراف جزیره خارک قیمت جهانی نفت امروز 21 اردیبهشت 1405 با نوشیدن چای سبز چه اتفاقی برای فشار خون میافتد؟ سرمایه نهنگ خفته بیتکوین ۸۹ برابر شد فصلی برای آیین «گَل بَرینه» در کرمانشاه توقیف جدید املاک علی کریمی / قوه قضائیه : 2 مغازه و 4 خانه را به نام پسرش زده بود(عکس+فیلم)