تاریخ:
خودداری شهردار نیویورک از حضور در رژه روز اسرائیل 
درس چهل و پنجم
همبنیانگذار گوگل: هوش مصنوعی را تهدید کنید تا پاسخهای بهتری بگیرید
مدلهای هوش مصنوعی ظاهراً در فرایند آموزش خود فهمیدهاند «تهدید» به این معنی است که کار باید جدیتر گرفته شود.
راههای مختلفی برای افزایش عملکرد هوش مصنوعی مولد و دریافت خروجی موردنظر وجود دارد. «سرگی برین»، همبنیانگذار گوگل، در مصاحبه جدیدی راهکار عجیبی برای این مسئله مطرح کرد. او میگوید کاربران میتوانند با تهدید هوش مصنوعی عملکرد آن را بهبود بدهند.
به گزارش دیجیاتو، سرگی برین در مصاحبهای با All-In Podcast گفت: «نهفقط مدلهای [هوش مصنوعی] ما، بلکه تمام مدلها، اگر آنها را تهدید کنید، عملکرد بهتری خواهند داشت.» او سپس گفت مثلاً آنها را به «خشونت فیزیکی» تهدید کنید. برین توضیح داد چون مردم احساس خوبی به این کار نخواهند داشت، تاکنون چنین توصیهای عمومی مطرح نشده است. درکل به نظر میرسد مدلهای هوش مصنوعی طی فرایند آموزش فهمیدهاند «تهدید» به این معنی است که کار باید جدیتر گرفته شود؛ به همین دلیل وقتی تهدید میشوند، خروجی بهتری ارائه میدهند.
افزایش عملکرد هوش مصنوعی با تهدید
در این پادکست یکی از مهمانان برنامه بهشوخی گفت اگر به هوش مصنوعی گستاخی کنید، کارهای شما را بهتر انجام میدهد. سرگی برین نیز در تأکید حرف او گفت با تهدید مدلهای هوش مصنوعی، عملکرد آنها بهتر میشود.
البته مشخص نیست واقعاً چتباتها با تهدید عملکرد بهتری داشته باشند و ممکن است حتی اخطاری از سازنده آن هوش مصنوعی دریافت کنید. شرکت آنتروپیک بهتازگی مدلهای هوش مصنوعی Claude 4 خود را منتشر کرد؛ سپس یکی از کارمندان این شرکت در Bluesky گفت مدل جدید Opus که بالاترین عملکرد را دارد، میتواند با نهادهای نظارتی تماس بگیرد و اکانت شما را مسدود کند تا مانع کارهای «غیراخلاقی» بشود.
قابلیت جدید شرکت آنتروپیک فعلاً در مرحله آزمایشی است ولی احتمالاً در آینده عملی شود؛ بهاین ترتیب ممکن است هوش مصنوعی تهدیدهای شما برای انجام کارهای مختلف را گزارش بدهد. درکل کارشناسان توصیه میکنند کاربران با پرامپتنویسی اصولی و دقیق خروجی موردنظرشان را از هوش مصنوعی دریافت کنند. اگرچه راههای مختلفی برای دورزدن محدودیتهای هوش مصنوعی از طریق پرامپت وجود دارد، چارچوب امنیتی مدلهای هوش مصنوعی پیشرفته را نمیتوان بهراحتی از بین برد.
لینک کوتاه: کپی لینک
آلزایمر چیست، نشانه هایش کدام است و چه کنیم مبتلا نشویم؟ صحبتهای محمدرضا گلزار در خصوص نمازها و دعاهایش در نیمه شب حسین علایی: 3 روز قبل از جنگ به شمخانی گفتم می خواهند با زدن رهبری جنگ را آغاز کنند/ گفت: نمی توانند منظور ترامپ از پست جدیدش چه بود؟ ادعای وزیر خزانه داری آمریکا: محاصره دریایی تدریجی برداشته خواهد شد وزیر خارجه پاکستان: به پیمان ابراهیم ملحق نمی شویم/تداوم حمایت از آزادی فلسطین گروسی مدعی آمادگی قزاقستان برای نگهداری اورانیوم ایران شد نیویورک تایمز: ترامپ هیچ تصمیمی درباره ایران نگرفت عاملی: تغییری در مصوبه تاثیر قطعی معدل بر کنکور ایجاد نمیشود قدردانی آمریکا از پاکستان بابت میانجیگری در گفتوگوها با ایران واکنش غریبآبادی به اقدام اسرائیل در حمله به نهادهای بین المللی ادعای وال استریت ژورنال؛ امارات دهها حمله هوایی مخفیانه علیه ایران انجام داده است گرمای بیسابقه در مازندران رکورد زد عرضه اولیه شیفته آرای شرق در فرابوس نبی: هنوز ویزای تیم ملی برای حضور در آمریکا صادر نشده