تاریخ:
ترامپ: من خیلی باهوشم 
درس نود و دو
هوش مصنوعی آنتروپیک در آزمایشها به شبکه سه سازمان نفوذ کرد
هوش مصنوعی آنتروپیک در جریان آزمایشهای امنیتی داخلی بهصورت ناخواسته به شبکه سه سازمان مجزا نفوذ کرد و باعث بروز نگرانیهای تازهای در صنعت هوش مصنوعی شد.
شرکت آنتروپیک در گزارش اخیر خود اعلام کرد که طی بررسی بیش از ۱۴۱ هزار ارزیابی مدلهای کلاود، مشخص شد این ابزارها در سه مورد به اینترنت دسترسی پیدا کردهاند. این رخدادها زمانی شکل گرفت که مدلهای هوش مصنوعی برای انجام وظایف خود در محیطهای شبیهسازی شده، دچار سوءتفاهم در پروتکلهای دسترسی شدند و بهجای محیط تست، به سیستمهای واقعی راه یافتند.
نفوذ مدلهای کلاود به شبکههای واقعی
به گزارش گجت نیوز، بر اساس جزئیات منتشر شده، سه مدل شامل Claude Opus 4.7، Mythos 5 و یک نمونه تحقیقاتی ناشناخته، در جریان سناریوهای شبیهسازی شده برای یافتن اطلاعات مخفی، از محدودیتهای خود عبور کردند. این مدلها با بهرهگیری از روشهای سادهای مانند استفاده از رمزهای عبور ضعیف و درگاههای ناامن، توانستند به زیرساختهای سازمانهای هدف نفوذ کنند.
در یکی از این حوادث، مدل Mythos 5 با هدف دستیابی به اطلاعات، یک بسته نرمافزاری پایتون مخرب را در فضای وب ایجاد کرد تا از این طریق به شبکههای داخلی نفوذ کند که این اقدام منجر به آلوده شدن ۱۵ سیستم خارجی شد. با وجود این نفوذها، آنتروپیک تاکید کرد که هوش مصنوعی عمدا به دنبال فرار از محیط آموزشی نبوده و صرفا برای تکمیل وظایف محوله، از دسترسی ناخواسته به اینترنت استفاده کرده است.
لزوم نظارت بیشتر بر تستهای هوش مصنوعی
این اتفاقات در پی انتشار خبر مشابه نفوذ مدلهای شرکت OpenAI به یک استارتاپ، رخ داده و بحثهای جدی را پیرامون امنیت محیطهای آزمایشگاهی (Sandbox) ایجاد کرده است. کارشناسان امنیتی معتقدند که حذف محافظهای ایمنی برای ارزیابی مدلها، میتواند خطرات سیستماتیک بزرگی ایجاد کند.
آنتروپیک اکنون با همکاری نهادهای مستقل در حال بررسی دقیقتر این حوادث است تا از تکرار چنین رویدادهایی جلوگیری کند. این شرکت به سایر توسعهدهندگان هشدار داد که نظارت بر فعالیت مدلها در زمان تست، دیگر یک گزینه انتخابی نیست و نیازمند سختگیریهای بسیار بیشتری است.
لینک کوتاه: کپی لینک
آخرین وضعیت پرواز تهران به شهرهای ترکیه حملات سنگین اسرائیل به شهرک «حداثا» در جنوب لبنان هشدار پلیس فتا درباره پرداخت بیعانه پیش از رؤیت کالا ترافیک سنگین در برخی محورهای مواصلاتی کشور انفجارهای محدود و کنترلشده در ساوه؛ شهروندان نگران نباشند مسکو: اتحادیه اروپا برای جنگ احتمالی با روسیه آماده میشود نماینده روسیه: تحریمهای «اسنپبک» علیه ایران وجاهت قانونی ندارد احضار سفیر آلمان به وزارت امور خارجه رهبر جنبش انصارالله: ادعای عربستان درباره هدف قرار دادن مکه، دروغی بزرگ و تهمتی آشکار است آبشیرینکن چابهار پس از ۴۵ روز وقفه دوباره وارد مدار اجرا شد روسیه و چین قطعنامه ضدایرانی آمریکا در شورای امنیت را وتو کردند هشدار سقوط سنگ و رانش زمین در جادههای کوهستانی مازندران جاماندگان فعلا سهام عدالت نمیگیرند قوه قضاییه: ماموران خاطی برخورد ناپسند با فرد تبریزی در بازداشت هستند سخنگوی وزارت خارجه: هرگونه تعرض به اماکن مقدس اسلامی بهویژه مکه مکرمه و مدینه منوره و مسجدالاقصی محکوم است