تاریخ:
پاسخ جنجالی مجید واشقانی به اظهارات امیرحسین قیاسی 
درس هفتاد و سه
هوش مصنوعی آنتروپیک در آزمایشها به شبکه سه سازمان نفوذ کرد
هوش مصنوعی آنتروپیک در جریان آزمایشهای امنیتی داخلی بهصورت ناخواسته به شبکه سه سازمان مجزا نفوذ کرد و باعث بروز نگرانیهای تازهای در صنعت هوش مصنوعی شد.
شرکت آنتروپیک در گزارش اخیر خود اعلام کرد که طی بررسی بیش از ۱۴۱ هزار ارزیابی مدلهای کلاود، مشخص شد این ابزارها در سه مورد به اینترنت دسترسی پیدا کردهاند. این رخدادها زمانی شکل گرفت که مدلهای هوش مصنوعی برای انجام وظایف خود در محیطهای شبیهسازی شده، دچار سوءتفاهم در پروتکلهای دسترسی شدند و بهجای محیط تست، به سیستمهای واقعی راه یافتند.
نفوذ مدلهای کلاود به شبکههای واقعی
به گزارش گجت نیوز، بر اساس جزئیات منتشر شده، سه مدل شامل Claude Opus 4.7، Mythos 5 و یک نمونه تحقیقاتی ناشناخته، در جریان سناریوهای شبیهسازی شده برای یافتن اطلاعات مخفی، از محدودیتهای خود عبور کردند. این مدلها با بهرهگیری از روشهای سادهای مانند استفاده از رمزهای عبور ضعیف و درگاههای ناامن، توانستند به زیرساختهای سازمانهای هدف نفوذ کنند.
در یکی از این حوادث، مدل Mythos 5 با هدف دستیابی به اطلاعات، یک بسته نرمافزاری پایتون مخرب را در فضای وب ایجاد کرد تا از این طریق به شبکههای داخلی نفوذ کند که این اقدام منجر به آلوده شدن ۱۵ سیستم خارجی شد. با وجود این نفوذها، آنتروپیک تاکید کرد که هوش مصنوعی عمدا به دنبال فرار از محیط آموزشی نبوده و صرفا برای تکمیل وظایف محوله، از دسترسی ناخواسته به اینترنت استفاده کرده است.
لزوم نظارت بیشتر بر تستهای هوش مصنوعی
این اتفاقات در پی انتشار خبر مشابه نفوذ مدلهای شرکت OpenAI به یک استارتاپ، رخ داده و بحثهای جدی را پیرامون امنیت محیطهای آزمایشگاهی (Sandbox) ایجاد کرده است. کارشناسان امنیتی معتقدند که حذف محافظهای ایمنی برای ارزیابی مدلها، میتواند خطرات سیستماتیک بزرگی ایجاد کند.
آنتروپیک اکنون با همکاری نهادهای مستقل در حال بررسی دقیقتر این حوادث است تا از تکرار چنین رویدادهایی جلوگیری کند. این شرکت به سایر توسعهدهندگان هشدار داد که نظارت بر فعالیت مدلها در زمان تست، دیگر یک گزینه انتخابی نیست و نیازمند سختگیریهای بسیار بیشتری است.
لینک کوتاه: کپی لینک
گیگهای پفکی پایان قطعی برق خانگی از مهرماه؛ وعده مهم وزارت نیرو برای تامین انرژی تعطیلی ادارات بوشهر در ۱۴ مرداد؛ تصمیمی برای مدیریت مصرف انرژی حمله به زیر ساخت ها؛ دکترین جدید آمریکایی- صهیونیستی که نباید نهادینه شود مصوبه ۸۵۶ شورای رقابت؛ این جاده یکطرفه است «صحنه» برنامه جدید استعدادیابی خوانندگی در نمایش خانگی نخست وزیر مصر: جنگ علیه ایران، اقتصاد جهانی را تحت فشار قرار داده است زندگی نویسنده معروف ماریو بارگاس یوسا ؛ چرا این همه دروغ، این همه فریب، این همه بیوفایی؟ سپاه: توطئه خلع سلاح حماس راه به جایی نخواهد برد/ خونخواهی رهبر شهید انقلاب و شهید اسماعیل هنیه، قطعی و پاسخ به این جنایت های بزرگ، را سخت و کوبنده است مذاکرات خارجی تصمیم نظام است نه دولت؛ رد پای خطوط قرمز در دیپلماسی تقویت توان دفاعی و نظامی؛ درسهای جنگ ۴۰ روزه و اهمیت بازدارندگی قوه قضاییه: هیچ یک از اموال سردار آزمون رفع توقیف نشده است پاشینیان بار دیگر نخست وزیر ارمنستان شد قانون سفت و سخت لیونل مسی برای حضور در فیلمبرداری تبلیغاتی برندهای مختلف وزیر دارایی اسرائیل خواستار کنترل کامل این رژیم بر نوار غزه شد