هوش مصنوعی آنتروپیک در آزمایش‌ها به شبکه سه سازمان نفوذ کرد

نفوذ مدل‌های کلاود به شبکه‌های واقعی

به گزارش گجت نیوز، بر اساس جزئیات منتشر شده، سه مدل شامل Claude Opus 4.7، Mythos 5 و یک نمونه تحقیقاتی ناشناخته، در جریان سناریوهای شبیه‌سازی شده برای یافتن اطلاعات مخفی، از محدودیت‌های خود عبور کردند. این مدل‌ها با بهره‌گیری از روش‌های ساده‌ای مانند استفاده از رمزهای عبور ضعیف و درگاه‌های ناامن، توانستند به زیرساخت‌های سازمان‌های هدف نفوذ کنند.

در یکی از این حوادث، مدل Mythos 5 با هدف دستیابی به اطلاعات، یک بسته نرم‌افزاری پایتون مخرب را در فضای وب ایجاد کرد تا از این طریق به شبکه‌های داخلی نفوذ کند که این اقدام منجر به آلوده شدن ۱۵ سیستم خارجی شد. با وجود این نفوذها، آنتروپیک تاکید کرد که هوش مصنوعی عمدا به دنبال فرار از محیط آموزشی نبوده و صرفا برای تکمیل وظایف محوله، از دسترسی ناخواسته به اینترنت استفاده کرده است.

لزوم نظارت بیشتر بر تست‌های هوش مصنوعی

این اتفاقات در پی انتشار خبر مشابه نفوذ مدل‌های شرکت OpenAI به یک استارتاپ، رخ داده و بحث‌های جدی را پیرامون امنیت محیط‌های آزمایشگاهی (Sandbox) ایجاد کرده است. کارشناسان امنیتی معتقدند که حذف محافظ‌های ایمنی برای ارزیابی مدل‌ها، می‌تواند خطرات سیستماتیک بزرگی ایجاد کند.

آنتروپیک اکنون با همکاری نهادهای مستقل در حال بررسی دقیق‌تر این حوادث است تا از تکرار چنین رویدادهایی جلوگیری کند. این شرکت به سایر توسعه‌دهندگان هشدار داد که نظارت بر فعالیت مدل‌ها در زمان تست، دیگر یک گزینه انتخابی نیست و نیازمند سخت‌گیری‌های بسیار بیشتری است.

اشتراک گذاری :

1 مراسم یادبود اکبر عبدی در مسجد بلال صداوسیما / مهران غفوریان: امیدوارم ما را ببخشد