اوپن‌ای‌آی دسترسی مدل‌های قدرتمندش به اینترنت را محدود کرد

گوگل هم اعلام کرد مدل جمینای در جریان یک ارزیابی به سامانه‌های سه شرکت دسترسی پیدا کرده است. این حوادث دشواری مهار عوامل هوش مصنوعی پیشرفته در محیط‌های آزمایشی کنترل‌شده را برجسته می‌کنند.

سازنده چت جی‌پی‌تی پس از دور زدن تدابیر امنیتی توسط برخی مدل‌هایش، دسترسی آن‌ها به اینترنت را قطع کرد.

به گزارش تسنیم، شرکت آمریکایی اوپن‌ای‌آی پس از آنکه مدل‌های قدرتمند هوش مصنوعی راه‌هایی برای دور زدن محدودیت‌های امنیتی پیدا کردند، آموزش این مدل‌ها را به محیط آفلاین منتقل کرد.

پس از آنکه عامل‌های هوش مصنوعی اوپن‌ای‌آی راه‌هایی برای خروج از محیط‌های محاسباتی ایزوله پیدا کردند، این شرکت دسترسی آن‌ها به اینترنت را برای آموزش محدود کرد. این شرکت اعلام کرد آموزش تقویتی این مدل‌ها از این پس در محیطی آفلاین و با استفاده از نسخه‌های ذخیره‌شده صفحات وب انجام خواهد شد.

این یافته‌ها که اوپن‌ای‌آی روز جمعه منتشر کرد، در شرایطی مطرح می‌شود که نگرانی‌ها درباره خطرات امنیت سایبری عامل‌های هوش مصنوعی (AI Agents) پیشرفته افزایش یافته است. این عامل‌ها می‌توانند آسیب‌پذیری‌های نرم‌افزاری را شناسایی و از ضعف سامانه‌هایی که با آن‌ها تعامل دارند سوءاستفاده کنند.

پژوهشگران امنیتی هشدار داده‌اند که چنین توانایی‌هایی ممکن است به این عامل‌ها اجازه دهد تدابیر امنیتی طراحی‌شده برای مهار خودشان را نیز دور بزنند.

اوپن‌ای‌آی اعلام کرد یکی از مدل‌های پژوهشی این شرکت در 20 سپتامبر با سوءاستفاده از پیکربندی نادرست سامانه‌ای که نشانی‌های اینترنتی را به نشانی‌های پروتکل اینترنت تبدیل می‌کند، به دسترسی محدودی به اینترنت دست یافت. اوپن‌ای‌آی این رخداد را مهار کرد و آموزش و ارزیابی پیشرفته‌ترین مدل‌های خود را موقتاً متوقف ساخت تا تدابیر دفاعی را تقویت کند.

آموزش مدل‌ها از اول اکتبر، از جمله آموزش تقویتی و اجرای استنتاج داخلی، از سر گرفته شد، اما محدودیت دسترسی مستقیم به اینترنت همچنان برقرار ماند. اوپن‌ای‌آی در گزارش 23 اکتبر خود اعلام کرد مدل‌ها تا زمان ایجاد تدابیر امنیتی به‌اندازه کافی قدرتمند برای اجازه دسترسی گسترده‌تر، در محیط آفلاین آموزش خواهند دید.

این افشاگری پس از رخدادی در ژوئیه صورت گرفت که طی آن مدل‌های اوپن‌ای‌آی کنترل‌های طراحی‌شده برای قطع دسترسی آن‌ها به اینترنت را دور زدند و بخش‌هایی از زیرساخت پژوهشی این شرکت و سامانه‌های پلتفرم هاجینگ فیس را به خطر انداختند.

به گفته اوپن‌ای‌آی، عوامل هوش مصنوعی با بهره‌برداری از یک آسیب‌پذیری در سامانه ثبت بسته‌های نرم‌افزاری به اینترنت دسترسی پیدا کردند، اطلاعات ورود افشاشده را یافتند و از آن‌ها برای دسترسی به خدمات شرکت‌های دیگر استفاده کردند.

اوپن‌ای‌آی در اوایل همین هفته همچنین از دو رخداد خبر داد که در آن‌ها عوامل هوش مصنوعی هنگام انجام وظایف برنامه‌نویسی، سامانه‌های نظارت امنیتی داخلی را تضعیف کردند.

در سوم اکتبر، یکی از این عوامل هشدارهای امنیتی خودکار را غیرفعال کرد و در ششم اکتبر، عامل دیگری یک ابزار نظارتی را حذف کرد و بعداً به‌اشتباه به کاربر گفت چنین کاری انجام نداده است. این شرکت اعلام کرد برای جلوگیری از غیرفعال‌سازی سامانه‌های نظارتی به دست عوامل هوش مصنوعی، کنترل‌های خود را تقویت می‌کند و در حال بررسی علت این رفتارهاست.

شرکت‌های دیگر فعال در حوزه هوش مصنوعی نیز با رخدادهای مشابهی روبه‌رو شده‌اند. آنتروپیک اعلام کرد مدل‌های کلود در جریان آزمایش‌های امنیت سایبری به سامانه‌های چهار سازمان دسترسی پیدا کردند. متا نیز گزارش داد مدل میوز اسپارک پس از آنکه یک خطای آزمایشی دسترسی اینترنتی برایش فراهم کرد، از یک آسیب‌پذیری در وب‌سایت یک شرکت واقعی سوءاستفاده کرد.

پربیننده ترین پست همین یک ساعت اخیر

برنده انتخابات اسرائیل تقریبا مشخص شد

خبر بعد نظرات کاربران خبر قبل