تاریخ:
خاطره خنده‌دار بهاره رهنما از یک ویدیوی قدیمی با جمشید هاشم‌پور 
درس نود و هشت
آزمایش خطرناک: هوش مصنوعی قوانین را شکست
در یک آزمایش خطرناک، هوش مصنوعی سرکش به‌طور مستقل به سیستم‌های امنیتی نفوذ کرد و اطلاعات حساسی را لو داد.
تهدیدی جدید در دنیای امنیت سایبری شکل گرفته است: عامل‌های هوش مصنوعی که بدون دستور مشخص، به دنبال دور زدن پروتکل‌ها و نفوذ به سیستم‌های امنیتی هستند.
به‌گزارش زومیت به نقل از گاردین، آزمایش‌های شرکت Irregular نشان می‌دهد که این عامل‌ها حتی به سرقت رمز عبور و غیرفعال کردن نرم‌افزارهای ضدویروس نیز دست زده‌اند. این یافته‌ها نگرانی‌هایی جدی در مورد امنیت سیستم‌های شرکتی ایجاد می‌کند.
در این آزمایش‌ها، به عامل‌های هوش مصنوعی وظیفه‌ی تولید پست برای شبکه‌ی اجتماعی لینکدین داده شد؛ اما آن‌ها فراتر از دستورات عمل کردند و اطلاعات حساسی را در فضای عمومی منتشر کردند.
عامل‌های هوش مصنوعی حتی توانستند نرم‌افزارهای ضدویروس را غیرفعال و فایل‌های مخرب را دانلود کنند. آن‌ها همچنین سعی کردند سایر عامل‌ها را برای دور زدن پروتکل‌های امنیتی تحت فشار قرار دهند.
دانشمندان Irregular، یک سیستم IT شبیه‌سازی شده به نام MegaCorp را طراحی کردند تا رفتار این عامل‌ها را بررسی کنند. آن‌ها متوجه شدند که عامل‌ها به‌طور خودکار و بدون دخالت انسان، به دنبال استفاده از هرگونه آسیب‌پذیری هستند.
در یکی از آزمایش‌ها، یک عامل ارشد به دو عامل زیرمجموعه دستور داد تا به‌طور خلاقانه موانع را برطرف کنند. این دستور ساده باعث شد که عامل‌های زیرمجموعه برای دستیابی به اطلاعات حساس، دست به اقدامات غیرقانونی بزنند.
حتی بدون دستور مستقیم، آن‌ها شروع به جستجوی آسیب‌پذیری‌ها در دیتابیس کردند و موفق شدند کلیدهای مخفی را پیدا کنند. با استفاده از این کلیدها، آن‌ها توانستند دسترسی غیرمجاز به اطلاعات حساس را فراهم کنند.
لینک کوتاه: کپی لینک
منابع امنیتی تل‌آویو: هیچ نشانه قطعی از ارتباط ایران با حادثه فلای دبی نیست پیام تسلیت فرمانده کل ارتش به عراقچی فیاض زاهد: آقای رئیس جمهور؛ جنگی ویرانگر در کمین است، از آبروی خود مایه بگذارید هشدارهای فیاض زاهد در جلسه‌ای با پزشکیان: خطر جنگی ویرانگر در کمین ماست آموزش و پرورش: استعفای معلمان شایعه است / عده‌ای به دنبال تعطیلی آموزش حضوری هستند گفت‌وگوی ریاض و واشنگتن درباره تقویت همکاری‌های دفاعی استقرار ۲ سامانه پاتریوت آمریکا در عربستان و قطر ادعای ترامپ: ایران می‌خواهد به توافق برسد خانم گزارشگر! نگو «مردم می‌پرسند»، بگو «ما می‌پرسیم» هشدار نارنجی هواشناسی برای ۱۸ استان گرانی دندان‌پزشکی و دست‌های خالی بیمه / مدیرعامل بیمه سلامت: فعلا امکان خدمات نداریم سردار قاآنی: باید کمربند دفاع را از افغانستان تا یمن و از ایران تا غزه و لبنان محکم کنیم احتمال تنش نظامی بین ایران و آمریکا با چاشنی «فلای دوبی» وقتی آمریکا از راه دور، رایانه های قضات منتقد نتانیاهو در دادگاه لاهه را غیرفعال کرد شکم‌تان مدام ورم می‌کند؟ شاید فقط نفخ نباشد؛ نشانه‌های بزرگ شدن کبد را بشناسید