هشدار اتحادیه اروپا درباره خطر از دست رفتن کنترل بر هوش مصنوعی

به گزارش ایرنا از شبکه اوله فنلاند، هانا ویرکونن کمیسر اتحادیه اروپا در امور حاکمیت فناوری، گفت جدی‌ترین خطر امنیتی ناشی از هوش مصنوعی برای اتحادیه اروپا، احتمال از دست رفتن کنترل انسان بر این فناوری است.

او در گفت‌وگو با شبکه اوله افزود: این فناوری‌ها با چنان سرعتی در حال پیشرفت هستند که وجود تدابیر حفاظتی در برابر آنها ضروری است.

ویرکونن تاکید کرد این فناوری‌ها باید در چارچوب محدودیت‌های امنیتی کاملا مشخص فعالیت کنند و کنترل نهایی آنها همچنان در اختیار انسان باشد.

وی با اشاره به حوادث اخیر گفت برخی اتفاقات، اهمیت این موضوع را بیش از پیش نشان داده‌اند. به گفته ویرکونن، در برخی موارد مدل‌های هوش مصنوعی توانسته‌اند از محیط‌های آزمایشی خود خارج شوند و مشکلاتی ایجاد کنند که ممکن است پیامدهای جدی داشته باشد.

در پایان ماه گذشته میلادی، یک عامل هوش مصنوعی که شرکت اوپن‌ای‌آی توسعه داده بود، توانست از محیط آزمایشی خود خارج شود. یک هفته بعد، مدل‌های شرکت آنتروپیک نیز از محیط‌های آزمایشی خود خارج شدند. در اوایل ماه جاری میلادی نیز گزارش شد که مدل هوش مصنوعی «میوز اسپارک» متعلق به شرکت متا به سامانه‌های یک شرکت دیگر دسترسی پیدا کرده است.

مقابله با تهدیدها از طریق مقررات

اتحادیه اروپا تلاش می‌کند با وضع مقررات، پیش از آنکه این خطرات جدی‌تر شوند، برای مقابله با آنها آماده باشد. قانون هوش مصنوعی اتحادیه اروپا، ارائه‌دهندگان این فناوری را ملزم می‌کند خطرات آن را به‌طور مستمر ارزیابی و سازوکارهای ایمنی مشخصی را حفظ کنند.

ویرکونن گفت این موضوع از آن جهت اهمیت دارد که در دنیای امروز، بازیگران متخاصم آماده‌اند از هوش مصنوعی برای پیشبرد اهداف خود سوءاستفاده کنند.

او افزود: نمی‌گویم از آن می‌ترسم، اما بدون تردید این خطری است که مورد توجه قرار گرفته و باید همچنان مورد توجه باشد. ما باید اطمینان حاصل کنیم که مدل‌های هوش مصنوعی ایمن هستند و حتی پس از ورود آنها به بازار به‌طور مستمر ارزیابی و تحت نظارت قرار می‌گیرند.