اولین برخورد دولت چین با یک خبر جعلی هوش مصنوعی

دولت چین در زمستان پارسال قانونی را برای مشخص کردن حدود فناوری های تولید محتوای اینترنتی با استفاده از هوش مصنوعی وضع کرده است.

پلیس چین اعلام کرد که اخیرا یک کاربر بات مکالمه "ChatGPT " را به اتهام استفاده از این چت ربات مجهز به هوش مصنوعی برای ایجاد یک خبر جعلی در مورد تصادف قطار، بازداشت کرده است.

به گزارش عصرایران به نقل از آسوشیتدپرس، این مورد دستگیری، اولین اقدام اجرایی تحت یک قانون چینی است که اخیرا تصویب شده و تکلیف قانونی "دیپ فیک‌های" تولید شده توسط هوش مصنوعی را تنظیم می‌کند. (تصاویر دیجیتالی و ویدیوهای به ظاهر واقعی اما در واقع ساخته شده.)

بر اساس گزارش پلیس استان گانسو در شمال غربی چین، مردی که تنها با نام خانوادگی "هونگ" معرفی شده، از ChatGPT برای ایجاد یک مقاله خبری جعلی در مورد تصادفی که ظاهرا منجر به کشته شدن 9 کارگر ساختمانی در این استان شده است، استفاده کرده بود و 21 حساب کاربری در یک پلت فرم اجتماعی محبوب، که همگی متعلق به یک شرکت رسانه ای مستقر در جنوب چین هستند نیز در مدت بسیار کوتاهی این داستان جعلی را بازنشر کرده بودند.

مانند بسیاری از وب‌سایت‌ها و برنامه‌های کاربردی خارجی، ChatGPT نیز به لطف "فایروال بزرگ" چین که استفاده آزادانه و بدون محدودیت اینترنت را برای شهروندان چینی سانسور می‌کند، از نظر فنی در چین در دسترس نیست؛ اما شهروندان چینی با استفاده از وی پی ان که معمولا در دسترس است، محدودیت ها را دور زده و به محتواهای خارجی دسترسی پیدا می کنند.

زمانی که مقامات امنیتی استان گانسو متوجه جعلی بودن این مقاله شدند، این خبر جعلی 15 هزار بازدید دریافت کرده بود. پلیس متعاقبا برای جمع آوری شواهد به محل سکونت هونگ یورش برد و سپس "اقدامات اجباری جنایی" را علیه هونگ انجام داد. پلیس از این عبارت برای توصیف اقدامات موقت برای محدود کردن آزادی مظنون استفاده می کند.

اولین برخورد دولت چین با یک خبر جعلی هوش مصنوعی

قانون جدید دیپ فیک چین در 10 ژانویه امسال اجرایی شده است. این قانون چندین دسته از محتواهای جعلی تولید شده توسط فناوری های "جعل عمیق" را ممنوع می کند.

بر اساس این قانون، جعل عمیق های مورد استفاده در فعالیت‌هایی که امنیت ملی را به خطر می‌اندازند، به تصویر کشور یا منافع عمومی جامعه آسیب می‌رسانند، یا "نظم اقتصادی یا اجتماعی" را برهم می‌زنند، ممنوع است. این قانون به طور خاص استفاده از چنین فناوری هایی را برای تولید، انتشار یا انتقال اخبار جعلی ممنوع می کند.

پربیننده ترین پست همین یک ساعت اخیر

واکنش ویتکاف به مذاکره با ایران در نیویورک

خبر بعد نظرات کاربران خبر قبل