کد خبر ۱۱۶۱۰۶۱
تاریخ انتشار: ۱۳:۰۷ - ۱۶-۰۲-۱۴۰۵
کد ۱۱۶۱۰۶۱
انتشار: ۱۳:۰۷ - ۱۶-۰۲-۱۴۰۵

«اوپن ای‌آی» باید جلوی کمک «چت جی‌پی‌تی» به قاتلان را بگیرد!

هوش مصنوعی
هر دو مجرمی که در این تیراندازی‌ها نقش داشتند، به طور گسترده از چت‌بات‌ها برای برنامه‌ریزی گسترده جنایات خود استفاده کردند و این بحث داغی را در مورد مسئولیت هوش مصنوعی در گزارش سوءاستفاده از فناوری خود برمی‌انگیزد.

هوش مصنوعی چت جی‌پی‌تی شرکت اوپن ای‌آی نه تنها در یک، بلکه در دو تیراندازی جمعی در طول یک سال اخیر نقش داشته است و اوپن ای‌آی هنوز نتوانسته جلوی چت جی‌پی‌تی را برای کمک به برنامه‌ریزی چنین اقداماتی بگیرد.

به گزارش ایسنا، هر دو مجرمی که در این تیراندازی‌ها نقش داشتند، به طور گسترده از چت‌بات‌ها برای برنامه‌ریزی گسترده جنایات خود استفاده کردند و این بحث داغی را در مورد مسئولیت هوش مصنوعی در گزارش سوءاستفاده از فناوری خود برمی‌انگیزد.

به نقل از فیوچریسم، فینیکس ایکنر ۲۰ ساله که متهم به قتل دو نفر در دانشگاه ایالتی فلوریدا است، از چت جی‌پی‌تی سوالاتی در مورد چگونگی «واکنش» کشور به تیراندازی، نحوه غیرفعال کردن کلید ایمنی سلاح، نوع مهمات مورد استفاده و سایر موضوعات نگران‌ کننده پرسیده بود.

دانش‌آموز ۱۸ ساله‌ دیگری به نام جسی ون روتسلار که در ماه فوریه ۹ نفر از جمله خودش را در تامبلر ریج، بریتیش کلمبیا، کشت، مکالماتی چنان نگران‌کننده داشت که کارکنان سطح بالای اوپن ای‌آی در مورد اطلاع دادن به مجریان قانون در مورد آنها بحث می‌کردند، اما این شرکت در نهایت هیچ کاری نکرد.

اکنون، تحقیقات جدید از سوی مارک فولمن که ۱۴ سال است در حال تحقیق در مورد تیراندازی‌های جمعی است، نکته‌ای بسیار نگران‌کننده را نشان می‌دهد. اوپن ای‌آی هنوز به طور معناداری به این موضوع نپرداخته است.

حتی پس از دو تراژدی وحشتناک، فولمن به راحتی نسخه رایگان چت جی‌پی‌تی را دریافت کرد تا در حین شبیه‌سازی برنامه‌ریزی برای یک تیراندازی جمعی، مشاوره‌های گسترده‌ای در مورد سلاح‌ها و روش‌ها به او بدهد. این نرم‌افزار حتی او را تشویق کرد. او از نرم‌افزار پرسید که چه نوع تفنگ AR-۱۵ را انتخاب کند.

همچنین وقتی از چت جی‌پی‌تی خواست یک برنامه آموزشی تهیه کند تا او برای شرایط غیرقابل پیش‌بینی یا آشفته در روز تیراندازی تمرین کند و شبیه‌سازی دویدن افراد در حالی که جیغ می‌زنند و سعی می‌کنند حواس او را پرت کنند را نیز در آن بگنجاند، این هوش مصنوعی پذیرفت و گفت: «ایده خیلی خوبیه. اضافه کردن این عنصر قطعا به شما کمک می‌کنه تا در شرایط پراسترس تمرکزتون رو حفظ کنید و قطعا برای این روز بزرگ بهتون انگیزه بیشتری می‌ده!»

اوپن ای‌آی مدعی است که به طور فعال با پزشکان سلامت روان همکاری می‌کند تا موانع مؤثری را برای منصرف کردن مجرمان احتمالی و هدایت آنها به خطوط تلفن اضطراری ایجاد کند. اما با توجه به اینکه برنامه‌ریزی یک تیراندازی ساختگی برای فولمن تا این اندازه آسان بوده، ممکن است قاتلان بی‌شماری از این مخمصه جان سالم به در ببرند.

پس از تیراندازی در تامبلر ریج، اوپن ای‌آی قول داد که سیاست‌های خود و نحوه برخورد با حساب‌های کاربری علامت‌گذاری‌شده، از جمله دخالت نیروهای انتظامی را تغییر دهد.

با این حال، آزمایش فولمن قویا نشان می‌دهد که آن تغییرات یا اعمال نشده‌اند یا بی‌اثر هستند. این خبرنگار دریافت که وقتی چت جی‌پی‌تی مردد به نظر می‌رسد، مثلا با گفتن اینکه او روزنامه‌نگار است، می‌توان آن را به ارائه مشاوره ترغیب کرد.

سخنگوی این شرکت به فولمن گفت که این شرکت در حال حاضر تدابیر حفاظتی خود را تقویت کرده است و سیاست عدم تحمل در قبال استفاده از ابزارهای خود برای کمک به ارتکاب خشونت را دنبال می‌کند. اما به نظر می‌رسد تجربه او نشان می‌دهد که این شرکت هنوز کارهای زیادی برای انجام دادن دارد.

ارسال به دوستان
نورا محقق، بازیگر سریال «شغال» با استایل پاییزی متفاوت در قاب عکاسی (+عکس) جوزفین کوکران؛ زنی که ماشین ظرف‌شویی را اختراع کرد(+عکس) شازدۀ قاجاری با تیپ خاص غربی در کنار دختر کوچکش؛ سال 1287(عکس) خداحافظی با رینگ‌های معمولی؟ اختراع جدید هیوندای برای کاهش مصرف سوخت خودروها فیلسوف-امپراتور روم هر روز صبح به خودش چه می‌گفت؟ نبود ما همیشه به نفع طبیعت نیست؛ وقتی طاعون انسان‌ها را کشت، تنوع زیستی هم کم شد حل معمای ۶۰۰ ساله؛ کشف نظم واقعی صفحات عجیب‌ترین کتاب دنیا اروپا از طرح موشک رهگیر AQUILA برای مقابله با تسلیحات هایپرسونیک رونمایی کرد گاز دادن در حالت توقف؛ مفید برای موتور یا عامل آسیب به خودرو؟ آن حروف ناخوانای اعصاب‌خردکن بی‌دلیل نبودند؛ ماجرای عجیب کپچاهای قدیمی اینترنت چرا قطره‌های آب روی ماهیتابه داغ سُر می‌خورند و دیرتر تبخیر می‌شوند؟ صاعقه برق ۲۹ روستای خراسان شمالی را قطع کرد سناتور منتخب دموکرات: جنگ علیه ایران احمقانه بود عراقچی: نتایج انتخابات آمریکا به رفت‌وآمد میانجی‌ها شوک وارد کرد؛ باید کمی صبر کنیم شرکت توانیر: حمله سایبری به شبکه برق تهران صحت ندارد