فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
مسکو: سلاح‌های ارسالی غربی ها به اوکراین از سوریه و آفریقا سر درآورد فرمانده سنتکام: ایران می‌تواند بر روند کشتیرانی اثر بگذارد/ سپاه هنوز اقتدار قابل توجهی دارد سناتور آمریکایی: هنوز هم روزانه یک میلیارد دلار صرف جنگ با ایران می‌شود دمای این استان‌ها به ۴۰ درجه رسید اوباما: بدون شلیک یک گلوله برنامه هسته‌ای ایران را متوقف کردیم استعفای فرمانده کل گشت مرزی آمریکا اصغر فرهادی: نیازمند بازگشت به کشورم هستم عراقچی: امارات در این جنگ در کنار آمریکا بوده و نمی‌تواند مظلوم‌نمایی کند و بگوید به خاک ما حمله شده غریب‌آبادی خطاب به نماینده امارات: پنهان شدن پشت ادعاهای دروغ ممکن نیست، شما قربانی نیستید رسایی: مجلس تعطیل شده تا در مذاکرات دخالت نکنیم رأی اعتماد مجلس عراق به وزرای کابینه «علی الزیدی» هشدار جدی وزیر نیرو به مردم تهران / وضعیت آبی پایتخت چندان مناسب نیست ادعای فایننشال‌تایمز: عربستان توافق عدم تعارض منطقه‌ای با ایران را مطرح کرده سازمان فضایی: 3 ماهواره ایرانی در مراحل نهایی آزمون قرار دارند ترامپ: رئیس‌جمهور چین گفت به خرید نفت از ایران ادامه می‌دهد