فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
رئیس قوه قضاییه: آزمونی دیگر در راه است، اکنون میدان جهاد ، صرفه‌جویی است پیام رهبر انقلاب به مناسبت روز بزرگداشت حکیم ابوالقاسم فردوسی عراقچی: پیام هایی از آمریکا گرفتیم که تمایل به گفت‌وگو دارند پیام دکتر پزشکیان به مناسبت روز بزرگداشت حکیم ابوالقاسم فردوسی مبانی حقوقی، فقهی و محاسباتی رای، محل اشکال است آیا عارف می‌تواند برای رفع محدودیت اینترنت، اجماع‌سازی کند؟/ ظریفیان: این ظرفیت را دارد هشدار امام جمعه دماوند درباره تاخیر و کاهش نرخ باروری چراغ سبز کوبا به کمک مشروط 100 میلیون دلاری آمریکا / 19 ساعت قطع برق روزانه در کوبا / اعتراضات علیه قطع برق خسارت جنگ به ۱۵۴۳ واحد مسکونی در زنجان پیام وزیر خارجه هند درباره دیدار با عراقچی فرمانده کل ارتش: مسئله مرگ برای ما حل شده؛ تا تحقق پیروزی کامل، می‌جنگیم دست نامرئی چین در کنترل بازار جهانی نفت  امتحانات ابتدایی و برخی پایه‌های متوسطه هرمزگان غیرحضوری شد قایقرانی و شنا در خزر ممنوع شد لاوروف: جنگ علیه ایران باید فورا متوقف شود