فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
captcha
چرا در ژاپن لندکروز سوار نمی‌شوند؟ ظریف: باید از امنیتِ "در تقابل با یکدیگر" به سوی امنیتِ "همراه با یکدیگر" حرکت کنیم حمایت حسین شریعتمداری از سخنرانی پزشکیان ادعای آسوشیتدپرس: پیشروی غافلگیرکننده انصارالله در یمن با کمک سپاه پاسداران است زلنسکی: زمستان بسیار سختی در پیش داریم امضای توافق نامه تبادل زندانی بین ایران و کره جنوبی نتانیاهو حتی یک شب هم در آمریکا نمی ماند زلنسکی در سازمان ملل: پوتین به ازای هر کیلومتر مربع، ۲۴۸ نفر هزینه کرده/ هنوز هم فکر می کنید او منطقی است؟ ارتش یمن: عربستان طی ۲۴ ساعت ۵۲ حمله هوایی و موشکی انجام داد ۱۰ اثر زیبا و ماندگار از «محمود محمودی خوانساری» (همین الان بشنوید) فارس: پزشکیان با هدف کاهش هزینه‌های سفر در نیویورک، به هتل نرفت بنتلی تورکال رونمایی شد؛ نخستین خودروی برقی و قدرتمندترین بنتلی تاریخ (+عکس) ادامه حملات عربستان به شمال یمن درخواست ۵۱ کشور از روسیه برای موافقت با آتش‌بس فوری در اوکراین کدام کربوهیدرات ها را کمتر مصرف کنیم؟