فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
ماکرون به کشورهای آفریقایی می‌رود اعلام آمادگی لوئیز سوارز برای بازگشت به تیم ملی اروگوئه در آستانه جام جهانی ۲۰۲۶ مارهای چهارپا (+اینفوگرافیک) ادعای رسانه عربی درباره جایگزینی امارات به جای ایران در جام جهانی هشدار زرد هواشناسی؛ بارش‌های سیل‌آسا در ۲۴ استان کشور موج جدید بازداشت علمای شیعه بحرین تولد استثنایی ۵ قلوها در یزد؛ مادری که با ۳۱ سال سن ۹ فرزنده شد ماگیار به‌عنوان نخست‌وزیر مجارستان سوگند یاد کرد صنعت نشر و کتاب ؛ وقتی نه می‌شود تولید کرد نه قیمت گذاشت! نمایشگاه کتاب به ‌نفع کیست؟  هشدار دستگاه قضا به اخلال‌گران: در اردوگاه دشمن بازی نکنید پسر پزشکیان: اغلب کسب و کارهای وابسته به اینترنت آسیب دیده‌اند/ سرنوشت اقتصاد به نحوه ختم جنگ هم بستگی دارد علی تاجیک سرمربی تیم ملی تکواندو بزرگسالان شد صدراعظم آلمان: پایان دادن به جنگ ایران هدف مشترک اروپا و آمریکاست محدودیت ترافیکی در تونل رسالت؛ باند شمالی شنبه‌شب مسدود است لغو پرواز های شرکت هواپیمایی «ویز ایر» به اسرائیل