فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
سفر ترامپ به پکن/ دیدار سران آمریکا و چین (+عکس) ممنوعیت خبرگزاری آنا و زیباکلام از انجام هرگونه فعالیت رسانه‌ای به مدت 3 ماه کیهان: چرا ارزپاشی می کنید؟ مگر جنگ نیست؟ عکس تماشایی از یک خانوادۀ ایرانی در دوران قاجار رسانه‌ها و عادی‌سازی جنگ؛ وقتی انفجار به بخشی از زندگی روزمره تبدیل می‌شود چرا با افزایش سن، سلامت استخوان‌ها تهدید می‌شود؟ روزنامه اطلاعات: رایگان کردن مترو تهران یعنی دود شدن 7000میلیارد تومان درآمد شهرداری! هزینه سامانه دفاعی گنبد طلایی ترامپ به ۱.۲ تریلیون دلار می‌رسد جنگ داخلی سودان؛ مادران به دنبال نگهداری کودکان تجاوز روزنامه خراسان: مأموریت معکوس تلویزیون در تولید محتوا برای اینترنشنال! عکس رنگی‌شده از بازار رشت در دوران قاجار جنگ کولاها و تولد «تب عدد» ؛ داستان اشتباه مرگباری که 800 هزار میلیونر کاذب ساخت! پنتاگون سفارش ساخت ۱۰ هزار موشک داد حسین شریعتمداری: بحرین خاک ماست و باید به ایران بازگردانده شود خودروساز آلمانی و شرکت اسرائیلی در حال توافق برای ساخت تجهیزات گنبد آهنین