فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
کشف ۲۱۰۰ تن برنج وارداتی احتکارشده در هرمزگان غریب‌آبادی‌: امارات به ایران خیانت کرد رئیس کمیسیون امنیت ملی مجلس: آماده‌ایم در تنگه هرمز و سایر میادین، بار دیگر دشمن را شکست بدهیم/ اگر دشمن امنیت ما را خدشه‌دار کند، امنیتش را سلب می‌کنیم خروج مرغ زنده از خوزستان ممنوع شد طوفان در مشهد/ سقوط درخت بر روی دیوار و بام منازل آمادگی هند برای کمک به پایان جنگ در منطقه العربیه: حوادث امنیتی، اجلاس ترامپ و شی جین پینگ در پکن را مختل کرد تدوین یک طرح برای ارائه به صحن مجلس؛ ۵۰ میلیون یورو پاداش برای کشتن ترامپ و نتانیاهو مهاجری به عارف: اگر اختیار عزل این دو را ندارید، هیچ‌کاره‌اید شبکه ۱۲ اسرائیل: ارتش تل آویو برای حمله و توقیف «ناوگان الصمود» آماده می‌شود ادعای نتانیاهو: «معادلات منطقه تغییر کرده» و اکنون در «قوی‌ترین موقعیت تاریخ خود» قرار داریم هشدار غریب‌ آبادی به فیفا در خصوص دشمنی‌های آمریکا برگزاری نشست مشترک سازمان آموزش فنی و حرفه ای استان تهران با شورای هماهنگی شهرک های صنعتی مسکو: سلاح‌های ارسالی غربی ها به اوکراین از سوریه و آفریقا سر درآورد فرمانده سنتکام: ایران می‌تواند بر روند کشتیرانی اثر بگذارد/ سپاه هنوز اقتدار قابل توجهی دارد