فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
دیدنی های امروز؛ از سفر ترامپ به چین تا فرش قرمز جشنواره کن فرانسه توافق ترامپ و رئیس‌جمهور چین درباره تنگه هرمز نگاهی به «عزاداران بَیَل»؛ چرا شاهکار ساعدی باورپذیر نیست؟ چین با تغییر نام روبیو اجازه ورود او به پکن را داد پزشکیان: دشمنان از امید و انسجام ملت ایران هراس دارند نگرانی مدرسه پزشکی ییل آمریکا درباره شامپوهای خشک آئروسل برنامه آرامکو برای فروش ۱۰ میلیارد دلار از دارایی‌های ملکی واکنش سخنگوی قوه قضاییه به دزدی دریایی آمریکا عربستان و ایران در صدر جدول تولیدکنندگان نفت اوپک رئیس جدید فدرال رزرو کیست؟گزینه مورد نظر ترامپ تایید سنا را گرفت کشف بیش از ۹۹۰ تن انواع کالاهای اساسی در تهران یک آمریکایی به اداره یک پایگاه مخفی جاسوسی چین در نیویورک محکوم شد فوری: گزارش ها از توقیف یک کشتی در نزدیکی سواحل فجیره امارات/ حرکت کشتی به سمت ایران زلزله ۵ ریشتری کرمان را لرزاند روزنامه اعتماد: ورود نيروي انتظامي به محوطه پارك علم و فناوري دانشگاه تربيت مدرس