فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
از وارفارین تا انسولین‌ / شرایط بیمارانی که داروهای مصرفی‌شان در بازار یافت نمی‌شود ‌ ابتکار محققان برزیلی: نابودی ویروس‌های آنفلوانزا و کرونا با امواج فراصوت قیمت طلا در بازارهای جهانی امروز 22 اردیبهشت 1405 بازگشت سفیدبالک‌ها به تهران با زشت‌ترین هواپیمای نظامی جهان آشنا شوید!(+عکس) افزایش قیمت ارز حواله/ دلار به 147 هزار و 804 تومان رسید صعود ۴.۲ تریلیون دلاری ارزش بازار ۱۰ شرکت‌ برتر جهان آتش‌سوزی شدید در آپارتمانی در جنوب‌شرق فرانسه/ ۳ تن کشته و ۵۰ تن تخلیه شدند اعدام «عبدالجلیل شه‌ بخش» در سیستان و بلوچستان /اتهام: بغی (شورش علیه نظام اسلامی) منظرۀ شهرری در یک عکس هوایی؛ 70 سال قبل فرمانداری بندر ماهشهر: مردم نترسند، صداها مربوط به مانور است بزرگ‌ترین ارتش‌های فعال جهان در سال ۲۰۲۶ + اینفوگرافی و جایگاه ایران رکورد ۶ سالۀ دریاچۀ ارومیه شکسته شد توضیحات پاکستان درباره حضور هواپیماهای ایرانی در خاک این کشور: موقتی است به هر سازی نمی‌شود رقصید/ گلایه‌های مدرسان آموزش موسیقی از قطعی اینترنت