فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
captcha
آموزش زبان انگلیسی به سبک عصر ایران / درس صد نسخه شهرهای جهان برای نفس‌کشیدن در روزهای سرد آلوده چیست؟ انجام این یک تمرین، هفته‌ای ۳ بار، می‌تواند فشار خون را پایین نگه دارد مونا کرمی همسر سپند امیرسلیمانی و بازیگر «حوالی پاییز» با استایل سنتی در قاب جدید (+عکس) خشکی چشم می‌تواند اولین نشانه این بیماری‌ها باشد تعویض فیلتر روغن همراه با روغن موتور چه اهمیتی دارد؟ چرا انسان‌ها بیشتر موهای بدنشان را از دست دادند، اما موی سر باقی ماند؟ تحقیق جدید: یک‌هشتم سرطان‌های جهان تنها با مهار عفونت‌ها قابل پیشگیری هستند قهوه با افسردگی ما چه می‌کند؟ آشنایی با قابلیت‌های ویژه‌ ساعت خلبانان جنگنده یافته جدید: برای آزمایش خون ناشتا بودن همیشه ضروری نیست کبرا در برابر آپاچی؛ هلیکوپترهای تهاجمی آمریکا چه تفاوتی با یکدیگر دارند؟ استارلینک پای سفیر نروژ را به وزارت خارجه کشاند؛ اعتراض رسمی ایران آکسیوس: آمریکا حمله به یمن را برای تمرکز بر ایران رد کرد معاون ارتباطات دفتر رئیس‌جمهور: پاک نژاد به دلایل شخصی از مسئولیت وزارت نفت استعفا کرد