فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
captcha
از کووید مزمن تا ام‌اس؛ کشف ارتباط زیستی مشترک میان پنج بیماری ناتوان‌کننده «سربازان پابرهنه» و فرمانده انگلیسی‌شان در همدان؛ سال 1297 (عکس) رنگ ضدیخ چه معنایی دارد؟؛ راهنمای انتخاب ضدیخ مناسب خودرو بوی باران از کجا می‌آید و چرا برای بسیاری از ما خوشایند است؟ این نوع سردرد را جدی بگیرید؛ خطر پنهان برای بینایی «ناصرالدین شاه و فردریک اول» در ورودی قصر بادن‌بادن (عکس) نیروگاه زغال‌سنگی یا هسته‌ای؛ کدام‌یک انرژی بیشتری تولید می‌کند؟ هواپیمایی که پس از ۱۲ سال هنوز پیدا نشده است سفیر ایران در روسیه: ادعای ترامپ درباره حمله ایران به شهرهای آمریکا فرار رو به جلو است دادستانی همدان: پیگیری قانونی برای برخورد با صفحه بلاگر شنا کننده در غارعلیصدر تکمیل ترکیب شورای حقوق بشر سازمان ملل با ۱۵ عضو جدید پرسش امروز: دستگاه تولید محتوای سفارشی یا سینما؟ حمله به یک کشتی در تنگه هرمز صدای چندین انفجار در شمال ریاض اعتراضات دانشجویی به آلبانی رسید