فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
خودروساز آلمانی و شرکت اسرائیلی در حال توافق برای ساخت تجهیزات گنبد آهنین پایان ایدئولوژی یا بازگشت ایدئولوژی؟ ۱۰ کشور با بیشترین سرانه مصرف برق جهان در سال ۲۰۲۶ (+ اینفوگرافیک) مدیریت بحران : نگران نباشید، زلزله های کمتر از 5.5 ریشتر خطر ندارند انتقاد روزنامه اطلاعات از سعید لیلاز: حرفایتان هیچ ربطی به علم اقتصاد ندارد فرمانده اسبق سپاه اعلام کرد: ۵ پیش‌ شرط برای مذاکره با آمریکا بازنگری در سرنوشت کیهان؛ پایان جهان نزدیک‌تر از چیزی است که فکر می‌کردیم امارات ادعای سفر نتانیاهو به این کشور را تکذیب کرد علایق غذایی نوزاد از درون رحم آغاز می‌شود امروز با سعدی: دوست دارم که کست دوست ندارد جز من چرا برخی از ورزش نتیجه نمی‌گیرند ۵ آزمایشی که انجام آن بعد از ۴۰ سالگی ضروری است دو زن ایرانی دوران قاجار در حال استراحت در زیر کرسی (عکس) اگر زخم معده دارید، مصرف این ۱۱ دمنوش دردتان را تسکین می‌دهد دانشمندان بالاخره پایان راه شیری را پیدا کردند! / وجود دیوار نامرئی در لبه دنیای ما