۱۶ آذر ۱۴۰۴
به روز شده در: ۱۶ آذر ۱۴۰۴ - ۱۳:۵۴
فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
توزیع نهاده مرغداران گوشتی با قیمت مصوب آغاز شد آیا «لوفتن» آلمانی‌ها راز سلامتی و هوای تازه در خانه است؟ تحول بزرگ در اضافه کار کارمندان دولت پیام همسر نگین معتضدی بازیگر و تایید پایان زندگی مشترک (+عکس) تهران در وضعیت قرمزِ آبی نیم‌بها شدن بلیت سینماها در روز مادر جمشید مشایخی ۳۸ ساله در کنار مرتضی احمدی ۴۸ ساله؛ سال ۱۳۵۱(عکس) کودتای جدید در آفریقا / بنین ؛ اعلام کودتای نظامیان در پخش زنده تلویزیونی / برکناری رئیس جمهوری و همه مقامات دولت آخرین قیمت ارز، سکه و طلا در بازار امروز یکشنبه 16 آذر+جدول پزشکیان: ۵۰ درصد مردم رای ندادند، آنها هم که دادند با اکراه بود؛ این پیام روشنی برای ما دارد/ دستور دادم سیم‌کارت‌های سفید را سیاه کنند/ موضوع حجاب با تحکم حل نمی شود چرا دانش آموزان می‌پرسند که درس بخوانیم چه شود؟ یک اثر معماری مهم در ژاپن؛ نماد بتنی دوران جنگ (+عکس) ۵۰ سال پیش؛ بهترین موتورسواران تهران را ببینید! (عکس) مصادره دارایی‌های روسیه، جایگاه یورو را به خطر می‌اندازد دستگاهی شبیه به پوست برای ارسال پیامک بدون نمایشگر!
نظرسنجی
با توجه به مشخص شدن رقبای ایران در مرحله نخست جام جهانی فوتبال، به نظر شما تیم ملی می تواند به مرحله بعدی صعود کند؟