فیلم بیشتر »»
کد خبر ۱۰۳۰۰۰۹
تاریخ انتشار: ۱۰:۳۵ - ۲۶-۱۰-۱۴۰۳
کد ۱۰۳۰۰۰۹
انتشار: ۱۰:۳۵ - ۲۶-۱۰-۱۴۰۳

هوش مصنوعی استدلالی OpenAI گاهی‌اوقات «چینی و فارسی فکر می‌کند» و هیچ‌کس نمی‌داند چرا

هوش مصنوعی استدلالی OpenAI گاهی‌اوقات «چینی و فارسی فکر می‌کند» و هیچ‌کس نمی‌داند چرا
هوش مصنوعی OpenAI رفتاری عجیب از خود نشان داده که ذهن کاربران را درگیر کرده است زیرا گاهی به زبان چینی و حتی فارسی فکر می‌کند.

پس‌از انتشار مدل هوش مصنوعی استدلالی o1 شرکت OpenAI، کاربران متوجه پدیده‌ی عجیبی شدند: این مدل حتی در پاسخ به سؤالات انگلیسی، گاهی‌اوقات به زبان‌های دیگری مانند چینی، فارسی یا زبان‌های دیگر فکر می‌کند. مدل مذکور در فرآیند پاسخ‌دهی، مراحل استدلالی خود را به زبان دیگری انجام می‌دهد و در نهایت پاسخ را به زبان اصلی سؤال ارائه می‌دهد.

به گزارش زومیت، ازنظر برخی متخصصان، چینی فکر کردن ChatGPT به‌دلیل استفاده از داده‌های چینی در فرآیند آموزش مدل است. شرکت‌هایی مانند OpenAI برای برچسب‌گذاری داده‌های پیشرفته‌ی علمی و ریاضی از خدمات شرکت‌های چینی استفاده می‌کنند. این برچسب‌ها نقش کلیدی در یادگیری مدل‌ها دارند و می‌توانند به جانب‌داری یا تأثیر زبانی منجر شوند.

در مقابل، گروهی دیگر از کارشناسان باور دارند که انتخاب زبان ازطرف مدل، ارتباطی به داده‌های چینی ندارد. آن‌ها می‌گویند مدل‌ها احتمالاً زبان‌هایی را انتخاب می‌کنند که برای انجام وظیفه‌ای خاص، کارآمدتر باشند یا حتی به‌طور تصادفی به این زبان‌ها جابه‌جا می‌شوند. از آنجاکه مدل‌ها کلمات را به‌صورت توکن پردازش می‌کنند، تفاوتی میان زبان‌ها برای آن‌ها وجود ندارد.

نظریه‌های دیگر نشان می‌دهند که پاسخ‌های چینی ChatGPT می‌تواند نتیجه‌ی الگوهای احتمالاتی باشد که مدل در طول آموزش خود فرا گرفته است. به‌عنوان مثال، استفاده از زبان چینی برای محاسبات ریاضی به‌دلیل کوتاهی و کارآمدی آن در برخی موارد می‌تواند کارآمدتر باشد.

درنهایت، به‌دلیل پیچیدگی و شفاف نبودن فرآیند ساخت این مدل‌ها، دلیل قطعی این رفتار مشخص نیست. به‌همین‌دلیل کارشناسان بر اهمیت شفافیت بیشتر در نحوه‌ی ساخت و آموزش سیستم‌های هوش مصنوعی تأکید دارند تا بتوان علت چنین پدیده‌هایی را بهتر درک کرد.

برچسب ها: هوش مصنوعی ، OpenAI
ارسال به دوستان
زیدآبادی: در شرایط تاریخی امروز فقط ۲ راه پیش‌روی ایرانیان است قطعی گسترده آب در بندرعباس به دلیل تعمیرات اضطراری مسمومیت ۸۱ نفر در لاله‌زار کرمان به دلیل آلودگی آب عارف: فرماندهی رهبر انقلاب و وفاداری پزشکیان به نظام بی‌نظیر است پیش‌بینی ابرکامپیوتر اوپتا از قهرمان جام جهانی آینده نامشخص ستارگان سیتی در دوران پس از گواردیولا عربستان حملات اسرائیل در لبنان را محکوم کرد مرگ زن جوان در پی برخورد قطار با عابران در شیرگاه «گوفمان» به عنوان رئیس جدید موساد تایید شد اموال بیمارستان هلال احمر در دبی مسدود شد گزارش فاکس‌نیوز از آخرین مطالبات ترامپ از ایران جزئیات فهرست نهایی و نکات آماری تیم ملی در جام جهانی ۲۰۲۶ تکمیل کاروان تیم ملی والیبال ایران در برزیل کاهش ۱۲ هزار فقره‌ای پرونده‌های دادگاه‌های تجدیدنظر تهران / تلاش دادگستری تهران برای تسریع در رسیدگی به پرونده‌های مهم مادربزرگ ۸۱ ساله با بازی ماینکرفت به جنگ سرطان رفت