تاریخ:
خاطره همسر شهید حاج یونس نیکویی از اخلاص ایشان 
درس چهل و هفتم
هوش مصنوعی استدلالی OpenAI گاهیاوقات «چینی و فارسی فکر میکند» و هیچکس نمیداند چرا
هوش مصنوعی OpenAI رفتاری عجیب از خود نشان داده که ذهن کاربران را درگیر کرده است زیرا گاهی به زبان چینی و حتی فارسی فکر میکند.
پساز انتشار مدل هوش مصنوعی استدلالی o1 شرکت OpenAI، کاربران متوجه پدیدهی عجیبی شدند: این مدل حتی در پاسخ به سؤالات انگلیسی، گاهیاوقات به زبانهای دیگری مانند چینی، فارسی یا زبانهای دیگر فکر میکند. مدل مذکور در فرآیند پاسخدهی، مراحل استدلالی خود را به زبان دیگری انجام میدهد و در نهایت پاسخ را به زبان اصلی سؤال ارائه میدهد.
به گزارش زومیت، ازنظر برخی متخصصان، چینی فکر کردن ChatGPT بهدلیل استفاده از دادههای چینی در فرآیند آموزش مدل است. شرکتهایی مانند OpenAI برای برچسبگذاری دادههای پیشرفتهی علمی و ریاضی از خدمات شرکتهای چینی استفاده میکنند. این برچسبها نقش کلیدی در یادگیری مدلها دارند و میتوانند به جانبداری یا تأثیر زبانی منجر شوند.
در مقابل، گروهی دیگر از کارشناسان باور دارند که انتخاب زبان ازطرف مدل، ارتباطی به دادههای چینی ندارد. آنها میگویند مدلها احتمالاً زبانهایی را انتخاب میکنند که برای انجام وظیفهای خاص، کارآمدتر باشند یا حتی بهطور تصادفی به این زبانها جابهجا میشوند. از آنجاکه مدلها کلمات را بهصورت توکن پردازش میکنند، تفاوتی میان زبانها برای آنها وجود ندارد.
نظریههای دیگر نشان میدهند که پاسخهای چینی ChatGPT میتواند نتیجهی الگوهای احتمالاتی باشد که مدل در طول آموزش خود فرا گرفته است. بهعنوان مثال، استفاده از زبان چینی برای محاسبات ریاضی بهدلیل کوتاهی و کارآمدی آن در برخی موارد میتواند کارآمدتر باشد.
درنهایت، بهدلیل پیچیدگی و شفاف نبودن فرآیند ساخت این مدلها، دلیل قطعی این رفتار مشخص نیست. بههمیندلیل کارشناسان بر اهمیت شفافیت بیشتر در نحوهی ساخت و آموزش سیستمهای هوش مصنوعی تأکید دارند تا بتوان علت چنین پدیدههایی را بهتر درک کرد.
لینک کوتاه: کپی لینک
تیپ هنری «تارای سریال شغال» در لاهیجان (عکس) خواص جگر مرغ؛ این خوراک را بخوریم یا نه؟ تانک های مینیاتوری طبیعت؛ چرا سوسک ها موفق ترین جانوران روی زمین هستند؟ (+اینفوگرافیک) در کشور ما یک مدیر هیچوقت تمام نمی شود، بلکه از سِمتی به سمت دیگر، تغییر صندلی میدهد! سلامت قلب در گرو چربی و کربوهیدرات نیست روزنامه اطلاعات: پزشکیان اهل استعفا نیست سرنگونی پهپاد آمریکایی توسط ایران / حملات آمریکا به قشم و سیریک / سپاه: حمله به مبدا تجاوز / حمله به کویت گوگل برای مقابله با یک ویروس، ۳۲ میلیون پشه در آمریکا رها میکند ۸ فناوری باستانی بسیار پیشرفتهتر از تصور ما(+عکس) محققان: کمخوابی ممکن است ریسک ابتلا به سرطان تا قبل از ۵۰ سالگی را افزایش دهد «اسماعیل شپش» در حیاط قصر ناصرالدین شاه؛ 131 سال قبل (عکس) چرا کامپیوتر شما به مرور زمان کند میشود؟ ۱۰ دلیل پنهان که سطح ویتامین D شما همیشه پایین است ۶ روستای ییلاقی نزدیک تهران که باید در خرداد بروید؛ سفر یکروزه (+عکس) چرا هرگز نباید چشمان خود را مالش دهید؟