تاریخ:
ماجرای جالب یک پفک نمکی دزدی و عاقبت آن 
درس چهل و هفتم
هوش مصنوعی استدلالی OpenAI گاهیاوقات «چینی و فارسی فکر میکند» و هیچکس نمیداند چرا
هوش مصنوعی OpenAI رفتاری عجیب از خود نشان داده که ذهن کاربران را درگیر کرده است زیرا گاهی به زبان چینی و حتی فارسی فکر میکند.
پساز انتشار مدل هوش مصنوعی استدلالی o1 شرکت OpenAI، کاربران متوجه پدیدهی عجیبی شدند: این مدل حتی در پاسخ به سؤالات انگلیسی، گاهیاوقات به زبانهای دیگری مانند چینی، فارسی یا زبانهای دیگر فکر میکند. مدل مذکور در فرآیند پاسخدهی، مراحل استدلالی خود را به زبان دیگری انجام میدهد و در نهایت پاسخ را به زبان اصلی سؤال ارائه میدهد.
به گزارش زومیت، ازنظر برخی متخصصان، چینی فکر کردن ChatGPT بهدلیل استفاده از دادههای چینی در فرآیند آموزش مدل است. شرکتهایی مانند OpenAI برای برچسبگذاری دادههای پیشرفتهی علمی و ریاضی از خدمات شرکتهای چینی استفاده میکنند. این برچسبها نقش کلیدی در یادگیری مدلها دارند و میتوانند به جانبداری یا تأثیر زبانی منجر شوند.
در مقابل، گروهی دیگر از کارشناسان باور دارند که انتخاب زبان ازطرف مدل، ارتباطی به دادههای چینی ندارد. آنها میگویند مدلها احتمالاً زبانهایی را انتخاب میکنند که برای انجام وظیفهای خاص، کارآمدتر باشند یا حتی بهطور تصادفی به این زبانها جابهجا میشوند. از آنجاکه مدلها کلمات را بهصورت توکن پردازش میکنند، تفاوتی میان زبانها برای آنها وجود ندارد.
نظریههای دیگر نشان میدهند که پاسخهای چینی ChatGPT میتواند نتیجهی الگوهای احتمالاتی باشد که مدل در طول آموزش خود فرا گرفته است. بهعنوان مثال، استفاده از زبان چینی برای محاسبات ریاضی بهدلیل کوتاهی و کارآمدی آن در برخی موارد میتواند کارآمدتر باشد.
درنهایت، بهدلیل پیچیدگی و شفاف نبودن فرآیند ساخت این مدلها، دلیل قطعی این رفتار مشخص نیست. بههمیندلیل کارشناسان بر اهمیت شفافیت بیشتر در نحوهی ساخت و آموزش سیستمهای هوش مصنوعی تأکید دارند تا بتوان علت چنین پدیدههایی را بهتر درک کرد.
لینک کوتاه: کپی لینک
نرخ تورم اردیبهشت ماه اعلام شد جزئیات قتل دانشجوی دندانپزشکی قزوین وام ودیعه مسکن ۱۴۰۵ چقدر شد؟ + جدول مبالغ و اقساط ماهیانه مارمولک ؛ یکی از شناخته شده ترین خودروهای ضدهوایی دوران جنگ سرد (+تصاویر) زمان برگزاری آزمون صلاحیت حرفهای گروه پرستاری عراقچی: نقض آتش بس در یک جبهه، نقض آتش بس در تمام جبهههاست ۵ اشتباه پدر و مادرها در تعامل با فرزندان نوجوان آملی لاریجانی: مردم ایران و حزبالله لبنان شانهبهشانه هم ایستاده اند نحوه برگزاری امتحانات پایان ترم دانشجویان ارشد و دکتری تعیین تکلیف شد فرانسه ؛ بازداشت 780 نفر در شورش بعد از قهرمانی پاری سن ژرمن (+عکس) توکلیزاده: آمادگی گروههای جهادی و مردمی برای اقدام ضربتی برپایی جشن غدیر پشت پرده پولهای گمشده نفت/ الیگارشیهایی که از جنگ تا تحریم، نان میخورند جایزه بهترین فیلم کوتاه جشنواره دهلی برای یک فیلم ایرانی طرح رایگانشدن دائمی تردد با مترو و اتوبوس به کجا رسید؟ معاون فرهنگی شهرداری تهران: خاطره بازدیدهای طولانی رهبری از نمایشگاه کتاب هرگز فراموش نمیشود