فیلم بیشتر »»
کد خبر ۱۰۱۸۷۵۱
تاریخ انتشار: ۱۶:۱۳ - ۱۳-۰۹-۱۴۰۳
کد ۱۰۱۸۷۵۱
انتشار: ۱۶:۱۳ - ۱۳-۰۹-۱۴۰۳

لیست سیاه چت‌جی‌پی‌تی؛ نام‌هایی که این هوش مصنوعی را خاموش می‌کند

لیست سیاه چت‌جی‌پی‌تی؛ نام‌هایی که این هوش مصنوعی را خاموش می‌کند
چت‌جی‌پی‌تی به دلیل نگرانی از ارائه اطلاعات غلط، لیستی از نام‌ها را فیلتر کرده است. با وارد کردن این نام‌ها در مکالمه، چت‌جی‌پی‌تی به طور خودکار مکالمه را متوقف می‌کند.

گزارش‌ها حاکی از این هستند که «چت‌جی‌پی‌تی» به دنبال روبه‌رو شدن با برخی نام‌ها متوقف می‌شود و پیام خطا را نشان می‌دهد.

به گزارش ایسنا، چت‌بات «چت‌جی‌پی‌تی»(ChatGPT) شرکت «اوپن‌ای‌آی»(OpenAI) چیزی بیش از یک مدل زبانی مبتنی بر هوش مصنوعی با رابط کاربری است. چت‌جی‌پی‌تی در واقع یک سیستم متشکل از مجموعه‌ مدل‌های هوش مصنوعی و فیلترهای محتواست که اطمینان حاصل می‌کند خروجی‌های آن باعث شرمساری اوپن‌ای‌آی و بروز مشکلات قانونی نمی‌شوند زیرا ربات آن گاهی اوقات ممکن است حقایق مضری را درباره افراد ارائه دهد.

به نقل از Ars technica، این واقعیت زمانی خبرساز شد که مردم متوجه شدند نام «دیوید مایر»(David Mayer)، چت‌جی‌پی‌تی را متوقف کرده است. همچنین، 404 Media کشف کرد که نام‌های «جاناتان زیترین»(Jonathan Zittrain) و «جاناتان تورلی»(Jonathan Turley) باعث می‌شوند چت‌جی‌پی‌تی، گفت‌وگوها را کوتاه کند. اولین نامی که سال گذشته به درز این خبر منجر شد، «برایان هود»(Brian Hood) بود.

توقف چت‌بات زمانی اتفاق می‌افتد که کاربران این نام‌ها را در هر زمینه‌ای ذکر کنند. توقف از یک فیلتر رمزگذاری‌شده ناشی می‌شود که خروجی مدل هوش مصنوعی را پیش از بازگرداندن آن به کاربر مسدود می‌کند.

وقتی درباره این نام‌ها سؤال می‌شود، چت‌جی‌پی‌تی با جمله‌های «نمی‌توانم پاسخی تولید کنم» یا «خطایی در ایجاد پاسخ وجود داشت» پاسخ می‌دهد. نام‌ها بر خروجی‌های استفاده از سیستم‌های واسط برنامه‌نویسی کاربردی اوپن‌ای‌آی یا وب‌سایت ویژه «OpenAI Playground» تأثیری ندارند.

در ادامه، یک فهرست از نام‌های عامل توقف چت‌جی‌پی‌تی ارائه شده است که از طریق تلاش‌های جمعی در رسانه‌های اجتماعی پیدا شده‌اند. ارس تکنیکا درست پیش از انتشار این فهرست متوجه شد که اوپن‌ای‌آی، نام دیوید مایر را برداشته است و به چت‌جی‌پی‌تی اجازه می‌دهد تا نام را پردازش کند. بنابراین فهرست جدید، نام دیوید مایر را شامل نمی‌شود.

  •     برایان هود
  •     جاناتان تورلی
  •     جاناتان زیترین
  •     دیوید فابر
  •     گیدو اسکورزا

اوپن‌ای‌آی به درخواست ارس تکنیکا برای اظهار نظر درباره نام‌ها پاسخ نداد اما همه آنها احتمالا به دلیل شکایت پیرامون تمایل چت‌جی‌پی‌تی به ارائه پاسخ‌های اشتباه در صورت نداشتن اطلاعات کافی درباره یک شخص فیلتر شده‌اند.

ارسال به دوستان
captcha
اعلام صریح فرمانده فراجا؛ علیرضا بیرانوند از اول مهر سرباز می‌شود قرارداد امیر قلعه‌نویی با تیم ملی فوتبال؛ سفید امضا و بدون رقم یک کارگردان جوان مطرح کرد: سرمایه‌گذاری روی استعدادهای جوان می‌تواند آینده سینما را بسازد جنجال جدید تئاتر «آرش» ؛ در آغوش گرفتن خانم و آقای بازیگر روی صحنه (+فیلم) سهمیه کارت اضطراری جایگاه‌ها تغییر می‌کند؛ جزئیات طرح جدید سوخت مدیرکل راهداری آذربایجان‌غربی: پایانه مرزی بازرگان ۲۴ ساعته در مدار خدمت است ترکیب جدید هیات‌مدیره استقلال برای دو سال آینده مشخص شد نجات معجزه‌آسای کودک ۱۰ ساله از خونریزی وسیع داخلی در پارس‌آباد ترامپ: جنگ با ایران پیش از انتخابات یا پس از آن پایان خواهد یافت! نشان درجه یک هنری برای علیرضا داودنژاد ؛ بوسه زهرا بر دستان پدر در فقدان رضا نخستین دربی زنان ایران با VAR؛ استقلال و پرسپولیس با فناوری ویدیویی یک سرکرده داعش در کرکوک عراق به دام افتاد رده‌بندی نهایی والیبال قهرمانی مردان آسیا ۲۰۲۶ اعلام شد سرنوشت «گریم» در زبان فارسی رایزنی تلفنی ولیعهد سعودی و نخست‌وزیر پاکستان درباره تحولات منطقه
نظرسنجی
پیش بینی شما از تقابل ایران و آمریکا از 3 ماه آینده؟