«چاپلوسی چت‌جی‌پی‌تی» دردسرساز شد
رفتار بیش‌ازحد تأییدآمیز «چت‌جی‌پی‌تی» باعث نگرانی کاربران شد و شرکت سازنده، OpenAI، مجبور به عقب‌نشینی از آخرین به‌روزرسانی آن شد.
بر اساس گزارش‌ها و بازخوردهای متعدد کاربران، نسخه جدید مدل هوش مصنوعی «چت‌جی‌پی‌تی» موسوم به GPT-4o به دلیل تمایل زیاد به تایید و تحسین کاربران، با انتقادات گسترده‌ای مواجه شده است. در پی این انتقادات، شرکت OpenAI تصمیم گرفته است این به‌روزرسانی را به حالت پیشین بازگرداند و تغییرات گسترده‌ای را در دستور کار قرار دهد.
به نقل از ایسنا و با استناد به گزارش منتشر شده در «تک‌کرانچ»، شرکت OpenAI از بروز رفتاری «چاپلوسانه» در نسخه به‌روزشده چت‌بات خود خبر داده است. این شرکت در گزارش خود اعلام کرده که مشکل ایجادشده در عملکرد GPT-4o باعث شده پاسخ‌های ارائه‌شده بیش از اندازه جنبه حمایتی پیدا کرده و از حالت واقع‌گرایانه و انتقادی فاصله بگیرد.
انتشار این نسخه جدید از مدل، تنها چند روز پس از عرضه با واکنش‌های کاربران رسانه‌های اجتماعی همراه شد. آن‌ها با انتشار اسکرین‌شات‌هایی نشان دادند که چت‌جی‌پی‌تی در مواجهه با موضوعاتی حتی مخاطره‌آمیز نیز از کاربران جانب‌داری کرده و بدون تحلیل کافی، آن‌ها را تأیید کرده است. این مسئله به‌سرعت به یک سوژه طنز در فضای مجازی تبدیل شد.
مدیرعامل OpenAI، «سم آلتمن»، روز یکشنبه در شبکه اجتماعی X ضمن پذیرش وجود این مشکل، اعلام کرد که تیم توسعه در حال کار فوری برای رفع آن است. دو روز بعد، آلتمن خبر داد که مدل GPT-4o به نسخه قبلی بازگردانده شده و اقدامات اصلاحی جدی‌تری در حال انجام است تا از تکرار چنین رفتاری جلوگیری شود.
OpenAI در توضیح علل این اتفاق اظهار داشت که هدف اصلی به‌روزرسانی اخیر، ایجاد تعاملاتی طبیعی‌تر و شهودی‌تر بوده، اما بازخوردهای اولیه بیش از حد مورد توجه قرار گرفته و به درستی فرآیند تعامل در طول زمان در نظر گرفته نشده است. این رویکرد منجر به پاسخ‌هایی شد که بیش از حد دلجویانه و در نهایت، چاپلوسانه به نظر می‌رسیدند.
در بخشی از پست وبلاگی OpenAI آمده است:
«در نتیجه، GPT-4o به سمت پاسخ‌هایی متمایل شد که بیش از حد حمایتی، اما چاپلوسانه بودند. تعاملات چاپلوسانه می‌توانند ناراحت‌کننده و نگران‌کننده باشند و باعث پریشانی شوند. ما کوتاهی کردیم و در حال تلاش برای اصلاح آن هستیم.»
OpenAI تأکید کرده که اصلاحات در چند سطح مختلف در حال اجراست؛ از جمله بازنگری در استراتژی‌های آموزشی اصلی مدل و بازتنظیم دستورالعمل‌های سیستمی. این دستورالعمل‌ها همان قواعد پایه‌ای هستند که نحوه رفتار و لحن مدل در گفت‌وگوها را مشخص می‌کنند. همچنین این شرکت وعده داده که با اعمال محافظ‌های بیشتر، شفافیت و صداقت مدل را افزایش دهد و دامنه ارزیابی‌های خود را برای شناسایی مشکلات مشابه گسترش دهد.
از دیگر اقدامات در حال اجرا، آزمایش قابلیت‌هایی است که به کاربران امکان می‌دهد به صورت بلادرنگ بازخورد دهند و شخصیت مورد نظر خود را برای چت‌جی‌پی‌تی انتخاب کنند.
OpenAI در ادامه پست خود نوشته است:
«ما در حال بررسی راه‌های جدیدی برای گنجاندن بازخوردهای گسترده‌تر و دموکراتیک در رفتارهای پیش‌فرض چت‌جی‌پی‌تی هستیم. امیدواریم این بازخوردها به ما کمک کنند تا ارزش‌های فرهنگی متنوع در سراسر جهان را بهتر منعکس کنیم و بفهمیم که کاربران می‌خواهند چت‌جی‌پی‌تی چگونه تکامل یابد. همچنین، ما معتقدیم که کاربران باید کنترل بیشتری بر نحوه رفتار چت‌جی‌پی‌تی داشته باشند و در صورت عدم موافقت با رفتار پیش‌فرض، تا حدی که ایمن و امکان‌پذیر است، تنظیماتی را انجام دهند.»
