چت‌جی‌پی‌تی و چالش‌های جدید در تولید رسیدهای جعلی: یک تهدید یا فرصت؟
در دنیای امروز، پیشرفتهای هوش مصنوعی، همچنان جنجال‌برانگیز و در برخی موارد نگران‌کننده به نظر می‌رسند.
چت‌جی‌پی‌تی، مدل زبان پیشرفتهای که توسط OpenAI توسعه یافته، اخیراً ویژگی جدیدی را معرفی کرده که می‌تواند تصاویر با متنی دقیق و طبیعی تولید کند. این قابلیت، که به ویژه در تولید رسیدهای جعلی رستوران‌ها به کار می‌رود، نگرانی‌هایی را در خصوص سوءاستفاده‌های احتمالی از آن ایجاد کرده است. بسیاری از کلاهبرداران از این فناوری به منظور خلق رسیدهای جعلی با هدف تقلب در سیستم‌های مالی و اقتصادی استفاده می‌کنند. نمونه‌ای از این رسیدهای جعلی که در فرانسه منتشر شد، نشان‌دهنده واقع‌گرایی شگفت‌انگیز آن است.
«دیدی داس»، یک سرمایه‌گذار و کاربر فعال شبکه‌های اجتماعی، در شبکه اجتماعی ایکس تصویری از یک رسید جعلی را به اشتراک گذاشت که به گفته وی، توسط مدل ۴o چت‌جی‌پی‌تی تولید شده بود. این رسید متعلق به یک استیک‌هاوس معروف در سان‌فرانسیسکو بود. دیگر کاربران نیز توانستند به‌راحتی مشابه این رسیدها را تولید کنند، حتی برخی از آن‌ها با لکه‌های غذا و نوشیدنی که آن‌ها را واقعی‌تر نشان می‌دادند.
چت‌جی‌پی‌تی اکنون به‌راحتی قادر است رسیدهای جعلی تولید کند، موضوعی که در فرانسه نیز توجه زیادی را به خود جلب کرده است. یکی از کاربران در لینکدین تصویری از رسید جعلی منتشر کرد که ظاهری چروکیده و واقعی داشت و به‌طور کامل توسط هوش مصنوعی برای یک رستوران زنجیره‌ای ساخته شده بود. این مسئله به‌وضوح نشان می‌دهد که چنین ابزاری می‌تواند در دست افراد نادرست، راه‌های جدیدی برای کلاهبرداری باز کند.
با توجه به این تحولات، این سوال پیش می‌آید که آیا قابلیت چت‌جی‌پی‌تی برای ساخت رسیدهای جعلی، با سیاست‌های ضدکلاهبرداری OpenAI که صراحتاً این نوع رفتارها را ممنوع کرده، در تضاد است یا خیر؟ در پاسخ به این پرسش، «تایا کریستینسون»، سخنگوی OpenAI، تأکید کرده که تمامی تصاویری که با چت‌جی‌پی‌تی تولید می‌شوند، حاوی متادیتا هستند که نشان می‌دهند این تصاویر از طریق این ابزار ساخته شده‌اند. وی همچنین خاطرنشان کرد که OpenAI در صورتی که موارد نقض سیاست‌های استفاده را شناسایی کند، اقدامات لازم را انجام خواهد داد و همواره به بازخوردها و گزارش‌های کاربران برای بهبود عملکرد و امنیت مدل‌های خود توجه می‌کند.
کریستینسون در ادامه افزود که هدف اصلی OpenAI ارائه حداکثر آزادی خلاقانه به کاربران است و رسیدهای جعلی تولید شده لزوماً به‌منظور سوءاستفاده از آن‌ها طراحی نمی‌شوند. بلکه می‌توانند در زمینه‌های مختلفی مانند آموزش سواد مالی، تولید آثار هنری، طراحی تبلیغات و سایر کاربردهای خلاقانه نیز به کار روند.
این اظهارات در حالی بیان می‌شود که همچنان سوالات زیادی پیرامون چگونگی مدیریت و محدود کردن استفاده از چنین تکنولوژی‌هایی وجود دارد و برخی معتقدند که این فناوری‌ها می‌توانند در دست کلاهبرداران ابزاری خطرناک شوند.
