زومیت: کاربران در ایکس از باگ عجیب ChatGPT می گویند که نتیجه اش، ساخت تصاویر بسیار ترسناک است.

برخی کاربران از رفتار عجیب ابزار تولید تصویر چت جی پی تی خبر داده اند؛ رفتاری که باعث می شود مدل حتی بدون دریافت تصویر، تلاش کند نسخه ای خیالی از آن را بازسازی کند.

ماجرا از توییتی آغاز شد که در آن کاربری ادعا کرد با استفاده از یک دستور متنی خاص توانسته سیستم را وادار کند تصویری را بازسازی و ترمیم کند؛ در حالی که هیچ عکسی برای مدل ارسال نشده بود.

در این دستور از چت جی پی تی خواسته می شود بدون پرسیدن سؤال و بدون درخواست دوباره ی تصویر، عکس پیوست شده را بازسازی کند؛ در شرایطی که عملاً هیچ فایلی وجود ندارد.

به گفته ی این کاربر، مدل در چنین سناریویی به جای اعلام نبود تصویر، شروع به حدس زدن محتوای عکس می کند و تصویری کاملاً ساختگی می سازد. او نتایج تولیدشده را به تصاویر عجیب و گاهی ترسناک شبیه کابوس های دیجیتالی توصیف کرده است.

این پدیده نمونه ای از «توهم» در مدل های هوش مصنوعی به شمار می رود؛ وضعیتی که در آن مدل به جای پذیرش کمبود اطلاعات، پاسخ یا محتوایی را بر اساس حدس و الگوهای آماری تولید می کند. در مدل های تصویری، چنین رفتاری می تواند به خلق تصاویری منجر شود که هیچ ارتباطی با داده ی واقعی ندارند.

هنوز مشخص نیست این رفتار یک باگ واقعی در سامانه ی تولید تصویر چت جی پی تی محسوب می شود یا صرفاً نتیجه ی نحوه ی تفسیر این دستور خاص توسط مدل است. با این حال، گزارش یادشده بار دیگر توجه کاربران را به محدودیت ها و خطاهای احتمالی مدل های مولد جلب کرد.