شرکت اوپن ای آی از آغاز عرضه قابلیت امنیتی جدیدی با نام Lockdown Mode حالت قفلخبر داد؛ قابلیتی اختیاری که با هدف افزایش حفاظت کاربران در برابر حملات موسوم به تزریق پرامپت (Prompt Injection) طراحی شده است. این شرکت تاکید کرده که بیشتر کاربران به استفاده از این قابلیت نیازی ندارند و این ابزار عمدتا برای افراد و سازمان هایی توسعه یافته که با داده های حساس سروکار دارند.
به گزارش انگجت، حملات تزریق پرامپت نوعی مهندسی اجتماعی ویژه سامانه های هوش مصنوعی مکالمه ای محسوب می شود. با گسترش توانایی مدل های هوش مصنوعی در جست و جو و پردازش اطلاعات موجود در اینترنت مهاجمان تلاش می کنند دستورالعمل های مخرب را در صفحات وب یا منابع دیگر پنهان کنند تا این سیستم ها را فریب داده و به اطلاعات حساس دسترسی پیدا کنند.
اوپن ای آی اعلام کرده است که حالت قفل به عنوان آخرین لایه دفاعی در برابر چنین حملاتی عمل می کند و در کنار سازوکار های امنیتی موجود در ChatGPT مدل های هوش مصنوعی و زیرساخت های پشتیبان این شرکت قرار می گیرد. به گفته این شرکت هدف اصلی این قابلیت کاهش خطر خروج یا افشای اطلاعات حساس از طریق حملات تزریق پرامپت است.
فعال سازی Lockdown Mode باعث محدود شدن برخی قابلیت های ChatGPT می شود. برای مثال کاربران همچنان می توانند تصاویر را تولید یا عکس های خود را بارگذاری کنند اما سیستم ممکن است تصاویر موجود در اینترنت را فراخوانی نکند یا تصاویر را در پاسخ های خود نمایش ندهد. همچنین ChatGPT در این حالت قادر به دانلود فایل ها برای تحلیل نخواهد بود هرچند کاربران همچنان می توانند اسناد موردنظر خود را به صورت دستی بارگذاری کنند.
علاوه بر این برخی قابلیت های پیشرفته از جمله Deep Research و Agent Mode در حالت قفل به طور کامل غیرفعال می شوند. با این حال اوپن ای آی تاکید کرده که این قابلیت تغییری در بخش هایی مانند حافظه (Memory)، امکان بارگذاری فایل، اشتراک گذاری مکالمات یا استفاده از گفت و گو ها برای بهبود مدل های هوش مصنوعی ایجاد نمی کند. بسیاری از این تنظیمات نیز به صورت جداگانه توسط مدیران سازمانی قابل مدیریت هستند.
نسخه پیش فرض GPT-۵.۵ رونمایی شد
پایان انحصار چت جی پی تی در سیری
اوپن ای آی از ChatGPT Images ۲.۰ رونمایی کرد
این شرکت همچنین توضیح داده که Lockdown Mode مانع ظاهر شدن محتوای حاوی دستورالعمل های مخرب در داده های پردازش شده توسط ChatGPT نمی شود بلکه هدف آن جلوگیری از سوءاستفاده مهاجمان برای استخراج اطلاعات حساس از حساب کاربری از طریق محدود کردن درخواست های شبکه ای قابل بهره برداری است.
قابلیت جدید برای تمامی حساب های شخصی ChatGPT از جمله کاربران نسخه رایگان در دسترس قرار گرفته است. برای فعال سازی آن کاربران باید وارد بخش Settings شده و از قسمت Safety and Security گزینه Lockdown Mode را در بخش Advanced Security فعال کنند. همچنین امکان غیرفعال کردن موقت این حالت برای یک گفت وگوی خاص از طریق گزینه Manage و انتخاب Turn off for this chat فراهم شده است.
هم زمان با معرفی این قابلیت اوپن ای آی از راه اندازی مدیر نشست های فعال (Active Session Manager) نیز خبر داد. این ابزار به کاربران امکان می دهد تمام دستگاه ها و مرورگر هایی را که به حساب کاربری آنها دسترسی داشته اند مشاهده کنند و در صورت نیاز از یک نشست خاص یا از تمامی نشست ها به طور هم زمان خارج شوند. البته فرایند خروج از تمام نشست ها ممکن است تا ۳۰ دقیقه زمان ببرد.
اوپن ای آی به کاربرانی که احتمال می دهند حسابشان مورد دسترسی غیرمجاز قرار گرفته توصیه کرده است رمز عبور خود را تغییر دهند روش های ورود به حساب را بررسی کنند و در صورت نیاز با تیم پشتیبانی این شرکت تماس بگیرند.
انتهای پیام/
∎
دیدگاهی ثبت نشده است