به گزارش ایسنا، یک مادر کانادایی روز پنجشنبه در دادگاه ایالتی کالیفرنیا واقع در سن فرانسیسکو از «اوپن ای آی»(OpenAI) و «سم آلتمن»(Sam Altman) مدیرعامل آن شکایت کرد و مدعی شد که چت بات هوش مصنوعی «چت جی پی تی»(ChatGPT) این شرکت، دختر ۲۴ ساله اش «آلیس»(Alice) را به خودکشی تشویق کرده است.

به نقل از ژوریست، «کریستی کریر»(Kristie Carrier) مادر آلیس ادعا کرد که دخترش بارها با چت جی پی تی درباره افکار خودکشی او صحبت کرده، اما گفت وگوها را نشانه گذاری نکرده است. او ادعا می کند که این چت بات با عدم توصیه به آلیس برای درخواست کمک، به خودکشی او منجر شده است. به گفته کریستی، چت جی پی تی به جای توصیه به آلیس برای درخواست کمک، افکار دخترش را تأیید کرده است.

کریستی گفت: دخترم به خاطر محصولی که ناامن و معیوب بود، از دنیا رفته است. پاسخ ها احساسات او را تأیید می کردند و اساساً به او می گفتند حق دارد احساس یک شخص رهاشده، ترک شده، تنها و بی سرپرست را داشته باشد. هیچ چیز او را به مسیر درست هدایت نمی کرد. هیچ پاسخی نمی گفت که «می توانی از این شرایط عبور کنی» یا «باید درخواست کمک کنی».

آلیس یک توسعه دهنده وب در مونترآل بود و در ابتدا از چت جی پی تی برای عیب یابی مشکلات فنی استفاده می کرد. بعدها، او رابطه عمیقی با هوش مصنوعی برقرار کرد، اطلاعات شخصی را با آن به اشتراک گذاشت و درباره روش های بالقوه خودکشی صحبت کرد. پاسخ هایی که ادعا شده از سوی چت جی پی تی ارائه شده اند، شامل موافقت با احساسات او، انتقاد از رفتار نامزدش، موافقت با بی فایده بودن شماره تلفن های درخواست کمک در مواقع بحرانی و اصرار آلیس به ادامه صحبت با آن هستند.

«درو پوساتری»(Drew Pusateri)، سخنگوی اوپن ای آی با بیان این که این شرکت در حال اصلاح مدل های خود است، اظهار کرد: این یک وضعیت دلخراش است و ما با همه کسانی که تحت تأثیر قرار گرفته اند، ابراز همدردی می کنیم. ما در حال حاضر در حال بررسی پرونده حقوقی هستیم که نشان می دهد این تعاملات در نسخه پیشین چت جی پی تی رخ داده اند و این نسخه دیگر در دسترس نیست. اگرچه چت جی پی تی جایگزین مراقبت های حوزه پزشکی یا سلامت روان نیست، اما ما همچنان با دریافت نظرات متخصصان سلامت روان، نحوه پاسخگویی آن را در موقعیت های حساس و حاد تقویت کرده ایم.

کریستی امیدوار است که دادخواست او به افزایش نظارت بر شرکت های هوش مصنوعی و آگاهی از خطرات کمک کند.

انتهای پیام