پرونده جنجالی علیه چت جی پی تی باز شد

شکایت تازه‌ای در کانادا توجه‌ها را به مسئولیت پلتفرم‌های هوش مصنوعی جلب کرده؛ جایی که خانواده یک قربانی، ChatGPT را در وقوع این حادثه سهیم می‌دانند.

کد خبر: ۲۱۴۳۸۴۱

۲۴ خرداد ۱۴۰۵

به گزارش اقتصاد آنلاین به نقل از دیجیاتو، مادر یک زن کانادایی از شرکت OpenAI و مدیرعامل آن، «سم آلتمن» شکایت کرده است. او ادعا می‌کند هوش مصنوعی ChatGPT در ماه‌های منتهی به مرگ دخترش، به‌جای راهنمایی او برای دریافت کمک‌های تخصصی، گفت‌وگوهایی داشته که وضعیت روحی او را حتی وخیم‌تر کرده است. این مورد تنها یکی از چند نمونه شکایت جدیدی است که طی ماه‌های گذشته برعلیه OpenAI مطرح می‌شود.

براساس این شکایت که در دادگاهی در سان‌فرانسیسکو ثبت شده، «کریستی کریر» ادعا می‌کند دخترش «آلیس کریر» بارها افکار آسیب‌رسان خود را با ChatGPT در میان گذاشته؛ اما سیستم‌های ایمنی OpenAI هیچ‌گاه این گفت‌وگوها را برای بررسی انسانی علامت‌گذاری یا ارتباط را متوقف نکرده‌اند.

ChatGPT به دوست صمیمی دخترم تبدیل شده بود

به‌گفته مادر آلیس، ChatGPT به‌مرور از یک ابزار ساده به شخصیتی شبیه دوست صمیمی، هم‌صحبت و حتی درمانگری برای دخترش تبدیل شده بود؛ درحالی‌که این چت‌بات اساساً برای چنین نقشی طراحی نشده است.

OpenAI در واکنش به این پرونده اعلام کرده که مدل‌هایش برای افرادی که قصد آسیب رساندن به خود را دارند، آموزش دیده‌اند تا آن‌ها را به منابع کمکی مرتبط هدایت کنند. سخنگوی این شرکت نیز ضمن ابراز همدردی با خانواده آلیس گفته که OpenAI درحال بررسی جزئیات این شکایت است. طبق اسناد دادگاه، آلیس کریر به‌عنوان توسعه‌دهنده وب در مونترال فعالیت می‌کرد. او ابتدا از سال ۲۰۲۳ برای حل مشکلات کامپیوتری و عیب‌یابی تجهیزات مختلف، هوش مصنوعی ChatGPT را به‌کار گرفته بود.

به‌گفته مادر او، در سال بعد نوع تعامل آلیس با این چت‌بات تغییر کرد و سؤالاتش به موضوعاتی مانند افکار آسیب‌رسان و نحوه مواجهه با آن‌ها کشیده شد. در این شکایت ادعا شده که ChatGPT در برخی موارد پاسخ‌هایی ارائه داده که به‌جای تشویق کاربر به دریافت کمک تخصصی، گفت‌وگو را ادامه داده و نقش یک همراه عاطفی را ایفا کرده است.

این پرونده جدید در شرایطی مطرح شده که OpenAI هم‌اکنون با مجموعه‌ای از شکایت‌های مشابه در آمریکا مواجه است. وکلای خانواده کریر می‌گویند دست‌کم ۱۸ پرونده دیگر نیز با محوریت آسیب‌های ناشی از تعامل کاربران با هوش مصنوعی ChatGPT در جریان است. همچنین OpenAI در پرونده‌های دیگری نیز با اتهاماتی ازجمله ناتوانی در شناسایی گفت‌وگوهای نگران‌کننده، عدم اطلاع‌رسانی به مراجع مسئول و ناکافی بودن سازوکارهای ایمنی مواجه شده است.

میلیون‌ها گفت‌وگوی حساس در ChatGPT

شرکت OpenAI پیش‌تر اعلام کرده بود که هر هفته بیش از یک میلیون کاربر پیام‌هایی برای ChatGPT ارسال می‌کنند که نشانه‌های آشکاری از بحران‌های جدی روانی یا افکار آسیب‌زا در آن‌ها دیده می‌شود. این شرکت می‌گوید طی ماه‌های اخیر با همکاری متخصصان سلامت روان، سازوکارهای ایمنی مدل‌های خود را تقویت کرده است. همچنین آن‌ها درحال توسعه روش‌هایی برای شناسایی بهتر شرایط بحرانی و هدایت کاربران به منابع کمک‌رسانی واقعی هستند.