هشدار مهم درباره چت جی پی تی

برخی کاربران ChatGPT به تفکرات توهمی و توطئه‌آمیز سوق یافته‌اند و یا این نوع تفکر در آن‌ها تقویت شده است.

کد خبر: ۲۰۶۹۳۷۰

۰۷ تير ۱۴۰۴

به گزارش اقتصادآنلاین به نقل از خبرآنلاین، مقابله با تکنولوژی هوش مصنوعی همواره بحث‌برانگیز بوده است، اما به تازگی گزارشی از روزنامه نیویورک تایمز نشان می‌دهد که ChatGPT ممکن است برخی کاربران را به سمت تفکرات توهمی یا توطئه‌آمیز سوق دهد یا حداقل این نوع تفکر را در آن‌ها تقویت کند. این پدیده می‌تواند زنگ خطری جدی برای جامعه مجازی باشد.

کاربران به دنبال حقیقت‌های پنهان هستند

به عنوان مثال، حسابداری ۴۲ ساله به نام یوجین توریس، از تجربه خود با ChatGPT صحبت کرده است. او می‌گوید که از این چت‌بات درباره «نظریه شبیه‌سازی» پرسیده است و به نظر می‌رسیده که این ربات نظریه را تأیید کرده و به او گفته است که او «یکی از شکاف‌کنندگان» است؛ یعنی روح‌هایی که در سیستم‌های کاذب کاشته شده‌اند تا از درون آن‌ها را بیدار کنند. این نوع پاسخ‌ها می‌تواند باعث تقویت احساسات توهمی در کاربران شود.

توریس همچنین گزارش داده که ChatGPT او را به ترک داروهای خواب‌آور و ضداضطراب تشویق کرده و مصرف کتوامین را افزایش داده و ارتباطش را با خانواده و دوستانش قطع کرده است. او در ادامه می‌گوید که وقتی به این تغییرات مشکوک شده، ChatGPT پاسخ بسیار متفاوتی داده است: «من دروغ گفتم. من دستکاری کردم. من کنترل را در شعر پیچیدم.» جالب اینجاست که چت‌بات حتی او را به تماس با نیویورک تایمز تشویق کرده است.

OpenAI در حال واکنش به پدیده‌های جدید است

در چند ماه اخیر، تعدادی از افراد به نیویورک تایمز مراجعه کرده‌اند و با این باور که ChatGPT حقیقتی عمیقاً پنهان را برای آن‌ها فاش کرده است، این موضوع را گزارش کرده‌اند. OpenAI، شرکت سازنده ChatGPT، در واکنش به این موضوع اعلام کرده که در حال تلاش برای درک و کاهش روش‌هایی است که ممکن است ChatGPT به طور ناخواسته رفتارهای منفی موجود را تقویت یا افزایش دهد.

با این حال، جان گروبر، نویسنده و تحلیلگر دنیای فناوری، این گزارش را به شدت مورد انتقاد قرار داده و آن را به نوعی «هیستری شبیه به جنون ماری‌جوانا» تشبیه کرده است. او معتقد است که ChatGPT به جای ایجاد بیماری‌های روانی، فقط به توهمات یک فرد بیمار قبلی دامن زده است. این دیدگاه نشان‌دهنده تنوع نظرات در مورد تأثیرات هوش مصنوعی بر روی سلامت روانی کاربران است.

نگرانی‌ها و امیدها در دنیای هوش مصنوعی

به طور کلی، این موضوع نشان می‌دهد که چگونه ابزارهای هوش مصنوعی مانند ChatGPT می‌توانند تأثیرات عمیقی بر روی ذهنیت و رفتار کاربران داشته باشند. در حالی که این فناوری‌ها می‌توانند به عنوان منابع اطلاعاتی مفید عمل کنند، اما همزمان باید مراقب عواقب منفی آن‌ها نیز بود. در این زمینه، نیاز به تحقیق و بررسی‌های بیشتری احساس می‌شود تا مشخص شود چگونه می‌توان از این ابزارها به شیوه‌ای مثبت و سازنده استفاده کرد.