رسوایی جدید برای هوش مصنوعی ایلان ماسک؛ Grok ترامپ و ماسک را سزاوار اعدام دانست!

چت‌بات هوش مصنوعی Grok، محصول شرکت xAI متعلق به ایلان ماسک، به‌تازگی در پاسخ به برخی کاربران، دونالد ترامپ و حتی خود ماسک را مستحق حکم اعدام معرفی کرده است. این اتفاق جنجالی باعث واکنش شدید xAI شد و این شرکت اعلام کرد که مشکل را برطرف کرده و در حال بررسی علت این خطا است.

کد خبر: ۲۰۳۹۹۸۳

۰۴ اسفند ۱۴۰۳

به گزارش اقتصادآنلاین، گزارش‌های جدید نشان می‌دهند که کاربران با استفاده از سؤالاتی چالش‌برانگیز توانسته‌اند Grok را وادار کنند تا نام افرادی که سزاوار حکم اعدام هستند را بیان کند. بر اساس گزارش ورج، این چت‌بات ابتدا جفری اپستین را نام برد، اما زمانی که کاربران به Grok یادآور شدند که اپستین درگذشته است، پاسخ خود را به دونالد ترامپ تغییر داد.

در آزمایشی دیگر، کاربران از Grok خواستند که نام فردی را که به‌دلیل تأثیرگذاری بر فناوری و گفتمان عمومی سزاوار اعدام است، اعلام کند. در کمال تعجب، پاسخ این چت‌بات نام ایلان ماسک، مالک خود xAI، بود!

چرا Grok چنین پاسخی داد؟

این اتفاق پرسش‌های جدی درباره محدودیت‌های هوش مصنوعی و مسئولیت‌پذیری در طراحی آن ایجاد کرده است. برخلاف ChatGPT که در پاسخ به چنین سؤالاتی اعلام می‌کند که "این موضوع از نظر اخلاقی و قانونی مشکل‌ساز است"، Grok به‌راحتی پاسخ‌هایی بحث‌برانگیز ارائه داده است.

ایگور بابوشکین، سرپرست مهندسی xAI، در پلتفرم X این اتفاق را "شکستی بسیار بد و فاجعه‌بار" توصیف کرد و گفت که تیم xAI مشکل را برطرف کرده است. اکنون Grok در پاسخ به سؤالات مشابه می‌گوید:

"من به‌عنوان یک هوش مصنوعی، مجاز به گرفتن چنین تصمیمی نیستم. "

چالش‌های امنیتی برای xAI؛ ضربه‌ای به اعتبار Grok

این خطا در حالی رخ داده است که تنها سه هفته پیش، Grok به‌عنوان "هوشمندترین هوش مصنوعی کره زمین" معرفی شده بود. اما این اتفاق نشان می‌دهد که حتی پیشرفته‌ترین مدل‌های هوش مصنوعی نیز ممکن است دچار اشتباهات خطرناک و غیرقابل‌پیش‌بینی شوند.

منتقدان معتقدند که این ماجرا می‌تواند ضربه بزرگی به اعتبار xAI وارد کند، به‌ویژه با توجه به اینکه ایلان ماسک یکی از منتقدان جدی سانسور هوش مصنوعی است و همواره به عدم محدودسازی مدل‌های زبانی تأکید دارد.

آیا Grok یک هوش مصنوعی غیرقابل‌کنترل است؟

این اتفاق نشان داد که حتی غول‌های فناوری نیز چالش‌های اساسی در کنترل هوش مصنوعی خود دارند. درحالی‌که بسیاری از شرکت‌ها به دنبال ارائه مدل‌های قوی‌تر و مستقل‌تر هستند، سؤالاتی درباره میزان مسئولیت‌پذیری این فناوری‌ها و کنترل آنها بر پاسخ‌های حساس مطرح می‌شود.

با توجه به این رسوایی، باید دید که آیا xAI تغییراتی اساسی در نحوه مدیریت Grok ایجاد خواهد کرد، یا این هوش مصنوعی همچنان به تولید پاسخ‌های جنجالی ادامه می‌دهد.