سوءاستفاده چند کشور از ChatGPT برای تبلیغات مخفی فاش شد

شرکت OpenAI اعلام کرد ۱۰ عملیات پنهان را شناسایی کرده که در آن‌ها از ابزارهای هوش مصنوعی این شرکت، به‌ویژه ChatGPT، برای اهداف تبلیغاتی و اطلاعاتی سوءاستفاده شده است.

کد خبر: ۲۰۶۳۶۶۷

۱۶ خرداد ۱۴۰۴

به گزارش اقتصاد آنلاین به نقل از تکناک، این عملیات‌ها به کشورهایی مانند چین، روسیه، ایران، فیلیپین، کامبوج و احتمالاً کره شمالی مرتبط بوده‌اند و طیف گسترده‌ای از تاکتیک‌ها و پلتفرم‌ها را در بر می‌گرفتند.

بر اساس این گزارش، یکی از برجسته‌ترین این عملیات‌ها با نام «Sneer Review» شناسایی شد که به چین مرتبط است. این گروه از ChatGPT برای تولید نظرات کوتاه در شبکه‌های اجتماعی چون TikTok، X و Facebook استفاده می‌کرد. موضوعات این نظرات شامل مسائل سیاسی آمریکا و انتقاد از یک بازی تایوانی ضد حزب کمونیست چین بود. اعضای این گروه حتی با پاسخ دادن به پست‌های خود، سعی در شبیه‌سازی بحث‌های واقعی و جلب توجه کاربران داشتند. آن‌ها همچنین از هوش مصنوعی برای نگارش گزارش‌های داخلی عملکرد و ارزیابی تأثیرگذاری کمپین خود استفاده کرده بودند.

در عملیاتی دیگر، افرادی با هویت جعلی روزنامه‌نگار و تحلیل‌گر ژئوپلیتیک از ChatGPT برای نگارش پست‌های اجتماعی، ساخت بیوگرافی‌های ساختگی، ترجمه پیام‌ها از چینی به انگلیسی و تحلیل داده‌ها بهره می‌بردند. OpenAI اعلام کرد که این گروه حتی به بررسی محتوای برخی مکاتبات مربوط به یک سناتور آمریکایی پرداخته و از مدل‌های هوش مصنوعی برای تبلیغ خدمات جعلی خود جهت اجرای کمپین‌های دروغین و جذب منابع اطلاعاتی استفاده کرده بودند.

علاوه بر چین، عملیات‌هایی با منشأ احتمالی در روسیه و ایران نیز شناسایی شد. همچنین یک عملیات اسپم از سوی یک شرکت بازاریابی در فیلیپین، یک کلاهبرداری استخدامی با ریشه در کامبوج، و کمپینی فریبنده با شباهت به اقدامات معمول کره شمالی نیز در این گزارش افشا شده‌اند.

بن نیمو، تحلیل‌گر ارشد تیم اطلاعاتی OpenAI، با اشاره به گستردگی این تلاش‌ها گفت: «این عملیات‌ها از ابزارها و روش‌های مختلفی استفاده کرده‌اند، اما اغلب در مراحل ابتدایی شناسایی و متوقف شدند.» وی تأکید کرد که استفاده از هوش مصنوعی الزاماً باعث موفقیت این عملیات‌ها نشده و افزود: «در بیشتر موارد، ما شاهد افزایش تعامل و تأثیرگذاری به دلیل استفاده از AI نبودیم. ابزار بهتر لزوماً نتیجه بهتر نمی‌دهد.»

این افشاگری جدید بار دیگر نگرانی‌ها درباره سوءاستفاده دولت‌ها و گروه‌های ناشناس از فناوری‌های پیشرفته برای پیشبرد اهداف اطلاعاتی و تبلیغاتی را تقویت کرده است. OpenAI اعلام کرده که به‌طور مستمر تلاش می‌کند تا استفاده نادرست از فناوری‌های خود را شناسایی و با آن مقابله کند.