تیم «سلامت چت» دیوار: نگهبان نامرئی کاربران با کمک هوش مصنوعی

افزایش امنیت و سلامت فضای چت در دیوار، یکی از اولویت‌های اصلی این پلتفرم است.

کد خبر: ۲۰۷۱۱۰۵

۱۶ تير ۱۴۰۴

به گزارش اقتصادآنلاین، کاربران، به‌خصوص آگهی‌گذاران، پیش‌ازاین با رفتارهای مخرب نظیر پیام‌های آزارگرانه، تهدیدآمیز، تصاویر غیراخلاقی و سرقت حساب کاربری روبه‌رو بوده‌اند که اعتماد به دیوار را کاهش می‌داد.

از سال ۱۳۹۹، تیم‌های مختلفی در دیوار برای مقابله با آزار تلاش‌های زیادی انجام داده‌اند. اما از آذرماه ۱۴۰۳، تیم «سلامت چت» دیوار متشکل از ۵ نفر، با تکیه بر راهکارهای هوش مصنوعی مسیر جدیدی را شروع کرد تا رفتارهای مخرب را دقیق‌تر شناسایی کرده و به کمک اقداماتی مثل انتقال مکالمات به پوشه افراد مشکوک و محدود کردن چت کاربران خاطی، مواجهه کاربران با اینگونه مشکلات را کاهش دهد و در نتیجه، اطمینان لازم برای انجام معاملات را تقویت کند.

هوش مصنوعی ابزاری کلیدی برای امنیت دیوار

تیم «سلامت چت» دیوار، با کمک هوش مصنوعی اقداماتی متنوع انجام داده تا کاربران کمتر با مزاحمت یا محتوای نامناسب روبه‌رو شوند. مجموع این اقدامات، فضای چت دیوار را امن‌تر کرده و اعتماد کاربران را برای انجام معامله‌ها و تعامل‌های روزمره افزایش داده است:

آموزش و استنتاج مدل‌های زبانی هوش مصنوعی برای شناسایی پیام‌های مزاحم، با کمک زیرساخت‌های خود دیوار انجام شده است تا پردازش طیف گسترده‌ای از مکالمات در کوتاه‌ترین زمان فراهم شده و دقت بررسی افزایش پیدا کند.

بررسی تمامی مکالمات مشکوک و گزارش‌های کاربران، به همراه مسدودکردن افراد متخلف، با کمک مدل‌های هوش مصنوعی مولد انجام می‌شود تا پیگیری دقیق گزارش‌ها و اعمال مجازات‌ها با بالاترین دقت فراهم شود.

راه‌اندازی یک سیستم خودکار هوشمند برای ارزیابی  تخلفات و اعمال مجازات‌های لازم، بدون نیاز به نیروی انسانی

به‌کارگیری مدل‌های گوناگون تشخیص تصویر برای شناسایی و تار کردن سریع تصاویر غیراخلاقی، همراه با برخورد قاطع‌تر با ارسال‌کنندگان

جلوگیری خودکار برای استفاده از نام‌های کاربری جعلی یا مشکوک با استفاده از بررسی اسامی انتخابی کاربر به کمک هوش مصنوعی مولد

بهبود تجربه کاربری و کاهش مواجهه با افراد مشکوک

طی ماه‌های اخیر، کاربران با ورود به بخش چت، تغییر محسوسی را در امنیت و کیفیت محیط گفتگو تجربه می‌کنند. اکنون دیگر :

مکالمه‌های مشکوک به سرعت به پوشه «افراد مشکوک» منتقل شده و مکالمات مزاحمان یا محتواهای نامناسب کمتر مزاحم کاربران می‌شود. به طور متوسط تعداد مکالمات آزارگران در دیوار تا زمان شناسایی‌شان و انتقال پیام‌هایشان به پوشه افراد مشکوک نسبت به ۶ ماه قبل ۶۸٪ کاهش داشته است.

پیام‌هایی که از طرف افراد با سابقه مزاحمت یا گزارش زیاد ارسال می‌شود، با برچسب «نامربوط به معامله»، از پیام‌های مهم جدا می‌شوند.

نمایش هشدار تمام صفحه به کاربران در معرض خطر سرقت حساب کاربری، منجر به آگاه‌سازی بیشتر کاربر و در نتیجه افزایش امنیت شده است.

کاربرانی که در چت دیوار مطابق قوانین رفتار نمی‌کنند هشدارها و راهنمایی‌هایی برای اصلاح استفاده‌شان از چت دیوار دریافت می‌کنند.

نتیجه این تلاش‌ها کاهش ۴۲٪ مزاحمت‌ها و ۷۹٪ خطر سرقت حساب کاربری بوده است. کاربران اکنون با خیال راحت‌تری گفتگوهای خود را انجام می‌دهند و در صورت مشاهده هرگونه مزاحمت یا تخلف و گزارش کردن آن، مطمئن هستند که برخورد با متخلفان جدی‌تر و سریع‌تر خواهد بود؛ از مسدود شدن حساب‌ مزاحم‌ها تا پیگیری‌های قضایی.

برنامه‌های آینده تیم «سلامت چت»

ارتقای سرویس، تدوین قوانین جدید برای حفظ سلامت محیط چت و طراحی راهکارهایی جهت مدیریت رخدادهای اضطراری، برخی از برنامه‌های آینده تیم «سلامت چت» دیوار هستند. هدی محمودی، مدیر تیم «سلامت چت»، می‌گوید:«امیدواریم در ادامه این اقدامات، وارد مرحله‌ی جدیدی از ایجاد امنیت برای کاربران با بهره‌گیری از هوش مصنوعی شویم. برنامه‌ داریم تا دستیارهای مبتنی بر هوش مصنوعی نقش فعالی در تسهیل و موفقیت مکالمات برای رسیدن به معامله ایفا کنند؛ به‌گونه‌ای که دستیار فروش هوشمند بتواند بخشی از ارتباطات با خریداران را برعهده گیرد و فرایند انجام معامله را تسهیل کند. همچنین تنها کاربرانی که اعتبار لازم را کسب کرده‌اند، امکان ارتباط با فروشندگان واقعی را خواهند داشت»

محمودی در مورد تمرکز بر ترویج رفتار مثبت می‌گوید:«ما قصد داریم در کنار رویکردهای تنبیهی، سیستم اعتبارسنجی و امتیازدهی تازه‌ای طراحی کنیم تا کاربران بر اساس رفتار و سوابقشان پروفایل و امتیاز دریافت کنند و در نتیجه انگیزه لازم برای بهبود رفتار خود را داشته باشند.»