کاربران، به‌خصوص آگهی‌گذاران، پیش‌ازاین با رفتارهای مخرب نظیر پیام‌های آزارگرانه، تهدیدآمیز، تصاویر غیراخلاقی و سرقت حساب کاربری روبه‌رو بوده‌اند که اعتماد به دیوار را کاهش می‌داد.
از سال ۱۳۹۹، تیم‌های مختلفی در دیوار برای مقابله با آزار تلاش‌های زیادی انجام داده‌اند. اما از آذرماه ۱۴۰۳، تیم «سلامت چت» دیوار متشکل از ۵ نفر، با تکیه بر راهکارهای هوش مصنوعی مسیر جدیدی را شروع کرد تا رفتارهای مخرب را دقیق‌تر شناسایی کرده و به کمک اقداماتی مثل انتقال مکالمات به پوشه افراد مشکوک و محدود کردن چت کاربران خاطی، مواجهه کاربران با اینگونه مشکلات را کاهش دهد و در نتیجه، اطمینان لازم برای انجام معاملات را تقویت کند.
هوش مصنوعی ابزاری کلیدی برای امنیت دیوار
تیم «سلامت چت» دیوار، با کمک هوش مصنوعی اقداماتی متنوع انجام داده تا کاربران کمتر با مزاحمت یا محتوای نامناسب روبه‌رو شوند. مجموع این اقدامات، فضای چت دیوار را امن‌تر کرده و اعتماد کاربران را برای انجام معامله‌ها و تعامل‌های روزمره افزایش داده است:
- آموزش و استنتاج مدل‌های زبانی هوش مصنوعی برای شناسایی پیام‌های مزاحم، با کمک زیرساخت‌های خود دیوار انجام شده است تا پردازش طیف گسترده‌ای از مکالمات در کوتاه‌ترین زمان فراهم شده و دقت بررسی افزایش پیدا کند.
- بررسی تمامی مکالمات مشکوک و گزارش‌های کاربران، به همراه مسدودکردن افراد متخلف، با کمک مدل‌های هوش مصنوعی مولد انجام می‌شود تا پیگیری دقیق گزارش‌ها و اعمال مجازات‌ها با بالاترین دقت فراهم شود.
- راه‌اندازی یک سیستم خودکار هوشمند برای ارزیابی تخلفات و اعمال مجازات‌های لازم، بدون نیاز به نیروی انسانی
- به‌کارگیری مدل‌های گوناگون تشخیص تصویر برای شناسایی و تار کردن سریع تصاویر غیراخلاقی، همراه با برخورد قاطع‌تر با ارسال‌کنندگان
- جلوگیری خودکار برای استفاده از نام‌های کاربری جعلی یا مشکوک با استفاده از بررسی اسامی انتخابی کاربر به کمک هوش مصنوعی مولد
بهبود تجربه کاربری و کاهش مواجهه با افراد مشکوک
طی ماه‌های اخیر، کاربران با ورود به بخش چت، تغییر محسوسی را در امنیت و کیفیت محیط گفتگو تجربه می‌کنند. اکنون دیگر :
- مکالمه‌های مشکوک به سرعت به پوشه «افراد مشکوک» منتقل شده و مکالمات مزاحمان یا محتواهای نامناسب کمتر مزاحم کاربران می‌شود. به طور متوسط تعداد مکالمات آزارگران در دیوار تا زمان شناسایی‌شان و انتقال پیام‌هایشان به پوشه افراد مشکوک نسبت به ۶ ماه قبل ۶۸٪ کاهش داشته است.
- پیام‌هایی که از طرف افراد با سابقه مزاحمت یا گزارش زیاد ارسال می‌شود، با برچسب «نامربوط به معامله»، از پیام‌های مهم جدا می‌شوند.
- نمایش هشدار تمام صفحه به کاربران در معرض خطر سرقت حساب کاربری، منجر به آگاه‌سازی بیشتر کاربر و در نتیجه افزایش امنیت شده است.
- کاربرانی که در چت دیوار مطابق قوانین رفتار نمی‌کنند هشدارها و راهنمایی‌هایی برای اصلاح استفاده‌شان از چت دیوار دریافت می‌کنند.
نتیجه این تلاش‌ها کاهش ۴۲٪ مزاحمت‌ها و ۷۹٪ خطر سرقت حساب کاربری بوده است. کاربران اکنون با خیال راحت‌تری گفتگوهای خود را انجام می‌دهند و در صورت مشاهده هرگونه مزاحمت یا تخلف و گزارش کردن آن، مطمئن هستند که برخورد با متخلفان جدی‌تر و سریع‌تر خواهد بود؛ از مسدود شدن حساب مزاحم‌ها تا پیگیری‌های قضایی.
بیشتر بخوانید : دستگیری آزارگر کاربران در پی شکایت قضایی دیوار
برنامه‌های آینده تیم «سلامت چت»
ارتقای سرویس، تدوین قوانین جدید برای حفظ سلامت محیط چت و طراحی راهکارهایی جهت مدیریت رخدادهای اضطراری، برخی از برنامه‌های آینده تیم «سلامت چت» دیوار هستند. هدی محمودی، مدیر تیم «سلامت چت»، می‌گوید:
«امیدواریم در ادامه این اقدامات، وارد مرحله جدیدی از ایجاد امنیت برای کاربران با بهره‌گیری از هوش مصنوعی شویم. برنامه داریم تا دستیارهای مبتنی بر هوش مصنوعی نقش فعالی در تسهیل و موفقیت مکالمات برای رسیدن به معامله ایفا کنند.»
محمودی در مورد تمرکز بر ترویج رفتار مثبت می‌گوید:
«ما قصد داریم در کنار رویکردهای تنبیهی، سیستم اعتبارسنجی و امتیازدهی تازه‌ای طراحی کنیم تا کاربران بر اساس رفتار و سوابقشان پروفایل و امتیاز دریافت کنند و در نتیجه انگیزه لازم برای بهبود رفتار خود را داشته باشند.»
2 پاسخ
سلام قبل ازهرچیز از تیم حرفه ای دیوار تشکرمیکنم خیلی عالی ودلسوزانه کارانجام میدن فقط دوتا گلگی داشتم اگر این دومورد هم درست بشه دیگه حرف نداره
یکی اینکه چرا یکی مثل من که به عنوان پرستار خانگی میخواد اگهی بزاره باید هزینه پرداخت کنه ولی یکی که ماشین وخونه برای فروش گذاشته باید رایگان اگهی کنه بنظرم انصاف نیست خدایی طرف خونه چنصد میلیاردی گذاشته برای اجاره یافروش هیچ پول ازش نمیگیرین ولی منی که جز پرستاری شغل دیگه ای ندارم باید کلی هزینه اگهی بدم ودوم اینکه اگر بشه برای هرکاربر تو دیوار یه کد مشخص داده بشه واونو بالای اگهی شخص نمایان کنید که درمواقع لزوم بشه ازطریق همون کد اگهی دهنده کلاهبردار ویا غیره رو به پشتیبانی داد ومتوجه بشن که کدوم کاربر کلاهبرداری کرده که جلو اگهی هاشو بگیرین خیلی خوب میشه
مثلا دختر من برای اجاره ویلا اگهی دهنده درخواست بیعانه کرده ودخترم مبلغ دومیلیون براش واریز کرد بعد خیلی راحت شماره دخترمو انسداد داد درسته من شکایت کردم ولی چون تلفن وشماره حساب برای دونفر جدا بوده وشخص وپیدا نکردم به پولم هم نرسیدم که دخترم ناراحت نیست چون میگه خودم بچگی کردم اما ازاین ناراحته که طرف هنوز تو دیوار داره اگهی میزاره به پشتیبانی زنگ زده میگه ینفر اگهی ویلا گذاشته اون کلاهبرداره میگه خانم من نمیدونم شما چه کسی رو میگین دخترم چون نمیتونست مشخصات بده قطع کرد درکل اگر یه کد داشت ادم راحت میتونست کد اگهی روبده وپشتیبانی متوجه بشه کدوم کاربرمنظورش بوده
سلام.بسیار عالی و خوب.لطفا تغیراتی که در هر آپدیت انجام میشه رو با جزییات برای کاربران شرح بدهید.بعضی وقت ها فکر میکنیم الکی آپدیت میکنیم و هیچ تغییری انجام نمیشه داخل برنامه.نمنون