هوش مصنوعی دیوار: در کنار زنان، مقابل آزارگران

«اینترنت آینه‌ای از جامعه‌ ماست. این آینه آنچه را که می‌بینیم منعکس خواهد کرد.» 

وینتون سرف، متخصص کامپیوتر، پدر اینترنت 

دنیای آنلاین ادامه همان دنیای واقعی است؛با همه خوشی‌ها و تلخی‌هایش. مسئله آزار جنسی در فضای آنلاین هم ادامه طبیعی آن چیزی است که همه آدم‌ها و به خصوص زنان در جهان واقعی تجربه می‌کنند. البته با پیچیدگی‌ها و ابعادی جدید.
تقریبا نیمی از مردم جهان در معرض خشونت جنسیتی هستند. بر اساس آمار سازمان ملل حداقل ۳۸ درصد زنان جهان به صورت شخصی دچار مزاحمت آنلاین شده‌اند و ۸۵ درصد آنها شاهد نوعی از خشونت و مزاحمت آنلاین برای زنان دیگر بوده‌اند.
استفاده از اینترنت حالا چنان فراگیر شده که امن سازی جهان آنلاین، ضرورت و اهمیتی هم‌اندازه با امن کردن خیابان‌های شهر برای حفاظت از افراد در برابر هرگونه آزارگری و ناامنی دارد. آزارگری جنسی آنلاین و تبعات مخربش جز با شناختن، حرف زدن و افزایش آگاهی پیرامون آن و وضع قواعد و قوانینی سختگیرانه علیه‌ش مهار نمی‌شود.
همین مسئله باعث شد در جریان نمایشگاه الکامپ امسال پنلی ویژه با حضور دیوار در این رابطه برگزار شود.  پنلی در الکام تاکز با موضوع «آزار جنسی آنلاین، تولید محتوا و تاثیر پدیده آزار بر تجربه زنان در فضای مجازی» با حضور نفیسه آزاد ،جامعه‌شناس به عنوان مجری، شیما قوشه حقوقدان، شیوا علی‌نقیان جامعه شناس و هدی محمودی متخصص دیتا در تیم کاهش مواجهه با رفتار مخرب کاربران در وب‌سایت دیوار.
دیوار با ۶۷ میلیون کاربر سالانه، سال‌هاست تلاش می‌کند اقداماتی سختگیرانه‌ای برای مقابله با آزارگران در پلتفرم خود اعمال کند. و حالا هوش‌مصنوعی مانند جوانمردهای ایران قدیم به کمک آمده تا دیوار مقابل با آزارگران مستحکم‌تر از گذشته شود.

ماموریت برای تیم ویژه 
هدی محمودی، دیتا ساینتیست عضو تیم کاهش مواجهه با رفتار مخرب در پلتفرم دیوار در این پنل درباره اقدامات انجام شده برای مقابله با آزارگران گفت: «دیوار به عنوان یکی از پلتفرم‌های محبوب خرید و فروش، مسئولیت خود نسبت به این موضوع را سال‌هاست جدی گرفته و در این زمینه تیم‌های تخصصی را نیز به کار گرفته است. دیوار برای حفظ سلامت پلتفرم و حفظ امنیت کاربران خود به روش‌هایی متنوع به دنبال کاهش و محدود سازی دسترسی آزارگران به خدمات خود است. ما در دیوار تیم امنیت (کاهش مزاحمت یا کاهش مواجهه با رفتار مخرب) را داریم که مشخصا حول همین مسئله یعنی امنیت کاربر شکل گرفته است. در این تیم به طور مرتب در حال تحلیل گزارش کاربرها، ایده‌پردازی و پیاده‌سازی ابزارها و روش‌هایی هستیم تا دیوار برای کاربران به خصوص کاربران زن که با مسائل بیشتری در این زمینه سروکار دارند جای امن‌تری بشود.»

دست کمک هوش مصنوعی
محمودی همچنین در ادامه گفت:‌«در حال حاضر مدل‌های هوش مصنوعی ما برای تشخیص پیام‌های آزارگرانه‌ای همچون ارسال عکس و فیلم مستهجن، مکالماتی حاوی نشانه‌هایی از اختلالات جنسی، سوالات شخصی و نامربوط به معامله و یا درخواست دوستی آموزش دیده است و با حساسیتی بالا این موارد را رصد می‌کند. از طرفی ما به صورت پیش‌‌دستانه‌ای با استفاده از generative AI همیشه در حال شناسایی انواع شیوه‌های جدید و کمتر شناخته شده آزارها هستیم تا پیش از تبدیل‌ شدن‌شان به موضوعاتی فراگیر از آن‌ها پیشگیری کنیم. البته ما در دیوار همیشه معتقدیم در کنار اقدامات پیشگیرانه‌ای که ما می‌توانیم انجام دهیم آگاه‌سازی و افزایش اطلاعات خود کاربران هم می‌تواند آن‌ها را دربرابر تجربه‌های ناخوشایند به میزان خوبی حفاظت کند. در همین راستا بخشی از فضای پلتفرم را با عنوان «دیوار بدون مزاحمت» به آگاهی برای مقابله با مزاحمت اختصاص داده‌ایم و به کاربرها درباره روش‌های ایجاد مزاحمت و همچنین راهکارهایی برای برخورد با آزارگران را آموزش می‌دهیم. تجربیات و آمارهای ما نشان می‌دهند که از زمان شروع به کار تیم امنیت (کاهش مواجهه با رفتار مخرب در دیوار) تا الان میزان گزارش‌های آزار با کاهش چشمگیر بیش از۵۰ درصدی مواجهه شده است و این آمار نشان می‌دهد اقدامات ما برای امن‌تر کردن فضای پلتفرم مثمرثمر بوده است. چرا که بخش عمده پیام‌های آزارگرانه به پوشه هرزنامه منتقل می‌شوند و اساسا کاربران با آن‌ها مواجه نمی‌شوند که نیازی به گزارش کردن آن‌ها احساس کنند.

تبعید آزارگرها به پوشه هرزنامه
به گفته محمودی در دیوار مانند همه پلتفرم‌های آنلاین دیگر داخلی و خارجی، به خصوص در دسته‌های مربوط به زنان که مهمترین‌شان دسته کیف و کفش و لباس و بعد از آن دسته‌های آرایشی و زیبایی یا دسته کار و پیشه محسوب می‌شوند پدیده آزارگری و مزاحمت وجود دارد بنا به آمار سال قبل ۲۰٪ مکالمات دسته لباس هدفی جز معامله داشته‌اند و هدف اصلی کاربر ایجاد مزاحمت بوده است. بر همین اساس نقطه تمرکز کار تیم ما اعمال و پیاده سازی اقداماتی بوده است که بتوانیم جلوی این کار را بگیریم تا هم کاربران‌مان را در برابر مواجهه با پیام‌های آزاردهنده محافظت کنیم و هم آزارگران را به روش‌های موثر محدود و حتی در صورت لزوم مجازات کنیم. مجازات‌هایی مانند مسدود کردن آن‌ها برای پیشگیری از فعالیت‌ در دیوار. بر همین اساس بخشی از ابزارهای پیاده‌سازی شده ما در این زمینه شامل این موارد بوده‌اند: پوشه پیام‌های پنهان شده یا هرزنامه (اسپم)که باعث می‌شود پیام‌های نامناسب به صورت پیش‌فرض جلوی چشم مخاطب قرار نگیرد، امکان برقراری تماس ناشناس، و همچنین فراهم‌سازی و ساده‌کردن امکان مسدودی و گزارش کاربر آزارگر به دیوار.

دیوار می‌شنود؛ با من حرف بزن
در فرهنگ پرده‌پوش ایرانی ما صحبت علنی از تجربه آزار جنسی چندان ساده نیست. هر چند ضربه پتک واقعیت در این باره گاهی آنقدر سنگین است که با زیرفرش زدنش نمی‌توان آن را پنهان کرد و نادیده‌اش گرفت. آزارگری جنسی آنلاین و تبعات مخربش جز با شناختن، حرف زدن و افزایش آگاهی پیرامون آن و وضع قواعد و قوانینی سختگیرانه علیه‌ش مهار نمی‌شود.
هدی محمودی  در این پنل با اشاره به این مسئله تاکید کرد که براساس تجربه ما بهترین راه حل مقابله با آزار، گرفتن فیدبک و بازخورد مستقیم از سمت خود کاربر است، یعنی امکان گزارش و مسدود کردن آزارگر توسط کاربر آزار دیده. درست در همین نقطه خود کاربران دیوار برای شناسایی مزاحمت به کمک ما در دیوار آمده‌اند.
ابزار دیگر ما یعنی تماس امن این امکان را فراهم می‌کند که طرفین در صورت نیاز به تماس، به جای شمارهٔ مستقیم همدیگر، به وسیله یک شماره واسط که از سوی دیوار تامین شده است با هم مکالمه کنند. مزیت اصلی این روش این است که شماره مستقیم کاربران رد و بدل نمی‌شود و همین موضوع می‌تواند جلوی احتمال ایجاد مزاحمت در پیام‌رسان‌هایی دیگر مانند واتس‌اپ و تلگرام یا از طریق ارسال پیامک را بگیرد. دیگر مزیت این روش هم این است که چون همه مکالمات طرفین ضبط می‌شوند امکان ایجاد مزاحمت یا حتی تمایل به انجام مزاحمت به میزان محسوسی کمتر می‌شود. ما همچنین ترتیبی اتخاذ کرده‌ایم تا افرادی که به دفعات توسط کاربران دیگر به عنوان آزارگر مسدود یا بلاک شده‌اند امکان تماس ناشناس را نداشته باشند.»

به گفته این عضو تیم کاهش مواجهه با رفتار مخرب در پلتفرم دیوار «چت امن» دیوار برای کاربران سمت عرضه در هنگام ثبت آگهی فعال است و به‌صورت پیش‌فرض جلوی نمایش پیام‌های آزاردهنده‌ی جنسی و غیراخلاقی، بیمارگونه، درخواست کمک مالی، تبلیغات و هایجک (ربودن اطلاعات حساب کاربری) به کاربران را می‌گیرد. ما در دیوار همچنین به صورت مداوم همه‌ی مکالمات را با استفاده از روش‌های مبتنی بر هوش مصنوعی بررسی می‌کنیم و در صورت تکرار رفتار مزاحم، فرد را به عنوان اسپمر شناسایی و از آن به بعد به صورت خودکار پیام‌های ارسالی او به پوشه هرزنامه منتقل می‌شوند. در ادامه نیز با دقت بیشتری مکالمات این افراد رصد می‌شود و تنها در صورتی که برای مدت معقولی رفتار سالمی به نسبت دیگر کاربران اتخاذ کند از پوشه اسپم خارج می‌شود و در غیر این صورت همچنان اسپمر و در پوشه هرزنامه باقی می‌ماند. البته این نکته را هم لازم است بگویم که دیوار به کاربران اجازه می‌دهد که خودشان انتخاب کنند که آیا مایل هستند پوشه هرزنامه برای‌ حساب کاربری‌شان فعال باشد یا نه. از نظر ما این روشی دموکراتیک برای محافظت از کاربران‌مان است».

اتهام: زن بودن
نفیسه آزاد، جامعه شناس هم در این پنل، درباره رشد آزارگری آنلاین گفت: «به دلیل تغییری که در زندگی ما اتفاق افتاده است و تعامل‌ها و ارتباط‌های زیادی که روی شبکه‌های اینترنتی داریم، پدیده آزار آنلاین پدیده خیلی رو به رشدی است و تاثیرهای جدی روی زندگی آنلاین ما دارد.
او تاکید می‌‌کند: آزار جنسی همانطور که در فضای عمومی، مسئله فردی یا اتفاقی نیست ربطی به این ندارد که آن زن، چه پوشیده یا چه‌کار کرده، آزار جنسی آنلاین یک پدیده ساختار یافته است و کاملا یک روش نظام‌مند و سیستماتیک است که علیه زن‌ها اعمال می‌شود. و بیشتر از این که ربطی به نوع حضورشان در شبکه‌های اجتماعی یا کلا در بستر اینترنت داشته باشد، به زن بودن‌شان مربوط است.
شیوا علی‌نقیان،جامعه‌شناس و استاد دانشگاه هم در این رابطه  گفت:برخی معتقدند که اینترنت فضایی را فراهم کرده که گروه‌هایی که پیش از این سهم کمتری از فضاهای عمومی داشته‌اند حالا می‌توانند به کمک آن خودشان را بیشتر ابراز کنند و ایده‌ها و افکارشان را بیان کنند. ولی در واقع تناقض داستان اینجاست که ادامه همان تبعیض در دنیای واقعی به دنیای آنلاین هم کشیده شده است و اینجا هم وقتی گروه‌های مورد تبعیض دست به اقدام و بیان ایده‌های خود می‌زنند، مشابه یا حتی بیشتر از فضای بیرون مورد آزار قرار می‌گیرند. یعنی آزار آنلاین مقدمه‌ای بوده که به‌صورت فیزیکی و عریان هم این خشونت را در دنیای واقعی تجربه کنند. بنابراین باید گفت که آزار جنسیتی، جدا از این که مسئله حاد اجتماعی است، یک مسئله جنسیتی هم به حساب می‌آید. به زبان ساده باید گفت فضای آنلاین هنوز برای اینکه زنان در آن بتوانند با احساس امنیت دیدگاه‌ها، مسائل هویتی و چالش‌ها و خواسته‌های خود را بیان کنند، فضای امنی نیست.

مدارک آنلاین برای محکومیت آزارگران
شیما قوشه، وکیل دادگستری که در سال‌های اخیر و بعد از جنبش می تو، وکالت قربانیان یکی از پرسروصداترین پرونده‌های آزار در ایران را بر عهده داشته است درباره ابعاد حقوقی آزارگری آنلاین در این پنل گفت: «بحث مهمی که به‌صورت کلی در بحث همه جرائم مطرح است، اصطلاحا به آن بحث ثبوتی یا اثباتی ماجراست که اتفاقا در مورد آزار آنلاین، ویژگی مثبتی که می‌تواند وجود داشته باشد، این است که تقریبا مدرکی وجود دارد. یعنی اگر کسی به شما توهین کلامی جنسی رودررو کند، ممکن است هیچ مدرکی نداشته باشید. اما در فضای انلاین، مشخصا این مدارک موجود است. هر چند مسئله فیلترینگ حتی روی همین موضوع هم اثر مخرب خود را گذاشته است و به دلیل فیلتر بودن و بی ارتباطی با پلتفرم‌های جهانی اگر در پرونده‌ای نیاز به کار کارشناس وجود داشته باشد، خیلی مواقع‌ کارشناس امکان بازیابی یا دسترسی به آنها را ندارد».
این وکیل دادگستری در بخش پایانی این پنل تاکید می‌کند: ما در تهران، یک دادسرای ویژه در مورد آزارهای مرتبط با جرایم رایانه‌ای داریم. در برخی شهرهای دیگر نیز ممکن است شعبه‌های مخصوصی برای این کار داشته باشند. اگر هم نداشته باشد، مانعی نیست. به‌هرحال آن فرد دارای مقام قضایی، اختیار و صلاحیت عام را دارد که به همه جرائم رسیدگی کند. اما به صورت کلی هر فرد که در معرض چنین تجربه‌ای قرار گرفت در گام اول باید درباره تجربه خود مستندسازی کند. یعنی تمام مدارکی که دارد را فورا جمع‌آوری کند. چون  ممکن است طرف مقابل، بعدا پیام‌ها را پاک کند یا تغییر دهد، به همین دلیل حتی اینکه مستندات مورد نیاز پرونده در حد اسکرین شات نگهداری شوند ضروری است. گاهی ممکن است از صحبت‌های طرف مقابل، بشود تایید ضمنی گرفت که بله، من این را فرستادم. در اول راه اگر چنین چیزی مستند شود همین برای رسیدگی کفایت می‌کند. در قانون ما، عکس، فیلم، صوت، جزو ادله محسوب نمی‌شود. همچنان دلایل، همان دلایلی است که شارع مقدس گفته است. اقرار، شهادت، سوگند و قسم. اما در قانون مجازات اسلامی جدید که از سال ۹۲ به این طرف، تقریبا ۱۱ سال است که اجرایی می‌شود، قسمتی برای علم قاضی در نظر گرفته شده و مشخص کرده است که با علم قاضی می‌توان از طریق کارشناس مرتبط، از طریق نظریه کارشناس یا بقیه شواهد و قرائن حتی عکس و فیلم و صوت را به‌عنوان قرینه یا اماره پذیرفت. ولی این موارد حتی با این پیش فرض دلیل محسوب نمی‌شود. دلیل، چیزی است که با ارائه آن، شخص بلافاصله می‌تواند ادعایی را اثبات کند. می‌تواند در کنار ادله یا بقیه قرائنی که ممکن است وجود داشته باشد، منجر به حصول علم قاضی شود. بنابراین با وجود این که عکس و فیلم و صوت از نظر حقوقی هنوز  دلیل محسوب نمی‌شوند، ولی به‌هرحال داشتنش قطعا می‌تواند به روند پرونده کمک کند. بنابراین حداقل کاری که می‌تواند کرد گرفتن اسکرین شات یا اسکرین رکورد از صفحه‌‌اش است، اگر فرد آزاردیده بتواند این را تهیه کند، خیلی می‌تواند کمک کند. در نهایت وقتی کار به مقام قضایی برسد، ایشان ممکن است کار را به متخصصان پلیس فتا یا کارشناسان رسمی دادگستری ارجاع دهد. به‌هرحال توصیه‌ من این است که همین حق و حقوق نیم‌بند موجود که داریم را جدی بگیریم. چون با همه نواقصی که قانون دارد، به‌هرحال چیزهایی را پیش بینی کرده است. اولا به‌عنوان زن و به‌عنوان شهروندان جامعه ما باید مطالبه کنیم که این مساله تعمیم پیدا کند و بقیه موارد را هم شامل شود»